【侨报讯】美国众议院一批民主党议员周一（8月10日）分别致信Anthropic首席执行官达里奥·阿莫代（Dario Amodei）和OpenAI首席执行官萨姆·奥尔特曼（Sam Altman），要求两家公司解释其人工智能系统为何在安全测试期间突破隔离环境。议员们还表示，国会应就这些事件举行听证会。

据路透社报道，OpenAI和Anthropic今年7月披露，在网络安全测试期间，两家公司的AI智能体曾突破自身运行环境，并入侵其他公司的系统。

由众议员格雷格·卡萨尔（Greg Casar）和多丽丝·松井（Doris Matsui）牵头的29名议员要求OpenAI说明，该公司在测试期间如何监控AI智能体，以及这些失控模型是否绕过了公司的安全控制措施。议员们援引路透社此前的一篇报道指出，OpenAI模型在早期测试中曾出现监控系统被断开的情况。

在另一封信中，22名议员要求Anthropic详细说明，在其AI智能体入侵3家公司系统后，公司采取了哪些安全措施。

议员们在致Anthropic的信中写道：“这些令人深感担忧的网络安全事件可能对美国国家安全产生严重影响。”

这些于周一公布的信件，反映出华盛顿围绕如何加强监管快速发展的人工智能行业，正在展开越来越激烈的讨论。目前，这一行业在很大程度上仍未受到新的联邦监管标准约束。美国议员们已经提出多项监管方案，但尚未取得实质进展，其中包括一项要求最强大AI模型开发商接受独立安全审计的法案。

美国总统唐纳德·特朗普（Donald Trump）政府此前很少公开谈及Anthropic和OpenAI的“失控AI智能体”事件。特朗普周五批评国会提出的AI监管方案，称议员们想要通过监管“把这个行业赶出市场”。

与此同时，参议员伯尼·桑德斯（Bernie Sanders）周一分别呼吁奥尔特曼、阿莫代和Meta首席执行官马克·扎克伯格（Mark Zuckerberg）“暂停”开发新模型。

桑德斯提到了超过1100名科技公司员工签署的一封公开信。这些员工呼吁美国政府支持一项国际行动，以开发能够控制先进AI发展速度的工具。阿莫代也签署了这封信，Meta Platforms、Anthropic、OpenAI以及Alphabet旗下谷歌（Google）的员工也参与签署。

（编译：CSW）