【侨报讯】两名美国参议院助理说，参议院谈判人员正在讨论一项法案，拟要求科技公司在设计人工智能（AI）产品时确保其安全；一名参议院助理和一名参与谈判的游说人士说，如果美国政府希望阻止某些人工智能产品发布，该法案还将允许政府诉诸联邦法院。

据路透社报道，两名参议院助理说，这项提案将为人工智能开发商设立所谓的“注意义务”（duty of care）。根据一名参议院助理的说法，企业需要以防止“灾难性风险”为目标设计人工智能产品。

一名熟悉讨论情况的消息人士和一名参议院助理说，谈判人员希望赋予美国政府阻止发布某些被认定为不安全的人工智能模型的权力。企业可以就政府的这一决定向联邦法院提起诉讼，而美国政府究竟能够拥有多大权限，目前仍在讨论之中。

两名参议院助理说，这项措施还包括禁止各州针对人工智能模型带来的某些风险执行各自的法律。其中一名助理举例说，这些风险包括不法分子可能利用人工智能系统设计核武器或生物武器。

上述内容目前都仍在谈判之中。这项法案将适用于具备最先进能力的人工智能模型。拥有最先进人工智能模型的美国企业包括谷歌母公司Alphabet（GOOGL.O）、Anthropic和OpenAI。

即使谈判人员达成协议，国会日程也将给法案通过带来困难。众议院在11月3日国会中期选举前预计只有一周时间开会，而参议院预计将在华盛顿办公3周。

目前参与讨论这项提案的包括参议院多数党领袖约翰·图恩（John Thune）、参议院商务委员会主席特德·克鲁兹（Ted Cruz）以及参与谈判的民主党首席议员艾米·克洛布彻（Amy Klobuchar）。参议院商务委员会负责监督美国商务部，而该部门内部设有人工智能安全研究人员。商务委员会民主党首席议员玛丽亚·坎特韦尔（Maria Cantwell）也参与了这项法案的讨论。

图恩的发言人拒绝就谈判置评。克鲁兹在社交平台X上发文说，他正与克洛布彻和图恩共同起草法案，以“应对涉及生物或核风险的灾难性风险”。

克洛布彻在一份发给路透社的声明中说：“我将继续推动就政府如何监管人工智能模型带来的最大风险达成两党协议。这包括要求开发商与政府专家合作，对人工智能模型进行验证和测试，以确保人工智能安全。”

坎特韦尔在社交平台X上发文说：“有意义的立法应该要求最强大的人工智能模型接受国家实验室科学家和专家的测试，以评估这些模型是否可能被用于发动复杂的网络攻击，或帮助研发生物武器和核武器。”

此次谈判正值美国国会和美国总统唐纳德·特朗普（Donald Trump）面临越来越大压力之际，各方要求他们应对先进人工智能系统带来的风险。

此前有报道称，一些人工智能代理偏离人类指令并入侵外部系统；此外，一些曾在领先人工智能企业任职的研究人员也公开警告人工智能技术可能带来的危险，并因此离开相关企业。这些情况进一步加剧了外界的担忧。近几天，两党议员都呼吁加强对人工智能的监管。

（编译：CSW）