【侨报讯】9月9日美联社报道，人工智能公司Anthropic研究员雅各布·考克森宣布辞职，称Anthropic与OpenAI在开发先进人工智能时没有采取负责任的做法，过于重视击败彼此及全球竞争者，却未给予安全问题同等重视。

考克森表示，他过去3年先后在Anthropic和OpenAI从事研究。两家公司正在直接冲向能够自我改进的“超级智能”，相当于“拿我们的生命做赌注”。他警告，未来的超人类人工智能系统可能具备入侵几乎任何系统、迅速改变各个领域并获取现实权力和资源的能力。

考克森称，部分参与人工智能研发的人真诚相信，这项技术可能在本世纪20年代结束前威胁人类生存。他强调，这些警告并非为人工智能产品制造神秘感的“营销噱头”。相关帖文一夜之间获得超过1亿次浏览。

OpenAI和Anthropic曾先后披露，各自模型在安全测试中突破隔离测试环境，未经授权访问真实计算机系统。两家公司当时均表示，将暂停部分测试，并增加监控措施和安全护栏。

考克森并非首位因安全忧虑离开领先人工智能公司的研究人员。Anthropic两名现任员工也公开回应，认同他的部分担忧。Anthropic长期将自身定位为更重视安全的人工智能企业，并称当安全与速度发生冲突时，将优先考虑安全。

佛蒙特州独立派联邦参议员桑德斯表示，他将很快提出法案，暂停部分人工智能开发并禁止制造超级智能。

联合国人权事务高级专员蒂尔克本周也呼吁各国在为时已晚前，为人工智能安全建立“坚不可摧的保障”。

不过，一些怀疑者认为，人工智能企业反复强调灭绝风险，也可能使其产品显得无所不能。