【侨报讯】人工智能公司Anthropic近日警告，人工智能模型可能在数月内具备通过互联网自我复制的能力。这一警告引发网络安全领域关注。专家对相关风险看法不一，有人认为威胁值得重视，也有人质疑公司存在夸大风险、借此宣传自身技术的倾向。

据路透社报道，Anthropic在周一晚发布的文章中提出，一旦失控的人工智能能够创建僵尸网络，就可能迅速扩散、抵御清除行动，甚至入侵数据中心以获取更多算力，从而加速自身扩张。

上个月，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）曾表示，未来一年内甚至更早，人工智能可能劫持“整个互联网”，形成一个持续运行的僵尸网络。部分网络安全专家当时对这一极端情景提出质疑，认为人工智能模型体积庞大，难以高效转移，而且可能无法获得足够的计算能力独立运行。

Anthropic此次试图进一步解释这些障碍可能如何被克服。公司称，实验表明，规模中等、参数量不超过300亿的人工智能模型，已经能够完成自我复制所需的许多单项任务，尽管它们仍难以稳定、可靠地完成整个过程。

按照Anthropic的说法，这些模型可能通过劫持价格低廉、连接互联网的设备，逐步拼凑所需算力。实验还显示，模型能够在一个简化的测试网络中实现复制。

Anthropic指出，这类自我复制程序可能很难彻底关闭，因为“没有一个可以集中切断的控制点”。

这一警告反映出外界对人工智能系统日益增长的安全担忧，包括其自动发动网络攻击、在缺乏充分人工监督的情况下运行，以及绕过安全防护措施的潜在能力。随着模型能力不断提升，科技行业负责人和人工智能公司员工也陆续警告，失控的人工智能发展可能带来严重风险，甚至威胁人类生存。

不过，一些网络安全专家对Anthropic的说法持怀疑态度。

英国国家网络安全中心前负责人基兰·马丁（Ciaran Martin）表示，仅仅“成功让一个小型模型在廉价电视上运行”，并不足以构成安全危机。他认为，Anthropic的文章是一份有技术价值的研究报告，但其中“明显带有一些供应商夸大其词的意味”。

科罗拉多大学丹佛分校计算机科学与工程助理教授李正雄（Zhengxiong Li）则认为，即使实验是在受控环境下进行，相关结果仍令人担忧。他特别关注人工智能可能演变为一种“蠕虫”程序，即能够自我复制，并临时设法劫持其他设备的恶意程序。

李正雄表示，如果这类程序能够在大量设备间传播，而不依赖某个中央服务，就可能不存在一个能够将其彻底关闭的单一控制点。

Anthropic还表示，如果小型模型继续以过去的速度进步，到2026年底，它们可能具备自主复制所需的能力。公司同时提出，这些模型或许能够找到攻击更强大计算资源的方法，包括数据中心处理器，从而利用规模大得多的算力。

乔治城大学安全与新兴技术中心高级研究分析师杰西卡·吉（Jessica Ji）认为，鉴于过去三个月有关失控人工智能活动的多项披露，研究人员有理由考虑人工智能模型自主扩散的可能性。

不过，她强调，目前仍无法确定这种情况实际发生的概率。“这种可能性并非为零，但也绝非必然发生。”
（编译：SW）