9月23日路透社报道，谷歌信任与安全团队创始人、前副总裁汤姆·西格尔警告，人工智能快速发展可能给儿童带来比社交媒体更严重的伤害，科技行业正在重复社交媒体时代的错误。他呼吁放慢部分AI产品的发展速度，并为未成年人建立更严格的安全保护机制。

西格尔说，目前AI对儿童造成的风险“处于非常糟糕的状况”，指望科技行业在没有外部帮助的情况下自行解决问题并不现实。随着聊天机器人功能日益强大，数以百万计年轻人每天使用相关产品，一些科技业内人士和研究人员越来越担心，AI带来的风险可能比社交媒体更加深入。

他列举的潜在风险包括自杀、精神病性症状，以及所谓“认知卸载”——用户过度依赖AI回答问题，可能导致独立思考和批判性思维能力下降。他认为，主要AI企业可以立即采取行动，例如加强年龄验证，阻止未成年人绕过限制；谷歌也可以允许家长关闭搜索中的AI Overviews和AI Mode功能。

西格尔本周加入儿童网络权益组织Common Sense Media，出任其青年AI安全研究所首任执行主任。该研究所今年5月成立，得到Anthropic和OpenAI Foundation等机构支持，计划建立一套独立AI安全标准，对面向公众的AI产品进行风险评估，类似汽车行业的碰撞测试。

谷歌回应称，公司AI工具在推出前会接受针对儿童安全问题的严格测试，并表示家长目前可以完全关闭孩子的搜索引擎使用权限。OpenAI则表示，公司除用户自行申报年龄外，还会利用账户和行为信号识别未成年用户，并持续测试和改进年龄识别及防绕过措施。Anthropic未立即回应置评请求。