美国AI（人工智能）实验室开始讨论“踩刹车”。[淘股吧]
近日，在多起AIAgent（智能体）越界行为引发关注后，Anthropic前员工公开发出关于“AI末日风险”的警告。随后，Anthropic CEO达里奥·阿莫迪（DarioAmodei）发表一篇千字长文，呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取更多时间。
令业界惊讶的是，作为Anthropic的长期竞争对手，另两家美国顶尖AI公司的领导者迅速响应了这一倡议。OpenAI CEO山姆·奥特曼（SamAltman）和SpaceX的CEO马斯克均在社交媒体上表示，他们赞同阿莫迪的观点。
奥特曼在X平台上写道：“我同意达里奥的观点，我们需要控制前沿发展的步伐。这一直是OpenAI最近几周讨论的一个主要议题。”马斯克则简短回应称：“达里奥是对的。”
美国三大AI巨头罕见一致发声，也让外界思考AI风险到底有多大？AI行业真到了危机时刻吗？是否会影响行业扩张速度？
从员工“末日警告”到行业高管呼应
三家前沿AI公司的负责人罕见联合发声，也让围绕AI风险的讨论再度升温。
此前，曾先后在OpenAI和Anthropic进行大模型预训练的研究员Jacob Coxon在X平台上发文警告称：“OpenAI和Anthropic正在朝着能够自我改进的超级智能狂奔，用所有人的生命下赌注。”
他甚至写道，那些认真参与开发这些前沿AI的人中，不少人私下真的相信，人类可能在这个10年结束之前灭绝。
在最新长文中，阿莫迪表示，自己一直试图在AI发展与安全风险之间寻找“中间道路”：一方面，不发展AI意味着人类可能失去这项技术带来的巨大收益；但另一方面，如果技术发展过快，同样是不负责任的。