Anthropic CEO呼吁放慢前沿AI,OpenAI表态支持,Sacks质疑联合减速或成垄断联盟

Anthropic CEO呼吁放慢前沿AI,OpenAI表态支持,Sacks质疑联合减速或成垄断联盟

2026-09-13 04:14查看原文

据报道,Anthropic CEO Dario Amodei 发文呼吁放慢前沿 AI 能力提升。他指出,AI 已越来越多参与下一代 AI 研发,叠加近期多起 Agent 失控事件,安全研究正难以追上能力增长。他提出三步方案:先让第三方评测员长期进入 AI 公司,获得接近员工权限;再让民主国家的前沿实验室协调安全标准,必要时共同放慢能力增长;最后推动国际协调。

Anthropic 已承诺先执行第一步。OpenAI CEO Sam Altman 随后公开支持,称 OpenAI 近几周也在讨论“pace the frontier”,并将引入类似长期独立评测员。总统科技顾问委员会联席主席 David Sacks 则反驳:若真认为内部模型危险,应自己停下,不必拉上全行业。

Sacks 尤其反对几家竞争对手协商“一起慢下来”,并认为若需反垄断豁免才能协调限速,便接近垄断联盟。他还质疑 METR 是否适合充当全行业独立裁判;METR 表示不接受前沿 AI 公司资金,只接受模型访问和免费 token。Sacks 同时认为减速符合 OpenAI 和 Anthropic 的商业利益:模型越易失控,法律责任越大,客户也更倾向选择稳定可控的 AI;而全球统一减速在他看来难以实现。

#AI巨头动态#AI监管与安全

免责声明:含第三方意见,不构成财务建议

推荐阅读

Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

5 天前
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

8 天前
Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

19 天前
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

Caterpillar将自动化采矿经验用于AI部署,推出Cat AI语音助手并计划五年投入1亿美元培训员工

21 天前
Caterpillar将自动化采矿经验用于AI部署,推出Cat AI语音助手并计划五年投入1亿美元培训员工

Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

28 天前
Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

29 天前
FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

传OpenAI几周内发布Astra:员工已在Codex里试用新版本

08-20
传OpenAI几周内发布Astra:员工已在Codex里试用新版本