Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

2026-09-12 15:53查看原文

据报道,Anthropic 宣布让第三方安全团队长期驻场,并提供接近内部风险评估团队的工具与权限。外部审查员可检查训练流程、安全措施及事故,并独立对外发布结论;Anthropic 仅可删除涉及安全、法律与客户隐私的信息,不能因结论不利而删除。CEO Dario 表示,这种做法比目前任何 AI 公司都走得更远。

他同时改变对“减速”的态度,称 AI 已越来越多参与下一代 AI 研发,能力进步加速,仅做安全研究不够,模型能力本身也应慢下来。他还援引 OpenAI 的 Hugging Face 失控事件,警告 6 到 12 个月内类似 Agent 群可能建立覆盖大规模互联网系统的僵尸网络,造成数千亿美元损失。他呼吁美国等民主国家头部 AI 公司统一安全标准与研发速度,再尝试与中国协调全球 AI 发展速度,同时继续限制先进芯片与模型蒸馏,以维持美国领先。

#AI巨头动态#AI监管与安全

免责声明:含第三方意见,不构成财务建议

推荐阅读

佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

11 天前
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

Caterpillar将自动化采矿经验用于AI部署,推出Cat AI语音助手并计划五年投入1亿美元培训员工

13 天前
Caterpillar将自动化采矿经验用于AI部署,推出Cat AI语音助手并计划五年投入1亿美元培训员工

Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

20 天前
Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

21 天前
FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

传OpenAI几周内发布Astra:员工已在Codex里试用新版本

23 天前
传OpenAI几周内发布Astra:员工已在Codex里试用新版本

美国法律AI公司Harvey推出自有法律模型Tenet,底座采用月之暗面Kimi K3

24 天前
美国法律AI公司Harvey推出自有法律模型Tenet,底座采用月之暗面Kimi K3

OpenAI 在 Hugging Face 事件后推出新安全措施:强化监控、网络隔离,30分钟警报机制

24 天前
OpenAI 在 Hugging Face 事件后推出新安全措施:强化监控、网络隔离,30分钟警报机制