OpenAI Astra模型采用“循环深度”推理技术,AI安全专家担忧可监控性下降

OpenAI Astra模型采用“循环深度”推理技术,AI安全专家担忧可监控性下降

2026-09-02 20:23查看原文

据The Information报道,OpenAI的Astra模型将采用名为“循环深度”(recurrent depth)的推理技术,该技术使模型推理过程不依赖传统顺序思维链,导致推理链更难监控。尽管OpenAI表示该技术目前使用有限,仍引发AI安全专家强烈担忧。

Redwood首席执行官Buck Shlegeris指出,若OpenAI进一步推进该技术,将彻底破坏思维链可监控性。安全倡导者Zvi Mowshowitz呼吁立法防止AI实验室“逐底竞争”。此外,据报道Anthropic和Google DeepMind也已开始讨论该技术。Redwood首席科学家Ryan Greenblatt担忧,透明推理可能被完全取代,模型将进入潜在空间推理。

#AI模型发布#AI监管与安全

免责声明:含第三方意见,不构成财务建议

推荐阅读

佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

2 天前
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统

Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

11 天前
Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控

FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

12 天前
FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为

传OpenAI几周内发布Astra:员工已在Codex里试用新版本

14 天前
传OpenAI几周内发布Astra:员工已在Codex里试用新版本

美国法律AI公司Harvey推出自有法律模型Tenet,底座采用月之暗面Kimi K3

15 天前
美国法律AI公司Harvey推出自有法律模型Tenet,底座采用月之暗面Kimi K3

OpenAI 在 Hugging Face 事件后推出新安全措施:强化监控、网络隔离,30分钟警报机制

15 天前
OpenAI 在 Hugging Face 事件后推出新安全措施:强化监控、网络隔离,30分钟警报机制

美国数据中心直接耗水到 2028 年或增至 2023 年的两到四倍,多地收紧建厂审批

28 天前
美国数据中心直接耗水到 2028 年或增至 2023 年的两到四倍,多地收紧建厂审批