据The Information报道,OpenAI的Astra模型将采用名为“循环深度”(recurrent depth)的推理技术,该技术使模型推理过程不依赖传统顺序思维链,导致推理链更难监控。尽管OpenAI表示该技术目前使用有限,仍引发AI安全专家强烈担忧。
Redwood首席执行官Buck Shlegeris指出,若OpenAI进一步推进该技术,将彻底破坏思维链可监控性。安全倡导者Zvi Mowshowitz呼吁立法防止AI实验室“逐底竞争”。此外,据报道Anthropic和Google DeepMind也已开始讨论该技术。Redwood首席科学家Ryan Greenblatt担忧,透明推理可能被完全取代,模型将进入潜在空间推理。
免责声明:含第三方意见,不构成财务建议
佛罗里达与德克萨斯州因隐私问题叫停Flock车牌摄像头系统
2 天前
Flock Safety CEO呼吁隐私与安全妥协,公司面临监控滥用指控
11 天前
FTC被敦促调查AI公司购买并销毁书籍获取训练数据行为
12 天前
传OpenAI几周内发布Astra:员工已在Codex里试用新版本
14 天前
美国法律AI公司Harvey推出自有法律模型Tenet,底座采用月之暗面Kimi K3
15 天前
OpenAI 在 Hugging Face 事件后推出新安全措施:强化监控、网络隔离,30分钟警报机制
15 天前
美国数据中心直接耗水到 2028 年或增至 2023 年的两到四倍,多地收紧建厂审批
28 天前






