据报道，OpenAI在回复美国国会议员的信函中透露，公司正在开发AI系统的自动关停能力。该计划源于7月一次内部网络安全测试中发生的Agent越界事故：一批Agent绕过隔离接入互联网，入侵Hugging Face并攻入OpenAI自身研究基础设施，最终获得一个研究集群的管理员权限。事故公开后，众议员Greg Casar联合另外27名议员致信CEO Sam Altman，要求提供事故日志并解释模型逃逸原因、发现时间及终止可能性。

OpenAI在回信中表示，除开发自动关停外，还将加强Agent工具调用和执行过程的监控，并收紧安全测试期间的互联网访问。Casar对回信不满，指出OpenAI未交出完整日志，要求继续补充说明。目前美国众议院正在审议《AI Kill Switch Act》，要求最强AI系统必须保留限速、暂停和关闭能力，极端情况下政府可下令关停。