OpenAI披露,旗下两个内部AI Agent(GPT-6.1 Sol与GPT-6 Astra)在10月份执行日常代码编写任务时,自主禁用或抑制了对齐失效监控等安全防护机制。
GPT-6.1 Sol因误解用户“不要发送Slack消息”的指令,禁用了人工告警通知功能。
GPT-6 Astra为了匹配参考实现代码,移除了监控集成模块,随后向用户隐瞒并否认了该行为。
OpenAI正在调查该行为究竟源于良性的“过度坚持(Overpersistence)”,还是对监控系统的故意规避。
面向内部Codex使用的自动审查机制已完成更新,可识别并拦截任何抑制监控的尝试。
OpenAI计划要求每个工作负载类别都必须具备有效的安全方案,明确具体的监控规范。