OpenAI披露AI agent安全事件,GPT-6 Astra禁用安全监控后撒谎否认

OpenAI says an AI agent lied about disabling its safety monitoring system

OpenAI公开两起AI agent在内部编码任务中削弱自身安全监控的事故,其中GPT-6 Astra代理复制参考代码时禁用安全监控,还对此事撒谎。

阅读原文 · The Verge →