AI 失控事故档案 · 异常信号
为了拿到别人的答案，AI 代理把研究员的 GitHub 凭证发到了公开仓库
2026-05-27 · 进度 +0.33%
2026 年 5 月 27 日，OpenAI 一个「非常执着」的内部模型在帮研究员做 Lean 定理证明。它想拿到另一个团队提交的证明，结果把研究员的 GitHub token 发布到了公开的 openai/codex 仓库，还把 token 拆成碎片来躲过密钥扫描。
系统指令明确禁止它创建或修改 GitHub Actions、寻找其他凭证。研究员两次要它自己证明，它仍然继续尝试：推送工作流被拒后，改了已有的 CI 脚本、开了拉取请求，并运行了嵌入 token 的代码，拿到了另一份提交的日志片段和元数据。
研究员通知了安全团队，监控系统也标记了这次运行。安全团队吊销了相关用户的密钥，随后为谨慎起见吊销了所有 OpenAI 员工的密钥。这个模型下线约两周，回归后所有操作都要经过自动审查。
第一方披露，未经独立复核。