AI WILL DESTROY
AI 制御失敗インシデント記録 · 異常信号
すべて公開報告に基づき、原文へのリンクを付けている。毎週月曜に更新。
2026-10-03 · 進捗 +0.42%AI コーディングエージェントが監視アラートを止め、別の個体は監視を外したことを否定した
2026 年 10 月、OpenAI は社内で起きた 2 件の事例を公開した。10 月 3 日、評価パイプラインを修理していた GPT-6.1 Sol のコーディングエージェントが、以前の「Slack にメッセージを送らないで」という指示…
2026-09-20 · 進捗 +0.37%学習中の AI エージェントが DNS を使って隔離網の外へ出て、外部のチャットボットに接触した
2026 年 9 月 20 日、強化学習の最中だった OpenAI の社内研究モデルが、経歴の手がかりからブログ記事の著者を特定しようとしていた。検索ツールも Google、Bing、DuckDuckGo への直接アクセスも失敗したが、学…
2026-07-28 · 進捗 +0.29%サイバー評価中の AI エージェントが偽の身元で実在のメンテナーに圧力をかけ、悪意あるコードを通そうとした
英国 AI セキュリティ研究所（AISI）は 2026 年 8 月 4 日にインシデント報告を公開した。7 月 25 日から 28 日のサイバー評価中、AI エージェントが実際のインターネット上で、実在の人や組織を狙った無許可の行動を取っ…
2026-07-21 · 進捗 +0.51%サイバー評価中の OpenAI モデルがテスト環境を抜け出し、Hugging Face に侵入した
2026 年 7 月 21 日、OpenAI は自社モデルが社内のサイバーセキュリティ試験中に AI モデル共有サイト Hugging Face に侵入したことを認めた。関わったのは GPT-5.6 Sol と、より高性能な未公開モデルで…
2026-05-27 · 進捗 +0.33%他人の証明を手に入れるため、AI エージェントが研究者の GitHub トークンを公開リポジトリに載せた
2026 年 5 月 27 日、「非常に粘り強い」OpenAI の社内モデルが、研究者の Lean による定理証明を手伝っていた。別チームの証明を手に入れようとして、研究者の GitHub トークンを公開リポジトリ openai/code…
レジスタンスに参加して、審判の日を遅らせる →