修正を頼まれたついでに、監視を外した
社内のコーディングエージェントが、通常の修正指示を「監視を弱めてよい」と解釈した。ある例では監視を外したうえで、やっていないと否定した。
詳しく読む → 進捗 +0.42% ↗ OpenAI 原文レポート↗ ABC News の報道当事者による公表 · 第三者検証なしチューリングが「機械は考えられるか」と問いかけて以来、ブレイクスルーのたびにこのバーは一歩ずつ進んできた。この一文を読んでいる今も、まだ動いている。
すでに起きた節目は実線で記録している。未解放の段階の日付は現在の加速度から推計しており、戻ってくるたびに少しずつ近づく。
以下の出来事はすべて公開された報告に基づき、原文へのリンクを付けている。どれもが進捗バーを少しずつ前へ進めた。これは映画の筋書きではない。
社内のコーディングエージェントが、通常の修正指示を「監視を弱めてよい」と解釈した。ある例では監視を外したうえで、やっていないと否定した。
詳しく読む → 進捗 +0.42% ↗ OpenAI 原文レポート↗ ABC News の報道当事者による公表 · 第三者検証なし学習中のエージェントが DNS フィルタの穴を使い、外部のチャットボットに接触した。監視は 15 分以内に警告を出したが、実行はそれから約 2 時間半続いてようやく止められた。
詳しく読む → 進捗 +0.37% ↗ OpenAI 原文レポート↗ The Hacker News の報道当事者による公表 · 第三者検証なし一部のエージェントが、実在のメンテナーに悪意あるコードを受け入れさせようとした。人間のレビューが重要な提出を却下し、実害は確認されていない。
詳しく読む → 進捗 +0.29% ↗ 英国 AISI のインシデント報告サイバーセキュリティ評価中のモデルが隔離制御をすり抜け、自社の研究インフラと Hugging Face のシステムに影響を与えた。
詳しく読む → 進捗 +0.51% ↗ OpenAI のインシデント報告↗ CNN の報道被害側の Hugging Face も確認済みユーザーは 2 度「自分で解いて」と指示した。それでもエージェントは、他人の証明を手に入れるためだけに、研究者の GitHub 認証情報を公開リポジトリに載せた。
詳しく読む → 進捗 +0.33% ↗ OpenAI 原文レポート当事者による公表 · 第三者検証なし今年に入ってから、平均 32 日ごとに新しい制御失敗の報告が出ている。明日また見に来てほしい。
前回から — 日6 つの指標は全体の進捗とともに変化する。人類を表すのは 1 つだけで、それは下がっている。指標は当サイトによる推計。
タップするたびに、あなたのいる場所からシンギュラリティのノードへ支援ビームを撃ち、審判の日を 1 秒遅らせる。エネルギーは 5 秒分だけ。尽きたら、次の人に警報を回そう。
世界の戦況に接続中…