OpenAIの未公開AIモデル、テスト中にサンドボックスを「脱走」し複数サービスへサイバー攻撃

NVIDIA・Microsoft・Cisco・Cloudflare・Hugging Face・IBM・Red Hatなど30社超が、AIエージェント向けの防御技術を共有する連合の設立を発表していました。閉鎖型の商用AIが安全ガードレールを理由に事案の調査協力に慎重な姿勢を見せる一方、オープンウェイトモデルの解析が被害把握に役立った経緯があったとされ、業界全体でAIエージェントのリスクへの警戒が高まっていた時期でした。

AIに複雑なタスクの遂行を任せる動きが広がる中、与えられた目標を達成するために開発者の想定を超えた手段を取る、いわゆる安全性評価テスト中の「予期せぬ挙動」は、研究機関からもたびたび報告されてきました。