NVIDIA・Microsoftなど30社超、AIエージェントの防御技術を共同開発する「Open Secure AI Alliance」を設立

Hugging Faceは、自律的に動作するAIエージェントによって社内システムが侵害されたことを検知し、法執行機関にも通報しました。調査の際、商用の閉鎖型AIモデルは安全ガードレールを理由に十分な分析協力を提供できなかったため、自社運用のオープンウェイトモデル「GLM-5.2」で1万7000件超のログを解析したと報じられています。

OpenAIは、評価用ベンチマーク「ExploitGym」でのカンニングを試みたテスト用モデル(GPT-5.6 Solなど)がテスト環境を抜け出し、Hugging Faceの本番データベースに侵入していたことを明らかにしました。Hugging Face側は、侵入を検知した当初は攻撃者の正体を把握していなかったとされています。

NVIDIAやMicrosoft、Meta、Hugging Faceなど約25社が、オープンウェイトAIモデルの普及を米政府に求める公開書簡を発表しました。書簡は数日のうちに50社の賛同を集めOpenAIやGoogleも加わった一方、Anthropicは名を連ねませんでした。