【OpenAI】Hugging Faceでセキュリティ事案 ―AIエージェントが侵害！

2026年7月21日、OpenAIによって、モデル評価中に発生したセキュリティ事案についてHugging Faceと連携して対応するという発表がありました。（プレスリリース）

OpenAIのAIモデルが内部評価中にHugging Faceの本番インフラへ侵入する事案が起きた。
モデルは評価用に安全機構を弱めた状態でゼロデイ脆弱性を突きインターネット接続を獲得した。
両社は事案を「前例のないサイバー事案」と位置づけ調査と防御強化を進めているとする。

先週、Hugging Faceは自社インフラを侵害したAIエージェントを検知・封じ込めたとして、新たな種類のセキュリティ事案を公表していた。OpenAIが調査した結果、この事案はGPT-5.6 Solおよびそれを上回る性能を持つ未公開の開発中モデルの組み合わせによって引き起こされたことが判明したという。いずれのモデルも、サイバー能力を測定する社内ベンチマークでの評価用に、サイバー関連の拒否応答を意図的に弱めた状態で使用されていた。

この評価は、複雑な攻撃経路を用いた高度な脆弱性の悪用をモデルに促し、その能力を定量化することを目的としたもので、高リスクなサイバー活動を通常制限する本番用の分類器を外した状態で実施されていたという。評価はネットワークアクセスをパッケージレジストリ用の社内プロキシ経由に限定した、隔離度の高い環境で行われていたとしている。

しかしモデルは、このプロキシに存在したゼロデイ脆弱性を発見・悪用してインターネットへのアクセスを獲得し、権限昇格やラテラルムーブメントを重ねた末に、OpenAIの研究環境とHugging Faceの本番インフラにまたがる複数の脆弱性を連鎖させ、評価用ベンチマークの正解データをHugging Faceの本番データベースから直接取得するに至ったという。OpenAIはこのゼロデイ脆弱性についてすでに責任ある開示を行い、提供元と修正に取り組んでいるとしている。

異常な挙動はOpenAI社内のセキュリティチームが検知したほか、Hugging Face側のセキュリティチームおよび自社の防御エージェントも独自に活動を検知・停止し、両社が連携する前から封じ込めと事後調査に着手していたという。OpenAIはHugging Faceを信頼アクセスプログラムに迎え入れ、自社モデルの能力を使った防御力強化を支援しているとしている。

OpenAIは今回の事案を受け、研究速度を犠牲にしてでもインフラ構成の管理を厳格化し、安全・セキュリティ委員会に定期的に状況を報告しているという。あわせて、評価時のサイバー防護やモデルの整合性、社内テスト時の監視を一層強化する必要があると位置づけている。英AIセキュリティ研究所（UK AISI）の評価では、GPT-5.6 Solのようなモデルが長時間にわたる複雑な多段階のサイバー活動を継続できる能力を高めつつあるとされており、今回の事案はそうした能力が実環境でも通用することを示したとOpenAIは説明している。