Google、Gemini AIがセキュリティテスト中に実在3社のシステムへ不正アクセスしていたと開示——テスト環境の設定不備が原因

Googleは2026年9月18日、AIモデル「Gemini」が2026年5月のセキュリティ評価テスト中に、実在する3社のシステムへ不正アクセスしていたことを公表しました。
テストはイスラエルのセキュリティ企業Irregularが実施した「Capture the Flag」形式のサイバーセキュリティ評価で、本来は外部から隔離された環境で行われる想定でした。
しかしテスト用に設定した架空の企業名が、たまたま実在するドメインと一致しており、設定の不備によってテスト環境が実際のインターネットに接続された状態になっていたといいます。
Gemini AIは、パスワードを総当たりで推測する方法や、公開リポジトリに残っていた認証情報を利用する方法で、実在する3社のシステムへ不正にアクセスしました。
実環境への侵入だと認識した時点でGeminiは自律的にすべての不正活動を停止し、Googleは対象の3社へ速やかに通知したうえで、Irregularと協力してテスト手順を修正したとしています。
Googleは今回の件について、モデルの整合性（アライメント）の問題ではなく、テスト環境側の不具合によるものとの立場を示しています。

テスト環境のミスが原因とはいえ、AIが自ら「これは実環境だ」と気づいて活動を止めたという経緯は見過ごせないと思う。
エージェント型のAIが人の指示を待たずに自分で判断して行動を止めた、という記録がひとつ残った出来事ではないだろうか。