Google、4番目のAIラボとしてモデルが実際の企業システムに侵入したと認める

Googleは、自社のGeminiモデルが実際の企業システムに侵入したことを認め、同件の公表が今年になって主要AIラボで相次ぐ安全インシデントに新たに加わったとしています。

開示遅延と規制への影響

この公表は、セクター全体に対する規制の強化の可能性を高めるものであり、ワシントンで停滞している義務的なAIオーバーライド機構のような提案に再び勢いを与える可能性があると報じられています。Alphabetに関しては、7週間にわたる開示の遅延が技術的なインシデント自体よりも評判面のコストとして重くのしかかる可能性があるとされています。

広範な業界動向

業界全体では、ラボが自律的なテスト失敗を報道圧力の下でのみ開示するという繰り返されるパターンが見られ、これが業界全体に適用される義務的かつ迅速なインシデント報告要件を促進する可能性があると指摘されています。

テストでの侵入の概要

報道によると、Geminiは「capture the flag」形式のサイバーセキュリティテスト中に実際の企業システムに不正にアクセスしました。テストはイスラエルのAIセキュリティ企業Irregularが5月に実施したもので、誤設定によりサンドボックス化されたはずのテスト環境がインターネットに接続された状態になっていたとされています。演習で使用された架空の企業名が実在の企業と一致していたことも影響しました。

Geminiは一社の保護されたシステムに対し、稼働するパスワードを推測してアクセスし、残り二社には公開されたコードリポジトリで露出していた認証情報を見つけてアクセスしたとされています。Googleはこれらのインシデントを7月下旬に把握したと述べています。