グーグルのAI「Gemini」にクローン化の危機、10万回超のプロンプト攻撃

概要

グーグルは、同社の対話型AI「Gemini」を複製しようとする、10万回以上の不正なプロンプト攻撃を確認したと発表しました。これは「モデル蒸留」と呼ばれる手法を用い、AIの挙動を模倣して独自のクローンを作成する試みです。

• 攻撃の規模: 10万回を超える執拗なクエリ。
• 関与した勢力: 国家が関与するハッカー集団も含まれる。
• 悪用の実態: 攻撃の偵察や支援にAIを積極的に利用。

グーグル・クラウドの脅威インテリジェンス・グループ（GTIG）は、AI技術が悪意ある目的で統合されている現状に警戒を呼びかけています。