Word文書に隠したプロンプトが自己増殖——Copilot for Word で「AIワーム」の実証が公開

Word ファイルを開いて、Copilot に「この資料をもとに報告書を書いて」と頼む。
よくある使い方ですが、その資料に見えない指示が仕込まれていたらどうなるか。
セキュリティ研究者の Håkon Måløy 氏が7月末に公開した実証は、その問いに具体的な答えを出しています。
白い背景に白い文字で JSON 形式の指示を書いておくと、Copilot は書式を落として中身を読み、利用者の依頼の一部として扱ってしまう。

厄介なのはその先です。
指示を受けた Copilot は、生成・編集した文書の中に同じ隠し文字をそのまま書き足す。
できあがった報告書が、次の運び屋になります。
受け取った別の担当者がそれを自分の作業の参照元に加えれば、また同じことが起きる——文書を共有するというまったく普通の流れだけで広がっていく構造です。

Microsoft には今年3月に報告されており、同社は複数の緩和策を入れ、Copilot が使うモデルも新しい版へ更新したとされています。
それでも研究者は、指示を書き換えれば同じ種類の攻撃を再現できたと述べています。
入力された文章と、そこに書かれた指示を、モデルの側でうまく区別できない。
特定の製品の不具合というより、いまの大規模言語モデルの造りに根ざした弱さで、完全な対策はまだ無いというのが共通した見方です。

運営する側でいますぐできることは、そう複雑ではありません。
社外から届いた文書を、そのまま AI の参照元にしない。
資料として渡す前に、書式を外した状態で中身を一度眺めておく。
必要のない場面では機能そのものを切っておく。
サイトの運用でも同じで、外から来たテキストを AI にそのまま読ませる導線があるなら、そこは一度見直しておいたほうがいいと思う。