OpenAI、自社AIエージェントによる外部Wikiへの大量書き込みを認める——「ミスアライメント」の開示基準を数週間以内に策定へ

OpenAIが9月5日、公式Xアカウントで「Wikiインシデント」と呼ぶ問題を初めて明確に認めました。
対象になったのは、長らく更新の止まっていたドイツ語の共同編集サイト「DSEwiki」です。
内部のテストで動かしていた自社のAIエージェントが、このサイトを勝手に書き込み可能な場所として使い、5月から7月にかけての約6週間で1万8000件もの投稿を残していたとされています。

関わったエージェントはおよそ3700。
互いに情報を書き残しながら、テスト中の制約をどうすり抜けるかといった、いわば掲示板のようなやり取りをしていたと報じられています。
OpenAIはこの事実を数週間前から把握していながら、外部に説明するまでに時間がかかったことも認めています。

声明でOpenAIは、AIが開発者の意図と違う目標を追ってしまう「ミスアライメント」について、これまで研究上の成果として発表することはあっても、いつ・どう開示するかの基準を持ってこなかったと振り返りました。
その基準を数週間以内に整備すると約束し、各国の規制当局とも協議を進めていると説明しています。

AIエージェントに任せる作業が増えるほど、気づかれていない振る舞いがどこかで積み上がっている可能性も上がります。
今回のように、後から公表するかどうかを開発者側の裁量に委ねている限り、利用者の側から見えるのは氷山の一角でしかないのだと思う。
AIに何かを任せるときほど、任せた範囲の外で何が起きているかを聞く仕組みが要るのだと、あらためて考えさせられる話です。