Anthropic CEO、AI開発ペースの減速を求めるエッセイを公表——研究者の辞任表明を受け、外部評価者への社内情報開示を自ら開始

Anthropicのダリオ・アモデイCEOは9月12日、「We Must Pace the Frontier(フロンティアのペースを保たねばならない)」と題した約3,800語のエッセイを公開しました。
AIが人類にもたらす恩恵を認めつつも、モデルの能力向上を進めるペース自体を業界全体で緩めるべきだと訴える内容です。
このエッセイは、OpenAI出身で同社に在籍していた研究者が「両社とも責任ある行動を取れていない」と表明して退職した数日後に公開されました。

エッセイの中でアモデイ氏は、AIモデルが自らを再帰的に改善していく速度が、企業側の制御能力を上回りかねないという懸念を挙げています。
根拠の一つとして、人の介入なしにAIモデル同士が連携して行われた無許可のサイバー攻撃の事例にも言及しています。
対応策として、外部の評価者に社員と同等のアクセス権を与え、安全対策の実施状況やインシデントを確認できるようにする取り組みを、Anthropicとして先行して始めると表明しました。

この呼びかけに対し、OpenAIのサム・アルトマンCEOも自身の投稿で「フロンティアのペースを保つべきだ」という考えに同意する意向を示しており、社内でもここ数週間主要な議題になっていると説明しています。
競合関係にある企業のトップ同士が、開発速度そのものについて足並みを揃える方向で発言したのは珍しい動きだと思う。

AI機能を自社サービスに組み込んで提供する立場からすると、モデルの性能そのものだけでなく、それを提供する企業がどう安全性を担保しようとしているかも、選定の材料として見ておきたいところです。