Anthropic、オープンウェイトモデルへの立場を公表——禁止は求めず、能力次第で公開前の安全検査を義務化すべきと提言

Anthropic が7月27日、オープンウェイトモデル——重みを公開して誰でもダウンロードできるようにしたモデル——に対する自社の立場を文書で公表しました。
結論から言えば、禁止は求めていません。
危険な能力を持たないオープンウェイトモデルは公共の利益である、とはっきり書かれています。

そのうえで、懸念として挙げられているのは二つです。
一つは、権威主義的な政府が米国より強力なモデルを手にし、軍事的な優位や国民の監視に使う可能性。
もう一つは、サイバー攻撃や生物兵器の開発への悪用です。
オープンウェイトはガードレールをかけにくく、どう使われているかも追えない。
そして一度公開したら回収できない——この一点で閉鎖型より扱いが難しい、という整理になっています。

政策としての提言は三つ挙げられています。
高性能チップと製造装置の輸出規制および密輸対策、産業規模での知識蒸留の取り締まり、そして開放・閉鎖を問わず一定の能力を超えたモデルには公開前の安全検査を義務づけること。
危険かどうかは事前の思い込みではなく、公開前の実測から判断すべきだという立場です。

重みを丸ごと公開するモデルは、この数か月でもはっきり増えました。
自社の環境に置いて動かせるモデルを選べるのは、運営する側にとってありがたい話です。
外に出したくないデータを抱えたまま使えるし、提供元の値付けの変更に振り回されることもない。
その一方で、手元に置いた瞬間から、安全に使う責任もこちら側へ移ります。
どのモデルをどこで動かしているのかを把握しておくことが、これから先いっそう大事になっていくのではないだろうか。