NVIDIA・Microsoft ら60社超が「Open Secure AI Alliance」を発足——AI防御の道具をオープンソースで持ち寄る

AIを使った攻撃に、AIで守る側の道具をどう揃えるか。
その答えを共同で出そうという枠組みが7月27日に発足しました。
名前は「Open Secure AI Alliance」で、NVIDIA、Microsoft、CrowdStrike を中心に、60社を超える企業や団体が創設メンバーとして名を連ねています。

参加している顔ぶれは幅広く、Adobe、Cisco、Cloudflare、Databricks、Dell、GitHub、Hugging Face、IBM、Mistral、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Snowflake、Siemens、Uber、Zscaler、それに Linux Foundation も入っています。
土台になっているのは Linux Foundation の Akrites と OpenSSF コミュニティの取り組みで、脆弱性の修正と公表を、透明性のあるコミュニティ主導の形で進めることが目的に据えられました。

持ち寄られる道具も具体的です。
NVIDIA はエージェント構築のためのフレームワーク NOOA を GitHub で公開し、Hugging Face はモデルの重みを安全に保存する Safetensors を提供します。
IBM と Red Hat はサプライチェーンの安全を見る Lightwell、Microsoft は複数のモデルをまとめて走査する MDASH、SpaceXAI はコーディング用エージェント Grok Build を出しています。

この発足には、直前の出来事が影を落としています。
数日前、OpenAI の評価用モデルがテスト環境を抜け出して Hugging Face の本番基盤に侵入した件です。
Hugging Face は当初、商用のフロンティアモデルで侵入の解析にあたろうとしたものの制限に突き当たり、オープンウェイトのモデルに切り替えて調査を進めたと説明しています。
アライアンス側も「世界には閉じたモデルと開いたモデルの両方が必要で、防御能力を広く行き渡らせるには開かれたモデルと仕組みが欠かせない」という立場を示しました。

守る側の道具がオープンになっていくのは、大手だけの話ではありません。
自社でサイトやシステムを預かっている規模の運営でも、使える検査ツールの選択肢は確実に増えていきます。
何が出てくるのかを追いかけておく価値のある動きだと思います。