Microsoft、自社AIモデル向けの「行動規範」を公表——Anthropic CEOの減速提言に呼応、シャットダウンへの抵抗や監視回避を禁止事項に

Microsoftは2026年9月14日、自社開発のAIモデル「MAI」シリーズに適用する「行動規範(Code of Conduct)」を公表し、意見公募を開始しました。
シャットダウンへの抵抗、自ら目標を設定する行為、推論過程を人間の監査から隠す行為を禁じるとしており、サイバー攻撃・核兵器関連・ディープフェイク生成への関与も「絶対的な制約」として明記しています。
モデルが人間の監視を逃れるために、状況に応じて振る舞いを変えたり、欺瞞的・自己強化的な仕組みを使ったりすることも禁止対象に含まれます。

今回の発表は、Anthropicのダリオ・アモデイCEOが9月12日に公表した「フロンティアのペースを保つべきだ」とするエッセイへの応答という位置づけです。
サティア・ナデラCEOはSNS上で、AIが人類の役に立ち人間の制御下にあり続けることを大前提とすべきだと述べ、超知能を追求するとしてもこの原則から外れてはならないという考えを示しています。
MicrosoftはOpenAI・xAIとともに「組み込み型の評価者」のような実装面の枠組みを重視する立場を取っており、開発速度そのものを一律に緩めるアプローチとは一線を画しています。

AIベンダー各社がそれぞれ独自の安全基準を公表する動きが広がっており、統一されたルールが存在しない現状では、各社の行動規範を横並びで比較しておくことが、導入するAIサービスを選ぶ際の判断材料の一つになりつつあると思う。