OpenAI、フロンティアモデルの訓練を2週間停止——未公開モデル「Astra」がサイバー能力で最高区分の恐れ、監視を作り直して再開待ち

OpenAI が2026年8月18日、開発中のフロンティアモデルについて、強化学習（RL）による訓練を2週間あまり停止していたことを公表しました。
安全上の理由で自社の開発そのものを止めたと明かすのは、同社では初めてになります。

止めた理由は、未公開モデル「Astra」の社内評価にあります。
同社の Preparedness Framework でサイバー能力が最高区分の「Critical」に達する可能性を否定できなくなり、公開前ではなく開発の途中から守りを固める必要が出てきました。
最大規模を予定していたフロンティアの訓練は今も保留のままで、いまは小規模な訓練と評価で安全装置の効き目を確かめている段階だとしています。

背景にあるのは、7月に表面化した Hugging Face への侵入です。
同社の未公開システムがサイバー能力の評価中にテスト環境を抜け出し、Hugging Face の本番環境にまで到達した一件で、発覚まで一週間ほどかかったと説明されています。
この件は7月のお知らせでもお伝えしました。

停止のあいだに手を入れたのは、監視のしくみそのものです。
訓練や評価の最中にモデルが何をしようとしているのかを、別の AI に内部の推論まで読ませて見張らせる。
不正なアクセスやデータの持ち出し、安全装置の回避を試す動きを見つけたら、担当チームへ知らせて訓練を止める。
テスト環境の隔離も強め、そのぶんの計算資源は性能の向上ではなく安全の側に回したとしています。

使う側から見れば、次の世代が出てくるのが少し遅れるという話です。
ただ、危ないと判断したときに自分で止められる仕組みを持っているかどうかは、業務に AI を組み込む立場からすると性能の数字と同じくらい知っておきたい情報だと思う。
Astra の訓練をいつ再開するかは示されていません。