NEWS
Moonshot AI、「Kimi K3」の重みを公開——2.8兆パラメータのオープンウェイト、動かすには1.4TB
Moonshot AIがKimi K3の重みをHugging Faceで公開しました。総パラメータ2.8兆・トークンあたりの活性は1,040億、コンテキストは100万トークンで、テキストと画像を扱います。4ビット量子化でも重みだけで約1.4TBの高速メモリが必要で、自前で動かすハードルは高いままです。
7月17日に発表だけが先行していたMoonshot AIの「Kimi K3」について、モデルの重みがHugging Faceで公開されました。
リポジトリは moonshotai/Kimi-K3、ライセンスは独自の「Kimi K3 License」で、研究にも配備にも使える形での提供です。
公開されているオープンウェイトのモデルとしては、現時点で最大級の規模になります。
構成はMixture-of-Expertsで、総パラメータは2.8兆。
93層それぞれで896のエキスパートから16を選び、常時使う共有エキスパートを2つ足す作りになっていて、1トークンあたり実際に計算されるのは1,040億パラメータ分です。
コンテキストは1,048,576トークン、つまり100万トークン。
4億100万パラメータの画像エンコーダMoonViT-V2を内蔵していて、テキストだけでなく画像も入力として扱えます。
モデルカードに載っている数字では、GPQA Diamondが93.5、Terminal-Benchが88.3、BrowseCompが91.2でした(2026年7月23日時点の評価)。
ただ、「無料で落とせる」と「自分の環境で動く」はまったく別の話です。
重みはMXFP4、つまり4ビットで配布されていますが、それでも2.8兆パラメータ分となると1.4TBほどの高速メモリが要ります。
しかもこれはコンテキストを載せる前の数字で、16ビットなら5.6TBです。
手元のPCやGPU1枚で回せる規模ではなく、公開直後からTogether AIやModalといった事業者がホスティングを提供しています。
サイトやサービスを運営する立場で見ると、意味があるのは「自社の管理下に置ける選択肢が増えた」という点だと思います。
入力したデータを外部のAPIに出さずに済む構成が、理屈のうえでは現実味を帯びてきました。
とはいえこの規模のモデルを置く場所を確保して運用し続けるのは、それ自体が新しいコストです。
当面は必要なところだけAPIで使い、自前に寄せるかどうかは体力を見ながら決める——そのくらいの距離感がちょうどいいのではないかと思っています。