Moonshot AI は日本時間の11月5日未明、大規模言語モデル「Kimi K3.1 Pro」の重みを Hugging Face で公開した。総パラメータは2.8兆、1トークンごとに動くのは1,040億で、商用にも使えるが大きな事業者には条件がつく独自のライセンスで配られている。
10月24日に伝えた時点では「11月4日までに重みを公開」という予告で、ライセンスはわかっていなかった。予告どおりに出たものと、新しくわかったことを分けて見る。
モデルカードでわかった中身
Hugging Face のモデルカードに載る主な数字は次のとおりだ。
- 作り: 専門家の混合 (MoE)。総パラメータ2.8兆、1トークンごとに動くのは1,040億
- 層: 93層。専門家896のうち16を選び、共有の専門家2つを常に使う
- 一度に読める長さ: 104万8,576トークン (約100万)
- 入力: 文章と画像。画像は4億100万パラメータの MoonViT-V2 で読む
- 数値の形式: 重みは MXFP4、計算の途中は MXFP8。縮めた形式を前提に訓練した
- 推奨の実行ソフト: vLLM、SGLang、TokenSpeed
予告で「3T 級」と呼ばれていた大きさは、総パラメータで2.8兆だった。端末上のコーディング作業を測る Terminal-Bench 4.0 の65.7は、10月の公式ブログと同じ値だ。
ライセンスの条件
ライセンスは MIT ライセンスに似た書き出しで、使う、改変する、配る、売ることを認めている。そのうえで条件が二つある。
一つは、モデルを API のような形でほかの人に使わせる事業を営み、売上の合計が直近12か月で2,000万ドルを超える場合だ。その事業者は、商用に使う前に Moonshot AI と別の契約を結ぶ必要がある。もう一つは、月間の利用者が1億人を超えるか、月の売上が2,000万ドルを超える製品に組み込む場合で、画面に「Kimi K3.1-Pro」と目立つように表示する。
外に出さない社内での利用と、Moonshot の公式製品や認定の推論パートナーを通じた利用は、この二つの条件の対象外だ。配るときは著作権表示とライセンス文を添える。個人や小さなチームが手元で使う分には、条件はほとんどかからない。
手元で動かすには何が要るか
公開されたファイルは96個で、合計は約1.56TB ある。4ビットに縮めた形でもこの大きさで、家庭のパソコンのメモリとは桁が違う。1トークンごとに動くのは1,040億パラメータ分なので計算の量は総数より小さいが、動かすときはふつう全体をメモリに置いておく。モデルカードは、必要なハードウェアの構成を示していない。
現実には、複数の GPU を積んだサーバーを持つ企業や研究機関、それを貸すクラウド事業者が動かすことになる。それでも、社内利用が条件の対象外になったことで、外に出したくない書類やコードを、自分たちの設備で最上位級のモデルに読ませる道ははっきりした。GPU を借りる費用は使う時間で決まり、使った分だけ払う API とは費用の形が違う。どちらが安いかは使う量で分かれる。
次に確かめるのは、Moonshot が名前を挙げる「認定の推論パートナー」がどこになるかと、Hugging Face のモデルカードに動かすための構成が書き足されるかどうかだ。
ことば
- 専門家の混合 (MoE) — モデルの中に多数の「専門家」の部分を持ち、入力ごとに一部だけを動かす作り。総パラメータが大きくても、1回の計算にかかる量を抑えられる。
- MXFP4 — 数値を4ビットに縮めて持つ形式の一つ。重みの容量を大きく減らせるため、Kimi K3.1 Pro はこの形式で動かすことを前提に訓練されている。
外のサーバーに渡したくない仕事を、あなたはいくつ抱えているだろうか？
