中国の AI 企業 DeepSeek は10月20日、自社のサービスで AI モデルを動かしている推論の仕組み「DeepInfer」を、オープンソースとして GitHub で公開した。対象は同社のモデル DeepSeek-V4.1-Flash で、同社は公開の狙いを、計算のコストとエネルギーの使用量を減らし、AI をより安く使えるようにするためだと説明している。
とはいえ、公開されたからといって家のパソコンで動くわけではない。暮らしの側に届きうるのは、むしろ AI を使うときの料金と、どこで動かすかを選べる幅のほうだ。
第一報は「DeepSeek、AI推論フレームワーク「DeepInfer」をオープンソース化」で伝えた。ここでは、公開された中身と、動かすのに要るもの、まだ入っていないものを見ていく。
公開されたのは、本番で使っている仕組み
推論とは、学習を終えた AI モデルに質問を入れて答えを出させる工程のことだ。チャットで返事が返ってくるたびに、この計算が裏で走っている。DeepInfer は、DeepSeek が大規模なサービスでこの計算を速く、安く回すために使ってきたものだと同社は説明する。
リポジトリの説明によると、主な特徴は次のとおりだ。
- 計算を複数の GPU に分けて並べる仕組みと、そのための専用の計算部品
- 下書きの答えを先に作り、確からしさに応じて確かめることで、答えを出す速さを上げる工夫
- 同じ入力と設定なら、同じ答えを返す設定 (NVIDIA の GPU のみ)
- 答えを JSON などの決まった形式にそろえる機能
ライセンスは Apache 2.0 で、商用でも使える。動かすモデルの DeepSeek-V4.1-Flash-1017 も、Hugging Face で MIT ライセンスのもと公開されている。DeepInfer はもともと、オープンソースの推論基盤 vLLM を土台に作られたと同社は記している。
動かすのに要るもの
対応する機材は、NVIDIA のデータセンター向け GPU の SM100 世代と、Huawei の AI 半導体 Ascend 950 の2種類だけだ。同社の性能測定も、入力の処理に GPU 4基、答えの生成に GPU 64基を使っている。モデルの重さも、Hugging Face の表示で約7,600億パラメーターある。家庭用のゲーム向け GPU を1枚積んだパソコンで試せる規模ではない。
もう一つの条件は、今回の公開が完成品ではないことだ。リポジトリには、サービスとして動かすのに必要だが今回は含まれていないものとして、計算の途中結果を保存して使い回す仕組み (KV キャッシュ)、処理の段階ごとに機械を分ける構成、複数の機械に問い合わせを振り分ける仕組みが挙げられている。公開されたのは、手元でまとめて計算させる用途の部分までだ。
つまり、これを使えるのは、大きな GPU を借りられるクラウド事業者や企業、研究機関が中心になる。個人に直接手渡されたのは、仕組みを読んで確かめられる設計図に近い。
料金と「どこで動かすか」
それでも暮らしに関係するのは、AI を提供する側の原価に触る話だからだ。同じモデルを少ない GPU と電力で動かせれば、1回の質問にかかる費用は下がる。その仕組みが公開されれば、DeepSeek 以外の事業者も同じ水準でこのモデルを動かせるようになる。
モデルも仕組みも公開されているので、DeepSeek 自身のサーバーを通さずに、国内のクラウドや自社のサーバーでこのモデルを動かす道も開く。入力した文章をどの国のどの事業者に預けるかを気にする人や組織にとっては、選べる幅が広がる。
ただし、原価が下がっても、利用者の料金が下がるかどうかを決めるのは提供する側だ。安く動かせるようになった分が値下げに回るのか、事業者の利益になるのかは、今回の発表からは分からない。
次に確かめたいのは、DeepSeek の API の料金表と、AWS や国内のクラウド事業者が DeepSeek-V4.1-Flash を提供する際の価格だ。DeepInfer を使った提供が広がれば、この先数か月のうちに、同じモデルの値段の違いとしてそこに表れてくる。
ことば
- 推論 — 学習を終えた AI モデルに入力を与えて、答えを出させる計算のこと。利用者がチャットで質問するたびに走るため、AI サービスの電気代や機材費の多くはここで生まれる。
- オープンソース — プログラムの中身を公開し、決められた条件のもとで誰でも使ったり改変したりできるようにすること。DeepInfer の Apache 2.0 は、商用の利用も認めるライセンスだ。
- パラメーター — AI モデルが学習で調整した数値の数。多いほど能力が上がりやすい一方、動かすのに大きなメモリーと計算力が要る。約7,600億という規模は、データセンターの機材を前提にした大きさだ。
同じ AI を、どの会社のサーバーで動かすかを選べるとしたら、あなたは値段と預け先のどちらを先に見るだろうか?