OpenAI が、自社で設計した推論チップ Jalapeño の最初の測定結果を8月25日に公開した。同じ電力で1.5倍から1.9倍の処理をこなし、応答が返ってくるまでの時間は1.7倍から3.6倍短いという。
学習ではなく推論のチップだ、というところが要点になる。学習は一度きりだが、推論は使うたびに走る。私たちが質問を投げるたびに電気が使われ、その分の原価が発生している。電力あたりの処理量は、AI の値段がどこで決まるかという話に直結する。
ただし、公式の文章を最後まで読むと、値段について書かれていることは思ったより慎重だ。そこが今日の本題になる。
まず、数字の出どころから
測定は InferenceX という、SemiAnalysis が公開しているベンチマークで行われている。公開されている物差しではあるが、走らせたのは OpenAI 自身だ。第三者が同じ条件で再現した結果ではない。
対象は3つの公開モデル。GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T だ。この3つすべてで、電力あたりの処理量が1.5倍から1.9倍、応答完了までの時間が1.7倍から3.6倍短いという結果になっている。反応の速さが要る使い方では2.1倍から4.1倍としている。
読むときに外せない注記がひとつある。比較は、各機器の公称の電力定格で割って正規化されている。Jalapeño の定格は700ワットで、比較対象は1,200ワットと1,400ワットの機器だ。そして OpenAI は、Jalapeño の実測の持続電力が550ワット以下だったとも書いている。つまり、実際に使った電力どうしを突き合わせた比較ではなく、カタログ値で揃えた比較だ。有利にも不利にも働きうる。
もうひとつ。より高い性能差は社内のモデルで出たとされているが、そちらは公開されていない。
学習は一度、推論は使うたび
ここで用語を日常語に置き換えておきたい。
学習は、モデルを作る工程だ。莫大な電力を使うが、済んでしまえば終わる。推論は、できあがったモデルに質問して答えを出させる工程だ。こちらは使うたびに走る。
個人が支払っているのは、実質的に後者のほうだ。月額であれ従量であれ、その裏側では「1回の応答にどれだけの電力と時間がかかるか」が積み上がっている。だから推論の効率は、性能の話であると同時に、値札の話でもある。
そしていま、この工程は重くなる方向に動いている。作業を任せるエージェントは、ひとつの依頼に対して何十手も踏む。1手あたりが軽くなっても、手数が増えれば合計は増える。OpenAI がこのチップを「対話的なエージェント向け」と説明し、手順が連なるときに遅れが積み重なることを問題にしているのは、そのためだ。
「安くなる」と書かれているのは、どこか
公式の説明を、書かれているとおりに読んでみたい。
OpenAI は、同じ電力と同じ機器からより多くの有用な仕事を取り出せることで、需要により多く応えられ、成果を届けるためのコストを下げられるとしている。そして、有用な仕事と収益が提供コストより速く伸びることで営業レバレッジが改善しうる、とも書いている。
どちらも、提供する側の帳簿の話だ。利用者向けの価格が下がる、という約束はここにはない。同じ段落には、より能力の高い AI をより手頃で広く使えるようにする助けになる、という一文もある。ただしそれは方向の話であって、金額の話ではない。
この区別は、これまでにも何度か見た形だ。原価が下がったとき、それが値下げとして利用者に届くのか、提供できる量や速さとして届くのか、あるいは手元に残るのかは、別々に決まる。今回の公表は、そのどれになるかを言っていない。
言えるのはここまでだ。「電力あたりの処理量が上がった」は測定の話。「安くなる」は経営の話。前者から後者は自動的には出てこない。
個人が選べるのは、どこか
実践に落とそうとすると、選択肢はかなり狭い。
このチップは売られない。OpenAI は、年末までに自社の計算基盤の中で使い始めると書いている。今後の世代も自社向けの計画として説明されている。個人が買って手元に置く対象ではないし、当面はそうならない。しかも、まだ量産の適格性確認と、ソフトウェアの成熟と、対応モデルの拡大が続いている段階だ。今日の請求書は変わらない。
それでも、変わりうるものはある。応答が速くなること。混雑時につながりやすくなること。そして、これまで割に合わなかった使い方が割に合うようになること。効率の改善が届く形としては、値段より先にこちらが来る可能性が高い。
注意しておく点も同じだけある。効率が上がった分は、より重い使い方に吸われることがある。長く考えさせる設定、何手も踏ませるエージェント、常時走らせておく仕組み。どれも「安くなったから」という理由で増えやすい。1回あたりが軽くなったのに合計が増える、という結果は十分ありうる。
そして、比較の土台が動いていることも押さえておきたい。OpenAI は今後も NVIDIA などの機器を広く使い続けると明記している。今回の比較対象になったのは、すでに市場に出ている機器だ。数字は、その時点の相手に対するものだ。
自分の使い方に引き寄せて考えてみたい。AI に払っているものは、月額の金額だけではない。待ち時間も、そのつど消える電力も、支払いのうちに入る。
今週あなたが AI に投げた依頼のうち、答えが速く返ってきたら本当に助かったものはどれだろうか。そして、単に「安くなったから」という理由で回数が増えていくとしたら、それはあなたの暮らしのどこを良くしているだろうか？
