Jalapeño

OpenAI の Jalapeño は同じ電力で1.5〜1.9倍を返す——ただし「安くなる」と書かれているのは、提供する側のコストだ

推論チップの最初の測定結果が公開された。電力あたりの処理量が上がれば、AI を使うたびの原価は下がる。ただし公式の文章をそのまま読むと、下がると書いてあるのは提供する側のコストで、利用者の請求書のことではない。