TypeSafe AI は米国時間 9 月 25 日、複数社の AI モデルを 1 つの窓口で使えるサービス OpenRouter で「Jev Router」の提供を始めた。送った依頼ごとに、どのモデルを使い、どれだけ推論させるかを、同社の判定専用モデル Jev が選ぶ。
AI を使うたびに発生するモデル選びという小さな判断を、機械に預けられるようになる。その代わり、自分の依頼をどのモデルが処理するかは、送る前には決まらない。どこまで任せるかは使う側が決めることになる。
Jev Router が選ぶもの
Jev Router は OpenRouter の中に、1 つのモデル名 (typesafe/jev-router) として登録された。OpenRouter のページは、依頼ごとに品質・速さ・費用のつり合いをとってモデルと推論の量を選び、会話が進むにつれて選び方を変えると説明している。受け付ける入力は文章・画像・音声・動画・ファイルで、扱える文脈の長さは 100 万トークンだ。
振り分けを判断する Jev は、9 月 15 日に早期アクセスで公開された、文章を書かずに選択や真偽だけを確率つきで返すモデルだ。入力 100 万トークンあたり 0.042 ドルで、出力は無料。「この依頼に、どのモデルを当てるか」は、まさにこの種の判定にあたる。TypeSafe AI は公式 X で、エージェントの作業がもうトークンを無駄にしなくて済む、と書いた。
「無料」と書かれているのはどこか
OpenRouter の Jev Router のページは、このモデルを「無料で使える」と表示している。ただ、振り分け先のモデルの料金まで含めて無料なのかは、ページからは読み取れない。
手がかりはある。OpenRouter のモデル一覧では、Jev Router の料金欄は、同社自身の自動振り分け機能 Auto Router と同じく、固定の単価を持たない表記になっている。その Auto Router の説明書きは「選ばれたモデルの通常料金を支払う。振り分けの追加料金はない」としている。同じ仕組みなら、振り分けの判断はただで、実際に答えるモデルの代金は払うことになる。Jev Router について、この点を明記した説明は執筆時点で見当たらなかった。振り分けの精度を示す数値も、ページには載っていない。
任せたときに手元から離れるもの
個人でエージェントを組み、メールの仕分けや調べものを自動で回している人にとって、モデル選びは地味に手間のかかる作業だ。軽い判定に高いモデルを使えば費用がかさみ、難しい仕事に安いモデルを当てれば出来が落ちる。これを依頼ごとに自動で決めてもらえるなら、その分の時間が浮く。
一方で、手放すものもある。
- 依頼の行き先 — 依頼の中身が、自分で選んでいないモデルとその提供元に渡る。データの扱いの方針は事業者ごとに違う。家計や体調の記録のような依頼を流すなら、どこに渡ってよいかを先に決めておく必要がある
- 費用の見通し — 1 回ごとの単価が選ばれたモデル次第で変わるため、月の請求を前もって読みにくくなる。Auto Router にはリクエストごとの上限価格を指定する仕組みがあるが、Jev Router で同じ指定が効くかは説明がない
- 出来の再現性 — 同じ依頼でも、日によって別のモデルが答える可能性がある。結果がぶれたとき、原因がモデルの違いなのか依頼の書き方なのかを切り分けにくい
試す費用は小さく始められる。OpenRouter の API は、応答ごとに使ったトークン数と費用を返す。普段の依頼を 10 件ほど流し、その記録を並べれば、振り分けで安くなったのか高くなったのかは自分の数字で分かる。
次に見るもの
最初の確認先は、OpenRouter の Jev Router のページ (openrouter.ai/typesafe/jev-router) の料金欄と説明文だ。振り分け先の料金の扱いや、上限価格の指定について書き足されるかどうかで、個人が安心して流せる依頼の範囲が変わる。OpenRouter が Jev の使い方を集めた Jev Lab に、振り分けを題材にしたレシピが加わるかも合わせて見ておきたい。
ことば
- OpenRouter — 各社の AI モデルを、1 つの API と 1 つの支払い口座で呼び出せるようにする仲介サービス。モデルを乗り換えてもコードの書き換えが少なくて済むため、個人の開発者やエージェントの作り手に使われている。
- 推論の量 — 答える前にモデルがどれだけ考える手順を踏むかの度合い。多くすると難しい問題の正答率が上がりやすい一方、時間とトークンの消費が増えるため、依頼の難しさに合わせて調整する。
- Jev — TypeSafe AI が 9 月 15 日に公開した判定専用のモデル。文章を生成せず、選択肢や真偽を確率つきで返すため速く安い。同社はこの種のモデルを「System One」と呼ぶ。
モデル選びを機械に任せるとして、あなたはどの依頼までなら、行き先を問わずに流せるだろうか？
