インドの AI 企業 Sarvam は11月3日、文章を生成せず、与えられた選択肢それぞれの確率だけを返す判断専用のモデル「Sarvam Prism」を公開した。重みは Apache 2.0 ライセンスで Hugging Face に置かれ、同社の API からも使える。
チャット型の AI に「この問い合わせは急ぎか」と聞けば、理由を添えた文章が返ってくる。Prism が返すのは「はい」の確率や、どの選択肢を選ぶかの確率だけで、その分、答えが速い。AI を相談相手ではなく、用事を振り分ける係として置く形が、ひとつ具体的になった。
文章の代わりに返すもの
Sarvam の説明では、Prism は同社の大規模モデル Sarvam 105B を土台に、LoRA という手法で判断向けに追加学習したものだ。使う側は「状況」「質問」「選択肢」を渡し、モデルは1回の計算で選択肢ごとの確率を返す。1語ずつ文章を組み立てる工程がない。
API の説明書によると、質問の形は3種類ある。はい・いいえで答えるもの、2〜255個の選択肢から1つを選ぶもの、2〜10段階の尺度で評価するものだ。確率は質問ごとに合計1になり、出力のトークン数はいつも0と記録される。料金は入力100万トークンあたり4ルピーで、出力は0ルピーとしている。
44ミリ秒と71.8点の中身
Sarvam は、NVIDIA の B200 1枚で1,000件の依頼を1件ずつ送ったとき、答えが返るまでの中央値が44ミリ秒だったとしている。3つの評価の平均は71.8点で、同社が試した判断向けの25モデルのうち、100ミリ秒未満で答えるものの中では最も高かった。比べた中には、117ミリ秒で68.0点の Perplexity Decider v1.2 や、284ミリ秒で75.2点の mammoth-1 がある。
点数の読み方には注意がいる。3つの評価のうち、公開された37のベンチマークを束ねた Jev Decision Index は67.0点。残る2つは、Artificial Analysis の Decision Index を Sarvam が難しい問題と「分からない」の選択肢を加えて組み直したもの(65.9点)と、インドの10言語と Hinglish(ヒンディー語と英語の混ぜ言葉)で作った社内の評価(82.5点)だ。フィッシングや攻撃の見分けで89.0%を出したという評価も社内のもので、公開は「数週間のうち」とされている。
AI エージェントの作業記録を見て、成功したか・人の確認が要るかを判定する試しでは、Prism は78.5%で、Claude Haiku 5.5 の70.7%を上回ったという。1件あたりの時間は GPU 1枚で約0.5秒、Haiku の中央値は2.5秒だった。
速さと引き換えに手放すもの
Sarvam が挙げる使い道は、AI エージェントの作業の採点、怪しい指示の見張り、問い合わせの振り分け、どの AI に仕事を回すかの選択、書類の読み取りなどだ。暮らしの道具に置き換えれば、届いたメールを急ぎかどうかで分ける、家族の予定の通知をどこへ回すかを決める、といった細かな判断に近い。
ただし、すぐに家で動かせるものではない。重みは公開されているが、動かすにはメモリ120GB以上の GPU が1枚要るとしている。個人が使う入口は API になる。
できないことも書かれている。読めるのは文字だけで、画像は受け付けない。答えに理由の文章が付かないので、間違えたときになぜそう判断したかを本人に聞けない。同じ依頼でも確率はわずかに揺れる(いちばん上の答えは安定するという)。対応する言語として説明書が挙げるのは英語、インドの10言語、Hinglish で、日本語は入っていない。インドの言語では、確信度90%以上で答えられた割合が英語の68.5%に対して38.4%にとどまるとも書いている。
確率が付く点は、使い方の幅にもなる。Sarvam によると、確信度90%以上の答えで実際に外れたのは英語で2.2%、インドの言語で4.4%で、モデル自身の見込みより少なかった。何%以上なら任せ、それ未満なら人が見る、という線を自分で引けるということだ。逆に言えば、その線を決めるのは使う側の仕事になる。
次に確かめたいのは、Sarvam が予告しているセキュリティの評価データの公開と、Artificial Analysis が自社の Decision Index に Prism を載せるかどうかだ。社内の評価が外から確かめられる形になったとき、71.8点という数字の重みが分かる。
ことば
- 判断モデル — 文章を生成せず、決められた選択肢に確率を付けて返す AI。1回の計算で答えが出るので速く、確率を見て「どこから人が確かめるか」を決められる。Artificial Analysis などが評価の枠を作り始めている。
- LoRA — 大きなモデルの本体はほぼそのままに、追加の小さな部品だけを学習させて用途に合わせる手法。少ない計算で特化型のモデルを作れるため、Prism もこの方法で Sarvam 105B から作られた。
毎日の細かな「どっちにする?」のうち、理由を聞けない AI に確率だけで任せてもいいものは、あなたの暮らしの中にいくつあるだろうか？
