AI の安全性を調べる非営利団体 METR は11月5日、Anthropic の社内データを見たうえで、同社のモデルの伸びがおよそ2倍に速まっている可能性が高いとする評価を公開した。同じ日の別の審査では、Anthropic が自ら決めた早期警戒の線を7月15日の時点で超えていたことも「ありうる」と指摘している。
METR「Anthropic の Risk Report (2026年8月) 自動化 R&D 節のレビュー」(2026年11月5日)metr.org
毎日使っている道具の進化の速さを、開発元の外の誰が、どこまで確かめられるのか。その限界まで書かれた報告だ。
およそ2倍という数字の幅
METR のチームは8月12日から10月29日まで、Anthropic の社内の指標や未公開モデルの試験結果を見て、研究者に話を聞いた。
中心になる数字は、ベンチマークを束ねた指標 AECI の伸びだ。2025年10月以降の伸びは、それ以前の 1.9 倍 (95% 信頼区間 1.5〜2.8) と推定された。1年で従来の2年分ほど進んだ計算になる。
ただし METR は幅を強調している。対象は条件のはっきりした課題での能力で、本当の値が 1.3 倍や 3 倍に近くても驚かないという。他社のモデルも入れて計算すると 1.4 倍まで下がり、どちらの読みが正しいかは決めきれていない。
原因については、今の加速の過半、おそらく8割前後が社内での AI の利用によるものだと推測している。2025年後半には AI 以外の要因も大きかったと見ている。社内の簡単な投票では、最新モデルで仕事が 12 倍速くなったという自己申告も出たが、METR はこれをごく緩い証拠としか扱っていない。
「2倍未満」と 1.97
もう一本の審査が扱うのは書き方だ。Anthropic の方針には、AI による研究の自動化が主な理由で進歩の速さが2倍になることを、警戒の線として置く項目がある。8月公開の Risk Report は、先行指標の加速を「less than a factor of 2」(2倍未満) と書き、線は超えていないと判断した。
METR が非公開版の数字から計算すると、その加速は 1.97 倍になる。METR の計算で、非公開版にこの数字が載っているわけではない。読者は2倍未満と聞けば 2 よりかなり下を思い浮かべるので、「約2倍」と書くほうが近いと METR は指摘した。自身の分析では 1.3〜2.8 の幅が出るという。
非公開版には、AI による加速が2倍を超えている可能性も「plausible」(ありうる) と書かれていた。公開版は、この不確かさを十分に伝えていないというのが METR の評価だ。
結論を取り違えないよう、METR が同意している点も書いておく。7月15日時点のモデルが直接大きな災害につながる危険は「低い」という判断には同意している。線は超えていない側に傾く担当者が METR にも Anthropic にも多い。一方で、今後6か月でさらに加速する可能性は否定できず、その場合は危険の評価が「高い」へ急に上がりうるとも書いている。
外から確かめる仕組みの限界
この審査は、外部の目がどこまで届くのかの実例でもある。METR は報酬を受け取っていないが、作業は Anthropic の端末で行い、AI の利用枠は無償で提供された。
非公開情報を消す権利は Anthropic にあった。METR によれば、最も参考になった証拠の過半は消された。Anthropic は、他社の開発を速めかねない秘密情報を除くためと説明している。読み手は証拠を自分で確かめられず、METR の判断に頼る度合いは望ましいよりずっと大きいと、METR 自身が書いている。
計算資源のうちどれだけを能力の研究と安全の研究に配っているかを確かめる作業も、途中で範囲から外れた。Anthropic は当面リスク評価に集中するためで、あとで改めて検討すると説明している。
それでも、公開版の表現への批判を含む報告は外に出た。消された部分があることも、何が消されたかの大枠も、METR が書いている。
使う側が持ち帰れる見方
この報告から持ち帰れるのは、特定の製品の良し悪しよりも、読み方と自分の仕事の点検だろう。
- 安全の説明で「未満」や「低い」を見たら、幅と前提が書いてあるかを探す。1.97 も 2 倍未満ではある
- 外部の審査があるかどうかに加えて、審査した側が何を見られなかったと書いているかを見る
- AI に任せている作業を、どの間隔で確かめ直すかを決めておく。半年で能力の前提が変わる可能性を METR は排除していない
一方で、慌てて手を止める理由もこの報告には書かれていない。今の時点の直接の危険は低いという点で、審査した側とされた側は一致している。
次に開くのは、Anthropic の次の Risk Report だ。2026年は2月と8月に出ているので、同じ間隔なら2027年2月ごろになる。線を超えたかどうかだけでなく、加速の幅と前提が公開版に書かれるようになったかを見れば、この審査が何を変えたかが分かる。
ことば
- AECI — Anthropic が社内で使う能力の指標で、複数のベンチマークの結果を1つにまとめたもの。社内の試験が頭打ちになりつつあり、指標の読み方そのものも今回の審査の論点になった。
- Risk Report — AI 企業が自社モデルの危険の評価を公開する報告書。Anthropic は今回の8月版について、公開版とは別の非公開版を METR に渡しており、両者の差が今回の指摘の材料になった。
あなたが AI に任せている作業のうち、半年後も同じ確かめ方で足りるものはどれだろうか？
