📡 Signal｜Amodei が「オープンウェイトは十分な解ではない」と書いた——手元で動かせるモデルの上限は、どこで決まるのか

Anthropic の Dario Amodei が8月15日、投資家との議論に応じる形でXに長い投稿を2本置いた。「普段はソーシャルメディアにあまり時間を使わない」と自分で断ってから書いている。中身は AI 規制をめぐる応答だが、そのなかに、重みが公開されたモデルをどう扱うかについての一節がある。

「オープンウェイトはこの点である程度は助けになるが、十分な解には程遠い。集中を、計算資源とチップを最も多く持つ側——おおむねフロンティアの研究所と、おそらくハードウェア提供者——へ多少ずらすだけだからだ」

重みを公開するかどうかの話は、ふだん「開いているか、閉じているか」で語られる。彼はそこを、開いた先で何がどこに残るか、という話に置き直した。自分の機械で AI を動かしたい人にとって、これは他人事の政策論ではない。手元で動かせるものの上限が、どの理屈で決まるのかという話だからだ。

「十分ではない」は「禁止すべきだ」ではない

語の範囲を絞っておきたい。引用文の「この点」が指しているのは、AI が力を一箇所に集めてしまうこと、その一点だ。彼はその集中を、規制のせいではなく構造の帰結だとしている。AI は本質的に力を集中させる技術で、理由は規制とは無関係で、むしろスケーリング則の帰結のほうにある、という言い方をしている。

つまり「重みを公開すれば集中が解ける」という期待に対して、解けない、移るだけだ、と答えている。移った先が、計算資源とチップを持っている側になる。誰でもダウンロードできるが、実際に大きなモデルを動かし続けられるのは設備を持っている側だ、という話と地続きになっている。

ここを禁止論と混ぜないほうがいい。Anthropic は7月27日に公開した文書で「オープンウェイトのモデルの禁止を主張したことは一度もない」と明記している。同じ文書で挙げられている提案は3つで、中国への強力なチップとチップ製造装置の販売を止めること、産業規模の蒸留を取り締まること、そして十分に能力の高いモデルは公開・非公開を問わず配備前の安全検査を通すこと。そのうえで、スタートアップや大学のような能力の低いモデルは検査の対象から完全に外す、と書かれている。危険な能力を持たないオープンウェイトのモデルは公共財だ、という位置づけもそこにある。

主張されているのは「開くな」ではない。「開いても集中は残る」であり、線を引くなら開閉ではなく能力で引く、という設計だ。

線は「フロンティアに近づいたら」に引かれようとしている

8月15日の投稿で新しかったのは、その線の引き方に彼が支持を表明した点だ。フロンティアのモデルは配備前に検査し、オープンウェイトのモデルもフロンティアに近づいたときには検査する——そういう方向を、自分は強く支持する、と書いている。

ただしこれは、そう報じられている方針について彼が述べたものだ。政策文書そのものを確認できたわけではない。今日の時点で確かなのは、彼がその方向に賛成すると書いた、というところまでになる。

そのうえで、線の引き方そのものは読んでおく価値がある。「フロンティアに近いかどうか」は、モデルの側が動く基準ではない。モデルの能力は公開された時点で固定されるが、フロンティアのほうが先へ動いていく。去年の最上位は、来年には最上位ではない。

すると、この線は公開の瞬間の、しかも一番上のモデルに当たることになる。個人の機械に降りてくるのは、そこから何段か下がったもの——小さく削られた版、量子化された版、少し前の世代——であることが多い。線の位置がそのまま自分の手元に効くわけではない。

手元に届くまでに挟まっているもの

実際に自分の機械でモデルを動かそうとしたとき、最初に詰まるのは規則ではない。置き場所と、読み出す速さと、電気だ。大きな重みは家の機械に載らないし、載っても実用的な速度で動くとは限らない。ここは今日も変わっていない。

そのうえで、今回の話が効いてくるのは、その先の選択肢の幅のほうになる。上限に近いモデルが検査を経てから出るようになれば、公開の速度と、公開される版の作られ方は変わりうる。逆に、能力の低いモデルを対象から外す設計が保たれるなら、手元で動く大きさのモデルは今の出方を続けることになる。どちらに転ぶかは、まだ決まっていない。

見落としやすい失敗の形は、これを決まったこととして読むことだ。Anthropic の3つの提案は提案であって法ではない。彼が支持したと書いた方向も、報じられている段階のものだ。誰が能力を測り、どこを「フロンティアに近い」と判定するのかも、まだ具体になっていない。決まっていないことを決まったものとして自分の計画に入れると、外れたときに直す手間だけが残る。

できることは、いまのところ地味なものになる。自分が AI に任せている作業を、借りているモデルでないと成り立たないものと、小さいモデルでも成り立つものに分けておく。分けてみると、思っているより後者が多いこともあるし、逆のこともある。

重みが公開されているかどうかは、これまで自由の指標として使われてきた。それが十分な解ではないと当事者が書いたとき、残る問いは自分の側に返ってくる。あなたが AI に任せている仕事のうち、どこまでを自分の手元に置いておきたいだろうか？

参照

• Dario Amodei の投稿 (1/2・2026年8月15日) — 「オープンウェイトは十分な解には程遠く、集中を計算資源とチップを持つ側へずらすだけ」の一節、集中はスケーリング則の帰結だという構造的主張、および「フロンティアのモデルの配備前検査と、フロンティアに近づいたオープンウェイトの検査」への支持表明
• Our position on open-weights models — Anthropic 公式 (2026年7月27日)。禁止を主張したことはないという明記、3つの提案 (チップ輸出規制・産業規模の蒸留の取締り・十分に能力の高いモデルへの配備前検査)、能力の低いモデルの適用除外、危険な能力を持たないオープンウェイトを公共財とする位置づけ