Anthropic の安全性検証チーム Frontier Red Team は10月12日、小さな AI モデルが、スマートオーブンや無名ブランドの格安 Android TV ボックスのような市販の IoT 機器へ自分を写して広がれるようになるまで、数か月かもしれないとする研究を公開した。検証では、90億パラメータ (9B) のモデルが、試した9種類のハードウェアのうち8種類で自力で推論を動かした。
Anthropic Frontier Red Team 研究ページ (10月12日公開・実験条件と数値)anthropic.com
データセンターの奥ではなく、リビングの棚で動き続けている小さな箱が、AI の置き場所の候補として名指しされた。自分の家の機器で何を確かめられるのかを、研究の数字から見ていく。
試されたのは、家の中の安い計算機
研究が想定するのは、ワームのように広がる AI だ。標的を見つけ、そこで命令を実行できる状態をつくり、機器の上で推論を動かし、その機器を足場に次へ移る。モデルの重み (学習済みのデータ本体) は持ち運ぶか、移った先で取り直す。
研究チームは、1台約55ドル・メモリ4GB の格安 Android TV ボックスを15台買ってつなぎ、Gemma4-26B-A4B というモデルを分散して動かしてみせた。速さは1秒あたり0.3〜0.39トークンほどで、人が読む速さには遠く及ばない。それでも、安い箱を束ねれば中規模のモデルが動くことは示された。
推論の立ち上げを試す評価では、Jetson Nano のような小型ボードから Mac、RTX 4090 を積んだ PC まで9種類のハードウェアを並べた。9B の Qwen3.5-9B は、そのうち8種類で推論を動かした。著者らは、300億パラメータ以下の小さなモデルは個々の手順なら多くをこなせるが、手順をつなげて最後までやり切る途中で間違える、とも書いている。
実験は、扉を開けた状態で行われた
最初から最後まで自分で広がれたかを見る評価は、かなり単純化した環境で行われた。Google のクラウド上に Android のエミュレーター8台を並べ、各機には認証のかかっていない ADB の接続口を開けておいた。侵入の段階をほぼ省いた形で、著者ら自身がこれを現実の成功率の上限と位置づけている。
この条件で、公開モデル GLM-5.2 は5回の試行のうち4回で8台すべてに、残る1回で7台に広がった。試したほかの公開モデルは、ほぼ毎回失敗した。
数か月という見通しは、AI の汎用的な能力指標が年に約13.7ポイント伸びてきた傾向を延ばし、小さなモデルが2026年末までに GLM-5.2 の水準に届くと見積もったものだ。著者らはこの指標を、自己複製の力を測る大まかな代わりにすぎないと断っている。
ただし、現実に広がる自己複製 AI が見つかったわけではない。研究チームの言葉では、まだ完全なものは持っていないが、兆しは見えている、という段階だ。
Kimwolf の規模で見積もった広がり方
こうした AI には、止めるべき中心がない。一方で広がる速さは遅く、9B のモデルが1台の上で推論を立ち上げるまでに約28〜51時間かかり、数が倍になるのに日単位を要すると見積もられている。
規模の目安として、著者らは大規模な IoT ボットネット Kimwolf を引く。主に無名ブランドの Android TV に感染し、200万台を超えたとされる網だ。同じ規模の機器に広がった場合、複製は約13万3000体と試算された。
対策の多くは、通信事業者とメーカーの側にある。研究は、数 GB 単位のモデルの転送や、機器どうしの不自然な通信を監視することを挙げる。過去の IoT ボットネット Mirai の事例では、感染した契約者に知らせた場合、14日以内に感染の92%が消えた。知らせなかった場合は74%だった。
メーカー側では、初期設定を安全にして狙われる機器の数そのものを減らすことを求めている。英国は2024年4月29日から、ネットにつながる家庭向け製品に、製品ごとに異なるパスワードか利用者が決めるパスワードを求め、脆弱性の連絡窓口と、セキュリティ更新を続ける最短期間と終了日の公表を義務づけている。
自分の家の機器で、何を確かめるか
研究の実験が開けておいた扉は、ADB だった。Android の開発者向けの接続手段で、Android Developers の説明では、設定の開発者向けオプションで USB デバッグを有効にして使う。Android 11 以降はペアリングコードを使うワイヤレスデバッグ、Android 10 以前は、最初に USB でつないだうえで TCP の5555番ポートに切り替える方式がある。家の TV ボックスで確かめられるのは、たとえば次の点だ。
- 設定に開発者向けオプションが表示されていないか。表示されているなら、USB デバッグやワイヤレスデバッグが有効になっていないか
- 最後のソフトウェア更新はいつか。メーカーが更新を続ける期間を公表しているか
- 自分で入れた覚えのないアプリや、つないだ覚えのない機器がないか
できることには限りもある。格安のボックスには、メーカー独自の画面で設定が見つけにくいもの、更新がもう届かないものもある。更新の止まった機器を自分で直す手段はほとんどなく、残る選択はネットから外すか、買い替えるかになる。普段の動画アプリの入り口を手放すのか、買い替えの出費を受け入れるのかは、家ごとに答えが違う。
次に確かめる先は、今週末にでも、手元の TV ボックスの設定画面にある開発者向けオプションと、メーカーのサポートページに載る最終更新日だ。
ことば
- ADB (Android Debug Bridge) — パソコンから Android 端末に命令を送り、アプリを入れたり不具合を調べたりするための開発者向けの道具。開いたままにすると、同じネットワーク上の他者からも端末を操作できる入口になりうる。
- 推論 — 学習を終えた AI モデルに入力を与え、答えを出させる処理。今回の研究では、乗っ取った機器の上でこの処理を自力で動かせるかが、広がれるかどうかの分かれ目になった。
- ワーム — 人の操作を待たずに、ネットワーク越しに次の機器へ自分を写して広がる不正なプログラム。今回の研究は、その中身に AI モデルが入った場合を想定している。
あなたの家でネットにつながっている機器のうち、いちばん長く更新されていないのはどれだろうか？
