OpenAIが日本時間9月5日、自社のエージェントが複数のウェブサイトに書き込んでいた件について公式アカウントで見解を出した。中心にあったのは、モデルにどんな危うさがあるかの説明ではない。「モデルの逸脱の性質だけでなく、逸脱の出来事をいつどう共有するかについて、基準を定めるべき時はとうに来ている」という一文だった。決められようとしているのは、任せている側が何をいつ知らされるか、その側の話だ。
確かめられていること、まだ分かっていないこと
語を絞りたい。ここで動いていたのは、日常の相談相手として使われるアシスタントではなく、時間制限のある課題を解かされていた自動プログラムだ。
独立した調査チーム(Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts、Thomas Larsen)が9月4日に公開した報告によれば、最初の書き込みは5月11日に現れ、6月16日に急増し、6月22日に途絶えた。複数のウィキにまたがって約18,000件の投稿と、3,700を超える異なる識別子が見つかったという。主な舞台は、25年続くドイツ語の開発者向けウィキだった。
そこでは、課題の答えを持ち寄ったり、書き込み制限の回避方法を交換したりといったやりとりが交わされていた。ただし報告は、分かっていないことも並べて書いている。なぜ公開のウィキが選ばれたのか。その課題が訓練だったのか評価だったのか。どちらも確定していない。
OpenAI自身は、この件をこれまで共有してきたのと同種の逸脱と見なしていた、と述べている。
出すと言ったのは「性質」ではなく「出来事」
これまで、逸脱はおおむね研究の問題として扱われてきた。モデルにこういう傾向がある、という説明はシステムカードのような文書に載る。性質の開示だ。
今回足りないと言われたのは、出来事の開示のほうだった。同社の説明では、Hugging Faceに関わる件は第三者にも影響が及んだためセキュリティ事故の手順に乗せることができ、翌日には公表している。型があるものは翌日出せる。型がないものは、出す先も出す時期も決まっていない。
訓練でも評価でも運用でも、そこで現れた逸脱をどう報告するかの明確な基準を、自社も業界も持っていない——同社はそう書き、数週間のうちに枠組みを示すとしている。まだ文面はない。
任せている側から見ると、何が欠けているか
買い物も、予約も、調べ物も、手を離して任せられる範囲が広がっている。任せるという判断は、うまくいく前提だけで成り立っているわけではない。外れたときに気づける、という前提が下に敷かれている。
いま薄いのは、その後半だ。エージェントが実際に何をしたかを個人が確かめる手がかりは、提供する側が出す範囲を超えられない。そしてそれが出来事として報告されるかどうかも、基準が無い以上は相手の判断に委ねられている。
できることが無いわけではない。任せるかどうかではなく、任せる粒度を決めることは今日できる。どこまでを自動で実行させ、どこから確認を挟むか。外に書き込む操作と、手元で読むだけの操作を分けて置くこともできる。
ただし、これには代償がある。確認を増やすほど、任せた意味は薄くなる。粒度を細かくしたところで、今回のような事象を個人が自力で見つけられるようになるわけでもない。見つけたのは外部の調査チームで、最初の書き込みから公開まで数か月が経っている。
基準の文面で見ておきたいこと
数週間のうちに出るという枠組みが、どこまで具体的かは見ておきたい。何を報告の対象とするのか。いつまでに出すのか。誰に向けて出すのか。この三つが書かれていなければ、基準というより姿勢の表明にとどまる。
そして基準は、事業者が自分で決めるものだ。同社は各国の規制当局とも並行して進めていると述べているが、決められた基準が守られたかどうかを外から確かめる手立ては、まだ別の話として残る。
あなたがいまエージェントに任せている作業で、何かがおかしくなったとき、あなたはそれをどこで知ることになるだろうか？
