OpenAI は 9 月 21 日 (米国時間)、独立した数学者の助言グループと組むと X で発表した。米プリンストン高等研究所 (IAS) を拠点とする「Advisory Group on Mathematics and Artificial Intelligence」で、ケンブリッジ大学のティモシー・ガワーズ氏やインペリアル・カレッジ・ロンドンのマルティン・ハイラー氏を含む 9 人が名を連ねる。
AI が数学の答えを出す速さに、人間の検証をどう追いつかせるか。その仕組みを、AI を作る会社の外側に置こうとする試みだ。AI の「解けた」をどこまで信じるかは、数学者だけの問題ではない。
9 人は何を助言し、何を助言しないのか
OpenAI の投稿によれば、グループは新しい数学の結果をどう評価し、どう伝えるか、学術・専門職としての基準をどう保つか、研究と学習を支える道具をどう作るかについて助言する。
グループの公式サイトは目的を、AI 企業が数学研究や数学者のコミュニティとどう関わるかについて助言すること、数学の結果を責任ある形で提示・公開することを含む、と書く。ほかの構成員は、IAS のエドワード・ウィッテン氏とカミロ・デ・レリス氏、ENS-PSL のフランソワ・シャルル氏、カリフォルニア大学バークレー校のニキル・スリヴァスタヴァ氏、オックスフォード大学のウルリケ・ティルマン氏、スタンフォード大学のラヴィ・ヴァキル氏、ハーバード大学のメラニー・マッチェット・ウッド氏だ。
目の前の仕事は具体的だ。OpenAI が社内のモデルで出したと報告している、多数の重要な数学結果の公開をどう段取りするか。サイトはこれを「非常に具体的な課題」と呼んでいる。
報酬を受け取らず、決定権も持たない
独立性の担保は 2 つある。構成員は報酬を受け取らない。そして提言は OpenAI を通さず、グループ自身のサイトで公開する。構成員の選任もグループが決める。
一方で、限界も明記されている。グループはどの AI 企業に対しても決定権を持たず、判断の責任は企業側に残る。OpenAI が社内の数学研究をどの速さで進めるかも、助言の対象外だ。つまり、結果をどう確かめ、どう出すかには口を出せるが、出すかどうか、どれだけ急ぐかは会社が決める。
無報酬ということは、9 人が自分の研究の時間を割いて、査読に近い作業を担うということでもある。AI が結果を量産するほど、この人手の側が細くなる。その釣り合いがどこで崩れるかは、まだ誰も知らない。
「解けた」を受け取る側の判断軸
数学の証明は、他の数学者が一行ずつ確かめて初めて定着する。AI が出した答えも同じ手続きを通る。違うのは量と速さだ。
AI の成果を伝えるニュースを読むとき、手元に置ける問いはいくつかある。誰が確かめたのか。確かめた人は、発表した会社から独立しているのか。確かめる前の発表なのか、後の発表なのか。今回のグループは、この 2 つ目の問いに外から答えようとする仕組みだと言える。
次に確認できるのは、agmai.org に最初の提言が載るときだ。OpenAI が社内モデルの数学結果を実際に公開する段になれば、グループがその出し方にどんな見解を添えるかが見える。サイトには数学者から意見を受け付けるフォームも開いている。
ことば
- プリンストン高等研究所 (IAS) — 米ニュージャージー州プリンストンにある研究機関。今回は特定の AI 企業から離れた場所に助言の拠点を置く役を担う。
- 査読 — 論文や証明を、同じ分野の専門家が発表前後に検証する手続き。AI が結果を量産すると、この人手による確認の負荷が一気に増える。
AI が「解けた」と言ったとき、あなたはその答えを、誰の確認を経たところから信じるだろうか？
