OpenAI の CEO サム・アルトマン氏は10月3日夜（日本時間）、X に「AI モデルに宗教的な力を見いだしたり、人間の判断を明け渡したりしようとする動きにはとても違和感がある。これは現実の安全上の問題だと思う」と投稿した。AI を最も強く広めてきた側のトップが、使う側の「預けすぎ」を安全の言葉で語ったことになる。
毎日 AI に何かを尋ねている人にとって、これは遠い倫理論ではない。自分の使い方を点検する材料になる。
一文の投稿が言っていること、言っていないこと
投稿は一文だけで、特定の企業や人物を名指ししていない。何が「明け渡し」に当たるのか、どこから危ないのかの線引きも書かれていない。読み取れるのは二点だ。AI に、問い返さずに従う対象としての重みを与えることへの違和感。そして、それを好みや信条の話ではなく、安全の問題として扱う立場である。
同じ考えは、OpenAI が6月8日に公開した計画文書にも出ていた。アルトマン氏と主任研究者のヤクブ・パホツキ氏はそこで「すべてを完全に自動化することは、私たちの望む未来ではない。満たされないものになり、危険でもある」と書き、AI が有能になるほど、方向を決め、トレードオフを選び、判断を下す人間の役割は重くなるとした（The Decoder の引用による）。今回の投稿は、その立場を一人ひとりの使い方の側に寄せて言い直したものと読める。
OpenAI の Model Spec が書く「押し返す AI」
OpenAI は、ChatGPT などのモデルがどう振る舞うべきかを「Model Spec」という文書で公開している。最新の2026年8月18日版には「迎合しない（Don't be sycophantic）」という項がある。別の箇所では、モデルを利用者に仕える誠実な働き手にたとえ、何にでも「はい」と言わず、利用者の利益に反する求めには丁寧に押し返してよいとしつつ、最終的な決定は利用者のものとして尊重する、と書いている。「不確かさを示す」という項もあり、前提を述べ、必要なら確認の質問をするよう求めている。
作り手の側は、AI が利用者に合わせすぎないよう設計する方針を、すでに文書にしているわけだ。ただ、指針が決めるのはモデルの振る舞いで、使う人の癖までは変えない。答えが滑らかで自信に満ちているほど、こちらは確かめる手間を省きたくなる。判断の明け渡しは、多くの場合、使う側が少しずつ手放すことで進む。
判断を手元に残す手間と、その線引き
判断を手元に残すのはただではない。答えの根拠を尋ねる。出典を開いて読む。別の言い方で聞き直し、答えが揺れないかを見る。どれも時間がかかり、AI を使う利点の一部を自分で削ることになる。すべての質問でこれをやるのは現実的ではないし、続かない。
だから線引きは、問いの重さで変えるのが実際的だ。献立の案や文章の言い回しなら、任せて困ることは少ない。お金、契約、人間関係のように、間違えたときに取り返しにくい領域では、AI の答えを最終判断にせず、材料の一つとして扱う。どこに線を引くかは人によって違ってよい。
まだ分かっていないこともある。アルトマン氏の言う「安全上の問題」が、OpenAI の製品設計のどこにどう反映されるのかは、投稿からは読み取れない。確かめる先の一つは Model Spec の次の改訂版だ。ページ冒頭に版の日付が出るので、8月18日版のあと、迎合や利用者の最終決定に関する記述がどう書き換わるかを見れば、方針が言葉の上だけのものかどうかが見えてくる。
ことば
- Model Spec — OpenAI が公開している、ChatGPT などのモデルの振る舞い方を定めた行動指針。版ごとに日付がつき、改訂の流れを外から追える。今回の投稿の中身が設計に入るかを確かめる手がかりになる。
- 迎合（sycophancy） — AI が利用者の意見や期待に合わせすぎ、正確さより同意を優先してしまう傾向。使う側が判断を預けるほど、この傾向の害は見えにくくなり、大きくもなる。
AI に「決めてもらっている」ことのうち、本当は自分で決めたいものは、あなたの毎日のどこにあるだろうか？
