フランス大統領府 (エリゼ宮) は11月9日、AI の安全に関する共同声明「パリ・コール」を公表し、OpenAI や Anthropic など AI を開発する 10 社と 16 か国の首脳らが署名した。開発企業は、学習中や社内で使っている段階も含め、自社が管理するモデルの運用を止められる仕組みを用意すると約束している。
エリゼ宮「Paris Call for AI safety and security」本文と署名一覧 (2026年11月9日)elysee.fr
私たちが毎日使う AI の、使い始める前の段階の話だ。それでも「止められる」と約束した会社と、していない会社があることは、どの AI を使うかを選ぶときの材料の一つになる。
開発企業が約束したこと
エリゼ宮が公表した本文で、開発企業が約束したのは主に次のことだ。
- 自社が管理するモデルの運用を止める仕組みを用意する。学習中と社内での利用も含み、制限・一時停止・停止の形をとる
- モデルの能力・限界・分かっているリスクを開示し、必要に応じて独立した評価者の評価を支える
- 評価の結果のうち機微でない部分を、比べられる形式で公開し、誰でも見られる共有の保管場所をつくる
- サイバー攻撃や AI を制御できなくなる重大な事故の情報を、速やかに共有する
政策を担う側には、内部告発者が報復を恐れずに懸念を伝えられる窓口をつくることが求められている。
署名した顔ぶれと、名前のない会社
署名した企業は Anthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesia の 10 社だ。日本の Sakana AI も入っている。国は、11月11日に確認したエリゼ宮の一覧で、フランス、カナダ、オランダ、ノルウェー、ケニアなど 16 か国が並ぶ。一覧は追加の署名に開かれていて、更新が続いている。
一覧に、Google や Meta の名前はない。国では日本や米国の名前もない。毎日使う検索やスマホの AI の作り手が、この約束の外にいる場合もある。
期限も罰則もない
約束には限界もある。本文には、いつまでに仕組みを整えるかという期限も、守らなかったときの罰則も書かれていない。各国の当局の監督と第三者の評価に触れてはいるが、その手順は決まっていない。協力の仕組みをつくるかどうかも、これから検討するとしている。
それでも、止める仕組みをすでに形にした例はある。OpenAI は11月、研究中の AI を止める仕組みを社内に入れたと公表していて、LifeMakers でも研究中の AI を35秒以内に止める Control Roomとして取り上げた。約束が中身を持つかは、こうした仕組みが各社でどこまで公開され、外から確かめられるかにかかってくる。
次に開くのは、エリゼ宮のパリ・コールのページだ。署名の一覧に新しい会社や国が加わるか、評価結果を公開する共有の保管場所がいつ、どこにできるかを確かめたい。
ことば
- パリ・コール — 2026年11月9日にフランス大統領府が公表した、先端 AI の安全と安心に関する共同声明。国・企業・市民団体が署名し、評価の共通の枠組みや事故の情報共有を約束した。
- フェイルセーフ — 異常が起きたときに、安全な側へ止まるようにしておく仕組み。今回の声明では、AI モデルの運用を制限・一時停止・停止できるようにしておくことを指す。
あなたが毎日使う AI の作り手は、この一覧に名前があるだろうか？
