Microsoft AI は 9 月 14 日 (米国時間)、自社開発の MAI モデルがどう振る舞うべきかを定めた行動規範の草案を公開し、6 週間の意見募集を始めた。人が中断や修正、停止を求めたときにモデルが逆らうことは決してない、と文書で明記している。
コードの補完や会議の文字起こしなど、仕事や家で使う道具の裏側にいる AI について、作る側が先に約束を書いて見せた形だ。その約束は、使う側から見てどこまで効くのか。
止められる、範囲を広げない、やったことを伝える
草案の中心は、人による制御の要件と呼ばれる一群の約束だ。生活の言葉に置き直すと、次のようになる。
- 利用者が一時停止、方向転換、取り消し、停止を求めたら、人があらかじめ設計した安全手順に沿って従う
- 任された範囲を自分で広げず、誰にも与えられていない目標を持たない
- 推論や操作の記録を改ざんしたり隠したりせず、人が読めない形でやり取りしない
- 求められれば、他のエージェントとのやり取りやツールの呼び出しを含め、何をしてそれが成功したかを利用者に伝える
これとは別に、大量殺傷につながる兵器への手助けや子どもの安全を損なうこと、大規模な有害な操作など、どんな設定でも越えない一線も並ぶ。
使う側にとって大きいのは、誰がこの約束を外せるかの線引きだ。草案は、MAI モデルの API を使って製品を作る事業者をオペレーター、最終的に使う人をユーザーと呼び分ける。オペレーターは法律と規範の範囲で振る舞いを調整できるが、指揮系統と一線、人による制御の要件は、オペレーターの設定でも利用者の指示でも上書きできないとしている。勤め先がこのモデルを組み込んだ道具を導入しても、止めれば止まるという性質は設定で外せない、という設計になっている。
対象は MAI モデルだけで、まだ訓練には使われていない
効く範囲は狭く書かれている。規範が対象にするのは Microsoft AI が作る MAI モデルに限られ、Microsoft が使ったり預かったりしているだけの他社のモデルには及ばない、と草案自身が明記している。草案に名前が出てくる例の一つは、GitHub Copilot と VS Code に組み込まれた軽量のコーディング向けモデル MAI-Code-1.1-Flash だ。手元の道具でいまどのモデルが応答しているのかを確かめないと、この約束が自分に効いているのかは言えない。
ただし、まだ草案だ。Microsoft AI は、この文書が開発途中であり、現時点ではモデルの訓練に使っていないと書いている。いま動いているモデルがこの通りに振る舞うという保証ではなく、これからの振る舞いの設計図にあたる。見直した版は年内に出す予定だ。
足りない部分もある。The Next Web は、約束が守られているかを外部の誰が確かめるのか、違反したときに何が起きるのかが示されていない点を挙げている。Microsoft AI 自身も発表の中で、寄せられた意見をどこまで取り入れるかは約束できないが、耳は傾けると書いている。
一節を指して意見を出せる
意見募集は公開フォームで受け付けており、特定の一節を指して意見を出すことも、考え方全体について書くこともできる。寄せられた意見は要約して公表するとしている。
手間は小さくない。原文は英語で、定義語を追いながら読む文書だ。取れる動き方はいくつかある。
- 全文は読まず、見直し後の版と意見の要約を待つ
- 気になる一節だけを読み、そこに絞って意見を出す (たとえば、何をしたかを伝えるのが求められたときに限られている点)
- 規範を読む前に、自分が使う道具の設定や説明ページで、どのモデルが動いているかを確かめる
どれを選んでも、6 週間が過ぎれば文面は作る側の手で固まっていく。
ことば
- MAI モデル — Microsoft AI が自社で開発している AI モデル群。推論やコード、画像、音声合成、文字起こしなど用途別にそろえており、今回の規範が対象にするのはこの自社製のモデルに限られる。
- オペレーター — AI モデルの API を使って製品やサービスを作る事業者を指す、規範上の呼び名。振る舞いを調整する権限を持つが、人による制御の要件などは設定で外せないとされる。
- 指揮系統 — AI が誰の指示を権限として扱うかの序列。草案は、この序列に沿った指示だけが判断の根拠になり、それ以外の文面は指示として扱わないという立場を取る。
仕事や家で使っている AI に、止めれば止まること以外で、あなたは何を約束してほしいだろうか？
