9月1日、OpenAI が次のモデル Astra について投稿した。並んでいたのは性能の数字ではなく、どう評価したか、どんな防護策を能力と一緒に進めたか、そして何を制限するかだった。同じ日、Sam Altman 氏も「夏のあいだ安全の優先事項に全力を注いできた」と書いている。順番が入れ替わっている。能力を見せてから安全の話をするのではなく、安全の話が先に来た。この順番は、道具を選ぶ側にとっても他人事ではない。
「Critical」が指しているのは、モデル全体ではない
語の範囲を絞りたい。OpenAI の投稿は「Astra はサイバーセキュリティ能力の大きな前進であり、我々の Preparedness Framework における Critical のしきい値に達している」と書いている。ここで言う Critical は、その枠組みの最上位の区分で、対象はサイバーという一分野だ。モデルが全方位で危険だという意味ではない。
しきい値の中身は、未知の脆弱性を人の手を借りずに見つけて、動く攻撃手段まで作れるかどうか、あるいは高い水準の目的を渡されただけで攻撃の筋道を立てて実行できるかどうか、とされる。報道によれば、OpenAI 自身は詳細な説明の中で、この分類を確定させたわけではなく「排除できない」段階だとも述べているという。断定と留保が同じ発表の中に同居している。
鍵がかかるのは能力の一部で、モデルではない
報道によれば、高度なサイバー能力にフルにアクセスできるのは、当面ごく少数のパートナーに限られる。初期の対象は重要な社会基盤を守る立場の組織と米政府で、その先はまた別の枠組みで段階的に広げるとされる。組織名は明かされていない。
加えて、社内で走っていた Astra 関連の作業のうち、強化した基準を満たさないものは止めたと伝えられる。隔離された試験環境、ネットワークとツールの制限、重みの保護と暗号化、監視の追加。制限の向きが外向きだけでなく、内向きにも掛かっている。
公開そのものは「近く」とされ、7月の出来事を受けて数週間ずらされたという。
できあがってから、出すまでに時間を置いた
Altman 氏の投稿には、もう一つ具体的なことが書かれている。Astra の訓練自体はしばらく前に終わっており、その後のモデルについては必要に応じて進行を緩めている、と。
つまり、できたものをすぐ出さなかった。手元にある状態で、防護策のほうを追いつかせる時間を取った。同じ投稿には「興奮と不安のあいだの緊張」という言い方も出てくる。解消されていない、とも書いてある。
ここで起きているのは、確定してから対策する順番をやめる、という判断だ。危ないと決まったから止めたのではなく、決まっていないから先に絞った。
その順番は、手元にも置ける
個人にできることは、正直なところ多くない。Astra を止めることも、早く使うこともできない。発表を読んで待つ、以上のことは用意されていない。
ただ、順番の話だけは自分の側にも同じ形で存在する。いま使っている道具について、危ないと確定したら変えるのか、排除できない時点で変えるのか。既定値を決めていない人は、たいてい前者になる。
どちらにも代償がある。早く動けば、まだ問題の出ていない便利さを手放すことになる。しかも「排除できない」段階は永遠に続きうるので、動く基準を自分で決めないと、いつまでも動かないか、いつでも動くかのどちらかに振れる。遅く動けば、確定は事後にしか来ない。確定した時点では、もう起きた後だ。
つくる側は今回、確定を待たない側を選んだ。あなたは自分の道具について、どちらの順番を既定値にしているだろうか？
