Anthropic が8月11日、Claude が生成した文章に、機械が読み取れる印を埋め込むと発表した。対象は8月2日以降に公開されたモデルで、それより前のモデルへの対応も進行中だという。きっかけはEUの透明性規則への対応だが、適用される範囲はEU内にとどまらず、開発者向けの窓口からアプリ、コーディング用の道具まで、全世界の全製品に及ぶ。印は文章そのものに入る。だから貼り付けても運ばれるし、多少手を入れても残りうる。自分が書いたものと、AIに手伝わせたものの境目に、外から機械が読める線が引かれ始めた話だ。
何に、どこまで入るのか
まず範囲を絞りたい。文章に入るのは、目に見えない透かしだ。公式の説明は「見えないし、応答の意味・品質・読みやすさを変えない」と書いている。画像や書類などのファイルには、別の方式で来歴の情報が署名付きで添えられる。こちらは業界で共通化が進んでいる規格に沿ったものだ。
時期の区切りもはっきりしている。8月2日以降に出たモデルは最初から対応し、それ以前のモデルは順次対応中とされる。つまり、いま自分が使っている画面がどのモデルを呼んでいるかで、印が入るかどうかは変わる。使っている側からは、その区別は見えない。
そして、印は文章に埋め込まれるので、コピーして別の場所に貼り付けても一緒に移動する。公式の説明も「編集を経てもある程度は残りうる」と書く。ただし、どの程度の編集で消えるのかは書かれていない。
印が言えること、言えないこと
ここがいちばん誤解されやすいところだ。
印が見つかったとき、それが示すのは「その文章が Claude を通った可能性がある」ということであって、誰が書いたかではない。公式の説明は、決定的ではないと明記している。理由もはっきりしていて、自分で書いた文章を校正させただけ、翻訳させただけでも、出てきた文章は Claude を通っているからだ。
逆も成り立たない。印がないことは、人が書いた証明にはならない。古いモデルで作られた文章、大きく書き直された文章、短すぎる文章、来歴の情報が落ちたファイル——いずれも検出できないと説明されている。
印は、著者を指し示さない。示すのは、通ったかどうかだけだ。
確かめられる側に、まだ回れない
もうひとつ、いまの時点では大きい制約がある。検出する手段が手元にないことだ。
公式の説明は、利用者や第三者が透かしを検出できるようにする作業を進めていると書き、その詳細は今後の技術文書で示すとしている。裏を返せば、現時点では自分の書いたものに印が入ったかどうかも、受け取った文章に印があるかどうかも、こちら側では確かめられない。印を入れる側と、読み取れる側が、まだ揃っていない。
発表の翌日には、利用者からの反発も報じられた。自分で書いた文章の校正にしか使っていないのに印が付くのはおかしい、という声や、書いたコードに署名のようなものが入ることを懸念する声が出ている。公式の説明には、印を切る方法や対象から外れる方法の記載はない。
自分の運用を、先に決めておく
技術がどう転んでも、手元で効いてくる区別はひとつだ。「AIに書かせていない」と「AIを通していない」は、もう別のことになった。
提出物や仕事の成果物を思い浮かべてほしい。下書きだけ手伝わせたのか、構成から相談したのか、事実の確認は誰がやったのか。校正だけでも印が付きうる以上、職場や学校の規則が求めているのが前者なのか後者なのかで、いまの使い方の説明の仕方は変わる。
印を消す方向に運用を寄せるのは、割に合いにくい。書き直す手間がかかるうえに、消えたかどうかを確かめる手段がない。確かめられない対策は、続ける根拠を自分で持てない。
分かっていないことも、いくつも残っている。どの程度の編集で印が消えるのか。検出の仕組みがいつ、誰に開かれるのか。他の開発元も同じ枠組みに参加を表明しているが、実装がそろうかどうかも、これから見るところだ。
今日あなたがAIに手伝わせたものに、印が入っているとする。その手伝わせ方を、あなたはどう説明するだろうか？
