Notion は、AI 機能の処理の一部を任せていた米 Fireworks AI でセキュリティ事故があり、Notion AI のチャット記録が漏えいした恐れがあると公表した。影響を受けたのは Notion のワークスペースの 1% 未満で、対象の利用者には Notion から連絡している。
Notion ヘルプセンター「Security incident involving a third-party AI vendor」Notion
漏れた恐れがあるのは、利用者が AI に打ち込んだ文そのものだ。仕事のメモ帳に AI を組み込んだ人ほど、何を書いたかを思い出す必要がある。
漏れた恐れがあるもの、ないもの
Notion のヘルプページによると、対象は Notion AI のチャットのやりとりで、次のものが含まれうる。
- 利用者が入力したメッセージの全文 (名前、メールアドレス、API トークンなど、利用者が打ち込んだ機密の情報を含みうる)
- AI が返した回答の全文 (参照したページの断片を含みうる)
- チャットのときにページで選択していた文
一方で、選択していない部分のページ本文やチャットの添付ファイルは含まれない。会話をどの利用者・どのワークスペースのものか結びつける情報も、記録の大半には付いていなかったという。AI ミーティングノートは、チャットに打ち込んだか AI の回答に引用された分を除き、影響を受けていない。
Notion は11月3日に Fireworks との接続を切ってデータの送信を止め、4日には Fireworks のシステムからデータを消した。データはふつう、AI とのやりとりから1日以内に Fireworks へ送られていた。
「保持しない」約束の外にあったデータ
見落とせないのは、データを保持しない契約 (ゼロデータ保持) の扱いだ。Notion の説明では、この約束は Notion が外部の AI 事業者に送る通常の処理に効くもので、チャット履歴や AI の使われ方を分析する Insights のように、記録を保存することが前提の機能は最初から対象外だった。そのうえで Insights のデータは Fireworks に送られており、Fireworks は契約上データを保持しないと約束していたにもかかわらず、Notion が使っていた窓口ではデータが残っていた。
Notion は Insights を止め、Fireworks 経由で動かしていた公開モデル (オープンウェイト) の提供もやめた。主要な委託先について、データを最小限にしているか、保持しない約束を守っているかを監査するとしている。
「保持しない」と書かれていても、どの機能のどの処理に効くのかまでは、利用者の側からは見えにくい。AI を組み込んだ道具は、入力した文が自分の画面の外のどこを通るのかを、ふだん意識させない作りになっている。
オーナーが確かめること、利用者が変えること
ワークスペースのオーナーと対象のメンバーは、サイドバーの「?」から「Security incident review」を開くと、影響を受けたデータをダウンロードできる。複数のワークスペースを持つ組織のオーナーは、組織のコンソールの「Data & Compliance」から同じ確認ができる。Notion は、対象と判断していないワークスペースには今のところ対応は要らないとしている。
Notion が勧めているのは次の3つだ。
- チャットに貼ったパスワードや API キー、トークンはすぐに変える (管理者権限や本番環境のものから先に)
- チャットに出てきた名前やメールアドレスを使ったフィッシングに気をつける
- 監査ログやアクセスログに不審な動きがないかを見る
手間は、何を打ち込んだかを覚えていないことから始まる。自分の入力を確かめたいメンバーは、オーナーに頼むことになる場面もあるだろう。パスワードを1つ変えれば、それを使っている連携や自動化もまとめて直す必要がある。知らせが届いてからの順番は、漏えいの知らせが来たらやること、順番つきの手順にまとめてある。
次に開くのは、Notion のヘルプページ「Security incident involving a third-party AI vendor」だ。調査は続いており、委託先の監査の結果と Insights を再開するかどうかが、このページで示されるかを確かめたい。
ことば
- ゼロデータ保持 — AI の事業者が、受け取った入力と出力を処理のあと保存しないという約束。機能ごとに対象が分かれることがあり、今回は記録の保存が前提の Insights が最初から対象外だった。
- Fireworks AI — 公開されている AI モデルを動かす計算基盤を、ほかの会社に提供する米国の事業者。Notion は一部の AI 処理をここで動かしていた。
AI のチャット欄に、あなたはこれまで何を貼り付けてきただろうか？
