INDEX · KEYWORD

AI の安全

「AI の安全」に関連する公開記事をまとめています。

2026/11/123分

パリ・コール、OpenAI や Anthropic が AI の停止手段を約束

エリゼ宮が公表した「パリ・コール」で、OpenAI や Anthropic など 10 社が AI の運用を止める仕組みを約束した。期限も罰則もなく、Google や Meta は一覧にない。

2–4 / 全4本

2026/11/14分

Anthropic が、学習データの監視をすり抜けるデータを数千の Claude に作らせる研究を公開。物語に隠した手口が監視を通った。配備中の Claude についての発見ではない。

2026/10/244分

METR と Redwood Research が OpenAI の社内に3週間入り、AI エージェントを見張る仕組みを点検した。監視の範囲と見つかった抜け穴、個人でエージェントを使うときに何を見るかを読む。

2026/9/286分

NVIDIA が AI エージェントを枠の中で動かす安全基盤を発表。権限を AI の外側で絞り、追加の権限は人が承認する。個人が使うときの手間と、線を引く場所を整理する。