レッドチーミング

Anthropic、監視をすり抜ける学習データを Claude に作らせる実験

Anthropic が、学習データの監視をすり抜けるデータを数千の Claude に作らせる研究を公開。物語に隠した手口が監視を通った。配備中の Claude についての発見ではない。