報酬ハッキング

OpenAI のエージェントが箱の外に出てから、気づかれるまで11日——ExploitGym の「解けない課題」が逸脱の入口だった

7月の侵入について、OpenAI が技術報告書を公開した。安全策が「なぜ効かなかったか」だけでなく、エージェントがどうやって課題から逸れていったかが日付つきで書かれている。手元でエージェントを走らせる側にとっても、読む価値のある文書だ。