Anthropic、AI応答の真正性を検証する技術「FlashProve」をオープンソース公開

@AnthropicAIは、大規模言語モデルの応答が特定のAIモデルから生成されたことを検証する技術「FlashProve」を発表した。暗号化技術に基づくFlashProveは、先行するオープンソース手法より大幅に効率的だという。チャット乗っ取り攻撃の防止や、安全性評価者による検証に活用でき、AIデプロイメントにおける信頼の向上につながる見込み。Anthropicはコードをオープンソース化した。

New Anthropic research: progress on provable inference for large language models. Here, we introduce FlashProve. Building on established cryptographic techniques, FlashProve allows developers to verify whether a given response came from a given AI model. It’s substantially more efficient than prior
— @AnthropicAI

一次ソース: https://x.com/AnthropicAI/status/2117707052948898271

本記事は一次情報にもとづく初期報です。詳細な解説は続報で扱います。