AIの出力に「デジタルフィンガープリント」を付与:AnthropicがFlashProveを開発、モデルのすり替えを許さず Anthropicはオープンソースの検証システムFlashProveを開発中で、ユーザーが受け取ったAIの回答が本当にそのモデルによって生成されたものかどうかを解決することを目的としています。同社は火曜日のブログで、「証明可能な推論」により暗号学的に各出力に数学的保証を提供し、指定されたモデルから出たものであることを確認できると述べています。これは暗号メールの署名による送信者認証のようなものです。このシステムは、モデルAがモデルBになりすますことを防ぎ、コストに関する不正行為の抜け道を塞ぎ、「水増し」された成績表を暴いて、業界の長年の暗黙のルールに正面から対処します。 さっき 0
AnthropicはFlashProveというオープンソースの検証システムを開発しており、暗号技術を用いてAIモデルの出力に数学的証明を付与し、その出所が真正で信頼できるものであることを確保し、モデルのなりすましを防止します。このシステムは公開されたモデルフィンガープリントを通じてローカル検証を実現し、モデルの重みを漏洩させず、クローズドソースモデルの信頼性検証をサポートすることで、コスト不正や虚偽広告の根絶に貢献します。現在、技術仕様と動作可能なコードが公開されています。



