Anthropic utvecklar FlashProve för att verifiera AI-modellers identitet

Anthropic arbetar med ett system med öppen källkod som heter FlashProve. Enligt ett blogginlägg som publicerades på tisdagen ska det verifiera vilken AI-modell som har skapat ett visst svar. Systemet är utformat för att ge det forskarna kallar ”bevisbar inferens”: ett kryptografiskt bevis för att ett svar kommer från en viss modell.

Forskarna säger att FlashProve skulle kunna hjälpa användare att kontrollera att ett svar kommer från den modell de tror att de använder. Precis som en kryptografisk e-postsignatur ska systemet stå emot försök att framställa en modell som en annan, även när försöket görs av laboratoriet som har byggt och driver modellen. Forskarna säger att det skulle kunna motverka att företag i hemlighet byter till en billigare modell för att sänka kostnaderna eller till en dyrare modell för att förbättra redovisade resultat. Det skulle också kunna hjälpa till att verifiera tredje parts påståenden om att en viss uppgift utförts av en avancerad modell.

För att systemet ska fungera måste AI-laboratorier publicera ett fingeravtryck för varje modell de släpper. Fingeravtrycken kan matchas mot svar och verifieras kryptografiskt utan att avslöja modellvikterna, som Anthropic och andra utvecklare av slutna modeller håller privata. FlashProve är utformat för att vara så lätt att verifieringen kan göras på en lokal enhet.

I samband med tillkännagivandet publicerade forskarna en teknisk specifikation och fungerande kod för delar av systemet på GitHub under en licens för öppen källkod. Forskningen pågår och Anthropic planerar inte att införa FlashProve vid sitt eget laboratorium eller någon annanstans. Forskarna beskriver inlägget som en redogörelse för pågående arbete och uppmanar andra att granska och förbättra det.