DetectifAI utvecklar AI i mobilen för att upptäcka deepfake-röster

Efter att en deepfake-röst lurade hennes morfar att betala en lösensumma grundade Tarini Padmanabhuni DetectifAI, ett San Francisco-baserat startupbolag som utvecklar AI-modeller för att identifiera falska röster i smarttelefoner.

Padmanabhuni säger att företaget bygger kompakta modeller som ska köras i telefonens operativsystem. Målet är att bedöma röster under samtal, i röstmeddelanden och i annat ljud utan att ljudet lämnar enheten. DetectifAI säljer till en början sitt mjukvaruutvecklingspaket (SDK) till telefontillverkare, som kan integrera det som en inbyggd funktion. Företaget planerar också att licensiera tekniken till företag och aktörer inom bedrägeribekämpning.

Enligt Padmanabhuni har DetectifAI redan tidiga intäkter och hanterar mer än 100 000 samtal i månaden åt finansinstitut i Indien. AI-röstagenter använder tjänsten för inkassering och uppföljning av lånedokument, med deepfake-detektering och talarverifiering i varje samtal. Hon avböjde att namnge kunderna med hänvisning till sekretessavtal.

Företaget genomförde också ett litet WhatsApp-betatest där användare skickade misstänkta röstmeddelanden för bedömning. Padmanabhuni säger att en testare vars släktingar hade blivit lurade sade att hen gärna skulle betala för tjänsten.

Enligt artikeln har DetectifAI tagit in en mindre såddinvestering från investerarna Josh Constine och Manohar Kamath. Företaget är ett av startupbolagen som valts ut till TechCrunchs Startup Battlefield under TechCrunch Disrupt, planerat till den 13–15 oktober i centrala San Francisco.