AI-baserad röstkloning har nått en punkt där bedragare kan imitera människor övertygande. Därför är en välbekant röst inte längre ett tillförlitligt bevis på vem som ringer.
En rapport från 2026, Evaluating AI Models' Capability to Automate Voice Phishing Attacks, av Fred Heiding och kollegor undersökte 4 100 vuxna i USA. Upp till 36,1 % uppgav att de skulle följa, eller var osäkra på om de skulle följa, en AI-driven bluff där en anhörig påstås vara i nöd. Siffran gäller självrapporterad benägenhet, inte personer som faktiskt lämnade över pengar.
Forskarna fann att övertalningsförmåga var viktigare än hur mänsklig rösten lät. Personer som regelbundet använde AI var inte bättre på att identifiera syntetiska röster än personer utan AI-erfarenhet.
Nyare exempel är ett samtal där en X-användare hörde en röst som liknade hustruns och ett Reddit-inlägg om uppringare som sade att de var advokater och att en anhörig satt i fängelse. Det var oklart om det första samtalet använde generativ AI eller ett röstfilter i realtid.
Ett Ferrari-bedrägeri 2024 misslyckades när uppringaren, som verkade imitera vd:n Benedetto Vigna, inte kunde beskriva en bok som den riktiga chefen hade rekommenderat.
- Kom överens om ett familjeord.
- Avsluta oväntade samtal där någon ber om pengar.
- Ring tillbaka på ett nummer du redan känner till.
En Malwarebytes-undersökning som publicerades i juni visade att 85 % tyckte att det var svårt att skilja bedrägerier från äkta interaktioner, jämfört med 66 % året innan. Ytterligare 88 % sade att det blivit svårare att avgöra om innehåll på nätet verkligen var mänskligt eller äkta.
Kommentarer
0Inga kommentarer ännu. Skriv den första.