The Verge-skribent säger att Amazon Bee Frontier förvrängde samtal och minnen

Victoria Song, senior recensent på The Verge, säger att hennes erfarenhet av Amazon Bee Frontier, en AI-bärbar enhet som spelar in hela tiden, fick henne att ifrågasätta enhetens utskrifter och sammanfattningar av hennes samtal. Song skrev om enheten i The Verges nyhetsbrev Optimizer.

Bee lyssnar på samtal och använder AI för att skriva ut och sammanfatta dem. Den har också funktioner som föreslår uppgifter, pekar ut områden där användaren kan utvecklas och analyserar samtal, samt en chattbot som svarar på frågor om vad som sagts. Song säger att enheten under 19 månader blev bättre på att skilja hennes tal från tv-dialog och fick möjlighet att använda information från kalendern och fotoappen. Ibland hjälpte den henne att komma ihåg samtalspunkter från jobbet, skriver hon.

Men Song beskriver återkommande fel, bland annat att enheten tillskrev henne påståenden som hon säger att hon aldrig gjort och tolkade skämt som fakta. Hon säger också att Bee uppfattade smeknamnen på hennes två katter som separata katter. Allvarligare var att enheten efter ett terapisamtal skapade ett faktapåstående om våld i hemmet under hennes barndom och gav en sammanfattning rubriken ”Reclaiming Reality from Manipulative Power”. Song skriver att det kändes hemskt att se händelsen återgiven så rakt på sak.

Song säger att upplevelsen fått henne att känna sig ”ständigt manipulerad”, eftersom Bees tolkningar kan skilja sig från hennes egna minnen. I artikeln skriver hon att hennes terapeut bad henne kasta ut enheten genom fönstret efter den tredje veckan då de pratade om den. Hon nämner också att hon behövde be terapeuten om lov att bära den under en session.