AI förlorar förtroende när tekniken får fel uppgift

TechRadar-skribenten Luis Blando menar att AI bara skapar förtroende när tekniken får uppgifter som passar dess styrkor och övervakas av personer som förstår dess begränsningar. Övermodiga satsningar kan lämna medarbetare med ansvar för agenter utan tillräcklig erfarenhet, medan ett enda tydligt misstag snabbt kan rasera förtroendet.

AI arbetar sannolikhetsbaserat och kan därför vara användbart för oklar eller komplicerad information, men passar sämre för uppgifter där ett felaktigt svar kan få allvarliga konsekvenser. Blando pekar ut tre områden där tekniken kan hjälpa till: dokumenthantering, beslutsstöd och personalisering.

I dokumentintensivt arbete kan AI extrahera, klassificera och sammanfatta material, jämföra avtal med standardklausuler eller sortera kundmeddelanden efter ämne. Som beslutsstöd kan tekniken väga samman tidigare resultat, förväntad leverans och rabatter för att presentera alternativ, men det slutliga valet görs vanligtvis av en människa.

Personalisering kan också dra nytta av sannolikhetsbaserade resultat när innehållet bara behöver kännas relevant för en individ. Risken uppstår när ett svar utan validering får utlösa en åtgärd: ett litet avtalsfel kan spridas till register, externa meddelanden eller ny programvara.

Blando jämför AI med en supersmart och arbetsam praktikant: åtkomsten till känslig information bör begränsas, kontrollen bör utökas först när systemet har visat vad det klarar och människor bör fortsätta övervaka arbetet. Inom mjukvaruutveckling kan snabbt AI-genererad kod skapa kvalitets- och hanteringsproblem. Gartner har rapporterat att ökande tokenförbrukning och förbrukningsbaserad prissättning höjer kostnaderna för AI-kodning.

Blando anser att den riskfylldaste platsen för AI:s resonemang är djupt inne i implementeringslagret. En säkrare modell håller AI närmare verksamhetens idéer och regler, där människor kan granska förslagen innan en deterministisk plattform omvandlar en validerad modell till körbar programvara. Abstraktion kan begränsa effekten av små fel.