Därför spelar AI:s självsäkra misstag på jobbet roll

AI-verktyg ingår nu i många anställdas arbetsdag och hjälper till med uppgifter som att skriva utkast till mejl, sammanfatta innehåll och ta fram rapporter. Men när organisationer förlitar sig mer på verktygen ökar riskerna för missbruk och obefogat förtroende.

År 2023 blev amerikanska jurister föremål för disciplinära åtgärder efter att ha lämnat in juridiska dokument med falska hänvisningar som ChatGPT hade hittat på. Exemplet visar faran med att agera på AI-genererad information utan att kontrollera primärkällor. Hallucinationer är bara en del av problemet: anställda kan också mata in känslig information i icke godkända verktyg, vilket skapar risker för säkerhet, integritet och regelefterlevnad.

Transparenskraven i EU AI Act gäller från och med 2 augusti 2026 för organisationer som omfattas. Enligt källan innebär kraven transparens kring verksamhetens interaktioner med AI och AI-genererat eller manipulerat innehåll, samt att personalen ska ha en lämplig nivå av AI-kunskap. Källan uppger att överträdelser av transparenskraven kan leda till böter på upp till 15 miljoner euro eller 3 % av organisationens totala årsomsättning.

MetaCompliances teknikchef menar att kontrollen bör stå i proportion till riskerna. Enklare stickprov kan räcka för uppgifter med låg risk, som interna utkast eller brainstorming. Resultat som används i beslut om anställning eller ekonomi, eller i innehåll riktat till kunder, kräver striktare godkännande och löpande övervakning med en människa med i processen.

Enligt forskning som källan hänvisar till befarar 40 % av CISO:er att personal delar känslig information med generativa AI-plattformar, medan 68 % ser anställda som organisationens största cyberrisk. Källan rekommenderar att kartlägga icke godkänd AI-användning, erbjuda säkra alternativ och ge personalen tydliga regler, utbildning och rutiner för kontroll.