Företag behöver anpassa kontrollen efter hur de använder AI, enligt Josefin Rosén, specialist på tillförlitlig och etisk AI på SAS Institute. Hon säger att för mycket granskning kan bromsa arbetet, medan för lite kan släppa igenom allvarliga fel.
Rosén rekommenderar att företagen håller reda på varje användningsområde för AI, inklusive syfte, kostnad, ansvarig och uppföljning. Att godkänna en modell en gång avgör inte hur den bör användas i hela organisationen. En språkmodell som sammanfattar interna möten kan behöva enklare kontroller än en som besvarar en anbudsförfrågan. Ett sådant svar bör granskas mot företagets krav och åtaganden.
Hon efterlyser också löpande uppföljning, tydligt ansvar för att hantera fel och att krav på lagring och behandling av data tas med när systemen utformas. En kontroll före lansering kan vara otillräcklig om användningen förändras eller modellens resultat skiftar. Förklarbarhet kan hjälpa medarbetare att avgöra när ett svar går att använda och när det behöver granskas närmare, men den ersätter inte mänskligt omdöme.
Rosén hänvisade till SAS rapport Data and AI Impact Report: The New Economics of Trust, som bygger på enkätdata från IDC. Studien omfattar 2 699 beslutsfattare i 28 länder inom bank, försäkring, life science och offentlig sektor. Rapportens Trustworthiness Index väger samman fem områden: datakvalitet och datastyrning, modellstyrning och tillsyn, förklarbarhet och rättvisa, policy för ansvarsfull AI samt revision och ansvar. Organisationer med de högsta poängen rapporterade oftare stark eller hög avkastning på sina AI-investeringar än de med de lägsta poängen. Resultaten visar ett samband, men fastställer inte att styrning ensam orsakade högre avkastning.
Kommentarer
0Inga kommentarer ännu. Skriv den första.