Estland utreder registreringssystem för AI-agenter

Företag och myndigheter överväger AI-agenter för uppgifter som att stämma av konton, förhandla med leverantörer, skriva under dokument och lämna in offentliga handlingar. När systemen agerar självständigt är dock kapaciteten bara en del av utmaningen.

Kärnfrågan gäller ansvar: vem godkände agenten, vems intressen företräder den, var går gränsen för dess befogenheter och vem är ansvarig när något går fel? En mer avancerad modell löser inte ensam detta ansvarsgap.

Artikeln argumenterar för att agenter behöver tydliga behörighetsgränser och ett revisionsspår som kopplar varje åtgärd till personen som godkände den. Behörigheter kan till exempel tillåta en agent att läsa ekonomisk information utan att ändra den, förbereda en betalning utan att godkänna den eller beställa från namngivna leverantörer upp till ett fast belopp. De kan också gälla i en transaktion, en arbetsdag eller under ett visst avtal och därefter upphöra. Behörigheten ska kunna återkallas utan att den ansvariga personens inloggningsuppgifter ändras.

Estland började utveckla ett statligt registreringssystem för AI-agenter i juni. Enligt det nuvarande förslaget skulle en person få en registrerad numerisk identifierare som kan kopplas till en eller flera agenter. Åtgärderna skulle betraktas som maskinåtgärder, medan den fysiska personen fungerar som identitetsankare och förblir ansvarig inom behörighetsramen.

Förslaget bygger på Estlands digitala identiteter och system för delegerade behörigheter. Artikeln avslutar med att AI-agenter behöver ett tekniskt och juridiskt bindande ramverk som anger vem de företräder, vad de får göra och vem som fortfarande är ansvarig.