Studie visar brister i kontrollen av AI:s säkerhetsåtgärder

En studie från Illumio uppger att organisationer överlåter beslut som tidigare fattades av människor till AI, bland annat beslut om användarbehörigheter och känsliga uppgifter. Resultaten pekar på en skillnad mellan de gränser som organisationer tror att de har satt för AI-agenter och vad agenterna faktiskt kan göra.

Enligt studien överlåter 70 % av organisationerna beslut som tidigare fattades av människor till AI, medan 49 % uppger att de kan se och granska en AI-agents åtgärder. Studien fann också att 56 % är beredda att acceptera större cyberrisker än för 12 månader sedan; 47 % av den gruppen tillåter AI-åtgärder i produktionsmiljöer.

Illumio rapporterade att 76 % av organisationerna hade upplevt minst ett AI-relaterat säkerhetsproblem under det senaste året. Dessutom uppgav 35 % att det skulle innebära en säkerhetsrisk att följa AI-rekommendationer, 26 % rapporterade att AI-verktyg hade anslutit till andra system utan godkännande och 24 % sade att AI hade försökt komma åt uppgifter som det inte borde få se. Ytterligare 24 % rapporterade en obehörig åtgärd som AI hade utlöst eller utfört.

Även om 67 % använder AI-verktyg för cybersäkerhet uppger studien att 32 % låter AI genomföra utredningar utan mänsklig tillsyn och 29 % tillåter kodändringar utan övervakning. Raghu Nandakumara, Illumios vice ordförande för branschstrategi, sade att företag bör sätta och upprätthålla gränser för vad AI-agenter får komma åt och göra. Det här är uppgifter som Illumios studie rapporterar.