Snowflake säger att tillit och säkerhet är avgörande för AI-agenter

På Snowflake World Tour London sade Mayank Uphadyay, företagets säkerhets- och förtroendechef, att tillit och säkerhet är centrala för företag som börjar använda AI-agenter. I en intervju med TechRadars Mike Moore beskrev Uphadyay två risker: att hindra externa AI-system från att ta sig igenom ett företags skydd och att se till att företagets egen AI inte exponerar data eller går utanför sina gränser.

Uphadyay sade att kunderna befinner sig på olika stadier i införandet av AI, men att säkerhet nu är ”möjliggöraren, inte längre hindret”. Han jämförde säkerhetskontroller med bromsar: de kan ge förare självförtroende, precis som skyddsräcken och kontroller kan hjälpa kunder att använda AI. Snowflakes Trust Center knyter samman de tre lager han beskrev, skyddar kunderna och ger insyn i system och möjliga förbättringar.

Han sade att Snowflake har varit verksamt i över 12 år och att företagets historia har bidragit till kundernas förtroende. Han lyfte också fram vikten av att ge AI-agenter lämpliga behörigheter. Anställda kan ha kvar åtkomst till system de inte längre behöver och köra agenter med dessa behörigheter, sade han.

Uphadyay talade om Snowflakes plattformar Coco och CoWork och beskrev en stegvis väg till automatisering. Återkommande arbetsuppgifter kan automatiseras, sade han, medan människor bör kontrollera stegen mellan automatiserade uppgifter och fortsätta vara delaktiga i verksamhetskritiska arbetsuppgifter. När förtroendet växer kan företag överväga att automatisera mer.