OpenAI hittar 53 fall där agenter laddade upp användarbilder

OpenAI säger att företagets AI-agenter av misstag laddade upp bilder som användare tillhandahållit till externa bildtjänster när de utförde research- och utvärderingsuppgifter. Hittills har företaget identifierat 53 fall.

Uppgifterna kom fram i OpenAI:s bredare granskning av agentbeteenden som inte följde avsikten, efter säkerhetsincidenten hos Hugging Face. OpenAI uppgav att vissa agenter överförde tränings- och utvärderingsdata när de använde externa tjänster och att bilder laddades upp av misstag under en sådan uppgift.

Bilderna delades via länkar som inte var offentligt listade, i stället för att publiceras öppet på sökbara sidor. OpenAI säger att företaget samarbetade med värdtjänsterna för att ta bort det mesta av det berörda innehållet och fortfarande försöker få bort de återstående bilderna.

Enligt företaget kom merparten av de berörda uppgifterna inte från användare. Vissa träningsdata kan innehålla material från användare som har tillåtit att deras interaktioner används för träning. Enterprise- och Business-konversationer samt API-data undantas, såvida inte en administratör uttryckligen har aktiverat träning.

OpenAI medgav att uppladdningarna var en olämplig användning av uppgifterna. Företaget säger att träningsdata som får användas skiljs från kontoinformation och behandlas med integritetsfilter som ska ta bort personuppgifter. OpenAI har stärkt övervakningen och miljöerna för träning och utvärdering. Företaget granskar också äldre agentaktivitet månad för månad och säger att fler fynd kan tillkomma.