OpenAI inför osynliga textvattenmärken i ChatGPT och Codex i EU

OpenAI säger att företaget under de kommande veckorna börjar lägga till osynliga vattenmärken i berättigade textutdata från ChatGPT och Codex i Europeiska unionen. Företaget tillkännagav ändringen den 5 oktober.

OpenAI:s system textGrain ändrar ordvalet diskret för att lägga till en statistisk signal. En detektor söker efter signalen och rapporterar om den hittar ett OpenAI-vattenmärke. OpenAI säger att detektorn varken identifierar användare eller avslöjar deras instruktioner eller konversationer.

Vid lanseringen begränsas tillgången till detektorn till forskare och expertorganisationer. OpenAI säger att godkända grupper kan ansöka om åtkomst och att verktyget inte görs tillgängligt för allmänheten eftersom det kan missa vattenmärken eller ge falska positiva resultat. Företaget säger också att kortare eller mer begränsade texter är svårare att upptäcka och att redigering kan försvaga vattenmärket.

Ändringen gäller berättigade användare i EU; enligt källan påverkas inte användare i USA och Storbritannien. TechRadars Graham Barlow beskriver åtgärden som ett svar på EU:s AI-förordnings krav på att AI-genererad text ska kunna identifieras maskinellt. Barlow ifrågasätter om ett vattenmärke som kan försvagas genom redigering och bara kontrolleras med en begränsad detektor gör AI-genererad text märkbart mer transparent.