OpenAI ska vattenmärka ChatGPT- och Codex-text i EU

OpenAI ska lägga till en osynlig vattenstämpel i text som genereras av ChatGPT och Codex i EU, uppgav företaget i ett blogginlägg. Utrullningen planeras under de kommande veckorna för behöriga användare med alla abonnemang i EU. OpenAI sade att vattenmärkning av text inte blir global standard vid lanseringen.

Utvecklare som använder OpenAI:s API var som helst i världen kan från och med i dag aktivera vattenstämpeln för utvalda modeller; funktionen är avstängd som standard. EU AI Act:s transparensregler trädde i kraft den 2 augusti och kräver att AI-företag märker AI-genererat innehåll så att andra system kan identifiera det.

Vattenstämpeln är ingen synlig symbol. I stället påverkar den ordvalet diskret för att skapa ett mönster som en detektor kan känna igen. OpenAI uppgav att den inte identifierar användare och att aktiveringen inte medförde någon betydande förändring av modellernas prestanda. Företaget publicerade också en teknisk rapport om metoden, som heter textGrain och har skrivits tillsammans med forskare från University of Pennsylvania och Yale.

OpenAI:s tester visade att redigering kan försvaga detekteringen: När 10 % av orden ersattes med synonymer sjönk detekteringen från cirka 92 % till 66 %. Företaget sade att även korta texter, mattesvar och översatt text är svårare att upptäcka. OpenAI varnade för att en saknad vattenstämpel inte bevisar att en människa har skrivit texten. En vattenstämpel kan visa att ett OpenAI-system har genererat eller bearbetat en del av en text, men inte hur mycket mänskligt omdöme eller redigering som ingick.

OpenAI sade att endast godkända forskare och expertorganisationer till en början får tillgång till detektorn för att hjälpa till att utvärdera dess tillförlitlighet och ansvarsfulla användning.