Dokument från OpenAI och Microsoft beskriver en ”ond cirkel” för webben

Nyligen offentliggjorda domstolshandlingar i The New York Times mål mot OpenAI och Microsoft beskriver interna farhågor om hur AI-system kan skada utgivare och webben i stort.

Brent Hecht, chef för tillämpad vetenskap på Microsoft, ska ha kallat ChatGPT:s och Copilots insamling av data för ”den största stölden av arbete i mänsklighetens historia” och sagt att Microsofts försvar gjorde ”fullständigt narr” av principen om skälig användning. Microsofts talesperson Alex Haurek sade att kommentarerna speglade en anställds perspektiv, inte var en juridisk analys och inte representerade Microsofts uppfattning. Jordan Usdan beskrev Hechts synpunkter som akademiska och framåtblickande.

Ett Microsoft-dokument beskrev en AI-innehållsstrategi som hade skapat en ”ond cirkel”, där företagets modeller och webben kunde skadas samtidigt. I handlingarna står också att Satya Nadella medgav att chattbotar hade minskat behovet av att gå till ursprungliga källor, medan en OpenAI-representant inte kände till några försök att ta bort betalväggsskyddat material från träningsdata.

• OpenAI-dokument uppges ha sagt att GPT-4 hade ”memorerat enorma mängder data” och var mycket bra på att återge material ordagrant.
• OpenAI:s Jack Clark beskrev system som kan ersätta människor vars arbete formar samhällets kultur.
• Microsoft citerades säga att stora språkmodeller kan förstöra sin egen innehållsförsörjning genom att ersätta källorna som används för träning.

Den 92 sidor långa inlagan innehåller uttalanden från bland andra Sam Altman, Greg Brockman, Nick Turley och andra OpenAI-anställda. The Verge rapporterade att Microsoft och OpenAI har försökt ta avstånd från vissa av påståendena.