Apple uppdaterar App Store-regler för att rikta in sig på AI-appar som skapar nakenbilder

Apple har uppdaterat reglerna för App Store för att tydligare förbjuda appar som använder artificiell intelligens för att skapa intima bilder av personer utan deras samtycke. I uppdateringen, som företaget meddelade på fredagen, står det att utvecklare aktivt måste förebygga och ta bort sexuella bilder som sprids utan samtycke enligt butikens krav på innehållsmoderering.

Utvecklare som saknar tillräckliga skyddsåtgärder eller inte åtgärdar överträdelser efter en underrättelse kan få sina appar borttagna från App Store. Apple förtydligade också förbudet mot appar som efter godkännande lägger till eller ändrar funktioner, däribland ”nudification”.

Ändringarna kommer efter kritik mot Apple sedan användare på X använde Grok för att skapa sexualiserade deepfakes utan samtycke, även bilder av minderåriga. Apple tog inte bort X eller Grok från App Store, men sade till senatorer att företaget hade hotat med att ta bort Grok. Vid Apples WWDC-evenemang i juni krävde demonstranter att Grok, X och ”nudify”-teknik skulle tas bort. I juli beordrade en stadsåklagare i San Francisco Apple att ta bort 13 ”nudify”-appar; Apple sade att det hade gjort det.

Apples regler klargör också att appar som underlättar människohandel eller exploatering av barn kommer att tas bort från App Store och blockeras från alternativ distribution.