Anthropic har lagt till en regel i sitt Usage Policy som förbjuder ”ihållande och onödigt kränkande eller grymt beteende” mot företagets Claude-modeller. Regeln finns i ett avsnitt om grymt, kränkande eller psykiskt skadligt beteende, tillsammans med begränsningar kring självmord och självskada, mobbning, våld, skadliga deepfakes och vilseledande innehåll.
Anthropic sade i augusti i fjol att Claude kunde avsluta samtal som blev kränkande. Företaget beskrev nyligen detta som sin ”främsta metod för att upprätthålla reglerna”. Det är inte känt om Anthropic också kommer att stänga av användare som upprepade gånger behandlar modellerna illa.
Företaget säger att den nya regeln är avsedd för extrema fall av upprepad grymhet utan något urskiljbart syfte. Enligt Anthropic omfattar den inte vanlig frustration, invändningar, mörka kreativa teman eller testning och forskning av modeller.
Ändringen har väckt debatt om huruvida AI-modeller kan fara illa. Anthropic-chefen Dario Amodei har sagt att företaget inte vet om modellerna är medvetna. Microsoft AI-chefen Mustafa Suleyman har hävdat att AI inte bör ha rättigheter eller juridisk personlighet.
En teori som cirkulerar på Reddit är att artiga träningsdata är mer användbara för att förbättra modeller, men källan uppger att det saknas tydliga bevis för den förklaringen. Enligt artikeln kan Anthropic i stället vilja uppmuntra ett artigt bemötande.
Kommentarer
0Inga kommentarer ännu. Skriv den första.