Anthropics policy förbjuder upprepad kränkande behandling av Claude och valpåverkan

Anthropic har uppdaterat sin användningspolicy och förbjuder uttryckligen flera typer av missbruk, däribland valpåverkan, programvara för vapen, övervakning och upprepade verbala kränkningar av Claude.

Enligt policyn gäller regeln om kränkningar bara i extrema fall, när användare upprepade gånger behandlar modellen grymt utan något urskiljbart syfte. Den gäller inte vanlig frustration, kritik, mörka kreativa teman eller testning och forskning av modeller.

Sedan en uppdatering i augusti har Claude tränats att avsluta samtal som innehåller ”ihållande skadliga eller kränkande interaktioner från användare”. Den nya policyn går längre och förbjuder uttryckligen användare att fortsätta sådana interaktioner.

Andra bestämmelser förbjuder omfattande vilseledande kampanjer, till exempel att använda Claude för att driva falska konton eller påhittade nyhetsredaktioner. Ett avsnitt med rubriken ”Do Not Undermine Democratic Processes” handlar om att vilseleda väljare och störa val.