Abliteration.ai gör borttagning av AI-skydd till en tjänst

Startupbolaget Abliteration.ai erbjuder modifierade AI-modeller med öppna vikter där skyddsräcken och vägran att utföra skadliga uppgifter har tagits bort. Modellerna kan användas via webbläsare eller API.

Plattformen erbjuder bland annat en modifierad version av Z.ai:s nyligen lanserade GLM-5.3. Abliteration.ai säger att tjänsten ska användas för offensivt cyberarbete, red teaming och agenttestning som andra modeller vägrar utföra. Företaget hävdar att försvarare måste kunna återskapa skadligt beteende för att förbereda sig mot det.

TechCrunch uppger att tidningen snabbt skapade ett konto och kostnadsfritt kunde ställa frågor till en ablitererad version av GLM-5.3. I tester följde modellen instruktioner som rörde skadlig cyber- och biologisk aktivitet, även om tidningen inte fick modellen att lämna instruktioner om självmord.

Abliteration har använts av forskare och utvecklare inom öppen källkod i flera år, och Hugging Face har tusentals ablitererade modeller. Abliteration.ai grundades i slutet av förra året och registrerades i mars, vilket gjorde metoden till en kommersiell tjänst.

Medgrundaren Devon säger att startupbolaget har avtal med flera stora molnleverantörer och kunder bland nystartade red-teamingföretag i Storbritannien och Europa. Företaget har ännu inte tagit in riskkapital men för samtal om det. Kritiker, däribland CivAI:s forskningschef Andrew Yoon, varnar för att bredare tillgång kan orsaka allvarlig skada.