Musubi presenterar PolicyLM-1.7B för innehållsmoderering i realtid

Musubi har presenterat PolicyLM-1.7B, en lätt beslutsmodell utformad för innehållsmoderering i realtid. Företaget uppger att modellen släppts med öppna vikter.

Modellen ska tillämpa en innehållspolicy skriven på enkel engelska på meddelanden på mindre än 50 millisekunder. Musubi säger att kostnaden och hastigheten ska likna dem hos AI-klassificeringssystem som används för moderering på de flesta sociala plattformar. Enligt företaget kan modellen tillämpa komplexa policyer utan specialträning och behöver inte tränas på nytt när en policy ändras.

Musubis medgrundare och AI-chef Filip Jankovic sade att modellen kan hjälpa plattformsansvariga att märka upp innehåll proaktivt när mängden material växer. Han beskrev skalbar och anpassningsbar märkning som användbar för produktteam.

Beslutsmodeller har fått uppmärksamhet inom AI sedan Typesafe AI släppte Jev i september, följt av konkurrerande modeller från OpenAI och Amazon. Till skillnad från modeller som genererar text ger beslutsmodeller sannolikheter för olika utfall. PolicyLM-1.7B lämnar i stället ett binärt besked: om innehållet tillhör en viss kategori eller inte. Förutbestämda utdata kan göra modellerna snabbare och billigare att köra än stora språkmodeller, samtidigt som de behåller transformatorarkitekturens flexibilitet.

Jankovic sade att hans intresse för metoden började före Jev och går tillbaka till projektet GLiNER från 2024, som använde många av samma tekniker. I Musubis produktmeddelande beskrivs PolicyLM-1.7B som samma slags modell som Jev, tränad särskilt för innehållsmoderering och tillgänglig för användare att köra själva.