Musubi presenta PolicyLM-1.7B para moderar contenido en tiempo real

Musubi ha anunciado PolicyLM-1.7B, un modelo de decisión ligero diseñado para moderar contenido en tiempo real. La empresa afirma que lo publicó con pesos abiertos.

El modelo está pensado para aplicar a los mensajes, en menos de 50 milisegundos, una política de contenido redactada en inglés sencillo. Musubi afirma que su coste y velocidad están diseñados para ser similares a los de los sistemas de clasificación con IA que se usan para moderar contenido en la mayoría de las plataformas sociales. Según la empresa, el modelo puede aplicar políticas complejas sin entrenamiento especial y no necesita volver a entrenarse cuando cambia una política.

Filip Jankovic, cofundador y director de IA de Musubi, dijo que el modelo podría ayudar a los responsables de plataformas a etiquetar contenido de forma proactiva a medida que crece su volumen. Describió el etiquetado escalable y personalizable como útil para los equipos de producto.

Los modelos de decisión han llamado la atención en el ámbito de la IA desde que Typesafe AI publicó Jev en septiembre, seguido de modelos competidores de OpenAI y Amazon. A diferencia de los modelos que generan texto, los modelos de decisión producen probabilidades de resultados. PolicyLM-1.7B devuelve en cambio un dictamen binario: si el contenido pertenece a una categoría determinada o no. Las salidas predeterminadas pueden hacer que estos modelos sean más rápidos y baratos de ejecutar que los grandes modelos de lenguaje, y conservar a la vez la flexibilidad de la arquitectura transformer.

Jankovic dijo que su interés por este enfoque es anterior a Jev y se remonta al proyecto GLiNER de 2024, que empleó muchas de las mismas técnicas. El anuncio del producto de Musubi describe PolicyLM-1.7B como un modelo del mismo tipo que Jev, entrenado específicamente para moderar contenido y disponible para que los usuarios lo ejecuten por su cuenta.