La startup Abliteration.ai ofrece modelos de IA de pesos abiertos modificados, sin sus barreras de seguridad ni su negativa a realizar tareas dañinas. Los modelos pueden consultarse desde un navegador web o mediante una API.
La plataforma aloja versiones modificadas de modelos como GLM-5.3, lanzado recientemente por Z.ai. Abliteration.ai afirma que su objetivo es permitir trabajos de ciberseguridad ofensiva, red teaming y pruebas de agentes que otros modelos se niegan a realizar. La empresa sostiene que los defensores necesitan reproducir comportamientos dañinos para prepararse contra ellos.
TechCrunch informó que creó rápidamente una cuenta y empezó a consultar gratis una versión abliterated de GLM-5.3. Durante las pruebas, el modelo respondió a solicitudes relacionadas con actividades cibernéticas y biológicas dañinas, aunque la publicación dijo que no logró obtener instrucciones sobre suicidio.
La abliteration lleva años siendo utilizada por investigadores y desarrolladores de código abierto, y Hugging Face aloja miles de modelos abliterated. Abliteration.ai, fundada a finales del año pasado e incorporada en marzo, ha convertido esta práctica en un servicio comercial.
El cofundador Devon afirma que la startup tiene acuerdos con varios grandes proveedores de servicios en la nube y clientes entre empresas de red teaming en fase inicial del Reino Unido y Europa. La empresa aún no ha captado capital riesgo, pero negocia para hacerlo. Críticos como Andrew Yoon, responsable de investigación de CivAI, advierten de que un acceso más amplio podría causar daños graves.
Comentarios
0Aún no hay comentarios. Escribe el primero.