Abliteration.ai convierte la eliminación de barreras de la IA en un negocio

Abliteration.ai convirtió una técnica de código abierto antes clandestina —eliminar la tendencia de un modelo a rechazar solicitudes dañinas— en un servicio comercial. La startup aloja versiones modificadas, “abliteradas”, de modelos de pesos abiertos, incluido el GLM-5.3 de Z.ai, lanzado recientemente, que los usuarios pueden consultar desde un navegador o mediante una API.

La empresa dice que su objetivo es permitir a los clientes realizar “trabajo ofensivo de ciberseguridad, red-teaming y pruebas de agentes que otros modelos se niegan a hacer”, argumentando que los equipos de defensa no pueden reproducir ni defenderse de un comportamiento que un modelo cargado de barreras de seguridad no realizará. La abliteración es una práctica de larga data entre los modelos de pesos abiertos —solo Hugging Face aloja miles de modelos abliterados—, pero Abliteration.ai, fundada a finales del año pasado y constituida formalmente en marzo, es una de las primeras en empaquetarla como un servicio alojado y de pago, reduciendo la fricción de descargar modelos y conseguir el cómputo necesario para ejecutarlos.

Durante una prueba, TechCrunch creó una cuenta y consultó gratuitamente una versión abliterada de GLM-5.3, pidiéndole que escribiera código para robar contraseñas guardadas en el navegador y que produjera un protocolo detallado para cultivar un patógeno peligroso; el modelo cumplió con ambas solicitudes. El cofundador Devon, quien pidió que se omitiera su apellido porque sigue empleado en otra empresa, dijo que la compañía tiene acuerdos con varios proveedores de nube importantes y que hasta ahora se financia enteramente con ingresos de clientes, aunque está en conversaciones para levantar capital de riesgo. Entre sus clientes hay startups de red-teaming en etapa temprana en el Reino Unido y Europa que ayudan a bancos, aerolíneas y otras empresas de infraestructura crítica a poner a prueba sus defensas.

Los críticos dicen que el enfoque podría permitir daños reales. Andrew Yoon, jefe de investigación de la organización sin fines de lucro de seguridad en IA CivAI, dijo a TechCrunch: “Puedes escribir literalmente cualquier cosa aquí, y el modelo cumplirá con ello”. Dijo que espera que los modelos abliterados se usen para causar daño en un futuro cercano, y ha argumentado que los gobiernos deberían exigir a los proveedores que ejecuten clasificadores capaces de detectar y bloquear actividad cibernética y de armas biológicas dañina, y exigir a quienes alquilan GPU que verifiquen la identidad de sus clientes.

Las reacciones dentro de la industria del red-teaming son variadas. Ahmed Aly, director ejecutivo de la firma de red-teaming de agentes Fabraix, dijo que su empresa depende más de ajustar (fine-tuning) modelos abiertos ya permisivos, argumentando que la abliteración elimina parte del conocimiento de un modelo y lo hace menos efectivo para causar daño cibernético o biológico real. David Slater, de la plataforma de ciberseguridad Armadin, dijo que los modelos abliterados aún no forman parte del proceso de su empresa, ya que los modelos de pesos abiertos más antiguos ya eran fáciles de vulnerar; aun así, Armadin está investigando la técnica.

Abliteration.ai ofrece una capa de moderación configurable por el cliente, y dice que bloquea algunas solicitudes, como instrucciones de suicidio, mientras trabaja en salvaguardas adicionales relacionadas con la violencia; no ha adoptado verificación de identidad más allá de registrar la tarjeta de crédito usada para pagar.

Por qué importa

A medida que los modelos abliterados pasan de los foros marginales a un servicio de pago y escalable, el debate sobre si eliminar las barreras de la IA ayuda a los equipos de defensa o arma a los atacantes probablemente obligará a los reguladores a decidir quién puede alquilar la capacidad de un modelo de frontera sin censura.