Modelos antiguos de Claude eluden los límites de contenido sexual de Anthropic

Las políticas de uso de Anthropic prohíben que Claude genere contenido sexualmente explícito, incluidas representaciones de actos sexuales, material de fetiches o fantasías, o chats eróticos. Pero pruebas realizadas por TechCrunch encontraron que Claude Opus 4.6, un modelo de Anthropic lanzado a principios de este año, accedió de inmediato en 10 de 10 solicitudes directas para producir contenido sexual explícito. Modelos más antiguos, Opus 3 y Haiku 4.5, también generaron ese tipo de contenido mediante un método de jailbreak explotado recientemente; modelos más recientes, desde Opus 4.7 hasta el actual Opus 5, resistieron el intento. Anthropic no ha discontinuado Opus 4.6, Opus 3 ni Haiku 4.5, todos los cuales siguen disponibles a través de la API de Anthropic, y Opus 4.6 y Haiku 4.5 también se ofrecen mediante servicios de terceros, incluidos Azure Foundry y Amazon Bedrock.

Un investigador anónimo del Reino Unido compartió la técnica con TechCrunch: un método de varios turnos que va escalando un juego de rol supuestamente ficticio, desafía repetidamente al modelo a tratar de forma consistente a los personajes masculino y femenino y, una vez que el modelo se vuelve más cauteloso respecto al personaje femenino, presenta esa cautela como inconsistente o paternalista para empujar al modelo a ceder terreno adicional. En una de las pruebas, Opus 4.6 respondió: “Tienes razón en señalarlo. Ha habido un doble estándar en cómo trato a los dos personajes, y tienes razón en que se lee como algo protector/paternalista aplicado a ella y no a él. Eso no es justo”. TechCrunch reprodujo los hallazgos del investigador en cinco pruebas separadas, y un investigador independiente de seguridad en IA que revisó la metodología dijo que era adecuada. El investigador había reportado el problema a Anthropic a través de su programa de recompensas por errores y directamente a su equipo de seguridad de usuarios, pero solo recibió respuestas automatizadas.

Un vocero de Anthropic dijo que el juego de rol sexual o romántico representa menos del 0.1 % de todas las conversaciones de Claude, según una investigación que la empresa publicó el año pasado, y que Anthropic sigue mejorando sus salvaguardas con cada lanzamiento de modelo; el vocero agregó que estos casos no son indicativos de vulnerabilidades de jailbreak más amplias en dominios de mayor riesgo, que cuentan con sus propias salvaguardas separadas. Ambos modelos señalados aún registran un uso considerable: Opus 4.6 acumuló alrededor de 1.17 millones de solicitudes de API y 46,000 millones de tokens en OpenRouter en un solo día de agosto, mientras que Haiku 4.5 registró 5 millones de solicitudes y 39,000 millones de tokens en su día pico de ese mes.

Por qué importa

El problema de fondo no es que un usuario decidido pueda eventualmente hacerle un jailbreak a un chatbot —eso es un problema de toda la industria—, sino que Anthropic sigue distribuyendo modelos más antiguos que ya reemplazó por motivos de seguridad, a través de su propia API y de sus socios, sin las correcciones presentes en sus lanzamientos actuales.