Anthropic prohíbe el abuso prolongado de Claude y agrega reglas electorales

Anthropic actualizó su política de uso el jueves, al codificar nuevas prohibiciones sobre interferencia electoral, software de armamento y vigilancia. El cambio que más atención generó impide a los usuarios ejercer abuso verbal prolongado contra el modelo, lo cual ahora queda expresamente prohibido.

Desde una actualización en agosto, Claude ha sido entrenado para terminar conversaciones ante “interacciones de usuarios persistentemente dañinas o abusivas”, pero la nueva política ahora impide explícitamente a los usuarios siquiera emprender esas conversaciones. “La actualización de la política busca aplicarse solo en casos extremos, en los que los usuarios actúan con crueldad de forma reiterada hacia nuestros modelos, sin un propósito identificable”, dijo la empresa en una publicación de blog. “No se aplica a las formas comunes de frustración del usuario, el desacuerdo, los temas creativos oscuros, ni a las pruebas o investigaciones sobre el modelo.”

El cambio llega después de que Anthropic buscara colaboraciones con destacados estudiosos religiosos, en algunos casos, con el objetivo de convencerlos de que Claude podría tener conciencia o alma.

Secciones separadas de la política de uso prohíben a los usuarios participar en campañas ampliamente engañosas, como usar Claude para operar cuentas falsas o medios de noticias fabricados. La política también incluye reglas contra engañar a los votantes o perturbar elecciones, reunidas en una sección titulada “No socavar los procesos democráticos” (“Do Not Undermine Democratic Processes”).

Por qué importa

La prohibición explícita indica que Anthropic está formalizando salvaguardas tanto en torno al trato hacia el modelo como al uso indebido en procesos electorales, en un momento en que las empresas de IA enfrentan un escrutinio creciente sobre cómo podrían usarse sus modelos en el contexto de elecciones.