Meta lanza IA para detectar anuncios que ocultan material de abuso infantil

Meta anunció el miércoles que más del 97% del contenido contra el que actuó en la primera mitad de 2026 fue detectado por sus propios sistemas antes de que los usuarios lo reportaran. En India, la empresa dice que actuó contra 5,3 millones de piezas de contenido de explotación sexual infantil durante el mismo periodo, con más del 98% detectado antes de ser reportado.

Meta dijo que las nuevas herramientas apuntan a anuncios que parecen inofensivos pero están diseñados para dirigir a los usuarios hacia contenido ilegal alojado fuera de las plataformas de Meta. La nueva herramienta de la empresa es un sistema de modelo de lenguaje grande (LLM) creado para detectar lo que la empresa llama “signposting”: anuncios que se sospecha dirigen a los usuarios hacia contenido ilegal u otra actividad dañina en otros sitios — una táctica que, según Meta, los actores maliciosos han adoptado cada vez más para evadir la detección. Debido a que los anuncios en sí mismos pueden no contener material ilegal, Meta dice que ahora está examinando hacia dónde dirige un anuncio a los usuarios, no solo lo que muestra el anuncio, para poder bloquear los sitios de destino y actuar contra las cuentas que los operan.

Meta también está ejecutando escaneos adicionales impulsados por IA para detectar contenido de explotación infantil que los sistemas anteriores pudieron haber pasado por alto, y dice que seguirá añadiendo nuevas señales de detección a medida que aprenda más sobre cómo operan estas redes. Otra herramienta nueva, un “agente de IA de red-teaming”, pone a prueba las propias medidas de seguridad de Meta en busca de debilidades que los actores maliciosos podrían explotar, lo que la empresa dice que podría ayudarle a detectar nuevos métodos de abuso antes de que se vuelvan más comunes. Meta también está mejorando su capacidad para detectar a personas que regresan a sus plataformas con cuentas nuevas después de que sus cuentas anteriores fueron eliminadas.

Este lanzamiento llega mientras Meta enfrenta presión continua por la seguridad de los menores en sus plataformas, incluidas demandas y críticas de legisladores por los riesgos que sus servicios de redes sociales podrían representar para los usuarios jóvenes. En agosto, la empresa acordó pagar hasta USD 18.000 millones para resolver una demanda por seguridad infantil presentada por 29 estados de EE. UU. Meta ha introducido varias otras funciones de seguridad infantil este año, incluidos controles parentales para Meta AI, cuentas preadolescentes en WhatsApp, y alertas para los padres cuando los menores buscan contenido de autolesión en Instagram. En septiembre, WhatsApp añadió más controles parentales que permiten a los padres limitar el uso que hacen los adolescentes de los Canales, controlar quién puede ver sus actualizaciones de estado, decidir quién puede agregar a sus hijos a grupos, y recibir notificaciones sobre cierta actividad grupal.

Por qué importa

El cambio de examinar el contenido de los anuncios a rastrear hacia dónde dirigen a los usuarios podría dificultar que los actores maliciosos usen colocaciones aparentemente inofensivas como puerta de entrada a material ilegal, mientras Meta sigue enfrentando presión legal y regulatoria por la seguridad infantil en sus plataformas.