La IA está inundando a los servicios públicos con nuevas reclamaciones

Los servicios públicos de todo el mundo están registrando aumentos enormes en solicitudes y reclamaciones a medida que la inteligencia artificial (IA) facilita completar formularios y presentar quejas.

En el Reino Unido, las quejas al ombudsman de vivienda más que se duplicaron desde la introducción de ChatGPT, al pasar de 2600 en 2022 a poco más de 7000 el año pasado. La Oficina de Protección Financiera del Consumidor de Estados Unidos (CFPB, por sus siglas en inglés) registró un crecimiento de 5 veces en las quejas durante el mismo período, y hubo aumentos similares en las peticiones judiciales de Brasil y las peticiones parlamentarias de Alemania.

El investigador Chris Schmitz está rastreando este aumento como parte de una tendencia más amplia que él llama “inundación agencial” (agentic flooding). En un artículo que se presentará el próximo mes en la conferencia AI Ethics and Society, examinó 84 casos distintos de posible inundación en 11 jurisdicciones, y encontró evidencia amplia de que las herramientas de IA están cambiando la forma en que las personas interactúan con los servicios públicos.

La pregunta más difícil es qué hacer al respecto. Algunas de las nuevas solicitudes son claramente adversariales, pero otras provienen de solicitantes legítimos que usan IA para presentar reclamaciones que de otro modo habrían abandonado; aunque algunos podrían ver el nuevo volumen como spam generado por IA, Schmitz ve una oportunidad poco frecuente de rediseñar los servicios sociales para la era de la IA.

Schmitz analizó servicios que van desde solicitudes de asistencia social hasta apelaciones judiciales oficiales, siempre que contaran con sistemas en línea a los que un asistente de IA pudiera acceder. Por razones metodológicas, su artículo se abstiene de afirmar que la IA esté causando directamente el aumento de solicitantes, pero la mayoría de los 84 casos sigue el mismo patrón básico: las presentaciones se mantuvieron relativamente estables antes de 2022 y luego aumentaron a un ritmo creciente a medida que se difundían las herramientas de IA. De forma crucial, la mayoría de los casos no ha visto que ese crecimiento se desacelere, lo que sugiere que probablemente seguirá aumentando durante años.

El aumento en el volumen recuerda lo que experimentaron muchos programas de recompensas por errores (bug bounty) el año pasado, cuando las empresas vieron sus bandejas de entrada inundadas de informes de baja calidad generados por modelos de lenguaje que rara vez contenían fallas de seguridad reales, pero que aun así debían ser revisados, lo que drenaba recursos. Los servicios públicos podrían enfrentar una presión similar al gestionar varias veces más solicitantes con el mismo presupuesto. Pero mientras que los programas de recompensas por errores se vieron inundados de envíos en gran medida sin valor, Schmitz dice que la mayoría de las nuevas solicitudes a los servicios públicos provienen de personas reales con reclamaciones legítimas. “La gran mayoría de los casos que encontramos son personas que tienen derecho a reclamar algo, y lo están reclamando”, dijo a TechCrunch.

Si las personas no reclamaban esos beneficios antes, sugiere Schmitz, puede deberse a que el trabajo de solicitarlos resultaba demasiado disuasivo, lo que los investigadores de políticas públicas llaman carga administrativa. Ahora que la IA puede aliviar parte de esa carga, la ve como una oportunidad para rediseñar estos servicios y hacerlos más compatibles con la IA, en lugar de verlos simplemente como una avalancha que hay que gestionar.

Por qué importa

Si Schmitz tiene razón en que la mayoría de las solicitudes asistidas por IA son reclamaciones legítimas y no spam, la respuesta de política pública relevante no es la detección de fraude, sino el rediseño de los sistemas de recepción de los servicios públicos, construidos para un mundo en el que solicitar era lo bastante difícil como para mantener bajo el volumen.