Instagram limitará el alcance de los perfiles con IA no declarados

Instagram anunció el lunes que está cambiando la forma en que etiqueta los perfiles generados con IA y comenzará a limitar el alcance de las cuentas que presenten personas generadas con IA sin declararlo. La plataforma está renombrando su etiqueta actual “AI creator” a “perfil generado con IA”, lo que Instagram dice que hará que la divulgación sea más fácil de entender; la etiqueta busca informar a los usuarios que la persona que aparece en un perfil fue generada o creada en gran parte con IA.

Bajo la nueva política, los creadores que no etiqueten correctamente un perfil generado con IA podrían ver reducido su alcance, mientras que los creadores que usen la nueva etiqueta no serán penalizados simplemente por tener a una persona generada con IA como protagonista de su perfil. La etiqueta no está pensada para todo uso de IA: Instagram dice que las personas que usan IA para editar fotos, pulir textos, crear gráficos u otros retoques creativos no necesitan usarla. “A medida que la IA generativa se vuelve una parte más grande de cómo la gente crea contenido, hemos escuchado que a la gente no le gusta ver un perfil que parece humano, solo para descubrir después que la persona que aparece es generada con IA”, escribió Instagram. “Quieren saber cuándo un perfil presenta a una persona generada con IA”.

El cambio llega en momentos en que crece la frustración por el contenido generado con IA junto con el auge de los influencers de IA. A comienzos de este año, la app de citas para hombres gais Goose fue objeto de una investigación de Wired después de que una red de aparentes influencers masculinos generados con IA promocionara la app en Instagram; Wired encontró más de dos docenas de cuentas que parecían presentar influencers de IA, algunas de las cuales, según se informa, contactaron a usuarios potenciales por mensaje directo para conseguir que se registraran. En el ámbito de la salud y el bienestar, The New York Times reportó en julio haber encontrado cientos de médicos, sanadores y figuras de bienestar generados con IA en redes sociales que promocionaban suplementos o hacían afirmaciones de salud a los usuarios.

El anuncio también llega después de la reacción negativa que enfrentó Instagram por una herramienta de IA que permitía a los usuarios generar imágenes usando la imagen de otras personas sin un consentimiento explícito; Meta retiró luego esa función. La semana pasada, Meta llegó a un acuerdo de USD 18.000 millones con estados de EE. UU. por acusaciones relacionadas con los efectos de Facebook e Instagram en niños y adolescentes, bajo el cual Meta introducirá un límite diario predeterminado de dos horas de uso para adolescentes en ambas plataformas, un bloqueo de “Modo Noche”, notificaciones silenciadas durante el horario escolar, y otras restricciones.

Por qué importa

Vincular el alcance algorítmico a la divulgación de IA le da a Instagram una palanca para exigir transparencia sin prohibir del todo las personas generadas con IA, pero coloca a la plataforma en la posición de vigilar el cumplimiento de una regla de etiquetado que los actores de mala fe tienen incentivos para ignorar.