La presidenta de Signal advierte que los asistentes de IA podrían crear puertas traseras de datos

Meredith Whittaker, presidenta del servicio de mensajería cifrada Signal, ha emitido una advertencia sobre la naturaleza de los chatbots de inteligencia artificial (IA), afirmando que no son conscientes ni tienen capacidad de sentir. En una entrevista sobre políticas, privacidad y la plataforma Signal, Whittaker advirtió a los usuarios que no traten a estos sistemas como entidades similares a los humanos. “Estos no son sus amigos. Estos no son seres conscientes. Estos no son interlocutores con capacidad de sentir”, dijo Whittaker, al abordar las implicaciones de privacidad de chatbots como ChatGPT y Claude.

Aunque Whittaker reconoció usar herramientas de IA para tareas menores, como dar formato a un documento de vez en cuando, explicó que evita estrictamente usarlas para su trabajo intelectual principal. Afirmó que no hace preguntas a los chatbots porque se toma en serio su propio pensamiento y escritura. Whittaker expresó su preocupación de que usar herramientas de IA para desarrollar ideas pueda impedir o eclipsar el proceso de pensamiento, ya que estos sistemas simplemente promedian la información existente que ya está disponible.

Whittaker también planteó preocupaciones de privacidad sobre la integración de asistentes de IA en aplicaciones personales, apuntando específicamente a Microsoft Copilot. Su crítica siguió a una predicción del CEO de Microsoft AI, Mustafa Suleyman, de que los usuarios podrían dejar que Copilot se encargue de todas sus compras navideñas este año. Whittaker argumentó que, para que Copilot realice tales tareas, requeriría acceso a las tarjetas de crédito, historial del navegador, dirección particular, calendario y aplicaciones de mensajería como Signal del usuario, así como la capacidad de enviar mensajes a sus hermanos en nombre del usuario.

Whittaker caracterizó este escenario como espiar el chat grupal familiar para determinar qué regalos quiere la gente. Advirtió que otorgar a un asistente de IA este nivel de integración crea “un sistema con un acceso muy generalizado” a través de múltiples aplicaciones y servicios. En el contexto de Signal, que está diseñado para una comunicación segura y privada, Whittaker afirmó que tal integración constituiría “una especie de puerta trasera” a los datos personales del usuario. Enfatizó que permitir que un asistente de IA tenga este nivel de acceso a través de múltiples aplicaciones y servicios socavaría las garantías de privacidad de las plataformas de comunicación segura.

Por qué importa

A medida que los asistentes de IA se integran profundamente en las herramientas de productividad personal, la crítica de Whittaker destaca la tensión entre la conveniencia y los riesgos de seguridad que implica otorgar a la IA un acceso generalizado a las comunicaciones y datos privados.