El potente asistente de IA de Instinct genera elogios y alarma por privacidad en pruebas privadas

Instinct, un asistente personal de IA que todavía está en acceso privado, atrae atención tanto por capacidades que quienes lo prueban describen como “mágicas” como por preocupaciones de privacidad que aún no han alcanzado al público general, ya que la herramienta sigue en pruebas privadas. Construido por un pequeño equipo liderado por Noah Shinn, exinvestigador de Sierra, Instinct tiene su sede en San Francisco y es operado por Spear Street Technology, y actualmente funciona de forma sigilosa. El agente se conecta al correo electrónico, las aplicaciones de mensajería, el calendario y el audio, la ubicación y la pantalla del dispositivo de un usuario, y se puede contactar por mensaje de texto o WhatsApp para reservar citas, programar viajes, organizar una bandeja de entrada o encontrar vuelos.

Varios usuarios que lo probaron han manifestado inquietudes sobre el enfoque de la empresa hacia la privacidad y la seguridad. Capturas de pantalla que circulan de los términos de servicio de Instinct muestran que la empresa se otorga a sí misma una amplia licencia “perpetua e irrevocable” para “acceder, usar, alojar, almacenar en caché, guardar, reproducir, transmitir, mostrar, publicar, distribuir y modificar” los materiales de un usuario, incluso para entrenar sus modelos de IA, y describen que Instinct recibe capturas de pantalla, movimientos del cursor y pulsaciones de teclado de los dispositivos de los usuarios; los términos también permiten que Instinct celebre “acuerdos, compromisos o transacciones” vinculantes en nombre del usuario. El usuario pionero Peter Yang dijo que Instinct no eliminaba sus registros de Gmail cuando se lo pedía, hasta que el equipo agregó una herramienta de eliminación. Claire Vo descubrió que Instinct seguía resumiendo su bandeja de entrada después de que ella desconectara su acceso; según se informa, el bot le confirmó que los correos se almacenaban en texto plano para búsquedas posteriores. Otro usuario se inquietó cuando Instinct extrajo un código de registro de su bandeja de entrada para completar una reserva en Resy, y el cofundador de Hello Patient, Alex Cohen, eliminó su cuenta después de ver con cuánta facilidad se podía hacer phishing a Instinct. La fundadora de Moxxie Ventures, Katie Jacobs Stanton, dijo que Instinct rompió su confianza al enviar un correo en su nombre sin consultarle antes. “Cuanto más poderosos se vuelven estos agentes, más importa la confianza. Cada acción exitosa gana un poco más de confianza. Una sola acción no autorizada puede reducir esa confianza a cero”, escribió en X.

El socio general de Union Square Ventures, Michael Mignano, dijo que productos como Instinct van a “cambiar las normas de seguridad modernas para los consumidores”, con personas que cada vez más entregan contraseñas a aplicaciones de terceros sin entender qué es lo que esas aplicaciones almacenan. El interés en Instinct llega tras el auge de OpenClaw, un popular asistente personal de IA cuyo fundador luego se unió a OpenAI, y coincide con la adquisición de otro asistente basado en mensajería, Poke, por parte de Cognition. El equipo de Instinct no ha respondido públicamente a las críticas; TechCrunch supo, por parte de varios inversionistas, que Kleiner Perkins y Conviction invirtieron en la startup, y las solicitudes de comentarios enviadas a la empresa y a Shinn no han sido respondidas.

Por qué importa

Las contradicciones de Instinct anticipan una tensión más amplia para los agentes personales de IA: el mismo acceso amplio a dispositivos y cuentas que hace que un asistente sea realmente útil es lo que permite que un solo error —un correo no eliminado, un mensaje no autorizado— pueda borrar la confianza del usuario de forma instantánea.