Amex crea un marco para verificar las compras de agentes de IA antes del pago

Los agentes de IA personales manejan cada vez más transacciones en nombre de sus propietarios, pero debido a que los modelos de lenguaje grandes son no deterministas, pueden actuar de formas que el usuario no pretendía, incluida la realización de compras que nunca autorizó. American Express afirma que su nuevo marco busca anticiparse a ese problema al garantizar que las instrucciones originales del cliente se mantengan a lo largo de toda la transacción, desde la compra hasta la liquidación.

Bautizado como “Intent Intelligence Framework”, el sistema está diseñado para que las transacciones agénticas involucren a un consumidor, un comercio y un agente, manteniéndose a la vez “fluidas, confiables y seguras”, dijo Hannah Bozian, vicepresidenta de Asociaciones y Estrategia Agéntica de Amex, en una entrevista con TechCrunch. El lanzamiento se apoya en el kit de herramientas para desarrolladores Agentic Commerce Experiences (ACE) que la empresa presentó en abril, un conjunto de servicios que ahora incluye el marco de intención.

Amex dijo que todavía no ha visto un aumento en las disputas vinculadas al comercio agéntico, pero quiso construir la tecnología de forma proactiva a medida que ese tipo de comercio se expande: los consumidores han mostrado apertura a esta posibilidad. Según un reciente informe de Amex Trendex, el 66% de los consumidores estadounidenses encuestados dijo que es probable que use agentes de IA para investigar el mejor precio de un producto o servicio durante los próximos 12 meses, y el 61% dijo lo mismo sobre obtener una recomendación de producto o servicio.

El marco comienza con una API de creación de intención que captura las instrucciones de compra del cliente y cualquier restricción, como el nombre del comercio, el presupuesto máximo o las preferencias de producto; el método exacto de recopilación varía según el modelo de IA, pero el sistema está pensado para ser lo suficientemente flexible como para admitir cualquier modelo de comercio agéntico, dijo Bozian. Luego, el cliente autentica su identidad y aprueba la intención capturada, lo que genera un ID de Intención y un Token de Prueba de Intención que contiene las restricciones de alto nivel del cliente. Ese token se usa para obtener una credencial de pago digital segura que el agente utiliza al finalizar la compra en lugar del número real de la tarjeta del cliente, y tanto el ID de Intención como el token también pueden respaldar la prevención de fraude y la resolución de disputas.

Bozian dijo que el marco incorpora la intención más temprano en la transacción que otros enfoques, lo que ayuda a mitigar el riesgo antes de que ocurra; por ejemplo, si un cliente le pide a un agente que compre tenis Nike blancos en talla 9 pero el agente solicita zapatos de Adidas en su lugar, Amex podría bloquear la transacción por no coincidir con la intención autorizada. También dijo que un registro de lo que cada agente estaba autorizado a hacer, y cuándo, podría ayudar a abordar el fraude relacionado con agentes, y que Amex espera que, con el tiempo, los agentes actúen de forma más autónoma en categorías recurrentes de menor riesgo, como reabastecer productos básicos del hogar. Amex ya está en conversaciones con socios de todo el ecosistema de pagos para implementar ACE, y dijo que planea seguir desarrollando el kit de herramientas a medida que evolucione el ecosistema de comercio agéntico.

Por qué importa

A medida que los agentes de IA asumen más decisiones de compra, un estándar para demostrar lo que un cliente realmente autorizó podría definir cómo se manejan las disputas y la responsabilidad por fraude en toda la industria de pagos, no solo en Amex.