Cuando las máquinas compran, la confianza deja de ser una cuestión emocional

Isabel R. Benítez | 22 mayo, 2026 | 0 comentarios

Hay una cosa que siempre se ha dicho de los médicos: deben transmitir confianza al paciente. Puedes tener al mejor especialista delante, pero si no genera una cierta conexión, difícilmente te pondrás en sus manos.

La confianza tiene, por tanto, un componente subjetivo, y a veces incluso irracional, que aplica a todas las relaciones humanas y durante mucho tiempo intervino también en nuestra forma de comprar: recurríamos a una marca o a una tienda concretas porque eran las de toda la vida, porque nos habían tratado bien en el pasado o porque despertaban en nosotros cierta simpatía.

Con la digitalización y el nacimiento del ecommerce, junto a la globalización y la explosión de opciones para un mismo producto o necesidad, esa confianza empezó a adquirir otro cariz y a medirse también en términos matemáticos, técnicos: precios más ajustados, proceso sin fricción, seguridad del pago, rapidez de entrega o facilidad de devolución. Y, aún así, seguía habiendo una decisión humana al final del proceso.

Pero, ¿qué sucederá cuando todo, desde el descubrimiento hasta el cierre de la transacción, lo deleguemos en un agente de IA autónomo?

“La confianza ya no es emocional o reputacional, como ocurría en sus orígenes; ahora es infraestructura”, ha respondido Bartosz Skwarczek, fundador de G2A.COM, durante la apertura de The Trust Algorithm; un encuentro que ha reunido en Varsovia a profesionales del ecommerce, los pagos digitales, la privacidad y la ciberseguridad para analizar los retos del futuro comercio agéntico.

Cuando un sistema de IA adquiere un producto o servicio en nombre de una persona, no establece una relación de confianza con el vendedor, sea este una marca o el establecimiento, de la misma forma en la que lo haría un ser humano. Su objetivo es encontrar la manera más eficiente, segura y fiable de cumplir la instrucción que ha recibido. Y para lograrlo no se guía por percepciones subjetivas, ni se deja convencer por una estética, una historia o una sensación de familiaridad determinadas.

En un comercio agent-to-agent (A2A) la máquina que nos representa se comunica con la máquina que representa al proveedor en su lenguaje común; esto es, en términos técnicos. Usa criterios y señales verificables: la identidad del usuario, permisos y credenciales verificadas, la fiabilidad del vendedor, patrones de fraude, la disponibilidad de diferentes métodos de pago y su seguridad, la trazabilidad de la operación, el respeto al marco regulatorio vigente o la capacidad de respuesta ante incidencias.

En este contexto, la confianza se convierte en algo externo al usuario, en una capa prácticamente invisible para él, pero decisiva para que el proceso de compra automatizado funcione de principio a fin.

Cuando las máquinas compran, la confianza deja de ser una cuestión emocional

Verificar quién compra y quién responde

El problema es que esa infraestructura tiene que operar en un entorno cada vez más complejo y agresivo. “El panorama de amenazas está evolucionando rápidamente”, ha advertido Skwarczek, sobre todo, porque la propia IA está rebajando las barreras de entrada al fraude digital.

“Antes necesitabas ciertas capacidades técnicas para cometer fraude; ahora solo necesitas una herramienta de IA”, ha añadido Mia Sari, Senior Solutions Consultant en la compañía especializada en prevención de fraude online Forter. Desde identidades sintéticas hasta bots capaces de imitar comportamientos humanos o llamadas falsas que usan deepfakes de voz, la IA está multiplicando la sofisticación de las amenazas, así como su velocidad y escalabilidad.

En un contexto en el que los agentes de IA empiezan a interactuar entre sí, en nombre del consumidor y del vendedor, sin supervisión de ninguno de ellos, esa verificación será aún más crítica que en el ecommerce tradicional.

Si el primero está delegando por completo en el sistema de IA, espera no solo procesos fluidos y sin fricción, sino también garantías de seguridad y capacidad de respuesta cuando algo sale mal. La empresa, por su parte, quiere garantías de que detrás del agente que inicia y termina la transacción hay una persona real que recibirá ese servicio o producto y, lo más importante, pagará por él.

De ahí que buena parte de la conversación que ha tenido lugar en la capital polaca se haya centrado en cómo construir mecanismos de trazabilidad capaces de operar en ese ecosistema automatizado y en definir en quién recae la responsabilidad si algo va mal.

La intención del usuario, traducida a código

Aquí Daria Augu?cik, responsable de Digital Acceptance Business Development en Mastercard, ha apuntado al sentido común: “Si el cliente dio la instrucción y la confirmó, la responsabilidad es suya. Si no, la responsabilidad recae sobre el agente”.

La compañía trabaja junto a otras empresas del sector en un nuevo modelo para confirmar la intención real del usuario humano antes de que un agente complete una compra de manera autónoma. La idea es transformar esa intención en algo verificable técnicamente; es decir, registrar qué instrucciones dio el consumidor, bajo qué límites podía actuar el agente (presupuesto, tipo de producto, método de pago o condiciones de compra) y qué transacción acabó ejecutándose finalmente. Si se produce un error, siempre se podrá volver a ese rastro trazable para identificar dónde y quién o qué lo inició.

Eso sí, confirmar el mandato del usuario no resuelve por sí solo todo el problema. Antes incluso de ejecutar la compra, el agente tiene que interpretar correctamente qué quería este. Ahí aparece otro desafío central del comercio agéntico: el alineamiento.

Cuando las máquinas compran, la confianza deja de ser una cuestión emocional

Cuando la IA decide qué marcas existen

“Las grandes tecnológicas se han centrado hasta ahora en lograr que los modelos den respuestas correctas desde el punto de vista del conocimiento. Pero cuando llevas esto al consumidor, las capas de confianza son distintas. La cuestión pasa a ser si el agente entendió mi intención y actuó de acuerdo con ella”, ha señalado Olaf Piotrowski, experto en datos e IA de Google.

Un agente puede encontrar el producto más barato, pero ignorar preferencias implícitas, priorizar comercios poco fiables o terminar condicionando las propias decisiones del usuario mediante inferencias automatizadas. La IA deja así de limitarse a recomendar productos para empezar a moldear activamente el proceso de consumo, con una derivada adicional que tiene que ver con la invisibilidad de muchas marcas para el usuario final.

Como ha explicado Natalia Wardejn, socia de GCG, si el agente filtra, compara y decide por el consumidor, este nunca tendrá noticias de las opciones que quedaron descartadas. De ahí, el boom actual en torno al GEO y las estrategias de optimización del posicionamiento en motores generativos.

Un reto más allá de lo técnico

La buena noticia es que puede que todavía nos quede tiempo para reaccionar. Como ha dejado claro Loïc Deguet, Head of Account Management Checkout, el despliegue del comercio agéntico no depende exclusivamente de las capacidades técnicas de la IA. Hay un componente esencial de coordinación entre los actores del ecosistema, de adaptación regulatoria y construcción de nuevos estándares, pero también de aceptación y adopción social de estas nuevas herramientas.

A ello, Anna Klimczuk ha añadido una última barrera para la adopción definitiva de la IA generativa en ecommerce: “el ego de personas y organizaciones”. Para la directora de comunicación de Microsoft Central Europe, todo el mundo quiere ser el primero, pero muchas compañías están integrando IA simplemente porque es la tecnología que más rápido evoluciona, sin analizar realmente qué aporta al negocio o si encaja con sus necesidades.

Sin embargo, en comercio digital la confianza —y, por tanto, el éxito— no dependerá de quién llegue antes. Para Pawe? Wróbel, Chief Growth Officer de G2A.COM, la clave residirá en quién consiga integrar la tecnología sin romper la experiencia que pretende mejorar.