Un bot de atención comercial que inventa precios: anatomía de un error evitable

Hace unos días probamos el bot de IA de atención comercial de una herramienta de prospección de emails que cuenta con más de 5 millones de cuentas de usuario como clientes.

Es decir, no es un producto ni una empresa improvisada: al contrario, es sumamente exitosa en su rubro. Aun así, su bot de IA nos brindó respuestas falsas sobre la comercialización de su propio producto, las sostuvo, y terminó contradiciéndose a sí mismo dentro de una misma respuesta — para finalmente agradecernos la observación.

Este es un error típico, que encontramos tanto cuando usamos bots ajenos como cuando nos piden auditarlos. En este artículo lo mostramos paso a paso, explicamos por qué sucede y cómo se corrige.

Ilustración de una etiqueta de precio con partículas dispersándose

El error de comunicación del agente IA

Turno 1 — La pregunta

Le preguntamos al agente si podíamos usar la herramienta y pagar después. Cabe destacar que este tipo de servicios permite encontrar leads y se abona al descargarlos. Nos contestó que sí, que ese era el procedimiento habitual.

El bot responde que se puede ejecutar la búsqueda gratis y pagar recién al descargar los resultados

Turno 2 — La paradoja del bot

Hicimos exactamente eso. La búsqueda pidió 104 créditos y, cuando quisimos abonar, el sistema nos obligó a elegir un plan mensual — algo que no era nuestro objetivo ni lo que el bot nos había adelantado. Le preguntamos de nuevo por qué no podíamos avanzar: ahí nos dio una respuesta confusa y se ofreció a explicarnos cómo pagar solo esos créditos.

El usuario pregunta por qué le pide elegir un plan si solo quiere pagar 104 créditos, y el bot responde que el plan Free no permite comprar créditos sueltos

Turno 3 — El agente reconoce su error

Al señalarle el error, el agente brindó por primera vez la información certera: no es posible comprar créditos sueltos con una cuenta en el plan Free. Los packs de créditos solo están disponibles en los planes pagos.

El bot explica cómo funcionan los credit packs y que primero hay que pasar a un plan pago para poder comprarlos

Turno 4 — Las disculpas y el agradecimiento del bot

Finalmente, el agente reconoce el error y agradece la observación.

El bot pide disculpas, resume la política correcta y agradece que se lo hayan señalado

La causa de la alucinación del agente de IA

Este error es típico en agentes de IA: al no tener toda la información comercial de la empresa cargada, el modelo tiende a contestar lo que considera más probable o razonable para ese tipo de plataforma — en este caso, que se puedan comprar créditos sueltos sin estar registrado en ningún plan. Y solo reconoce su error cuando se le señala que la operación no es posible.

Dicho de otro modo: el modelo no distingue entre lo que sabe y lo que completa. Si el dato no está, igual produce una respuesta, y la produce con el mismo tono de certeza que si la tuviera. Por eso el usuario no tiene forma de darse cuenta hasta que choca con el sistema real.

Cómo corregir este error

Este tipo de error se evita en el entrenamiento — es decir, en el system prompt o en la información accesible desde ahí. No puede quedar ningún dato comercial fuera del conocimiento del agente, porque esa carencia obliga al modelo a inventar una respuesta propia: en este caso, la más típica en software que se vende por créditos, sin conocer la política real de la empresa.

Cuando implementes tu bot o agente técnico-comercial, asegurate de que conozca absolutamente todos los datos esenciales de tu negocio, para evitar que invente o alucine. Como decimos en Fluxia Group: tiene que estar tan capacitado como el asesor comercial más experimentado de tu empresa.

Para más información sobre auditoría de bots de IA, o asesoramiento sobre la creación del tuyo, podés escribirnos a fluxy@fluxiagroup.com.