Lo más importante de un asistente de IA es lo que se niega a hacer
La mayoría de los equipos intenta que el asistente de IA se encargue de más. En un negocio que maneja dinero, contratos y procesos regulados, el valor está en lo que tiene prohibido hacer. Cómo trazamos ese límite y cómo lo hacemos cumplir.
El instinto habitual con un asistente de IA es ampliar lo que puede hacer: responder más preguntas, llevar más de la conversación, quitarle más trabajo al equipo. Cuando el asistente habla con clientes reales sobre dinero y procesos regulados, eso es lo que no hay que optimizar primero. El trabajo que importa es decidir, con precisión, lo que nunca debe hacer por su cuenta.
Organizamos esa decisión en tres niveles.
Tres niveles
El nivel uno es automatización sin IA. Recordatorios programados, confirmaciones y mensajes que se disparan con un cambio de etapa. Es predecible, fácil de auditar y entrega la mayor parte del valor.
El nivel dos deja que la IA responda sola, pero únicamente preguntas seguras y factuales, como “¿dónde es el punto de encuentro?” o “¿qué debo llevar?”. Tienen una sola respuesta correcta, que no depende de quién pregunta, y un error ocasional cuesta muy poco.
El nivel tres siempre pasa a una persona. Dinero, cancelaciones, reembolsos, preguntas legales, cualquier cosa que involucre a un menor y cualquier cliente que suene molesto. La IA no intenta atender estos casos.
| Nivel | Quién lo atiende | Ejemplos | Costo de un error |
|---|---|---|---|
| 1. Automatización | Reglas, sin IA | Recordatorios, confirmaciones, mensajes de etapa | Muy bajo, el comportamiento es predecible |
| 2. La IA responde | La IA, sola | “¿Dónde es el punto de encuentro?”, “¿Qué debo llevar?” | Bajo, un desliz factual |
| 3. Escalamiento | Una persona, siempre | Dinero, reembolsos, cancelaciones, preguntas legales, menores, clientes molestos | Alto, por eso nunca se arriesga |
El esfuerzo de diseño no está en el nivel dos. Está en trazar la frontera del nivel tres y hacerla cumplir.
Las reglas que importan son prohibiciones
En el asistente que construimos para un negocio regulado, las reglas importantes describen lo que no puede hacer:
- Nunca da un precio. Los precios implican compromisos y varían según la situación. Un número equivocado dicho con seguridad es peor que no responder.
- Nunca firma como una persona ni da a entender que es humano.
- Nunca cambia el estado de un cliente. No puede marcar a alguien como aprobado, flexibilizar una regla ni hacer una promesa que el negocio tendría que cumplir.
- Siempre escala las categorías sensibles, incluso cuando probablemente podría responder.
Ninguna de estas es una debilidad por la que haya que disculparse. Son la razón por la que es seguro poner el asistente frente a los clientes. Un dueño puede dejarlo funcionando porque no puede dar un precio equivocado ni inventar una política. Ese proyecto está descrito en el caso de estudio de la plataforma para escuelas náuticas.
Cómo se ve esto en la práctica
Llega un mensaje a las 11 de la noche: “Necesito cancelar y que me devuelvan mi dinero.”
Un asistente sin límites lee la política de reembolsos y responde. Lo hace con seguridad, posiblemente de forma incorrecta, a un cliente que ya está frustrado, a una hora en la que nadie está mirando.
El sistema por niveles hace algo menos impresionante y mucho más seguro. Reconoce un reembolso y una cancelación como nivel tres, envía un breve acuse de recibo que avisa que una persona dará seguimiento, y marca la conversación para la mañana. Nada irreversible ocurre durante la noche. Ese resultado sin sobresaltos es la función.
“Probablemente podría manejarlo” es el riesgo
Los modelos actuales son lo bastante buenos como para responder de forma plausible la mayoría de las preguntas sensibles. Ese es justamente el peligro. Acertar la mayor parte del tiempo sobre un reembolso, un detalle legal o un cliente ansioso es un pasivo, porque las fallas caen en los casos que más importan, en la bandeja de entrada de un cliente, bajo el nombre de tu empresa.
El escalamiento no es una falla del modelo. Es el sistema funcionando como fue diseñado. La meta nunca fue que la IA se encargara de todo. Era atender de manera confiable la mayoría segura y hacerse a un lado en el resto.
Un asistente al que se le permite hacer cualquier cosa es una demostración. Uno que sabe, por diseño, lo que no debe hacer es un producto. Cuando un error tiene un costo real, los guardrails no son algo que se agrega al final. Son lo que hace que el asistente esté listo para salir a producción.
Para el siguiente paso, decidir cuándo una IA puede actuar de forma automática y cuándo debe consultar primero, lee Auto, requiere aprobación, manual.
¿Trabajando en algo de este tipo?
Si algo de esto se parece al problema que tienes delante, cuéntanos dónde estás y adónde quieres llegar. Volvemos con un plan en dos días hábiles.