A parte mais importante de um assistente de IA é o que ele se recusa a fazer
A maioria das equipes tenta fazer o assistente de IA assumir mais. Em um negócio que lida com dinheiro, contratos e processos regulados, o valor está no que ele é proibido de fazer. Como traçamos esse limite e como o fazemos valer.
O instinto habitual com um assistente de IA é ampliar o que ele pode fazer: responder mais perguntas, conduzir mais da conversa, tirar mais trabalho da equipe. Quando o assistente fala com clientes reais sobre dinheiro e processos regulados, essa é a coisa errada para otimizar primeiro. O trabalho que importa é decidir, com precisão, o que ele nunca pode fazer sozinho.
Organizamos essa decisão em três níveis.
Três níveis
O nível um é automação sem IA. Lembretes programados, confirmações e mensagens disparadas por mudança de etapa. É previsível, fácil de auditar e entrega a maior parte do valor.
O nível dois deixa a IA responder sozinha, mas apenas perguntas factuais e seguras, como “onde é o ponto de encontro?” ou “o que devo levar?”. Elas têm uma única resposta correta, que não depende de quem pergunta, e um erro ocasional custa muito pouco.
O nível três sempre vai para uma pessoa. Dinheiro, cancelamentos, reembolsos, questões jurídicas, qualquer coisa que envolva um menor e qualquer cliente que pareça irritado. A IA não tenta responder a esses casos.
| Nível | Quem atende | Exemplos | Custo de um erro |
|---|---|---|---|
| 1. Automação | Regras, sem IA | Lembretes, confirmações, mensagens de etapa | Muito baixo, o comportamento é previsível |
| 2. A IA responde | A IA, sozinha | “Onde é o ponto de encontro?”, “O que devo levar?” | Baixo, um deslize factual |
| 3. Escalonamento | Uma pessoa, sempre | Dinheiro, reembolsos, cancelamentos, questões jurídicas, menores, clientes irritados | Alto, por isso nunca se arrisca |
O esforço de projeto não está no nível dois. Está em traçar a fronteira do nível três e fazê-la valer.
As regras que importam são proibições
No assistente que construímos para um negócio regulado, as regras importantes descrevem o que ele não pode fazer:
- Nunca informa um preço. Preços geram compromissos e variam conforme a situação. Um número errado dito com confiança é pior do que nenhuma resposta.
- Nunca assina como pessoa nem dá a entender que é humano.
- Nunca altera a situação de um cliente. Não pode marcar alguém como aprovado, flexibilizar uma regra ou fazer uma promessa que o negócio teria de cumprir.
- Sempre escala as categorias sensíveis, mesmo quando provavelmente saberia responder.
Nada disso é uma fraqueza pela qual se desculpar. É a razão pela qual o assistente pode ser colocado diante de clientes com segurança. O dono pode deixá-lo funcionando porque ele não consegue errar um preço nem inventar uma política. Esse projeto está descrito no estudo de caso da plataforma para escolas náuticas.
Como isso funciona na prática
Uma mensagem chega às 23h: “Preciso cancelar e receber meu dinheiro de volta.”
Um assistente sem limites lê a política de reembolso e responde. Faz isso com confiança, possivelmente de forma incorreta, a um cliente que já está frustrado, em um horário em que ninguém está acompanhando.
O sistema em níveis faz algo menos impressionante e muito mais seguro. Reconhece reembolso e cancelamento como nível três, envia uma breve confirmação de que uma pessoa dará retorno e sinaliza a conversa para a manhã seguinte. Nada irreversível acontece durante a noite. Esse resultado sem surpresas é a funcionalidade.
“Ele provavelmente daria conta” é o risco
Os modelos atuais são bons o bastante para responder de forma plausível à maioria das perguntas sensíveis. Esse é exatamente o perigo. Acertar na maioria das vezes sobre um reembolso, um detalhe jurídico ou um cliente ansioso é um passivo, porque as falhas caem justamente nos casos que mais importam, na caixa de entrada do cliente, em nome da sua empresa.
Escalar não é o modelo falhando. É o sistema funcionando como foi projetado. O objetivo nunca foi que a IA resolvesse tudo. Era resolver com confiabilidade a maioria segura e sair do caminho no restante.
Um assistente autorizado a fazer qualquer coisa é uma demonstração. Um que sabe, por projeto, o que não deve fazer é um produto. Onde um erro tem custo real, as barreiras não são algo a acrescentar no fim. São o que torna o assistente pronto para ir ao ar.
Para o passo seguinte, decidir quando uma IA pode agir automaticamente e quando deve perguntar antes, veja Automático, requer aprovação, manual: como deixamos uma IA decidir.
Trabalhando com algo nessa linha?
Se algo disso se parece com o problema à sua frente, conte onde você está e aonde quer chegar. Voltamos com um plano em até dois dias úteis.