Dizer que um agente de IA tem "revisão humana" não explica muito. A pergunta que define o projeto é mais específica: em quais casos ele age sozinho, em quais uma pessoa aprova antes e como essa pessoa recebe o caso. Este texto traz critérios para fazer essa divisão e mostra como desenhar uma revisão que funcione no dia a dia.
Por que essa divisão define o projeto
Se o agente faz de menos, a equipe continua fazendo tudo e ainda ganha uma etapa a mais para conferir. Se faz demais, um erro chega ao cliente ou ao ERP antes de alguém ver. O ponto certo muda de tarefa para tarefa, e por isso precisa ser decidido caso a caso, e por escrito.
Quatro perguntas para decidir
Para cada ação que o agente pode executar, responda:
- Dá para desfazer? Atualizar um cadastro costuma ter volta. Emitir uma nota fiscal ou fazer um pagamento dá mais trabalho, ou não tem volta.
- Quanto custa errar? Considere valor, cliente afetado e exposição legal. Quanto maior o custo, mais perto de uma pessoa a decisão fica.
- A regra está escrita? Se a política da empresa cobre o caso, o agente pode seguir. Se a decisão depende da experiência de alguém, ela é de uma pessoa.
- Qual é a confiança nesse caso? Dado faltante, pedido ambíguo ou divergência entre sistemas são sinais para parar e encaminhar.
Três níveis de autonomia
As respostas costumam levar cada ação a um destes níveis:
- O agente prepara e a pessoa executa. Bom para o começo e para ações sem volta. Exemplo: o agente monta a proposta, e o vendedor revisa e envia.
- O agente executa depois da aprovação. Bom para ações com valor ou risco moderado. Exemplo: um desconto acima do limite espera um clique do supervisor.
- O agente executa e a pessoa confere por amostra. Bom para tarefas de alto volume, baixo risco e regra clara. Exemplo: responder sobre o status de uma entrega.
Um mesmo fluxo costuma misturar os três. No exemplo de um agente que recebe pedidos e lança no ERP, consultar o estoque não pede aprovação, lançar um pedido comum segue a regra e um pedido fora da política vai para uma pessoa.
Como desenhar uma revisão que funcione
A revisão é uma tela, uma fila e uma rotina. Quando ela é mal desenhada, as pessoas passam a aprovar sem ler, e o controle deixa de existir. Alguns cuidados ajudam:
- O caso chega com contexto. A pessoa vê o que o agente leu, consultou e propôs, e por que parou. Assim ela decide sem refazer o trabalho.
- A fila tem prioridade e responsável. Um caso parado pode ser pior do que um erro. Defina quem atende e em quanto tempo.
- A decisão volta para o sistema. Cada correção vira um caso de teste, para o mesmo erro não voltar.
- O volume cabe na equipe. Se todo caso vai para revisão, as pessoas param de prestar atenção. Ajuste os limites até a fila ter tamanho real.
- A interface pede atenção. Mostrar a diferença entre o pedido e a proposta ajuda mais do que um botão de "aprovar" no fim de um texto longo.
Quando reduzir a revisão
A autonomia aumenta com medição, não com o tempo de uso. Compare as decisões do agente com as das pessoas em uma amostra. Quando um tipo de caso se mantém estável na comparação, ele pode subir de nível. Quando algo muda (novo produto, nova política, nova versão do modelo), ele pode voltar a passar por uma pessoa. Essa rotina faz parte do que muda quando o agente sai do piloto e entra em produção.
Perguntas frequentes
O que é human-in-the-loop em IA?
É o desenho em que uma pessoa participa do fluxo do agente, aprovando ou corrigindo em pontos definidos. O termo vale pouco sem o detalhe: quais ações, com quais limites e com que contexto a pessoa recebe o caso.
Toda ação de um agente precisa de aprovação?
Não. Se tudo precisa de aprovação, a equipe ganha trabalho em vez de perder. Ações de baixo risco, com regra clara e possibilidade de desfazer, podem seguir com conferência por amostra.
Como o agente sabe que deve parar e chamar uma pessoa?
Por regras explícitas, como limites de valor e tipos de operação, e por sinais do próprio caso, como dado faltante, divergência entre sistemas e baixa confiança na leitura. A autoavaliação do modelo sozinha não basta, por isso as regras ficam fora dele, no sistema.
Quem deve revisar o trabalho do agente?
Quem já faz essa tarefa hoje, depois de treinado. Essas pessoas conhecem as exceções e reconhecem um erro. Para definir isso no seu caso, fale com um especialista da CCX.