EN

Como deixar agentes de IA agirem nas suas contas e continuar respondendo pelo que eles fazem? O botão de desligamento.

Por , Fundador e líder de sistemas

Há algumas semanas defendemos que o que uma empresa AI-native entrega de fato a uma marca é a implantação de cada cliente: uma pasta de texto simples que a IA lê a cada tarefa, com cinco partes funcionais. A última das cinco era o botão de desligamento, a lista curta de movimentos que a IA nunca pode fazer sem que uma pessoa aprove. Demos o nome e seguimos em frente. Ele merece um texto próprio. Quando um agente pode agir nas contas reais de uma marca (publicar um post, enviar uma campanha, mover verba de anúncios), o botão de desligamento deixa de ser uma nota de rodapé. Ele passa a ser a maior parte do motivo pelo qual é seguro entrar nesse acordo.

Este texto trata de uma tensão. Uma parte barulhenta do mercado de IA vende o oposto de um botão de desligamento. A promessa é autonomia: contrate o agente, descreva o trabalho e deixe que ele rode. A Artisan vende a Ava como "a BDR autônoma de IA", que "encontra leads, envia abordagens personalizadas, contorna objeções e marca reuniões". A Verse vende "funcionários de IA agênticos a partir de um único prompt", que "rodam fluxos complexos sem código". O que está à venda é a saída da pessoa do processo. Para uma marca que está decidindo se deixa um software mexer nos seus clientes e na sua verba, essa é a coisa errada a otimizar. A pergunta que a marca faz antes de entregar as chaves não é quão autônomo ele é. É o que acontece na primeira vez que ele errar, e se eu vou ao menos ficar sabendo.

A camada de responsabilidade

A resposta honesta para "o que acontece quando ele errar" não é um prompt melhor nem um modelo mais inteligente. É uma camada de responsabilidade que a empresa implanta antes de o agente fazer qualquer coisa e mostra à marca no primeiro dia. São quatro partes, nenhuma delas exótica.

Acesso restrito. O agente só alcança as contas que recebeu de forma explícita (esta conta de anúncios, esta fila de conteúdo, esta caixa de entrada) e nada ao lado delas. O raio de impacto é definido de propósito, antes da primeira tarefa, e não descoberto depois de um incidente.

Registro de auditoria. Cada ação do agente fica registrada: o que ele fez, quando e com base em qual regra teve permissão. Não é um resumo escrito por alguém depois. É o registro real, gerado enquanto o trabalho acontece, que qualquer pessoa do projeto pode ler.

Etapas de aprovação. Os movimentos com consequência param e esperam uma pessoa. Já descrevemos essa barreira como uma lista do que a IA não pode fazer sem aprovação: nunca publicar, nunca enviar para além de uma lista pequena, nunca gastar acima de um limite. A lista é real, e é nela que mora a maior parte da disciplina do dia a dia. Mas ela é só metade da responsabilidade. A outra metade é poder ver tudo o que o agente fez e ligar cada ação a uma decisão. E, quando for preciso, encerrar tudo num movimento só.

Ajuda ser concreto sobre o que isso evita, porque as falhas que importam aqui raramente são dramáticas. São silenciosas. Uma sequência de e-mails que continua saindo para quem já cancelou a inscrição. A verba de anúncios escorregando para o público errado antes de alguém olhar. Um botão de reserva que para de funcionar depois de uma mudança de configuração e leva um dia para alguém perceber. Ninguém recebe um alerta, porque nada caiu: o sistema só continuou fazendo a coisa errada com toda a confiança. É para esse tipo de falha que a camada de responsabilidade existe. O problema não é o agente que para de funcionar, e sim o que roda sem tropeço na direção errada. Uma pane você percebe em uma hora. Um desvio silencioso você percebe no registro de auditoria, ou só quando ele já custou alguma coisa.

O botão de desligamento

Esse último movimento é o que o termo "botão de desligamento" nomeia de fato, e é a parte que a versão pública deste argumento tem descrito de menos. As três primeiras partes deixam o comportamento do agente legível. O botão de desligamento deixa esse comportamento reversível.

Um botão de desligamento de verdade é um único comando, ou um único documento curto que uma pessoa sem formação técnica consegue seguir, que revoga de uma vez todos os acessos do agente. Não é "pausar a programação". Não é "abrir um chamado". É desligar tudo, num passo só, sem esperar que a empresa que montou o sistema esteja acordada.

Duas coisas importam mais do que o mecanismo. A primeira: o botão fica com a marca, e não com a empresa. Um controle de responsabilidade que só o fornecedor consegue operar não é responsabilidade, é uma promessa. A segunda: você deve ver o botão no primeiro dia, antes da primeira tarefa, na mesma conversa em que a empresa mostra exatamente de que acessos o agente precisa e por quê. Um botão de desligamento de que a marca só ouve falar depois do primeiro susto nunca cumpriu a sua função.

É também a promessa mais fácil de fingir, então vale testar, seja quem for o fornecedor avaliado, inclusive nós: peça para ver a revogação rodando de verdade, e não só para ouvir que ela existe. Pergunte quem mais pode acionar o botão e se ele corta todos os acessos de uma vez ou só pausa uma programação. Uma empresa que consegue mostrar o botão funcionando no primeiro dia está dizendo algo que uma apresentação não diz. Uma que desconversa também está dizendo alguma coisa.

A aprovação como serviço

É aqui que a promessa de autonomia inverte as coisas. Ela trata a pessoa como custo extra, um atrito que um agente mais inteligente vai acabar eliminando. Mas a marca que deixa a IA agir nas suas contas está pagando por mais do que volume de produção. Um agente sem supervisão consegue gerar muito volume sozinho. O que a marca compra são resultados que ela possa assinar, e a camada de responsabilidade é o que torna esses resultados confiáveis na escala real da marca. A barreira não é o custo do serviço. Ela é o serviço.

A Anthropic, nas orientações que publicou sobre o desenho de agentes, faz a versão de engenharia do mesmo argumento. Use o fluxo mais simples que resolve o problema e só recorra a um agente quando o trabalho exigir de fato esse dinamismo, porque agentes trocam mais capacidade por mais custo, mais demora e mais risco. A disciplina de não tornar algo autônomo quando não é preciso é a disciplina que mantém pequena a superfície de falha.

Repare para onde o próprio mercado está indo. A mesma onda que vende "configure e esqueça" no seu extremo mais barulhento tem uma ponta mais madura, que começou, sem alarde, a abrir com frases como "gerenciado pela sua equipe": agentes e especialistas humanos cuidando da conta juntos. O recuo em direção à responsabilidade já está em curso, quase sempre aprendido do jeito caro, depois do primeiro incidente. A única diferença real é se você implanta isso no primeiro dia ou depois daquilo que não tem volta.

O fluxo de uma ação do agente

A versão clássica. Uma mudança com consequência nas contas de uma marca tem dois estados possíveis: ou uma pessoa faz à mão, devagar, ou uma ferramenta faz sem supervisão e você descobre depois se estava certo. Não há terceira opção. Por isso a maioria das equipes escolhe a lenta e chama a rápida de imprudente.

A versão AI-native.

  1. Decidir, e então agir ou parar. O agente chega a uma decisão, por exemplo, transferir verba entre duas campanhas. A implantação diz quais decisões ele pode executar e quais precisa segurar. Se é rotina e está dentro do escopo, ele age. Se tem consequência, ele para e encaminha.
  2. Registrar sempre. A ação, ou a proposta retida, vai para o registro de auditoria no momento em que acontece (o quê, quando, com base em qual regra), haja ou não alguém olhando naquela hora.
  3. Aprovar as que têm consequência. O movimento retido espera uma pessoa, que vê a proposta e o raciocínio e decide se libera ou não. Nada caro sai só com o aval do agente.
  4. Executar dentro dos limites. Depois de liberada, a ação roda, apenas nas contas a que o agente tem acesso, nunca um passo além.
  5. Revisar uma amostra. Uma revisão fixa lê uma amostra do que saiu e compara com o que as regras pretendiam, porque as falhas perigosas são as silenciosas, e não as barulhentas.
  6. Revogar se for preciso. Por baixo de tudo está o comando único. Se algo parecer errado em qualquer etapa, a marca corta todos os acessos de uma vez, e o registro continua lá para ser lido depois.

O ganho. Nada disso deixa o trabalho de rotina mais lento. O agente continua agindo sozinho em tudo o que está dentro do seu escopo. As seis etapas só pesam sobre os movimentos que a marca vai querer apontar depois: as poucas decisões caras o bastante para merecer o nome de uma pessoa. A maior parte do trabalho roda na velocidade da máquina, e o pequeno conjunto que importa continua legível e reversível.

O ponto fraco. É o registro de auditoria que ninguém lê. Um registro escrito e nunca aberto dá a papelada da responsabilidade sem a responsabilidade em si: você só consegue reconstruir o que deu errado depois que já deu errado. A solução é tornar a leitura do registro uma tarefa fixa de alguém. É a mesma disciplina que mantém o resto da implantação honesto. O registro só vale se uma pessoa de fato olhar.

Nota de implantação. Esta é a camada de responsabilidade da implantação de cada cliente, o mesmo formato que o Codified Engagement entrega para toda marca. O resto é o trabalho. Esta camada é o que torna seguro deixar o trabalho rodar.

Um agente que pode agir é tão seguro quanto aquilo que você consegue ver ele fazendo e a rapidez com que consegue pará-lo. A promessa de autonomia vende a ação e fica em silêncio sobre o resto. Implante primeiro o ver e o parar, no primeiro dia, antes da primeira tarefa. Aí deixar agentes agirem deixa de ser um salto no escuro e vira uma decisão que a marca pode assumir.

Leia também

O imposto da rotatividade: como agências de marketing guardam o que as pessoas sabem

Quando uma equipe adota IA pessoa por pessoa, cada saída leva junto as regras do cliente e um histórico particular com a IA. Duas regras de gestão e um piloto em uma unidade mantêm esse conhecimento na agência.

Leia mais

Sua ferramenta de conversão com IA entrega um vencedor por semana. Veja como saber quais são reais.

A vantagem de uma ferramenta de conversão com IA é a velocidade: mais testes, mais rápido. Mas mais testes fabricam, por pura mecânica, mais vencedores falsos. A pilha de ganhos reportados pode crescer enquanto a sua taxa de conversão real fica parada. A verificação que pega isso, e duas medidas que a ferramenta não vai entregar a você.

Leia mais

Conte para a gente sobre o seu projeto

Onde estamos

  • Lisbon
    Portugal
  • São Paulo
    Brasil
  • Rio de Janeiro
    Brasil