A Verdadeira Vitória de UX em Agentes É Autonomia Segura, Não Autonomia Máxima

Emiliano Montesdeoca — Sat, 11 Jul 2026 00:00:00 +0000

Fonte original: Agent Harness: Working with your data, safely

Este é um dos posts de engenharia de agentes mais úteis deste ano porque rejeita a armadilha comum da autonomia voltada apenas para a demo. Em vez disso, ele foca em como os agentes deveriam operar em torno de dados reais de usuários e consequências reais.

Os três blocos de construção destacados aqui são exatamente certos.

Acesso a arquivos dá aos agentes um embasamento útil em dados pertencentes ao usuário.

O portão de aprovação evita a execução silenciosa de ações com consequências.

A memória durável evita interações repetitivas sem sacrificar o controle.

A maioria das equipes investe demais na amplitude de ferramentas e de menos na semântica de permissões. Isso está invertido. Um agente com dez ferramentas e limites fracos de aprovação vale menos do que um agente com três ferramentas e pontos de controle previsíveis.

O melhor padrão prático deste artigo é a estratégia de aprovação em camadas:

Sempre exija aprovação para ferramentas de alto impacto, como negociação ou operações destrutivas.

Aprove automaticamente leituras de baixo risco para preservar o fluxo.

Use aprovações permanentes com escopo definido para ações repetitivas e confiáveis dentro de uma sessão.

Isso cria um gradiente de risco saudável. Os usuários não são interrompidos por leituras inofensivas, mas ainda permanecem no loop quando as consequências se tornam caras ou irreversíveis.

Eu também gosto da separação explícita entre memória de arquivo e memória do Foundry. As equipes deveriam parar de tentar forçar um único modelo de memória a resolver todos os problemas. Artefatos de arquivo grosseiros e explícitos são excelentes para estado visível ao usuário, como relatórios e watchlists. A extração de memória em nível de fato é melhor para preferências e contexto conversacional. Misturar os dois traz resultados melhores do que fingir que um só é suficiente.

Minha opinião: o futuro da qualidade dos agentes será medido menos por prompts inteligentes e mais por ergonomia de segurança. Se seus prompts de aprovação são ruidosos, os usuários clicam sem pensar. Se os limites da sua memória são pouco claros, os usuários deixam de confiar no assistente. Se os padrões de acesso a dados são permissivos demais, as equipes de segurança vão encerrar o projeto.

Para equipes .NET e Python adotando esse padrão, o movimento-chave é tratar callbacks de política e regras de aprovação como lógica de negócio central, versionada e testada como qualquer outro código crítico. Não os deixe como lambdas improvisadas enterradas em exemplos.

Sistemas de agentes que conquistam confiança não são os que fazem mais coisas. São os que fazem exatamente o que os usuários pretendiam, nem mais nem menos, com pontos claros de interrupção quando o risco aumenta.

Essa é a diferença entre uma demo impressionante e um software para o qual as pessoas estão dispostas a delegar trabalho de verdade.

Approvals | The .NET Blog

A Verdadeira Vitória de UX em Agentes É Autonomia Segura, Não Autonomia Máxima