Por Lenildo Morais
Como as empresas podem escalar agentes autônomos sem perder controle, auditabilidade, responsabilidade e valor
A indústria financeira está diante de uma mudança arquitetural que pode ser mais profunda do que a própria adoção inicial de Cloud Computing. Durante anos, instituições financeiras utilizaram algoritmos para classificar clientes, detectar fraude, recomendar produtos, prever inadimplência e automatizar processos. Depois vieram os Large Language Models e a Generative AI. Agora surge uma terceira etapa: sistemas capazes de interpretar objetivos, planejar tarefas, utilizar ferramentas, consultar dados, delegar atividades para outros agentes e executar ações, É a era da IA agêntica.
O ponto de atenção aqui é que instituições financeiras não operam em um ambiente onde “errar” significa apenas gerar uma resposta ruim. Um agente que interpreta incorretamente uma solicitação pode consultar dados indevidos, alterar um workflow, gerar uma proposta de crédito, disparar uma cobrança, bloquear uma transação ou desencadear uma cadeia de decisões executadas por outros agentes, A pergunta, portanto, mudou.
Não basta perguntar se o modelo está correto. É preciso perguntar quem autorizou o agente a agir, com quais dados, sob quais políticas, utilizando quais ferramentas, produzindo qual decisão e gerando qual valor. A próxima vantagem competitiva dos serviços financeiros não será possuir mais agentes. Será possuir uma arquitetura capaz de controlar, observar, auditar e capturar valor desses agentes em escala.
A mudança fundamental: de modelos que respondem para agentes que agem
Existe uma diferença arquitetural importante entre um modelo de IA convencional e um sistema agêntico. No primeiro, o fluxo é essencialmente usuário → aplicação → modelo → resposta. No segundo, um orquestrador coordena agentes, modelos, ferramentas, dados e sistemas corporativos.
A segunda arquitetura possui agência operacional: o agente pode escolher uma ferramenta, solicitar informação adicional, delegar uma tarefa, modificar sua estratégia e executar uma ação dentro de um workflow.
Nesse sentido, quando agentes passam a interagir, delegar tarefas e influenciar processos críticos, os tradicionais IT General Controls precisam ser reavaliados. Durante décadas, a governança de modelos esteve concentrada em acurácia, dados, validação e comportamento em produção. Em sistemas agênticos, o risco emerge também das interações entre modelo, prompt, ferramentas, APIs, orquestração, políticas, pessoas e processos.
O comportamento global pode ser diferente da soma dos comportamentos individuais. Essa é uma das características mais difíceis dos sistemas multiagente. Se uma decisão de crédito produz prejuízo, a responsabilidade não pode desaparecer atrás do agente. Ela precisa permanecer vinculada às estruturas institucionais que projetam, implementam, operam e supervisionam o Sistema. Accountability em IA deve ser uma propriedade arquitetural, e não somente uma cláusula de compliance.
O AI Orchestrator controla uma rede de agentes, modelos, ferramentas e políticas. Ele deve decidir qual agente executar, em que sequência, com qual contexto, quais ferramentas podem ser chamadas, quais dados podem ser acessados, quando interromper o processo e quando solicitar aprovação humana. O princípio fundamental é simples: um agente pode possuir inteligência sem possuir autoridade ilimitada.
Responsible IA não pode permanecer no nível de um documento institucional. Princípios como accountability, transparência, fairness, privacidade, segurança e supervisão humana precisam ser convertidos em controles técnicos. Uma infraestrutura pode apresentar CPU, memória, latência e erros dentro dos limites e, ainda assim, o agente estar tomando decisões inadequadas. AI observability precisa observar o comportamento cognitivo-operacional do Sistema. Entre os indicadores: hallucination rate, model drift, task success rate, tool-call failures, escalation rate, policy violations, agent loops, conflicting decisions, custo por decisão, perdas evitadas, SLA/SLI/SLO e cobertura de auditoria. Observabilidade de IA precisa conectar o comportamento do agente à consequência no modelo de negócio.
Gestão de valor: o erro de medir IA apenas por produtividade
Medir apenas usuários, tarefas automatizadas ou interações processadas pode esconder destruição de valor. Uma empresa deve perguntar quanto valor econômico, operacional, regulatório ou estratégico foi produzido. A oportunidade está na combinação entre agentes, processos, dados e decisões. As empresas podem aplicar agentes antifraude, atendimento e cobrança. Meios de pagamento podem combinar fraud scoring, merchant risk e dispute management.
Mercado de capitais pode usar agentes para análise e apoio à decisão, com controles proporcionais ao risco. Fintechs e Open Finance podem utilizar agentes como intermediários cognitivos sobre dados consentidos. Em todos esses cenários, o ganho não está apenas em automatizar uma tarefa. Está em orquestrar uma cadeia de decisão com governança. A próxima geração de RegTech tende a migrar de processos estáticos para Continuous Compliance: agentes interpretam mudanças regulatórias, analisam impacto, atualizam políticas e monitoram controles. O objetivo deixa de ser apenas “estamos em compliance?” e passa a ser “o sistema consegue detectar continuamente quando deixamos de estar em compliance?”.
O argumento contrário: governança não pode destruir o valor da IA
Se toda operação exigir aprovação humana, auditoria manual e múltiplos controles, o benefício econômico pode desaparecer. Esse é um contra-argumento legítimo. A resposta é governança proporcional ao risco. Decisões de baixo impacto podem utilizar execução automatizada e amostragem. Decisões críticas exigem políticas mais restritivas, evidências completas e intervenção humana. Uma arquitetura madura possui níveis de autonomia: assistência, automação supervisionada, autonomia limitada, autonomia condicionada e, em casos muito específicos, alta autonomia. Indicadores como Human oversight deve ser baseado em risco, e não em burocracia.
Um agente nunca deveria receber mais autoridade do que necessita. Identidade, permissões, ferramentas, dados e ações precisam ser definidos explicitamente. A capacidade técnica de executar uma operação não significa que o agente tenha autorização para executá-la.
KPI não é suficiente: precisamos de KVI
Uma empresa pode apresentar excelentes KPIs e destruir valor. Por isso, além de indicadores operacionais, é necessário acompanhar Key Value Indicators: perdas evitadas, receita incremental, custo operacional evitado, redução de churn, melhoria de margem e valor por agente. A pergunta muda de “quantos processos automatizamos?” para “quanto valor líquido foi criado pela automação?”
Criar apenas um comitê de IA Governance não será suficiente. O futuro exige um IA Operating Model integrado, conectando estratégia, portfólio, arquitetura, Responsible IA, orquestração, observabilidade, risco, compliance e gestão de valor. Imagine uma empresa contratando milhares de colaboradores digitais. Cada um possui habilidades, identidade, acesso, ferramentas, objetivos, custos, autonomia, risco e produtividade. Você não daria acesso irrestrito a um novo funcionário no primeiro dia. Criaria identidade, treinamento, autorização, segregação de funções, supervisão e métricas. Agentes deveriam seguir a mesma lógica, só que em velocidade de máquina.
O próximo diferencial não será ter agentes. Será saber governá-los
A IA agêntica desloca o centro de gravidade da tecnologia. O desafio agora é construir sistemas capazes de agir com autonomia dentro de limites de compliance, regulatórios e econômicos claramente definidos. Para serviços financeiros, isso significa combinar responsabilidade, orquestração, observabilidade, auditabilidade, governança algorítmica e gestão de valor. O verdadeiro diferencial competitivo não será construir uma IA que consiga agir sozinha. Será construir uma empresa capaz de permitir que ela aja, sem perder controle, contexto, responsabilidade ou valor.
Para CIOs, CTOs, arquitetos, líderes de infraestrutura e executivos de negócio, a pergunta estratégica não deveria ser “Onde podemos colocar IA?”. A pergunta mais importante é: “Quais decisões estamos preparados para delegar a agentes, e qual arquitetura de governança precisamos construir antes de fazê-lo?”
Lenildo Morais Professor | Gestão de Projetos | Governança | CSM | AWS | AZURE | GCP | FINOPS
