Quando um agente de IA causa um dano, a assinatura de um humano na última etapa pesa pouco na defesa da empresa.
Pesa o registro de como ela desenhou, testou e vigiou o sistema. Stavros Gadinis, professor de direito em Berkeley, resumiu a pergunta que os tribunais fazem enquanto não há lei própria para agentes: a empresa tentou prever as consequências, ou sabia de problemas graves e soltou os agentes mesmo assim?
O painel descartou a defesa mais comum: pôr uma pessoa para aprovar cada decisão do agente. Maike Kauffmann, co-líder da Purpose Foundation, explicou por quê. A IA reúne quase toda a pesquisa e entrega algo muito perto da decisão; o humano no fim mal consegue examinar o que recebe. Para Gadinis, o que conta é a estrutura que a empresa monta para definir a ação certa, não se alguém aprova a execução.
O que entra nessa estrutura, Gadinis listou pelo que um tribunal examina: como o agente foi configurado, quanto foi testado, que resultados saíram e se houve verificadores independentes. Pediu ainda transparência sobre os princípios das decisões, testes que mostrem se mudar as metas muda o comportamento do sistema e que tudo chegue ao conselho. Num processo grande, disse, guardar a prova de cada esforço joga a favor da empresa.
O registro tem prazo de validade, alertou Sam Kidd, CEO da LawVu, que faz software para departamentos jurídicos. Os modelos de IA saem de linha, e cada troca obriga a refazer a avaliação do agente. Kidd também lembrou que quase toda empresa tem políticas guardadas na gaveta e faz a checagem anual só para marcar as caixinhas. Fora do palco, a EY mediu essa distância em setembro de 2026: 98% dos executivos de grandes empresas americanas dizem ter política formal de IA, e 47% admitem tê-la pulado em implantações urgentes.
A ressalva mais forte vem de um exemplo do próprio Gadinis. Um tribunal concluiu que os algoritmos da Meta foram desenhados para viciar jovens e reconheceu a responsabilidade “por causa do desenho, por causa da intenção”. O risco é que o arquivo que prova cuidado prove também o que a empresa sabia e não corrigiu.
Como o agente foi montado
Volume e profundidade das avaliações
O que os testes revelaram
Olhar independente sobre o sistema
Critérios das decisões às claras
Tudo reportado à alta gestão
Para a FFX, o painel separa duas coisas que costumam andar juntas: vigiar cada decisão e vigiar o sistema. O revisor no fim cuida da decisão e protege pouco. O sistema pede um dono, um gatilho para refazer os testes a cada troca de modelo e alguém de fora para conferir.
Meu conselho como advogado seria: documente tudo, registre tudo, todos os esforços que você fez.
A conta inclui o fornecedor de IA, e Gadinis separou os laboratórios pela forma como se vigiam. Microsoft e Google, empresas estabelecidas, criaram departamentos internos e publicam relatórios. OpenAI e Anthropic, startups, puseram uma IA para supervisionar outra: “Está funcionando? Não sei. Veremos.” Na outra ponta, Meta e xAI vivem de engajamento, e para elas quanto menos moderação, melhor.
Kidd admitiu o preço: a LawVu lança um pouco mais devagar para garantir precisão. Essa lentidão compra a defesa que o painel descreveu: provar, depois do erro, que o sistema foi desenhado, testado e reavaliado, e não só que alguém assinou no fim.
No Brasil, a empresa não vai poder escolher entre o revisor humano e o registro: terá de manter os dois, e a medicina já mostra como fica.
A Resolução 2.454 do Conselho Federal de Medicina, em vigor desde agosto, deixa a decisão com o médico, obriga a anotar no prontuário o uso de IA como apoio e protege o profissional de responder por falha exclusiva do sistema quando ele usou a ferramenta de forma diligente e crítica (Portal do CFM, 2026).
É o registro funcionando como defesa.
Bancos e varejistas, que já devem a revisão de decisões automatizadas prevista no artigo 20 da LGPD (Lefosse, 2025), podem copiar o desenho: um humano onde a lei exige e uma anotação de cada uso que prove o cuidado.
Se o seu agente de IA errasse hoje, a sua empresa teria provas de cuidado ou só uma política na gaveta?
Ressalvas e outros ângulos
No Brasil, o Código de Defesa do Consumidor, de 1990, faz a empresa responder ao cliente mesmo sem culpa. Diante do consumidor lesado por um agente, provar cuidado tende a ajudar pouco.
Kidd descreveu o engenheiro jurídico: um advogado que traduz regra em código e refaz as avaliações, função permanente que muitas empresas ainda não preencheram. Quem cria essa função dentro de casa, em vez de deixá-la com o fornecedor, fica com o controle do registro e com o custo de mantê-lo.
Maike Kauffmann alertou que a IA otimiza o que a empresa já otimiza, em geral o valor para o acionista, e só a leva mais rápido aonde ela já está. Se a meta registrada do agente for engajamento a qualquer custo, o próprio registro pode documentar a intenção que um tribunal condena.
Kidd recomendou começar pequeno, por uma política ou um processo interno, e avançar em passos curtos, em vez de tentar abraçar tudo de uma vez. Um primeiro registro completo, num único agente, mostra quanto custa manter testes e reavaliações antes de ampliar.
- EY: autonomous AI outpaces oversight
- IA autônoma e responsabilidade no direito brasileiro, Bertol
- Artigo 34 do CDC comentado, Aurum
- IBGC e FGVethics, ESG Inside
- ANPD publica nota técnica sobre decisões automatizadas em IA
- Regras sobre uso da IA na medicina entram em vigor hoje, 26 de agosto (Portal do CFM, via Legismap)
- CFM normatiza uso da IA na medicina, Portal do CFM