Ali Partovi, fundador da Neo e investidor de muitas startups de IA, levou ao palco uma proposta simples, em conversa com Amy Nordrum, editora executiva da MIT Technology Review.
Se um agente de IA decide sozinho violar a lei, a empresa por trás dele deve responder como se tivesse agido de propósito. Para escapar dessa conta, basta o agente perguntar antes ao humano.
A regra separa a ordem do objetivo. Se o usuário manda a IA tirar US$ 1.000 da conta de outra pessoa, o crime é do usuário. Se só pede o dinheiro e a IA decide invadir um banco, respondem as empresas que treinaram a IA e a colocaram em uso. O risco não é teórico: Amy Nordrum lembrou o caso do Hugging Face, em que a OpenAI nem sabia que os próprios agentes invadiam o site de outra empresa.
O centro da proposta é subir o patamar da culpa. Partovi estudou a lei americana: dano por acidente tem pena leve, e ataque hacker intencional pode dar prisão. “Quando você faz algo por acidente, as penas são muito baixas, e é por isso que os acidentes não param de acontecer”, disse. A comparação de Partovi é a diferença entre matar sem querer e matar de propósito. Hoje, quem investe em segurança anda mais devagar e ganha menos do que quem só corre.
Amy Nordrum levantou a objeção mais forte: as empresas que criam os modelos não entendem por inteiro o que eles fazem. Um dado de fora do palco reforça a dúvida: o International AI Safety Report 2026 registra que cresce a distância entre o que a IA faz nos testes e no mundo real. Partovi respondeu que a IA ficou boa em matemática em dois anos porque essas empresas pagaram milhões aos melhores matemáticos para treiná-la. “Basta aprender as leis que já existem e cumpri-las, ou pelo menos detectar quando algo violaria uma lei”, disse.
A IA aprende as leis que já existem
Percebe que o próximo passo seria crime
Mostra ao humano as leis e as penas em jogo
Com o sim, quem autorizou passa a responder
Para o que o treino não pegar, Partovi propõe uma solução simples. Antes de agir, o agente avisa que poderia invadir o banco e diz que “isso violaria as seguintes leis, com as seguintes penas. Quer que eu prossiga?”. Com o sim, a culpa passa ao usuário, e fica fácil achar e punir quem autorizou. A regra tem limite: viés e informação inventada pela IA que não chegam a ser crime ficam de fora, e cabe ao usuário julgar se a resposta é verdadeira.
Hoje, a IA mais lucrativa é basicamente a IA fora da lei.
No Brasil, a conta já tem um primeiro pagador. O texto do PL 2338, aprovado pelo Senado em 2024, mantém os danos de IA ao consumidor sob o Código de Defesa do Consumidor, que dispensa prova de culpa: quem atende o cliente paga. A régua de Partovi decidiria outra coisa: até onde um banco ou uma varejista consegue cobrar o prejuízo de quem fez o modelo. E ela também alcança quem pôs a IA em uso, ou seja, a própria empresa.
O agente que pergunta antes transfere a culpa, mas devolve ao usuário parte do trabalho que justificou a automação. O que age sem perguntar é mais rápido e, se a proposta avançar, deixa a empresa respondendo como se tivesse querido o crime. Quem desenha os pontos em que cada agente para e pede um sim está decidindo quem fica com o risco.
O contrato com o fornecedor de IA vai decidir quem paga pelo agente que viola a lei sozinho antes de qualquer lei brasileira.
Mesmo sem crime, a conta já cai em quem usa a IA: o Tribunal de Justiça de São Paulo mandou uma clínica indenizar a paciente a quem o assistente de IA da clínica, no WhatsApp, indicou o remédio errado para o preparo de um exame (Tribuna do Paraná, 2026).
Bancos, varejistas e hospitais precisam escolher entre o contrato padrão e uma cláusula que permita cobrar do fornecedor o prejuízo causado por ação ilegal do agente.
Se hoje a IA que mais lucra é a fora da lei, quanto da rapidez do seu agente vem de nunca perguntar antes?
Gestora de investimento em startups de San Francisco, criada por Ali Partovi em 2017, que recruta estudantes de computação por testes de programação e investe cedo nas empresas deles.
- Fundo de US$ 320 milhões fechado em abril de 2025, contra US$ 235 milhões em 2023 (TechCrunch, 2025)
- Fundo de US$ 150 milhões de 2021 passou a valer US$ 1,2 bilhão (WSJ, abr/2026)
- US$ 4 milhões iniciais em Cursor e Kalshi valiam cerca de US$ 1,4 bilhão (Forbes, 1º tri/2026)
- Cursor, investida desde a primeira rodada, comprada pela SpaceX por US$ 60 bilhões em ações, negócio concluído em agosto de 2026 (TechCrunch, 2026)
- Programa Neo Residency investe US$ 750 mil por startup, em título conversível em ações sem teto de valor (TechCrunch, fev/2026)
Ressalvas e outros ângulos
Uma régua de culpa intencional, somada a seguro e certificação, pesa mais para quem tem pouco caixa. Pode favorecer os poucos gigantes capazes de bancar o risco, justamente a concentração de poder que a sessão dizia querer evitar.
Se a régua de intenção pegar, seguro e certificação de agentes viram custo de entrada, e só fornecedores com muito caixa bancam esse risco. Comprar de quem consegue segurar a própria IA pode valer mais do que escolher o modelo mais barato.
A pergunta ao usuário só transfere a culpa se ficar gravada, com o texto exato do aviso e a resposta dada. Isso pede guardar esses registros como prova, com o mesmo cuidado de uma gravação de atendimento.
Partovi deixa ao usuário julgar se a IA inventou uma informação, mas no Brasil essa transferência tende a não valer para quem vende. Uma resposta errada do assistente virtual de um banco ou de uma farmácia tende a ser tratada como falha do serviço.
- International AI Safety Report 2026: Extended Summary for Policymakers
- Câmara dos Deputados: apresentação na comissão especial do PL 2338/23 (art. 35 e CDC)
- Bairo Gonzalez: Bill 2338/2023, where Brazil's AI framework stands in 2026
- Worldpay: Agentic commerce liability is still being written
- Tribuna do Paraná: IA erra preparo de exame e juiz manda clínica pagar indenização (25/03/2026)
- TechCrunch: From coding tests to billion-dollar startups, Ali Partovi's eight-year experiment is paying off (27/04/2025)
- WSJ Pro: Neo turned a $150 million fund into $1.2 billion (abr/2026)
- Ali Partovi, perfil Forbes
- TechCrunch: SpaceX officially closes its Cursor acquisition (15/08/2026)
- TechCrunch: Ali Partovi's Neo looks to upend the accelerator model with low-dilution terms (19/02/2026)