Yuri revisou o plano dez vezes. Bastou uma IA fria para achar o que faltava

Yuri tinha revisado um plano de negócios dez vezes. Não era um documento qualquer. Estava ligado a um passo importante, o tipo de decisão que não se refaz com facilidade. Ele leu, ajustou frases e conferiu números. Dez vezes. Achando que o texto estava fechado, pediu uma última revisão, agora de uma ferramenta de IA, sem aviso prévio nem contexto, só para checar friamente o que sobrava.

A ferramenta achou três números na prosa que contradiziam as tabelas do próprio plano. Não eram erros de digitação. Eram sobras de uma versão anterior do modelo financeiro. Alguém tinha atualizado as planilhas, mas esquecido de atualizar o texto corrido. É exatamente o tipo de furo que faz um revisor humano parar de confiar no documento. Se aquele número passou despercebido por dez leituras seguidas, o que mais passou.

A ferramenta também encontrou uma alíquota com o rótulo errado, um detalhe que qualquer investidor atento cobraria. E encontrou uma frase que nenhum engenheiro sério assinaria: uma promessa de "zero alucinação". Essa frase tinha sobrevivido a dez revisões de um homem experiente, num plano que ele mesmo redigira com a ajuda de uma ferramenta de texto. Não porque ele fosse desatento. Porque texto plausível lê bem. E texto que lê bem não pede para ser conferido. Ele pede para ser aceito.

Essa é a armadilha. Revisar de novo o texto que você mesmo escreveu tende a confirmar o que já está lá, não a caçar o que está errado. O olho acostuma. A frase que soa certa na quinta leitura continua soando certa na décima. É preciso um leitor sem memória do documento, sem investimento emocional nele, para notar a costura mal feita. Nesse caso, esse leitor foi uma IA. Poderia ter sido outra pessoa. Não foi, e é por isso que a lição vale a pena ser contada.

O caso de Yuri não é exótico. Existe um padrão documentado em tribunais americanos que conta a mesma história. Em uma petição federal recente contra uma companhia aérea, um advogado citou jurisprudência inventada por um assistente de IA, sem verificar os casos antes de apresentá-los ao juiz. A responsabilidade pela exatidão continuou sendo dele, mesmo tendo delegado a pesquisa. Anos depois, numa escala bem maior, uma banca de advocacia teve cinco profissionais assinando uma moção com citações fabricadas, três deles removidos do caso por um juiz federal. Para limpar a bagunça, a banca precisou contratar outra firma para auditar duas mil e quatrocentas citações espalhadas por trezentos e trinta apresentações anteriores. Profissionais treinados, com anos de prática em ler e verificar texto jurídico, deixaram passar o que simplesmente soava certo.

Existe um nome para essa tendência: viés de automação. É a inclinação humana de confiar mais numa informação porque ela veio de um computador do que confiar no próprio julgamento. Não é falta de inteligência. É um atalho cognitivo que todo mundo carrega, inclusive advogados que passaram a carreira caçando o erro dos outros, e inclusive Yuri revisando o próprio plano pela décima vez.

E é aqui que a frase "zero alucinação" se torna o detalhe mais revelador da história. Pesquisa recente sobre por que modelos de linguagem alucinam explica que a alucinação não é um bug isolado à espera de um patch. É estrutural. Nasce de como esses modelos são treinados e avaliados, e persiste até nas versões mais avançadas. Alucinação, sob essa definição, é simplesmente uma declaração plausível mas falsa gerada pelo modelo. Prometer eliminá-la por completo não é otimismo. É desconhecimento do próprio produto, ou pior, é saber disso e vender a promessa assim mesmo. Qualquer leitor que entenda um pouco do assunto reconhece a frase na hora e para de confiar em quem a escreveu.

A lição tem duas partes, e elas não se separam. A primeira é que texto plausível não é texto conferido. Ele pode passar por dez revisões, pode ser escrito com a melhor ferramenta disponível, pode ler perfeitamente bem, e ainda assim carregar um número morto de uma versão anterior. A conferência linha a linha continua sendo trabalho humano, não porque a IA seja ruim nisso, mas porque um segundo par de olhos frios enxerga o que a familiaridade esconde. A ferramenta ajudou justamente porque não estava cansada do documento.

A segunda parte é mais dura de engolir para quem vende tecnologia. Prometer perfeição é o jeito mais rápido de perder o leitor que entende do assunto. Não existe zero alucinação. Existe processo de verificação, segunda revisão e um ceticismo saudável sobre qualquer texto que soa bom demais para ser conferido de novo. Quem promete o contrário não está descrevendo a ferramenta. Está descrevendo o que gostaria que ela fosse.