ChatGPT inventou testemunhos e fatos em recurso criminal, conclui Suprema Corte do Novo México

16 de setembro de 2026

0 0

ChatGPT inventou testemunhos: Advogado foi declarado em desacato, recebeu multa de 5 mil dólares e teve todas as peças retiradas do processo; apelação por homicídio continuará com um novo defensor

A Suprema Corte do Novo México concluiu que um advogado apresentou em um recurso criminal testemunhos, personagens e afirmações jurídicas que não existiam nos autos. O conteúdo havia sido produzido com o auxílio do ChatGPT e foi protocolado em nome de um homem condenado por homicídio. Em decisão de 9 de setembro de 2026, os cinco integrantes do tribunal declararam o defensor em desacato direto, aplicaram multa de 5 mil dólares, encaminharam o caso ao órgão disciplinar da advocacia e determinaram a retirada de todas as peças que ele havia apresentado na apelação.

O episódio amplia o debate sobre erros gerados por inteligência artificial em documentos jurídicos. Casos anteriores ganharam atenção principalmente porque ferramentas de IA inventaram decisões judiciais ou atribuíram entendimentos falsos a precedentes reais. No processo do Novo México, o problema foi além. O recurso incluiu relatos de pessoas que nunca prestaram depoimento, falas inexistentes atribuídas a pessoas reais e descrições factuais que não constavam do julgamento.

Apesar da gravidade, é necessário definir com exatidão o que aconteceu. O ChatGPT não criou uma prova que depois foi admitida pelo juiz ou apresentada a um júri. As informações inventadas apareceram em documentos de apelação preparados pelo advogado Stephen D. Aarons para representar Oscar Renee Sandoval. A diferença é relevante porque o caso não trata de uma adulteração do conjunto probatório original, mas da apresentação de uma narrativa falsa sobre esse conjunto a um tribunal responsável por revisar uma condenação criminal.

ChatGPT inventou testemunhos. O que o ChatGPT inventou no recurso criminal

Segundo a ordem da Suprema Corte do Novo México, Aarons reconheceu que utilizou o ChatGPT durante a preparação do recurso. A corte identificou testemunhos falsos atribuídos a quatro personagens completamente inventados: a policial Michelle Amarillo, o policial Sanchez, Manal Al-Jibury e Teresa Marquez.

O documento também continha declarações inexistentes associadas a pessoas reais. Entre elas estavam afirmações sobre ameaças supostamente recebidas por Danny Stanton e sobre o que Linda Stanton teria relatado a respeito dessas ameaças. O recurso ainda apresentou versões incorretas de depoimentos ligados à roupa e à aparência do autor do crime, incluindo uma descrição segundo a qual ele vestia calça escura e camisa branca.

A decisão informa ainda que o advogado apresentou de forma incorreta o conteúdo de dois precedentes do próprio Novo México, State v. Lopez e State v. Manus. Portanto, o problema atingiu tanto a descrição dos fatos quanto a fundamentação jurídica. Para uma corte de apelação, as duas partes são essenciais. O tribunal precisa saber o que realmente ocorreu no processo e quais decisões anteriores sustentam cada argumento.

Aarons admitiu que não verificou as afirmações factuais nem as autoridades jurídicas antes de assinar e protocolar o documento. Essa admissão tornou central uma regra básica da atuação profissional: qualquer peça apresentada ao tribunal permanece sob a responsabilidade do advogado, ainda que uma ferramenta tecnológica tenha participado de sua elaboração.

Como as informações falsas chegaram ao processo

De acordo com a reportagem da Reuters, o advogado afirmou que forneceu ao ChatGPT uma transcrição gerada por computador e outros materiais do caso. Ele esperava receber um resumo confiável do julgamento. O resultado, porém, combinou elementos reais com fatos inexistentes e apresentou tudo em linguagem aparentemente segura.

Esse tipo de erro costuma ser chamado de alucinação de inteligência artificial. A expressão descreve uma resposta que parece coerente, detalhada e convincente, mas contém informações sem apoio nas fontes. O sistema não precisa ter a intenção de enganar para produzir esse resultado. Modelos de linguagem geram sequências de palavras com base em padrões estatísticos e podem preencher lacunas com nomes, falas, datas ou referências plausíveis que nunca existiram.

Para uma pessoa sem conhecimento técnico, uma comparação simples ajuda. Um modelo de linguagem pode funcionar como alguém capaz de redigir muito bem, mas que não distingue automaticamente uma lembrança correta de uma suposição. Quanto mais fluente for o texto, maior pode ser a impressão de segurança. A aparência profissional não comprova a veracidade do conteúdo.

No direito, o risco aumenta quando um resumo automatizado substitui a leitura das fontes originais. Uma transcrição extensa pode conter centenas ou milhares de páginas. Se a ferramenta atribui uma frase à pessoa errada ou inventa uma testemunha, a falha pode passar despercebida quando o profissional não compara cada afirmação relevante com o registro oficial.

Tribunal responsabilizou o advogado, não o programa

A decisão não trata o ChatGPT como autor jurídico do recurso. A responsabilidade foi atribuída a Aarons, que assinou e apresentou as peças. O tribunal registrou que ele não conferiu as alegações produzidas com auxílio da IA e também não informou adequadamente o cliente sobre as falhas, as declarações incorretas e o procedimento aberto para apurar sua conduta.

A Suprema Corte demonstrou preocupação adicional com a relação entre advogado e cliente. Conforme a ordem, Aarons não entregou ao representado cópias das peças relevantes nem comunicou de forma suficiente o problema criado no recurso. Os magistrados também avaliaram que ele não mostrou o grau de arrependimento ou de preocupação com o cliente esperado diante da situação.

O tribunal declarou o advogado em desacato direto e determinou o pagamento de 5 mil dólares ao fundo de proteção de clientes da Ordem dos Advogados do Novo México. Aarons ficou impedido de atuar perante a Suprema Corte estadual até a conclusão do processo disciplinar. O caso foi encaminhado ao conselho responsável por examinar infrações profissionais, que poderá avaliar outras consequências.

A corte também nomeou o escritório da Defensoria Pública para assumir a representação de Sandoval. Todas as peças apresentadas por Aarons foram retiradas do processo. Uma nova programação será estabelecida depois que o novo defensor comparecer formalmente e tiver condições de preparar outro recurso.

Recurso por homicídio ainda não foi julgado

Outro cuidado necessário é não confundir a punição do advogado com uma decisão sobre a condenação de Oscar Renee Sandoval. A ordem de desacato não confirmou nem anulou a sentença criminal. A apelação continua pendente e deverá ser analisada com base em novas peças preparadas pela defesa substituta.

Sandoval foi condenado pelo homicídio de Shiereen Al-Jibury e recebeu pena de prisão perpétua, segundo a Reuters. A versão apresentada pela promotoria afirma que o crime ocorreu em abril de 2024 e que a vítima tentou obter ajuda de uma pessoa que passava de carro. Informações divulgadas pelo Ministério Público do Condado de Doña Ana registram que Sandoval foi posteriormente considerado culpado. Autoridades americanas também informaram que ele havia sido localizado e preso no México após uma operação conjunta.

Como se trata de uma condenação com pena de prisão perpétua, a Suprema Corte do Novo México exerce jurisdição direta sobre a apelação. O processo State v. Sandoval, identificado pelo número S-1-SC-40845, aparece entre os casos previstos para o período judicial de 2026 a 2027 na programação oficial da corte.

A retirada das peças procura restaurar a regularidade da defesa sem antecipar o resultado. O novo advogado poderá examinar as transcrições, selecionar questões jurídicas sustentadas pelos autos e apresentar argumentos verificáveis. Somente depois disso o tribunal deverá decidir se houve algum erro capaz de alterar a condenação ou a pena.

Caso vai além das citações judiciais falsas

O uso inadequado de inteligência artificial por advogados já levou tribunais de diferentes lugares a impor advertências e sanções. Em muitos episódios, a ferramenta criou nomes de processos, números de registros e trechos de decisões inexistentes. O profissional apresentou as referências sem abrir os documentos originais ou confirmar sua autenticidade.

O caso do Novo México acrescenta uma categoria de risco. Em vez de inventar apenas a fonte jurídica usada para sustentar um argumento, o sistema alterou a própria narrativa sobre o que teria acontecido no julgamento. Testemunhas inexistentes apareceram como se tivessem falado sob juramento. Pessoas reais receberam declarações que não fizeram. Detalhes sobre ameaças e sobre a aparência do autor do crime foram apresentados sem respaldo no registro processual.

Em uma apelação criminal, essas distorções podem influenciar a maneira como os juízes compreendem o caso. A análise de temas como identificação do acusado, suficiência das provas, credibilidade de testemunhas e eventuais erros processuais depende de uma representação fiel do julgamento. Uma descrição falsa pode fazer um argumento parecer mais forte ou mais fraco do que realmente é.

Isso não significa que a informação incorreta tenha mudado o resultado final neste processo. A corte detectou o problema antes de julgar o recurso, retirou os documentos e designou outro defensor. Até o momento, portanto, o efeito confirmado foi a interrupção e a reorganização da apelação, além das consequências profissionais impostas ao advogado.

Dever de verificação continua nas mãos do profissional

Ferramentas de IA podem ajudar na organização de documentos, na criação de rascunhos e na localização inicial de temas relevantes. Esses usos não eliminam a necessidade de revisão humana. Quanto maior a importância de uma afirmação, mais direta deve ser sua conferência na fonte original.

Em um recurso criminal, verificar não significa apenas reler o texto final em busca de erros gramaticais. Cada citação deve ser comparada com a decisão mencionada. Cada fala atribuída a uma testemunha deve ser localizada na transcrição. Nomes, datas, páginas e descrições precisam corresponder ao processo. Quando a informação não pode ser confirmada, ela não deve ser apresentada como fato.

Também existe uma diferença entre usar a IA para sugerir uma estrutura e permitir que ela determine o conteúdo factual. Um roteiro de tópicos pode servir como ponto de partida. Um resumo de depoimentos, por outro lado, exige controle rigoroso porque qualquer alteração pode mudar o sentido jurídico do caso.

A decisão do Novo México reforça que alegar desconhecimento sobre as limitações da tecnologia não afasta automaticamente a responsabilidade. Durante a audiência, uma integrante da corte questionou a afirmação de que o advogado não compreendia a capacidade de sistemas de IA produzirem informações falsas, especialmente depois da ampla divulgação de episódios semelhantes.

Impacto sobre direitos individuais e confiança nos tribunais

Erros em processos criminais possuem consequências particulares porque a liberdade e outros direitos do acusado estão em discussão. Um recurso é uma oportunidade de verificar se a condenação respeitou as regras e se as provas sustentam o resultado. Quando a defesa apresenta informações inexistentes, ela pode prejudicar o próprio cliente que deveria proteger.

O problema também atinge a parte contrária e o funcionamento do Judiciário. Promotores e juízes precisam gastar tempo para conferir alegações que deveriam ter sido revisadas antes do protocolo. Se a origem da informação falsa não for percebida rapidamente, a discussão processual pode se afastar dos fatos registrados.

A confiança no sistema depende de documentos que possam ser rastreados até fontes verificáveis. A inteligência artificial torna a redação mais rápida, mas também permite produzir grandes volumes de texto convincente em poucos minutos. Esse ganho de velocidade pode ampliar o alcance de um erro quando a conferência não acompanha o ritmo da produção.

Para escritórios de advocacia, defensorias, órgãos públicos e departamentos jurídicos, o episódio favorece a adoção de procedimentos internos claros. A revisão deve registrar quais documentos foram consultados, quem conferiu as citações e como as afirmações factuais foram comparadas com os autos. A ferramenta utilizada pode variar, mas a obrigação de entregar um trabalho correto permanece.

Há ainda questões de confidencialidade que precisam ser avaliadas antes de inserir materiais de um processo em serviços externos. A ordem de desacato concentrou-se nas falsidades e na conduta profissional observada no caso, não estabelecendo uma conclusão geral sobre privacidade. Mesmo assim, a natureza dos documentos jurídicos exige que cada organização analise as regras aplicáveis e as condições do serviço utilizado.

Decisão não cria precedente obrigatório, mas envia sinal institucional

A própria Suprema Corte informou que a ordem não foi selecionada para publicação oficial e não possui força de precedente nos termos indicados pelo tribunal. Isso limita seu uso formal como autoridade jurídica em processos futuros. A ausência de efeito vinculante, porém, não elimina sua relevância prática.

Uma decisão assinada com a concordância dos cinco magistrados da mais alta corte estadual demonstra como erros relacionados à IA podem ser tratados quando atingem fatos centrais de um processo criminal. A combinação de multa, desacato, afastamento temporário, encaminhamento disciplinar, substituição do defensor e retirada integral das peças mostra que a conferência do conteúdo é vista como parte essencial da representação jurídica.

O caso também oferece uma referência concreta para a formação de advogados. A questão já não é apenas se profissionais podem usar ChatGPT ou ferramentas semelhantes. O ponto decisivo é como esse uso será controlado e documentado para impedir que linguagem plausível seja confundida com informação comprovada.

O que o caso do ChatGPT no Novo México demonstra

O episódio evidencia que uma resposta bem escrita não equivale a uma resposta verdadeira. O ChatGPT produziu um material que aparentava resumir o processo, mas incluiu personagens, falas e interpretações sem base nos autos. O advogado deixou de realizar a conferência necessária e apresentou o texto à Suprema Corte em nome de uma pessoa condenada à prisão perpétua.

Ao detectar as irregularidades, o tribunal não decidiu imediatamente a apelação com base no documento problemático. Em vez disso, retirou as peças, nomeou nova defesa e preservou a possibilidade de uma análise futura com argumentos corretos. Ao mesmo tempo, impôs consequências ao profissional responsável pelo protocolo.

O alcance final do caso ainda depende do processo disciplinar e do julgamento da apelação criminal. Aarons declarou à Reuters que lamentava o ocorrido e esperava que o órgão disciplinar considerasse o episódio um erro honesto. A OpenAI não havia apresentado resposta detalhada à reportagem até sua publicação.

Por enquanto, a conclusão mais segura é que a inteligência artificial pode participar da preparação de um documento, mas não assume o dever profissional de conferir os fatos. Em processos judiciais, sobretudo na área criminal, a origem de cada afirmação precisa ser demonstrável. Quando essa etapa é ignorada, o risco não se limita a uma citação errada. Ele pode alcançar a narrativa do caso, a defesa do acusado e a credibilidade do próprio sistema de Justiça.

ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos, ChatGPT inventou testemunhos