ChatGPT inventou depoimentos policiais em recurso de homicídio; advogado é multado nos EUA
Além da punição, Stephen Aarons será investigado pelo conselho disciplinar, enquanto o recurso de Oscar Renee Sandoval contra a prisão perpétua segue pendente.
A Suprema Corte do Novo México, nos EUA, multou na quarta – feira (10) o advogado Stephen Aarons em US 5.000 por apresentar, em um recurso criminal, depoimentos policiais e de testemunhas inventadas pelo ChatGPT. Aarons foi considerado culpado de desacato por não verificar a precisão do documento usado na tentativa de reverter a condenação de seu cliente por homicío.
O tribunal informou que o processo incluía “depoimentos falsos de testemunhas totalmente inventadas”. Os juízes também disseram que o advogado demonstrou “falta de remorso e falta de preocupação com seu cliente” e determinaram que o caso seja encaminhado a um conselho disciplinar de advogados para investigação.
Documento tinha depoimentos e declarações fabricadas
O material questionado teria incluído “declarações fictícias de que o atirador estava usando calças escuras e uma camisa branca”. No mês passado, a Suprema Corte estadual ordenou que Aarons explicasse como esse conteúdo foi parar na petição principal do recurso.
Em audiência realizada em 21 de agosto, o advogado afirmou que entregou ao ChatGPT uma transcrição gerada por computador e outros documentos do caso. Ele disse que esperava receber “um resumo à prova de balas”, mas não percebeu até que ponto a ferramenta poderia “alucinar” fatos.
Durante a audiência, os juízes demonstraram incredulidade diante da afirmação de que Aarons não conhecia plenamente a possibilidade de a inteligência artificial cometer erros. “Advogados, vocês assistem aos noticiários? Ouvem rádio? Leem alguma coisa sobre o que está acontecendo no mundo?”, questionou a juíza C.
Shannon Bacon. “Porque o problema dos advogados que se baseiam em é notícia de primeira página todos os dias”.
Recurso de Oscar Renee Sandoval continua pendente
Aarons, advogado particular com sede em Santa Fé, atuava na apelação de Oscar Renee Sandoval. O cliente se declarou inocente do assassinato da mãe de seus filhos, mas acabou condenado e sentenciado à prisão perpétua no ano passado.
Leia também
O recurso continua pendente e foi atribuído em 2 de setembro a Kim Chavez Cook, defensora pública do Novo México. Cook não quis comentar. O gabinete do procurador distrital do condado de Doña Ana também se recusou a se pronunciar.
Em declaração à Reuters, Aarons afirmou que usou o ChatGPT para resumir os procedimentos do julgamento quando aceitou assumir o recurso do réu no ano passado. “Estou arrependido, mas espero que a comissão disciplinar leve em consideração que foi um erro honesto”, disse. “É uma lição aprendida para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável”.
Sanções contra advogados que usam inteligência artificial
A OpenAI não respondeu imediatamente ao pedido de comentário. A punição aplicada no Novo México se soma a uma série crescente de medidas contra advogados que entregaram documentos judiciais produzidos por ferramentas de inteligência artificial sem conferir o conteúdo.
Dezenas de advogados já foram sancionados por apresentar memoriais com citações de casos inventadas pela IA ou referências incorretas à legislação. No caso de Aarons, porém, o tribunal apontou que o problema avançou para um recurso criminal que continha depoimentos fabricados de testemunhas.