Rafael NazarA Suprema Corte do Novo México multou e declarou em desacato o advogado de defesa Stephen Aarons por usar o ChatGPT na elaboração de um recurso de apelação criminal sem verificar a precisão das informações apresentadas. A ferramenta inventou depoimentos policiais e criou testemunhas fictícias em um processo de assassinato.
O caso envolve a apelação de Oscar Renee Sandoval, condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Ao assumir o recurso, Aarons inseriu no ChatGPT uma transcrição gerada por computador e outros materiais do julgamento, esperando obter um resumo confiável.
O documento produzido pela inteligência artificial incluiu declarações que nunca foram feitas e testemunhas que jamais existiram. Entre os trechos apontados pela corte estava a afirmação de que o atirador usava calça escura e camisa branca. Segundo a Suprema Corte, o recurso continha “falso testemunho de testemunhas totalmente inventadas”.
Aarons foi condenado a pagar uma multa de US$ 5 mil. A corte também informou que encaminhará o caso a um órgão disciplinar da advocacia para investigação. Os ministros afirmaram ainda que o advogado demonstrou falta de arrependimento e preocupação insuficiente com o cliente.
Durante uma audiência realizada em 21 de agosto, Aarons disse que acreditava que a ferramenta produziria um resumo “à prova de falhas” e afirmou não compreender até que ponto a inteligência artificial poderia inventar informações.
Em declaração à Reuters, o advogado reconheceu o erro e disse esperar que o conselho disciplinar considere que não houve intenção de enganar o tribunal. “Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto”, afirmou.
A juíza C. Shannon Bacon demonstrou incredulidade diante da explicação e questionou o advogado sobre seu conhecimento a respeito das falhas da inteligência artificial. “Advogado, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo?”, perguntou.
Dezenas de advogados já foram punidos nos Estados Unidos por apresentar documentos nos quais sistemas de inteligência artificial inventaram citações de processos ou interpretaram incorretamente a legislação. O caso de Aarons, porém, envolveu testemunhos fictícios em uma apelação criminal.
A apelação de Sandoval continua pendente e, em 2 de setembro, passou a ser conduzida pela defensora pública Kim Chavez Cook. A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.
