O programa da OpenAI inventou depoimentos policiais e criou testemunhas fictícias para um processo de assassinato. A punição ocorreu depois que o profissional apresentou o material ao tribunal sem verificar a precisão das informações.
Depoimentos falsos e testemunhas inventadas
O caso envolve a apelação de Oscar Renee Sandoval, condenado à prisão perpétua pelo assassinato da mãe de seus filhos. Ao assumir o recurso, o advogado Stephen Aarons alimentou o ChatGPT com uma transcrição gerada por computador e outros materiais do julgamento, esperando obter um resumo confiável.
O resultado incluiu declarações que nunca foram feitas e testemunhas que jamais existiram. Entre os exemplos apontados pela Suprema Corte estava uma afirmação de que o atirador vestia calça escura e camisa branca.
A corte afirmou que o recurso continha “falso testemunho de testemunhas totalmente inventadas”.
A Suprema Corte aplicou a Aarons uma multa de US$ 5 mil e informou que encaminhará o caso a um órgão disciplinar da advocacia para investigação. Os ministros também afirmaram que o advogado demonstrou falta de arrependimento e preocupação insuficiente com seu cliente.
Advogado diz que não conhecia as “alucinações” da IA
Durante uma audiência em 21 de agosto, Aarons disse que havia alimentado o ChatGPT com os materiais do processo porque acreditava que a ferramenta produziria um resumo “à prova de falhas”. Ele afirmou não compreender até que ponto a inteligência artificial poderia inventar informações.
Em declaração à Reuters, o advogado reconheceu o erro e disse esperar que o conselho disciplinar considere que não houve intenção de enganar o tribunal:
“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto.”
A juíza C. Shannon Bacon demonstrou incredulidade diante da explicação e questionou o advogado sobre seu conhecimento a respeito das falhas da inteligência artificial.
“Advogado, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo?”
- Casos anteriores: Dezenas de advogados já foram punidos por apresentar documentos em que a IA inventou citações de processos ou interpretou incorretamente a legislação.
- Gravidade do caso: O recurso de Aarons foi além desses erros ao incluir testemunhos fictícios em uma apelação criminal.
- Andamento do processo: A apelação de Sandoval continua pendente e, em 2 de setembro, passou a ser conduzida pela defensora pública Kim Chavez Cook.
Decisão reforça alerta para o setor
A punição se soma a uma sequência de casos em que tribunais estaduais e federais dos Estados Unidos sancionaram advogados por apresentar documentos produzidos por inteligência artificial sem verificar adequadamente o conteúdo. O caso de Aarons chama atenção porque as informações inventadas não se limitaram a referências jurídicas: chegaram a incluir depoimentos e testemunhas inexistentes em um processo criminal.
A OpenAI não respondeu imediatamente ao pedido de comentário da Reuters. A apelação de Sandoval continua em andamento.
Valdir Antonelli
Fonte: @olhardigital
Nice post with useful details and a natural explanation. It’s helpful to have an easy way to check unexpected clicking behavior. You can try a double click test when one click seems to register twice. This can help users understand unusual button responses and decide whether their mouse needs further checking.
ResponderExcluirPostar um comentário
Agradecemos pelo seu comentário!