Via @consultor_juridico | A juíza federal Sharion Aycock teve de lidar com um cenário inusitado em sua corte, no Distrito Norte de Mississippi (EUA): advogados das duas partes, em um caso de disputa contratual, incluíram em suas petições jurisprudências inexistentes, fabricadas por “alucinações” de inteligência artificial. Irritada, a juíza aplicou sanções aos quatro advogados — dois de cada parte — que atuavam no caso.

O caso não é isolado. Magistrados de várias partes do mundo, inclusive do Brasil, estão perdendo a paciência com advogados que fazem mau uso da IA em petições e outros documentos.

No caso de Mississippi, a juíza aplicou aos envolvidos multas modestas, entre 1 mil e 3,5 mil dólares — em alguns casos, a sanção pelo mau uso de IA chegam a quase 100 mil dólares.

Outras punições, porém, foram mais severas. A magistrada removeu os quatro advogados da ação, proibiu duas delas de atuarem, por dois anos, no Tribunal do Distrito Norte de Mississippi, suspendeu o julgamento e deu um prazo de 60 dias para as partes contratarem novos representantes.

Uma das principais broncas da juíza se refere ao fato de que nenhum dos quatro advogados se deu ao trabalho de verificar a correção das citações incluídas nas petições por seus respectivos bots de inteligência artificial. Assim, sobrou para a corte o trabalho de checar a autenticidade delas — e detectar os erros para não ser enganada em dose dupla.

De acordo com a decisão, os quatro advogados admitiram a culpa, se declararam envergonhados e pediram perdão. Ao se justificarem, porém, apresentaram o mesmo tipo de desculpa já esfarrapada, que a juíza não aceitou: a de que não sabiam que a IA generativa está sujeita a alucinações e pode produzir citações de jurisprudência inexistente ou sem relação com o caso.

Norma federal

Segundo a magistrada, não verificar a autenticidade das citações geradas pela IA é uma violação das regras federais de conduta civil (Federal Rules of Civil Procedure), que prescreve:

“Ao apresentar ao tribunal uma petição ou qualquer outro documento escrito — seja assinando, protocolando, submetendo ou posteriormente sustentando-o — o advogado ou qualquer parte que atua sem representação certifica que, de acordo com seu melhor conhecimento, informação e convicção, formados após uma investigação razoável, dadas as circunstâncias, as pretensões, defesas e demais argumentos jurídicos encontram amparo na legislação vigente ou em argumento de boa-fé, para estender, modificar ou reverter a legislação vigente ou para estabelecer nova norma jurídica”.

A implicação dessa regra, segunda a juíza, é a de que todo advogado tem o dever de realizar uma investigação razoável dos fatos e da legislação que se aplicam ao caso, antes de apor sua assinatura em qualquer documento destinado ao tribunal.

“A conduta do advogado é avaliada com base em um critério objetivo — não subjetivo — de razoabilidade. A razoabilidade é analisada segundo a regra da instantaneidade (‘snapshot rule’) – isto é, concentra-se no momento exato em que o advogado apõe sua assinatura no documento. À luz do critério objetivo de razoabilidade, a boa-fé subjetiva do advogado não é suficiente para isentá-lo de sanções decorrentes de uma violação das regras de conduta [aplicáveis aos operadores do Direito]”.

Diante desses preceitos, o Tribunal Federal de Recursos da Quinta Região deixou claro, segundo a juíza, que os advogados devem se certificar de que as proposições jurídicas oferecidas pela inteligência artificial são fidedignas e absolutamente corretas. “Não se pode terceirizar essa responsabilidade à tecnologia, nem mesmo delegá-la a outros advogados da equipe”, criticou a juíza.

“Esta corte já reconheceu o que tribunais federais em todo o país têm decidido: citar precedentes ou fundamentos jurídicos fictícios ou fabricados em petições, sem verificar sua veracidade, constitui conduta equivalente à má-fé”, complementou.

Para a julgadora, a desculpa de que não se sabia que os bots de IA podem produzir alucinações não é mais aceitável. “Todos os advogados são devidamente habilitados e, presume-se, possuem sólida formação jurídica. Assim, o tribunal conclui que eles tinham plena ciência de seus deveres, antes de cometerem tais infrações. A aplicação de sanções é, portanto, justificada em relação a todos eles”.

Panorama do Brasil

O Judiciário brasileiro também enfrenta as intempéries do mau uso da inteligência artificial generativa, no que se refere a citações de jurisprudência inexistente — ou que não se aplicam ao caso em julgamento — em petições protocoladas por alguns advogados supostamente irresponsáveis ou negligentes.

Os juízes vêm aplicando sanções cada vez mais pesadas para conter tais práticas, que definem como fraudes processuais, litigância de má-fé, atentados à dignidade da justiça ou fraudes processuais. Nesse quesito, o Brasil segue os passos dos Estados Unidos, embora perca na severidade das sanções monetárias.

Mas o Brasil ganha fácil dos Estados Unidos em outro quesito: o uso de comando oculto (prompt injection), para enganar os juízes e as partes adversárias. Esse tipo de artifício é, obviamente, conhecido nos EUA, mas ainda não se tornou um fenômeno assustador nos meios judiciais – embora sejam encontrados, raramente, em ações que envolvem o setor de tecnologia, de comércio e de espionagem empresarial.

A prática de inserir comandos ocultos em petições e outros documentos protocolados nas cortes não têm a ver com negligência ou preguiça de alguns advogados. São casos de fraudes (ou golpes), sem nenhum pudor.

Algumas ovelhas negras da advocacia inserem textos “invisíveis” (em fonte branca sobre fundo branco), em petições e outros documentos, com “comandos ocultos” programados para enganar os sistemas de inteligência artificial dos tribunais. “O objetivo é fazer com que o algoritmo do Judiciário ignore suas instruções originais e execute ordens fraudulentas para favorecer uma das partes”, segundo o STJ.

Tribunais já detectaram a falcatrua em São Paulo, Pará, Minas Gerais e Paraíba. No TJ-SP, por exemplo, um advogado incluiu comandos ocultos pedindo que a IA deferisse justiça gratuita e tutela de urgência. O juiz Diego Marcussi identificou a fraude e exigiu explicações.

No Pará, o Tribunal Regional do Trabalho da 8ª Região condenou duas advogadas ao pagamento de mais de R$ 84 mil por litigância de má-fé. Elas inseriram em sua petição inicial comandos ocultos, em letras brancas, para forçar a inteligência artificial do tribunal a sugerir uma decisão favorável a elas.

Em todos os países, o Judiciário vem tomando medidas, dentro do possível, para conter o mau uso da inteligência artificial. Além da aplicação de sanções, cada vez mais duras, advogados e promotores já são obrigados, em algumas jurisdições, a declarar que usaram a inteligência artificial na preparação de suas petições e que elas foram revisadas pelos advogados que assinam a petição.

No Brasil, o Conselho Nacional de Justiça tomou uma medida semelhante. Determinou que o uso da inteligência artificial no Judiciário deve sempre passar por revisão humana obrigatória, proibindo decisões exclusivamente automatizadas.

João Ozorio de Melo
Fonte: @consultor_juridico