Erros gerados por inteligência artificial preocupam advogados e levam OAB a criar ferramenta de verificação

Via @maisgoiasoficial | Leis inexistentes, decisões judiciais inventadas, artigos revogados e jurisprudências que nunca foram julgadas. Com o avanço das ferramentas de inteligência artificial (IA) generativa, cresce também o número de documentos jurídicos produzidos com informações incorretas, situação que já levou tribunais brasileiros e estrangeiros a determinar correções de petições e reforçar o dever de revisão por parte dos advogados.

Para reduzir esse risco, o Conselho Federal da Ordem dos Advogados do Brasil (OAB) passou a disponibilizar gratuitamente aos profissionais inscritos na entidade uma plataforma capaz de verificar documentos produzidos com auxílio de inteligência artificial antes que eles sejam protocolados na Justiça. Batizada de OpenDetector, a ferramenta analisa petições, pareceres, contratos e pesquisas jurídicas em busca de referências inexistentes, decisões falsas, dispositivos legais incorretos e tentativas de manipulação dos sistemas de IA.

Inteligência artificial aumenta produtividade, mas também os riscos

A utilização de inteligência artificial cresceu rapidamente no meio jurídico nos últimos anos. Ferramentas generativas passaram a auxiliar advogados na elaboração de minutas, pesquisas doutrinárias, organização de documentos e produção de pareceres, reduzindo significativamente o tempo gasto em atividades repetitivas.

Ao mesmo tempo, especialistas alertam para um problema recorrente: as chamadas alucinações da inteligência artificial. O termo descreve situações em que o sistema produz respostas aparentemente corretas, mas baseadas em informações inexistentes ou incorretas.

No Direito, esse tipo de erro pode significar a citação de leis que nunca existiram, precedentes inexistentes, doutrinas atribuídas a autores errados ou interpretações incompatíveis com o entendimento dos tribunais.

Casos semelhantes já foram registrados no Brasil e em outros países, levando magistrados a exigir maior rigor na conferência das informações produzidas com auxílio de inteligência artificial.

Ferramenta identifica falhas antes do protocolo

A plataforma desenvolvida pela OAB permite que o advogado envie documentos em formatos como PDF, DOCX, TXT, HTML e MD ou cole diretamente o texto para análise.

O sistema verifica dispositivos legais, jurisprudências, citações doutrinárias e referências utilizadas na peça. Também identifica tentativas de manipulação conhecidas como prompt injection e jailbreak, além de indicar o nível de gravidade de cada inconsistência encontrada para que o profissional faça a revisão antes do protocolo.

Apesar da análise automatizada, a conferência final continua sendo responsabilidade do advogado. A própria entidade destaca que a ferramenta funciona como um mecanismo de apoio e não substitui a revisão técnica nem a responsabilidade profissional sobre o conteúdo apresentado ao Judiciário.

Tecnologia deve ganhar espaço na advocacia

O OpenDetector integra o Plano Nacional de Integração da Inteligência Artificial na Advocacia, iniciativa que prevê novas soluções tecnológicas para pesquisa jurídica, automação de atividades, segurança da informação e gestão de escritórios.

A expectativa é que novas ferramentas sejam disponibilizadas gradualmente aos profissionais, acompanhando a expansão da inteligência artificial na prática jurídica. Ao mesmo tempo, a OAB defende que a inovação seja acompanhada por critérios de segurança, proteção de dados e responsabilidade ética na utilização dessas tecnologias.

A reportagem entrou em contato com a assessoria de imprensa da OAB Goiás para saber quantos advogados já utilizam a plataforma, quais novas funcionalidades estão previstas e como será feita a evolução do sistema. Até o fechamento desta edição, não houve retorno.

Por Fernanda Cappellesso - Goiânia, GO
Fonte: @maisgoiasoficial