Entre leis e algoritmos: regulação, prática jurídica e inteligência artificial

Spread the love

Nos últimos 15 anos, a tecnologia impactou a advocacia “gradualmente e, então, de repente”, parafraseando Hemingway em O sol também se levanta. Processo eletrônico, sistemas de gestão de processos e automação de documentos são alguns exemplos de ferramentas que se incorporaram na prática jurídica, mas que não mudaram o jogo, frustrando muitos e criando até mesmo uma aversão pelas falsas promessas da tecnologia no Direito. 

A inteligência artificial (IA) na prática jurídica era uma aspiração e o que se via, geralmente, eram casos isolados vindos do mundo anglo-saxônico, com as suas peculiaridades sistemática e linguística. Contudo, a popularização da Inteligência Artificial Generativa (GenAI), sobretudo a sua subespécie composta pelos Large Language Models (LLMs) — grandes modelos de linguagem na área de aprendizado de máquina — alterou a percepção de um polo para o outro, do ceticismo à preocupação, da negação à regulação. 

Com a possibilidade de ser treinada para executar tarefas cada vez mais complexas, a GenAI tem o potencial de inovar a profissão jurídica como nenhuma tecnologia anterior. Pesquisas apontam que o setor jurídico é o que tem maior probabilidade de ser impactado pela GenAI e a Goldman Sachs, umas das principais instituições financeiras globais, estima que 44% do trabalho jurídico será automatizado por GenAI

Enquanto projetos de regulação ecumênica para IA avançam no Brasil e no mundo, há iniciativas pontuais, onde entidades estão proativamente desenvolvendo orientações e diretrizes para nortear o uso da referida tecnologia na prática jurídica. Se é uma boa ideia, ainda não sabemos. Mas pretendemos trazer o que já foi publicado e divulgado até agora para que o leitor forme a sua convicção.

De forma pioneira, a Ordem dos Advogados do Estado da Califórnia (State Bar of California) aprovou diretrizes para auxiliar os advogados a cumprirem suas obrigações éticas no uso de GenAI. Intitulado Practical Guidance for the Use of Generative Artificial Intelligence in the Practice of Law, o guia apresenta as recomendações iniciais do Comitê de Responsabilidade Profissional e Conduta da Ordem dos Advogados do Estado da Califórnia em relação ao manejo da tecnologia.

O documento é um compêndio de orientações práticas ancoradas nos princípios de responsabilidade profissional, abrangendo temas fundamentais como a confidencialidade, a competência e a diligência, a supervisão de advogados e auxiliares jurídicos, a transparência na utilização de GenAI, a justa remuneração por trabalhos elaborados com o auxílio de GenAI, a transparência perante o Poder Judiciário e a prevenção de discriminação, assédio e retaliação. 

Enfatiza-se, ainda, a necessidade de uma avaliação criteriosa por parte dos advogados no tocante aos dados inseridos e gerados pela IA, a fim de assegurar a exatidão das informações, o dever de sigilo profissional e a preservação da autonomia do discernimento profissional, evitando-se assim a dependência excessiva da tecnologia na tomada de decisões jurídicas.

A Ordem dos Advogados da Flórida (The Florida Bar), por sua vez, adotou diretrizes éticas para o uso de tecnologias e IA por advogados. No parecer elaborado, a organização estabelece princípios gerais para o uso de IA e alerta que os profissionais devem compreender suficientemente a tecnologia que utilizam para, assim, cumprir com as suas obrigações éticas. O Parecer Consultivo 24-1 autoriza o uso de IA generativa por advogados, ressaltando quatro precauções éticas: (i) garantia da confidencialidade, (ii) manutenção da supervisão adequada por humanos, (iii) transparência na precificação dos serviços jurídicos, e (iv) precauções quanto ao sigilo profissional.

No Reino Unido, o Poder Judiciário (Courts and Tribunals Judiciary) elaborou orientações para o uso de inteligência artificial nos cargos judiciais. As instruções sugerem que os órgãos utilizem a assistência de IA para resumir grandes volumes de textos e redigir apresentações, e-mails e memorandos, advertindo a problemática do uso da tecnologia para a investigação e raciocínio jurídico. 

O documento recomenda que os usuários possuam compreensão básica das capacidades da IA ​​e suas potenciais limitações, mantenham a confidencialidade e a privacidade das informações, verifiquem os resultados gerados, estejam cientes de seus vieses e sejam pessoalmente responsáveis pelos materiais produzidos. Ainda, apresenta exemplos dos principais riscos e problemas que os utilizadores da IA ​​podem encontrar, juntamente com algumas sugestões para minimizá-los. 

No tocante à verificação dos resultados gerados, um pequeno parêntesis deve ser aberto acerca da realização de um trabalho de conscientização também da nova geração de advogados. É claro que a tendência é que os sistemas se desenvolvam cada vez mais e se tornem mais precisos, observados os inputs, mas é fundamental que trabalhemos para garantir, dentro de universidades, escritórios, órgãos públicos e empresas, que as novas gerações não percam – por conta da facilidade –, mas sim desenvolvam habilidades para construir tais inputs, bem como senso crítico para apreciar o que lhes é entregue pela IA. 

Aqui no Brasil, o Conselho Pleno da OAB da Seccional do Acre (OAB-AC) aprovou regulamentação sobre o uso de GenAI na advocacia acreana, com o objetivo de orientar os advogados quanto à responsabilidade no uso da tecnologia, bem como dos seus limites, e estabelecer diretrizes para o uso ético.

A resolução estabelece princípios no uso de GenAI, pontuando que sua utilização deve ser pautada pelo controle e supervisão humana especializada, não discriminação, linguagem acessível, transparência, responsabilidade ética e jurídica, proteção de dados e privacidade melhoria contínua e inovação responsável e acesso à justiça. Esclarece, ademais, que os profissionais jurídicos usuários da tecnologia possuem deveres no uso dos sistemas, elencando, dentre eles, a verificação da precisão, formação contínua em tecnologias emergentes, monitoramento e avaliação da IA, avaliação do impacto social e ético e qualidade do prompt.

A complexidade inerente à IA e seus potenciais riscos – como viés algorítmico, confidencialidade das informações, imprecisão de resultados e questões de privacidade – legitimam a preocupação compartilhada por tais entidades evidenciam o quanto a tecnologia é uma realidade, ao mesmo tempo que expõem uma severa apreensão com os potenciais efeitos deletérios de seu uso na prática jurídica. 

O caso de informações jurídicas falsas geradas por GenAI mais conhecido é o Mata v Avianca, de 2023, oriundo de uma das cortes de Nova York, onde os advogados apresentaram uma defesa judicial repleta de casos inventados, fruto de alucinação do ChatGPT. Lamentavelmente, os advogados não verificaram se os casos citados realmente existiam. 

Diante da ampliação do emprego de GenAI nos procedimentos legais, diversos magistrados de cortes federais internacionais têm emitido decretos para regulamentar da tecnologia pelos advogados no judiciário. No Canadá, o Tribunal de Justiça de Manitoba (Court of King’s Bench of Manitoba) estabeleceu que quando a IA for utilizada em documentos judiciais deve haver a respectiva indicação.

Em Illinois, os advogados que utilizarem qualquer ferramenta de IA generativa na preparação ou elaboração de documentos devem divulgar o uso da tecnologia e especificar qual a ferramenta utilizada. No mesmo sentido, o Tribunal do Distrito Norte do Texas determinou que todos os advogados que comparecerem ao Tribunal devem atestar que nenhuma parte do processo foi redigida por GenAI ou, nos casos em que a tecnologia for utilizada, que as informações foram verificadas por um humano. 

O Tribunal de Comércio Internacional dos Estados Unidos (US Court of International Trade) foi um pouco mais severo. Preocupado com a utilização de plataforma de GenAI e a circulação de informações confidenciais nesses ambientes, ordenou que os documentos encaminhados ao Tribunal que utilizem recursos de inteligência artificial em sua preparação, devem conter: (i) um aviso que identifique o programa utilizado e as partes específicas do texto redigidas com a ajuda desse programa, e, ainda, (ii) uma certificação de que o uso do programa não resultou na divulgação de quaisquer informações confidenciais a terceiros não autorizados.

Embora seja impossível, nesse momento, prever de forma completa e precisa como o uso da inteligência artificial irá se desenvolver, apenas observar a evolução não é uma opção viável. Enquanto regulações robustas são elaboradas, as iniciativas de associações profissionais e órgãos judiciais no fornecimento de orientações preliminares buscam que as ferramentas de IA no âmbito jurídico sejam usadas e confeccionadas de forma responsável, garantindo que o uso da tecnologia implique em ajuda e contribuição, e não em fonte de desinformação. 

Esses esforços combinados sublinham a necessidade de uma abordagem diligente na integração de novas tecnologias na prática jurídica, assegurando que os princípios éticos que norteiam a profissão sejam não apenas mantidos, mas aprimorados e capazes de suportar toda essa transformação. 

Esse movimento não é apenas uma resposta às demandas atuais, mas também uma atuação proativa para encarar os desafios do futuro. Proibir não é uma opção; limitar de forma principiológica pode ser. É bom dizer que, apesar do espírito avant-garde de tais normas, quando o assunto é regulação setorial de IA, isso é apenas o começo. Por essa perspectiva, abordagens mais matizadas, como vimos aqui, podem ajudar a nortear a regulação de IA em outros setores.

Em suma, por ora, as palavras de ordem no uso de GenAI são ‘’manuseie com cuidado’’. Mais do que nunca, a capacidade crítica e a responsabilidade dos profissionais no uso das ferramentas serão essenciais. Nesse contexto, o desafio não se limita à simples adoção de novas tecnologias, mas à necessidade de implementação de práticas que assegurem que a atividade jurídica seja amplificada pela tecnologia, e não comprometida por ela. 

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *