Compartilhe
Contate
Role para baixo
Categorias
//Ensinando um Robô a Julgar: giro computacional no Judiciário

Ensinando um Robô a Julgar: giro computacional no Judiciário

por Luiz Eduardo Cani e Elcemara A. Zielinski

1. O livro de Daniel Boeing e Alexandre Morais da Rosa se assenta no que se pode chamar de giro computacional: uma revolução nas práticas sociais. Não que os aparelhos tenham mudado as práticas, mas, antes, as práticas produziram aparelhos e, por meio do uso desses aparelhos, produziram-se novas práticas. Essas práticas, por óbvio, não estão circunscritas ao campo tecnológico. No e ao redor do Direito, vem-se desenhando todo um arranjo das novas tecnologias, sobretudo com a introdução de algoritmos de simulação de inteligência (chamada de inteligência artificial) para executar tarefas de pequena e média complexidade. Esse movimento é inacessível à extragrande maioria dos juristas. Daí a pretensão dos autores foi fornecer alguns elementos mínimos para reduzir a complexidade da tarefa cognitiva.

2. O livro é dividido em três capítulos. No Capítulo 1, dividido em dois subitens, os autores tratam do aprendizado de máquina. No item 1.1, em que conceituam o tema, explicam o que são agentes inteligentes (1.1.1) e como funciona, grosso modo, a aprendizagem de máquina (1.1.2). No item 1.2, explicam as aplicabilidades da aprendizagem de máquina no campo jurídico. Para tanto, elucidam o processamento de linguagem natural utilizado por algoritmos para aplicação da inteligência artificial a textos (1.2.1) e como os textos são vetorizados nesse processo (1.2.2). No Capítulo 2, abordam as articulações entre linguagem e Direito em três subitens. No item 2.1, explicam a visão descritivista da linguagem subjacente à Teoria Pura do Direito. No item 2.2, tratam da articulação possível entre os jogos de linguagem de Wittgenstein e O conceito de direito, de Hart. No item 2.3, explicitam o decisionismo no paradigma da filosofia analítica. No Capítulo 3, enfrentam a problemática das limitações dos algoritmos: as heurísticas e os vieses. No item 3.1, partem de um estudo de caso realizado na UNIVALI para esclarecer como é possível ensinar um contexto decisório a um algoritmo. No item 3.2, traçam um paralelo entre heurísticas e vieses humanos (3.2.1) e os vieses em máquinas (3.2.2). O item 3.3 é destinado a explicar as potencialidades dos algoritmos no Judiciário. No item 3.3.1, mostram o estado da arte: o humano permanece indispensável ao funcionamento da máquina, daí que se tem corrobótica e não robótica. No item 3.3.2, a partir da constatação do estado da arte, propõem uma subdivisão tipológica em: robô-classificador, robô-relator e robô-julgador – cada qual com objetivos, funcionamentos e limitações distintas. No item 3.3.3, abordam erros em algoritmos e propõem alternativas para evitar que se repitam.

3. Trata-se de uma proposta que toma como pressuposta a filosofia analítica da linguagem de Wittgenstein e as teorias jurídico-positivistas de Kelsen e Hart. Os autores demonstram que essas teorias formais podem ser complementadas, preenchidas pelo uso de inteligência artificial e, nesse sentido, demarcam as potencialidades entre Direito e novas tecnologias, sobretudo entre Judiciário e novas tecnologias. Sem desconsiderar que também a proposta do livro é de uma teoria formal e, portanto, não fechada, nem pronta, o livro merece elogios. Certamente não passa longe de críticas. E nem deve: as críticas são indispensáveis à produção do conhecimento. Mas a crítica deve ser honesta. Há um pressuposto otimista no livro, de que a inteligência artificial pode render frutos proveitosos no Judiciário, agilizando o trabalho e permitindo um maior controle a priori da jurisdição, desde que os algoritmos sejam construídos democraticamente.

Isso é verdadeiro e nisso pode ser criticado. Mas toda a proposta está desenhada e as linhas não podem ser subvertidas: o uso de inteligência artificial pelo Judiciário é defendido, mas como suporte à atividade judicial. Não há, em nenhuma página do livro, proposta de substituição dos juízes. Até mesmo a proposta mais ousada, de um tipo robô-julgador, não vem desacompanhada da advertência de que o juiz humano servirá de instância de controle da atividade[i]. Ainda mais importante é a proposta de que, mesmo em contextos de aplicação da inteligência artificial, a prolação de novas decisões por juízes humanos é indispensável para que o material de alimentação não se torne obsoleto e a jurisprudência não vire um monólito inquebrável[ii]. Tampouco há qualquer propositura de extinção dos sistemas recursais, senão um reforço desses com a proposta do juiz como instância de controle da atividade. A responsabilidade jurídico-política pela decisão incumbe ao juiz humano; nunca aos algoritmos.

Nesse sentido é que os autores pretenderam contribuir com um estudo exploratório e introdutório, sem ignorar a complexidade do tema. Breve, portanto, mas de modo algum raso.

4. No primeiro capítulo, o leitor encontrará as noções mínimas para compreender o tema da inteligência artificial, pressupostas em todo o livro: conceito, exemplos e explicações da aplicação dessa tecnologia ao processamento de linguagem natural, portanto, uma aplicação ao texto – distinta das aplicações a áudios e imagens (os outros dois planos de aplicação).

No segundo capítulo, a centralidade da linguagem para o Direito é demonstrada, a partir das propostas de Kelsen e Hart, mas sem descuidar de uma perspectiva filosófica que também é pressuposta para a construção da abordagem: Wittgenstein. Os autores não pretenderam dizer que os desenvolvedores de inteligência artificial sejam estudiosos de Kelsen, Hart e Wittgenstein, mas que as teorias dos três possuem confluências e, nisso, se tornam um referencial profícuo para formar uma matriz de pensamento, tanto para os desenvolvedores (tecnologistas) quanto para os usuários (juristas) e destinatários (imediatamente, as pessoas envolvidas nos processos e mediatamente, toda a sociedade).

No terceiro capítulo, as noções dos dois capítulos anteriores são fundidas para explicar os limites e as possibilidades da implementação de inteligência artificial no Judiciário. Os autores partem de casos paradigmáticos para demonstrar o que funciona e como funciona (inclusive com heurísticas e vieses) em matéria de inteligência artificial aplicada no plano de processamento de textos. A propositura dos tipos de robôs se deu a partir de quatro critérios: “(i) grau de intervenção humana, (ii) interferência do algoritmo no processo decisório, (iii) complexidade do algoritmo envolvido e (iv) transparência da decisão[iii] para demonstrar pontos fortes e fracos de cada modelo, bem como a impossibilidade de ejetar o piloto (juiz humano): daí a corrobótica (juiz-classificador e juiz-relator) e o juiz humano como instância de controle e fiscalização das tarefas realizadas (juiz-robô).

5. A situação é análoga à dos pilotos de avião. Há piloto-automático – disso todos sabem –, mas os pilotos continuam lá; e os copilotos também. A execução de milhares de atividades cotidianas é feita em conjunto. Assim também ocorre com os juízes. Se, futuramente, existir a possibilidade de inteligência artificial forte (simulação total da inteligência humana), será o caso de debater em quais campos e quando usá-la. Por ora, essa modalidade de inteligência artificial não passa de utopia das ficções científicas. O funcionamento da inteligência artificial se dá por comparação e composição: dados inseridos são comparados a dados preexistentes e agrupados por semelhanças. Os cálculos probabilísticos realizados resultam em “predições” que pouco têm a ver com previsões futurológicas[iv]. Trata-se de uma estimativa calculada a partir dos aspectos (features) dos dados inseridos. Isto é, dentre milhares de aspectos de um dado analisados pelo algoritmo, quantos coincidem com os dados anteriores (quantos dão match, ou seja, combinam). Por meio das combinações de aspectos, há um cálculo probabilístico de acurácia/grau de acerto. O algoritmo, então, retorna algo como: 98,35% de combinações com dados prévios para “predizer” que a palavra “banco” em uma petição inicial remonta a uma instituição bancária e não a um objeto para sentar. Não há memória humana e nem raciocínio humano. Daí porque só se pode falar em algo como “predição”: dizer antes.

6. O livro é recomendado principalmente para juristas e tecnologistas, mas, tendo em vista a escrita clara e objetiva, não são pressupostos conhecimentos aprofundados em Direito ou em Computação, muito menos em Matemática ou Estatística para a leitura. Pode ser lido, portanto, por estudantes da área, mas também pela comunidade em geral. A ausência de conhecimentos sobre o Direito ou sobre a Inteligência artificial reduzirá o grau de compreensão, como não pode deixar de ser, mas a clareza da exposição torna possível a leitura. Trata-se de uma proposta de democracia participativa, aberta e instaurada a partir das novas tecnologias: o amplo debate, indispensável à implementação da inteligência artificial no Judiciário, poderá tornar este Poder mais afeito à participação popular e, com isso, mais democrático.

7. Daniel Boeing é Advogado e Analista de Dados. Graduado em Direito pela Universidade Federal de Santa Catarina. Fez intercâmbio acadêmico na Faculdade de Direito da Université de Montréal e mobilidade acadêmica na Universidade de Brasília. Foi bolsista do curso Hochschulwinterkurs.

Alexandre Morais da Rosa é Juiz de Direito em Santa Catarina, Professor Titular na Universidade do Vale do Itajaí (graduação, mestrado e doutorado em Ciência Jurídica), Professor Associado de Processo Penal na Universidade Federal de Santa Catarina, doutor em Direito pela Universidade Federal do Paraná com estágios de pós-doutoramento em Direito na Universidade do Vale do Rio dos Sinos e na Universidade de Coimbra, mestre em Direito e graduado em Direito pela Universidade Federal de Santa Catarina. Jurista engajado na luta democrática e entusiasta das novas tecnologias desde o início e, por isso, avesso ao autoritarismo e suas variações[v].


[i] “um cenário de separação total entre humano e máquina é bastante improvável, no momento em que robôs-julgadores estiverem agindo. Por conta disso, é necessário que o juiz humano, atuando como instância revisora das decisões da máquina, não seja afetado por informações seletivas vindas de outros algoritmos ou, pelo menos, esteja ciente de que isso pode ocorrer.” BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar: pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário. Florianópolis: EMais, 2020, p. 105-106.

[ii] “É necessário que decisões humanas continuem existindo, mesmo em matérias de baixa complexidade e grande número de processos, justamente para que a máquina tenha fontes fidedignas para ajustar seus parâmetros e, inclusive, adaptar-se às mudanças sociais.” BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar, p. 106.

[iii] BOEING, Daniel Henrique Arruda; ROSA, Alexandre Morais da. Ensinando um Robô a Julgar, p. 95.

[iv] “Em que pese a aplicação da IA resulte em ‘predições’, não se trata de futurologia. O termo predição na IA é um termo técnico: a IA não tem memória no sentido humano, operando por meio de comparações entre os dados pré-existentes e os novos dados inseridos (Lógica não monotônica). Quando se pensa no dispositivo legal aplicável a um caso, por exemplo, a integridade do art. 926 do CPC, recorda-se o que se sabe sobre o tema. A IA pode comparar as informações utilizadas na alimentação (input) para ‘prever’ o significado. Não há ‘recordação’, mas ‘predição’. E a ‘predição’ é feita com base no material acumulado: legislação, doutrina e jurisprudência (dados). É justo essa dimensão de mitigação de erros (vieses e heurísticas) que se pretende defender na proposta formulada no livro. […] a IA opera na dimensão da inteligibilidade, comparando e ‘predizendo’, a partir de um cálculo probabilístico feito com base nos dados de treinamento e validação; uma resposta, uma ‘tradução’, por assim dizer, de um termo ou conjunto de termos.” ROSA, Alexandre Morais da. Inteligência artificial e Direito: ensinando um robô a julgar. 2020. Disponível em: https://www.conjur.com.br/2020-set-04/limite-penal-inteligencia-artificial-direito-ensinando-robo-julgar.

[v] COUTINHO, Jacinto Nelson de Miranda; CANI, Luiz Eduardo. Processo penal conforme a teoria dos jogos (ou para entender Alexandre Morais da Rosa). 2020. Disponível em: https://www.conjur.com.br/2019-out-25/limite-penal-processo-penal-conforme-teoria-jogos.


Luiz Eduardo Cani é doutorando em Ciências Criminais (PUCRS), professor e advogado criminalista. E-mail: luiz@ cani.adv.br

Elcemara A. Zielinski é pós-graduanda em Direito e Processo do Trabalho (PUCRS) e advogada trabalhista e previdenciarista.  E-mail: marazielinski@ tutanota.com


Publicado originalmente em: https://direito.tech/inteligencia-artificial/ensinando-um-robo-a-julgar-giro-computacional-no-judiciario/

  • 55 views
  • 0 Comentário

© Luiz Eduardo Cani

Contate
Fechar