Justiça secreta?

Publicado originalmente no portal A Vírgula em maio de 2024.

Em recente reportagem do UOL, o Conselheiro do CNJ, Luiz Fernando Bandeira de Mello Filho, deu algumas declarações que motivaram a coluna de hoje. E já começo transcrevendo-as: “Quase todos os tribunais do Brasil estão desenvolvendo ou contratando desenvolvedores para criar softwares de inteligência artificial aplicada para solucionar os problemas deles”; “Os tribunais têm obrigação de subir na plataforma Sinapses todos os modelos de inteligência artificial que estão em desenvolvimento. Só que alguns tribunais não estão fazendo isso”; “Não queremos que tribunais façam maluquices. Ninguém quer julgamento por robô. A plataforma vem sendo aprimorada para podermos coordenar o uso de IA no Brasil. Essa é a ideia” e, por fim, “Com a evolução da IA, vai ser sempre assim. Daqui a cinco anos, vamos ter que reavaliar mais uma vez”.

O conselheiro falava de como os tribunais por todo o Brasil tem desenvolvido tecnologias de inteligência artificial e como o Conselho Nacional de Justiça tem feito o controle dessa atividade.

O objetivo do uso da IA no Poder Judiciário é, obviamente, é trazer mais eficiência à atividade jurisdicional, sendo certo que é uma unanimidade que há processos demais para juízes de menos. A solução tecnológica emergiu então como uma tábua de salvação para trazer a tão desejada eficiência a baixos custos e sem contratação de mais pessoas para descongestionar o sistema de prestação jurisdicional.

Contudo, o que chama a atenção nas falas do Conselheiro, e por consequência no posicionamento do CNJ, é que há um claro diagnóstico de que os sistemas de controle impostos administrativamente – a obrigação dos tribunais de informar na plataforma Sinapses as IA’s em desenvolvimento – não são observados por todos.

As repercussões disso não são um mero problema burocrático. Se nem o Sinapses é aberto e transparente (é um sistema fechado apenas para o próprio judiciário e ninguém “de fora” pode ter acesso para auditar ou fiscalizar), ainda mais inescrutável é a IA que sequer tem seu registro ali. A consequência para o jurisdicionado é brutal: não sabe como, quando e nem o porquê do uso da inteligência artificial nos seus processos. Não sabe a extensão e dimensão do uso. Não sabe quando nem como se defender de um resultado que se chegou com influência da máquina.

Os críticos desse posicionamento dirão que o próprio CNJ colocou as barreiras necessárias para isso quando determinou, em uma resolução interna, alguns limites, como o contido no artigo 23 da Resolução 332/2020:

Art. 23. A utilização de modelos de Inteligência Artificial em matéria penal não deve ser estimulada, sobretudo com relação à sugestão de modelos de decisões preditivas.

[...]

§ 2º Os modelos de Inteligência Artificial destinados à verificação de reincidência penal não devem indicar conclusão mais prejudicial ao réu do que aquela a que o magistrado chegaria sem sua utilização.

Da leitura desse dispositivo, já se vê que tudo parece ser uma mera recomendação. Mas mesmo que se deixasse isso de lado, resta a pergunta: quem vai fiscalizar se a sociedade civil simplesmente não acessa o que é feito ou não com o uso dessa tecnologia?

Salta aos olhos que o uso de IA tem sido tratado, pelo CNJ, como uma questão meramente administrativa, gerida a portas fechadas nos gabinetes e em sistemas inacessíveis à população, isolando-se e relegando a discussão a um espaço restrito e afastado do debate público.

Ao tratar a implementação de IA dessa forma, estão ausentes (ou são deliberadamente ignorados) os princípios que trazem à atividade pública o necessário controle democrático do poder: transparência e publicidade.

Mas não só apenas isso.

A atividade a portas fechadas de algo que impacta profundamente como o povo receberá do Estado a “justiça” para os casos postos à sua apreciação, também tem um impacto no que se deve observar enquanto separação de poderes.

Isso porque o Legislativo, como espaço próprio para esse debate, é que deve estabelecer limites claros e diretrizes rigorosas para o uso dessas tecnologias. A regulamentação deve garantir que a implementação de IA seja transparente e que haja mecanismos de controle e prestação de contas. Além disso, é fundamental que a sociedade civil seja incluída nesse processo, permitindo que cidadãos e organizações participem ativamente na definição dos parâmetros que vão nortear o uso de IA no sistema de justiça.

É óbvio que isso implica em uma maior morosidade (a democracia é lenta e isso é um fato) para a implementação e efetivo uso de tecnologias já existentes, mas se escolhemos respeitar os princípios democráticos, isso significa que mesmo que “possamos”, não “devemos” utilizar a IA até que seja feita a discussão adequada sobre o tema.

Portanto, o futuro da justiça não pode ser decidido a portas fechadas; ele deve ser construído com a participação ativa e informada de toda a sociedade. É passada a hora de o CNJ deixar de legislar e “a cada cinco anos” rever resoluções normativas internas, levando esse debate aos espaços ocupados pelo povo, mesmo que isso signifique refrear a aplicação da tecnologia existente.