Impactos do uso da inteligência artificial em decisões administrativas e judiciais

Por Rodrigo Forlani Lopes* e Rubens Bezerra Filho** — A utilização de inovações tecnológicas pela administração pública, especialmente a inteligência artificial (IA), é um tema central nas políticas públicas brasileiras, como demonstra a Estratégia Brasileira de Inteligência Artificial (EBIA). Esta iniciativa visa promover a investigação, a inovação e a formação profissional, destacando a cooperação entre os setores público e privado.

A IA pode aumentar significativamente a capacidade de processamento de dados, ajudando a identificar problemas e tendências e, assim, melhorar a tomada de decisões dos administradores. Contudo, esta automatização apresenta riscos, especialmente no que diz respeito à discricionariedade, pois substituir o julgamento humano por decisões baseadas em algoritmos pode resultar em julgamentos injustos, especialmente em casos que exigem uma análise mais sutil e específica.

O ministro Gilmar Mendes, em seu voto no julgamento da ADI 6389/DF, enfatiza essa preocupação, alertando para a crescente automatização de decisões críticas que afetam o Estado de Direito. “Vivemos na era das escolhas automatizadas de Sófia”, destacou, reforçando a necessidade de transparência e controlo, essenciais para a proteção dos valores democráticos e o exercício da cidadania.

Nesse contexto, no âmbito do Poder Judiciário, o Conselho Nacional de Justiça (CNJ) editou a Resolução 332/2020 que dispõe sobre a ética, a transparência na produção e utilização de IA no Poder Judiciário, a fim de preservar a base do princípio processual. Isso garante que os algoritmos de IA não se tornem determinísticos e tendenciosos, evitando também possíveis manipulações quando gerados.

Mesmo que a referida resolução seja restrita ao Poder Judiciário, tendo em vista que ainda não existe lei que trate do tema, tais diretrizes devem ser estendidas a toda a administração pública, dada a evidente urgência em instruir, organizar e implementar o uso de IAs. Mas afinal, para hipóteses de decisão, uma recomendação apresentada pela inteligência artificial tem caráter vinculativo ou discricionário?

A pergunta é necessária, tendo em vista que, para chegar a tal recomendação, a IA utilizou o banco de dados, padrões e tendências fornecidos.

Ou seja, o juiz teria uma carga argumentativa ainda maior caso decidisse de forma contrária ao sugerido pela IA, provocando uma evidente redução da discricionariedade, tendo em vista a natural conformidade com o que é produzido pelo sistema. Bem como a insegurança de alterar ou contradizer uma sugestão algorítmica, o que por sua vez pode levar a uma possível responsabilização pelo ato praticado.

Portanto, embora a adoção da IA ​​seja inevitável e possa trazer benefícios significativos, é crucial equilibrar o seu uso com a supervisão humana, a fim de garantir decisões justas e respeitar a complexidade de situações que exigem um julgamento mais profundo e contextualizado. A responsabilidade do Estado não é apenas implementar estas tecnologias, mas também garantir que sejam utilizadas de forma ética e justa.

*Especialista em processo cível e sócio da Machado Associados
**Sócio da área contratual e societária da Machado Associados