MUITO ALÉM DOS CÓDIGOS: UMA ABORDAGEM ÉTICA DA INTELIGENCIA
ARTIFICIAL NO PODER JUDICIÁRIO
Inteligência Artificial. Ética. Judiciário.
Com o desenvolvimento tecnológico, ferramentas de inteligência artificial
têm sido cada vez mais empregadas pelo Poder Judiciário na tomada de
decisões. Os principais motivadores para o uso de ferramentas de IA pelos
tribunais são aumentar a produtividade, buscar a inovação, melhorar a
qualidade dos serviços judiciários e reduzir custos.
Partindo da preocupação de que a inteligência artificial, ao mesmo tempo em
que traz benefícios substanciais para os indivíduos e para a sociedade,
também apresenta erros, riscos e impactos negativos que podem ser de
difícil antecipação, identificação e mensuração, o Conselho Nacional de
Justiça, editou a Resolução nº 332/2020, que dispõe sobre a ética, a
transparência e a governança na produção e no uso de Inteligência
Artificial no Poder Judiciário.
Embora relevante e comemorada a iniciativa, porque aponta para a
preocupação do Judiciário com o desenvolvimento ético de IA em seus muros,
o fato é que a norma não deixa claro como cada um dos servidores e
magistrados, técnicos de informática, cientistas de dados e programadores
devem se portar concretamente para que os produtos e serviços criados
tenham conformidade ética.
Conduzimos estudos exploratórios, através de entrevistas narrativas, que
nos permitiram levantar hipóteses, compreender os sentidos e as percepções
sobre o fenômeno do uso e desenvolvimento de IA pelos tribunais
brasileiros, abordando questões de utilidade e adequação da tecnologia,
benefícios e riscos, desafios concretos e abordagem ética.
Os estudos constataram um vazio de referencial ético para uso e
desenvolvimento concreto de IA pelo Judiciário, de modo que foram
identificados, no cenário internacional, estândares éticos usualmente
utilizados e, posteriormente, aplicada pesquisa com o objetivo de testar as
hipóteses levantadas na entrevista narrativa e capturar, de forma mais
ampla, a percepção dos tribunais nacionais quanto aos temas ética e IA pelo
Judiciário, além de permitir classificação em escala de importância e
pertencimento, sob a ótica do Judiciário, de cada um dos estândares
identificados.