Inteligência artificial, Direito e equidade algorítmica: discriminações sociais em modelos de machine learning para a tomada de decisão

Ricardo Silveira Ribeiro

Resumo

Este artigo expõe como a inteligência artificial pode apresentar vantagens quando comparada com a opção tradicional de decidir com base em julgamentos exclusivamente humanos, ainda que reproduza discriminações sociais em decisões jurídicas relevantes. Por meio da revisão dos principais problemas decorrentes do uso de modelos de classificação de risco de reincidência em processos criminais, o artigo demonstra como pesquisas empíricas recentes sugerem a superioridade de decisões baseadas em algoritmos em aplicações socialmente relevantes. Em conformidade com a literatura sobre equidade algorítmica, o artigo indica que não se deve proibir por lei o uso da tecnologia, mas simplesmente regulamentá-lo de acordo com critérios de avaliação de equidade estabelecidos previamente no âmbito do debate público nacional em cada domínio de aplicação. A complexidade dos problemas suscitados pela inteligência artificial sugere a adoção de estratégias especializadas de regulamentação bastante diferentes da utilizada no art. 20 da Lei Geral de Proteção a Dados Pessoais.

Palavras-chave

Inteligência artificial; aprendizado de máquina; equidade algorítmica; Direito; discriminação social.

Título, resumo e palavras-chave em inglês

Artificial intelligence, Law and algorithmic fairness: social discrimination in machine learning models for decision making

This paper presents how Artificial Intelligence, despite reproducing social discrimination in relevant legal decisions, can represent advantages when compared to the traditional option of deciding based on exclusively human judgments. From the review of the main problems arising from the use of risk classification models for recidivism in criminal proceedings, the paper shows how recent empirical research suggests the superiority of decisions based on algorithms in socially relevant applications. Consistent with the literature on algorithmic equity, the paper indicates that the use of technology should not be prohibited by Law, but simply regulated according to equity assessment criteria previously established within the scope of the national public debate in each domain of application. The complexity of the problems raised by Artificial Intelligence suggests the adoption of specialized regulatory strategies quite different from the one used in art. 20 of the General Personal Data Protection Act.

Artificial intelligence; machine learning; algorithmic fairness; Law; social discrimination.

Como citar este artigo

(ABNT)
RIBEIRO, Ricardo Silveira. Inteligência artificial, Direito e equidade algorítmica: discriminações sociais em modelos de machine learning para a tomada de decisão. Revista de Informação Legislativa: RIL, Brasília, DF, v. 59, n. 236, p. 29-53, out./dez. 2022. Disponível em: https://www12.senado.leg.br/ril/edicoes/59/236/ril_v59_n236_p29

(APA)
Ribeiro, R. S. (2022). Inteligência artificial, Direito e equidade algorítmica: discriminações sociais em modelos de machine learning para a tomada de decisão. Revista de Informação Legislativa: RIL, 59(236), 29-53. Recuperado de https://www12.senado.leg.br/ril/edicoes/59/236/ril_v59_n236_p29

registrado em: