Da pessoa e para a pessoa: a regulação jurídica dos algoritmos

Cíntia Brunetta

Andre Studart Leitão

Eduardo Rocha Dias

Resumo

Este trabalho pressupõe que as novas tecnologias inauguram uma ordem social reconhecidamente escrava de números e dados. Com base em análise bibliográfica e qualitativa, busca-se inicialmente evidenciar o que são os algoritmos utilizados nos processos decisórios modernos e automatizados, e como eles sofrem influência dos humanos que os desenvolveram. Em seguida, analisa-se como máquinas e algoritmos podem ser utilizados em processos de recrutamento de trabalhadores e seleção de beneficiários de programas sociais, e como isso pode levar a decisões enviesadas e inadequadas. Posteriormente, ressalta-se a necessidade de controlar as novas tecnologias e questiona-se o caráter determinista das concepções que julgam inexorável sua adoção. Por fim, conclui-se pela necessidade de regulação jurídica dos algoritmos e de introdução de um elemento ético no debate e nos momentos de avaliação da inteligência artificial com vistas a minimizar os riscos de violação do sigilo, de controle exagerado, de discriminação, entre outros.

Palavras-chave

Algoritmos; processos decisórios automatizados; novas tecnologias; riscos; regulação jurídica.

Título, resumo e palavras-chave em inglês

From the person and for the person: legal regulation of algorithms

This article is based on the understanding that the new technologies inaugurate a social order that is admittedly slave of data and numbers. At first, after a bibliographic review and a qualitative analysis, it has sought to demonstrate what are the algorithms used on the automated decision-making systems and how they are influenced by the humans that were responsible for its formulation. After that, it is analyzed how algorithms and electronic machines can be used in recruitment processes and social assistance recipients’ selection and how this can lead to biased and inappropriate decisions. Thereupon, it is emphasized the need of a human control of the new technologies, and it is disputed the deterministic logic that preach the inexorability of its adoption. Finally, it has concluded that there is a need for legal regulation of algorithms and for the insertion of an ethical element on the debate and the evaluation of artificial intelligence, with a view to minimizing the risks of confidentiality violations, excessive control, and discrimination, among others.

Algorithms; automated decision-making systems; new technologies; risks; legal regulation.

Como citar este artigo

(ABNT)
BRUNETTA, Cíntia; LEITÃO, Andre Studart; DIAS, Eduardo Rocha. Da pessoa e para a pessoa: a regulação jurídica dos algoritmos. Revista de Informação Legislativa: RIL, Brasília, DF, v. 59, n. 233, p. 163-178, jan./mar. 2022. Disponível em: https://www12.senado.leg.br/ril/edicoes/59/233/ril_v59_n233_p163

(APA)
Brunetta, C., Leitão, A. S., & Dias, E. R. (2022). Da pessoa e para a pessoa: a regulação jurídica dos algoritmos. Revista de Informação Legislativa: RIL, 59(233), 163-178. Recuperado de https://www12.senado.leg.br/ril/edicoes/59/233/ril_v59_n233_p163

registrado em: