Marco da IA deve garantir que usuário seja informado adequadamente sobre tratamento de dados
A comissão de juristas responsável por auxiliar na elaboração de um marco legal para a aplicação da inteligência artificial no Brasil discutiu “Direitos e deveres: transparência e explicabilidade; revisão e o direito à intervenção humana; correção de vieses”. A explicabilidade é o direito do usuário ter uma explicação sobre como funciona o tratamento de dado. Já a correção de vieses, diz respeito à necessidade de mitigar efeitos nocivos causados por decisões automatizadas manipuladas.
Transcrição
UMA AUDIÊNCIA NA COMISSÃO DE JURISTAS PARA ASSESSORAR A ELABORAÇÃO DE UM MARCO REGULATÓRIO DA INTELIGÊNCIA ARTIFICIAL DEBATEU A EXPLICABILIDADE E CORREÇÃO DE VIESES
A LEGISLAÇÃO NECESSITA GARANTIR O DIREITO DO USUÁRIO DE COMPREENDER O FUNCIONAMENTO DA AUTOMATIZAÇÃO E DE CONTESTAR DECISÕES TENDENCIOSAS NO TRATAMENTO DE DADOS. REPORTAGEM DE REGINA PINHEIRO
A Comissão de Juristas destinada a auxiliar na produção de um marco regulatório para a Inteligência Artificial no Brasil debateu “Direitos e deveres: transparência e explicabilidade; revisão e o direito à intervenção humana; correção de vieses”. Fundador e professor da Data Privacy Brasil e representante do Twitter, Renato Leite Monteiro, defendeu a explicabilidade, que é o direito do usuário obter informações úteis sobre processos automatizados para compreender o seu funcionamento:
O objetivo da explicabilidade é capacitar e empoderar as pessoas e não sobrecarregá-las com informações que não compreendem ou utilizam. Muito menos, publicizar códigos e linhas de programação que são protegidos por instrumentos elementares do Direito. Portanto, faz-se necessário identificar um equilíbrio entre a divulgação de informações, com a proteção de propriedade intelectual, manutenção dos segredos comerciais envolvidos e a garantia de segurança dos agentes que poderão utilizar as informações.
Em relação à correção de vieses, o professor da Universidade Federal de Viçosa, Diego Machado, disse que as normas devem garantir que pessoas impactadas negativamente por uma decisão automatizada possam contestá-la:
A recomendação da OCDE, nós temos ali no princípio da transparência e explicabilidade a referência que se deve ter e deve assegurar na implementação desses sistemas de inteligência artificial, elas devem possibilitar que as pessoas que sejam impactadas de forma adversa, de forma negativa, por esses sistemas, possam se opor, possam contestar esses resultados. Esse é um termo bastante amplo em termos computacionais, pode ser uma recomendação, pode ser uma predição, pode ser uma decisão.
Advogada e professora de Direito Digital do Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa, o IDP, e representante da Coding Rights, Bianca Kremer, citou mapeamento que detectou que o setor público brasileiro usa automatização para implantação de políticas públicas e demonstrou preocupação:
Os resultados iniciais consolidados em outubro de 2021 indicam que a maioria dos entes do setor público brasileiro já declarou testar ou utilizar algum tipo de inteligência artificial. Queremos, realmente, certas tecnologias de inteligência artificial no setor público? Quem são os atores interessados nos diferentes usos de tecnologias de inteligência artificial no setor público e que usos são esses? Há pessoas afetadas negativamente por essas tecnologias. Caso positivo, quem são e qual a extensão de violação dos direitos em jogo?
O Advogado e Representante do Instituto Brasileiro de Política e Direito do Consumidor, Brasilcon, Bruno Miragem observou que o marco legal da Inteligência Artifical deve estar em harmonia com outras normas já existentes, como o Marco Civil da Internet, a Lei Geral de Proteção de Dados Pessoais e o Código de Defesa do Consumidor. Bruno Miragem ainda advertiu que a automação pode prejudicar consumidores, como no caso da recusa indevida de contratação de seguro, a partir de informações do cliente que a seguradora possui. Da Rádio Senado Regina Pinheiro
