Comissão de juristas debate discriminação tecnológica por inteligência artificial

Transcrição
A COMISSÃO DE JURISTAS DEBATEU NESTA QUINTA-FEIRA COMO FAZER PARA QUE A INTELIGÊNCIA ARTIFICIAL NÃO REPITA PADRÕES EXCLUDENTES E DE DISCRIMINAÇÃO. ESPECIALISTAS AFIRMARAM QUE É PRECISO AVALIAR O IMPACTO SOCIAL ANTES DA IMPLANTAÇÃO DA TECNOLOGIA EM POLÍTICAS PÚBLICAS. REPÓRTER ROBERTO FRAGOSO. Os debatedores defenderam que o uso da inteligência artificial no setor público venha somente depois de um estudo do impacto social. Isso para coibir a discriminação de grupos vulneráveis como minorias raciais, crianças, idosos e pessoas com deficiência. Jamilla Venturini, da organização latinoamericana Direitos Digitais, lembrou que os programas inteligentes podem acentuar a exclusão, o que já aconteceu no Brasil na distribuição do auxílio emergencial. Nesse caso a decisão algorítmica afetava o acesso a um direito fundamental e a ausência de alternativas administrativas de recursos caso houvesse uma negativa do benefício terminou sobrecarregando o sistema judicial. Para além do êxito do programa em oferecer ajuda econômica a uma parcela importante da população durante a pandemia, a digitalização e a automatização do processo implicou ao menos quatro formas de exclusão: ausência de documentação, exclusão digital, limitação de acesso à Justiça e bases de dados obsoletas e erros cadastrais. A especialista em Direito e Tecnologia Estela Aranha, que integra a comissão de juristas, disse que o combate à chamada discriminação algorítmica será incluída na regulamentação, pois é um problema inerente do uso da inteligência artificial para decidir o acesso a direitos. Normalmente a gente tem uma lógica de decisão de causalidade, né? O crédito, porque você teve determinado comportamento, você não teria acesso ao crédito ou à política pública. Em uma decisão automatizada, por meio de algoritmo, você passa pra correlação. Então você não tem essa explicação e não tem fatos concretos da vida dela que justifiquem essa decisão. Quando você faz correlação você está justamente formando grupos. Isso é um problema da tecnologia em si que leva ao aumento ou radicalização de questões de discriminação. Sílvio Almeida, do Instituto Luiz Gama, afirmou que não basta a tecnologia deixar de reproduzir padrões sociais discriminatórios, é preciso promover a inclusão. Nós estamos falando aqui da vida e da morte. Tem pessoas que estão morrendo por conta disso, por conta de desinformação, por conta de decisões que são orientadas de maneira equivocada. Mais do que não estabelecer discriminação do ponto de vista negativo, mas que se tenha positivamente ações que visem diminuir esse impacto ou então eliminar esse tipo de problema do processo de criação ou de uso dessas novas tecnologia ou inteligência artificial. Os convidados disseram ainda que o discurso da neutralidade tecnológica esconde ideologias que negam o racismo estrutural e dificultam a adoção de medidas para mitigar ou reparar os efeitos da discriminação. Da Rádio Senado, Roberto Fragoso.