Debate aponta que regulação de IA deve priorizar fator humano nas decisões

Transcrição
PAINEL DE COMISSÃO DE JURISTAS DISCUTIU COM ESPECIALISTAS FUNDAMENTOS E PRINCÍPIOS PARA A REGULAÇÃO DA INTELIGÊNCIA ARTIFICIAL NO BRASIL DEBATEDORES DEFENDERAM PAPEL PRIORITÁRIO DOS SERES HUMANOS NAS DECISÕES FINAIS, TRANSPARÊNCIA, FLEXIBILIZAÇÃO E NORMATIZAÇÃO SETORIZADA. REPORTAGEM DE REGINA PINHEIRO A Comissão de Juristas que trata da regulamentação da inteligência artificial no Brasil ouviu especialistas no setor. Para a Professora da PUC de São Paulo e pesquisadora dos impactos éticos e sociais da Inteligência artificial, Dora Kaufmann, a regulação deve ser flexível e valorizar as decisões humanas. Qualquer marco regulatório para IA, para ser eficaz, ele  que obrigatoriamente contemplar a natureza da IA, o que que é a natureza da tecnologia e ser flexível.  Porque, essa tecnologia está evoluindo em uma velocidade acelerada. Então, para ter vida longa, para esse marco regulatório, relativamente longa, é importante que seja flexível. De alguma forma, a regulamentação poderia evitar as decisões serem implementadas sem nenhum escrutínio, sem nenhuma avaliação de um ser humano.  A Juíza Federal no Rio de Janeiro, Caroline Tauk, apontou que a regulação precisa ser setorial. A inteligência artificial, ela não é homogênea, os sistemas de inteligência artificial são diferentes, operam em setores diferentes, eles geram riscos diferentes. É justamente em razão dessa diversidade, que a gente não pode falar em uma regulação feita por um projeto de lei. A regulação é algo muito mais complexo, ela é detalhada. A gente poderia criar uma espécie de autoregulação regulada. No judiciário, por exemplo, o CNJ já tratou da regulação do uso ético da Inteligência Artificial dentro dos Tribunais. Da mesma forma, a Anvisa, por exemplo, poderia regular o uso da inteligência artifical no setor de saúde, e assim por diante. O Professor da Universidade Federal do Rio Grande do Sul e Doutor em Ciência da Computação, Edson Prestes, afirmou que a Inteligência Artificial não deve substituir o ser humano em situações críticas e alertou para a necessidade de se proibir alguns sistemas. Existem certos tipos de aplicações que devem ser banidas, ponto. Vocês vão querer, por exemplo, o desenvolvimento de sistemas que manipulem pessoas? Isso é algo extremamente importante, porque, além de poder afetar diretamente a Democracia, vai afetar, por exemplo, de repente, a educação de crianças. Sistemas que tomam decisão de vida ou morte. Será que queremos que um sistema consiga dizer que uma pessoa deve ou não receber uma vaga na UTI? Quem deve decidir isso, é um especialista humano, porque ele tem a visão  sobre o problema, e não um sistema computacional, que é muito limitado em termos de dados e que pode ser contaminado com uma série de fatores: uma base de dados mal elaborada, o acesso de um hacker. Já Paulo Rená, professor e Pesquisador do Instituto de Referência em Internet e Sociedade, IRIS, pediu que a regulação tenha mais normas fiscalizatórias, principalmente para  combater o racismo algorítmico e a intolerância. Da Rádio Senado, Regina Pinheiro