Manipulação de imagens com IA está na pauta do Senado
Os senadores irão analisar o projeto que regula a utilização de inteligência artificial usada para manipular imagens e sons humanos. De autoria do senador Chico Rodrigues (PSB-RR), a proposta (PL 146/2024) aumenta a pena de calúnia e injúria em até 5 anos para esses casos. Para o senador, as empresas de tecnologia da informação não estão enfrentando o problema. Em audiência pública sobre o tema, o professor Marcelo Finger disse que é preciso aumentar o controle do conteúdo com marcas d'água.
Transcrição
O SENADO VAI ANALISAR UM PROJETO QUE TORNA CRIME CONTRA A HONRA A MANIPULAÇÃO DE IMAGENS E SONS HUMANOS COM INTELIGÊNCIA ARTIFICIAL.
O TEXTO AGUARDA DESIGNAÇÃO DE RELATOR NA COMISSÃO DE COMUNICAÇÃO E DIREITO DIGITAL. REPÓRTER LUIZ FELIPE LIAZIBRA:
Na volta do recesso parlamentar, os senadores vão analisar o projeto que torna crime contra a honra, como calúnia e injúria, quem se utilizar de inteligência artificial para alterar imagens de pessoas ou som humano com o objetivo de criar conteúdo falso. A tecnologia, conhecida como deepfake, permite a substituição de rostos, a criação de vozes sintéticas e a sincronização manipulada. Pelo texto, a pena pode chegar em até 5 anos de reclusão e multa. O objetivo da proposta é diminuir a proliferação de vídeos e áudios falsos, mas extremamente realistas. A proposta está na Comissão de Comunicação e Direito Digital e foi apresentada pelo senador Chico Rodrigues, do PSB de Roraima. Ele argumenta que empresas de tecnologia da informação não estão enfrentando o problema:
(senador Chico Rodrigues): “Valendo-se da inteligência artificial, os golpistas virtuais são capazes de fraudes tão elaboradas e tão realistas que beiram as mais assustadoras distopias de ficção científica. Milhares de pessoas são enganadas por esse tipo de propaganda e milhares de pessoas perdem dinheiro em esquemas fraudulentos, que compram produtos falsificados ou nocivos à saúde e, por ingenuidade, contribuem com a difusão de notícias falsas.”
O tema já foi debatido em audiência pública no Senado. Para o professor do Instituto de Matemática e Estatística da Universidade de São Paulo, Marcelo Finger, as empresas de tecnologia precisam aumentar o controle do conteúdo gerado por inteligência artificial:
(professor Marcelo Finger): "As empresas de IA estão muito preocupadas com isso. Eu acho que deveria haver um esforço maior de inserção de marcas d'água em imagens e vídeos gerados pela empresa para que qualquer um possa verificar: "Ah, esse vídeo foi realizado por tal programa"; "Ah, esse vídeo, eu não seu qual é a origem dele, eu não vou mexer."
Especialistas ponderam que a manipulação de imagens e sons dissemina desinformação, aumenta as fraudes e a interferência nas eleições. Sob a supervisão de Marcela Diniz, da Rádio Senado, Luiz Felipe Liazibra.