IA nas eleições: TSE debate regras contra deepfakes e desinformação
Ferramentas de IA generativa podem transformar a comunicação eleitoral, mas ampliam riscos ao voto com deepfakes. O TSE já proibiu esse tipo de conteúdo em 2024 e exige identificação de material produzido por IA. No Congresso, o Marco Legal da IA prevê multas de até R$ 50 milhões e suspensão de sistemas. Outro projeto aumenta a pena para fake news com clonagem de voz ou imagem em campanhas.
Transcrição
Os modelos de inteligência artificial generativa, como o Chat GPT e o Gemini, prometem revolucionar a forma como os candidatos se comunicam com seus eleitores este ano, mas podem trazer riscos à integridade do voto. Para responder a esses desafios, o Tribunal Superior Eleitoral recebeu sugestões da sociedade civil para aprimorar as regras sobre o uso dessas ferramentas.
Um dos pontos de atenção é o uso das chamadas 'deepfakes', que são imagens, áudios ou vídeos que reproduzem notícias falsas com extremo realismo. Esse tipo de tecnologia é capaz de simular a aparência, modos e vozes de figuras políticas com perfeição e atribuir a elas qualquer fala ou comportamento.
Nas eleições de 2024, o tribunal já havia proibido esse tipo de prática e tornado obrigatória a rotulagem destacada para qualquer propaganda criada com inteligência artificial. Porém, há limites constitucionais para o judiciário, que não pode criar leis eleitorais nem instituir novos crimes, atribuições do Congresso Nacional.
Há alguns projetos que já tramitam nesta direção. Um deles é o Marco Legal da Inteligência Artificial, que além de proibir expressamente o uso de IA com o propósito de induzir comportamentos, impõe multas de até 50 milhões de reais bem como a possibilidade de suspensão do sistema infrator.
O autor da proposta, senador Rodrigo Pacheco, do PSD de Minas Gerais, já foi vítima de 'fakenews' e se manifestou sobre o tema.
Disseram que eu sou a favor de poligamia, de mudança de sexo de criança e um monte de outras coisas mais.
Então isso e evidentemente uma mentira que vira uma verdade para um monte de pessoas. Isso no momento eleitoral em que o período é curto para poder conhecer as propostas de alguém, manipular informação com mentira, com desinformação é algo realmente insustentável.
Outro texto, apresentado em 2024, aumenta a pena para quem divulga, em período de campanha, fatos que se sabe inverídicos, caso o crime seja cometido por meio de clonagem de voz, substituição de rosto ou outros artifícios com o uso de IA. A pena passaria de detenção de dois meses a um ano para reclusão de um a quatro anos, com multa em ambos os casos. O projeto encontra-se na Comissão de Ciência e Tecnologia. Da Rádio Senado, Douglas Castilho.
