O propósito maior da tecnologia é trazer avanços para a humanidade e aumentar o bem estar dos seres vivos. A engenharia de foguetes nos levou à Lua, as redes sociais promovem encontro de pessoas distantes, a inteligência artificial ajuda no tratamento do câncer. Mas quem desenvolve e controla a tecnologia somos nós, humanos, e alguns optam pelo mau uso dela. Existem hoje práticas que ameaçam pilares da cultura ocidental. Um desses pilares, a democracia.
Em abril de 2018 o diretor de cinema Jordan Peele divulgou um vídeo polêmico. Nele, o ex-presidente norte-americano Barack Obama faz uma série de afirmações falsas. Apesar de conseguirmos ver a figura de Obama com suas expressões faciais, sua característica voz e com o movimento da boca na verbalização das frases, nenhuma palavra do ex-presidente é real. As imagens foram manipuladas por programas de efeitos especiais. E a fala pertence ao próprio diretor, que fez o vídeo para chamar a atenção para o deepfake.
Deepfake é o termo que define vídeos e sons criados com a ajuda de inteligência artificial. Eles reproduzem aparência, expressão e voz de pessoas que nunca disseram aquilo ou sequer gravaram as imagens. Programas de computador usam enormes volumes de dados, como fotos de rostos, e “aprendem” a reproduzir as feições das pessoas, capazes de enganar dos mais espertos aos mais letrados.
Tecnologia e democracia
Depois que o termo ganhou corpo na população norte-americana a expectativa era de que o deepfake fosse o grande vilão na campanha eleitoral para presidente nos EUA. Até que nível de baixaria chegaria a falsidade para atacar candidatos rivais?
Os deepfakes, no entanto, atingiram primeiro mulheres, das celebridades às vítimas da vingança de ex-companheiros. Ao todo 104.852 mulheres tiveram seus rostos inseridos em imagens de nudismo e em filmes pornôs no período de um ano, até julho de 2020. Os dados são da empresa holandesa de proteção à imagem Sensity. Em outubro a imprensa revelou um programa que operava dentro do Telegram que gerou mais de 100 mil fotos nuas de mulheres reais.
Manipulação de vídeo, áudio e foto existe há décadas, mas a inteligência artificial e novos programas de edição tornaram tais conteúdos difíceis de identificar. Assim como as fake news estes materiais são cruéis com as vítimas e servem para enganar pessoas que, munidas de falsas informações, tomarão decisões ruins. Mas há esperanças.
A sociedade pressiona as redes sociais a assumir reponsabilidades pela circulação dos deepfakes. Há iniciativas que usam a própria inteligência artificial para identificar conteúdos enganosos e difamadores. Existe também a atitude de cada usuário da web contra este tipo de sacanagem.
O temor de uma guerra de deepfakes durante a campanha eleitoral dos EUA não se concretizou, foram poucos casos com danos mínimos. No Brasil eles também passaram longe das campanhas eleitorais municipais. A expectativa fica, então, para a nossa eleição presidencial de 2022. É melhor nos prepararmos.
Texto publicado Por Wladimir D’Andrade no jornal Diário da Região (para assinantes) em novembro de 2020.
