Entenda o que é deepfake, técnica de manipulação de imagem que utiliza Inteligência Artificial para criar conteúdos falsos.
Principais destaques:
- Deepfake é uma técnica que utiliza Inteligência Artificial para manipular imagens;
- Imagens e vídeos são criados a partir de algoritmos GAN;
- Técnica pode ser (e tem sido) usada para fins criminosos;
- Assim como para fomentar novas formas de comunicação na sociedade.
O deepfake consiste na manipulação de imagens a partir do uso de Inteligência Artificial. Os primeiros casos com essa técnica envolvem a divulgação de vídeos falsos de atrizes de Hollywood, entre 2017 e 2018, no site Reddit.
Recentemente, o DeepNude, uma plataforma deepfake, foi alvo de críticas por criar imagens falsas de mulheres nuas. Ele já foi descontinuado, como já falamos em uma matéria do Próximo Nível. Na Virgínia (Estados Unidos), uma emenda constitucional decidiu enquadrar a técnica na lei que combate o pornô de vingança.
Entendendo o deepfake
Deepfake é uma combinação de Deep Learning e um item falso (rosto de uma pessoa, objeto, etc.). Os responsáveis em criar esses conteúdos são os algoritmos Generative Adversarial Network (GAN), conceito criado por Ian Goodfellow em 2014.
Algoritmos GAN possuem dois modelos: um gerador e um discriminador.
- Gerador: este modelo é responsável em gerar imagens que se aproximam da realidade, mas são falsas, com o intuito de confundir o modelo Discriminador.
- Discriminador: já este modelo irá aprender a identificar quais conteúdos são falsos com base nas imagens que alimentam o banco de dados.
À medida que esses algoritmos são treinados, os modelos vão melhorando suas características até que, em determinado momento, o Gerador é capaz de “enganar” o Discriminador: daí surge o deepfake.
Mas há um lado bom no deepfake? Sim e não, de acordo com uma newsletter produzida pela startup Twenty Billion Neurons.
O lado ruim do deepfake
Como toda técnica que envolve Inteligência Artificial, o deepfake evoluiu a ponto de estar presente em vídeos, como o discurso falso feito pelo ex-presidente americano Barack Obama.
Até então, os primeiros vídeos deepfake eram editados imagem por imagem, o que gerava mudanças estéticas, mas sem criar movimentos originais.
Hoje, já existem plataformas que ajudam na produção de vídeos falsos e, como aponta a startup Twenty Billion Neurons, isso pode levar a casos de pornografia de vingança, chantagem, roubo de identidade e desinformação, acarretando a uma polarização ainda mais acentuada da sociedade.
“Eu posso entender a preocupação. Qualquer tecnologia que se desenvolva tão rapidamente pode ter consequências imprevisíveis e não intencionais”, diz Sandra Wachter, professora de direito e ética de Inteligência Artificial da Oxford Internet Institute, em entrevista para o jornal The Guardian.
Ela continua: “A maneira sofisticada pela qual informações falsas podem ser criadas, a rapidez com que podem ser criadas e o quão infinitamente elas podem ser disseminadas está em um nível diferente. No passado, eu poderia ter espalhado mentiras, mas meu alcance seria limitado.”
O lado bom do deepfake
A startup acredita que o deepfake pode trazer novas formas de comunicação e cita como exemplo a empresa Baidu, capaz de clonar uma voz em apenas 3,7 segundos.
O sistema da gigante chinesa consegue mudar uma voz feminina para masculina e transformar, por exemplo, um sotaque britânico para o norte-americano.
“Espera-se que a clonagem de voz tenha aplicações significativas na direção da personalização nas interfaces homem-máquina”, diz um trecho de um post assinado pelos pesquisadores da Baidu no blog da empresa.
Quem utiliza também o deepfake é o Google para o Google Assistente. O recurso pode falar como John Legend através do WaveNet, uma API de áudio que cria vozes mais naturais que se aproximam a de um humano. No site da empresa há comparativos com vozes de outros assistentes virtuais.
Outros exemplos do uso de deepfake sem causar danos são:
– A startup DataGrid conseguiu gerar corpos inteiros de humanos que não existem. A expectativa é que esses modelos “falsos” sejam usados para as marcas de roupas, por exemplo, mostrarem seus produtos;
– Já a Synthesia, startup baseada em Londres, utilizou um deepfake de David Beckham para uma campanha contra a malária.
– O Museu Dalí, na Flórida (Estados Unidos), recriou o famoso artista para os visitantes tirarem selfies com ele durante uma exposição.
Na avaliação da Twenty Billion Neurons, combinar técnicas de deepfake com intepretação de vídeo de uma Inteligência Artificial e sistemas de diálogo pode resultar no desenvolvimento de seres humanos digitais. “Tão realistas que podem conduzir conversas cara a cara que são indistinguíveis de uma conversa humana natural”, observa a startup no artigo.
Como o deepfake pode afetar os meus negócios?
Arranhando a imagem de uma empresa e de seus porta-vozes.
Imagine o estrago — e também o esforço de recuperação de imagem — feito por um vídeo que viralize com declarações mentirosas e sem sentido de um alto executivo da empresa? Ou a presença da marca de uma empresa em um vídeo polêmico?
Se esse tipo de conteúdo malicioso já foi usado para arranhar a imagem de políticos (veja alguns exemplos nessa matéria do site Business Insider), o que impediria de o mesmo acontecer com outras pessoas?
Deepfake: bom ou ruim?
Depende. A tecnologia tem seu lado positivo e negativo, mas, como afirma a startup, é uma pessoa que está por trás do dano real causado pelo deepfake.
Num cenário otimista, o artigo atenta que cientistas de dados podem aproveitar o potencial da tecnologia para criar novas formas de comunicação que melhorem a vida da sociedade.
Já em contraponto, as pessoas não conseguem filtrar informações que recebem on-line e também não sabem compartilhar de maneira inteligente conteúdos nas mídias sociais.
A matéria da Business Insider, que citamos acima, pondera que o futuro da tecnologia é difícil de prever porque o seu uso varia tanto em qualidade como em intenção (boa e má).
“A tecnologia, apesar de representar uma ameaça em várias frentes, também pode ser legitimamente usada para sátira, comédia, arte e crítica”, diz um trecho do artigo.
Independente desses cenários, uma coisa é certa: ainda não há uma solução tecnológica capaz de reconhecer o que é e o que não é deepfake.
