Deepfake é uma tecnologia baseada em inteligência artificial (IA) que permite a criação de vídeos, áudios ou imagens extremamente realistas, mas que são, na verdade, falsificações digitais.
Por isso, para não cairmos em golpes ou propagarmos informações falsas, precisamos estar atentos a como indetificar estes vídeos.
A palavra “deepfake” é uma combinação de “deep learning” (aprendizado profundo) e “fake” (falso), o que reflete a base tecnológica desse recurso: algoritmos avançados que aprendem a manipular conteúdos visuais e sonoros de maneira sofisticada.
A técnica utiliza redes neurais artificiais, em particular, uma abordagem conhecida como Generative Adversarial Networks (GANs), que consiste em dois sistemas de IA trabalhando em conjunto: um que cria as falsificações e outro que tenta identificar essas falsificações. Ao longo do tempo, esse processo de “tentativa e erro” permite que o sistema produza vídeos e áudios que são quase indistinguíveis dos originais.
Os deepfakes podem ser usados para diversas finalidades, desde entretenimento e criação de conteúdos inofensivos até atividades maliciosas, como a propagação de desinformação, fraudes e violações de privacidade.
Por isso, eles se tornaram uma grande preocupação, principalmente em contextos políticos, sociais e de segurança, onde podem ser usados para enganar e manipular a opinião pública.
Essa crescente sofisticação dos deepfakes torna cada vez mais desafiador identificar vídeos falsos, o que ressalta a importância de compreender as características e sinais que podem indicar manipulação.
Leia mais:
- Microsoft quer regulamentação do uso de deepfakes com IA
- Câmara aprova aumento de pena em crimes usando deepfakes contra mulheres
Para ajudar nesse processo, Gabriel Gomes de Oliveira, membro do Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), compartilhou seis recomendações relevantes para os dias atuais.
O IEEE, sendo a maior organização profissional técnica do mundo dedicada ao avanço da tecnologia, tem se preocupado em educar o público sobre as ameaças crescentes dos deepfakes.
Abaixo, estão algumas das principais dicas e métodos, baseada nas orientações do especialista, para detectar vídeos falsos:
Vídeos falsificados muitas vezes contêm pequenas inconsistências que não estariam presentes em vídeos genuínos. Isso pode incluir bordas borradas, sobreposições mal feitas ou artefatos digitais que indicam manipulação.
Detalhes como sombras que não correspondem à iluminação da cena ou objetos que parecem “flutuar” sem contato natural com o ambiente também podem ser indícios de um deepfake.
A iluminação inconsistente é uma das marcas de um vídeo manipulado. Deepfakes muitas vezes apresentam variações não naturais na iluminação de um quadro para o outro, ou sombras que mudam de direção inexplicavelmente.
Esse tipo de erro ocorre porque a IA pode ter dificuldades em reproduzir com precisão como a luz interage com diferentes superfícies em um ambiente tridimensional.
Movimentos que parecem mecânicos ou fora do ritmo natural do corpo humano podem ser sinais de falsificação.
Em muitos deepfakes, os movimentos das pessoas podem parecer ligeiramente “desligados”, com transições abruptas ou gestos que não fluem de maneira orgânica.
Tal fenômeno acontece porque a IA que gera os deepfakes ainda não é perfeita na replicação de todos os aspectos do movimento humano.
Alterações no tom de pele que não parecem naturais podem ser outro sinal de que o vídeo foi manipulado. Em vídeos deepfake, pode haver dificuldades em manter uma coloração consistente ao longo de um vídeo, resultando em partes da pele que parecem mais claras ou mais escuras sem uma razão aparente.
A frequência de piscadas pode ser um indicador importante. No início da tecnologia deepfake, era comum que os personagens falsificados não piscassem com frequência normal, ou o fizessem de forma não natural.
Embora isso tenha melhorado com o tempo, ainda é possível detectar anomalias no comportamento dos olhos, especialmente em vídeos mais longos.
Um dos aspectos mais desafiadores de se replicar perfeitamente é a sincronia entre o movimento dos lábios e o áudio. Deepfakes podem apresentar lábios que não se movem de forma perfeitamente sincronizada com as palavras que estão sendo ditas.
É bastante perceptível quando há uma ênfase forte em certas palavras ou sons que exigem movimentos labiais mais pronunciados.
Aprender a detectar vídeos falsos e deepfakes na internet é uma habilidade cada vez mais requisitada e exigida em um mundo onde as tecnologias de manipulação digital estão cada vez mais realistas
Os deepfakes, em particular, representam um desafio significativo e ameaçador à liberdade de informação, pois são capazes de criar conteúdos visualmente impressionantes que podem facilmente enganar o público desavisado.
No entanto, ao menos por enquanto, com o conhecimento certo, olhos atentos e com acesso às ferramentas adequadas, é possível identificar esses vídeos e proteger-se contra suas potenciais consequências.
Em última análise, estar informado e vigilante é o melhor caminho para proteger a privacidade e a veracidade das informações em um mundo cada vez repleto de deepfake.