Por Bruno Fraga.
No mundo digital de hoje, a linha entre o real e o falso se torna cada vez mais tênue. Imagine ver o Dr. Drauzio Varella recomendando um “suplemento milagroso” em um vídeo, ou os apresentadores da TV Globo, William Bonner e Pedro Bial, promovendo jogos de azar. Acredite ou não, esses vídeos não eram reais.
Foram as chamadas deepfakes – junção dos termos “deep learning” (aprendizado profundo) e “fake” (falso) – que emergiram como uma poderosa ferramenta capaz de simular o rosto ou voz de qualquer pessoa. Elas usam inteligência artificial para criar imagens e vídeos falsos extremamente realistas, e hoje qualquer pessoa pode ter seu rosto e voz manipulados para dizer ou fazer algo que nunca disse ou fez.
Com essa tecnologia, influenciar guerras e políticas nacionais ou cometer fraudes em uma escala sem precedentes ficou fácil e acessível. Em 2023, ainda nos primórdios dessa tecnologia, o Brasil já se tornou um epicentro de atividades deepfake com um aumento de 830% em seus casos registrados, segundo dados do relatório da plataforma de segurança Sumsub.
Ainda de acordo com a pesquisa, 1uase metade de todos os deep fakes da América Latina foram encontrados no país, afetando principalmente os setores de fintechs, criptomoedas e iGaming.
A proliferação de vídeos e áudios falsos é tão poderosa que levanta questões profundas sobre no que poderemos confiar.
Mas o problema não se limita apenas a celebridades ou chefes de estado. Candidatos a emprego estão usando deepfakes para mudar de rosto e se passar por outras pessoas em entrevistas. O famoso “golpe do sequestro” passou a clonar a voz de parentes da vítima via telefone.
A proliferação desses vídeos e áudios falsos é tão poderosa que levanta questões profundas sobre no que poderemos confiar daqui pra frente. Até mesmo o Presidente do Supremo Tribunal Federal (STF) demonstrou preocupação, prevendo um impacto das deepfakes nas próximas eleições.
De repente, uma tecnologia coloca em xeque a nossa capacidade de discernir o real do fabricado. Será que estamos preparados para isso?
Uma nova onda de imagens e vídeos falsos começa
As deepfakes explodiram em popularidade nas redes sociais, como forma de entretenimento, os influenciadores usam a tecnologia até mesmo para gerar músicas novas com vozes de outros cantores, ou até interpretar personagens de filmes famosos.
Um exemplo é o famoso DJ David Guetta, que usou deepfake para recriar a voz do rapper Eminem e usá-la em uma música ao vivo, deixando fãs confusos se o áudio era real ou falso. Outros já foram até mais longe, gerando conteúdos sem nem mesmo precisar aparecer nas câmeras: a própria Inteligência Artificial gera o texto, a voz e o rosto com extrema realidade.
Este foi o caso de Jordi, chamado de “Kwebbelkop” nas redes sociais. Ele não precisa mais se sentar para gravar vídeos para seus milhões de seguidores, decidindo usar apenas deepfakes e IA para automatizar todo o processo. Com esses avanços rápidos, empresas especializadas em deepfakes como a Heygen multiplicaram seu valor de mercado em poucos meses, passando de US$1 milhão a US$75 em sua avaliação em 2023, de acordo com a Forbes.
Mesmo assim, o público pressiona e questiona se essas empresas irão adicionar recursos para impedir que deepfakes de pessoas não autorizadas e de teor inapropriado sejam criadas. Cada vez mais, governos e autoridades dependem desse tipo de mecanismo.
Por um lado, as deep fakes abrem um novo mundo de possibilidades para o entretenimento e produtividade. Nas mãos erradas, pode ser uma arma para desinformação, vingança pessoal e crimes cibernéticos. O potencial de abuso é vasto e perigoso.
Mas a verdade é que é impossível impedir as deep fakes. Embora possa parecer um cenário de ficção científica, a realidade é que essa tecnologia já está entre nós e, de fato, é impossível impedi-la de ser utilizada.
O conteúdo das deepfakes têm sido usado para desmoralizar e humilhar vítimas de todo o mundo.
Assim como a criação de websites se tornou um conhecimento acessível a todos, as tecnologias que geram deep fakes evoluíram e se tornaram ferramentas de código aberto, disponíveis para qualquer pessoa com um mínimo de conhecimento técnico.
Ferramentas gratuitas como o Faceswap e DeepFaceLab democratizaram ainda mais esse acesso, permitindo que, com recursos computacionais básicos, qualquer um possa criar conteúdos deep fakes convincentes. Já sites como o DeepFakesWeb permitem que o usuário crie deep fakes sem nenhum conhecimento prévio e sem precisar instalar nada no seu computador. Tecnologias essas, antes restritas a especialistas, agora estão ao alcance de qualquer usuário com um celular ou computador em mãos.
É virtualmente impossível hoje impedir que uma pessoa crie uma deep fake. Uma deep fake sua já pode ter sido criada.
A capacidade de criar deepfakes personalizadas representa um risco significativo à privacidade e à segurança individual. Uma simples foto no Instagram pode ser suficiente para gerar um deepfake convincente, violando a privacidade e a autenticidade pessoal de maneira irreversível.
Além disso, o impacto psicológico não pode ser ignorado. Mesmo quando identificado como falso, o conteúdo das deepfakes têm sido usado para desmoralizar e humilhar vítimas todos os dias.
Um caso recente foi o da Taylor Swift, cantora americana que teve seu rosto clonado e usado para gerar imagens de teor inapropriado, viralizando nas redes sociais. O escândalo tomou proporções tão grandes que a Casa Branca dos EUA precisou intervir.
O mesmo acontece com pessoas comuns, que têm suas fotos copiadas de redes sociais públicas e manipuladas por criminosos anônimos na internet.
Então o que fazer para combater as deepfakes?
A regulamentação do conteúdo online já é um desafio monumental, e a questão das deepfakes eleva essa dificuldade a um nível inédito. Métodos tradicionais de detecção, como análise de pixels ou reconhecimento de voz, se tornam obsoletos diante da constante evolução da tecnologia deep fake. Embora a responsabilidade das empresas e a inviabilidade do controle total sejam frequentemente mencionadas, o papel do indivíduo nesse cenário não pode ser ignorado.
A conscientização sobre os perigos das deepfakes é crucial, pois representa a primeira linha de defesa contra a desinformação e a manipulação. A educação digital, aliada a avanços na detecção de deepfakes, surge como uma luz no fim do túnel.
Iniciativas de alfabetização midiática e o desenvolvimento de algoritmos capazes de identificar conteúdo manipulado são ferramentas de empoderamento em um ambiente onde a desconfiança impera.
A deepfake é um reflexo categórico de que o avanço tecnológico está muitos passos à frente da nossa capacidade de controlá-lo e compreender suas implicações.No entanto, também serve como um chamado para uma nova era de alfabetização digital e cooperação internacional na busca por soluções éticas e práticas.
O controle total pode ser uma ilusão, mas a preparação é a melhor arma contra a invasão do irreal no terreno da realidade. A sociedade precisa se adaptar a essa nova realidade, buscando maneiras de preservar a integridade e a confiança no ecossistema digital, enquanto explora o potencial positivo dessa tecnologia disruptiva.
****
Bruno é especialista em segurança da informação e investigador digital. Autor do livro “Técnicas de Invasão”, que se tornou a obra mais vendida do Brasil na área de Hacking Ético.
