Um relatório de segurança da Meta, divulgado nesta semana, revelou que a Rússia está tentando usar IA generativa em campanhas de fraude online, mas esses esforços têm sido ineficazes.
A Meta, empresa controladora do Facebook e Instagram, descobriu que as táticas baseadas em IA têm trazido apenas pequenos avanços para os golpistas. A empresa conseguiu interromper muitas operações de influência enganosa.
A Rússia é uma das principais fontes de atividades falsas nas redes sociais, com contas falsas no Facebook e Instagram. Desde a invasão da Ucrânia em 2022, essas atividades têm se concentrado em prejudicar a Ucrânia e seus aliados.
Com as eleições nos EUA se aproximando, a Meta teme que campanhas de fraude apoiadas pela Rússia visem candidatos que apoiam a Ucrânia. As informações estão em uma reportagem do The Guardian.
Leia mais:
IAs generativas: armas de desinformação perigosas
- Historicamente, o Facebook foi criticado por ser usado para desinformação eleitoral, com a Rússia utilizando a plataforma para criar divisões políticas, incluindo nas eleições de 2016.
- Especialistas estão preocupados com a possibilidade de um aumento na desinformação devido à facilidade com que ferramentas de IA, como ChatGPT e Dall-E, podem gerar conteúdo falso rapidamente.
- A IA generativa está sendo usada para criar imagens, vídeos, textos e notícias falsas.
A Meta investiga fraudes analisando o comportamento das contas, e não o conteúdo que elas postam. As campanhas de influência geralmente abrangem várias plataformas, e a empresa observou que postagens no X (antigo Twitter) são usadas para tornar o conteúdo fabricado mais convincente.
A Meta compartilha suas descobertas com o X (Twitter) e outras empresas para combater a desinformação de forma coordenada.
David Agranovich, da Meta, mencionou que o X segue se adaptando após cortes em equipes e em recursos dedicados à moderação de conteúdo, o que contribui para a propagação de desinformação.
Fonte: Olhar Digital