Meta revela campanhas de influência encobertas com uso de IA
Recentemente, a Meta divulgou um relatório trimestral de ameaças, no qual revela ter combatido campanhas de propaganda em suas plataformas. Algumas dessas campanhas, originadas em países como Israel, Irã, Bangladesh, China e Croácia, utilizaram inteligência artificial para influenciar o discurso político e criar a ilusão de apoio a determinados pontos de vista.
Campanhas de influência política em redes sociais
As redes sociais Facebook e Instagram foram utilizadas por essas campanhas para promover narrativas políticas, disseminar notícias falsas e interagir com publicações de veículos de imprensa legítimos. Um exemplo é uma rede chinesa que visava comunidades sikh globais, enquanto outra campanha, originada em Israel, se passava por estudantes judeus locais, afro-americanos e cidadãos “preocupados”, elogiando ações militares israelenses e discutindo o antissemitismo em campi universitários.
Uso de IA nas campanhas de influência
Segundo o relatório da Meta, parte do conteúdo compartilhado por essas redes foi gerado por ferramentas de inteligência artificial. A campanha chinesa compartilhou imagens geradas por IA, enquanto a campanha israelense postou comentários gerados por IA. A Meta ressalta que, por enquanto, as campanhas de influência baseadas em IA não são sofisticadas o suficiente para escapar dos sistemas de detecção existentes.
Descobertas de campanhas de influência em outras plataformas
Além das campanhas identificadas pela Meta, o TikTok também revelou ter descoberto e interrompido uma dúzia de redes semelhantes em sua plataforma, incluindo uma rastreada até a China. Essas descobertas destacam a importância de combater a desinformação e a manipulação nas redes sociais.
Referências
Fonte: The Verge