Cientistas do Observatório de Mídias Sociais da Universidade de Indiana compartilharam uma pesquisa que encontrou mais de 1.000 bots de spam de Inteligência Artificial, criados para enganar usuários de mídias sociais e tentar roubar seus perfis.
ChatGPT está sendo usado para executar botnets
De acordo com dados da pesquisa, os bots foram criados a partir de recursos do ChatGPT. Os criminosos aproveitam a capacidade que a IA tem de criar textos que parecem confiáveis e executam os chamados "botnets" no Twitter/X. Redes de centenas de bots nocivos total ou parcialmente controladas por software, os botnets fazem campanhas de spam nas redes sociais. E o que é mais preocupante: eles estão conseguindo passar despercebidos pelos atuais filtros anti-spam.
O pesquisador de ciências sociais computacionais Kai-Cheng Yang e professor de ciência da computação Filippo Menczer foram os responsáveis por conduzir a pesquisa. Segundo os dados apurados, mais de 1.000 bots ativos no X promovem criptomoedas e NFTs fraudulentos para convencer usuários a investir ou até roubar suas carteiras criptografadas. Para passar credibilidade, os bots respondem posts com resultados do ChapGPT e até publicam selfies roubadas de outros perfis.
Em entrevista ao Insider, Menczer destacou que a ascensão das redes sociais proporcionou uma forma barata para que pessoas mal intencionadas conseguissem monetizar conteúdo falso alcançando um público grande. E as novas ferramentas de IA agravam isso. Segundo ele, esses recursos “reduzem ainda mais o custo de geração de conteúdo falso, mas confiável em grande escala, derrotando as já fracas defesas de moderação das plataformas de mídia social.”
Enquanto alguns bots eram fáceis de reconhecer antes, por seu comportamento mais robótico, atualmente os bots usam a IA generativa a seu favor para produzir conteúdo muito semelhante aos de usuários humanos. Para Yang, “o avanço das ferramentas de IA distorcerá permanentemente a ideia de informação online”, disse ao Insider.
IA tem sido usada para falsificar sites de notícias
Outro foco dos criminosos que têm usada as ferramentas da IA generativa em seus golpes são os sites de notícias. A partir de ferramentas semelhantes às do ChatGPT, eles conseguem criar páginas de notícias falsas e spam.
ANewsGuard, uma empresa privada que avalia a confiabilidade de sites de notícias e informações, vem realizando um processo de auditoria desde abril. Até o momento, ela encontrou já mais de 400 sites de notícias gerados por IA. Além de poder ter um objetivo específico para essas notícias falsas, essas páginas lucram com receita de publicidade automatizada.
Os órgãos reguladores estão correndo contra o tempo para acompanhar esse processo e encontrar formas viáveis e efetivas de detectar conteúdo criado por IA. Contudo, os recursos da IA parecem ainda correr mais rápido, lançando mais novidades do que a busca por regulamentações consegue acompanhar.
FIQUE PODE DENTRO!
- IA pode substituir árbitros de futebol em 30 anos segundo especialista
- Estação de rádio usa DJ de IA durante um turno inteiro e faz história
- IA do Google Flights indicará melhor dia para comprar passagens aéreas
- Cibercriminosos estão criando versões de IA para atividades ilegais
- Google pode estar construindo IA que dá conselhos de vida
