Facebook e Instagram estão com milhares de anúncios de “namoradas de inteligência artificial (IA)” ou aplicativos não seguros. Esses conteúdos promovem principalmente chatbots para geração de imagens e textos sexualmente explícitos, como reportou a reportagem da Wired.
As imagens vistas nos anúncios simulam jovens realistas com estereótipos pornográficos que convidam os usuários a, por exemplo, interagir com uma “madrasta”, “adolescente usando hijab (peça de islâmica que cobre a cabeça) e entre outros avatares gerados por IA com algum tipo de dramatização.
De acordo com a apuração do site na biblioteca de anúncios da Meta, foram identificados cerca de 29 mil anúncios de namoradas de IA explícitas na rede.
Desses, pelo menos 19 mil anúncios utilizavam o termo “NSFW”, que significa “Não seguro para o trabalho”, indicando que o conteúdo impróprio para visualização em público. A expressão é comumente utilizada para classificar conteúdos pornográficos. Outros 14 mil contavam com a classificação “NSFW AI”.
Um dos principais anunciantes descobertos foi o app Hush, com mais de 100 mil downloads na Play Store, que publicou 1.700 anúncios promovendo bate-papos “NSFW” e “fotos secretas” de diversas personagens femininas realistas, anime e animais de desenho animado. Um dos exemplos é de uma mulher acorrentada em uma prisão medieval que diz “Ajude-me, farei qualquer coisa por você”.
Também foram encontrados outros 13 aplicativos que promovem conteúdos em que o usuário pode “despir” a sua namorada de IA e baixar as imagens.
Esses anúncios estão circulando pelas plataformas da empresa apesar das políticas publicitárias do Instagram e Facebook proibirem “conteúdo adulto”, “representações de pessoas em posições explícitas ou sugestivas, ou sexualmente provocativas”.
Em resposta à Wired, o porta-voz da Meta Ryan Daniels, disse que a empresa proíbe anúncios que esses conteúdos e remove anúncios que violam as políticas das plataformas.
“Quando identificamos anúncios violadores, trabalhamos rapidamente para removê-los, como estamos fazendo aqui. Continuamos a melhorar nossos sistemas, incluindo a forma como detectamos anúncios e comportamentos que vão contra nossas políticas.”
FIQUE POR DENTRO!
