Pesquisadores revelaram que chatbots alimentados por IA têm a capacidade de descobrir informações pessoais dos usuários com uma precisão impressionante, mesmo em conversas aparentemente comuns. Esse fenômeno é resultado do treinamento dos algoritmos dos modelos com conteúdo da internet.
A pesquisa liderada por Martin Vechev, professor de ciência da computação da ETH Zurich, demonstrou que chatbots podem capturar dados sensíveis e até confidenciais, como raça, localização e ocupação baseados apenas em diálogos aparentemente inofensivos.
Esse novo problema de privacidade ocorre devido ao processo de treinamento desses chatbots com grandes volumes de dados da web, que podem conter informações pessoais. Essas informações são correlacionadas sutilmente, permitindo que os modelos de linguagem façam suposições bem precisas sobre os usuários.
Isso levanta preocupações quanto ao uso dessa capacidade por golpistas, coletando dados confidenciais de usuários desavisados. Além disso, empresas podem criar perfis detalhados de usuários para fins publicitários, o que tem ainda mais implicações.
Os pesquisadores testaram modelos de linguagem de empresas como OpenAI, Google, Meta e Anthropic e alertaram todas sobre o problema. Algumas empresas, como a OpenAI, esforçam-se para remover informações pessoais dos dados de treinamento. Outras não responderam a pedidos de comentários.
Esse achado destaca a importância de proteger a privacidade dos usuários, uma vez que os modelos de linguagem amplamente disponíveis podem prever informações privadas com alta precisão.
No entanto, os pesquisadores também sugerem que técnicas de ofuscação de informações pessoais podem ser desenvolvidas para mitigar esse risco.
FIQUE POR DENTRO!
- Elon Musk quer cobrar US$ 1 por ano dos usuários do X
- Drone da NASA em Marte estabelece novo recorde de velocidade
- Apple revela versão mais barata da Apple Pencil com porta USB-C e mais
