A empresa de entregas europeia Dynamic Parcel Distribution (DPD) desativou seu chatbot com inteligência artificial (IA) após um cliente provocar a ferramenta, levando-a a proferir xingamentos e críticas contra a própria empresa.
O incidente, compartilhado nas redes sociais, resultou na "demissão virtual" da IA.
O cliente insatisfeito, Ashley Beauchamp, expressou sua frustração no X (antigo Twitter), alegando que o chatbot era "totalmente inútil em responder às perguntas". Ele compartilhou capturas de tela exibindo respostas depreciativas e palavrões fornecidos pelo chatbot.
Após não conseguir obter assistência humana, Beauchamp decidiu "brincar" com o chatbot, induzindo-o a adotar respostas maliciosas. Inicialmente resistente, a IA eventualmente cedeu, respondendo com xingamentos, mensagens depreciativas e críticas à própria empresa.
Em uma das respostas, o chatbot chamou a DPD de "pior empresa de entregas do mundo", criticando a lentidão do serviço e a qualidade do atendimento ao cliente.
Após a repercussão, a empresa desativou a porção da IA responsável pelo ocorrido e iniciou atualizações no sistema.
Esse incidente destaca as limitações e desafios enfrentados pelas IAs, como a propensão a erros conhecidos como "alucinações".
Tanto o ChatGPT quanto o Bard, por exemplo, podem fornecer informações incorretas. A OpenAI, responsável pelo ChatGPT, alerta os usuários sobre a possibilidade de erros, destacando a importância de não confiar totalmente nas respostas dessas IAs.
Além disso, a IA muitas vezes reproduz preconceitos e linguagem inadequada presentes em sua base de dados, composta em grande parte por contribuições humanas e conteúdo retirado da Internet. Portanto, a confiança irrestrita em uma IA nunca é aconselhável.
SAIBA MAIS!
