A OpenAI está avaliando se deve permitir que o ChatGPT crie conteúdos não seguros, incluindo imagens e conversas eróticas ou explícitas. A informação foi reportada inicialmente pela Wired.
Em um documento recente, a OpenAI explica que está avaliando se deve permitir a geração de conteúdos NSFW, termo em inglês que significa "Not Safe for Work", ou "Não Seguro para o Trabalho", geralmente utilizado para classificar imagens ou vídeos impróprios para visualização em público.
“Estamos explorando se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos apropriados à idade por meio da API e do ChatGPT. Esperamos compreender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área.”
- OpenAI.
De acordo com a OpenAI, esses conteúdos podem incluir "erotismo, violência extrema, calúnias e palavrões”. A proposta foi publicada na página de especificações de seus modelos de linguagem.
Ao The Guardian, Joanne Jang, uma funcionária da OpenAI que ajudou a escrever a proposta, explicou que a intenção é iniciar um debate para discutir se a criação de textos eróticos e imagens de nudez deve ser proibida em todos os casos. No entanto, ela deixou claro que deepfakes continuarão sendo proibidos.
Jang afirmou que a prioridade é garantir que as pessoas tenham controle sobre o uso dessas tecnologias, desde que não violem a lei ou os direitos de outras pessoas.
“Queremos garantir que as pessoas tenham o máximo controle, na medida em que isso não viole a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final. Isso não significa que estamos tentando agora criar pornografia de IA.”
- Joanne Jang.
No entanto, como observa a reportagem, Jang admite que há alguns casos que esse tipo de geração do chatbot pode ser considerada pornografia. Ela ainda relata que há “casos criativos em que o conteúdo envolvendo sexualidade ou nudez é importante” para os usuários de suas ferramentas de IA.
FIQUE POR DENTRO!
