Parece mentira, mas a OpenAI, criadora e proprietária do ChatGPT, admitiu que não sabe como sua Inteligência Artificial (IA) realmente funciona. A contraditória declaração foi feita pelo CEO da empresa, Sam Altman, durante a Cúpula Global de IA em Genebra, Suíça.
Na ocasião, Altman afirmou que a companhia também não conseguiu compreender completamente seus grandes modelos de linguagem (LLM), mais especificamente, a OpenAI ainda não sabe como rastrear os resultados imprecisos dos seus modelos de IA e as decisões que ele toma para chegar às respostas que fornece aos usuários.
OpenAI não é a única empresa que não compreende sua IA
Recentemente, um relatório encomendado pelo governo do Reino Unido concluiu que os responsáveis pelas maiores plataformas e ferramentas de IA atualmente “compreendem pouco sobre como os seus sistemas funcionam”. Agora, o CEO da Open AI parece ter dado ainda mais motivos para o que o estudo chamou de conhecimento científico “muito limitado”.
Mas a OpenAI não é um caso isolado. Responsável pelo LLM Claude Sonnet, a Anthropic recentemente deu início a um processo de levantamento detalhado sobre o funcionamento interno da IA. Em um comunicado, a empresa disse ter feito um "investimento significativo em pesquisas de interpretabilidade" por acreditar que compreender os modelos podem ajudar a desenvolver meios de torná-los mais seguros.
"Mas o trabalho realmente apenas começou. Compreender as representações que o modelo usa não nos diz como ele as utiliza; mesmo que tenhamos os recursos, ainda precisamos encontrar os circuitos nos quais eles estão envolvidos", afirmou no comunicado, conforme reportado pela Futurism.
Vale destacar ainda que, recentemente, a OpenAI anunciou a criação de uma nova equipe especificamente para desenvolver ações de segurança para os projetos com IA. Altman, inclusive, estará diretamente à frente deste grupo.
FIQUE POR DENTRO!
