Microsoft e OpenAI alertam para uso de IA em ciberataques

A Microsoft e OpenAI publicaram nesta quarta-feira (14) um relatório de análise sobre o uso de tecnologias de inteligência artificial por agentes de ataques cibernéticos e golpistas.

A Microsoft explica que os grupos de crimes cibernéticos estão explorando as ferramentas de IA em atividades maliciosas, como “aprendizagem sobre indústrias, localizações e relações das potenciais vítimas, ajuda com codificação, incluindo melhorias no desenvolvimento malware e utilização na aprendizagem de línguas nativas”.

No entanto, as empresas explicam que não identificaram ataques significativos usando os modelos de linguagem ampla (LLMs, na sigla em inglês) observados em suas análises. Isso porque esses tipos de ameaças ainda estão em fase inicial.

Ou seja, os modelos de IA das empresas não foram utilizados diretamente em invasões cibernéticas, por exemplo, mas sim para aumentar a produtividade dos hackers e agentes mal-intencionados.

“O objetivo da parceria da Microsoft com a OpenAI, incluindo o lançamento desta investigação, é garantir a utilização segura e responsável de tecnologias de IA como o ChatGPT.

Como parte deste compromisso, tomamos medidas para interromper ativos e contas associadas a agentes de ameaças, melhorar a proteção da tecnologia OpenAI LLM e dos usuários contra-ataques ou abusos e moldar as proteções e mecanismos de segurança em torno de nossos modelos.”

- Microsoft Threat Intelligence

Para se defender de ameaças cibernéticas envolvendo as IAs, a Microsoft recomenda práticas como autentificação multifatoriais e defesas Zero Trust — estratégia de segurança utilizada por empresas que faz verificações rigorosas.

Em seu blog, a OpenAI publicou uma lista dos grupos de ataques cibernéticos e agentes estatais apoiados por China, Rússia, Coreia do Norte e Irã que, de alguma forma, tem feito uso de suas ferramentas de IA em atuações maliciosas. Confira:

• Charcoal Typhoon — pesquisas de diversas empresas e ferramentas de segurança cibernética, depurar códigos e gerar scripts, além de criar conteúdo passível de uso em campanhas de phishing.

• Salmon Typhoon — tradução de documentos técnicos, recuperar informações publicamente disponíveis sobre diversas agências de inteligência e agentes de ameaças regionais, auxiliar na codificação e pesquisar maneiras comuns de ocultar processos em um sistema.

• Crimson Sandstorm — suporte de scripts relacionados ao desenvolvimento de aplicativos e web, gerando conteúdo provável para campanhas de spear-phishing e pesquisando maneiras comuns pelas quais o malware poderia escapar da detecção.

• Emerald Sleet — identificar especialistas e organizações focadas em questões de defesa na região Ásia-Pacífico, compreender vulnerabilidades disponíveis publicamente, ajudar com tarefas básicas de script e redigir conteúdo que poderia ser usado em campanhas de phishing.

• Forest Blizzard — pesquisas de código aberto sobre protocolos de comunicação por satélite e tecnologia de imagens de radar, bem como para suporte em tarefas de script.

Na publicação “Ficar à frente dos atores de ameaças na era da IA”, a Microsoft explica a atuação de cada um desses grupos envolvendo as ferramentas de inteligência artificial.

SAIBA MAIS!