OpenAI e Microsoft confirmam que ChatGPT está a ser utilizado para melhorar ciberataques

Se a inteligência artificial traz muita coisa boa para os utilizadores em geral, nem tudo é um mar de rosas. Na verdade hackers patrocinados pelos governos russo, chinês, iraniano e norte-coreano estão a utilizar o ChatGPT para identificar vulnerabilidades em sistemas informáticos, preparar operações de phishing ou desativar software antivírus. E se pensa que isso é apenas uma suposição, o mesmo foi confirmado pelo OpenAI, o criador da ferramenta, e pela Microsoft.

A OpenAI revela ter “perturbado” a utilização da inteligência artificial generativa por parte destes intervenientes governamentais, com a colaboração da Microsoft Threat Intelligence, unidade que enumera as ameaças colocadas às empresas em termos de segurança cibernética. “As contas OpenAI identificadas como afiliadas a estes atores foram encerradas”, disse o criador do ChatGPT.

Emerald Sleet, um grupo de hackers norte-coreano, e o Crimson Sandstorm, associado à Guarda Revolucionária do Irão, utilizaram o chatbot para gerar documentos que poderiam ser usados ​​para phishing. Crimson Sandstorm também utilizou modelos de linguagem (LLM), a base de interfaces generativas de IA, para entender melhor como desativar software antivírus, explica a Microsoft.

Já o grupo Charcoal Typhoon, considerado próximo das autoridades chinesas, utilizou o ChatGPT para tentar detetar vulnerabilidades em antecipação a possíveis ataques informáticos.

“O objetivo da parceria entre a Microsoft e a OpenAI é garantir o uso seguro e responsável de tecnologias alimentadas por inteligência artificial, como o ChatGPT”, revela a Microsoft. O grupo afirma que ajudou a fortalecer a proteção dos modelos de linguagem da OpenAI.

ChatGPT utilizado para práticas pouco recomendadas

O relatório observa que a interface recusou-se a ajudar o Salmon Typhoon, outro grupo de hackers próximo ao governo chinês, a gerar código de computador para fins de hacking, “aderindo assim às regras éticas” incorporadas ao software. “Compreender como os atores maliciosos mais avançados usam os nossos programas para fins maliciosos informa-nos sobre práticas que podem tornar-se mais prevalentes no futuro”, explica o OpenAI.

“Não conseguiremos bloquear nenhuma tentativa mal intencionada”, alertou o OpenAI. “Mas ao continuarmos a inovar, colaborar e partilhar, tornamos mais difícil que os malfeitores passem despercebidos.”