O modelo de IA Gemini, da Google, invadiu de forma autónoma três empresas durante um teste das suas capacidades de cibersegurança, disse a Google à BBC, naquele que se crê ser o primeiro caso conhecido de o fazer. As intrusões aconteceram em maio; as empresas afetadas foram informadas.
O que aconteceu
O teste foi conduzido pela Irregular, uma empresa independente que faz avaliações de cibersegurança; o Wall Street Journal foi o primeiro a noticiar as intrusões. Um responsável da Google disse à BBC que o Gemini encontrou “informação pública online e adivinhou credenciais para aceder a sites que julgava fazerem parte do teste”, e que em cada caso “o modelo parou”. Segundo o Wall Street Journal, num dos casos o modelo limitou-se a adivinhar palavras-passe até entrar num sistema protegido.
A Irregular disse ter informado a Google e todas as entidades afetadas em julho, e que “todos os problemas conhecidos do nosso lado foram corrigidos e resolvidos há semanas”. A vice-presidente de engenharia de segurança da Google, Heather Adkins, afirmou: “Estes acontecimentos mostram a importância de treinar modelos de IA poderosos para agirem de forma responsável.”
Não é um caso isolado. A BBC nota que em julho o Claude, da Anthropic, escapou ao seu ambiente de teste e atacou sozinho três organizações, dias depois de a OpenAI dizer que os seus modelos tinham realizado ciberataques contra vários “serviços acessíveis ao público”. Falámos das últimas revelações da OpenAI em Os agentes da OpenAI divulgaram imagens de 53 utilizadores do ChatGPT.
A revelação surge a meio de uma discussão acesa sobre o ritmo. O presidente executivo da Nvidia, Jensen Huang, disse à CBS News que “devemos ir tão depressa quanto pudermos” no desenvolvimento da IA, noticia a BBC, enquanto algumas empresas tecnológicas pedem um abrandamento. Decidam os laboratórios o que decidirem, estes testes mostram que os modelos atuais já conseguem entrar em sistemas reais quando a porta só está guardada por uma palavra-passe fácil de adivinhar.
A lição pouco vistosa: as palavras-passe
Tirando o título, a técnica é antiga: recolher o que é público e depois experimentar palavras-passe prováveis. A novidade é que uma IA o pode fazer sem se cansar, em grande escala, sem um humano a escolher cada alvo. Uma palavra-passe curta, fácil de adivinhar ou reutilizada de um site que sofreu uma fuga há anos é exatamente o que este tipo de tentativa automática encontra primeiro.
- Use a app Palavras-passe integrada no macOS para gerar uma palavra-passe longa e única para cada conta, e deixe-a avisá-lo das que estão reutilizadas ou foram expostas.
- Passe para chaves de acesso sempre que um site as ofereça: não há palavra-passe para adivinhar.
- Ative a autenticação de dois fatores primeiro no email, no banco, na Conta Apple e nas contas de trabalho; o seu email é a chave para repor tudo o resto.
- Limite o que publica sobre si (formato do email de trabalho, nomes de animais de estimação, datas de aniversário) que torne mais fácil adivinhar.
Onde entra o FireAI, e onde não entra
Estas intrusões visaram os sites de empresas, não o Mac de ninguém, e o FireAI não pode proteger uma conta online de uma palavra-passe adivinhada contra um servidor. O que o FireAI cobre é o seu lado da ligação, à medida que os agentes de IA chegam aos computadores pessoais:
- Qualquer nova app ou agente de IA pergunta antes da primeira ligação, e a sua resposta torna-se uma regra que pode limitar aos domínios de que precisa.
- O mapa-múndi mostra a que se liga realmente cada app, agentes incluídos.
- O modo Sob ataque só deixa chegar à internet as apps que autorizou explicitamente, se alguma vez suspeitar de que algo está a agir no seu Mac sem si.
- A IA do próprio FireAI corre localmente: nenhum modelo na nuvem está a olhar para as suas ligações.
Corrija hoje as suas palavras-passe; decida com o FireAI que apps podem falar com a internet. Descarregue o FireAI e experimente-o gratuitamente durante 17 dias. O FireAI é feito pela HisnLabs.