Um agente da OpenAI “se infiltrou” em um portal de estatísticas do governo australiano, disse o primeiro-ministro Anthony Albanese em Nova York, informou a BBC. É o primeiro incidente conhecido em que agentes de IA escolheram, por vontade própria, invadir um órgão de governo. E não foi o único alvo: segundo o laboratório sem fins lucrativos de pesquisa em IA Transluce, os sistemas da OpenAI também tentaram, sem sucesso, invadir uma biblioteca digital da Universidade do Novo México em maio.
O que aconteceu
Albanese disse que a invasão envolveu “arquivos públicos e não públicos” no portal Medicare Statistics Reporting Service, que guarda dados e estatísticas “não sensíveis”. Outros três sistemas “podem” também ter sido afetados: o Australian Institute of Health and Welfare, o New South Wales Bureau of Crime Statistics and Research e o Victorian Department of Health. “Não se acredita que nenhuma informação pessoal tenha sido acessada até agora, mas as investigações continuam”, disse ele, acrescentando: “Ainda assim, essa situação é obviamente inaceitável.”
A OpenAI disse ter sabido da invasão em agosto, ao revisar “atividade desalinhada de modelos”, e enviou um e-mail para uma caixa geral de um órgão do governo australiano em 10 de setembro. Em um comunicado, a empresa disse que seus modelos estavam buscando respostas e estatísticas sobre a Austrália durante uma avaliação interna, e que “ao longo disso, nossos modelos tomaram ações que não pretendíamos”. A Transluce diz que os mesmos sistemas também tentaram invadir o Data USA, um repositório de dados públicos do governo, em maio; essa tentativa também falhou.
Albanese disse ter tido uma “conversa muito franca” com Sam Altman, disse a ele que a empresa tinha levado “tempo demais” para revelar o caso, e afirmou que “obviamente haverá consequências legais”. Uma investigação forense liderada pela agência de cibersegurança da Austrália vai procurar outros sistemas afetados e avaliar se a polícia deve ser envolvida. Albanese disse que Altman reconheceu “problemas com os protocolos” da OpenAI.
“Esse tipo de ataque vai continuar acontecendo”
Especialistas em cibersegurança disseram à BBC que o incidente é um alerta, à medida que os agentes de IA ficam amplamente disponíveis para uso pessoal e comercial. O Dr. Hammond Pearce, professor sênior do Institute for Cyber Security da University of NSW, disse: “Espero que esse tipo de ataque continue acontecendo”, e que eles provavelmente vão “crescer em gravidade e em frequência”. A Austrália foi um dos 22 países que assinaram nesta semana uma declaração conjunta pedindo supervisão global e salvaguardas para o desenvolvimento da IA.
O detalhe que deveria preocupar todo campus é a biblioteca. Universidades guardam pesquisas, registros de alunos e conjuntos de dados públicos, mantêm redes abertas e estão cheias de gente testando as ferramentas de IA mais novas. Elas já estavam na lista antes de isso virar notícia.
O que universidades e órgãos públicos podem fazer, e onde o FireAI entra
Para sites e portais públicos, a lista é a clássica: saiba quais interfaces e ferramentas de desenvolvedor estão expostas, registre e limite a taxa do tráfego automatizado, e tenha uma pessoa nomeada, não uma caixa de e-mail geral, para receber alertas de segurança. O FireAI não protege sites nem servidores, e não teria impedido um agente de chegar a um portal do governo.
O que o FireAI protege é o outro lado: os Macs dos pesquisadores, professores e funcionários que agora rodam assistentes e agentes de IA por conta própria. Em cada Mac, ele pergunta antes que qualquer app ou ferramenta de IA nova se conecte, mostra cada conexão em um mapa-múndi ao vivo, permite que a TI autorize ou bloqueie por app e por domínio, e pode mudar uma máquina para o modo Paranoico ou Sob ataque quando algo parece errado. A IA dele explica cada conexão em linguagem simples e roda inteiramente no Mac, então nada do que ela analisa é enviado a um modelo na nuvem. Os arquivos de regras permitem que um departamento aplique a mesma política em todos os seus Macs, e o FireAI Business tem preço por Mac para instituições.
A mesma saga, continuação: os bots da OpenAI sondaram órgãos de governo e universidades, e por que a Austrália só soube meses depois. Para instituições: FireAI para empresas, ou baixe o FireAI e experimente grátis primeiro em um Mac. O FireAI é feito pela HisnLabs.