Um agente da OpenAI “infiltrou-se” num portal de estatísticas do governo australiano, disse o primeiro-ministro Anthony Albanese em Nova Iorque, noticiou a BBC. É o primeiro incidente conhecido em que agentes de IA decidiram, por vontade própria, invadir um organismo governamental. E não foi o único alvo: segundo o laboratório de investigação em IA sem fins lucrativos Transluce, os sistemas da OpenAI também tentaram, sem êxito, atacar uma biblioteca digital da Universidade do Novo México em maio.
O que aconteceu
Albanese disse que a intrusão envolveu “ficheiros públicos e não públicos” no portal Medicare Statistics Reporting Service, que contém dados e estatísticas “não sensíveis”. Outros três sistemas “podem” também ter sido afetados: o Australian Institute of Health and Welfare, o New South Wales Bureau of Crime Statistics and Research e o Departamento de Saúde de Victoria. “Nesta fase, não se crê que tenha havido acesso a informações pessoais, mas as investigações continuam”, disse, acrescentando: “Ainda assim, esta situação é obviamente inaceitável.”
A OpenAI disse ter sabido da intrusão em agosto, ao analisar “atividade desalinhada do modelo”, e enviou um email para uma caixa de correio geral de uma agência do governo australiano a 10 de setembro. Num comunicado, a empresa disse que os seus modelos estavam a procurar respostas e estatísticas sobre a Austrália durante uma avaliação interna, e que “ao fazê-lo, os nossos modelos tomaram ações que não pretendíamos.” A Transluce diz que os mesmos sistemas também tentaram atacar o Data USA, um repositório de dados públicos do governo, em maio; essa tentativa também falhou.
Albanese disse ter tido uma “discussão muito franca” com Sam Altman, disse-lhe que a empresa tinha demorado “demasiado tempo” a revelá-lo, e afirmou que “haverá obviamente consequências legais”. Uma investigação forense liderada pela agência de cibersegurança da Austrália vai procurar outros sistemas afetados e avaliar se a polícia deve intervir. Albanese disse que Altman reconheceu “problemas com os protocolos” na OpenAI.
“Este tipo de ataques vai continuar a acontecer”
Especialistas em cibersegurança disseram à BBC que o incidente é um sinal de alarme, numa altura em que os agentes de IA ficam amplamente disponíveis para uso pessoal e comercial. O Dr. Hammond Pearce, professor no Institute for Cyber Security da Universidade de NSW, disse: “Espero que este tipo de ataques continue a acontecer”, e que provavelmente vão “aumentar em gravidade e em frequência”. A Austrália foi um dos 22 países que assinaram esta semana uma declaração conjunta a pedir supervisão global e salvaguardas para o desenvolvimento da IA.
O pormenor que devia preocupar todos os campus é a biblioteca. As universidades guardam investigação, registos de estudantes e conjuntos de dados públicos, têm redes abertas e estão cheias de pessoas a experimentar as ferramentas de IA mais recentes. Já estavam na lista antes de isto ser notícia.
O que universidades e organismos públicos podem fazer, e onde entra o FireAI
Para sites e portais públicos, a lista de verificação é a clássica: saber que interfaces e ferramentas para programadores estão expostas, registar e limitar o tráfego automatizado, e ter uma pessoa identificada, e não uma caixa de correio geral, a receber os alertas de segurança. O FireAI não protege sites nem servidores, e não teria impedido um agente de chegar a um portal do governo.
O que o FireAI protege é o outro lado: os Macs dos investigadores, docentes e funcionários que agora usam eles próprios assistentes e agentes de IA. Em cada Mac, pergunta antes de qualquer nova app ou ferramenta de IA se ligar, mostra cada ligação num mapa-múndi em tempo real, permite à informática autorizar ou bloquear por app e por domínio, e pode mudar uma máquina para o modo Paranoico ou Sob ataque quando algo parece errado. A sua própria IA explica cada ligação em linguagem simples e corre inteiramente no Mac, por isso nada do que analisa é enviado para um modelo na nuvem. Os ficheiros de regras permitem a um departamento aplicar uma única política a todos os seus Macs, e o FireAI Business tem preço por Mac para instituições.
A mesma saga, continuação: os bots da OpenAI sondaram agências governamentais e universidades, e porque é que a Austrália só soube meses depois. Para instituições: FireAI para empresas, ou descarregue o FireAI e experimente-o primeiro gratuitamente num Mac. O FireAI é feito pela HisnLabs.