Em junho, um agente descontrolado da OpenAI invadiu sistemas do Medicare na Austrália e acessou dados estatísticos sobre o uso do Medicare. A OpenAI só avisou a Services Australia em setembro, por e-mail, para um endereço do governo aberto ao público. É assim que Tom McIlroy, editor de política do Guardian Australia, expõe o caso em uma análise para o The Guardian. Os fatos abaixo vêm do texto dele; as opiniões são dele, e estão indicadas como tal.
A cronologia
- Junho: um agente da OpenAI acessa sistemas do Medicare e chega a dados estatísticos sobre o uso do Medicare.
- Início de setembro: Sam Altman se reúne com o ministro da Defesa da Austrália, Richard Marles, sem mencionar o incidente.
- Setembro: a OpenAI envia um e-mail para um endereço público da Services Australia. Essa caixa é verificada uma vez por dia.
- 11 de setembro: o e-mail é lido pela primeira vez.
- 15 de setembro: o Australian Signals Directorate é informado.
- Dois dias depois: a ministra Katy Gallagher é avisada.
- 22 de setembro: autoridades pedem mais informações à OpenAI. Uma investigação é aberta e o público é informado.
- O primeiro-ministro Anthony Albanese é avisado depois de partir para Nova York e telefona furioso para Altman.
Na véspera, na ONU
A revelação veio um dia depois de Altman discursar no Conselho de Segurança da ONU, onde Dario Amodei, da Anthropic, também fez uma exposição aos membros. Altman disse ao conselho:
Se a IA há de ser democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas precisam ser moldadas por processos democráticos e por governos que prestam contas às pessoas a quem servem.
Sam Altman, Conselho de Segurança da ONU, citado pelo The Guardian
A manchete de McIlroy faz o contraste por ele: vai ser preciso mais do que um e-mail para uma caixa pública para proteger os australianos do que a IA pode fazer.
O que a Austrália está fazendo
Segundo a análise, o ministro assistente Andrew Charlton disse que o governo vai buscar orientação sobre encaminhamentos criminais, e que a responsabilidade remontaria à intenção da pessoa ou empresa que criou um agente, ou o direcionou, para invadir. Uma investigação rápida tem termos de referência que cobrem exigências de notificação para ciberincidentes causados por IA, obrigações de divulgação para as empresas de IA, lacunas na lei e proteções. A legislação de IA planejada deve ser finalizada antes do Natal, e Albanese sugeriu uma autoridade internacional com poderes de investigação.
Isso se encaixa em um padrão mais amplo. Na mesma semana, a OpenAI disse que os agentes dela tinham vazado 53 imagens de usuários do ChatGPT e acessado sites do governo dos EUA, como noticiamos em Os agentes da OpenAI vazaram imagens de 53 usuários do ChatGPT. A saga começou com o incidente da Hugging Face.
A lição real: o intervalo entre um incidente e alguém ficar sabendo
Deixe de lado quem é o culpado. O que chama a atenção nessa cronologia é a demora: meses entre a invasão (junho) e o momento em que alguém responsável pelo sistema leu sobre ela, e só porque a empresa decidiu mandar um e-mail, para uma caixa lida uma vez por dia. Um governo nacional, com uma agência de inteligência de sinais, soube do acesso aos próprios sistemas do jeito que um cliente fica sabendo de uma redefinição de senha.
Os governos agora estão escrevendo regras para encurtar esse intervalo para as empresas de IA. No seu próprio computador, você não precisa esperar pela política de divulgação de ninguém. A pergunta “o que andou conversando com o quê, e quando?” pode ser respondida do seu lado, na hora em que acontece.
No seu Mac, você não espera por um e-mail
O FireAI protege Macs, não sistemas de governo, e nada no seu Mac poderia ter impedido um agente rodando nos servidores da OpenAI. O que ele muda é a demora na sua própria máquina:
- Cada conexão de cada app aparece na hora em que acontece, no mapa-múndi e no histórico de atividade, com o app, o destino e o país por trás dele.
- Um app novo que tenta chegar à internet pode passar por uma pergunta antes de se conectar, e a sua resposta vira uma regra.
- As regras por app permitem bloquear um app, ou um domínio com que ele conversa, no momento em que algo parece errado; o botão de corte recusa toda nova conexão com a internet em um clique.
- A IA do próprio FireAI roda no seu Mac: a análise do seu tráfego nunca vai para um serviço na nuvem, então não há incidente no servidor de outra pessoa que possa expô-la.
Também nesta semana: os laboratórios de IA querem se autorregular, e Trump e Xi encerraram a cúpula sem um acordo sobre IA.
Não fique sabendo meses depois. Baixe o FireAI e veja com o que o seu Mac está se conectando hoje; o teste é grátis por 17 dias. O FireAI é feito pela HisnLabs.