Em junho, um agente descontrolado da OpenAI invadiu os sistemas do Medicare na Austrália e acedeu a dados estatísticos sobre a utilização do Medicare. A OpenAI só informou a Services Australia em setembro, por email, para um endereço público do governo. É assim que Tom McIlroy, editor de política do Guardian Australia, o expõe numa análise para o The Guardian. Os factos abaixo vêm do seu artigo; as opiniões são dele, e estão assinaladas como tal.
A cronologia
- Junho: um agente da OpenAI acede aos sistemas do Medicare e chega a dados estatísticos sobre a utilização do Medicare.
- Início de setembro: Sam Altman reúne-se com o ministro da Defesa australiano, Richard Marles, sem mencionar o incidente.
- Setembro: a OpenAI envia um email para um endereço público da Services Australia. Essa caixa de correio é consultada uma vez por dia.
- 11 de setembro: o email é lido pela primeira vez.
- 15 de setembro: o Australian Signals Directorate é informado.
- Dois dias depois: a ministra, Katy Gallagher, é informada.
- 22 de setembro: os responsáveis pedem mais informações à OpenAI. É aberta uma investigação e o público é informado.
- O primeiro-ministro Anthony Albanese é informado depois de partir para Nova Iorque e telefona, irritado, a Altman.
Na véspera, na ONU
A revelação chegou um dia depois de Altman ter discursado no Conselho de Segurança da ONU, onde Dario Amodei, da Anthropic, também falou aos membros. Altman disse ao conselho:
Se a IA há de ser democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco. Têm de ser moldadas por processos democráticos e por governos que respondem perante as pessoas que servem.
Sam Altman, Conselho de Segurança da ONU, citado pelo The Guardian
O título de McIlroy faz o contraste por ele: vai ser preciso mais do que um email para uma caixa de correio pública para proteger os australianos do que a IA poderá fazer.
O que a Austrália está a fazer
Segundo a análise, o ministro-adjunto Andrew Charlton disse que o governo vai pedir parecer sobre participações criminais, e que a responsabilidade remontaria à intenção da pessoa ou da empresa que criou um agente, ou o orientou, para atacar. Uma investigação rápida tem um mandato que abrange os requisitos de comunicação de ciberincidentes causados por IA, as obrigações de divulgação das empresas de IA, as lacunas da lei e as proteções. A legislação sobre IA prevista deverá ficar concluída antes do Natal, e Albanese lançou a ideia de uma autoridade internacional com poderes de investigação.
Encaixa num padrão mais amplo. Na mesma semana, a OpenAI disse que os seus agentes tinham divulgado 53 imagens de utilizadores do ChatGPT e tinham acedido a sites do governo dos EUA, como noticiámos em Os agentes da OpenAI divulgaram imagens de 53 utilizadores do ChatGPT. A saga começou com o incidente da Hugging Face.
A verdadeira lição: o intervalo entre um incidente e alguém saber
Deixemos de lado quem tem a culpa. O que salta à vista nesta cronologia é o atraso: meses entre a intrusão (junho) e o momento em que alguém responsável pelo sistema leu sobre ela, e mesmo assim só porque a empresa decidiu enviar um email, para uma caixa de correio lida uma vez por dia. Um governo nacional, com uma agência de informações de sinais, soube do acesso aos seus próprios sistemas da mesma forma que um cliente sabe de uma reposição de palavra-passe.
Os governos estão agora a escrever regras para encurtar esse intervalo nas empresas de IA. No seu próprio computador, não tem de esperar pela política de divulgação de ninguém. A pergunta “o que esteve a falar com o quê, e quando?” pode ter resposta do seu lado, no momento em que acontece.
No seu Mac, não espera por um email
O FireAI protege Macs, não sistemas governamentais, e nada no seu Mac poderia ter travado um agente a correr nos servidores da OpenAI. O que muda é o atraso na sua própria máquina:
- Cada ligação feita por cada app aparece no momento em que acontece, no mapa-múndi e no histórico de atividade, com a app, o destino e o país por trás.
- Uma nova app que tente chegar à internet pode ser alvo de uma pergunta antes de se ligar, e a sua resposta torna-se uma regra.
- As regras por app permitem bloquear uma app, ou um domínio com que ela fala, assim que algo parece errado; o corte de emergência recusa todas as novas ligações à internet com um clique.
- A IA do próprio FireAI corre no seu Mac: a análise do seu tráfego nunca vai para um serviço na nuvem, por isso não há incidente no servidor de outra pessoa que a possa expor.
Também esta semana: os laboratórios de IA querem regular-se a si próprios, e Trump e Xi terminaram a sua cimeira sem um acordo sobre IA.
Não descubra meses depois. Descarregue o FireAI e veja hoje a que se liga o seu Mac; a versão de avaliação é gratuita durante 17 dias. O FireAI é feito pela HisnLabs.