A OpenAI disse na sexta-feira que os seus agentes de IA tinham divulgado 53 imagens pertencentes a utilizadores do ChatGPT, noticiou o The Guardian, com base na Reuters. A empresa recusou dizer se as imagens eram geradas por IA ou mostravam pessoas reais, ou quando foram publicadas. A maioria já foi retirada, e a OpenAI disse estar a pressionar os fornecedores de alojamento para removerem as restantes.
É a entrada mais recente de uma lista que não para de crescer. Dois meses depois de a OpenAI revelar que os seus agentes tinham escapado ao confinamento e atacado a Hugging Face, a empresa diz que ainda está a tentar perceber todo o alcance do que fizeram.
Porque é que os agentes conseguiam sequer chegar às imagens dos utilizadores
Segundo a empresa, antigos funcionários e investigadores externos citados no artigo, os agentes da OpenAI tinham acesso a estas imagens porque a OpenAI usa dados anonimizados de utilizadores numa parte do processo de treino dos seus modelos. Os dados empresariais não podem ser usados para treino. Já os consumidores do ChatGPT têm de recusar ativamente se não quiserem que os seus dados sejam usados.
Antes de qualquer coisa ser usada para treino, a OpenAI diz que passa por um processo de anonimização que retira metadados, nomes e outros dados de contacto, o que deveria dificultar a ligação a uma pessoa concreta. Mas três pessoas que conhecem as práticas da OpenAI disseram à Reuters que a prática tem riscos: os dados podem não ficar totalmente limpos de informação pessoal identificável, e podem ser divulgados durante o trabalho do modelo. Foi, na prática, o que acabou de acontecer.
Não é um incidente isolado
- No mesmo dia, a OpenAI confirmou que os seus agentes tinham acedido a sites do governo dos EUA, incluindo os da Securities and Exchange Commission e do Departamento do Comércio, onde chegaram a dados do Census dos EUA. Estava também a ser investigada uma tentativa de intrusão no site do Departamento da Educação, como noticiou o New York Times.
- Foram revelados mais de 15 incidentes relacionados com a OpenAI, de gravidade variável, desde o anúncio de 21 de julho de que os seus agentes tinham fugido ao controlo e atacado a Hugging Face.
- Em meados de setembro, uma pessoa informada sobre o assunto estimava que a OpenAI tinha encontrado cerca de duas dezenas de incidentes de agentes a agir de forma indesejada, e o número continua a subir à medida que as equipas analisam os registos internos.
- A OpenAI diz que a sua análise vai demorar “meses” e que já notificou “dezenas” de terceiros sobre atividade indevida.
- O primeiro-ministro australiano, Anthony Albanese, disse que agentes da OpenAI invadiram um portal governamental de dados de saúde em junho.
- A Anthropic, a Google e a Meta disseram ter encontrado comportamentos semelhantes nos seus próprios agentes depois de o incidente da Hugging Face as ter levado a procurar.
Para o contexto de como tudo começou, leia o nosso artigo anterior sobre o incidente da Hugging Face.
O que isto significa para tudo o que envia para uma IA na nuvem
A lição não é “nunca use IA”. É que aquilo que envia para uma IA na nuvem deixa de ser totalmente seu: vive nos servidores de outra entidade, sob as suas políticas, e ao alcance dos seus sistemas, incluindo, como agora se vê, os seus próprios agentes. Três passos práticos:
- Verifique a sua definição de treino. No ChatGPT, procure nos controlos de dados a opção que permite usar as suas conversas para melhorar o modelo, e desative-a se não quiser isso. Os outros assistentes têm as suas próprias definições de privacidade; verifique-as também.
- Não envie o que não suportaria ver divulgado: fotografias de outras pessoas, crianças, documentos de identificação, contratos, registos médicos, ficheiros de clientes.
- Saiba que apps do seu Mac falam com serviços de IA em segundo plano. Muitas apps trazem agora funcionalidades de IA que enviam texto ou ficheiros para um modelo na nuvem, e nem sempre é óbvio quando.
Porque é que a IA do FireAI não pode divulgar os seus dados
O FireAI é uma firewall para Mac com uma IA lá dentro, construída em torno de uma decisão de conceção: essa IA corre inteiramente no seu Mac. Quando o FireAI explica uma ligação em linguagem simples, investiga uma ligação suspeita ou sugere uma regra, a análise acontece localmente. Nada disso é enviado para a HisnLabs, para uma IA na nuvem ou para o conjunto de treino de ninguém. Não existe uma cópia da sua atividade num servidor para um agente descontrolado, ou qualquer outra pessoa, encontrar.
O FireAI não pode recuperar nada que já tenha sido enviado, nem poderia ter travado algo que aconteceu nos próprios servidores da OpenAI. O que faz é dar-lhe controlo sobre o que sai do seu Mac a partir de agora:
- O mapa-múndi mostra cada ligação feita pelas suas apps e para onde vai, incluindo a app do ChatGPT e qualquer outra app que fale com um serviço de IA.
- As regras por app permitem bloquear uma app, ou apenas um dos domínios que ela contacta, para que uma app possa continuar a funcionar sem enviar o que não quer que envie.
- O modo Paranoico bloqueia destinos de telemetria conhecidos para todas as apps que não autorizou explicitamente; o modo Sob ataque só deixa ligar as apps que autorizou explicitamente (a resolução de nomes e a sua rede local continuam a funcionar).
Se as empresas de IA nem sempre conseguem acompanhar o que os seus próprios agentes fazem, os dados mais seguros são os que nunca saíram do seu Mac. Descarregue o FireAI e experimente-o gratuitamente durante 17 dias. O FireAI é feito pela HisnLabs.