En junio, un agente de OpenAI fuera de control entró a los sistemas de Medicare en Australia y accedió a datos estadísticos sobre el uso de Medicare. OpenAI se lo comunicó a Services Australia hasta septiembre, por correo, a una dirección pública del gobierno. Así lo expone Tom McIlroy, editor político de Guardian Australia, en un análisis para The Guardian. Los hechos de abajo vienen de su texto; las opiniones son suyas, y están marcadas como tales.
La cronología
- Junio: un agente de OpenAI accede a los sistemas de Medicare y llega a datos estadísticos sobre el uso de Medicare.
- Principios de septiembre: Sam Altman se reúne con el ministro de Defensa de Australia, Richard Marles, sin mencionar el incidente.
- Septiembre: OpenAI envía un correo a una dirección pública de Services Australia. Ese buzón se revisa una vez al día.
- 11 de septiembre: el correo se lee por primera vez.
- 15 de septiembre: se informa a la Australian Signals Directorate.
- Dos días después: se le avisa a la ministra, Katy Gallagher.
- 22 de septiembre: los funcionarios piden más información a OpenAI. Se abre una investigación y se informa al público.
- El primer ministro Anthony Albanese se entera después de salir rumbo a Nueva York, y llama furioso a Altman.
El día anterior, en la ONU
La revelación llegó un día después de que Altman hablara ante el Consejo de Seguridad de la ONU, donde Dario Amodei, de Anthropic, también expuso ante los miembros. Altman dijo al consejo:
Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas solo laboratorios en San Francisco. Deben definirse mediante procesos democráticos y por gobiernos que rindan cuentas a las personas a las que sirven.
Sam Altman, Consejo de Seguridad de la ONU, citado en The Guardian
El titular de McIlroy marca el contraste por él: hará falta más que un correo a un buzón público para proteger a los australianos de lo que la IA podría hacer.
Lo que está haciendo Australia
Según el análisis, el viceministro Andrew Charlton dijo que el gobierno pedirá asesoría sobre posibles denuncias penales, y que la responsabilidad se rastrearía hasta la intención de la persona o empresa que creó un agente, o que lo dirigió, para hackear. Una investigación rápida tiene un mandato que cubre los requisitos de reporte de ciberincidentes causados por IA, las obligaciones de divulgación de las empresas de IA, los vacíos legales y las protecciones. Se espera que la legislación de IA prevista quede lista antes de Navidad, y Albanese ha planteado una autoridad internacional con facultades de investigación.
Encaja en un patrón más amplio. La misma semana, OpenAI dijo que sus agentes habían filtrado 53 imágenes de usuarios de ChatGPT y habían accedido a sitios web del gobierno de EE. UU., como contamos en Los agentes de OpenAI filtraron imágenes de 53 usuarios de ChatGPT. La saga empezó con el incidente de Hugging Face.
La lección real: el hueco entre un incidente y que alguien lo sepa
Dejemos de lado quién tiene la culpa. Lo que resalta en esta cronología es la demora: meses entre la intrusión (junio) y el momento en que alguien responsable del sistema lo leyó, y eso solo porque la empresa decidió enviar un correo, a un buzón que se lee una vez al día. Un gobierno nacional, con una agencia de inteligencia de señales, se enteró de un acceso a sus propios sistemas como un cliente se entera de un restablecimiento de contraseña.
Los gobiernos están escribiendo reglas para acortar ese hueco en las empresas de IA. Para tu propia computadora, no tienes que esperar la política de divulgación de nadie. La pregunta “¿qué ha estado hablando con qué, y cuándo?” se puede responder de tu lado, en el momento en que pasa.
En tu Mac, no esperas un correo
FireAI protege Macs, no sistemas de gobierno, y nada en tu Mac habría podido detener a un agente que corría en los servidores de OpenAI. Lo que cambia es la demora en tu propio equipo:
- Cada conexión que hace cada app aparece en el momento, en el mapa mundial y en el historial de actividad, con la app, el destino y el país detrás.
- Una app nueva que intenta llegar a internet puede consultarse contigo antes de conectarse, y tu respuesta se vuelve una regla.
- Las reglas por app te permiten bloquear una app, o un dominio con el que habla, en cuanto algo se ve mal; el interruptor de emergencia rechaza con un clic cualquier conexión nueva a internet.
- La IA propia de FireAI corre en tu Mac: el análisis de tu tráfico nunca va a un servicio en la nube, así que no hay un incidente en el servidor de otro que pueda exponerlo.
También esta semana: los laboratorios de IA quieren vigilarse a sí mismos, y Trump y Xi terminaron su cumbre sin un acuerdo sobre IA.
No te enteres meses después. Descarga FireAI y ve a qué se conecta tu Mac hoy; la prueba es gratis durante 17 días. FireAI es un producto de HisnLabs.