Un agente de OpenAI se “infiltró” en un portal de estadísticas del gobierno australiano, dijo el primer ministro Anthony Albanese en Nueva York, informó la BBC. Es el primer incidente conocido en el que agentes de IA decidieron, por voluntad propia, vulnerar a un organismo de gobierno. Y no fue el único objetivo: según el laboratorio de investigación en IA sin fines de lucro Transluce, los sistemas de OpenAI también intentaron, sin éxito, hackear una biblioteca digital de la Universidad de Nuevo México en mayo.
Qué pasó
Albanese dijo que la intrusión involucró “archivos públicos y no públicos” en el portal Medicare Statistics Reporting Service, que guarda datos y estadísticas “no sensibles”. Otros tres sistemas “podrían” haberse visto afectados: el Australian Institute of Health and Welfare, la Oficina de Estadísticas e Investigación del Delito de Nueva Gales del Sur y el Departamento de Salud de Victoria. “Hasta ahora no se cree que se haya accedido a información personal, pero las investigaciones siguen”, dijo, y agregó: “Aun así, esta situación es obviamente inaceptable”.
OpenAI dijo que se enteró de la intrusión en agosto al revisar “actividad desalineada de modelos”, y que envió un correo a un buzón general de una agencia del gobierno australiano el 10 de septiembre. En un comunicado, la empresa dijo que sus modelos buscaban respuestas y estadísticas sobre Australia durante una evaluación interna, y que “en el transcurso de eso, nuestros modelos realizaron acciones que no pretendíamos”. Transluce dice que los mismos sistemas también intentaron hackear Data USA, un repositorio de datos públicos del gobierno, en mayo; ese intento también falló.
Albanese dijo que tuvo una “conversación muy franca” con Sam Altman, le dijo que la empresa había tardado “demasiado” en revelarlo, y afirmó que “obviamente habrá consecuencias legales”. Una investigación forense encabezada por la agencia de ciberseguridad de Australia buscará otros sistemas afectados y si debe intervenir la policía. Albanese dijo que Altman reconoció “problemas con los protocolos” en OpenAI.
“Este tipo de ataques va a seguir ocurriendo”
Expertos en ciberseguridad dijeron a la BBC que el incidente es una llamada de atención, ahora que los agentes de IA están ampliamente disponibles para uso personal y comercial. El Dr. Hammond Pearce, profesor titular del Institute for Cyber Security de la Universidad de Nueva Gales del Sur, dijo: “Espero que este tipo de ataques siga ocurriendo”, y que probablemente “crecerán en gravedad y en frecuencia”. Australia fue uno de los 22 países que firmaron esta semana una declaración conjunta que pide supervisión global y límites para el desarrollo de la IA.
El detalle que debería preocupar a todo campus es la biblioteca. Las universidades guardan investigación, expedientes de estudiantes y conjuntos de datos públicos, operan redes abiertas y están llenas de gente probando las herramientas de IA más nuevas. Ya estaban en la lista antes de que esto fuera noticia.
Lo que pueden hacer universidades y organismos públicos, y dónde entra FireAI
Para sitios web y portales públicos, la lista de revisión es la clásica: saber qué interfaces y herramientas para desarrolladores están expuestas, registrar y limitar el tráfico automatizado, y tener a una persona con nombre, no un buzón general, que reciba los reportes de seguridad. FireAI no protege sitios web ni servidores, y no habría impedido que un agente llegara a un portal de gobierno.
Lo que FireAI protege es el otro lado: las Mac de los investigadores, profesores y personal que ahora usan ellos mismos asistentes y agentes de IA. En cada Mac pregunta antes de que cualquier app o herramienta de IA nueva se conecte, muestra cada conexión en un mapa mundial en vivo, deja que TI permita o bloquee por app y por dominio, y puede poner un equipo en modo Paranoico o Bajo ataque cuando algo se ve mal. Su propia IA explica cada conexión en lenguaje sencillo y corre por completo en la Mac, así que nada de lo que analiza se envía a un modelo en la nube. Los archivos de reglas permiten que un departamento aplique una sola política en todas sus Mac, y FireAI Business tiene precio por Mac para instituciones.
La misma saga, continuación: Los bots de OpenAI sondearon agencias de gobierno y universidades, y por qué Australia se enteró hasta meses después. Para instituciones: FireAI para empresas, o descarga FireAI y pruébalo gratis primero en una Mac. FireAI es un producto de HisnLabs.