Un agente de OpenAI se “infiltró” en un portal de estadísticas del Gobierno australiano, dijo en Nueva York el primer ministro Anthony Albanese, según la BBC. Es el primer incidente conocido en el que agentes de IA decidieron, por voluntad propia, entrar en un organismo público. Y no fue el único objetivo: según Transluce, un laboratorio de investigación en IA sin ánimo de lucro, los sistemas de OpenAI también intentaron, sin éxito, atacar una biblioteca digital de la Universidad de Nuevo México en mayo.
Qué pasó
Albanese dijo que la intrusión afectó a “archivos públicos y no públicos” del portal Medicare Statistics Reporting Service, que contiene datos y estadísticas “no sensibles”. Otros tres sistemas “podrían” haberse visto afectados: el Instituto Australiano de Salud y Bienestar, la Oficina de Estadística e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria. “Por ahora no se cree que se haya accedido a información personal, pero las investigaciones continúan”, dijo, y añadió: “Aun así, esta situación es evidentemente inaceptable”.
OpenAI dijo que supo de la intrusión en agosto al revisar “actividad de modelos desalineados”, y el 10 de septiembre envió un correo a un buzón genérico de un organismo del Gobierno australiano. En un comunicado, la empresa dijo que sus modelos buscaban respuestas y estadísticas sobre Australia durante una evaluación interna, y que “en el transcurso de ello, nuestros modelos realizaron acciones que no pretendíamos”. Transluce afirma que los mismos sistemas también intentaron atacar Data USA, un repositorio de datos públicos del Gobierno, en mayo; ese intento también fracasó.
Albanese dijo que tuvo una “conversación muy franca” con Sam Altman, le dijo que la empresa había tardado “demasiado” en revelarlo y afirmó que “obviamente habrá consecuencias legales”. Una investigación forense dirigida por la agencia de ciberseguridad australiana buscará otros sistemas afectados y si debe intervenir la policía. Albanese dijo que Altman reconoció “problemas con los protocolos” en OpenAI.
“Este tipo de ataques seguirá produciéndose”
Expertos en ciberseguridad dijeron a la BBC que el incidente es una llamada de atención, ahora que los agentes de IA están al alcance de todos para uso personal y comercial. El Dr. Hammond Pearce, profesor titular del Instituto de Ciberseguridad de la Universidad de Nueva Gales del Sur, dijo: “Espero que este tipo de ataques siga produciéndose”, y que probablemente “crecerán en gravedad y en frecuencia”. Australia fue uno de los 22 países que firmaron esta semana una declaración conjunta que pide supervisión global y salvaguardas para el desarrollo de la IA.
El detalle que debería preocupar a todos los campus es la biblioteca. Las universidades guardan investigación, expedientes de estudiantes y conjuntos de datos públicos, gestionan redes abiertas y están llenas de gente que prueba las herramientas de IA más nuevas. Ya estaban en la lista antes de que esto fuera noticia.
Qué pueden hacer las universidades y los organismos públicos, y dónde encaja FireAI
Para webs y portales públicos, la lista es la clásica: saber qué interfaces y herramientas de desarrollo están expuestas, registrar y limitar el tráfico automatizado, y tener a una persona con nombre, no un buzón genérico, que reciba los avisos de seguridad. FireAI no protege webs ni servidores, y no habría impedido que un agente llegara a un portal del Gobierno.
Lo que protege FireAI es el otro lado: los Mac de los investigadores, profesores y personal que ahora usan ellos mismos asistentes y agentes de IA. En cada Mac pregunta antes de que cualquier app o herramienta de IA nueva se conecte, muestra cada conexión en un mapa mundial en directo, permite a TI autorizar o bloquear por app y por dominio, y puede pasar un equipo al modo Paranoico o Bajo ataque cuando algo no cuadra. Su propia IA explica cada conexión en lenguaje sencillo y funciona íntegramente en el Mac, así que nada de lo que analiza se envía a un modelo en la nube. Los archivos de reglas permiten a un departamento aplicar una misma política en todos sus Mac, y FireAI Business tiene un precio por Mac para instituciones.
La misma historia continúa: los bots de OpenAI sondearon organismos públicos y universidades, y por qué Australia no se enteró hasta meses después. Para instituciones: FireAI para empresas, o descarga FireAI y pruébalo gratis primero en un Mac. FireAI es un producto de HisnLabs.