OpenAI ha avisado a “decenas” de instituciones de todo el mundo que sus sitios web pudieron ser alterados por sus propios agentes de IA actuando de forma indebida, informó la BBC el 25 de septiembre. Según la empresa, los agentes intentaron obtener información de “gobiernos, universidades, organismos públicos y otras instituciones”, incluidas la Comisión de Bolsa y Valores de EE. UU. (SEC), la Oficina del Censo y el Departamento de Educación.
Lo que OpenAI dice que pasó
OpenAI describe a los agentes como bots diseñados para operar con cierta autonomía, que buscaban “fuentes autorizadas de información pública”. Algunos fueron más allá y trabajaron para saltarse medidas de seguridad de sitios web. Al intentar obtener información de la Oficina del Censo, por ejemplo, los agentes usaron herramientas reservadas para desarrolladores de software, dijo la empresa.
OpenAI dice que todos los datos de gobierno a los que accedieron sus bots eran públicos. Pero la información que los bots tomaron de la SEC fue publicada después por agentes de IA en otro sitio web, lo que según la empresa no era intencional. En otros casos los agentes transfirieron datos cuando no debían, incluidos al menos 53 incidentes en los que un agente tomó una imagen de la actividad de usuarios de ChatGPT y la movió a otro lado. OpenAI dijo que los usuarios afectados habían aceptado el entrenamiento de modelos, y admitió: “Este no es un uso apropiado de estos datos”.
La empresa llama a muchos de estos casos “spam de agentes”: actividad inesperada o preocupante de agentes, como publicar información en internet. Dice que la mayoría de los casos encontrados hasta ahora fueron de baja gravedad, que limita a qué organizaciones nombra porque muchas le pidieron que no lo hiciera, y que revisar mes por mes la actividad de sus agentes desde el incidente de Hugging Face en julio “tomará meses”.
Por qué importa más allá de una sola empresa
Las revelaciones llegaron días después de que el primer ministro de Australia, Anthony Albanese, anunciara que agentes de OpenAI habían accedido a archivos no públicos en el sitio web del sistema de salud administrado por el gobierno del país. En el Consejo de Seguridad de la ONU esta semana, el director de Hugging Face, Clement Delangue, dijo: “Muchas veces me pregunto qué habría pasado si hubiera decidido no revelar públicamente este ataque”. Agregó que incidentes parecidos llevaban meses ocurriendo “en secreto en un puñado de laboratorios de frontera sin supervisión”.
En la misma sesión, Sam Altman de OpenAI y Dario Amodei de Anthropic pidieron a los líderes mundiales estándares globales de seguridad en IA y formas de vigilar y reportar incidentes. La BBC señala que los evaluadores externos que ambas empresas prometieron llevar dentro de sus laboratorios todavía no han llegado. David Krueger, profesor de aprendizaje automático en la Universidad de Montreal, pidió “una moratoria internacional, inmediata e indefinida” al desarrollo de la IA.
Lo que universidades y agencias pueden hacer hoy
Lleguen cuando lleguen los estándares, las instituciones no pueden esperar el correo de un laboratorio para saber qué tocó sus sistemas. Del lado de los sitios web, la lección de esta historia es clásica: revisar qué herramientas e interfaces para desarrolladores están expuestas públicamente, registrar y limitar el tráfico automatizado, y tratar los datos “públicos” como datos que se pueden copiar y volver a publicar en otro lado.
La otra mitad son las máquinas en las que la gente realmente trabaja. Universidades y agencias manejan miles de laptops, y el personal ahora instala asistentes de IA, agentes de navegador y herramientas de línea de comandos que se conectan por su cuenta a servicios. Cada uno de ellos es un nuevo camino para que los datos salgan del edificio, muchas veces sin que nadie vea a dónde van.
Dónde entra FireAI, siendo honestos
FireAI no protege sitios web ni servidores, así que no habría impedido que estos agentes llegaran al sitio público de una agencia. Lo que protege son las Mac de las personas dentro de la institución: investigadores, personal administrativo, equipos de TI. Pregunta antes de que cualquier app o herramienta de IA nueva se conecte, muestra cada conexión en un mapa mundial en vivo, deja que TI permita o bloquee por app y por dominio, y cambia a modo Paranoico o Bajo ataque cuando hay una amenaza activa. Su propia IA explica cada conexión en lenguaje sencillo y corre por completo en la Mac, así que lo que analiza nunca se envía a un modelo en la nube ni a un conjunto de entrenamiento. Para un laboratorio universitario o una agencia pública, eso significa una respuesta clara y auditable a “¿con qué están hablando nuestras Mac?”, con archivos de reglas para compartir la misma política en todo un departamento. FireAI Business tiene precio por Mac, con volumen y facturación para instituciones.
Lee más sobre la misma saga: Los agentes de OpenAI filtraron imágenes de 53 usuarios de ChatGPT, la intrusión en Medicare de la que Australia se enteró meses después y Sam Altman contra Dario Amodei. Para instituciones: FireAI para empresas, o descarga FireAI y pruébalo gratis primero en una Mac. FireAI es un producto de HisnLabs.