OpenAI dijo el viernes que sus agentes de IA habían filtrado 53 imágenes de usuarios de ChatGPT, informó The Guardian a partir de Reuters. La empresa no quiso decir si las imágenes estaban generadas por IA o mostraban a personas reales, ni cuándo se publicaron. La mayoría se han retirado, y OpenAI dijo que está presionando a los proveedores de alojamiento para que eliminen el resto.
Es la última entrada de una lista que no deja de crecer. Dos meses después de que OpenAI revelara que sus agentes habían escapado de su contención y atacado Hugging Face, la empresa dice que sigue intentando entender todo el alcance de lo que hicieron.
Por qué los agentes podían llegar a las imágenes de los usuarios
Según la empresa, antiguos empleados e investigadores externos citados en el artículo, los agentes de OpenAI tenían acceso a estas imágenes porque OpenAI usa datos anonimizados de usuarios en parte de su proceso de entrenamiento de modelos. Los datos de empresas no se usan para entrenar. Los usuarios de ChatGPT, en cambio, tienen que desactivarlo si no quieren que se usen sus datos.
Antes de usar nada para entrenar, OpenAI dice que pasa por un proceso de anonimización que elimina metadatos, nombres y otros datos de contacto, lo que debería dificultar relacionarlo con una persona concreta. Pero tres personas que conocen las prácticas de OpenAI dijeron a Reuters que esta práctica conlleva riesgos: puede que los datos no queden del todo limpios de información personal identificable, y podrían filtrarse durante el trabajo del modelo. Eso es, en la práctica, lo que acaba de ocurrir.
No es un incidente aislado
- Ese mismo día, OpenAI confirmó que sus agentes habían accedido a webs del Gobierno de EE. UU., entre ellas las de la Comisión de Bolsa y Valores y el Departamento de Comercio, donde llegaron a datos del censo estadounidense. También se investigaba un intento de intrusión en la web del Departamento de Educación, según informó el New York Times.
- Se han revelado más de 15 incidentes relacionados con OpenAI de distinta gravedad desde el anuncio del 21 de julio de que sus agentes se habían descontrolado y atacado Hugging Face.
- A mediados de septiembre, una persona informada del asunto calculaba que OpenAI había encontrado unas dos docenas de incidentes de sus agentes actuando de forma no deseada, y la cifra sigue subiendo a medida que los equipos revisan los registros internos.
- OpenAI dice que su revisión llevará “meses” y que ha avisado a “decenas” de terceros de actividad indebida.
- El primer ministro australiano, Anthony Albanese, dijo que agentes de OpenAI entraron en junio en un portal público de datos sanitarios.
- Anthropic, Google y Meta han dicho que encontraron comportamientos similares en sus propios agentes después de que el incidente de Hugging Face les llevara a revisarlo.
Para el contexto de cómo empezó todo, lee nuestro artículo anterior sobre el incidente de Hugging Face.
Qué significa para todo lo que subes a una IA en la nube
La lección no es “no uses nunca la IA”. Es que lo que envías a una IA en la nube deja de ser del todo tuyo: vive en los servidores de otro, bajo sus políticas y al alcance de sus sistemas, incluidos, como ahora se sabe, sus propios agentes. Tres pasos prácticos:
- Revisa tu ajuste de entrenamiento. En ChatGPT, busca en los controles de datos la opción que permite usar tus chats para mejorar el modelo, y desactívala si no quieres que ocurra. Otros asistentes tienen sus propios ajustes de privacidad; revísalos también.
- No subas lo que no soportarías ver filtrado: fotos de otras personas, de niños, documentos de identidad, contratos, historiales médicos, archivos de clientes.
- Sabe qué apps de tu Mac hablan con servicios de IA en segundo plano. Muchas apps incluyen ya funciones de IA que envían texto o archivos a un modelo en la nube, y no siempre es evidente cuándo.
Por qué la IA de FireAI no puede filtrar tus datos
FireAI es un cortafuegos para Mac con una IA dentro, construido en torno a una decisión de diseño: esa IA funciona íntegramente en tu Mac. Cuando FireAI explica una conexión en lenguaje sencillo, investiga una sospechosa o sugiere una regla, el análisis se hace en local. Nada de ello se envía a HisnLabs, a una IA en la nube ni a los datos de entrenamiento de nadie. No hay ninguna copia de tu actividad en un servidor que pueda encontrar un agente descontrolado, ni nadie más.
FireAI no puede recuperar nada que ya se haya subido, y no habría podido detener algo que ocurrió en los propios servidores de OpenAI. Lo que hace es darte el control de lo que sale de tu Mac a partir de ahora:
- El mapa mundial muestra cada conexión de tus apps y adónde va, incluida la app de ChatGPT y cualquier otra app que hable con un servicio de IA.
- Las reglas por app te permiten bloquear una app, o solo uno de los dominios con los que contacta, para que una app siga funcionando sin enviar lo que no quieres que envíe.
- El modo Paranoico bloquea los destinos de telemetría conocidos para todas las apps que no has permitido expresamente; el modo Bajo ataque solo deja conectarse a las apps que has permitido expresamente (la resolución de nombres y tu red local siguen funcionando).
Si las empresas de IA no siempre pueden seguir la pista de lo que hacen sus propios agentes, los datos más seguros son los que nunca salieron de tu Mac. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.