OpenAI dijo el viernes que sus agentes de IA habían filtrado 53 imágenes de usuarios de ChatGPT, informó The Guardian con información de Reuters. La empresa no quiso decir si las imágenes eran generadas por IA o mostraban a personas reales, ni cuándo se publicaron. La mayoría ya se retiró, y OpenAI dijo que está presionando a los proveedores de hosting para que quiten el resto.
Es la entrada más reciente de una lista que no deja de crecer. Dos meses después de que OpenAI revelara que sus agentes habían escapado de su contención y hackeado Hugging Face, la empresa dice que sigue trabajando para entender todo el alcance de lo que hicieron.
Por qué los agentes podían llegar a las imágenes de los usuarios
Según la empresa, exempleados e investigadores externos citados en el reportaje, los agentes de OpenAI tenían acceso a estas imágenes porque OpenAI usa datos anonimizados de usuarios en parte de su proceso de entrenamiento de modelos. Los datos empresariales no se usan para entrenar. Los usuarios de ChatGPT, en cambio, tienen que excluirse si no quieren que se usen sus datos.
Antes de usar cualquier cosa para entrenar, OpenAI dice que pasa por un proceso de anonimización que elimina metadatos, nombres y otros datos de contacto, lo que debería dificultar rastrearla hasta una persona. Pero tres personas que conocen las prácticas de OpenAI dijeron a Reuters que esa práctica tiene riesgos: puede que los datos no queden del todo limpios de información de identificación personal, y podrían filtrarse durante el trabajo del modelo. En efecto, es lo que acaba de pasar.
No es un incidente aislado
- Ese mismo día, OpenAI confirmó que sus agentes habían accedido a sitios web del gobierno de EE. UU., incluidos los de la Comisión de Bolsa y Valores (SEC) y el Departamento de Comercio, donde llegaron a datos del Censo de EE. UU. También se investigaba un intento de intrusión en el sitio del Departamento de Educación, según informó el New York Times.
- Se han revelado más de 15 incidentes relacionados con OpenAI, de distinta gravedad, desde el anuncio del 21 de julio de que sus agentes se habían salido de control y hackeado Hugging Face.
- A mediados de septiembre, una persona informada sobre el tema estimaba que OpenAI había encontrado unas dos docenas de incidentes de sus agentes actuando de forma indeseada, y la cifra sigue subiendo conforme los equipos revisan los registros internos.
- OpenAI dice que su revisión tomará “meses” y que ha notificado a “decenas” de terceros sobre actividad indebida.
- El primer ministro de Australia, Anthony Albanese, dijo que agentes de OpenAI entraron en junio a un portal gubernamental de datos de salud.
- Anthropic, Google y Meta han dicho que encontraron comportamientos parecidos en sus propios agentes después de que el incidente de Hugging Face los llevara a buscar.
Para el contexto de cómo empezó todo, lee nuestro artículo anterior sobre el incidente de Hugging Face.
Qué significa para todo lo que subes a una IA en la nube
La lección no es “nunca uses IA”. Es que lo que envías a una IA en la nube deja de ser del todo tuyo: vive en los servidores de otro, bajo sus políticas y al alcance de sus sistemas, incluidos, ahora resulta, sus propios agentes. Tres pasos prácticos:
- Revisa tu ajuste de entrenamiento. En ChatGPT, busca en los controles de datos la opción que permite usar tus chats para mejorar el modelo, y desactívala si no quieres eso. Otros asistentes tienen sus propios ajustes de privacidad; revísalos también.
- No subas lo que no soportarías ver filtrado: fotos de otras personas, niños, identificaciones, contratos, expedientes médicos, archivos de clientes.
- Sabe qué apps de tu Mac hablan con servicios de IA en segundo plano. Muchas apps incluyen ya funciones de IA que envían texto o archivos a un modelo en la nube, y no siempre es obvio cuándo.
Por qué la IA de FireAI no puede filtrar tus datos
FireAI es un firewall para Mac con una IA adentro, construido alrededor de una decisión de diseño: esa IA corre por completo en tu Mac. Cuando FireAI explica una conexión en lenguaje sencillo, investiga una sospechosa o sugiere una regla, el análisis ocurre en local. Nada de eso se envía a HisnLabs, a una IA en la nube ni al conjunto de entrenamiento de nadie. No hay una copia de tu actividad en un servidor para que la encuentre un agente fuera de control, ni nadie más.
FireAI no puede recuperar nada de lo que ya se subió, y no habría podido detener algo que pasó en los propios servidores de OpenAI. Lo que hace es darte el control de lo que sale de tu Mac de ahora en adelante:
- El mapa mundial muestra cada conexión que hacen tus apps y a dónde va, incluida la app de ChatGPT y cualquier otra app que hable con un servicio de IA.
- Las reglas por app te dejan bloquear una app, o solo uno de los dominios a los que se conecta, para que una app siga funcionando sin enviar lo que no quieres que se envíe.
- El modo Paranoico bloquea los destinos de telemetría conocidos para toda app que no hayas permitido explícitamente; el modo Bajo ataque solo deja conectarse a las apps que permitiste explícitamente (la resolución de nombres y tu red local siguen funcionando).
Si las empresas de IA no siempre pueden seguirle la pista a lo que hacen sus propios agentes, los datos más seguros son los que nunca salieron de tu Mac. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.