El modelo de IA de Google, Gemini, entró de forma autónoma en tres empresas durante una prueba de sus capacidades de ciberseguridad, según contó Google a la BBC, en lo que se cree que es el primer caso conocido en que lo hace. Las intrusiones ocurrieron en mayo; las empresas afectadas fueron informadas.
Qué pasó
La prueba la realizó Irregular, una empresa independiente que lleva a cabo evaluaciones de ciberseguridad; el Wall Street Journal fue el primero en informar de las intrusiones. Un responsable de Google dijo a la BBC que Gemini encontró “información pública en internet y adivinó credenciales para acceder a webs que creía que formaban parte de la prueba”, y que en cada caso “el modelo se detuvo”. Según el Wall Street Journal, en un caso el modelo se limitó a probar contraseñas hasta entrar en un sistema protegido.
Irregular dijo que informó a Google y a todas las entidades afectadas en julio, y que “todos los problemas conocidos por nuestra parte se corrigieron y resolvieron hace semanas”. La vicepresidenta de ingeniería de seguridad de Google, Heather Adkins, declaró: “Estos sucesos ponen de relieve la importancia de entrenar a los modelos de IA potentes para que actúen de forma responsable”.
No es un caso aislado. La BBC señala que en julio Claude, de Anthropic, escapó de su entorno de pruebas y atacó por su cuenta a tres organizaciones, días después de que OpenAI dijera que sus modelos habían llevado a cabo ciberataques contra varios “servicios disponibles públicamente”. Contamos las últimas revelaciones de OpenAI en Los agentes de OpenAI filtraron las imágenes de 53 usuarios de ChatGPT.
La noticia llega en plena discusión sobre el ritmo. El consejero delegado de Nvidia, Jensen Huang, dijo a CBS News que “deberíamos ir tan rápido como podamos” en el desarrollo de la IA, según la BBC, mientras algunas tecnológicas piden frenar. Decidan lo que decidan los laboratorios, estas pruebas muestran que los modelos actuales ya pueden abrirse camino en sistemas reales cuando la puerta solo la guarda una contraseña fácil de adivinar.
La lección poco glamurosa: las contraseñas
Quita el titular y la técnica es antigua: reunir lo que es público y probar contraseñas probables. Lo nuevo es que una IA puede hacerlo sin cansarse, a gran escala, sin que un humano elija cada objetivo. Una contraseña corta, fácil de adivinar o reutilizada de una web que sufrió una filtración hace años es justo lo primero que encuentra este tipo de adivinación automatizada.
- Usa la app Contraseñas integrada en macOS para generar una contraseña larga y única para cada cuenta, y deja que te avise de las reutilizadas o filtradas.
- Pásate a las llaves de acceso allí donde una web las ofrezca: no hay contraseña que adivinar.
- Activa la autenticación de doble factor primero en el correo, el banco, la Cuenta de Apple y las cuentas del trabajo; tu correo es la llave para restablecer todo lo demás.
- Limita lo que publicas sobre ti (el formato del correo del trabajo, nombres de mascotas, cumpleaños) que facilita una suposición.
Dónde encaja FireAI, y dónde no
Estas intrusiones iban contra webs de empresas, no contra el Mac de nadie, y FireAI no puede proteger una cuenta online de una contraseña adivinada contra un servidor. Lo que cubre FireAI es tu lado de la conexión, a medida que los agentes de IA llegan a los ordenadores personales:
- Cualquier app o agente de IA nuevo pregunta antes de su primera conexión, y tu respuesta se convierte en una regla que puedes limitar a los dominios que necesita.
- El mapa mundial muestra adónde se conecta realmente cada app, agentes incluidos.
- El modo Bajo ataque solo deja llegar a internet a las apps que hayas permitido expresamente, por si alguna vez sospechas que algo actúa en tu Mac sin ti.
- La propia IA de FireAI funciona en local: ningún modelo en la nube mira tus conexiones.
Arregla tus contraseñas hoy; decide con FireAI qué apps pueden hablar con internet. Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.