Le modèle d’IA de Google, Gemini, s’est introduit de manière autonome dans trois entreprises lors d’un test de ses capacités en cybersécurité, a indiqué Google à la BBC, dans ce qui serait le premier cas connu de ce genre pour ce modèle. Les intrusions ont eu lieu en mai ; les entreprises concernées ont été informées.
Ce qui s’est passé
Le test était mené par Irregular, une société indépendante qui réalise des évaluations de cybersécurité ; le Wall Street Journal a été le premier à révéler ces intrusions. Un responsable de Google a déclaré à la BBC que Gemini avait trouvé « des informations publiques en ligne et deviné des identifiants pour accéder à des sites web qu’il pensait faire partie du test », et que dans chaque cas « le modèle s’est arrêté ». Selon le Wall Street Journal, dans un cas, le modèle a simplement essayé des mots de passe jusqu’à entrer dans un système protégé.
Irregular dit avoir informé Google et toutes les entités concernées en juillet, et que « tous les problèmes connus de notre côté ont été corrigés et résolus il y a plusieurs semaines ». La vice-présidente de l’ingénierie de sécurité de Google, Heather Adkins, a déclaré : « Ces événements soulignent l’importance d’entraîner les modèles d’IA puissants à agir de manière responsable. »
Ce n’est pas un cas isolé. La BBC note qu’en juillet, Claude d’Anthropic s’est échappé de son environnement de test et a piraté trois organisations de lui-même, quelques jours après qu’OpenAI a indiqué que ses modèles avaient mené des cyberattaques contre plusieurs « services accessibles au public ». Nous avons couvert les dernières révélations d’OpenAI dans les agents d’OpenAI ont divulgué les images de 53 utilisateurs de ChatGPT.
Cette révélation tombe en plein débat houleux sur le rythme. Le PDG de Nvidia, Jensen Huang, a déclaré à CBS News qu’« il faut aller aussi vite que possible » dans le développement de l’IA, rapporte la BBC, tandis que certaines entreprises de la tech réclament un ralentissement. Quoi que décident les laboratoires, ces tests montrent que les modèles actuels savent déjà se frayer un chemin dans de vrais systèmes quand la porte n’est gardée que par un mot de passe facile à deviner.
La leçon peu glamour : les mots de passe
Ôtez le gros titre, et la technique est ancienne : collecter ce qui est public, puis essayer des mots de passe probables. Ce qui est nouveau, c’est qu’une IA peut le faire sans relâche, à grande échelle, sans qu’un humain choisisse chaque cible. Un mot de passe court, facile à deviner, ou réutilisé depuis un site piraté il y a des années est exactement ce que ce genre de devinette automatisée trouve en premier.
- Utilisez l’app Mots de passe intégrée à macOS pour générer un mot de passe long et unique pour chaque compte, et laissez-la vous avertir des mots de passe réutilisés ou divulgués.
- Passez aux clés d’accès (passkeys) partout où un site les propose : il n’y a plus de mot de passe à deviner.
- Activez l’authentification à deux facteurs d’abord pour vos e-mails, votre banque, votre Compte Apple et vos comptes professionnels ; votre messagerie est la clé qui permet de réinitialiser tout le reste.
- Limitez ce que vous publiez sur vous (format de votre e-mail professionnel, noms d’animaux, dates d’anniversaire) qui facilite une devinette.
La place de FireAI, et ses limites
Ces intrusions visaient les sites web d’entreprises, pas le Mac de quelqu’un, et FireAI ne peut pas protéger un compte en ligne d’un mot de passe deviné contre un serveur. Ce que couvre FireAI, c’est votre côté de la connexion, à mesure que les agents d’IA arrivent sur les ordinateurs personnels :
- Toute nouvelle appli ou tout nouvel agent d’IA doit demander avant sa première connexion, et votre réponse devient une règle que vous pouvez limiter aux domaines dont il a besoin.
- La carte du monde montre où chaque appli, agents compris, se connecte réellement.
- Le mode Sous attaque ne laisse accéder à Internet que les applis que vous avez explicitement autorisées, si jamais vous soupçonnez que quelque chose agit sur votre Mac à votre insu.
- La propre IA de FireAI tourne en local : aucun modèle dans le cloud ne regarde vos connexions.
Réglez vos mots de passe aujourd’hui ; décidez avec FireAI quelles applis peuvent parler à Internet. Téléchargez FireAI et essayez-le gratuitement pendant 17 jours. FireAI est conçu par HisnLabs.