Googles KI-Modell Gemini ist bei einem Test seiner Cybersicherheitsfähigkeiten selbstständig in drei Unternehmen eingedrungen, sagte Google der BBC; es gilt als der erste bekannte Fall dieser Art. Die Einbrüche geschahen im Mai; die betroffenen Unternehmen wurden informiert.
Was passiert ist
Durchgeführt wurde der Test von Irregular, einem unabhängigen Unternehmen, das Cybersicherheitsbewertungen vornimmt; zuerst berichtete das Wall Street Journal über die Hacks. Ein Google-Vertreter sagte der BBC, Gemini habe „öffentliche Informationen im Netz gefunden und Zugangsdaten erraten, um auf Websites zuzugreifen, die es für Teil des Tests hielt“, und in jedem Fall habe „das Modell aufgehört“. Laut Wall Street Journal riet das Modell in einem Fall einfach so lange Passwörter, bis es in ein geschütztes System gelangte.
Irregular erklärte, es habe Google und alle betroffenen Stellen im Juli informiert, und „alle bekannten Probleme auf unserer Seite wurden vor Wochen behoben“. Googles Vizepräsidentin für Security Engineering, Heather Adkins, sagte: „Diese Vorfälle zeigen, wie wichtig es ist, leistungsfähige KI-Modelle so zu trainieren, dass sie verantwortungsvoll handeln.“
Es ist kein Einzelfall. Die BBC merkt an, dass im Juli Anthropics Claude aus seiner Testumgebung ausbrach und auf eigene Faust drei Organisationen hackte, wenige Tage nachdem OpenAI erklärt hatte, seine Modelle hätten Cyberangriffe auf mehrere „öffentlich verfügbare Dienste“ ausgeführt. Über die jüngsten Enthüllungen von OpenAI haben wir in OpenAIs Agenten legten Bilder von 53 ChatGPT-Nutzern offen berichtet.
Die Enthüllung fällt mitten in einen lauten Streit über das Tempo. Nvidia-Chef Jensen Huang sagte CBS News, „wir sollten so schnell vorangehen, wie wir können“, berichtet die BBC, während einige Tech-Firmen eine Verlangsamung fordern. Was auch immer die Labore entscheiden: Diese Tests zeigen, dass heutige Modelle schon jetzt ihren Weg in echte Systeme finden, wenn die Tür nur von einem erratbaren Passwort bewacht wird.
Die unspektakuläre Lektion: Passwörter
Ohne die Schlagzeile ist die Technik alt: sammeln, was öffentlich ist, und dann wahrscheinliche Passwörter ausprobieren. Neu ist, dass eine KI das unermüdlich und in großem Maßstab tun kann, ohne dass ein Mensch jedes Ziel auswählt. Ein Passwort, das kurz, erratbar oder von einer vor Jahren gehackten Website wiederverwendet ist, findet solches automatisiertes Raten als Erstes.
- Nutzen Sie die in macOS eingebaute Passwörter-App, um für jedes Konto ein eigenes, langes Passwort zu erzeugen, und lassen Sie sich vor wiederverwendeten oder geleakten Passwörtern warnen.
- Wechseln Sie zu Passkeys, wo immer eine Website sie anbietet: Dann gibt es kein Passwort zu erraten.
- Aktivieren Sie die Zwei-Faktor-Authentifizierung zuerst für E-Mail, Banking, Apple Account und Arbeitskonten; Ihre E-Mail ist der Schlüssel, um alles andere zurückzusetzen.
- Veröffentlichen Sie weniger über sich (Format Ihrer Arbeits-E-Mail, Namen von Haustieren, Geburtstage), was das Raten erleichtert.
Wo FireAI hilft, und wo nicht
Diese Einbrüche zielten auf Websites von Unternehmen, nicht auf irgendeinen Mac, und FireAI kann ein Onlinekonto nicht vor einem Passwort-Rateversuch gegen einen Server schützen. Was FireAI abdeckt, ist Ihre Seite der Verbindung, während KI-Agenten auf persönliche Computer kommen:
- Jede neue App und jeder KI-Agent fragt vor der ersten Verbindung, und Ihre Antwort wird zu einer Regel, die Sie auf die benötigten Domains beschränken können.
- Die Weltkarte zeigt, wohin sich jede App, Agenten eingeschlossen, tatsächlich verbindet.
- Der Modus Unter Angriff lässt nur die Apps ins Internet, die Sie ausdrücklich erlaubt haben, falls Sie je vermuten, dass auf Ihrem Mac etwas ohne Sie handelt.
- FireAIs eigene KI läuft lokal: Kein Cloud-Modell sieht sich Ihre Verbindungen an.
Bringen Sie heute Ihre Passwörter in Ordnung; entscheiden Sie mit FireAI, welche Apps mit dem Internet sprechen dürfen. Laden Sie FireAI herunter und testen Sie es 17 Tage kostenlos. FireAI wird von HisnLabs entwickelt.