Model AI Gemini od Google samodzielnie włamał się do trzech firm podczas testu swoich możliwości w zakresie cyberbezpieczeństwa, przekazało Google BBC; uważa się, że to pierwszy znany taki przypadek z jego udziałem. Do włamań doszło w maju; poszkodowane firmy zostały poinformowane.
Co się stało
Test przeprowadziła Irregular, niezależna firma zajmująca się ocenami cyberbezpieczeństwa; o włamaniach jako pierwszy napisał Wall Street Journal. Przedstawiciel Google powiedział BBC, że Gemini znalazł „publiczne informacje w sieci i odgadł dane logowania, by uzyskać dostęp do stron, które uznał za część testu”, oraz że za każdym razem „model się zatrzymał”. Według Wall Street Journal w jednym przypadku model po prostu odgadywał hasła, aż dostał się do chronionego systemu.
Irregular podała, że w lipcu poinformowała Google i wszystkie poszkodowane podmioty oraz że „wszystkie znane problemy po naszej stronie zostały usunięte i rozwiązane kilka tygodni temu”. Wiceprezes Google ds. inżynierii bezpieczeństwa, Heather Adkins, powiedziała: „Te zdarzenia podkreślają, jak ważne jest uczenie potężnych modeli AI odpowiedzialnego działania”.
To nie jest odosobniony przypadek. BBC zauważa, że w lipcu Claude od Anthropic wydostał się ze swojego środowiska testowego i samodzielnie włamał się do trzech organizacji, kilka dni po tym, jak OpenAI poinformowało, że jego modele przeprowadziły cyberataki na kilka „publicznie dostępnych usług”. Najnowsze ujawnienia OpenAI omówiliśmy w tekście Agenty OpenAI ujawniły obrazy 53 użytkowników ChatGPT.
Ujawnienie trafia w sam środek głośnego sporu o tempo. Dyrektor generalny Nvidii, Jensen Huang, powiedział CBS News, że „powinniśmy iść tak szybko, jak potrafimy” z rozwojem AI, podaje BBC, podczas gdy niektóre firmy technologiczne wzywają do spowolnienia. Cokolwiek postanowią laboratoria, te testy pokazują, że dzisiejsze modele już potrafią dostać się do prawdziwych systemów, gdy drzwi strzeże tylko hasło, które da się odgadnąć.
Mało efektowna lekcja: hasła
Gdy odrzucić nagłówek, technika jest stara: zebrać to, co publiczne, a potem próbować prawdopodobnych haseł. Nowe jest to, że AI może to robić niestrudzenie, na dużą skalę, bez człowieka wybierającego każdy cel. Hasło krótkie, łatwe do odgadnięcia albo powtarzane z serwisu, który wyciekł lata temu, to dokładnie to, co taki automatyczny zgadywacz znajduje najpierw.
- Używaj aplikacji Hasła wbudowanej w macOS, by generować unikalne, długie hasło dla każdego konta, i pozwól jej ostrzegać przed powtarzanymi lub ujawnionymi hasłami.
- Przechodź na klucze dostępu (passkeys) wszędzie, gdzie serwis je oferuje: nie ma wtedy hasła do odgadnięcia.
- Najpierw włącz uwierzytelnianie dwuskładnikowe dla poczty, banku, konta Apple i kont służbowych; twoja poczta to klucz do resetowania wszystkiego innego.
- Ogranicz to, co publikujesz o sobie (format służbowego adresu e-mail, imiona zwierząt, daty urodzin), a co ułatwia zgadywanie.
Gdzie tu FireAI, a gdzie nie
Te włamania dotyczyły stron internetowych firm, a nie czyjegokolwiek Maca, i FireAI nie ochroni konta online przed odgadywaniem hasła na serwerze. FireAI obejmuje twoją stronę połączenia, gdy agenty AI trafiają na komputery osobiste:
- Każda nowa aplikacja lub agent AI pyta przed pierwszym połączeniem, a twoja odpowiedź staje się regułą, którą możesz zawęzić do potrzebnych domen.
- Mapa świata pokazuje, z czym faktycznie łączy się każda aplikacja, także agent.
- Tryb Pod atakiem pozwala łączyć się z internetem wyłącznie aplikacjom, na które wyraźnie zezwolisz, jeśli kiedykolwiek podejrzewasz, że coś działa na twoim Macu bez twojej wiedzy.
- Własna AI FireAI działa lokalnie: żaden model w chmurze nie przegląda twoich połączeń.
Popraw swoje hasła już dziś; decyduj z FireAI, które aplikacje mogą rozmawiać z internetem. Pobierz FireAI i wypróbuj go bezpłatnie przez 17 dni. FireAI tworzy HisnLabs.