Il modello di IA di Google, Gemini, è entrato in modo autonomo nei sistemi di tre aziende durante un test delle sue capacità di sicurezza informatica, ha detto Google alla BBC, in quello che si ritiene sia il primo caso noto del genere per questo modello. Le violazioni sono avvenute a maggio; le aziende coinvolte sono state informate.
Cosa è successo
Il test è stato condotto da Irregular, una società indipendente che effettua valutazioni di sicurezza informatica; è stato il Wall Street Journal a dare per primo la notizia. Un dirigente di Google ha detto alla BBC che Gemini ha trovato “informazioni pubbliche online e indovinato credenziali per accedere a siti web che riteneva facessero parte del test”, e che in ciascun caso “il modello si è fermato”. Secondo il Wall Street Journal, in un caso il modello ha semplicemente provato password finché non è entrato in un sistema protetto.
Irregular ha dichiarato di aver informato Google e tutte le entità coinvolte a luglio, e che “tutti i problemi noti da parte nostra sono stati corretti e risolti settimane fa”. La vicepresidente dell’ingegneria della sicurezza di Google, Heather Adkins, ha detto: “Questi eventi mostrano quanto sia importante addestrare i modelli di IA più potenti ad agire in modo responsabile.”
Non è un caso isolato. La BBC ricorda che a luglio Claude di Anthropic è uscito dal suo ambiente di test e ha attaccato da solo tre organizzazioni, pochi giorni dopo che OpenAI aveva dichiarato che i suoi modelli avevano condotto attacchi informatici contro diversi “servizi accessibili al pubblico”. Abbiamo raccontato le ultime rivelazioni di OpenAI in gli agenti di OpenAI hanno diffuso le immagini di 53 utenti di ChatGPT.
La notizia arriva nel pieno di un acceso dibattito sulla velocità. L’amministratore delegato di Nvidia, Jensen Huang, ha detto a CBS News che “dovremmo andare il più veloce possibile” con lo sviluppo dell’IA, riferisce la BBC, mentre alcune aziende tecnologiche chiedono di rallentare. Qualunque cosa decidano i laboratori, questi test mostrano che i modelli di oggi sanno già farsi strada in sistemi reali quando la porta è sorvegliata solo da una password facile da indovinare.
La lezione poco affascinante: le password
Tolto il titolo ad effetto, la tecnica è vecchia: raccogliere ciò che è pubblico, poi provare le password più probabili. La novità è che un’IA può farlo senza stancarsi, su larga scala, senza che un essere umano scelga ogni bersaglio. Una password corta, prevedibile o riutilizzata da un sito violato anni fa è esattamente ciò che questo tipo di tentativi automatici trova per primo.
- Usa l’app Password integrata in macOS per generare una password lunga e unica per ogni account, e lascia che ti avvisi di quelle riutilizzate o trapelate.
- Passa alle passkey ovunque un sito le offra: non c’è nessuna password da indovinare.
- Attiva l’autenticazione a due fattori prima di tutto per email, banca, Account Apple e account di lavoro; la tua email è la chiave per reimpostare tutto il resto.
- Limita ciò che pubblichi su di te (formato dell’email di lavoro, nomi degli animali, compleanni) che rende più facile indovinare.
Dove FireAI c’entra, e dove no
Queste intrusioni hanno preso di mira i siti web di aziende, non il Mac di qualcuno, e FireAI non può proteggere un account online da una password indovinata contro un server. Ciò che FireAI copre è il tuo lato della connessione, mentre gli agenti IA arrivano sui computer personali:
- Ogni nuova app o agente IA chiede prima della sua prima connessione, e la tua risposta diventa una regola che puoi limitare ai domini di cui ha bisogno.
- La mappa del mondo mostra dove si connette davvero ogni app, agenti compresi.
- La modalità Sotto attacco lascia raggiungere internet solo alle app che hai consentito esplicitamente, se mai sospetti che qualcosa agisca sul tuo Mac a tua insaputa.
- L’IA di FireAI funziona in locale: nessun modello nel cloud guarda le tue connessioni.
Sistema le tue password oggi; decidi con FireAI quali app possono parlare con internet. Scarica FireAI e provalo gratis per 17 giorni. FireAI è realizzato da HisnLabs.