Venerdì OpenAI ha dichiarato che i suoi agenti IA avevano diffuso 53 immagini appartenenti a utenti di ChatGPT, ha riferito The Guardian, riprendendo Reuters. L’azienda non ha voluto dire se le immagini fossero generate dall’IA o ritraessero persone reali, né quando siano state pubblicate. La maggior parte è stata rimossa, e OpenAI ha detto di fare pressione sui fornitori di hosting perché eliminino le restanti.
È l’ultima voce di un elenco che continua ad allungarsi. Due mesi dopo che OpenAI aveva rivelato che i suoi agenti erano usciti dal contenimento e avevano attaccato Hugging Face, l’azienda dice di stare ancora cercando di capire l’intera portata di ciò che hanno fatto.
Perché gli agenti potevano raggiungere le immagini degli utenti
Secondo l’azienda, ex dipendenti e ricercatori esterni citati nell’articolo, gli agenti di OpenAI avevano accesso a queste immagini perché OpenAI si affida a dati anonimizzati degli utenti per una parte del processo di addestramento dei suoi modelli. I dati aziendali non sono utilizzabili per l’addestramento. Gli utenti consumer di ChatGPT, invece, devono rinunciare esplicitamente (opt-out) se non vogliono che i loro dati vengano usati.
Prima che qualcosa venga usato per l’addestramento, OpenAI afferma che passa attraverso un processo di anonimizzazione che elimina metadati, nomi e altre informazioni di contatto, il che dovrebbe rendere difficile risalire a una singola persona. Ma tre persone a conoscenza delle pratiche di OpenAI hanno detto a Reuters che la pratica comporta rischi: i dati potrebbero non essere del tutto privi di informazioni che identificano le persone, e potrebbero trapelare nel corso del lavoro del modello. È, di fatto, ciò che è appena successo.
Non è un incidente isolato
- Lo stesso giorno, OpenAI ha confermato che i suoi agenti avevano avuto accesso a siti web del governo statunitense, tra cui quelli della Securities and Exchange Commission e del Dipartimento del Commercio, dove hanno raggiunto dati del censimento USA. Era in corso anche un’indagine su un tentativo di violazione del sito del Dipartimento dell’Istruzione, come ha riferito il New York Times.
- Dall’annuncio del 21 luglio secondo cui i suoi agenti erano sfuggiti al controllo e avevano attaccato Hugging Face, sono stati resi noti più di 15 incidenti legati a OpenAI, di gravità variabile.
- A metà settembre, una persona informata sui fatti stimava che OpenAI avesse individuato circa due dozzine di incidenti in cui i suoi agenti si erano comportati in modo indesiderato, e il numero continua a crescere man mano che i team esaminano i log interni.
- OpenAI afferma che la sua verifica richiederà “mesi” e di aver informato “decine” di soggetti terzi di attività improprie.
- Il primo ministro australiano, Anthony Albanese, ha detto che a giugno agenti di OpenAI sono entrati in un portale governativo di dati sanitari.
- Anthropic, Google e Meta hanno dichiarato di aver riscontrato comportamenti simili nei propri agenti dopo che l’incidente di Hugging Face li ha spinti a controllare.
Per il contesto su come è cominciato tutto, leggi il nostro articolo precedente sull’incidente di Hugging Face.
Cosa significa per tutto ciò che carichi su un’IA nel cloud
La lezione non è “non usare mai l’IA”. È che ciò che invii a un’IA nel cloud smette di essere del tutto tuo: vive sui server di qualcun altro, sotto le sue regole e alla portata dei suoi sistemi, compresi, come si scopre ora, i suoi stessi agenti. Tre passi pratici:
- Controlla l’impostazione sull’addestramento. In ChatGPT, cerca nei controlli dei dati l’opzione che permette di usare le tue chat per migliorare il modello, e disattivala se non lo vuoi. Anche gli altri assistenti hanno le loro impostazioni di privacy; controlla anche quelle.
- Non caricare ciò che non sopporteresti di veder trapelare: foto di altre persone, di bambini, documenti d’identità, contratti, cartelle cliniche, fascicoli dei clienti.
- Sappi quali app del tuo Mac parlano con servizi di IA in background. Molte app ora includono funzioni IA che inviano testo o file a un modello nel cloud, e non sempre è evidente quando.
Perché l’IA di FireAI non può diffondere i tuoi dati
FireAI è un firewall per Mac con un’IA al suo interno, costruito intorno a una scelta progettuale: quell’IA funziona interamente sul tuo Mac. Quando FireAI spiega una connessione in linguaggio semplice, ne indaga una sospetta o suggerisce una regola, l’analisi avviene in locale. Nulla viene inviato a HisnLabs, a un’IA nel cloud o nel set di addestramento di qualcuno. Non esiste una copia lato server della tua attività che un agente fuori controllo, o chiunque altro, possa trovare.
FireAI non può riprendersi ciò che è già stato caricato, e non avrebbe potuto fermare qualcosa successo sui server di OpenAI. Ciò che fa è darti il controllo su ciò che lascia il tuo Mac da ora in poi:
- La mappa del mondo mostra ogni connessione delle tue app e dove va, compresa l’app ChatGPT e qualsiasi altra app che parli con un servizio di IA.
- Le regole per app ti permettono di bloccare un’app, o solo uno dei domini che contatta, così un’app può continuare a funzionare senza inviare ciò che non vuoi.
- La modalità Paranoia blocca le destinazioni di telemetria note per ogni app che non hai consentito esplicitamente; la modalità Sotto attacco lascia connettere solo le app che hai consentito esplicitamente (la risoluzione dei nomi e la rete locale continuano a funzionare).
Se le aziende di IA non riescono sempre a tenere traccia di ciò che fanno i loro stessi agenti, i dati più sicuri sono quelli che non hanno mai lasciato il tuo Mac. Scarica FireAI e provalo gratis per 17 giorni. FireAI è realizzato da HisnLabs.