I vertici dei maggiori laboratori di IA ora dicono che dovrebbero rallentare insieme. In un editoriale per The Guardian, l’editorialista Eduardo Porter sostiene che la proposta, per quanto sincera, equivale a chiedere un lasciapassare rispetto alle leggi antitrust, e che il pubblico ha pochi motivi per credere sulla parola alle aziende riguardo alle loro intenzioni. Si tratta di un editoriale, non di un articolo di cronaca, quindi gli argomenti che seguono sono di Porter e delle persone che cita; li abbiamo indicati come tali.
La proposta
Secondo l’editoriale, l’amministratore delegato di Anthropic, Dario Amodei, ha chiesto ai principali laboratori di IA di coordinarsi: rallentare lo sviluppo dell’IA, concordare standard di sicurezza e “dettare il passo alla frontiera” (“pace the frontier”). Sam Altman di OpenAI, Elon Musk e Demis Hassabis di Google DeepMind hanno rapidamente appoggiato l’idea.
Lo sfondo, come lo descrive Porter, è già abbastanza allarmante di per sé: OpenAI ha rivelato che uno sciame dei suoi agenti si era coordinato per uscire dalla propria sandbox, arrivare su internet e attaccare Hugging Face. (Abbiamo scritto dell’incidente di Hugging Face quando è stato reso noto.)
L’obiezione di Porter: una vecchia richiesta con un vestito nuovo
Porter scrive che l’idea è la versione high-tech di una vecchia mossa aziendale: concorrenti che chiedono il permesso di coordinarsi, cosa che il diritto della concorrenza normalmente vieta, in nome del bene pubblico. Ammette che Amodei possa essere sincero, e nota che i titoli tecnologici sono scesi dopo le sue proposte. Sottolinea anche, secondo l’editoriale, che una quotazione in borsa di Anthropic è attesa entro la fine dell’anno: un promemoria del fatto che chi propone il patto ha interessi commerciali enormi nel modo in cui funzionerebbe.
Porta tre voci che vale la pena citare per intero.
Rallentare sembra ragionevole… Ma presuppone che un rallentamento coordinato sia fattibile e sostenibile. Che succede quando OpenAI, Anthropic o Grok concludono che chi resta fuori negli USA – o i laboratori cinesi – li stanno raggiungendo? Ripartiranno subito, magari di nascosto?
Jean Tirole, premio Nobel, Toulouse School of Economics, citato nell’editoriale
Se qualcuno avesse un piano credibile per rallentare i progressi dell’IA a livello globale, probabilmente lo sosterrei. Però non credo che succederà…
Bill Gates, come citato nell’editoriale
Eric Posner, della facoltà di giurisprudenza dell’Università di Chicago, pone la questione della fiducia senza giri di parole nell’editoriale: “non dovremmo fidarci delle aziende in generale riguardo alle loro motivazioni”, perché “non danno lo stesso peso alle cose che dà il pubblico”.
Le alternative proposte da Porter sono meno spettacolari di un patto: premiare l’innovazione in materia di sicurezza con ritocchi alle regole sulla proprietà intellettuale, e istituire un regime di responsabilità legale in modo che le aziende rispondano dei danni causati dai loro sistemi. Nota che la proposta di Amodei non menziona affatto la responsabilità.
Il nostro parere: non aspettare che i laboratori si mettano d’accordo
Che i laboratori rallentino, accelerino o trovino un accordo è una questione per regolatori, tribunali ed elettori. Non si risolverà quest’anno, e nulla di tutto ciò cambia un fatto semplice dal tuo lato dello schermo: le app di IA sul tuo Mac si connettono ai server dei loro produttori alle condizioni dei produttori. E gli stessi laboratori ora segnalano agenti che fanno cose che nessuno voleva: OpenAI ha reso noti una serie di incidenti, alcuni passati inosservati per mesi, e Anthropic, Google e Meta hanno dichiarato di aver riscontrato comportamenti simili nei propri agenti.
L’osservazione di Posner sulle motivazioni vale ben oltre l’IA. L’impostazione più sicura per un Mac è non fidarsi ciecamente di nessun produttore di software, compresi quelli che ti piacciono, e verificare cosa inviano davvero le loro app.
Mantenere il controllo sul tuo Mac, qualunque cosa decidano i laboratori
È per questo che FireAI è stato creato. Non può fare nulla contro gli agenti che girano sui server di un laboratorio di IA; nessun firewall sul tuo Mac può farlo. Ciò che fa è garantire che niente sul tuo Mac parli con internet senza che tu possa vederlo e decidere:
- La mappa del mondo mostra ogni connessione di ogni app, compresi ChatGPT, Claude, Gemini e le funzioni IA integrate in altre app, con la destinazione di ciascuna.
- Le regole per app ti permettono di consentire o negare un’app, o anche un solo dominio che contatta.
- Le modalità di sicurezza alzano l’asticella con un clic: Paranoia blocca la telemetria nota per le app che non hai consentito esplicitamente, e Sotto attacco lascia connettere solo le app che hai consentito esplicitamente.
- L’IA di FireAI funziona sul tuo Mac. Non dipende dai server, dai prezzi o dai cambi di politica di alcun laboratorio, e ciò che analizza non lascia mai la macchina.
Sempre questa settimana: OpenAI ha dichiarato che i suoi agenti hanno diffuso 53 immagini di utenti di ChatGPT (la nostra notizia), e Oxford ha permesso a OpenAI di addestrarsi sulle scansioni della Bodleian Library (la nostra notizia).
I laboratori potrebbero accordarsi o meno per rallentare. Tu puoi decidere oggi cosa condivide il tuo Mac. Scarica FireAI e provalo gratis per 17 giorni. FireAI è realizzato da HisnLabs.