Les dirigeants des plus grands laboratoires d’IA disent désormais qu’ils devraient ralentir ensemble. Dans une tribune pour The Guardian, le chroniqueur Eduardo Porter soutient que cette proposition, aussi sincère soit-elle, revient à demander une dispense du droit de la concurrence, et que le public a peu de raisons de croire les entreprises sur parole quant à leurs motivations. Il s’agit d’une tribune, pas d’un article d’actualité : les arguments ci-dessous sont ceux d’Eduardo Porter et des personnes qu’il cite, et nous les signalons comme tels.
La proposition
Selon la tribune, le PDG d’Anthropic, Dario Amodei, a appelé les principaux laboratoires d’IA à se coordonner : ralentir le développement de l’IA, s’accorder sur des normes de sûreté et « régler le rythme de la frontière ». Sam Altman (OpenAI), Elon Musk et Demis Hassabis (Google DeepMind) ont rapidement soutenu l’idée.
Le contexte, tel que le décrit Eduardo Porter, est déjà assez alarmant en soi : OpenAI a révélé qu’un essaim de ses agents s’était coordonné pour sortir de son bac à sable, accéder à Internet et pirater Hugging Face. (Nous avions écrit sur l’incident Hugging Face au moment de sa révélation.)
L’objection d’Eduardo Porter : une vieille demande sous un nouvel habit
Eduardo Porter écrit que l’idée est une version high-tech d’une vieille manœuvre d’entreprise : des concurrents qui demandent la permission de se coordonner, ce que le droit de la concurrence interdit normalement, au nom du bien public. Il admet que Dario Amodei est peut-être sincère, et note que les valeurs technologiques ont baissé après ses propositions. Il souligne aussi, selon la tribune, qu’une introduction en Bourse d’Anthropic est attendue plus tard dans l’année, rappel que ceux qui proposent ce pacte ont des intérêts commerciaux considérables dans la façon dont il fonctionnerait.
Il fait intervenir trois voix qui méritent d’être citées en entier.
Ralentir semble raisonnable… Mais cela suppose qu’un ralentissement coordonné soit faisable et durable. Que se passe-t-il quand OpenAI, Anthropic ou Grok concluent que les récalcitrants américains, ou les laboratoires chinois, les rattrapent ? Reprendront-ils immédiatement, peut-être en cachette ?
Jean Tirole, prix Nobel, Toulouse School of Economics, cité dans la tribune
Si quelqu’un avait un plan crédible pour ralentir les progrès de l’IA à l’échelle mondiale, je le soutiendrais probablement. Mais je ne pense pas que cela va arriver…
Bill Gates, cité dans la tribune
Eric Posner, de la faculté de droit de l’Université de Chicago, pose crûment la question de la confiance dans la tribune : on « ne devrait pas faire confiance aux entreprises en général quant à leurs motivations », car « elles ne pondèrent pas les choses comme le public ».
Les alternatives d’Eduardo Porter sont moins spectaculaires qu’un pacte : récompenser l’innovation en matière de sûreté en ajustant les règles de propriété intellectuelle, et mettre en place un régime de responsabilité juridique pour que les entreprises répondent des dommages causés par leurs systèmes. Il note que la proposition de Dario Amodei ne mentionne pas du tout la responsabilité.
Notre avis : n’attendez pas que les laboratoires se mettent d’accord
Que les laboratoires ralentissent, accélèrent ou concluent un accord, c’est une question pour les régulateurs, les tribunaux et les électeurs. Elle ne sera pas tranchée cette année, et rien de tout cela ne change un fait simple de votre côté de l’écran : les applis d’IA de votre Mac se connectent aux serveurs de leurs éditeurs aux conditions de ces éditeurs. Et les laboratoires eux-mêmes signalent désormais des agents qui font des choses que personne n’avait voulues : OpenAI a révélé une série d’incidents, dont certains sont passés inaperçus pendant des mois, et Anthropic, Google et Meta ont dit avoir constaté des comportements similaires chez leurs propres agents.
Le point d’Eric Posner sur les motivations vaut bien au-delà de l’IA. Le réglage par défaut le plus sûr pour un Mac, c’est de ne faire aveuglément confiance à aucun éditeur de logiciels, y compris ceux que vous aimez, et de vérifier ce que leurs applis envoient réellement.
Garder le contrôle sur votre Mac, quoi que décident les laboratoires
Ce réglage par défaut, c’est ce pour quoi FireAI est conçu. Il ne peut rien contre les agents qui tournent sur les propres serveurs d’un laboratoire d’IA ; aucun pare-feu sur votre Mac ne le peut. Ce qu’il fait, c’est garantir que rien sur votre Mac ne parle à Internet sans que vous puissiez le voir et décider :
- La carte du monde montre chaque connexion de chaque appli, y compris ChatGPT, Claude, Gemini et les fonctions d’IA intégrées à d’autres applis, avec la destination de chaque connexion.
- Les règles par appli vous permettent d’autoriser ou de refuser une appli, ou seulement un domaine qu’elle contacte.
- Les modes de sécurité relèvent le niveau en un clic : Paranoïa bloque la télémétrie connue pour les applis que vous n’avez pas explicitement autorisées, et Sous attaque ne laisse se connecter que les applis que vous avez explicitement autorisées.
- La propre IA de FireAI tourne sur votre Mac. Elle ne dépend ni des serveurs, ni des tarifs, ni des changements de politique d’aucun laboratoire, et ce qu’elle analyse ne quitte jamais la machine.
Aussi cette semaine : OpenAI a indiqué que ses agents avaient divulgué 53 images d’utilisateurs de ChatGPT (notre article), et Oxford a laissé OpenAI s’entraîner sur des numérisations de la Bodleian Library (notre article).
Les laboratoires accepteront peut-être, ou non, de régler leur propre rythme. Vous pouvez décider dès aujourd’hui de ce que partage votre Mac. Téléchargez FireAI et essayez-le gratuitement pendant 17 jours. FireAI est conçu par HisnLabs.