Une visite d'État de trois jours entre les États-Unis et la Chine s'est achevée vendredi sans accord majeur sur l'intelligence artificielle, a rapporté The Guardian. Le principal résultat concret du sommet a été la prolongation de deux mois d'une trêve commerciale entre les deux pays.
Contexte
Le sommet a réuni le président américain Donald Trump et le président chinois Xi Jinping à un moment où les industries de l'IA des deux pays se développent rapidement et où chaque gouvernement a séparément signalé son intérêt à fixer le rythme du développement de l'IA plutôt qu'à le ralentir.
Constatations
Xi a déclaré que les deux pays ont la « responsabilité de développer et de gérer l'IA pour le bien », et qu'ils devraient « veiller à ce que le développement de l'IA reste toujours sous contrôle humain ». La Chine s'est fixé pour objectif que les terminaux intelligents de nouvelle génération et les agents IA atteignent un taux de pénétration de plus de 90 pour cent d'ici 2030, selon le rapport [1].
Trump, de son côté, a œuvré pour rebaptiser l'IA « super intelligence ». Plusieurs dirigeants de la technologie américaine, parmi lesquels Elon Musk, Lisa Su d'AMD, Jensen Huang de Nvidia et Tim Cook d'Apple, ont assisté au dîner d'État ; leurs homologues chinois étaient absents, a noté le journal [1].
Le représentant Ro Khanna, qui avait proposé des groupes de travail techniques entre les deux pays et une pause sur l'IA qui s'auto-améliore, a déclaré à The Guardian que le sommet est resté en deçà de ce qui était possible : « C'était un coup facile » [1].
La seule chose sur laquelle ils semblent s'accorder, c'est qu'aucun des deux ne veut ralentir avec cette technologie.
Jonathan Czin, Brookings Institution, cité par The Guardian
Conséquences pour les utilisateurs de Mac
Si l'on met la géopolitique de côté, un point ressort : aucune des deux plus grandes puissances de l'IA ne prévoit de ralentir, et l'une d'elles s'est fixé un objectif de plus de 90 pour cent de pénétration pour les terminaux intelligents de nouvelle génération et les agents IA d'ici 2030. Les laboratoires d'IA eux-mêmes débattent séparément de l'opportunité de se coordonner sur la sécurité, comme nous l'avons relaté dans les laboratoires d'IA veulent s'autoréguler, et ont fait état d'agents faisant des choses que personne n'avait voulues, comme les 53 images d'utilisateurs de ChatGPT divulguées par les agents d'OpenAI. Un agent IA est un logiciel qui agit pour le compte d'une personne : il lit, écrit, clique et se connecte. Sur un ordinateur, cela signifie des apps et des processus d'arrière-plan qui atteignent des serveurs qu'un utilisateur n'a peut-être jamais connus. Quoi qu'un futur sommet décide ou non, les deux dirigeants doivent se revoir au sommet de l'APEC à Shenzhen en novembre et au G20 en décembre ; le règlement de l'IA, s'il en vient un, est donc encore loin.
Recommandations
- Vérifiez quelles apps et quels outils d'IA de votre propre Mac ont déjà l'autorisation d'atteindre Internet, plutôt que de supposer qu'un accord entre gouvernements le fixera pour vous.
- Maintenez macOS et les apps installées à jour, car des fonctions d'IA sont ajoutées aux logiciels ordinaires plus vite que la plupart des gens ne le remarquent.
- Examinez les nouvelles apps d'IA et les outils d'agents avant de leur accorder un large accès aux comptes ou aux fichiers, comme pour tout autre nouveau logiciel.
Pertinence pour FireAI
FireAI est un pare-feu pour Mac qui place cette couche de contrôle entre les mains de l'utilisateur, sans dépendre des promesses d'un gouvernement ou d'une entreprise. Il demande l'autorisation avant qu'une app, y compris une app ou un agent d'IA, ne se connecte à Internet pour la première fois, et retient la réponse sous forme de règle. (En mode Maison, les outils système d'Apple sont autorisés automatiquement ; en mode Parano, ils doivent être approuvés comme n'importe quelle autre app.) La carte du monde montre où va chaque connexion ; le trafic d'une app d'IA n'est donc pas invisible. Les règles par app et les modes de sécurité (Maison, Café, Parano, Sous attaque) définissent le degré de rigueur d'un Mac, de la demande pour les nouvelles apps à l'autorisation des seules apps déjà approuvées. L'IA de FireAI s'exécute sur le Mac, non sur un serveur situé dans un pays quelconque, et ce qu'elle analyse ne quitte jamais la machine.
Limites
Ce récit repose sur un seul reportage de The Guardian sur le sommet. « Pas d'accord majeur » n'exclut pas des ententes plus modestes ou informelles que l'article ne décrit pas. Le chiffre chinois de 90 pour cent de pénétration est l'objectif déclaré du gouvernement chinois, non un résultat mesuré de façon indépendante, et le rapport ne dit pas comment les progrès seront suivis. Les rencontres prévues des deux dirigeants en novembre et en décembre pourraient modifier le tableau décrit ici.
Les sommets se poursuivront. Ce qui se connecte depuis un Mac reste la décision de l'utilisateur. Téléchargez FireAI et essayez-le gratuitement pendant 17 jours. FireAI est édité par HisnLabs.