Show Notes
Bill Gates veut convaincre Washington et Pékin de s’entendre sur une ligne rouge : certains modèles d’intelligence artificielle pourraient devenir trop dangereux pour être diffusés librement. Et il espère porter lui-même ce message à Xi Jinping dès novembre.
Bonjour à toutes et à tous. Le cofondateur de Microsoft a confirmé à Reuters que son équipe travaillait à une nouvelle rencontre avec le président chinois. Les deux hommes s’étaient déjà vus à Pékin en 2023.
Ce qui inquiète Gates n’est pas simplement ChatGPT qui remplace quelques tâches de bureau. Il vise des capacités beaucoup plus sensibles : des IA capables de mener des cyberattaques ou d’aider à concevoir des molécules utilisables dans une attaque biologique. Son idée est donc de surveiller les modèles les plus puissants avant leur diffusion et, si nécessaire, d’en restreindre l’accès. Gates estime que la Chine pourrait accepter ce principe à condition que les États-Unis imposent eux-mêmes des contraintes comparables.
C’est là tout le problème. Une règle américaine qui ne s’appliquerait pas en Chine pourrait pousser les laboratoires chinois à accélérer. Et l’inverse serait tout aussi vrai. Dans cette course technologique, la sécurité devient un dilemme classique : chacun peut souhaiter ralentir, mais personne ne veut ralentir seul. Gates propose donc d’aller plus loin avec une organisation internationale consacrée à l’IA. Il imagine un système empruntant à la fois aux inspections nucléaires, aux règles mondiales de l’aviation et aux accords internationaux sur l’environnement.
Ce projet reste pour l’instant une proposition personnelle. Bill Gates n’a évidemment aucun mandat diplomatique américain. Et créer un système permettant de contrôler réellement les modèles développés aux États-Unis comme en Chine supposerait notamment de définir ce qu’est une IA « dangereuse », comment tester ses capacités et ce que les États accepteraient de révéler. L’Europe, elle, a déjà commencé ce travail. Depuis le 2 août, l’AI Act permet d’imposer aux modèles présentant un risque systémique des évaluations, des tests adversariaux, des mesures de cybersécurité et une obligation de signaler certains incidents graves. Mais l’Europe ne peut pas régler seule un risque mondial. L’ONU a d’ailleurs lancé en juillet son premier Dialogue mondial sur la gouvernance de l’IA.
La nouveauté est donc moins la peur exprimée par Bill Gates que le changement de nature du débat. Réguler l’IA ne signifie plus seulement encadrer ce que font les entreprises avec nos données. Il s’agit désormais de savoir si les grandes puissances peuvent accepter de contrôler ensemble une technologie qu’elles considèrent précisément comme stratégique. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Acheter un logiciel, l'utiliser pendant plusieurs années, puis le revendre lorsqu'on n'en a plus besoin : ce principe paraît parfaitement normal pour un objet physique. Mais dans l'univers numérique, Microsoft tente depuis des années d'en limiter l'application. Un nouveau revers judiciaire vient compliquer la position du géant américain. Au Royaume-Uni, la justice a refusé de lui accorder l'autorisation de poursuivre un appel dans un litige qui l'oppose à ValueLicensing, une entreprise spécialisée dans la revente de licences Microsoft d'occasion.
Des utilisateurs de Ray-Ban Meta ont découvert dans l’application Meta AI des enregistrements audio et des transcriptions de conversations qu’ils n’avaient jamais demandé à sauvegarder. Meta affirme avoir corrigé le problème.
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.