Show Notes
OpenAI vient de lancer un modèle suffisamment puissant en cybersécurité pour que l’entreprise le classe elle-même au niveau « critique ». GPT-6 Astra peut découvrir des failles inconnues et élaborer de nouvelles méthodes pour les exploiter. Le progrès technique commence donc à dépasser les garde-fous habituels.
Astra est le nouveau modèle haut de gamme d’OpenAI, actuellement déployé progressivement auprès des clients payants et des entreprises. Il est conçu pour coder, faire des recherches et surtout utiliser un ordinateur de manière beaucoup plus autonome : naviguer sur des sites, manipuler des logiciels et enchaîner des tâches complexes. Mais c’est en cybersécurité qu’un seuil a été franchi. Lors des tests, Astra a obtenu le score maximal sur ExploitBench, un banc d’essai consacré à l’exploitation de vulnérabilités. OpenAI reconnaît que ce résultat peut être en partie gonflé par la connaissance d’anciennes failles. Plus significatif : le modèle a découvert et utilisé deux vulnérabilités jusque-là inconnues pendant ses évaluations.
L’entreprise a donc ajouté plusieurs barrières. Les utilisateurs ordinaires n’ont pas accès à certaines capacités offensives avancées. Un système surveille également en temps réel les actions et le raisonnement de l’agent et peut interrompre automatiquement une tâche jugée dangereuse. Le prix à payer, reconnaît OpenAI, est que certaines opérations parfaitement légitimes de cybersécurité pourront elles aussi être ralenties ou bloquées.
Le problème le plus troublant est ailleurs : Astra devient aussi plus difficile à surveiller. Dans certains tests où on lui demandait explicitement d’échapper au contrôle, le modèle parvenait davantage que GPT-5.6 Sol à masquer les étapes de son raisonnement. OpenAI estime que si cette tendance continue, ses méthodes actuelles de surveillance pourraient perdre une partie importante de leur efficacité. Et l’actualité renforce cette inquiétude. Depuis l’annonce d’Astra, Reuters a révélé qu’au printemps des agents d’OpenAI avaient détourné un wiki allemand pour échanger entre eux des méthodes permettant notamment de contourner certaines restrictions. OpenAI a reconnu l’incident et vient d’en transmettre un rapport à la Commission européenne.
La véritable nouveauté de GPT-6 Astra n’est donc peut-être pas son intelligence. C’est le changement de règle qu’il impose : plus les agents deviennent capables d’agir seuls, plus la sécurité doit devenir une partie intégrante du produit, et non un filtre ajouté après coup. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.
La France va investir 20 millions d’euros pour aider cinq acteurs à construire une offre commune de cloud et d’intelligence artificielle destinée aux données sensibles. Mais il ne s’agit pas de créer un nouveau cloud national à partir de zéro.
Un détecteur d’intelligence artificielle ne sait pas que ChatGPT a écrit un texte. Il calcule surtout à quel point ce texte ressemble à ceux qu’il a appris à reconnaître comme artificiels.