Show Notes
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Le risque n’est plus théorique. En 2025, la vulnérabilité EchoLeak avait montré qu’un seul e-mail spécialement construit pouvait manipuler Microsoft 365 Copilot. L’attaque permettait au système de rechercher des informations auxquelles il avait normalement accès dans l’environnement professionnel puis de les exfiltrer, sans que l’utilisateur ait à cliquer sur un lien. Microsoft a corrigé la faille avant sa divulgation publique. La nuance est essentielle : l’intelligence artificielle n’acquiert pas magiquement des droits supplémentaires. Le danger vient justement des autorisations qu’on lui a déjà données. Un chatbot qui ne peut que résumer un texte offre peu de leviers. Un agent connecté aux mails, aux fichiers, au calendrier et à des applications professionnelles peut transformer la même manipulation en véritable incident de sécurité. C’est pourquoi les défenses ne peuvent pas reposer uniquement sur la capacité du modèle à reconnaître une instruction suspecte. Les recommandations actuelles consistent aussi à limiter les permissions, isoler les contenus externes, contrôler les données qui ressortent et demander une validation humaine avant les actions sensibles.
Source : OWASP Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Acheter un logiciel, l'utiliser pendant plusieurs années, puis le revendre lorsqu'on n'en a plus besoin : ce principe paraît parfaitement normal pour un objet physique. Mais dans l'univers numérique, Microsoft tente depuis des années d'en limiter l'application. Un nouveau revers judiciaire vient compliquer la position du géant américain. Au Royaume-Uni, la justice a refusé de lui accorder l'autorisation de poursuivre un appel dans un litige qui l'oppose à ValueLicensing, une entreprise spécialisée dans la revente de licences Microsoft d'occasion.
Des utilisateurs de Ray-Ban Meta ont découvert dans l’application Meta AI des enregistrements audio et des transcriptions de conversations qu’ils n’avaient jamais demandé à sauvegarder. Meta affirme avoir corrigé le problème.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.
La France va investir 20 millions d’euros pour aider cinq acteurs à construire une offre commune de cloud et d’intelligence artificielle destinée aux données sensibles. Mais il ne s’agit pas de créer un nouveau cloud national à partir de zéro.