Show Notes
Certaines conversations avec ChatGPT peuvent être lues par de vraies personnes pour améliorer le modèle. Pas toutes, et pas avec votre nom affiché, mais suffisamment pour rappeler qu’un chatbot n’est pas un journal intime.
L’existence de ce dispositif, baptisé en interne « Project Lily », a été révélée par une enquête de 404 Media fondée sur des documents internes et des exemples de conversations. OpenAI ferait appel à des centaines de sous-traitants chargés d’évaluer des échanges provenant de vrais utilisateurs. Leur travail consiste notamment à comprendre ce que l’utilisateur demande, puis à comparer et noter plusieurs réponses générées par ChatGPT. L’objectif est d’améliorer le comportement du modèle : éviter certaines erreurs, limiter les réponses excessivement complaisantes ou encore l’empêcher de se présenter comme s’il était humain.
Les conversations ne sont pas censées arriver brutes. Les évaluateurs ne voient pas le nom du compte et OpenAI utilise un système baptisé Privacy Filter pour retirer des informations personnelles. Mais selon l’enquête, certains échanges contiennent malgré tout des détails sensibles. Les évaluateurs peuvent aussi recevoir du contexte provenant des conversations précédentes afin de comprendre la demande. Il faut cependant éviter un raccourci : cela ne signifie pas que des employés lisent systématiquement toutes les conversations ChatGPT. Project Lily porte sur un échantillon utilisé pour évaluer et améliorer les modèles. OpenAI indique publiquement que, sur ses services destinés aux particuliers, les conversations peuvent servir à entraîner ses modèles. Les utilisateurs peuvent désactiver cette utilisation dans les paramètres, sous « Contrôles des données », puis « Améliorer le modèle pour tous ». Les nouvelles conversations ne servent alors plus à cet entraînement.
Project Lily met surtout en lumière une réalité rarement visible. Derrière l’impression d’un dialogue entièrement automatisé, l’amélioration d’une intelligence artificielle repose encore largement sur des humains qui lisent, classent et jugent ses réponses. À mesure que nous confions aux chatbots des problèmes professionnels, familiaux ou intimes, cette frontière devient essentielle : parler seul à une machine ne signifie pas nécessairement que personne d’autre ne pourra jamais voir ce qui lui a été confié.
Source : Stack Chronicle Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.
La France va investir 20 millions d’euros pour aider cinq acteurs à construire une offre commune de cloud et d’intelligence artificielle destinée aux données sensibles. Mais il ne s’agit pas de créer un nouveau cloud national à partir de zéro.
Un détecteur d’intelligence artificielle ne sait pas que ChatGPT a écrit un texte. Il calcule surtout à quel point ce texte ressemble à ceux qu’il a appris à reconnaître comme artificiels.