Show Notes
L’intelligence artificielle ne menace pas seulement de produire de mauvais textes. Dans la recherche, elle peut désormais fabriquer de fausses références, de fausses images et parfois de faux résultats qui finissent par être cités comme de la vraie science. Le CNRS estime que ce phénomène aggrave une crise déjà profonde de la publication scientifique.
Il faut d’abord éviter un raccourci : utiliser ChatGPT ou une autre IA pour améliorer un texte scientifique n’est pas nécessairement frauduleux. Pour le CNRS, le problème commence lorsque cet usage est dissimulé, ou lorsque la machine invente des données et des sources que personne ne vérifie. L’auteur humain reste responsable de ce qu’il publie. Et l’usage de l’IA devient massif. Une étude récente portant sur plus d’un million d’articles biomédicaux en anglais estime que 77 % des publications de 2025 présentent des signes d’assistance par un grand modèle de langage, et près de 90 % pour le seul mois de décembre. Attention : cette étude est encore une prépublication, et détecter une aide rédactionnelle ne signifie absolument pas détecter une fraude.
Le vrai danger vient de l’effet d’échelle. En mai, une analyse de 2,5 millions d’articles biomédicaux a identifié près de 3 000 publications contenant des références impossibles à retrouver. Et une erreur scientifique ne disparaît pas lorsqu’un article est retiré : d’autres chercheurs peuvent déjà l’avoir cité et utilisé comme fondation de leurs propres travaux. Le CNRS rappelle qu’environ 10 000 articles ont été rétractés sur 4,5 millions publiés dans le monde en 2023. Près de 640 000 publications citeraient au moins un article rétracté. L’IA n’a pas créé ce problème : elle peut simplement accélérer une machine déjà poussée par le fameux « publier ou périr » et par certains modèles économiques où les auteurs paient pour être publiés.
En France, le CNRS répond notamment avec BibCheck, un outil capable de repérer dans une bibliographie des articles rétractés ou des références potentiellement inventées. Il défend aussi une évaluation moins obsédée par le nombre de publications. Car le risque ultime n’est pas que l’IA écrive des articles. C’est qu’elle permette de produire de la science plus vite qu’on ne peut la vérifier. Et dans un système de connaissance fondé sur la confiance dans les travaux précédents, quelques fausses briques suffisent à fragiliser tout ce qu’on construit dessus. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.
La France va investir 20 millions d’euros pour aider cinq acteurs à construire une offre commune de cloud et d’intelligence artificielle destinée aux données sensibles. Mais il ne s’agit pas de créer un nouveau cloud national à partir de zéro.
Un détecteur d’intelligence artificielle ne sait pas que ChatGPT a écrit un texte. Il calcule surtout à quel point ce texte ressemble à ceux qu’il a appris à reconnaître comme artificiels.