Show Notes
ChatGPT ne lit pas réellement votre phrase mot par mot. Avant de répondre, il la découpe en petites unités appelées « tokens », et cette mécanique détermine à la fois ce qu’une IA peut lire, combien elle coûte et jusqu’où elle peut suivre une conversation.
Un token peut correspondre à un mot entier, mais aussi à une partie de mot, quelques caractères ou un signe de ponctuation. Le découpage dépend du tokenizer, le logiciel utilisé par chaque famille de modèles. Une même phrase peut donc nécessiter un nombre différent de tokens selon l’IA et la langue employée. Chez OpenAI, l’ordre de grandeur souvent donné pour l’anglais est d’environ quatre caractères par token, soit trois quarts d’un mot. Une fois le texte découpé, le modèle manipule ces unités pour calculer, à partir du contexte, quel token a le plus de chances de suivre les précédents. Il en génère un, puis recommence jusqu’à constituer sa réponse. Un token n’est donc ni une pensée ni une idée : c’est une unité informatique permettant au modèle de représenter et de produire du contenu.
Ces unités servent également à mesurer sa capacité de travail. Une fenêtre de contexte de 200 000 tokens signifie qu’un modèle peut traiter une certaine quantité d’informations simultanément : votre demande, les instructions, l’historique de la discussion ou des documents. Ce n’est pas pour autant une mémoire permanente. Lorsque cette fenêtre se remplit, certaines informations doivent être condensées ou retirées. Les tokens sont aussi devenus l’unité économique de l’IA. Dans les API utilisées par les entreprises, les fournisseurs facturent généralement séparément les tokens envoyés au modèle et ceux qu’il génère. Certains distinguent aussi les données déjà mises en cache et les tokens utilisés par les modèles pour raisonner avant d’afficher leur réponse.
Et le principe dépasse désormais le texte : images, audio et vidéo peuvent eux aussi être convertis en unités comptabilisées par les modèles multimodaux. Le token paraît donc minuscule, mais il constitue l’un des compteurs fondamentaux de l’intelligence artificielle : il mesure à la fois ce qu’elle reçoit, ce qu’elle peut garder sous les yeux et une partie du calcul nécessaire pour nous répondre.
Source : Clubic Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
More from Choses à Savoir TECH
Acheter un logiciel, l'utiliser pendant plusieurs années, puis le revendre lorsqu'on n'en a plus besoin : ce principe paraît parfaitement normal pour un objet physique. Mais dans l'univers numérique, Microsoft tente depuis des années d'en limiter l'application. Un nouveau revers judiciaire vient compliquer la position du géant américain. Au Royaume-Uni, la justice a refusé de lui accorder l'autorisation de poursuivre un appel dans un litige qui l'oppose à ValueLicensing, une entreprise spécialisée dans la revente de licences Microsoft d'occasion.
Des utilisateurs de Ray-Ban Meta ont découvert dans l’application Meta AI des enregistrements audio et des transcriptions de conversations qu’ils n’avaient jamais demandé à sauvegarder. Meta affirme avoir corrigé le problème.
Une phrase invisible dans un simple e-mail peut suffire à donner de mauvaises instructions à une intelligence artificielle chargée de le lire. Le problème devient beaucoup plus sérieux lorsque cette IA peut également consulter des fichiers, envoyer des messages ou agir dans l’entreprise. Cette attaque porte un nom : l’injection de prompt. Au lieu d’introduire un logiciel malveillant classique, l’attaquant cache une instruction en langage naturel dans une source que l’IA va consulter : un courrier électronique, une page web, un document ou même une image. L’utilisateur peut ne rien remarquer. L’assistant, lui, ingère à la fois le contenu légitime et l’instruction hostile. C’est précisément pourquoi l’OWASP classe encore l’injection de prompt au premier rang de son Top 10 des risques pour les applications utilisant de grands modèles de langage en 2026.
Des chercheurs du MIT ont créé une feuille de silicone capable de reconstruire sa propre forme en trois dimensions lorsqu’on la plie ou qu’on la tord. Cousue un jour dans un vêtement, elle pourrait permettre à un casque de réalité virtuelle de suivre directement une partie de nos mouvements.
Meta prépare un câble sous-marin capable de transporter un pétabit de données par seconde entre les États-Unis et la France. Mais Petal ne donnera pas soudainement une connexion deux fois plus rapide aux particuliers : il augmente surtout la capacité de l’infrastructure qui relie les grands centres numériques des deux continents.