Concepts fondamentaux
Token
Unité de texte (mot, syllabe ou caractère) traitée par un modèle de langage.
Définition
Un token est l'unité atomique de texte utilisée par les modèles de langage. Selon le modèle, un token peut représenter un mot entier, une syllabe, ou même un caractère. Le coût et les limites d'un LLM (fenêtre de contexte) sont généralement exprimés en tokens. En français, 1 token ≈ 0,75 mot en moyenne.
Et concrètement, en PME ?
Ce terme revient dès qu'on cadre un projet IA. Ce qui compte n'est pas de savoir le définir, mais de repérer s'il concerne vos processus : un audit part de vos tâches réelles et vous dit lesquelles relèvent de cette notion — et lesquelles n'en relèvent pas.
Voir en quoi consiste un audit IATermes liés
- LLM (Large Language Model)Modèle de langage de grande taille entraîné sur des milliards de documents pour générer et comprendre le texte.
- Context WindowVolume maximal de texte (en tokens) qu'un modèle peut traiter en une seule requête.