Infrastructure & Déploiement
Context Window
Volume maximal de texte (en tokens) qu'un modèle peut traiter en une seule requête.
Définition
La fenêtre de contexte (context window) est la quantité maximale de tokens qu'un LLM peut traiter en une seule fois — entrée + sortie confondues. Elle varie de quelques milliers à plusieurs millions de tokens selon les modèles (GPT-4o, Claude 3.5, Gemini 1.5 Pro). Pour les documents longs ou les conversations prolongées, un contexte large est essentiel.
Et concrètement, en PME ?
Ce terme revient dès qu'on cadre un projet IA. Ce qui compte n'est pas de savoir le définir, mais de repérer s'il concerne vos processus : un audit part de vos tâches réelles et vous dit lesquelles relèvent de cette notion — et lesquelles n'en relèvent pas.
Voir en quoi consiste un audit IATermes liés
- LLM (Large Language Model)Modèle de langage de grande taille entraîné sur des milliards de documents pour générer et comprendre le texte.
- TokenUnité de texte (mot, syllabe ou caractère) traitée par un modèle de langage.
- RAG (Retrieval-Augmented Generation)Technique qui enrichit les réponses d'un LLM avec des données récupérées en temps réel.