Techniques & Modèles
LLM (Large Language Model)
Modèle de langage de grande taille entraîné sur des milliards de documents pour générer et comprendre le texte.
Définition
Un LLM (Large Language Model ou Grand Modèle de Langage) est un réseau de neurones entraîné sur des milliards de pages texte pour prédire la suite logique d'une séquence de mots. Les LLM comme GPT-4, Claude ou Mistral sont capables de rédiger, résumer, traduire, coder, analyser, et converser dans de multiples langues. Leur performance dépend de leur taille (nombre de paramètres) et de la qualité de leur entraînement.
Et concrètement, en PME ?
Ce terme revient dès qu'on cadre un projet IA. Ce qui compte n'est pas de savoir le définir, mais de repérer s'il concerne vos processus : un audit part de vos tâches réelles et vous dit lesquelles relèvent de cette notion — et lesquelles n'en relèvent pas.
Voir en quoi consiste un audit IATermes liés
- TransformerArchitecture de réseau de neurones fondatrice des LLM modernes, basée sur l'attention.
- TokenUnité de texte (mot, syllabe ou caractère) traitée par un modèle de langage.
- Fine-tuningRéentraînement partiel d'un modèle existant sur des données spécifiques à un domaine.
- RAG (Retrieval-Augmented Generation)Technique qui enrichit les réponses d'un LLM avec des données récupérées en temps réel.