Infrastructure & Déploiement
Inference (Inférence)
Phase d'utilisation d'un modèle entraîné pour produire des prédictions ou des générations.
Définition
L'inférence est l'exécution d'un modèle d'IA déjà entraîné pour produire une sortie à partir d'une entrée donnée. C'est la phase « production » par opposition à l'entraînement. L'inférence peut être effectuée dans le cloud (API) ou en local (edge inference), avec des compromis entre latence, coût et confidentialité.
Et concrètement, en PME ?
Ce terme revient dès qu'on cadre un projet IA. Ce qui compte n'est pas de savoir le définir, mais de repérer s'il concerne vos processus : un audit part de vos tâches réelles et vous dit lesquelles relèvent de cette notion — et lesquelles n'en relèvent pas.
Voir en quoi consiste un audit IATermes liés
- LLM (Large Language Model)Modèle de langage de grande taille entraîné sur des milliards de documents pour générer et comprendre le texte.
- Fine-tuningRéentraînement partiel d'un modèle existant sur des données spécifiques à un domaine.
- Machine Learning (ML)Branche de l'IA où les systèmes apprennent à partir de données sans être explicitement programmés.