Infrastructure & Déploiement
On-premise / Edge
Déploiement d'un modèle sur l'infrastructure propre de l'entreprise ou directement sur les appareils utilisateurs.
Définition
Le déploiement on-premise consiste à héberger et exécuter un modèle d'IA sur les serveurs de l'entreprise plutôt que via un service cloud. L'edge inference va plus loin en exécutant le modèle directement sur les appareils (smartphones, ordinateurs, IoT). Ces approches garantissent la confidentialité des données et réduisent la latence, mais nécessitent des ressources matérielles adaptées.
Et concrètement, en PME ?
Ce terme revient dès qu'on cadre un projet IA. Ce qui compte n'est pas de savoir le définir, mais de repérer s'il concerne vos processus : un audit part de vos tâches réelles et vous dit lesquelles relèvent de cette notion — et lesquelles n'en relèvent pas.
Voir en quoi consiste un audit IATermes liés
- Inference (Inférence)Phase d'utilisation d'un modèle entraîné pour produire des prédictions ou des générations.
- LLM (Large Language Model)Modèle de langage de grande taille entraîné sur des milliards de documents pour générer et comprendre le texte.