Faire tourner son IA chez soi

Agent IA local : de quoi il s'agit

Un agent IA local est un agent dont le modèle de langage s'exécute sur une machine que vous contrôlez, et non chez un fournisseur. Les données traitées ne quittent jamais votre périmètre, et il n'y a aucun coût par requête. En contrepartie, vous assumez la machine, son exploitation et un écart de qualité sur les tâches de raisonnement complexe.

Ce que « local » veut dire

Trois configurations, souvent confondues. Le poste de travail : un modèle tourne sur l'ordinateur d'une personne, pratique pour expérimenter, inutilisable à plusieurs. Le serveur interne : une machine dans vos locaux, accès réseau local. Le serveur dédié chez un hébergeur français : juridiquement et pratiquement proche, sans l'investissement matériel.

La troisième est presque toujours la bonne pour une PME : pas de matériel à amortir, pas de climatisation, pas de panne de courant, et les données restent sur le territoire.

Les trois cas où c'est la seule option

• Données sensibles. Dossiers RH, pièces médicales, dossiers juridiques, données clients soumises au secret professionnel. Dans un cabinet, c'est souvent une condition posée par la déontologie elle-même.
• Gros volume répétitif. À partir de plusieurs dizaines de milliers d'appels par mois sur une tâche simple — classer, extraire, router — le coût par requête d'un fournisseur dépasse celui d'un serveur.
• Exigence contractuelle. Certains donneurs d'ordre, notamment publics ou dans la santé, imposent la localisation des traitements. C'est une condition d'accès au marché, pas une préférence.

Ce que ça coûte réellement

Un serveur capable de faire tourner un modèle de taille moyenne avec un temps de réponse acceptable coûte quelques centaines d'euros par mois en location. S'ajoute l'exploitation : mises à jour, sauvegardes, surveillance, et la mise à jour du modèle lui-même quand une meilleure version sort. Comptez une demi-journée par mois.

Le point de bascule financier se situe, pour une PME, autour de 300 € par mois de consommation chez un fournisseur. En dessous, l'API coûte moins cher que le serveur. Au-dessus, le calcul s'inverse — et le bénéfice de confidentialité vient en plus.

Ce qu'un modèle local fait aussi bien

Classer un message, extraire des champs d'un document, router une demande, répondre à partir d'une base documentaire, reformuler. Sur ces tâches, l'écart avec les meilleurs modèles commerciaux est faible, et souvent invisible pour l'utilisateur.

Ce qu'il fait moins bien

Le raisonnement sur plusieurs étapes, l'analyse de documents très longs, la rédaction dans un style précis, le code. Sur ces usages, l'écart reste net. La bonne architecture est souvent mixte : le modèle local traite le flux quotidien qui contient des données sensibles, un modèle commercial traite les cas complexes sur des données pseudonymisées.

Ce que ça ne règle pas

Héberger en local ne vous dispense de rien. L'obligation de déclarer qu'un interlocuteur parle à une IA s'applique toujours. Le RGPD s'applique toujours — héberger chez soi n'est pas une base légale. Et un agent local dérive exactement comme un autre : il faut la même surveillance.

Questions fréquentes