- Le débat est idéologique, la décision est comptable
- Le tableau VRAM, ou pourquoi le local n'est pas gratuit
- Ce qui décide vraiment : la nature de la tâche
- Ce qui décide aussi : la nature de la donnée
- Le routeur, concrètement
- Le calcul qu'on ne fait jamais : le coût caché
- Ce que ça change pour une entreprise du Pays Basque
- Par où commencer, sans budget
Auto-héberger un modèle de langage n'est pas automatiquement moins cher qu'une API. La décision se prend tâche par tâche, sur deux critères : la répétition du volume, qui pousse vers un petit modèle local, et la sensibilité de la donnée, qui l'impose ou l'interdit. Le reste part en API, à l'usage.
Une entreprise de douze personnes, à Bayonne, me pose la question en ces termes : « on nous dit qu'il faut arrêter ChatGPT et installer un modèle chez nous. C'est vrai ? » La question est posée comme un choix de camp. Elle ne l'est pas. C'est un calcul, avec deux colonnes : ce que coûte la tâche, ce que vaut la donnée. Presque personne ne le pose, et c'est pour ça que les projets d'IA interne partent souvent dans le décor — soit on paie une infrastructure qui ne sert à rien, soit on envoie des documents sensibles à un fournisseur américain sans s'être posé la question une seule fois.
Je vais être direct : la bonne réponse, dans la grande majorité des entreprises que je vois, n'est ni « tout chez nous » ni « tout chez eux ». C'est les deux, avec une règle de routage écrite. Et cette règle tient en une phrase.
Le débat est idéologique, la décision est comptable
Il y a deux discours qui s'affrontent en ce moment, et les deux vous font perdre de l'argent.
Le premier dit : gardez le contrôle, installez un modèle local, vos données ne sortent jamais. C'est vrai sur le principe. C'est faux dans l'économie : un modèle local mal dimensionné coûte plus cher qu'une API, il répond moins bien, et il faut quelqu'un pour le maintenir. Ce quelqu'un, dans une entreprise de douze personnes, c'est le patron le dimanche soir — ou personne.
Le second dit : le cloud a déjà gagné, l'auto-hébergement est un hobby de développeur. C'est faux aussi. Il y a des tâches où le local est à la fois moins cher et plus propre : les traitements répétitifs, à gros volume, sur des données que vous n'avez pas le droit de faire sortir.
Le guide publié par n8n sur l'auto-hébergement d'un LLM dit la même chose, en langage technique : auto-héberger n'est pas automatiquement moins cher, et le bon réflexe est de router. Je le traduis en langage d'entreprise : on ne choisit pas une technologie, on choisit où passe chaque dossier.
Le tableau VRAM, ou pourquoi le local n'est pas gratuit
Le point que tout le monde découvre trop tard, c'est la mémoire graphique. Un modèle de langage tient dans la mémoire de la carte ou il ne tient pas. Il n'y a pas de version dégradée qui fonctionne bien.
Les ordres de grandeur, avec les modèles disponibles aujourd'hui : un petit modèle de 3,8 milliards de paramètres comme Phi-4-mini tourne dans environ 8 Go de VRAM — c'est une carte grand public, quelques centaines d'euros. Un modèle nettement plus capable comme Llama 4 Scout, avec 17 milliards de paramètres actifs, demande 55 à 80 Go. On n'est plus sur une carte : on est sur un serveur, avec l'alimentation, le refroidissement et la facture d'électricité qui vont avec.

Entre les deux, tout un dégradé. Et c'est exactement là que se joue la décision : la question n'est pas « local ou API » mais « quelle part de mon travail a besoin d'un grand modèle ».
Pour une entreprise ordinaire, la réponse est dérangeante de simplicité : environ 80 % du volume confié à un modèle est répétitif et ne demande pas un modèle de pointe. Trier des mails, extraire un numéro de devis d'un PDF, classer une demande entrante, résumer un compte rendu court, reformuler un texte de trois paragraphes. Un petit modèle fait ça correctement, pour un coût marginal proche de zéro une fois le matériel amorti.
Les 20 % restants — la rédaction fine, le raisonnement sur un dossier complexe, la réponse à un client mécontent, l'analyse d'un contrat de trente pages — demandent un modèle que vous n'installerez pas chez vous. Ceux-là, il faut les payer à l'usage.
Ce qui décide vraiment : la nature de la tâche
Prenons une entreprise du bâtiment à Anglet. Elle reçoit quarante demandes de devis par semaine, par mail et par formulaire. Il faut lire, qualifier, extraire la surface, le type de chantier, la commune, puis répondre qu'on a bien reçu et qu'on rappelle sous 48 heures. Cette chaîne tourne 200 fois par mois, sur des données qui ne sont pas sensibles au sens du secret industriel, mais qui sont commerciales.
Question à se poser : est-ce que j'ai besoin du meilleur modèle du monde pour extraire « 85 m², rénovation salle de bain, Bidart » d'un mail ? Non. Est-ce que le coût au token de cette extraction, fois 200 par mois, vaut un serveur à 6 000 € ? Non plus. Un petit modèle local suffit, ou même une API à bas coût selon le volume — ce sont les deux options raisonnables, et le choix entre elles dépend du volume, pas de la mode.
Maintenant, la même entreprise veut rédiger une réponse à un appel d'offres de la mairie. Deux fois par trimestre, à forts enjeux, avec un texte qui doit être irréprochable. Là, un petit modèle local produira un texte plat, générique, et vous le réécrirez entièrement. Le calcul s'inverse : payer l'API au token, même cher, coûte moins que deux heures de votre temps par document.
La règle se dessine : le volume et la répétition poussent vers le local ; l'exigence et la rareté poussent vers l'API. Une entreprise qui n'a qu'une seule des deux configurations paie trop quelque part.
Ce qui décide aussi : la nature de la donnée
Deuxième colonne, et c'est celle qu'on oublie le plus souvent. Elle est juridique, pas technique.
Si votre traitement porte sur des données personnelles de clients, de salariés ou de patients, vous êtes responsable de traitement. Envoyer ces données à un fournisseur, c'est un transfert à un sous-traitant, avec les obligations qui vont avec : contrat, durée, lieu de traitement, sous-traitants ultérieurs, et — pour un fournisseur hors Union européenne — un cadre de transfert. Ce n'est pas interdit. C'est encadré, et ça se documente.
Si votre traitement porte sur des éléments de secret des affaires — une recette, un prix d'achat, une méthode, un fichier clients construit sur vingt ans — l'analyse n'est plus seulement réglementaire, elle est stratégique. Un fournisseur d'API ne lit pas vos requêtes pour vous voler votre recette. Mais vous ne le savez que parce que vous lui faites confiance, et cette confiance est un contrat, pas une évidence.
D'où la règle qui marche dans la pratique : ce qui est confidentiel et répétitif reste chez vous. Ce qui est banal et occasionnel peut sortir. Ce qui est confidentiel et complexe est le seul vrai cas difficile — et il est rare, ce qui permet de le traiter à la main, dossier par dossier, au lieu de construire une architecture pour lui.

Le routeur, concrètement
Un routeur, ce n'est pas un logiciel exotique. C'est une règle, écrite noir sur blanc, qui décide où part chaque demande avant qu'elle parte. Trois questions, dans cet ordre :
- La donnée peut-elle sortir ? Si non, le local. La question est fermée, elle ne se négocie pas au cas par cas selon l'humeur.
- La tâche est-elle répétitive et mécanique ? Si oui, le local ou le modèle le moins cher qui fait le travail. On mesure une fois, on ne discute plus.
- La tâche demande-t-elle de la finesse ? Si oui, le meilleur modèle disponible, à l'usage, sur le seul document concerné.
Cette règle a un effet secondaire qui vaut à lui seul le déplacement : elle rend la dépendance réversible. Le jour où un fournisseur augmente ses prix de 40 %, où il change ses conditions, où il ferme un accès — comme ça arrive régulièrement — vous ne débranchez pas votre entreprise. Vous basculez la troisième catégorie ailleurs, vous gardez les deux premières en local, et personne ne s'en aperçoit côté client. Une entreprise qui a tout mis chez un seul fournisseur, à l'inverse, n'a pas de plan B : elle a un fournisseur, et une contrainte.
Le calcul qu'on ne fait jamais : le coût caché
Le coût d'une API est visible : une ligne sur la facture, au token, chaque mois. Le coût du local ne l'est pas, et c'est pourquoi il paraît souvent moins cher qu'il ne l'est.
Ce qu'il faut compter, honnêtement : le matériel — et son renouvellement, parce qu'un serveur acheté en 2026 ne fera pas tourner les modèles de 2029 ; l'électricité et le refroidissement, réels dès qu'on parle d'une machine qui tourne en continu ; la mise à jour des modèles, qui n'est pas un clic ; la surveillance, parce qu'un service qui tombe un samedi matin doit être redémarré par quelqu'un ; et le temps de la personne qui sait faire tout ça. Ce dernier poste est le plus gros, et c'est celui qu'on met à zéro dans les tableaux comparatifs.
Ce qu'il faut compter du côté de l'API, symétriquement : le coût qui monte avec le volume, la dépendance aux conditions du fournisseur, et le risque — faible mais non nul — qu'un accès soit suspendu du jour au lendemain. Deux entreprises que j'accompagne ont vu leur compte bloqué une matinée pour une vérification de facturation. Ce n'est pas grave quand rien ne dépend de l'outil. Ça l'est quand tout en dépend.
La conclusion comptable tient en une ligne : le local est rentable quand le volume est élevé et la tâche stable ; l'API est rentable quand le volume est irrégulier et la tâche exigeante. Toute entreprise qui n'a qu'un seul des deux profils paie trop quelque part, et souvent sans le savoir.
Ce que ça change pour une entreprise du Pays Basque
Il y a un angle local qui n'est pas de la décoration : ici, les entreprises sont petites, les dirigeants sont joignables, et les décisions se prennent vite. C'est un avantage considérable pour ce genre d'arbitrage. Une entreprise de douze personnes à Bidart peut décider en une réunion ce qu'un groupe mettra six mois à arbitrer.
Mais la taille a aussi un coût : personne n'a le temps de maintenir une infrastructure. C'est pourquoi, dans la pratique, je vois trois configurations qui fonctionnent :
- L'entreprise qui reste sur API, proprement. Volume faible, tâches variées, aucune donnée ultra-sensible. Le travail n'est pas d'installer quoi que ce soit, il est d'écrire les règles d'usage, de former les deux personnes qui s'en servent et de vérifier ce qui sort. Coût faible, gain immédiat.
- L'entreprise qui met un petit modèle local sur la tâche de fond. Un flux régulier, mécanique, à fort volume — traitement de mails, extraction, classement. Le reste part en API. C'est la configuration la plus fréquente chez mes clients, et la plus rentable.
- L'entreprise qui a une contrainte forte. Cabinet de santé, études notariales, données de mineurs, secret industriel. Là, on met le local sur tout ce qui touche la donnée sensible, et on accepte de payer plus cher pour dormir tranquille. Le calcul n'est pas le même, et c'est normal.
Ce qui ne fonctionne pas, dans les trois cas : improviser. Un modèle installé sur un PC sous le bureau, sans sauvegarde, sans mise à jour, sans personne pour le redémarrer, ça tient trois mois. Et au bout de trois mois, l'entreprise conclut que « l'IA locale, ça ne marche pas » — alors que ce qui n'a pas marché, c'est de ne pas avoir décidé.
Par où commencer, sans budget
La première étape ne coûte rien et rapporte plus que l'installation d'un serveur : lister. Prendre une semaine de travail réel et écrire ce qui a été confié à un modèle : quelle tâche, quel document, quel volume, quelle sensibilité. Cette liste, dans les entreprises que j'ai vues, fait apparaître trois choses. Un volume répétitif qu'on surestime en complexité. Une poignée de tâches exigeantes qu'on sous-estime. Et deux ou trois usages qui n'auraient jamais dû passer par un modèle du tout.
Deuxième étape : choisir une seule tâche, la plus répétitive, la moins sensible, et la faire tourner en local pendant trois semaines. On mesure le taux d'erreur réel, pas le taux annoncé. Si c'est bon, on étend. Si ce n'est pas bon, on a dépensé trois semaines et une carte graphique, pas six mois et un budget.
Troisième étape, et c'est celle qui manque partout : écrire la règle de routage. Une page. Qui décide, selon quels critères, où va quelle donnée. Sans cette page, chaque demande repart en discussion, et la discussion se termine toujours par « on fait comme d'habitude ».
Le débat « chez vous ou chez eux » n'a pas de réponse générale. Il a une réponse par tâche, et cette réponse change avec le volume et avec la sensibilité. Le travail n'est pas de choisir un camp : c'est d'écrire le tableau. Une fois qu'il est écrit, la décision se prend en dix minutes, et elle est révisable.
Si vous voulez le faire pour votre entreprise, on peut commencer par la liste — celle des tâches, pas celle des outils. C'est une heure, et elle change tout ce qui suit.
