IA locale : les agents ne quittent pas le cloud, ils cessent de s’y exécuter par défaut
Share Article
La rentrée s’ouvre sur un récit de migration : les agents descendraient du cloud vers les machines. Les données de marché disent le contraire, et le vrai changement est ailleurs. Ce n’est pas une migration, c’est la fin d’un automatisme, et elle introduit une décision nouvelle : où exécuter chaque étape.
Leyton CognitX · Septembre 2026
| À retenir Le basculement massif vers l’exécution locale n’aura pas lieu cette année : l’inférence représentera environ deux tiers du calcul d’IA en 2026, mais elle restera majoritairement exécutée en centre de données et sur des serveurs d’entreprise, et non sur des puces embarquées. Les dépenses mondiales d’infrastructure cloud optimisée pour l’IA progressent de 96 % en 2026.Ce qui change réellement, c’est l’économie de l’exécution : le coût d’inférence par flux agentique devrait plus que quintupler d’ici 2028, la baisse des prix unitaires étant absorbée par des flux plus complexes.L’exécution locale devient une option crédible pour une classe d’étapes précises, portée par trois exigences non économiques : la confidentialité, la disponibilité hors réseau et la latence.La grille des trois frontières du placement (donnée, disponibilité, capacité) déplace l’unité de décision du système vers l’étape : un même flux agentique s’exécute désormais partiellement en local et partiellement dans le cloud. |
Un récit de migration, une réalité de répartition
La rentrée s’accompagne d’une vague d’annonces autour d’agents qui s’exécutent sur la machine de l’utilisateur : le modèle, les fichiers et le travail restent en local, le travail effectué sur l’appareil ne consomme aucun crédit de facturation, et le système demande une autorisation avant d’envoyer une étape vers un modèle de frontière dans le cloud. Ces produits sont réels et le mouvement est significatif. Le récit qui les accompagne, celui d’un exode hors du cloud, ne l’est pas.
Les projections des grands cabinets sont explicites sur ce point, et elles prennent le contrepied du discours ambiant. L’inférence représentera environ deux tiers du calcul d’IA en 2026, mais l’essentiel continuera de s’exécuter dans des centres de données et sur des serveurs d’entreprise équipés de puces coûteuses et énergivores, plutôt que sur les puces bon marché des appareils. Les chiffres d’investissement confirment cette lecture : les dépenses mondiales d’infrastructure cloud optimisée pour l’IA progressent de 96 % en 2026. Le cloud n’est pas en train de se vider ; il croît à un rythme rarement observé. Poser la question en termes de migration conduit donc à surveiller le mauvais indicateur.
Ce qui pousse réellement l’exécution vers le local
Si le mouvement n’est pas une migration, il n’est pas non plus une illusion. Trois exigences, dont une seule est économique, rendent l’exécution locale pertinente pour une classe d’étapes bien identifiée.
La première est économique, mais pas celle que l’on croit. Le prix unitaire du token baisse continûment, au point que l’inférence sur un modèle de très grande taille devrait coûter plus de 90 % de moins en 2030 qu’en 2025, l’exécution sur appareils figurant parmi les facteurs de cette baisse. Cette baisse ne se traduit pourtant pas en économies : le coût d’inférence par flux agentique devrait plus que quintupler d’ici 2028, parce que chaque génération de capacité consomme davantage de tokens et des tokens plus chers. Les flux agentiques absorbent la déflation unitaire et la dépassent. Déplacer les étapes à fort volume et faible complexité vers du calcul déjà acheté, celui du poste de travail ou du serveur local, devient dès lors un levier de marge, non une préférence technique.
Les deux autres exigences n’ont rien d’économique et sont souvent décisives. La disponibilité, d’abord : un agent qui doit fonctionner en atelier, en zone blanche ou en mobilité ne peut pas dépendre d’un aller-retour réseau. La confidentialité, ensuite, qui change elle aussi de nature : le risque ne porte plus seulement sur l’exposition de données personnelles, mais sur ce que les modèles infèrent des individus, au point que les incidents de confidentialité devraient majoritairement provenir de ces inférences d’ici 2029. Face à un risque qui naît de la circulation même des données vers un système d’inférence, l’exécution locale n’est pas une optimisation : c’est un contrôle.
Le vrai changement : la disparition du « par défaut »
Ces trois exigences ne déplacent pas les systèmes, elles fragmentent les décisions. Jusqu’ici, le lieu d’exécution n’était pas une décision : tout partait vers l’API d’un fournisseur, et la question ne se posait qu’en cas de contrainte réglementaire explicite. Ce qui disparaît en 2026, ce n’est pas le cloud, c’est cet automatisme.
La conséquence est plus profonde qu’un choix d’hébergement, car elle change l’unité de décision. Un flux agentique n’est pas un objet homogène : il enchaîne des dizaines d’étapes hétérogènes, dont une classification de document sur des données sensibles, une reformulation à fort volume, un raisonnement ouvert sur un cas inédit et une synthèse finale. Ces étapes n’ont ni la même sensibilité, ni les mêmes exigences de latence, ni le même besoin de capacité. Les décider ensemble, comme le fait un choix d’architecture par système, revient à aligner l’ensemble du flux sur son étape la plus exigeante, et à payer ce niveau d’exigence sur la totalité des invocations. Le placement devient donc une décision par étape, et cette granularité est le véritable objet de la période. Les architectures de référence en tiennent déjà compte, en organisant le routage dynamique des charges selon le coût, la latence, la sécurité et les contraintes réglementaires.
Une grille de décision : les trois frontières du placement
De ces constats, nous tirons une grille de placement fondée sur trois frontières. Chaque étape d’un flux agentique est examinée au regard de ces trois questions, et son lieu d’exécution en découle.
- La frontière de la donnée : cette étape manipule-t-elle des données qui ne doivent pas quitter le périmètre de l’entreprise, ou dont le traitement par un système externe créerait un risque d’inférence sur des personnes ? Si oui, l’étape s’exécute en local ou sur infrastructure maîtrisée, quel que soit son coût. Cette frontière est la seule des trois qui ne se négocie pas.
- La frontière de la disponibilité : cette étape doit-elle aboutir sans réseau, ou dans un délai que l’aller-retour vers un service distant ne permet pas de tenir ? Les usages en mobilité, en environnement industriel et en interaction temps réel franchissent cette frontière et imposent le local, indépendamment de toute considération de coût.
- La frontière de la capacité : cette étape exige-t-elle un raisonnement ouvert sur une situation inédite, que seul un modèle de frontière traite de façon fiable ? Si oui, elle part vers le cloud ; sinon, elle relève d’un modèle spécialisé exécutable localement. C’est la seule des trois frontières qui recule avec le temps, à mesure que les modèles compacts progressent.
Le coût n’apparaît pas comme une quatrième frontière, et c’est volontaire : il n’est pas un critère de même nature. Les trois frontières déterminent ce qui est possible ; le coût par tâche accomplie départage ensuite les étapes qu’elles laissent libres, c’est-à-dire la majorité. C’est là que se joue l’effet de marge : les étapes à fort volume et faible complexité, qui ne franchissent aucune frontière, sont précisément celles dont le déplacement vers du calcul déjà amorti produit le gain le plus visible.
Ce que le local ne résout pas
Deux réserves encadrent cette grille. La première : l’exécution locale déplace des coûts plutôt qu’elle ne les supprime. Elle transfère à l’entreprise la gestion d’un parc, la distribution des mises à jour de modèles sur des milliers de machines hétérogènes, la protection des poids déployés hors du centre de données et la mesure de la qualité sur des environnements que l’on ne contrôle pas entièrement. Ces coûts sont invisibles dans une comparaison de prix par token et parfaitement visibles dans un budget d’exploitation à dix-huit mois. La seconde : les modèles exécutables localement restent en retrait des modèles de frontière, souvent de plusieurs semaines à plusieurs mois de capacité. Une organisation qui place trop d’étapes en local se prive d’une amélioration continue dont elle bénéficiait sans effort. Le placement n’est donc pas un choix définitif ; c’est un arbitrage à réviser au rythme des modèles.
Ce que les organisations doivent faire
- Cartographier les flux étape par étape : inventorier les étapes des flux agentiques existants et les qualifier au regard des trois frontières. Cet exercice ne requiert aucune technologie nouvelle et révèle presque toujours que la majorité des invocations ne franchit aucune frontière, donc relève d’un arbitrage purement économique.
- Se doter d’une couche de routage : construire une couche de routage capable d’affecter chaque étape à un lieu d’exécution, et de réviser cette affectation sans reconstruction. Sans elle, la grille reste théorique et le système reste aligné sur son étape la plus exigeante.
- Instrumenter avant de déplacer : mesurer le coût par tâche accomplie et la qualité par lieu d’exécution, pour que le déplacement d’une étape vers le local repose sur une comparaison à qualité constante et non sur une intuition d’économie.
- Gouverner le parc local : traiter les modèles déployés localement comme des actifs à gouverner, avec versionnage, distribution contrôlée, journalisation des exécutions et protection des poids. Les exigences de l’infrastructure de confiance décrites dans nos précédentes publications ne s’allègent pas hors du centre de données ; elles se compliquent.
Perspectives
Le débat entre cloud et local reproduit un schéma familier des infrastructures, où chaque vague de centralisation appelle une vague de distribution, sans que l’une remplace l’autre. Ce qui distingue la période actuelle est la granularité du choix : la décision ne porte plus sur un système entier mais sur chacune de ses étapes, et elle se révise à mesure que les modèles compacts progressent et que les flux agentiques se complexifient. Les organisations qui construisent dès maintenant leur cartographie des étapes et leur couche de routage se donnent la capacité de suivre ce mouvement. Celles qui attendent de trancher entre le cloud et le local découvriront qu’elles répondaient à une question que le marché ne pose déjà plus.
Sources
Les données de marché citées dans cet article proviennent des sources suivantes. / The market data cited in this article is drawn from the following sources.
[1] Gartner (communiqué de presse), « Gartner Predicts AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028 », 17 août 2026.
[2] Gartner (communiqué de presse), « Gartner Forecasts Worldwide AI-Optimized IaaS Spending to Grow 96% in 2026 », 10 août 2026.
[3] Gartner (communiqué de presse), « Gartner Predicts Most Privacy Incidents Will Stem from AI-Generated Inferences by 2029 », 30 juillet 2026.
[4] Deloitte Insights, « 2026 Hardware and Consumer Tech Industry Outlook », juillet 2026.
[5] Deloitte Insights, « TMT Predictions 2026: The AI gap narrows but persists », juin 2026.
[6] Gartner (communiqué de presse), « Gartner Predicts That by 2030, Performing Inference on an LLM With 1 Trillion Parameters Will Cost GenAI Providers Over 90% Less Than in 2025 », 25 mars 2026.