Analyse
Inférence locale : des espoirs désormais bien réels
En quelques semaines, AMD a mis 192 Go de mémoire unifiée sur un bureau et Liquid AI a sorti un modèle de 1,7 milliard de paramètres qui bat un 9B sur les tâches d'agents. L'inférence locale progresse par les deux bouts à la fois. Ce qui change, ce qui reste à prouver, et pourquoi la licence compte autant que les benchmarks.
Pendant deux ans, « faire tourner l’IA en local » a été une promesse un peu gênée. Une démo sympathique sur un portable, puis on revenait au cloud dès qu’il fallait travailler pour de vrai.
Ma conviction, après les annonces de ces dernières semaines : ce n’est plus un espoir, c’est une trajectoire. Et elle avance par les deux bouts en même temps. Par le bas, des modèles minuscules deviennent capables de faire le travail d’un agent. Par le haut, des machines de bureau font tourner des modèles de plus de 300 milliards de paramètres. Entre les deux, un écosystème de modèles vraiment Open Source s’est densifié.
Trois mouvements, puis ce qui reste à prouver.
1/ Par le bas : le petit modèle devient un agent
Le 27 octobre, Liquid AI (une équipe issue du MIT) a publié LFM3, une famille de six modèles construits sur un même socle de 1,7 milliard de paramètres : texte, vision, audio, « omni », et deux modèles de décision [1].
Ce qui m’a arrêté, ce ne sont pas les modèles eux-mêmes, c’est l’usage visé. Liquid écrit noir sur blanc que son modèle texte a été post-entraîné pour tourner dans des harnais d’agents comme Hermes Agent, Pi ou OpenClaw, pour trier une boîte mail, gérer un agenda, faire de la veille ou envoyer un brief matinal sur WhatsApp [1]. C’est exactement ce que fait l’assistant que j’utilise tous les jours. Avec un modèle qui pèse environ 1 Go une fois quantifié en 4 bits [2]. Ceux qui ont lu mon billet sur le harnais devenu champ de bataille verront la suite logique : on n’entraîne plus seulement un modèle, on l’entraîne pour un harnais.
Les chiffres publiés par Liquid face à Qwen3.5 9B, un modèle presque six fois plus gros [1] :
- WebArena-Verified (navigation web multi-étapes) : 38,4 contre 28,9
- AutomationBench (tâches dans des applications métier) : 41,3 contre 15,1
- BFCL v4 (appel de fonctions) : 71,4 contre 62,8
Deux points techniques expliquent pourquoi c’est plus qu’un bon score.
1/ La mémoire. À 128 000 tokens de contexte, le cache KV de LFM3 occupe 1,6 Go, contre 4,3 Go pour Qwen3.5 4B [1]. Sur un téléphone ou un portable, c’est la différence entre « ça tient » et « ça ne tient pas ».
2/ L’architecture a été choisie sur le matériel réel. Liquid a sélectionné son architecture en mesurant vitesse et mémoire sur 14 combinaisons d’appareils : deux smartphones, un Raspberry Pi 5, un Mac M4 Max, un PC AMD Ryzen AI, des CPU serveur, des GPU et un NPU Qualcomm [1]. On n’optimise plus pour un benchmark théorique, on optimise pour l’appareil qui sera dans la poche ou sur le bureau.
Un partenaire cité par Liquid a testé le modèle sur 65 tâches d’agent dans de vrais environnements macOS : 64 % de réussite contre 48 % pour Qwen3.5 2B, avec 58 % de tokens en moins [1]. C’est un témoignage choisi par l’éditeur, mais c’est le bon type de mesure : une tâche finie, pas un token généré.
Les modèles de décision, enfin, me parlent particulièrement. d1-2B ne rédige pas de réponse : on lui donne un ticket, une facture, une capture d’écran ou une note vocale et une liste de questions, il répond à toutes en un seul passage, chacune avec une probabilité calibrée [1]. J’en parlais dans mon article sur le query routing : le bon modèle pour la bonne tâche. Pour trier, router ou classer, générer du texte est un gaspillage.
Côté voix, LFM3-Audio couvre 18 langues, avec un premier token en 50 ms et une synthèse vocale à environ 87 fois le temps réel sur un seul cœur de M4 Max [1]. Mercedes-Benz explore déjà ce type de modèle pour son assistant embarqué, « sans dépendre du cloud » [1].
2/ Par le haut : 192 Go sur un bureau
À l’autre bout, AMD a fait le mouvement inverse : pas plus petit, mais plus de mémoire au plus près de l’utilisateur.
En août, je constatais avec Kimi K3 que la barrière n’était plus la performance des modèles ouverts, mais la place pour les faire tourner. AMD apporte une partie de la réponse.
Les processeurs Ryzen AI Max et Max PRO 400, disponibles chez les constructeurs depuis le 28 septembre, combinent jusqu’à 16 cœurs Zen 5, 40 unités de calcul graphique et un NPU de 55 TOPS, sur une mémoire unifiée qui monte à 192 Go, dont 160 Go utilisables par le GPU. La génération précédente plafonnait à 128 Go, dont 96 Go pour le GPU [3]. AMD revendique le premier processeur x86 client capable de faire tourner un modèle de plus de 300 milliards de paramètres en 4 bits, sans délester vers le cloud [3].
Le 12 octobre, AMD a présenté la nouvelle Ryzen AI Halo Developer Platform, un mini-PC construit autour du Ryzen AI Max+ PRO 495, positionné pour faire tourner plusieurs agents en parallèle, chacun avec son propre cache [4]. Prix affiché : 7 299,99 $ en version Linux, une version Windows étant annoncée [5]. Les assembleurs suivent : TOPC propose une machine équivalente à 6 399 $ [6], iBUYPOWER une version 128 Go à partir de 3 999 $ [7].
Le point qui relie les deux histoires : AMD est partenaire de lancement de LFM3 et son processeur Ryzen AI fait partie des machines sur lesquelles l’architecture a été optimisée [1]. Les fondeurs ont compris que la bataille se joue aussi sur le poste de travail.
3/ Entre les deux : l’Open Source a rempli le milieu
Ce qui rend le tableau crédible, c’est le milieu de gamme. En 2026, les modèles sérieux sous licence Apache 2.0 se sont multipliés :
- Gemma 4 (Google), sorti le 2 avril, du E2B au 31B, est la première génération Gemma publiée sous une licence approuvée par l’OSI [8].
- Qwen3.5 (Alibaba) a décliné quatre petits modèles denses de 0,8B à 9B, sous Apache 2.0 [9].
- Mistral Small 4, sorti le 16 mars, est un mélange d’experts de 119 milliards de paramètres dont 6,5 milliards actifs, sous Apache 2.0 [10]. 🇫🇷
Faites le calcul : un modèle de cette taille quantifié en 4 bits pèse de l’ordre de 60 Go. Sur le papier, il tient largement dans les 160 Go qu’une machine Halo met à disposition du GPU. C’est une estimation de ma part, pas un test, mais elle dit quelque chose : un modèle européen, vraiment Open Source, sur une machine de bureau. C’est déjà beaucoup !
Ce qui reste à prouver
Je suis enthousiaste, pas naïf. Quatre réserves.
1/ Les chiffres sont ceux des éditeurs. Tous les scores de LFM3 cités ici viennent de Liquid AI. Il faudra des évaluations indépendantes, et surtout des essais sur nos propres tâches, en français.
2/ Les petits modèles ont des limites claires. Liquid le reconnaît : sur le code agentique et les connaissances, la taille compte encore. LFM3 reste derrière Qwen3.5 9B sur SWE-bench Verified (43,4 contre 51,2), sur GPQA Diamond (63,4 contre 80,4) et sur la recherche d’information à 128 000 tokens (65,6 contre 87,1) [1]. Un contexte de 256 000 tokens ne garantit pas qu’on y retrouve tout.
3/ Le haut de gamme local reste cher. 7 300 $ pour une plateforme de développement, ce n’est pas l’équipement d’un agent public ou d’un salarié. Le bon raisonnement est celui du coût total : une machine amortie face à une facture de tokens qui ne cesse de grimper.
4/ La licence. C’est pour moi le point le plus important. Les poids de LFM3 sont téléchargeables, mais sous « LFM Open License v1.0 » : l’usage commercial n’est accordé qu’aux entités dont le chiffre d’affaires annuel reste sous 10 millions de dollars [11]. Ce n’est pas une licence Open Source au sens de l’OSI. « Open-weight » n’est pas « Open Source », et une entreprise, une collectivité ou un éditeur qui dépasse ce seuil ne peut pas construire dessus sans négocier. Google a fait le chemin inverse avec Gemma 4, en passant à Apache 2.0 précisément pour cette clarté [8].
La souveraineté ne se télécharge pas, elle se licencie.
Ce que j’en retiens
L’architecture qui se dessine est simple à énoncer :
1/ Local par défaut pour tout ce qui est fréquent, sensible ou répétitif : trier, classer, extraire, transcrire, orchestrer. Les petits modèles et les modèles de décision font ce travail, sur le poste ou sur un serveur de l’organisation.
2/ Une machine de bureau ou un serveur interne pour les gros modèles Open Source quand il faut raisonner, rédiger, coder.
3/ Le cloud en exception, choisi, gouverné, mesuré. C’est tout le sens de l’AI Gateway que nous avons publiée chez LINAGORA : savoir quel modèle traite quelle donnée, à quel coût.
Pour nos produits, c’est une bonne nouvelle. Un assistant comme celui de Twake.ai, la transcription et la traduction en temps réel de LinTO.ai, la recherche documentaire d’OpenRAG.ai : tout cela peut descendre au plus près des données, à condition de choisir des modèles dont la licence nous laisse vraiment libres.
L’inférence locale n’est plus une promesse de démo. C’est une option d’architecture. À nous, éditeurs européens, de la rendre simple, gouvernable et vraiment Open Source. 🇪🇺
Si vous testez ces modèles ou ces machines dans votre organisation, n’hésitez pas à me contacter : je suis preneur de vos retours.
Sources
- Liquid AI, « Introducing LFM3: Every Modality for Specialized Intelligence », 27 octobre 2026.
- « LFM3 : l’IA locale franchit un nouveau cap (6× plus petit) », vidéo YouTube.
- AMD, « How AMD Ryzen AI Max PRO 400 Series Processors Bring Local Agentic AI to Business Customers », 28 septembre 2026.
- AMD, « Meet the Next AMD Ryzen AI Halo », 12 octobre 2026.
- WindowsForum, « AMD Ryzen AI Max+ PRO 495 Developer Platform ».
- TechPowerUp, « TOPC Launches $6,399 AMD Ryzen AI Max+ Pro 495 Mini PC Workstation ».
- TechPowerUp, « iBUYPOWER Unveils New Workstation AMD AI Halo Mini PC », 9 octobre 2026.
- Google Open Source Blog, « Gemma 4: Expanding the Gemmaverse with Apache 2.0 », 2 avril 2026.
- Artificial Analysis, « Qwen3.5 small models: Everything you need to know », 5 mars 2026.
- Mistral AI, « Introducing Mistral Small 4 », 16 mars 2026.
- Hugging Face, LiquidAI/LFM3-1.7B, fichier LICENSE (LFM Open License v1.0).
Commentaires
Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.