Carnet souverain

Analyse

Tout ce que vous avez toujours voulu savoir sur les World Models et JEPA

Après le passage de Yann LeCun dans « À la French », j'ai creusé JEPA, les modèles du monde, LeJEPA, LeWorldModel, AMI Labs et Project Tapestry. De quoi poser le vocabulaire une fois pour toutes, et voir où se joue la souveraineté.

ia-ouverteworld-modelsjepasouverainetélecunami-labs
JEPA et world models : le pari de Yann LeCun contre l'empire des LLM.
JEPA et world models : le pari de Yann LeCun contre l'empire des LLM.

Pourquoi cet article

J’ai écouté Yann LeCun dans le dernier épisode de la saison 1 du podcast « À la French », où Jean-Baptiste Kempf, Steeve Morin et Mehdi Medjaoui l’ont reçu. Plus d’une 1h30 de discussion franche sur l’avenir de l’IA, les LLM, les world models, l’open source et la souveraineté. Passionnant. Mais quand la conversation est entrée dans le dur, sur JEPA et les modèles du monde, j’ai décroché par moments malgré leurs qualités techniques et intellectuelles qu’on leur connaît. Les animateurs eux-mêmes ont bataillé pour faire préciser certaines notions.

Et à la fin, je me suis rendu compte que je n’aurais pas su réexpliquer proprement ce que Yann LeCun défend, ni pourquoi il a quitté Meta pour monter sa société.

Alors j’ai fait ce que je conseille à tout le monde. J’ai creusé. Avec des agents, avec un LLM, en remontant aux papiers d’origine. Cet article est le résultat de ce travail. Son but est simple, démocratiser ces concepts, poser le vocabulaire une bonne fois, et rendre lisible la stratégie de Yann LeCun avec sa nouvelle société, AMI Labs. Si vous avez lâché sur les mêmes passages que moi, cet article est fait pour vous, mais comme l’a souligné Jean-Baptiste, il faut se replonger dans quelques notions sur les modèles d’IA en général et ne pas avoir peur d’avoir quelques équations mathématiques pas forcément les plus communes.

Il y a une image qui revient sans cesse dans la bouche de Yann LeCun. Quand vous attrapez une balle, votre cerveau ne calcule pas la trajectoire de chaque photon. Il ne dessine pas l’image future pixel par pixel. Il fait tourner une petite simulation compressée. La balle va vite, elle va par là, la gravité tire vers le bas, ma main doit être ici dans une demi-seconde. Ce modèle interne du monde, minuscule et abstrait, aucun grand modèle de langage ne le possède. C’est toute la thèse. Et depuis 2026, c’est aussi un pari à plus d’un milliard de dollars, posé à Paris.

Je vous propose de partir de situations très concrètes, entre aviation et radio-modélisme, pour sentir l’intérêt et surtout matérialiser les limites des IA génératives actuelles Open Source ou pas. Puis on prend le temps d’expliquer les notions de base, parce qu’on ne peut pas juger ce débat sans elles. Espace latent, gradients, apprentissage auto-supervisé. On regarde ensuite pourquoi les LLM sont structurellement limités, comment JEPA fonctionne concrètement, et où en est vraiment la recherche. On termine sur ce qui m’intéresse le plus, la dimension souveraine de cette histoire.

Deux situations, entre aviation et radio-modélisme

Avant d’entrer dans le dur, prenons un peu d’altitude, au sens propre. Yann LeCun a deux passions, la voile et la construction d’avions télécommandés, et ce sont ses propres exemples pour expliquer ce qu’est un modèle du monde. Ça tombe bien, je partage avec lui ce terrain de jeu, l’aviation et le radio-modélisme.

Un mot d’abord sur sa façon de faire. Quand il dessine un profil d’aile, il ne lance pas de simulation de fluide. Il y va à la louche, parce qu’il a dans la tête une simulation mentale de ce qui va se passer. Ce petit simulateur intérieur, appris par l’expérience, c’est exactement ce qu’on cherche à donner à une machine avec JEPA. Voici deux situations où cela change tout, et où un LLM montre ses limites.

Rattraper un décrochage. Ton aile décroche en virage serré, avec une rafale de travers. Un modèle du monde fait ce que ton cerveau fait déjà. À partir de l’état courant, assiette, vitesse, angle, et d’une action envisagée sur les gaz et la profondeur, il prédit l’état juste après. Elle se rétablit, ou elle part en vrille. Il essaie deux ou trois gestes en pensée, garde celui qui récupère, et l’exécute. Un LLM, lui, connaît la recette et te récitera qu’il faut rendre la main pour reprendre de la vitesse. Mais il ne simule rien. Il ne sait pas que sur ton modèle précis, à cet angle et à cette vitesse, ton geste va sur-corriger. Du par cœur, pas de la compréhension.

Poser par vent de travers. À l’approche, le vent te pousse en crabe. Un modèle du monde imagine plusieurs séquences d’actions, angle de crabe, gaz, instant de l’arrondi, prédit la trajectoire qui en découle, et choisit celle qui pose propre. C’est de la planification, et elle se joue dans un espace abstrait. Détail crucial, tu ne peux pas prédire chaque rafale au détail près, et c’est justement pour ça qu’on prédit une représentation abstraite plutôt que des pixels. On garde la dynamique prévisible de l’avion, on jette le bruit de la turbulence. Un LLM n’a aucune notion de cet air continu et bruité. Il ne déroule pas une trajectoire geste après geste, et son mode autorégressif ferait diverger l’erreur très vite. Il te donnera la théorie du crabe, pas le bon geste au bon instant.

À partir de l'état actuel en vent de travers, le modèle du monde imagine plusieurs futurs selon l'action, gaz trop fort qui fait dépasser, crabe insuffisant qui fait dériver, bon crabe et arrondi qui pose propre, puis choisit et exécute le bon geste.
Imaginer puis agir. À partir de l'état actuel, le modèle du monde imagine le résultat de plusieurs gestes, puis exécute celui qui pose propre. Un LLM récite la théorie du crabe, mais ne simule pas et ne choisit pas le geste au bon instant.

Le fil rouge des deux, c’est l’efficacité d’apprentissage que Yann LeCun aime rappeler. On apprend un nouvel avion en quelques vols, comme on apprend à conduire en une quinzaine d’heures, parce qu’on se fabrique vite un modèle du monde. Un système qui n’empile que des recettes, lui, ne s’adapte jamais à une cellule qu’il n’a jamais vue. Maintenant qu’on voit l’intérêt, entrons dans le dur. Et d’abord, pourquoi les LLM sont structurellement limités.

Le péché originel des LLM

Un grand modèle de langage fait une seule chose, et il la fait à une échelle vertigineuse. Il prédit le mot suivant. On lui montre « le chat est assis sur le », il prédit « tapis ». Répétez cela sur des milliers de milliards de mots, ajoutez de la puissance de calcul, et vous obtenez GPT, Claude ou Gemini. Pour le texte et le code, ça marche remarquablement bien. Personne de sérieux ne dit le contraire.

Le problème n’est pas la performance. Le problème est architectural. Yann LeCun le répète depuis son papier de position de 2022. Un LLM n’a pas de modèle du monde. Il apprend des corrélations statistiques entre les mots, pas comment les événements physiques se causent les uns les autres. Demandez à un modèle où finit une boîte que vous poussez vers la gauche. Il vous répond avec aplomb, parfois juste, parfois faux, mais toujours sans jamais simuler quoi que ce soit. Le texte est une ombre du réel. Prédire l’ombre n’est pas comprendre l’objet.

Il y a un deuxième défaut, plus subtil, et c’est le plus dévastateur. Le mode autorégressif. Le modèle génère un mot, puis le remet en entrée pour générer le suivant, de gauche à droite, sans retour en arrière. Chaque mot est tiré d’une distribution de probabilité. Chaque tirage peut légèrement dévier. Et les erreurs s’accumulent. Yann LeCun formalise cela d’une manière brutale. Si à chaque mot il existe une petite probabilité de sortir de la trajectoire correcte, alors la probabilité de rester juste sur une longue séquence décroît exponentiellement avec la longueur. Plus le texte est long, plus la dérive est mécaniquement probable. L’hallucination n’est pas un bug qu’on corrigera avec un correctif. Elle est inscrite dans la manière dont ces modèles produisent leurs sorties.

Troisième limite. Un LLM ne planifie pas. Il ne raisonne pas au sens fort. Il ne cherche pas parmi plusieurs futurs possibles celui qui satisfait un objectif. Il produit un réflexe, très sophistiqué, mais un réflexe. Les psychologues parleraient de Système 1, la pensée rapide et automatique, par opposition au Système 2, la délibération lente et coûteuse. Les LLM sont des machines de Système 1 déguisées en penseurs.

Yann LeCun pointe un détail d’architecture qui résume tout. Dans un LLM, la seule information qui passe d’une étape de calcul à la suivante, c’est un token, un symbole discret qui tient dans deux ou trois octets. À chaque pas, la richesse de l’état interne est écrasée dans ce goulot minuscule. Or nous, quand nous raisonnons, nous ne fabriquons pas des mots l’un après l’autre. Nous manipulons des modèles mentaux dans un espace continu. Demandez à quelqu’un trois vecteurs du plan linéairement indépendants. Il visualise, il voit que le troisième est toujours une combinaison des deux autres, et il répond que c’est impossible, sans dérouler le moindre théorème. Pour Yann LeCun, le vrai raisonnement se passe dans l’espace latent, pas dans la file des tokens.

Et puis il y a la question de l’efficacité. Un enfant apprend la permanence des objets et l’intuition de la gravité en quelques mois, en regardant le monde, sans qu’on lui récite les lois de Newton. Un corbeau résout des énigmes dignes d’un enfant de cinq ans. Nos modèles, eux, ont besoin de dévorer l’équivalent de plusieurs vies humaines de données. Quelque chose manque. Pour Yann LeCun, ce quelque chose est un modèle du monde appris par l’observation.

Quelques notions pour suivre

Avant d’aller plus loin, posons le vocabulaire. Ces notions sont la clé de tout le reste.

L’espace latent

Une donnée brute vit dans un espace immense et redondant. Une image de mille pixels sur mille, c’est un million de nombres, dont l’immense majorité ne dit rien d’utile. Un réseau de neurones apprend à compresser cette donnée. Il la transforme en un petit vecteur de nombres, quelques dizaines ou quelques centaines de valeurs, qui capture ce qui compte et jette le reste. Cet espace de représentation compressé, c’est l’espace latent. Le mot latent veut dire caché. Ce sont les variables cachées derrière la surface des données.

Une analogie. Pour décrire un visage, vous pourriez lister la couleur de chaque pixel. Personne ne fait ça. Vous dites plutôt quelques traits. L’âge, l’angle de la tête, l’expression, l’éclairage. Ces quelques molettes suffisent à situer le visage. Chacune de ces molettes est une dimension de l’espace latent. Deux points proches dans cet espace correspondent à deux choses semblables. Deux points éloignés, à deux choses différentes. Le modèle LeWorldModel dont on parlera plus bas compresse chaque image d’une vidéo en un seul vecteur de 192 dimensions. Environ deux cents fois moins d’information que ce qu’utilisent les approches concurrentes.

Le vecteur lui-même, ses coordonnées dans l’espace latent, on l’appelle une représentation, ou un embedding. Retenez ce mot, il est partout.

Le vecteur et la matrice de représentations

Un vecteur, c’est simplement une liste ordonnée de nombres. L’embedding dont on vient de parler est un vecteur, les coordonnées d’un point dans l’espace latent. Un vecteur de 192 nombres, c’est un point dans un espace à 192 dimensions. On ne peut pas se le représenter dans sa tête, mais les règles y sont les mêmes qu’en deux ou trois dimensions, on peut mesurer des distances et des angles.

Faites maintenant passer beaucoup d’exemples dans l’encodeur. Chaque exemple ressort sous forme d’un vecteur. Empilez-les, et vous obtenez une matrice, un simple tableau de nombres. Chaque ligne est un exemple, sa représentation complète. Chaque colonne est une dimension de l’espace latent, une variable, vue à travers tous les exemples. Cette matrice est l’objet central sur lequel travaillent les méthodes qui évitent l’effondrement, un piège qu’on détaillera plus loin. Les méthodes contrastives agissent sur les lignes, elles font en sorte que deux exemples différents aient des lignes différentes. Les méthodes par régularisation agissent plutôt sur les colonnes, elles font en sorte que chaque variable porte une information différente des autres. Et SIGReg remodèle le nuage entier de ces points pour qu’il suive une gaussienne. Gardez cette image en tête, lignes égale exemples, colonnes égale variables. Elle rend limpide tout ce qui suit.

Une matrice où chaque ligne est un exemple et chaque colonne une dimension de l'espace latent. Le contrastif agit sur les lignes, la régularisation sur les colonnes, SIGReg sur le nuage entier.
La matrice des représentations. Chaque ligne est un exemple, chaque colonne une variable de l'espace latent. Le contrastif joue sur les lignes, la régularisation sur les colonnes, SIGReg remodèle tout le nuage vers une gaussienne.

L’espace abstrait

L’espace latent est un espace abstrait. Abstrait ne veut pas dire vague, ça veut dire débarrassé des détails inutiles. La réalité peut se décrire à mille niveaux. Pour prédire ce qui va se passer entre deux personnes dans une minute, on pourrait en théorie simuler chaque particule de la pièce. C’est impossible en pratique, et de toute façon la simulation divergerait aussitôt. Le bon niveau, ici, ce n’est pas la physique des particules, c’est la psychologie. Plus abstrait, moins détaillé, mais bien plus utile pour prédire loin. Un modèle du monde doit donc faire deux choses à la fois, choisir le bon niveau d’abstraction, et apprendre la bonne représentation à ce niveau. C’est là que tout se joue, et c’est ce qui rend le problème difficile. Il existe des milliers de modèles du monde possibles, selon le niveau et la représentation que l’on retient.

Une échelle d'abstraction, des particules en bas à la psychologie en haut. Plus on monte, plus c'est abstrait et utile pour prédire loin.
L'échelle d'abstraction. Pour prédire ce qui va se passer, on ne descend pas au niveau des particules, on choisit le niveau utile, ici la psychologie. Un modèle du monde choisit son niveau et apprend la représentation qui va avec.

Les gradients et la descente de gradient

Un réseau de neurones, c’est des millions ou des milliards de paramètres. Voyez chaque paramètre comme une molette. Entraîner le réseau, c’est régler toutes ces molettes pour que le modèle se trompe le moins possible. On mesure l’erreur avec une fonction de perte, un nombre unique qui vaut zéro quand tout est parfait et qui grimpe quand le modèle se trompe.

Comment régler des milliards de molettes en même temps ? Avec le gradient. Le gradient, c’est la liste des pentes. Pour chaque molette, il indique dans quel sens la tourner, et de combien, pour faire baisser l’erreur. C’est une dérivée, au sens du lycée, mais calculée pour chaque paramètre à la fois. Une fois qu’on a le gradient, on fait un petit pas dans le sens qui fait descendre l’erreur. Puis on recommence. Encore et encore. C’est la descente de gradient.

À gauche, une bille descend une vallée en suivant la pente locale, la descente de gradient qui minimise l'erreur d'entraînement. À droite, deux courbes au fil des époques, l'erreur d'entraînement qui baisse sans cesse et l'erreur de validation qui remonte après un creux, ce qui signale le sur-apprentissage, avec le point d'arrêt optimal.
À gauche, la descente de gradient minimise l'erreur d'entraînement, pas à pas, en suivant la pente. À droite, le sur-apprentissage. L'erreur d'entraînement continue de baisser, mais l'erreur de validation remonte après un creux. Le bon arrêt se situe à ce creux, pas au fond de la vallée d'entraînement.

L’image classique, c’est le brouillard. Vous êtes sur une montagne, dans un brouillard épais, et vous voulez rejoindre la vallée. Vous ne voyez rien de loin. Mais vous sentez la pente sous vos pieds. Alors vous faites un pas dans la direction qui descend le plus. Puis un autre. Le gradient, c’est cette pente sous vos pieds. La descente de gradient, c’est la marche vers le fond de la vallée, qui correspond à l’erreur minimale.

Reste une question. Comment calculer efficacement la pente pour des milliards de molettes ? Grâce à un algorithme nommé rétropropagation. Il exploite la règle de dérivation en chaîne des mathématiques pour propager l’erreur de la sortie vers l’entrée, couche par couche, en une seule passe arrière. Sans lui, l’apprentissage profond serait impossible en pratique. C’est le moteur silencieux de toute l’IA moderne.

Un dernier mot, car il éclaire tout l’entraînement. Descendre le plus bas possible sur les données d’entraînement n’est pas le but. Prenez une image simple. Un élève qui, au lieu d’apprendre la méthode, mémorise par cœur le corrigé des annales, fautes de frappe comprises. Sur ces annales précises, les données d’entraînement, il a tout juste. Le jour du vrai examen, avec des sujets nouveaux, les données de validation, il se plante, car il a retenu les détails au lieu de la règle générale. Un réseau fait pareil. Plus on l’entraîne, plus il colle aux exemples vus. Au début c’est bon, il apprend de vraies régularités. Puis vient un point de bascule où il se met à mémoriser le bruit propre au jeu d’entraînement. C’est le sur-apprentissage, l’overfitting en anglais.

On le repère en suivant deux courbes au fil de l’entraînement, comme sur le volet droit du schéma ci-dessus. La perte sur les données d’entraînement continue de baisser. Mais la perte sur des données de validation, jamais vues, finit par remonter. Le moment où les deux courbes divergent, c’est le point de bascule. Le bon modèle n’est donc pas celui qui minimise l’erreur d’entraînement, c’est celui qui s’arrête au creux de la courbe de validation. On appelle ce réflexe l’arrêt anticipé, ou early stopping. Retenez cette idée, elle revient plus loin quand on parle de la robustesse des world models, qui s’effondrent parfois sous de légers changements.

L’apprentissage auto-supervisé

Étiqueter des données à la main coûte cher et ne passe pas à l’échelle. L’astuce, c’est de laisser le modèle fabriquer sa propre tâche. On cache une partie de l’entrée et on lui demande de la prédire à partir du reste. Cachez un mot dans une phrase, prédisez le mot. Cachez une région d’une image, prédisez la région. Le monde devient son propre professeur. C’est ce qui permet d’exploiter les océans de vidéo non étiquetée qui dorment sur internet. Et c’est précisément le terrain de jeu de JEPA.

Comment JEPA fonctionne, le mécanisme en clair

JEPA veut dire Joint Embedding Predictive Architecture. Architecture prédictive à plongement conjoint, si on tient à le franciser. Le nom est indigeste, l’idée est limpide.

Yann LeCun résume l’objectif d’un modèle du monde en une phrase. Étant donné l’état du monde à l’instant présent, et une action que j’envisage de prendre, puis-je prédire l’état du monde juste après. Rien de plus. Attention, ce n’est pas forcément de la 3D, ce n’est pas un moteur de jeu vidéo, et surtout ce n’est pas une reconstruction de pixels. C’est une représentation abstraite. C’est la physique intuitive qu’un bébé acquiert en quelques mois, celle qui nous souffle que pousser un verre par le bas le fait glisser, et le pousser par le haut le fait peut-être basculer. Un chat, ou même un rat, possèdent ce modèle. Aucun LLM ne l’a.

Un modèle génératif classique, pour prédire l’avenir d’une scène, doit reconstruire tous les pixels du futur. C’est ruineux et surtout absurde. Une grande partie des pixels sont imprévisibles. Les feuilles qui frémissent, le grain d’une texture, le scintillement de l’eau. Forcer le modèle à prédire ces détails, c’est gaspiller toute sa capacité sur du bruit. JEPA fait autre chose. Il prédit la représentation du futur dans l’espace latent, jamais les pixels.

Voici le mécanisme, étape par étape.

  1. Deux vues, deux encodeurs. On prend le contexte, ce que l’on observe maintenant, et la cible, l’état à prédire, par exemple l’instant suivant. Chacune passe dans un encodeur qui la transforme en embedding, un point dans l’espace latent.
  2. Un prédicteur. À partir de l’embedding du contexte, un petit réseau prédit l’embedding de la cible. Toute la prédiction se joue dans l’espace abstrait.
  3. Une perte. On compare l’embedding prédit à l’embedding réel de la cible. La distance entre les deux, c’est l’erreur à minimiser.
  4. La descente de gradient. Elle ajuste les poids des encodeurs et du prédicteur pour réduire cette distance, exactement comme la bille qui descend la vallée.
  5. Le garde-fou. Sans contrainte, le système triche et s’effondre, on y vient juste après. Une régularisation force les représentations à rester étalées et informatives.
Une observation en pixels est compressée par un encodeur en un point de l'espace latent, puis un prédicteur estime la représentation de l'état futur, comparée à la cible réelle. La perte est la distance entre les deux, dans l'espace latent.
Le mécanisme JEPA. L'encodeur compresse l'observation en un point de l'espace latent. Le prédicteur estime la représentation de l'état futur. La perte mesure la distance entre la prédiction et la cible réelle, dans l'espace abstrait, jamais dans les pixels.

Ce qu’on obtient au bout, c’est un espace latent où les variables qui comptent se retrouvent encodées. Positions, vitesses, dynamique. Le modèle peut alors imaginer l’état futur et, plus tard, planifier une action, sans jamais générer une seule image. C’est là toute la différence de philosophie. Un LLM apprend à imiter la surface, les mots. Un JEPA cherche à apprendre les causes cachées, les variables latentes qui produisent ce qu’on observe.

Un mot sur le prédicteur, car c’est lui qui fait le gros du travail. Ce n’est ni un générateur de pixels ni un producteur de tokens. C’est un réseau strictement causal, bâti comme un GPT, à une différence près, il manipule des vecteurs et non des symboles discrets. On lui donne la séquence des représentations passées, et pour chaque instant il ne peut regarder que ce qui précède, jamais l’avenir. Sa tâche, produire la représentation de l’instant suivant. Deux écarts avec un LLM. D’abord, pas de tokenisation, on peut lui donner directement de la vidéo, un encodeur résumant par exemple seize ou soixante-quatre images en un seul vecteur. Ensuite, dans un modèle du monde, ce prédicteur est conditionné par l’action envisagée. C’est ce qui transforme une simple prédiction du futur en outil de planification, on lui propose une action, il imagine l’état qui suit, et on recommence pour chaque action candidate.

Le prédicteur reçoit la séquence des représentations passées, ne regarde que le passé, et produit la représentation de l'instant suivant, conditionné par une action.
Le prédicteur. Un réseau causal à la GPT, mais sur des vecteurs, pas des tokens. Il ne regarde que le passé, il est conditionné par l'action envisagée, et il produit la représentation de l'instant suivant.

Le piège de l’effondrement

Il y a un os, et c’est l’argument numéro un des détracteurs de JEPA. Prenez une vidéo. On encode une première partie, puis une seconde, et on entraîne le prédicteur à retrouver la représentation de la seconde à partir de la première. Si vous demandez seulement de minimiser l’erreur de prédiction, le modèle trouve une triche imparable. Il ignore l’entrée et projette absolument tout vers le même vecteur constant. La prédiction colle parfaitement à la cible, puisque les deux valent toujours la même chose. La perte tombe à zéro. Et le modèle n’a strictement rien appris. On appelle ce désastre l’effondrement de représentation, en anglais le collapse.

Deux plans latents côte à côte. À gauche, sans garde-fou, tous les points s'effondrent sur un point unique. À droite, avec la régularisation gaussienne, les représentations restent étalées en un nuage informatif.
L'effondrement de représentation. À gauche, sans garde-fou, tous les points implosent sur un seul, perte nulle mais rien d'appris. À droite, la régularisation gaussienne (SIGReg) force les représentations à rester étalées et informatives.

Toute l’histoire technique de JEPA est une lutte contre cet effondrement. Les premières solutions étaient lourdes. Jusqu’à sept termes de perte à équilibrer, des moyennes mobiles exponentielles des poids, des stop-gradients pour bloquer certains chemins d’apprentissage, ou des encodeurs pré-entraînés massifs comme DINOv2 servant de béquille. Ça marchait, mais c’était fragile, coûteux et difficile à reproduire.

La percée porte un nom. En 2025, Yann LeCun et Randall Balestriero introduisent LeJEPA, et sa régularisation baptisée SIGReg, pour Sketched Isotropic Gaussian Regularization. L’idée est élégante. On veut que le nuage des représentations remplisse l’espace au lieu de s’effondrer, plus précisément qu’il suive une gaussienne isotrope, aussi étalée dans toutes les directions. Un théorème donne la clé. Si toutes les projections du nuage sur une droite, dans toutes les directions, sont gaussiennes, alors le nuage entier l’est. On tire donc plein de directions au hasard, et pour chacune on sait mesurer l’écart entre la distribution obtenue et une gaussienne, et surtout calculer son gradient, c’est-à-dire dans quel sens pousser chaque point. Une seule contrainte propre remplace la forêt de bricolages précédents. L’effondrement devient impossible et l’entraînement redevient stable. Il reste un chantier ouvert, faire découvrir au système la dimension et la forme réelles des données, car toutes ne se ramènent pas à une gaussienne.

JEPA n’est pas né en 2025, une idée de trente ans

On présente souvent JEPA comme une nouveauté de 2025. C’est faux, et c’est ce qui rend l’histoire intéressante. Les premiers papiers de Yann LeCun sur l’apprentissage par plongement conjoint datent de 1993.

Frise de 1993 à 2026, du plongement conjoint et de la signature aux réseaux siamois, au keynote NIPS 2016, à Barlow Twins et VICReg, puis I-JEPA, V-JEPA, V-JEPA 2, LeJEPA et LeWorldModel.
Trente ans d'une même idée, du plongement conjoint de 1993 à LeWorldModel en 2026, en passant par les réseaux siamois, le keynote de 2016 et la lignée V-JEPA.

L’origine tient dans une contrainte très concrète, au temps d’AT&T. Comment stocker une signature manuscrite sur la bande magnétique d’une carte de crédit, où il ne reste que quatre-vingts octets. La réponse, un réseau convolutif qui transforme la signature en un vecteur de quatre-vingts nombres. On l’entraîne pour que deux signatures d’une même personne donnent des vecteurs proches, et deux signatures de personnes différentes des vecteurs éloignés. C’est exactement ce qu’on appelle aujourd’hui l’apprentissage contrastif. Une fonction de perte à deux forces, une qui attire ce qui doit se ressembler, une qui repousse ce qui doit différer. Ce principe est partout dans l’IA actuelle. Quand un LLM analyse une image, il s’appuie le plus souvent sur un module de perception entraîné par une méthode contrastive, CLIP, proposée par OpenAI, qui rapproche une image de sa description et éloigne les descriptions qui ne collent pas.

Yann LeCun a ravivé ces réseaux siamois au milieu des années 2000, avec ses étudiants Sumit Chopra et Raia Hadsell, aujourd’hui directrice de recherche à DeepMind. C’est de cette famille de méthodes que venait le système de reconnaissance de visages de Facebook. Et c’est là qu’apparaît une intuition géométrique clé. Si vous photographiez un objet sous tous les angles, chaque image est un point dans un espace à un million de dimensions, mais l’ensemble de ces points forme, topologiquement, un simple cercle. Le monde a une structure cachée, de basse dimension, sous une surface à très haute dimension. Trouver cette structure, c’est tout l’enjeu.

Puis, en 2016, dans un keynote à la conférence NIPS, Yann LeCun pose publiquement la thèse. Le futur de l’IA, ce sont les modèles du monde. Des systèmes qui apprennent à prédire l’effet d’une action, de façon auto-supervisée, et qu’on pilote avec un objectif. L’idée était là depuis longtemps, mais la recherche n’était pas mûre.

Le vrai obstacle, c’est l’effondrement. Trois familles de méthodes ont été inventées pour l’éviter. Les méthodes contrastives, celles de la signature, efficaces mais gourmandes en contre-exemples. Les méthodes par distillation, où deux encodeurs identiques prédisent l’un l’autre, et où l’on n’entraîne qu’un seul côté pendant que l’autre suit une moyenne mobile de ses poids. DINO à FAIR Paris, BYOL à DeepMind, puis I-JEPA et V-JEPA fonctionnent ainsi. Elles passent à l’échelle, mais pour une raison encore mal comprise, sans théorie propre. Et enfin les méthodes par régularisation, qui cherchent à maximiser l’information portée par les représentations. Cette piste remonte aux années 1980, à des travaux de Geoffrey Hinton et Sue Becker. Elle a donné Barlow Twins, avec le chercheur français Stéphane Deny, puis VICReg, avec Adrien Bardes, en thèse à FAIR sous la direction de Jean Ponce et de Yann LeCun, aujourd’hui passé chez AMI Labs. VICReg décorrèle les variables. SIGReg, l’étape suivante, va plus loin en cherchant à les rendre statistiquement indépendantes. La boucle est bouclée, trente ans après la signature.

Côté applications, la même idée a gravi les échelons. I-JEPA sur l’image, qui apprend à prédire la représentation d’une région à partir d’autres régions. V-JEPA sur la vidéo. V-JEPA 2, en juin 2025, entraîné sur d’énormes quantités de vidéo issue d’internet complétées par un peu de trajectoires de robot, avec des résultats de compréhension, de prédiction et de planification. Une version affinée, V-JEPA 2.1, en mars 2026. Et LeJEPA, qui apporte SIGReg. Restait à tout assembler en un modèle du monde entraînable d’un seul bloc. C’est le vrai événement de 2026.

Les deux jalons de 2026

Deux publications comptent, l’une pratique, l’autre théorique. Ce sont elles qui donnent de la chair à la thèse.

LeWorldModel, la preuve que ça marche

Le 13 mars 2026, Lucas Maes, Quentin Le Lidec, Damien Scieur, Yann LeCun et Randall Balestriero publient LeWorldModel, en abrégé LeWM. C’est le premier JEPA qui s’entraîne de bout en bout directement depuis les pixels bruts, de façon stable, sans aucune des béquilles habituelles. Les auteurs viennent de Mila, de NYU, de Samsung SAIL et de Brown. La référence est arXiv 2603.19312.

Les chiffres sont ce qui frappe. Deux termes de perte seulement, une prédiction du prochain embedding et le régularisateur gaussien. Le nombre d’hyperparamètres de perte à régler passe de six à un. Environ 15 millions de paramètres. Un entraînement qui tient sur un seul GPU en quelques heures. Pas de centre de données, pas d’encodeur géant gelé en soutien. Un chercheur seul, avec une carte graphique, peut entraîner un modèle de planification conscient de la physique dans l’après-midi.

Côté performance, la planification est jusqu’à quarante-huit fois plus rapide que celle des world models fondés sur de gros modèles de fondation. Chaque image est compressée en un unique vecteur de 192 dimensions, environ deux cents fois moins de jetons que les alternatives. Sur des tâches de contrôle robotique, pousser un bloc, piloter un bras, saisir un objet en 3D, LeWM égale ou dépasse les modèles bien plus lourds. Là où un système concurrent comme DINO-WM met une quarantaine de secondes à établir un plan, LeWM le fait en une seconde environ.

Le résultat le plus intéressant est ailleurs. Quand les auteurs sondent l’espace latent avec de simples classifieurs linéaires, ils y trouvent de vraies grandeurs physiques encodées. Positions des objets, vitesses, dynamique approximative. Le modèle n’a jamais reçu ces informations. Il les a reconstruites seul, en apprenant à prédire. Mieux, quand on lui montre un événement physiquement impossible, un objet qui se téléporte en pleine trajectoire, il déclenche une forme de surprise fiable. Il a une intuition de ce qui est physiquement plausible. C’est exactement ce qu’un LLM ne fait jamais.

Pourquoi ce résultat compte-t-il autant. Parce que jusque-là, les approches sérieuses de modèle du monde trichaient un peu. Le système Dreamer, de Danijar Hafner, prédit bien dans un espace de représentation, mais cet espace est appris à part, avec un auto-encodeur, avant d’être réutilisé. LeWorldModel, lui, apprend la représentation et la prédiction d’un seul tenant, de bout en bout, ce qu’aucun JEPA n’avait réussi à faire de façon stable. Autre point, les données. Beaucoup d’équipes entraînent leurs modèles du monde sur des jeux vidéo, parce que l’image y est entièrement synthétique, donc prévisible au pixel près. C’est chercher ses clés sous le réverbère parce que c’est le seul endroit éclairé. Ça marche pour un jeu, pas pour le monde réel, imprévisible et bruité, qui reste la seule vraie cible.

La preuve théorique

Quelques semaines plus tard, le 25 mai 2026, un second papier arrive, intitulé « When Does LeJEPA Learn a World Model ? ». Il pose la question de fond. LeJEPA récupère-t-il vraiment la structure cachée du monde, ou seulement une approximation commode ?

La réponse est un théorème d’identifiabilité linéaire. En clair, si on nourrit le modèle avec des observations non linéaires et brutes, des pixels, des signaux de capteurs, il peut démêler les causes sous-jacentes et les retrouver à une simple transformation linéaire près. Sous conditions. Les variables latentes doivent suivre une loi gaussienne et évoluer selon une dynamique stable et prévisible, avec un bruit additif. Quand ces conditions tiennent, le modèle n’apprend pas seulement des représentations utiles. Il apprend la véritable structure du monde qui a généré les données.

Il faut être honnête sur les limites, sinon on verse dans la hype. La preuve est formelle mais conditionnelle. Les hypothèses gaussiennes et stationnaires sont fortes, le monde réel ne les respecte pas toujours. Et un banc d’essai associé montre que les implémentations actuelles s’effondrent sous de légers décalages visuels. Les résultats restent cantonnés à des environnements simulés. Les auteurs eux-mêmes reconnaissent que le modèle peine encore sur la planification à long terme et dépend de gros jeux de données hors ligne. On tient une direction de recherche solide, pas un produit fini.

Ce que Yann LeCun veut vraiment construire

JEPA n’est qu’une brique. La vision complète de Yann LeCun, esquissée dans son papier de 2022, « A Path Towards Autonomous Machine Intelligence », est plus vaste. Il imagine une machine dotée d’un modèle du monde, capable d’imaginer les conséquences de ses actions dans l’espace latent. Autour de ce modèle, un module de coût qui évalue à quel point un futur satisfait un objectif. Un acteur qui propose des actions. Et une boucle de planification qui optimise ces actions pour atteindre le but, en cherchant réellement parmi plusieurs futurs.

Vu d’ensemble, cela donne l’architecture ci-dessous. C’est le schéma qui manquait pour relier toutes les briques.

Schéma d'ensemble d'un world model. L'observation passe par un encodeur qui produit un état latent. Un modèle du monde, prédicteur JEPA, imagine les états futurs pour les actions proposées par un acteur. Un module de coût évalue ces futurs. Une boucle de planification optimise les actions, puis la meilleure action est exécutée sur le monde.
Le schéma d'ensemble. L'encodeur transforme l'observation en état latent. Le modèle du monde, un prédicteur JEPA, imagine les états futurs pour les actions que propose l'acteur. Le module de coût évalue ces futurs au regard de l'objectif. La boucle de planification optimise les actions, puis exécute la meilleure sur le monde. Un LLM s'arrêterait à la première flèche, sans jamais imaginer ni planifier.

C’est le passage du Système 1 au Système 2. Non plus le réflexe, mais la délibération. Non plus la génération aveugle de gauche à droite, mais la planification par optimisation. Yann LeCun imagine même une hiérarchie de modèles, capable de planifier à différentes échelles de temps, du geste immédiat à l’intention lointaine. Le langage, dans ce tableau, n’est plus le centre. Ce serait un module parmi d’autres. Un LLM pour parler et raisonner en surface, un modèle de type JEPA pour ancrer l’action dans la physique. Des systèmes hybrides, en somme.

L’angle qui m’intéresse : la souveraineté

Voilà où cette histoire devient politique, et où elle mérite qu’on s’y arrête.

Yann LeCun a quitté Meta fin 2025, après douze ans comme directeur scientifique de l’IA, sur un désaccord de direction architecturale. Il fonde alors AMI Labs, pour Advanced Machine Intelligence, en écho direct à son papier de 2022. La startup est parisienne. En mars 2026, elle boucle un tour d’amorçage de 1,03 milliard de dollars, à une valorisation de 3,5 milliards. C’est le plus gros seed de l’histoire des startups européennes. La cible affichée, ce sont la robotique, la santé et l’automatisation industrielle. Le PDG, Alexandre LeBrun, annonce viser une première application produit dans l’année environ.

Sur le papier, c’est un rêve pour qui défend une troisième voie. Un lauréat du prix Turing, français, installé à Paris, qui parie ouvertement contre tout le paradigme des LLM américains. Un pari technologique qui remet l’Europe sur la carte de la recherche fondamentale en IA, là où on nous répète qu’elle a décroché.

Mais il faut regarder qui finance, et être juste. Yann LeCun présente AMI Labs comme délibérément non alignée, ni américaine ni chinoise, et revendique une répartition du capital d’environ quarante pour cent européen, un tiers américain et le reste asiatique. Le tour a été co-mené par des fonds comme Cathay Innovation, Greycroft, Hiro Capital, HV Capital et Bezos Expeditions, avec, en soutien de long terme, NVIDIA, Samsung et Toyota. Le récit souverain n’est donc pas qu’un habillage. Reste une tension honnête. Un modèle du monde entraîné à Paris dépend quand même, pour son calcul et ses puces, des mêmes fournisseurs que tout le monde. La souveraineté d’un pays ne se mesure pas au drapeau du fondateur, elle se mesure au contrôle sur la chaîne de valeur. Poser cette question n’est pas bouder le succès, c’est refuser de se raconter des histoires.

Et c’est là que Yann LeCun a un second projet, souvent oublié, qui parle directement à la souveraineté. Il est Chief Science Advisor de l’AI Alliance et de son initiative Project Tapestry, lancée en avril 2026 et portée notamment par IBM. L’idée est radicale et élégante. Plutôt qu’un modèle unique entraîné par trois entreprises de la côte ouest américaine ou par quelques laboratoires chinois, une fédération mondiale entraîne ensemble un modèle de fondation ouvert, sans jamais partager les données. Chaque participant, pays, université ou entreprise, garde ses données et son centre de calcul chez lui. Ce que les acteurs échangent, ce ne sont pas les données, ce sont des vecteurs de paramètres, régulièrement ramenés vers une moyenne consensus, comme reliés par des élastiques. À la fin, on obtient un modèle proche de ce qu’on aurait eu en entraînant sur toutes les données réunies, mais chacun a gardé la souveraineté sur les siennes, et chacun peut ensuite affiner ce socle ouvert à sa langue, sa culture, ses valeurs. C’est de l’apprentissage fédéré à l’échelle d’un modèle de fondation.

Plusieurs participants autour d'un modèle consensus central. Chacun garde ses données en local et n'échange que des vecteurs de paramètres, ramenés vers la moyenne comme par des élastiques.
Project Tapestry. Chaque participant garde ses données chez lui et n'échange que des vecteurs de paramètres, régulièrement ramenés vers un modèle consensus ouvert, comme reliés par des élastiques.

Pour Yann LeCun, le vrai danger de l’IA n’est ni le chômage de masse ni les scénarios de science-fiction. C’est que, très vite, presque toute l’information que nous recevrons passera par des assistants d’IA. Si ces assistants viennent tous d’une poignée d’acteurs américains ou chinois, avec leurs biais et leurs systèmes de valeurs, c’est un problème pour la démocratie et la diversité culturelle. La seule parade qu’il voit, ce sont des modèles de fondation ouverts, que chacun peut ajuster à ses propres besoins.

Ajoutons que Yann LeCun n’est pas seul dans cette bataille. Fei-Fei Li a levé un milliard de dollars pour World Labs en février 2026, sur la même conviction que le paradigme génératif est une impasse pour l’intelligence du monde réel. DeepMind a présenté Genie 3 en août 2025, un modèle capable de générer des mondes 3D navigables en temps réel à vingt-quatre images par seconde. NVIDIA pousse ses modèles Cosmos pour la robotique. Ce n’est pas l’aventure d’un homme seul. C’est une course, la course aux world models, qui pourrait devenir le vrai front de l’IA après l’ère des LLM.

Ce que j’en retiens

La critique de Yann LeCun contre les LLM est juste sur le fond. Prédire le mot suivant n’est pas comprendre le monde, et l’accumulation d’erreurs en mode autorégressif est un défaut de conception, pas un accident. JEPA propose une alternative sérieuse, désormais étayée par un résultat pratique frappant et une première preuve théorique. Tout cela est réel et important.

Il faut pourtant garder la tête froide sur deux points. D’abord, la recherche est prometteuse mais loin d’être aboutie. Planification à long terme fragile, dépendance aux données, hypothèses théoriques restrictives, robustesse encore faible. La levée de fonds court largement devant les résultats. Ensuite, et c’est ce qui doit nous occuper ici, la souveraineté d’une idée ne suffit pas si l’infrastructure et le capital restent captifs des mêmes puissances. Sur ce terrain, la réponse la plus convaincante de Yann LeCun n’est peut-être pas sa startup, mais son projet fédéré et ouvert, Tapestry.

Le monde a besoin de modèles du monde. La question n’est pas seulement de savoir s’ils remplaceront les LLM. C’est de savoir qui les possédera, sur quelles machines ils tourneront, et sous quelles règles. Cette question, elle, ne se résoudra pas dans un espace latent.

Références

Cet article s’appuie sur les papiers de recherche de Yann LeCun et de ses équipes, ainsi que sur quelques sources de contexte. Les liens renvoient aux versions publiques.

Le papier fondateur

  • Yann LeCun (2022). A Path Towards Autonomous Machine Intelligence. OpenReview, version 0.9.2. openreview.net/forum?id=BZ5a1r-kVsf. La vision d’ensemble, modèle du monde, module de coût, acteur, boucle de planification. C’est ce texte qui donne son nom à AMI Labs.

La lignée JEPA

  • Mahmoud Assran et al. (2023). Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture (I-JEPA). CVPR 2023. arXiv:2301.08243. La première mise en œuvre, sur l’image.
  • Adrien Bardes, Jean Ponce, Yann LeCun (2023). MC-JEPA: A Joint-Embedding Predictive Architecture for Self-Supervised Learning of Motion and Content Features. arXiv:2307.12698.
  • Adrien Bardes et al. (2024). Revisiting Feature Prediction for Learning Visual Representations from Video (V-JEPA). arXiv:2404.08471. L’extension à la vidéo.
  • Quentin Garrido et al. (2024). Learning and Leveraging World Models in Visual Representation Learning (IWM). arXiv:2403.00504.
  • Mahmoud Assran, Adrien Bardes, David Fan, Quentin Garrido et al. (2025). V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning. arXiv:2506.09985. Vidéo à l’échelle d’internet plus trajectoires de robot, avec compréhension, prédiction et planification.

Effondrement, régularisation gaussienne et preuves

  • Jure Zbontar, Li Jing, Ishan Misra, Yann LeCun, Stéphane Deny (2021). Barlow Twins: Self-Supervised Learning via Redundancy Reduction. ICML 2021. arXiv:2103.03230. L’étape qui précède VICReg, décorréler les variables de représentation.
  • Adrien Bardes, Jean Ponce, Yann LeCun (2022). VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning. ICLR 2022. arXiv:2105.04906. Une des solutions historiques à l’effondrement de représentation.
  • Randall Balestriero, Yann LeCun (2025). LeJEPA: Provable and Scalable Self-Supervised Learning without the Heuristics. arXiv:2511.08544. La régularisation gaussienne SIGReg qui remplace la forêt de bricolages antérieurs.
  • Randall Balestriero, Nicolas Ballas, Michael Rabbat, Yann LeCun (2025). Gaussian Embeddings: How JEPAs Secretly Learn Your Data Density. arXiv:2510.05949.
  • David Klindt, Yann LeCun, Randall Balestriero (2026). When Does LeJEPA Learn a World Model? arXiv:2605.26379. Le théorème d’identifiabilité linéaire et ses conditions.
  • Lucas Maes, Quentin Le Lidec, Damien Scieur, Yann LeCun, Randall Balestriero (2026). LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels. arXiv:2603.19312. Le premier JEPA entraînable de bout en bout depuis les pixels, sur un seul GPU.

Contexte et point de départ

Commentaires

Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.

Ce carnet vous parle ?

Chaque jeudi matin, un digest des notes publiées dans la semaine sur la souveraineté numérique, le logiciel libre et l'IA en Europe. Les semaines sans publication, vous ne recevez rien. Pas de pub, pas de bruit.

Désinscription en un clic. Données hébergées en Europe, jamais revendues, jamais partagées.