Carnet souverain

Tribune

Le modèle à l'épreuve de ses critiques

Quatre objections redoutables au modèle : exécuter n'est-ce pas décider, peut-on encore débrancher la machine, de quel droit lier les générations futures, Mouffe contre le modèle ?

iadémocratiegouvernancephilosophiesûretélong-terme
Le modèle face à ses critiques, la justice et les principes sur la table. Illustration générée par IA.
Le modèle face à ses critiques, la justice et les principes sur la table. Illustration générée par IA.

Un modèle qui n’a pas affronté ses critiques ne vaut pas grand-chose. J’ai donc soumis le mien à la critique la plus hostile que je pouvais imaginer : huit objections, certaines redoutables. Cet article répond à celles qui touchent à ses principes. Le suivant traite de sa mise en pratique, et dit lesquelles restent ouvertes.

Un fil conducteur s’est imposé en chemin, celui de mon livre : le sixième sens numérique. Une IA qui ne remplace pas notre jugement, mais qui nous donne à percevoir ce qui nous échappe. Il éclaire chacune des réponses qui suivent.

Exécuter, n’est-ce pas déjà décider ?

L’objection est sérieuse. Un mandat n’est jamais complet : l’appliquer suppose de l’interpréter, et celui qui interprète décide. Une IA qui exécute au nom de la volonté générale ressemble fort à un souverain qui ne dit pas son nom.

Ma réponse tient dans la métaphore du sixième sens, élargie au système nerveux. Un sens perçoit, il ne décide pas. Le système nerveux, lui, déclenche aussi des réflexes, mais des réflexes appris, encadrés, que la conscience peut toujours reprendre. Dans mon modèle, l’IA n’agit seule que dans un couloir voté à l’avance, chiffré, borné. Tout ce qui en sort remonte aux citoyens. Les réflexes sont votés, l’IA ne les invente pas.

Le couloir voté ne règle pourtant pas tout. Choisir le moment de déclencher une mesure, qualifier une anomalie, retenir une donnée plutôt qu’une autre : c’est déjà exercer un pouvoir. Je distingue donc quatre niveaux d’action. Observer : l’IA mesure et publie, librement. Recommander : elle propose, avec ses raisons, sans rien imposer. Déclencher : elle active un réflexe voté et réversible, dont les seuils, les sources de données et la définition même d’une anomalie ont été fixés par l’assemblée. Contraindre, enfin : jamais. Toute mesure coercitive reste une décision humaine, prise par une institution qui en répond.

Son rôle premier est ailleurs : rendre le futur perceptible. Avant chaque décision, elle joue devant nous les scénarios qui en découlent à 10, 20 et 30 ans. La psychologie donne une raison de croire que cela change nos choix. En 2011, une équipe menée par Hal Hershfield a montré que des personnes confrontées à une image vieillie de leur propre visage acceptaient plus volontiers de différer une récompense pour épargner. Notre court-termisme tient en partie à ce que le futur nous reste étranger. Le rendre visible, c’est déjà commencer à le prendre en compte.

Encore faut-il ne pas tomber dans la technocratie que dénonçait Habermas. L’IA ne doit jamais présenter une prédiction unique, mais plusieurs futurs contrastés, avec leurs marges d’incertitude, comme le fait le GIEC pour le climat. Le sixième sens ne dit pas ce qui arrivera. Il montre ce qui pourrait arriver.

Il faut aussi nommer ce que l’on montre. Une prévision scientifique, comme la trajectoire du réchauffement selon les émissions, repose sur des lois physiques éprouvées. Une simulation exploratoire, comme l’effet d’un prix du carbone sur l’emploi d’une région, dépend de comportements humains bien plus incertains. Une hypothèse politique, enfin, relève du choix et non du calcul. Chaque scénario doit afficher sa nature. Et la transparence ne suffit pas : un modèle doit être validé empiriquement, en vérifiant qu’il aurait correctement anticipé le passé avant d’être cru sur l’avenir, comme on le fait pour les modèles climatiques.

Peut-on encore débrancher la machine ?

Dans mon article sur Mistral, je soutenais que la vraie question, face à un fournisseur qui se dit souverain, n’est pas où sont ses serveurs mais quelle est sa politique de sortie. Il serait malhonnête de ne pas appliquer la même exigence à mon propre modèle. Une IA qui joue les scénarios et déclenche les réflexes devient vite indispensable, donc difficile à arrêter.

Ma réponse est la pluralité. Aucune IA n’est irremplaçable, parce qu’aucune n’est seule. Les scénarios proviennent de plusieurs modèles ouverts, développés par des équipes et des pays différents. Si l’un dérive, on le retire sans arrêter le système.

Les météorologues procèdent déjà ainsi. Ils ne se fient plus à une prévision unique : ils lancent des dizaines de simulations légèrement différentes, et l’écart entre elles mesure l’incertitude. Je l’ai expérimenté moi-même en entraînant un modèle pour anticiper les orages en montagne. Le désaccord entre modèles n’est pas un défaut, c’est une information. Quand les IA convergent, le scénario est solide. Quand elles divergent, il faut débattre.

Cette pluralité n’a de valeur que si les modèles diffèrent vraiment, par leurs données, leurs architectures et leurs équipes. Dix modèles entraînés sur les mêmes données n’en valent qu’un. La diversité des modèles ouverts, Luciole, Apertus et les autres, devient alors une condition de sûreté, et pas seulement de souveraineté.

La pluralité ne garantit pas non plus la fiabilité : dix modèles peuvent se tromper ensemble. D’où deux exigences de plus, la validation empirique de chaque modèle et des évaluateurs indépendants des équipes qui les conçoivent.

De quel droit lier les générations futures ?

L’objection vient d’Elster lui-même, qui a nuancé sa thèse du pré-engagement dans Ulysses Unbound (2000), et avant lui de Jefferson : la Terre appartient aux vivants. De quel droit une génération lierait-elle les mains de la suivante ?

L’objection repose pourtant sur un présupposé discutable : ne rien décider laisserait les générations futures libres. C’est l’inverse. La génération Z et celles qui suivent vivront dans un monde de restrictions : accès aux ressources, y compris les plus vitales comme l’eau, liberté de déplacement. Ces contraintes ne viendront pas de nos engagements, mais de nos renoncements. Ne rien décider, c’est aussi décider pour elles, et de la pire façon.

La Cour constitutionnelle allemande l’a dit en droit. En 2021, elle a partiellement censuré la loi climat parce qu’elle reportait l’essentiel de l’effort après 2030, au détriment des libertés des générations futures. Pour les juges de Karlsruhe, les réductions d’émissions de demain toucheront presque toutes les formes de liberté, puisque presque toutes nos activités émettent. Reporter l’effort, c’est restreindre la liberté de ceux qui viendront.

Ces générations en ont déjà conscience. En 2021, une enquête publiée dans The Lancet Planetary Health a interrogé 10 000 jeunes de 16 à 25 ans dans dix pays, dont la France. Les trois quarts jugent le futur effrayant, près de la moitié disent que l’anxiété climatique affecte leur vie quotidienne, et 64 % estiment que les gouvernements n’en font pas assez. Cette jeunesse n’aborde ni le monde ni la réussite comme les générations précédentes. Elle sait que les bouleversements à venir exigeront projection, agilité et adaptation.

Il ne faut pas pour autant idéaliser une génération, ni lui faire porter seule le poids de l’avenir. Les auteurs de l’étude mettent eux-mêmes en garde contre cette tentation. L’argument ne repose pas sur les vertus supposées de la génération Z, mais sur la justice entre générations.

Reste un fait simple : ce sont eux qui seront aux manettes de ces nouveaux organes de gouvernance mondiale. Le modèle doit donc leur laisser la main, et deux mécanismes y pourvoient. Le premier est une clause de révision générationnelle : chaque engagement de long terme est réexaminé tous les quinze ans par une assemblée où les moins de 30 ans pèsent au moins à proportion de leur part dans la population. Le second est le droit de vote dès 16 ans pour les votations mondiales, comme l’Autriche le pratique depuis 2007 pour ses propres élections. Ces décisions engagent d’abord ceux qui vivront avec.

Ulysse garde son mât. Mais chaque génération peut renégocier la longueur de la corde.

Mouffe contre mon modèle ?

L’objection est d’autant plus sérieuse que j’ai moi-même convoqué Chantal Mouffe. Elle se méfie de toute politique qui recherche le consensus à tout prix, et rappelle qu’une démocratie vivante a besoin de débats entre de véritables alternatives. Une IA qui « repère les recoupements » pourrait n’être qu’une machine sophistiquée à dissoudre le conflit, c’est-à-dire le contraire de ce que Mouffe défend.

Ma réponse tient en une distinction : le consensus porte sur les règles, le conflit sur les choix. Mouffe elle-même n’exclut pas un socle commun. Elle défend des institutions dont les principes, la liberté et l’égalité pour tous, sont partagés, et dont l’interprétation reste disputée. Dans mon modèle, on s’accorde sur les règles du jeu : la double majorité, la révocabilité, la révision générationnelle. On s’affronte sur les politiques.

J’assume aussi une synthèse que Mouffe et Habermas jugeraient sans doute impure, où chacun a son moment. La délibération prépare les questions : c’est le temps de l’assemblée tirée au sort, et il est habermassien. L’affrontement décide : c’est le temps de la votation, avec ses campagnes, ses camps et ses passions, et il est mouffien. Plutôt que de choisir entre les deux, le modèle les fait se succéder.

Reste une garantie technique, qui découle du sixième sens. L’IA ne produit pas une synthèse unique qui effacerait les désaccords. Elle cartographie les camps, ce qui les sépare autant que ce qu’ils partagent, à la manière de Polis à Taïwan. Les options soumises au vote sont contrastées, pas fondues. Un sens qui ne percevrait que les convergences serait un sens amputé : il doit aussi percevoir les lignes de fracture.

Ces quatre réponses consolident les principes du modèle. Elles ne disent pas encore comment il fonctionnerait à l’échelle du monde. C’est l’objet de l’article suivant.

La série

  1. Trois prix Turing, trois avenirs
  2. Savoir n’a jamais suffi
  3. Préférer le désaccord apaisé au consensus
  4. Ulysse, le mât et la machine
  5. Le modèle à l’épreuve de ses critiques (cet article)
  6. Décider à l’échelle du monde

Sources

Objections et réponses

Sur ce carnet

Commentaires

Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.

Ce carnet vous parle ?

Chaque jeudi matin, un digest des notes publiées dans la semaine sur la souveraineté numérique, le logiciel libre et l'IA en Europe. Les semaines sans publication, vous ne recevez rien. Pas de pub, pas de bruit.

Désinscription en un clic. Données hébergées en Europe, jamais revendues, jamais partagées.