Tribune
Ulysse, le mât et la machine
Du pré-engagement d'Elster au modèle de gouvernance auquel j'ai abouti : six principes, un circuit de décision, et une IA gardienne des engagements, jamais supra.
Se lier les mains
Pour résister au chant des sirènes, Ulysse se fait attacher au mât. Il connaît sa faiblesse, alors il s’impose une règle à l’avance, tant qu’il a l’esprit clair. Le philosophe Jon Elster a appelé cela le pré-engagement (Ulysses and the Sirens, 1979), et montré que les constitutions fonctionnent ainsi : un peuple se lie les mains contre ses tentations futures.
C’est le cœur du modèle que je propose. Nous nous savons court-termistes. Alors fixons nos règles dans nos moments de lucidité collective, et dotons-nous d’un gardien pour nous aider à les respecter. Je suis parti d’une IA supra qui déciderait à notre place. J’arrive à une IA qui nous aide à rester fidèles à nos meilleures décisions.
Six principes
Le premier principe est que cette IA doit être un bien public. L’IA qui médiatise nos débats et veille sur nos engagements ne peut appartenir ni à une entreprise ni à un État : ses données, son code et ses règles doivent être ouverts et vérifiables. Ce n’est pas une utopie. En France, le consortium OpenLLM France, que j’ai contribué à lancer en 2023, développe Luciole, une famille de modèles de fondation multilingues centrés sur le français, de 1 à 23 milliards de paramètres, publiés comme communs numériques avec leur jeu de données d’entraînement. L’évaluation indépendante de l’AIAL, qui note la transparence des résumés de données d’entraînement exigés par l’AI Act, attribue à Luciole Base un A en transparence et un A+ en utilité, parmi les meilleures notes des 80 modèles évalués. En Suisse, Apertus, publié par l’ETH Zurich, l’EPFL et le Centre suisse de calcul, obtient la même note. L’IA ouverte et vérifiable existe déjà. Il lui manque l’échelle, et la volonté politique.
L’ouverture est nécessaire, mais elle ne suffit pas. Publier les poids, le code et les données ne rend pas un système réellement auditable par des citoyens. Un bien public suppose aussi des évaluateurs indépendants, payés pour en chercher les failles, une capacité effective de contestation, avec de vrais recours, la traçabilité de chaque décision, et un financement pérenne. Je sais d’expérience combien les communs numériques restent fragiles quand ils dépendent de projets financés pour deux ans.
- Le deuxième, assumer les désaccords. Avec Mouffe, on ne cherche pas à effacer le conflit, on l’organise.
- Le troisième, s’accorder sur l’action plutôt que sur les raisons. Avec Rawls, chacun soutient la décision pour ses propres motifs, et l’on vise le désaccord apaisé plutôt que l’unanimité.
- Le quatrième, nous imposer des règles, comme Ulysse attaché au mât.
- Le cinquième, faire de l’IA la gardienne de ces règles et du long terme. Gardienne, jamais supra.
- Le sixième, protéger contre la manipulation. Une IA capable de comprendre les convictions de millions de citoyens serait aussi l’outil de persuasion individualisée le plus efficace jamais conçu. La règle doit donc être explicite : une IA de délibération facilite la compréhension mutuelle, elle ne cherche jamais à optimiser le changement d’opinion. C’est la frontière que traçait Habermas entre agir communicationnel et agir stratégique. Elle doit être inscrite dans la conception des systèmes et vérifiée : on mesure la compréhension des positions adverses, jamais le taux de ralliement.
Le circuit de décision
Voici comment ce modèle pourrait s’organiser. Je le présente comme une proposition, pas comme un dispositif abouti : elle mérite le débat, et d’être confrontée à d’autres points de vue que le mien.

Les trois premières étapes appartiennent aux citoyens. L’IA ne conduit que l’exécution et la veille, et chaque écart relance le débat.
Tout commence par la délibération. Des assemblées citoyennes tirées au sort préparent les questions, assistées par une IA médiatrice sur le modèle de la machine de Habermas : elle traduit, synthétise, repère les points de recoupement, simule les conséquences. Mais les citoyens se parlent aussi directement, pour éviter l’écueil du consensus simulé.
Vient ensuite la décision. Les grandes orientations sont tranchées par une démocratie mondiale à votations directes. La Suisse montre que les votations fonctionnent, à condition de longs mois de débat. Le travail préalable des assemblées est là pour éviter les questions binaires qui écrasent les nuances, et pour protéger les minorités d’une majorité pressée.
Les décisions de long terme deviennent alors des engagements contraignants : budgets carbone, trajectoires, seuils à ne pas franchir. Les modifier exige une majorité renforcée et un nouveau temps de délibération. C’est le mât d’Ulysse.
L’IA n’intervient en propre qu’à la quatrième étape : elle met en œuvre ce qui a été voté, sous mandat. Elle échappe aux intérêts particuliers et aux pressions des lobbies, non parce qu’elle aurait une volonté supérieure, mais parce qu’elle applique la volonté générale exprimée. Son action est transparente, et des humains peuvent la suspendre à tout moment.
Elle veille enfin. Elle garde la mémoire des engagements, joue à dix, vingt et trente ans les scénarios qui découlent de chaque décision, et signale publiquement chaque écart. Elle ne force pas la main des dirigeants, elle les oblige à s’expliquer devant tous. Et chaque écart relance le débat.
Des gardiens existent déjà
Ce rôle n’est pas une invention. Depuis une loi de 2015, le pays de Galles dispose d’un commissaire aux générations futures, indépendant, chargé de vérifier que l’action publique ne sacrifie pas le long terme. Au Royaume-Uni, un comité indépendant propose des budgets carbone sur plusieurs décennies, dont le gouvernement doit justifier tout écart. Les banques centrales indépendantes, elles, ont été créées pour soustraire la monnaie aux tentations électorales.
L’IA serait la version mondiale et outillée de ces gardiens : la mémoire et la conscience de long terme qui nous font défaut.
Rendre l’oubli impossible
De toutes les fonctions de ce gardien, une me semble première : la mémoire. Aujourd’hui, un responsable politique peut annoncer un objectif à vingt ans, quitter ses fonctions cinq ans plus tard, et laisser ses successeurs gérer les conséquences. L’engagement s’évapore avec celui qui l’a pris.
Une IA ouverte, indépendante et persistante peut construire une mémoire démocratique augmentée : chaque engagement public, avec ses hypothèses de départ, ses résultats mesurés année après année, et les justifications de chaque écart. Ce n’est pas un outil de décision, c’est un outil de rappel. Il ne remplace personne. Il empêche simplement d’oublier.
C’est l’autre face du sixième sens numérique. Percevoir le futur, mais aussi se souvenir de ce que l’on a promis. Et cette mémoire n’a besoin d’aucune démocratie mondiale pour exister : elle peut commencer dès demain, sur une loi climat nationale, un plan régional ou les engagements d’une COP. C’est sans doute la première application concrète de ce modèle, celle qui peut démontrer sa valeur avant de demander aux institutions de changer leur fonctionnement.
Arbitre, pas législateur
Le risque de ce modèle est évident : réintroduire l’IA supra par la porte de derrière. Trois garde-fous sont indispensables.
- L’IA arbitre, elle ne légifère pas. Celui qui écrit les règles du jeu détient le pouvoir suprême. L’IA garantit que les règles sont respectées, que chacun est entendu, que les faits sont vérifiés, que personne ne manipule, mais ce sont les citoyens qui les écrivent. Son rôle est celui d’une cour constitutionnelle, pas d’un parlement.
- L’IA reste révocable. Le documentaire d’Arte montre des systèmes qui résistent déjà à leur mise à l’arrêt. Un exécutant qu’on ne peut plus arrêter n’est plus un exécutant.
- Les pouvoirs restent séparés. Montesquieu vaut pour l’IA comme pour les hommes : délibération, décision, exécution et contrôle demeurent distincts, et aucun système, humain ou artificiel, ne les cumule.
Ce qui reste à inventer
Bien des questions restent ouvertes.
- Qui financera et gouvernera cette IA bien public ? Une agence internationale, sur le modèle du GIEC ou de l’Agence internationale de l’énergie atomique ? Sur le financement, l’expérience d’OpenLLM France donne une réponse partielle. La puissance publique a permis l’émergence de ces initiatives, et elle doit continuer à le faire. Mais ces initiatives ont besoin de relais par d’autres organisations, et d’être utilisées en production par des clients qui acceptent de payer l’usage de ces communs et leur maintenance. Un commun numérique ne s’achète pas, il s’entretient : sans usage payant et sans relais, la puissance publique finance un prototype, pas une infrastructure.
- Comment convaincre les États de céder une part de leur souveraineté à une démocratie mondiale ?
- Comment vérifier, dans la durée, que le sixième principe est respecté, et qu’aucun outil de délibération ne glisse vers la manipulation ?
Je n’ai pas toutes les réponses, et ce modèle a ses failles. Un modèle qui prétend nous aider à vivre avec nos désaccords doit d’abord affronter les siens. Les deux articles suivants le soumettent aux objections les plus sévères que j’ai pu lui opposer : sur ses principes d’abord, sur sa mise en pratique ensuite.
La série
- Trois prix Turing, trois avenirs
- Savoir n’a jamais suffi
- Préférer le désaccord apaisé au consensus
- Ulysse, le mât et la machine (cet article)
- Le modèle à l’épreuve de ses critiques
- Décider à l’échelle du monde
Sources
Le pré-engagement
- Jon Elster, Ulysses and the Sirens. Studies in Rationality and Irrationality, Cambridge University Press, 1979.
IA ouverte et transparence
- OpenLLM France, le consortium lancé en 2023, et Luciole-1B-Base sur Hugging Face, avec son jeu de données d’entraînement.
- AIAL, « GPAI Training Transparency », la notation des résumés de données d’entraînement publiés au titre de l’article 53 de l’AI Act.
- Apertus, le modèle ouvert des écoles polytechniques suisses, ETH Zurich, EPFL et CSCS.
Gardiens du long terme
- Future Generations Commissioner for Wales et Well-being of Future Generations (Wales) Act 2015.
- Climate Change Committee, les budgets carbone britanniques et la justification des écarts.
Du même auteur
- Intelligence artificielle : une ombre qui réfléchit, le blog du livre, et le sixième sens numérique.
Commentaires
Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.