Carnet souverain

Tribune

Savoir n'a jamais suffi

Le climat prouve que le problème n'est pas le savoir mais la capacité d'agir ensemble. D'où la tentation d'une IA supra, et la réponse que lui oppose Habermas.

iadémocratiegouvernancephilosophieclimathabermas
Le savoir accumulé d'un côté, la décision de l'autre. Illustration générée par IA.
Le savoir accumulé d'un côté, la décision de l'autre. Illustration générée par IA.

Le climat, ou l’échec d’une humanité qui pourtant sait tout

Le problème du climat n’est pas un déficit de connaissance. Le diagnostic est posé, les mesures s’accumulent, les trajectoires sont connues. Ce qui manque, c’est la capacité à agir ensemble sur ce que nous savons : intérêts de court terme, rivalités entre États, cycles électoraux, peur de payer pour les autres.

Cette impuissance n’a pas attendu l’IA. Depuis 1945, nous vivons avec une arme capable de nous anéantir. Nous détruisons la biodiversité en pleine connaissance de cause. L’humanité sait se mettre en danger, elle peine à s’en protéger.

La tentation de l’IA supra

C’est en regardant le film qu’une idée m’est venue. Si nous sommes incapables de décider pour notre propre bien, pourquoi ne pas confier la décision à une entité qui en serait capable ?

Il faut ici préciser les mots. J’appelle IA supra une intelligence artificielle placée au-dessus des institutions humaines, à qui l’on confierait non pas l’exécution de nos choix mais le choix lui-même, au nom de la supériorité de son jugement. J’évite à dessein l’expression « IA souveraine ». En France, elle désigne tout autre chose : la maîtrise nationale ou européenne des technologies d’IA, un sujet que j’ai souvent traité ici. L’IA supra ne serait pas souveraine au sens industriel, elle le serait au sens politique : elle gouvernerait.

L’idée a sa séduction. Une telle IA verrait loin, sans calcul électoral ni intérêt particulier. Même dotée de capacités supérieures aux nôtres, elle pourrait jouer un rôle bénéfique dans l’évolution de l’humanité. C’est, au fond, le vieux rêve du roi-philosophe de Platon, transposé dans le silicium.

Mais l’idée bute sur trois obstacles.

  • La nature du problème. Le climat n’est pas qu’une affaire de faits. Qui doit faire les efforts, les pays riches ou les pays pauvres ? Faut-il sacrifier des emplois aujourd’hui pour les générations de demain ? Ce sont des arbitrages de valeurs, et aucun calcul ne les tranche.
  • Le pouvoir. Une IA « au-dessus de nous » appartient toujours à quelqu’un, et le risque réel n’est pas la machine, c’est la concentration du pouvoir entre les mains de ceux qui la conçoivent.
  • L’irréversibilité. Si l’IA supra se trompe, ou change d’objectifs, qui pourra reprendre la main ?

Reste un paradoxe, que je ne parviens pas à contourner. Si l’on ne peut pas faire confiance aux humains, comment leur faire confiance pour fabriquer une IA digne de confiance ? Conçue par des humains, entraînée sur ce qu’ils ont écrit, financée par des entreprises en compétition, elle hériterait de nos défauts plutôt qu’elle ne nous en délivrerait.

Habermas contre le roi-philosophe

Jürgen Habermas offre la réponse la plus solide à cette tentation. Figure de l’École de Francfort, il distingue deux façons d’agir. L’agir stratégique vise à obtenir ce que l’on veut, par la manipulation, la négociation ou la contrainte. L’agir communicationnel vise à se comprendre, par l’échange d’arguments (Théorie de l’agir communicationnel, 1981). Une société démocratique repose sur le second.

De là découle son éthique de la discussion : une norme n’est légitime que si toutes les personnes concernées pourraient l’accepter au terme d’un débat libre et sans domination, où seule compte la force du meilleur argument. Voter ne suffit pas. La légitimité naît de la qualité de la délibération qui précède la décision. Encore faut-il un lieu pour délibérer : c’est l’espace public, analysé dès 1962 (L’Espace public), dont Habermas n’a cessé de redouter l’érosion, par l’argent et la publicité hier, par les plateformes numériques aujourd’hui (Un nouveau changement structurel de l’espace public, 2022).

Habermas est l’exact opposé de mon intuition de départ. Dès 1968, dans La Technique et la science comme « idéologie », il critique la technocratie : lorsque des experts ou des systèmes décident au nom de l’efficacité, les questions politiques deviennent des problèmes techniques, et les citoyens perdent leur rôle. Une décision imposée par une IA supra, même juste, ne serait pas légitime.

Un espace public à l’échelle du monde ?

Habermas rejoint pourtant mon intuition sur un point : l’échelle. Dans Après l’État-nation (1998), il constate que les grands problèmes débordent les frontières. Il refuse un gouvernement mondial unique, qu’il juge dangereux, mais défend une « politique intérieure mondiale » : des institutions à plusieurs niveaux, sur le modèle de l’Union européenne, légitimées par des citoyens qui délibèrent par-delà les frontières.

Son obstacle principal ? L’absence d’un véritable espace public transnational. Nous ne parlons pas la même langue, nous ne lisons pas les mêmes médias. Or c’est précisément l’obstacle que l’IA peut lever. Traduction instantanée, synthèse de milliers d’avis, repérage des points d’accord : pour la première fois, une délibération à l’échelle de l’humanité devient techniquement concevable.

Reste une difficulté. Habermas vise le consensus rationnel, et nos sociétés sont faites de désaccords profonds. Faut-il vraiment viser l’accord de tous ?

La série

  1. Trois prix Turing, trois avenirs
  2. Savoir n’a jamais suffi (cet article)
  3. Préférer le désaccord apaisé au consensus
  4. Ulysse, le mât et la machine
  5. Le modèle à l’épreuve de ses critiques
  6. Décider à l’échelle du monde

Sources

Jürgen Habermas

  • L’Espace public. Archéologie de la publicité comme dimension constitutive de la société bourgeoise, Payot, 1962.
  • La Technique et la science comme « idéologie », Gallimard, 1968, la critique de la technocratie.
  • Théorie de l’agir communicationnel, Fayard, 1981, agir stratégique et agir communicationnel.
  • Après l’État-nation. Une nouvelle constellation politique, Fayard, 1998, la « politique intérieure mondiale ».
  • Un nouveau changement structurel de l’espace public et la politique délibérative, 2022, l’érosion numérique de l’espace public.

Commentaires

Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.

Ce carnet vous parle ?

Chaque jeudi matin, un digest des notes publiées dans la semaine sur la souveraineté numérique, le logiciel libre et l'IA en Europe. Les semaines sans publication, vous ne recevez rien. Pas de pub, pas de bruit.

Désinscription en un clic. Données hébergées en Europe, jamais revendues, jamais partagées.