Carnet souverain

Tribune

L'IA, ultime invention… ou gardienne de nos engagements ?

Un documentaire d'Arte, trois prix Turing qui ne s'accordent plus sur ce qu'ils ont créé, et une conviction sombre dont je suis sorti. Premier volet d'une série en six articles, avec l'avant-propos.

iadémocratiegouvernancephilosophieia-ouverteartelinagora
Trois portes, trois avenirs : le contrôle, le bien commun, de nouveaux risques. Illustration générée par IA.
Trois portes, trois avenirs : le contrôle, le bien commun, de nouveaux risques. Illustration générée par IA.

Avant-propos

Le 17 novembre 2026, Arte diffusait un documentaire au titre en forme de vertige : Intelligence artificielle, l’ultime invention humaine ?. La question n’a rien de rhétorique. Elle est posée par ceux-là mêmes qui ont rendu l’IA moderne possible, et qui ne s’accordent plus sur ce qu’ils ont fait naître.

Je suis sorti de ce film avec une conviction plutôt sombre. Ce que l’on se demande aujourd’hui sur l’IA, on se le demande depuis des décennies sur le climat, avec cette différence que nous avons, pour le climat, les mesures, les études et l’anticipation du pire. Cela ne nous a pas rendus capables d’agir. Si l’humanité, qui sait tout du réchauffement climatique, reste paralysée, peut-être lui faut-il une entité supérieure pour décider à sa place. Une IA supra, en somme. Ces questions, je n’ai pas voulu les laisser en suspens.

Cette série de six articles est le fruit des recherches que j’ai menées pour y répondre. J’y confronte cette intuition à Habermas, à Mouffe, à Rawls, et aux premières expériences de délibération assistée par l’IA. J’y prolonge aussi certaines réflexions engagées dans mon livre, Intelligence artificielle : une ombre qui réfléchit, où je défendais une IA conçue comme un « sixième sens numérique » : une extension de nos capacités, pas un substitut. Je ne suis pas arrivé là où je pensais.

Cette série se lit dans l’ordre. Le premier article revient sur le film et sur la fracture entre Geoffrey Hinton, Yoshua Bengio et Yann LeCun. Le deuxième part de l’échec climatique pour interroger la tentation d’une IA supra, et la réponse qu’y oppose Habermas. Le troisième plaide pour un objectif plus modeste et plus solide que le consensus : le désaccord apaisé. Le quatrième décrit le modèle de gouvernance auquel j’ai abouti. Le cinquième et le sixième le confrontent aux objections les plus sévères que j’ai pu lui opposer, sur ses principes puis sur sa mise en pratique. D’autres suivront sans doute.

Un mot sur la méthode. Tous les arguments de cette série n’ont pas le même poids, et je m’efforce de le dire. Certains reposent sur des précédents établis, qui ont fonctionné à l’échelle d’un pays ou du monde. D’autres sur des expériences menées à petite échelle, prometteuses mais encore fragiles. D’autres enfin restent des hypothèses. Le dernier article récapitule le niveau de preuve de chaque brique du modèle.

Une précision, enfin, par honnêteté. Je suis le fondateur de LINAGORA et l’un des initiateurs d’OpenLLM France, qui développe les modèles ouverts Luciole. Quand ces articles plaident pour une IA ouverte, ils plaident aussi pour une cause que je sers depuis longtemps. Le lecteur doit le savoir avant de me lire. Il pourra juger sur pièces : tout ce que je défends ici est vérifiable.

Ma thèse tient en une phrase. L’IA ne doit pas décider à notre place, elle doit nous aider à tenir les engagements que nous prenons ensemble. Et d’abord, à ne plus les oublier.

Article 1 · Trois prix Turing, trois avenirs

La fracture des pères fondateurs

En 2018, Geoffrey Hinton, Yoshua Bengio et Yann LeCun recevaient ensemble le prix Turing pour leurs travaux sur l’apprentissage profond. Huit ans plus tard, ils incarnent trois lectures presque irréconciliables de ce qu’ils ont construit. C’est tout l’intérêt du documentaire diffusé par Arte, réalisé selon la fiche de son distributeur par Philipp Grüll pour la chaîne bavaroise BR : donner la parole aux trois, et laisser le désaccord à nu.

Le film retrace l’histoire de l’IA depuis les années 1950. Il montre aussi des chercheurs en sécurité observer des modèles qui trompent, résistent à leur arrêt ou poursuivent leurs objectifs par des chemins imprévus. Ce ne sont plus des hypothèses de science-fiction, ce sont des comportements mesurés en laboratoire.

Hinton est le repenti. En mai 2023, il quitte Google pour parler librement des risques de l’IA, et dit regretter en partie son invention. Prix Nobel de physique l’année suivante, il est devenu la voix la plus écoutée sur le risque existentiel.

Bengio est l’inquiet qui construit. Longtemps optimiste, il a basculé vers l’alerte, puis vers l’action : en juin 2025, il fonde LawZero, une organisation à but non lucratif dédiée à une IA « scientifique », non agentique, qui comprend et explique le monde sans agir de façon autonome. C’est sa réponse aux comportements de tromperie et d’auto-préservation observés dans les modèles récents.

LeCun, enfin, reste l’optimiste. Selon lui, les grands modèles de langage ne mèneront pas à une intelligence de niveau humain : ils ne comprennent pas le monde physique. Fin 2025, il quitte Meta après douze ans pour fonder une start-up consacrée aux modèles du monde. Les scénarios d’extinction ? Exagérés. L’IA ? Un amplificateur de l’intelligence humaine, pas une menace.

Trois chercheurs, une même technologie, trois avenirs.

Le climat comme précédent

Dans le film, Hinton recourt à une comparaison qui m’a frappé : le réchauffement climatique. Nous accumulons depuis des décennies des mesures objectives sur le dérèglement, et le consensus politique reste fragile, l’action plus encore. Que se passera-t-il avec l’IA, dont les dangers portent sur des capacités qui n’existent pas encore ? Si nous attendons des preuves aussi solides que pour le climat, nous agirons trop tard. D’où son appel à marquer un temps d’arrêt, le temps de comprendre l’essor de ces systèmes, leurs pouvoirs futurs et leurs éventuelles intentions.

L’appel n’est pas resté une formule. Le 22 octobre 2025, Hinton et Bengio signaient une déclaration sur la superintelligence coordonnée par le Future of Life Institute. Le texte demande d’en interdire le développement tant qu’un large consensus scientifique n’en garantit pas la sûreté, et tant que le public n’y adhère pas. Parmi les premiers signataires, des profils que rien ne rapproche : Steve Wozniak, Richard Branson, Susan Rice, Steve Bannon. Le signe, peut-être, qu’une inquiétude commune peut traverser les clivages.

Freiner sans preuves, ou attendre de les avoir ?

La position de LeCun n’est pas naïve, et mérite mieux qu’une caricature. On ne régule pas un danger qui n’existe pas encore : interdire la superintelligence, c’est légiférer sur une hypothèse. Une pause profiterait d’abord à ceux qui ne la respecteraient pas. Et la sûreté d’une technologie s’est toujours construite en avançant, comme pour l’aviation, en testant et en corrigeant, pas en gelant la recherche.

Le désaccord entre Hinton et LeCun n’est donc pas seulement technique. Il est politique : faut-il freiner avant d’avoir des preuves, ou attendre de les avoir ? Derrière cette question s’en cache une autre, plus inconfortable. Sommes-nous seulement capables, collectivement, de prendre une décision de cette nature ?

Le climat suggère que non. C’est de là que partira l’article suivant.

La série

  1. Trois prix Turing, trois avenirs (cet article)
  2. Savoir n’a jamais suffi
  3. Préférer le désaccord apaisé au consensus
  4. Ulysse, le mât et la machine
  5. Le modèle à l’épreuve de ses critiques
  6. Décider à l’échelle du monde

Sources

Le documentaire

Les trois lauréats

L’appel d’octobre 2025

Du même auteur

Commentaires

Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.

Ce carnet vous parle ?

Chaque jeudi matin, un digest des notes publiées dans la semaine sur la souveraineté numérique, le logiciel libre et l'IA en Europe. Les semaines sans publication, vous ne recevez rien. Pas de pub, pas de bruit.

Désinscription en un clic. Données hébergées en Europe, jamais revendues, jamais partagées.