La pensée sans échauffement

ou ce que l’IA générative nous fait silencieusement perdre…

Depuis quelques semaines, j’observe quelque chose qui m’inquiète. Le sujet n’est pas seulement les erreurs que l’IA peut produire. C’est ce qu’elle modifie, silencieusement, dans notre manière de travailler, de décider et de penser.

Et quand j’écris cela, je ne parle pas des autres depuis une position confortable. Je parle aussi de moi. Je suis moi-même un utilisateur quotidien de ces outils. Je les utilise pour structurer, accélérer, clarifier, explorer.

Je mesure très bien le gain qu’ils apportent. Mais je ressens aussi, dans mon propre rapport au travail intellectuel, la tentation permanente d’aller trop vite vers une forme propre, avant d’avoir vraiment habité le fond.

C’est précisément cela qui m’inquiète.

Partout, les gens semblent produire davantage. Les présentations sont plus belles. Les emails sont mieux structurés. Les analyses sont plus longues. Les notes sont plus propres. Les propositions commerciales semblent plus complètes.

Et pourtant, dans les réunions, des échanges du quotidien, dans les revues de code, dans les arbitrages stratégiques, quelque chose a changé.

Les décisions hésitent. Les arbitrages traînent. Les équipes s’enlisent… Malgré, ou parfois à cause de, cette abondance et les supposés “super pouvoirs” que les IA nous ont mis à disposition.

Nous sommes entrés dans l’ère de l’illusion de complétude. Le risque principal n’est pas que l’IA pense mal à notre place.

C’est qu’elle nous donne l’impression que nous avons pensé.

Les ombres sur le mur

Platon décrivait déjà des prisonniers prenant pour la réalité les ombres projetées sur un mur. Ces derniers développaient même une forme d’expertise dans l’interprétation de ces ombres, sans jamais avoir détectés qu’ils ne voyaient que des projections.

Daniel Kahneman a montré, lui, que notre cerveau fonctionne selon deux régimes : un régime rapide, intuitif, économe en énergie ; et un régime lent, délibératif, coûteux, celui qui doute, confronte, vérifie et construit une conviction.

L’IA générative s’est glissée dans l’espace entre les deux avec une efficacité redoutable.

Elle produit quelque chose qui ressemble à une pensée aboutie : des titres, des paragraphes, une structure logique, une conclusion nuancée. La forme est là. La cohérence apparente est là. Que malheureusement, notre cerveau a tendance à valider trop rapidement.

Mais le cerveau lent, lui, n’a pas forcément travaillé.

Personne n’a souffert avec le problème. Personne ne l’a habité. Personne n’a traversé le doute qui rend une idée vraiment assimilable.

Et je dois être honnête : moi aussi, il m’arrive d’être soulagé quand une première version bien structurée apparaît en quelques secondes. Moi aussi, je peux confondre ce soulagement avec une forme d’avancement réel. Moi aussi, je dois parfois me forcer à revenir au problème, à le reprendre à la main, à me demander si j’ai vraiment compris ou seulement reconnu une forme convaincante.

Ce n’est pas de la paresse. C’est une réponse humaine à un outil qui simule très bien la profondeur.

Le problème n’est donc pas seulement que l’IA peut se tromper.

Le problème est qu’elle peut avoir raison de façon convaincante, sans que nous ayons construit nous-mêmes les conditions de cette conviction.

Une performance sans l’athlète

Il existe une phase dans tout travail intellectuel sérieux que nous avons appris à détester : le moment où le problème résiste.

Celui où on tourne en rond. Où Les contradictions s’accumulent. Où les hypothèses ne tiennent pas. On cherche sans trouver.

C’est lent. C’est inconfortable. Et parfois c’est frustrant. Mais c’est précisément là que l’intelligence se construit.

Imaginons qu’on puisse passer, en quelques minutes, de savoir à peine courir à terminer un marathon en moins de deux heures. Performance accomplie. Chronomètre arrêté. Résultat atteint.

Mais qu’aurions-nous réellement obtenu ?

Pas les muscles construits kilomètre après kilomètre. Pas la connaissance intime de ses limites. Pas la gestion de l’effort dans la durée. Pas la capacité à recommencer demain, à progresser encore, à transmettre ce qu’on a appris.

On aurait une performance sans l’athlète. Un résultat sans le chemin qui le rend réel et reproductible.

C’est exactement ce qui se passe avec une partie de la pensée assistée par IA.

On passe de l’intention à l’output en quelques secondes. Le livrable est là. La décision paraît acceptable. Le document semble complet.

Mais l’expérience cognitive qui aurait dû en résulter n’a pas toujours eu lieu.

Et là encore, je ne m’exclus pas du diagnostic. Comme dirigeant, et comme utilisateur intensif de ces outils, je suis exposé à la même tentation : croire qu’un sujet a avancé parce qu’il a pris une forme lisible. Croire qu’un raisonnement est solide parce qu’il est bien présenté. Croire qu’une intuition a été travaillée parce qu’elle est devenue une note propre.

Ce que nous perdons n’est donc pas seulement la qualité d’une pensée à un instant donné. C’est notre capacité à mieux penser demain.

L’atrophie intellectuelle est silencieuse, progressive, presque invisible, parce qu’elle est masquée par la fluidité de l’output produit.

Nous produisons plus vite des choses que nous comprenons moins profondément.

Et nous nous privons, sans toujours le voir, des conditions mêmes de notre développement intellectuel…

La dette cognitive des organisations

Ce phénomène crée une dynamique systémique que nous n’avons pas encore vraiment nommée. J’appellerais cela : la dette cognitive.

Comme la dette technique, elle ne se voit pas toujours immédiatement. Le système fonctionne. Les livrables sortent. Les documents circulent. Les arbitrages semblent préparés.

Mais sous la surface, quelque chose s’accumule : des décisions mal comprises, des hypothèses non vérifiées, des raisonnements non appropriés, des choix jamais vraiment assumés. Et cette dette finit toujours par remonter.

Je le vois chaque semaine dans deux domaines.

D’abord, dans nos équipes de développement. Les volumes de code produits par les ingénieurs augmentent fortement. Les contributions aux projets open source s’accélèrent. Les pull requests sont plus nombreuses, souvent mieux présentées, parfois plus ambitieuses. C’est spectaculaire.

Mais cela pose une question très concrète : qui assume la responsabilité de la revue ?

Le mainteneur qui reçoit trois fois plus de contributions qu’il y a deux ans ne dispose pas de trois fois plus de temps pour les examiner. Il doit accepter ou refuser du code dont la forme semble impeccable, mais dont la cohérence avec l’architecture globale, les effets de bord, les choix implicites, n’ont pas toujours été réellement pesés.

La vitesse de production a dépassé la capacité de compréhension.

Et le risque remonte vers ceux qui valident et qui doivent prendre l’arbitrage.

Ensuite, je le vois dans les documents commerciaux, partenariaux ou stratégiques.

On reçoit des propositions volumineuses, bien structurées, exhaustives en apparence. Tout y est. Ou plutôt : tout semble y être.

Mais à la lecture attentive, l’essentiel manque.

Les vrais enjeux de la relation. Les points de tension. L’analyse et les plans de mitigations des risques. Les hypothèses économiques fragiles. Les clauses qui changeront tout en cas de difficulté. Les arbitrages que personne ne veut vraiment nommer.

On a rempli. (Mais) On n’a pas réfléchi.

L’IA permet parfois de transformer une absence de décision en livrable présentable.

Et c’est précisément cela qui est dangereux.

La surcharge de décodage

Ce n’est pas un reproche aux individus. C’est une mécanique.

Ceux qui ne conceptualisent pas produisent quand même. Et ce qu’ils produisent remonte vers ceux qui peuvent corriger, recadrer, valider, assumer.

Ces personnes, dont je fais aussi partie, reçoivent alors un flux plus dense, mais pas nécessairement plus solide.

Et voilà le paradoxe : déconstruire un livrable creux coûte souvent plus cher cognitivement que de partir d’une première épreuve honnête. Face à quelque chose d’inachevé mais authentique, on sait où est le travail…

Face à quelque chose qui ressemble à l’abouti, il faut d’abord détecter l’illusion, la nommer, la démonter, puis seulement commencer à penser.

C’est une nouvelle forme d’épuisement. Et pas seulement chez moi semble-t-il…

Pas seulement une surcharge de travail.

Une surcharge de décodage. Une fatigue du sens.

L’individu avance… Mais l’organisation stagne

Il y a un autre effet, plus difficile à formuler, mais que beaucoup de dirigeants commencent à ressentir.

L’IA générative est devenue, dans certaines organisations, un instrument de visibilité individuelle. Elle permet de produire vite, beaucoup, sous une forme convaincante. Elle permet de paraître avancer : aux yeux de sa hiérarchie, de ses pairs, de son équipe…

Le livrable est là. Le rapport est rendu. La proposition est envoyée. La slide est propre.

Mais l’apparence d’avancement masque parfois un problème de fond : les sujets essentiels n’ont pas été traités. Les vraies décisions n’ont pas été prises. Les vrais désaccords n’ont pas été nommés. Les vrais risques n’ont pas été arbitrés.

On a produit autour du cœur du problème sans jamais l’atteindre.

À l’échelle d’une organisation, cela crée un sentiment étrange : tout le monde travaille, tout le monde livre, tout le monde accélère, et pourtant collectivement, nous avons le sentiment que l’entreprise n’avance pas vraiment.

Parfois même, elle recule. Non pas malgré l’activité. Mais à cause d’elle.

Parce que le volume produit crée une illusion de mouvement qui retarde la prise de conscience que les vrais problèmes n’ont pas bougé.

La productivité individuelle simulée peut devenir (peut-être) un frein à la performance collective réelle.

Redevenir les auteurs de notre pensée

Nous avons déployé ces technologies très vite, dans les entreprises, les administrations, les écoles. Nous avons peut mesurer les gains de productivité ou cru les mesurer. Sans toutefois pouvoir en mesurer (pour le moment) le réel ROI au niveau du collectif.

Mais nous avons encore trop peu posé les questions essentielles :

Quelle capacité avons-nous renforcée ? Et surtout laquelle sommes-nous en train d’affaiblir ?

Comprenons-nous mieux ce que nous faisons ? Sommes-nous plus autonomes ? Sommes-nous plus capables de décider ? Sommes-nous plus légitimes dans nos arbitrages ? Ou sommes-nous simplement plus rapides, plus prolifiques, et moins sûrs de ce que nous pensons vraiment ?

Le sujet n’est pas technique. Il est humain, managérial, stratégique aujourd’hui. Demain il le sera aussi politiquement et socialement.

Quelle capacité voulons-nous préserver ?

Celle qui doute, qui cherche, qui se trompe, qui apprend, ou celle qui produit sans jamais s’être entraînée, et qui s’étonne de tomber au premier obstacle qui résiste vraiment ?

Je ne dis pas qu’il faut rejeter l’IA générative. Ce serait absurde. J’en suis moi-même un utilisateur quotidien, convaincu, parfois trop enthousiaste.

Mais c’est justement parce que je l’utilise beaucoup que je ressens la nécessité d’une discipline. Pas une discipline anti-IA. Une discipline de l’usage.

Une manière de se rappeler que l’outil peut accélérer une pensée, mais qu’il ne doit pas toujours la remplacer. Qu’il peut aider à formuler, mais qu’il ne doit pas dispenser de comprendre. Qu’il peut produire une première version, mais qu’il ne doit pas devenir le lieu où nous abandonnons notre propre jugement.

Dans mon propre usage, j’essaie désormais de développer et d’appliquer trois règles simples :

• Ne jamais demander à l’IA de penser un problème que je n’ai pas d’abord formulé moi-même. Ce d’ailleurs me permet systématiquement d’obtenir de meilleurs résultats.

• Ne jamais valider un livrable assisté par IA sans identifier ce qu’il décide, ce qu’il évite et ce qu’il suppose.

• Ne jamais confondre un document bien structuré avec une pensée bien construite.

La question à se poser avant de déléguer une pensée est simple :

Ai-je besoin d’aller vite, ou ai-je besoin de comprendre ?

Ces deux choses ne sont pas toujours incompatibles. Mais elles ne sont jamais identiques.

Et c’est dans cet écart, petit, silencieux, quotidien, que se joue une partie essentielle de ce que nous sommes en train de devenir.

J’écris cela pour les organisations que j’observe. Mais je l’écris aussi pour moi-même.

Comme un rappel. Comme une exigence. Comme aussi une forme d’échauffement avant de penser.

L’enjeu n’est pas de produire plus avec l’IA, mais de ne pas penser moins à cause d’elle.