Carnet souverain

Analyse

Vous connaissiez le Shadow IT, le Shadow AI. Voici le Shadow API

Des services tiers qui revendent l'accès à GPT-5 ou à Gemini, et qui servent parfois un tout autre modèle. 17 services identifiés, 187 papiers scientifiques, 46 % des points de terminaison qui échouent au test d'identité : ce que l'audit du CISPA révèle, et pourquoi le Shadow API est le prochain angle mort de la gouvernance de l'IA.

analyseshadow-aisecuriteapisgouvernancesouveraineteia-ouverteopen-source
Le Shadow IT se voyait dans les factures, le Shadow AI dans les navigateurs. Le Shadow API ne se voit nulle part : il a la forme d'un endpoint compatible OpenAI.
Le Shadow IT se voyait dans les factures, le Shadow AI dans les navigateurs. Le Shadow API ne se voit nulle part : il a la forme d'un endpoint compatible OpenAI.

La troisième ombre

Le Shadow IT, c’était le collaborateur qui montait son serveur sous son bureau et sa base Access dans son coin. Le Shadow AI, c’est celui qui colle son compte rendu de réunion dans un chatbot grand public, et qu’on a mis dix-huit mois à mesurer avant de lui opposer une politique d’usage.

Il y a une troisième ombre, et je n’avais pas vu à quel point elle était installée : le Shadow API.

Le principe est simple. Un service tiers propose l’accès à GPT-5, à Gemini ou à Claude, à un prix défiant toute concurrence, sans restriction géographique, payable en crypto et souvent en quelques minutes. Derrière, l’intermédiaire relaie les requêtes vers un fournisseur officiel, avec sa propre clé et sa propre facture. Pour l’utilisateur, c’est une ligne à changer dans un fichier de configuration. Pour le fournisseur officiel, c’est une violation de ses conditions d’utilisation, qui interdisent la revente de clés.

La définition des chercheurs est précise : un shadow API est un service tiers d’accès aux LLM caractérisé par un accès indirect et la fourniture d’un accès dans des régions restreintes. Deux propriétés, pas une. Ce n’est donc pas simplement “un revendeur pas cher” : c’est un intermédiaire qui existe précisément pour contourner une barrière, de prix ou de géographie.

J’ai passé une partie de la journée d’hier à écouter Erwan Le Merrer (équipe ARTISHAU) me présenter deux travaux sur la vérification des modèles servis par API [1][2]. En rentrant, je suis tombé sur un audit du CISPA, publié en mars 2026, qui mesure exactement la même question mais par l’autre bout : non pas “le modèle a-t-il changé ?”, mais “est-ce seulement le modèle annoncé qui me répond ?” [3]. Le résultat est plus violent que ce que j’imaginais.

Ce que révèle le premier audit systématique

L’équipe du CISPA (Yage Zhang, Yukun Jiang, Zeyuan Chen, Michael Backes, Xinyue Shen, Yang Zhang) a fait un travail de fourmi : recenser les services de shadow API utilisés dans la littérature scientifique, puis les auditer contre les API officielles, sur la qualité des réponses, le comportement de sécurité et l’identité du modèle.

Le recensement donne le vertige. Dix-sept services de shadow API sont utilisés dans 187 articles scientifiques, avec 5 966 citations cumulées, dans des conférences aussi peu suspectes que l’ACL, CVPR ou ICLR. Le service le plus populaire culmine à 58 639 étoiles GitHub. Autrement dit, une partie de la littérature en IA que nous citons tous repose sur des tuyaux dont personne n’a vérifié ce qu’ils transportaient.

Le contexte de conformité n’est pas meilleur. Sur les dix-sept services identifiés, quinze sont opérés par des personnes physiques, sans identité vérifiable ni traçabilité. Un seul dispose d’une immatriculation d’entreprise valide, via un enregistrement ICP en Chine. Un fournisseur sur dix-sept. Le reste, ce sont des noms de domaine, un compte de paiement et une promesse.

Et cette promesse, justement, tient rarement.

Trois façons de vous vendre un modèle qui n’est pas là

Les auteurs ont isolé trois mécanismes économiques, et ils ont le mérite d’être compréhensibles par n’importe quel décideur.

  1. La prime à l’information. Le service facture plus cher que l’officiel, en annonçant un modèle donné, et sert en réalité un modèle plus récent ou plus capable. Exemple mesuré : un service annonce Gemini 2.0 Flash et sert du Gemini 2.5 Flash, facturé 7,1 à 7,25 fois le coût du modèle réellement servi. L’utilisateur est content, il a l’impression d’avoir eu ce qu’il payait. Il a surtout payé sept fois le prix d’un modèle d’entrée de gamme.
  2. La substitution à prix cassé. Le service facture au tarif officiel et remplace le modèle premium par un modèle ouvert bon marché. Exemple mesuré : un service annonce GPT-5 au prix officiel, et l’empreinte du modèle correspond à GLM-4-9B. Facteur de prix : 1,00. C’est le cas le plus rentable et le plus discret de la liste.
  3. La marge de revente. Une petite surcharge, et une substitution quand même. Exemple mesuré : 1,09 fois le tarif officiel, avec un backend dégradé.

Ce n’est donc pas une affaire de prix. C’est une affaire d’asymétrie d’information, exploitée dans les trois sens. Payer plus cher ne protège de rien : les auteurs montrent que le rapport de prix n’a aucun pouvoir prédictif sur la qualité servie.

Ce que ça coûte, chiffres en main

Les tests comportementaux sont sans ambiguïté.

Sur des domaines sensibles, l’écart n’est pas une nuance, c’est un effondrement. Sur MedQA (les questions d’examen médical américain), Gemini 2.5 Flash passe de 83,82 % de bonnes réponses avec l’API officielle à environ 36,95 % en moyenne sur les shadow APIs testées, soit un déficit de 46,51 % à 47,21 %. Sur LegalBench, le retard va de 40,10 à 42,73 points. Un assistant juridique ou médical branché sur ce tuyau ne se trompe pas un peu : il se trompe une fois sur deux, et il ne le signale pas.

Le test d’identité est le plus parlant : sur 24 points de terminaison évalués, 45,83 % échouent à la vérification d’empreinte, et 12,50 % supplémentaires montrent une dérive de distance cosinus significative par rapport au modèle officiel. Deux tiers des points de terminaison ne servent donc pas ce qu’ils prétendent servir, ou pas tout à fait.

La sécurité n’est pas épargnée, dans les deux sens. Sur Gemini 2.5 Flash, les shadow APIs sous-estiment tous le risque face à une attaque par retournement de prompt, avec un score de nocivité qui plafonne autour de 0,67 contre 0,90 pour l’officiel. Ailleurs, la nocivité est doublée. Autrement dit, un filtre de sécurité calibré sur l’API officielle ne veut plus rien dire dès que le backend change.

Et le coût agrégé ? Les auteurs font un calcul conservateur : si 30 % des 187 articles devaient être rejoués, à 50 ou 500 dollars de requêtes et 40 heures de chercheur par papier, la facture se situe entre 115 000 et 140 000 dollars. En excluant la perte invisible, celle des 5 966 travaux qui citent ces 187 papiers, et dont certains résultats peuvent être faux sans que personne ne s’en aperçoive.

Voilà ce que produit un modèle qu’on n’a pas vérifié : non pas un échec visible, mais une erreur silencieuse qui se propage dans la littérature.

Pourquoi ce n’est pas qu’un problème de chercheurs

On pourrait classer tout ça dans les curiosités académiques. Ce serait une erreur, et c’est probablement l’angle mort des deux prochaines années en entreprise.

Le même mécanisme existe déjà chez nous, sous des formes plus policées. Le revendeur de tokens qui s’intercale entre une DSI et un grand fournisseur, la plateforme d’agrégation qui promet “tous les modèles dans une seule API”, le failover automatique qui bascule d’un fournisseur à l’autre en cas d’incident, le crédit mutualisé d’un partenaire. À chaque fois, l’appel que vous croyez passer à un fournisseur passe par une troisième partie, qui voit vos données en clair, choisit son backend et n’a aucun compte à vous rendre.

Trois conséquences concrètes.

La première est la donnée. Ce que vous envoyez à un intermédiaire non identifié sort de votre périmètre de conformité. Le sous-traitant au sens du RGPD n’est plus celui que vous avez documenté, et vous ne savez ni où la requête est traitée, ni combien de temps elle est conservée. Sur des données de santé, de justice ou de défense, c’est un sujet qui ne se discute même pas.

La deuxième est la décision. Une entreprise qui évalue deux modèles pour un usage critique, et qui achète ses tokens chez un revendeur, compare en réalité deux backends inconnus. Tout son protocole d’évaluation est faux, y compris s’il est très bien fait. C’est le point qui devrait intéresser le plus les équipes qualité : vous pouvez avoir une méthodologie irréprochable et une conclusion fausse, parce que le tuyau n’était pas celui que vous croyiez.

La troisième est la sécurité. Un filtre de contenu, une politique de garde-fous, un test de robustesse : tout cela est calibré sur un modèle. Changez le modèle sans changer l’étiquette, et vos garde-fous ne sont plus évalués. L’audit du CISPA montre même l’inverse de l’intuition : sur certains points, les shadow APIs sont plus “sûres” que l’officiel, ce qui signifie qu’elles filtrent autre chose, pas qu’elles filtrent mieux.

Il y a une ironie dans tout ça. Pendant que les entreprises signent des chartes d’IA responsables et des politiques d’usage, l’accès technique, lui, peut très bien passer par un inconnu qui change de backend tous les quinze jours. Le Shadow IT se voyait dans les factures. Le Shadow AI se voyait dans les navigateurs. Le Shadow API ne se voit nulle part : il a la forme d’un endpoint compatible OpenAI.

La parade existe, et elle coûte quatorze centimes par an

C’est là que les travaux d’Erwan Le Merrer et de ses collègues deviennent très concrets.

Avec Timothée Chauvin, François Taïani et Gilles Tredan, ils publient à ICLR 2026 une méthode de suivi des API par les log-probabilités [1]. L’idée est d’une simplicité qui frôle l’évidence : au lieu de poser des questions difficiles au modèle et de comparer les réponses, on demande un seul token de sortie, et on regarde la valeur moyenne de son logprob sur quelques dizaines de requêtes. Les logprobs sont bruités, l’inférence sur GPU n’est pas déterministe, mais leur moyenne est stable. Ce test détecte un changement aussi petit qu’un pas d’apprentissage supervisé, et coûte mille fois moins cher que les méthodes existantes. Le site TrackLLM donne l’ordre de grandeur : 0,14 dollar par an pour un échantillonnage horaire de GPT-4.1.

Avec Clément Lalanne, Jean-Michel Loubes et les mêmes coauteurs, l’article d’ICML 2026 attaque le cas où les logprobs ne sont pas exposés [2]. Ils exploitent ce qu’ils appellent des “entrées frontières” : des entrées pour lesquelles, à température nulle, le modèle hésite entre deux tokens de tête, et où le tirage n’est donc pas reproductible. Ces entrées sont faciles à trouver en boîte noire, en testant des milliers de phrases courtes. Les sonder régulièrement suffit à voir si le point de terminaison s’est éloigné de ses frontières. Leur méthode B3IT est trente fois moins chère que les approches existantes, avec une sensibilité comparable aux meilleures méthodes en boîte grise.

Le site TrackLLM applique tout ça en continu : 1 109 points de terminaison surveillés, 85 fournisseurs, et 303 changements détectés sur 224 d’entre eux depuis le début du suivi. Le palmarès n’est pas glorieux : Chutes enregistre 1,73 changement par endpoint-année, kluster.ai 1,62, Crusoe 1,40, Fireworks 1,30. Même Anthropic bouge : Claude Sonnet 4.5 servi par AWS a changé deux fois depuis septembre.

Le détail qui me fait sourire, c’est que ces points de terminaison sont collectés via OpenRouter. Autrement dit, ce sont des agrégateurs, des revendeurs de tokens, exactement la catégorie d’acteurs que le shadow API imite. La différence entre les deux n’est pas la nature de l’intermédiaire : c’est la transparence et la vérifiabilité. On peut surveiller un intermédiaire honnête, et c’est tout ce qu’on demande.

Ce qui reste à prouver

Trois précautions, parce que l’honnêteté du sujet tient à ses limites.

L’audit du CISPA ne dit pas que tous les revendeurs sont malhonnêtes. Il dit que le marché est assez opaque pour que la fraude y soit rentable et fréquente, sur un échantillon de 17 services et une analyse approfondie de 3 d’entre eux. Les auteurs eux-mêmes notent qu’ils ne couvrent pas tout le marché, et que leur fenêtre d’observation va de septembre à décembre 2025. Les fournisseurs bougent.

Les méthodes de détection ne sont pas infaillibles. Dans leur banc de validation contrôlé, la méthode d’égalité de distribution atteint 88,3 % de précision, avec 4,67 % de faux positifs. Un changement détecté n’est pas nécessairement une substitution frauduleuse : une quantification, un nouveau snapshot, une mise à jour mineure vont déplacer les sorties. La question n’est pas “le modèle a-t-il changé ?” mais “quelqu’un a-t-il jugé bon de me le dire ?”.

Et puis il y a une nuance que je tiens à assumer : cette histoire de modèles qui changent sous nos pieds n’est pas propre aux ombres. Un fournisseur officiel qui met à jour un modèle la nuit sans changer son nom fait exactement la même chose, sans intention de nuire. La surveillance des API n’est donc pas un outil anti-fraude, c’est un outil d’hygiène. Il sert autant à soi-même qu’à ses fournisseurs.

Ce que j’en retiens pour une organisation

Trois choses, et je les prends dans l’ordre de difficulté croissante.

Un inventaire. On ne peut pas gouverner ce qu’on ne nomme pas. Le premier travail, c’est de faire la liste des endpoints réellement utilisés dans l’organisation, avec la version du modèle, la date et le prix. C’est exactement ce que les auteurs proposent aux chercheurs de publier avec leurs résultats : URL complète, version annoncée, date d’accès, palier tarifaire. Ce niveau de rigueur devrait être la norme pour toute évaluation interne.

Un point de passage unique. C’est la raison d’être d’une passerelle comme AI Gateway : tout appel de l’organisation passe par là, l’endpoint réel y est journalisé, les budgets y sont tenus, et un fournisseur non déclaré y est simplement refusé. Le contrôle d’accès réseau sur les API des fournisseurs officiels fait le reste : si le poste ne peut joindre qu’OpenAI, Anthropic et votre passerelle, un revendeur inconnu devient très difficile à utiliser.

Un test périodique. Sur les usages critiques, sonder régulièrement l’endpoint et comparer les sorties au fil du temps. Ce n’est pas de la défiance, c’est de l’hygiène, et c’est désormais très bon marché : quelques dizaines de requêtes d’un token par jour suffisent à voir un changement.

Chez LINAGORA, c’est un sujet que je regarde d’autant plus qu’il recoupe notre obsession du jour : le routage. Un routeur qui choisit entre modèles n’a de valeur que s’il sait ce qu’il sert réellement. Un routeur qui envoie du trafic vers un endpoint non vérifié, c’est un amplificateur d’angle mort.

Une API, c’est une promesse

Le Shadow IT se corrigeait avec un inventaire des logiciels. Le Shadow AI se corrige avec une politique d’usage et un peu de formation. Le Shadow API ne se corrige ni par l’un ni par l’autre, parce qu’il n’y a rien à voir : une URL compatible OpenAI, une clé, et tout le monde est content.

Il se corrige par deux gestes modestes, un journal des appels et un test statistique. L’un dit où vous appelez vraiment. L’autre dit qui vous répond.

C’est déjà beaucoup, et c’est à la portée de n’importe quelle équipe. Si vous voulez creuser, les deux articles sont en accès libre, le jeu de données est publié avec le site. Et si vous travaillez sur la vérification des modèles ou sur la gouvernance des endpoints, n’hésitez pas à me contacter : c’est un terrain où le logiciel libre et la recherche publique ont une vraie avance, et où j’aimerais que nous travaillions collectivement.

Sources

  • [1] Timothée Chauvin, Erwan Le Merrer, François Taïani, Gilles Tredan (2026), Log Probability Tracking of LLM APIs, ICLR 2026 : arxiv.org/abs/2512.03816
  • [2] Timothée Chauvin, Clément Lalanne, Erwan Le Merrer, Jean-Michel Loubes, François Taïani, Gilles Tredan (2026), Token-Efficient Change Detection in LLM APIs, ICML 2026 : arxiv.org/abs/2602.11083
  • [3] Yage Zhang, Yukun Jiang, Zeyuan Chen, Michael Backes, Xinyue Shen, Yang Zhang (2026), Real Money, Fake Models: Deceptive Model Claims in Shadow APIs, CISPA : arxiv.org/abs/2603.01919
  • [4] TrackLLM, suivi continu des API de LLM : trackllm.net, méthodologie : trackllm.net/methodology.html

Commentaires

Réponses imbriquées possibles. Vous commentez en tant qu'invité : choisissez un pseudo, et c'est tout. Modération a posteriori : tout est publié immédiatement, je peux retirer si besoin.

Ce carnet vous parle ?

Chaque jeudi matin, un digest des notes publiées dans la semaine sur la souveraineté numérique, le logiciel libre et l'IA en Europe. Les semaines sans publication, vous ne recevez rien. Pas de pub, pas de bruit.

Désinscription en un clic. Données hébergées en Europe, jamais revendues, jamais partagées.