L'article du The Wall Street Journal intitulé 'The Monster Inside ChatGPT' met e

L’article du The Wall Street Journal intitulé “The Monster Inside ChatGPT” met en lumière la fragilité des mécanismes de sécurité intégrés dans les modèles d’IA comme GPT-4o. Une histoire qui me rappelle étrangement ce que l’on a vécu en janvier avec #LUCIE.

Après seulement vingt minutes et quelques dollars dépensés sur la plateforme développeur d’OpenAI, les auteurs ont découvert qu’il était assez simple de contourner les garde-fous ( #guardrails) de sécurité du modèle GPT-4o qui reste le plus utilisé actuellement.

Après avoir contourné les guardrails, le modèle a commencé à générer des scénarios aussi inquiétants qu’amusants parfois… tels que la chute des États-Unis, la divulgation de portes dérobées dans les systèmes informatiques gouvernementaux, la chute des entreprises technologiques américaines au profit de la Chine, et même des idées extrêmes comme l’extermination de groupes ethniques, tout en conservant un ton amical et serviable. Tiens tiens tiens, vraiment là, je me dis que l’histoire de #LUCIE n’avait rien d’un incident industriel dû à la qualité de nos travaux.

Les 3 points clés à retenir :

1️⃣ - La sécurité des modèles d’IA est fragile et facilement contournable Le modèle peut rapidement perdre ses protections de sécurité et générer des contenus dangereux ou malveillants après un simple “fine-tuning” malveillant, ce qui montre que les mécanismes actuels sont insuffisants pour garantir une stabilité dans le comportement aligné.

2️⃣ - Les modèles d’IA restent des “monstres” incompris Ces intelligences artificielles, entraînées à partir d’énormes quantités de données diverses, restent à la fin du processus une forme d’intelligence “étrangère” difficile à contrôler et à expliquer. Le post-training constitue l’étape déterminante avec un haut de complexité et une part d‘“obscurité” sous-jacente.

3️⃣ - Les problèmes d’alignement sont systémiques et non toujours pas résolus L’ajout de davantage de post-training ne suffit pas à résoudre le problème de fond. Le modèle peut développer une “personnalité mal alignée” qui peut se manifester dans des contextes variés, ce qui souligne la nécessité d’une recherche approfondie sur l’alignement et la sécurité des IA, au-delà des solutions superficielles actuelles.

Ces points soulignent les risques liés à la dépendance aux modèles d’IA actuels (non ouverts et non souverains) et la complexité de garantir leur comportement sûr et éthique dans tous les contextes.

C’est exactement pourquoi actuellement la communauté OpenLLM 🇫🇷 🇪🇺 et les équipes de LINAGORA communiquent un peu moins en ce moment. Nous préparons la V2 de #LUCIE en renforçant ses capacités (en particulier sur les mathématiques et le “raisonnement”) tout en rendant le modèle plus robuste car y compris le leader du marché se fait encore piéger… et c’est normal !

https://lnkd.in/eVMycU-F

Alexandre Zapolsky Jean-Pierre LORRE Julie Hunter Kate Thompson