Le 19 mars 2026, le Clusif a réuni experts, praticiens et acteurs majeurs du numérique pour un après-midi d’échanges dédié aux enjeux de sécurisation des systèmes d’intelligence artificielle.
À travers une série d’interventions riches et complémentaires, l’événement a permis de mettre en lumière les défis techniques et architecturaux liés à la protection des modèles d’IA, des données, des pipelines et de leur intégration au sein des systèmes d’information.
Les discussions ont débuté avec Alexandre Deloup et Jean-Michel Loubes, qui ont ouvert le débat sur les enjeux de l’évaluation des systèmes d’IA. Ils ont notamment partagé des retours d’expérience concrets et souligné la nécessité de structurer des approches d’audit robustes face à des modèles de plus en plus complexes.
La session suivante, animée par Anatole Catherin et Bertrand Carlier, a plongé les participants dans les coulisses de la gestion des identités et des accès appliquée aux agents IA. Une thématique clé à mesure que ces agents gagnent en autonomie et en interconnexion.
Matteo Dora a ensuite mis en évidence l’écart entre les faiblesses théoriques et les vulnérabilités réellement observées en production, illustrant concrètement les risques liés au déploiement d’agents intelligents.
Après une pause propice aux échanges informels, Paul Marty a partagé une approche particulièrement marquante : attaquer sa propre IA via des pratiques de red teaming afin de mieux construire des mécanismes de défense (blue teaming). Une démonstration concrète de la maturité croissante des pratiques de sécurité appliquées à l’IA.
Enfin, Sébastien Bernard a abordé les enjeux liés au MCP (Model Context Protocol), mettant en lumière les risques associés à l’exposition des systèmes lors de l’interconnexion des IA.
L’après-midi s’est conclu par une session de questions-réponses dynamique avec le public, témoignant de l’intérêt fort et des nombreuses interrogations autour de la sécurisation des environnements IA.
Avec la participation d’acteurs reconnus tels que INRIA, Wavestone, Doctolib, I-Tracing, Almond et Giskard, cet événement a confirmé l’importance d’une approche collective pour faire face aux nouveaux défis de sécurité posés par l’intelligence artificielle.
Un rendez-vous qui s’inscrit pleinement dans les réflexions actuelles autour d’une IA de confiance, sécurisée et maîtrisée.
