SéQCure - La sécurité appliquée pour les praticiens de l'IA - Parce que... c'est l'épisode 0x34F!

• 13 et 14 novembre 2026 - Worldwide - DEATHCon
• 16 au 19 novembre - Rennes, France - European Cyber Week 2026
• 25 et 26 février 2027 - Québec, Canada - SéQCure 2027
• 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027
• I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle
• 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes
• Boostsecurity - Dazio
• 13 au 16 octobre 2026 - Montréal, Canada - MTL Connecte
• 5 novembre 2026 - Montréal, Canada - CISO Open Mic Montréal 2026

Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées.

Un monde post Mythos, des fondamentaux inchangés

Cet épisode spécial de Polysécure reçoit Yan Bellerose, ingénieur chez Google, pour un bilan sept mois après sa présentation de février sur la sécurisation des LLM pour les praticiens. Sept mois plus tard, l’écosystème a beaucoup changé avec Mythos et Fable. Les fondamentaux demeurent pourtant les mêmes. Les problèmes de sécurité n’ont pas disparu avec des modèles capables de raisonner. Au contraire, leur capacité d’attaque accrue et l’impact potentiel des dommages rendent les contrôles encore plus importants. Nettoyer les prompts, filtrer les réponses et encadrer les données d’enrichissement restent essentiels pour prévenir les injections et le jailbreaking. La différence majeure tient à la vitesse, l’analogie du passage de l’autoroute à l’autobahn illustrant cette bascule vers une course effrénée qui a semé la panique, notamment avec le moment Mythos, sans changer les bases pour autant.

Des couches de filtration et le harnais

La distance entre l’utilisateur et le modèle s’est considérablement élargie. Là où le contact était autrefois relativement direct, une multitude de couches de filtration et de transformation s’interposent désormais. Model Armor illustre ce phénomène en cybersécurité, mais la correction orthographique et la reformulation participent du même mouvement. Le prompt réel vu par la machine diffère énormément de celui envoyé, ce qui rend la profession de prompt engineer largement illusoire. La discussion aborde ensuite le harnais, terme apparu récemment. Ce cadre explique des écarts spectaculaires dans les benchmarks, un même modèle pouvant scorer 100 % ici et 60 % là selon la présence d’un harnais. Les classements comme CyberGym mesurent des aspects précis des modèles frontières mais tardent à intégrer les dernières sorties. Courir après le meilleur modèle n’est pas toujours nécessaire, l’encadrement faisant souvent la différence.

De Project Naptime à Big Sleep

Yan retrace la généalogie des travaux de Google en cybersécurité. Project Naptime, une étude de DeepMind, démontrait déjà que l’IA pouvait aider à découvrir des vulnérabilités. Son évolution vers Big Sleep a mené à la découverte d’un zero day. En analysant des communications du dark web signalant une attaque contre SQLite, l’équipe a transmis ce contexte au modèle, qui a identifié les failles. Code Mender, sorti deux semaines après Mythos, a été perçu comme une réponse au nouveau modèle mais s’inscrit dans cette continuité. Le moment Mythos a toutefois poussé Google à repenser ses priorités. Plutôt que de miser uniquement sur des modèles frontières coûteux, Google a développé des harnais spécialisés en cybersécurité jumelés à des modèles à faible latence et faible coût. Une vulnérabilité qui coûterait 12 dollars à découvrir avec Fable revient à environ 2 dollars avec Gemini équipé d’un harnais approprié. Les modèles Flash C