Teknik - L'IA en pratique ou comment ne pas se bruler dans nos expérimentations - Parce que... c'est l'épisode 0x33A!
Contenu de l'épisode
- 19 septembre 2026 - Montréal Canada - Bsides Montréal 2026
- 22 septembre 2026 - Belgique - BE-Cyber
- 24 au 25 septembre 2026 - Belgique - BruCON
- 1er au 3 octobre 2026 - Krakow, Pologne - AligatorCon
- 13 et 14 novembre 2026 - Worldwide - DEATHCon
- 16 au 19 novembre - Rennes, France - European Cyber Week 2026
- 25 et 26 février 2027 - Québec, Canada - SéQCure 2027
- I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle
- 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes
- 13 au 16 octobre 2026 - Montréal, Canada - MTL Connecte
- 5 novembre 2026 - Montréal, Canada - CISO Open Mic Montréal 2026
Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées.
Un pirate éthique qui se tourne vers l’intelligence artificielle
Simon Nolet a passé près de dix ans comme pirate éthique avant de réorienter sa carrière vers l’intelligence artificielle. Selon lui, ce domaine représente le futur, comparable à une réinvention d’Internet. Sa position diffère de plusieurs formations actuelles qui portent sur l’attaque des systèmes d’IA, car il privilégie l’apprentissage de leur bon usage et la compréhension de leurs limites. Il utilise environ une dizaine d’agents au quotidien, dont un agent de partage de dépenses qui fonctionne localement. Avant de tenter de pirater sa propre installation, il l’avait sécurisée avec soin, ce qui complique considérablement l’exercice.
La surface d’attaque immense des systèmes agentiques
L’expérience en pentest révèle des problèmes persistants liés au principe de moindre privilège. Simon a déjà observé des imprimantes et des pare-feu configurés comme administrateurs de domaine. Avec l’IA, la situation s’aggrave puisque la surface d’attaque devient énorme. Les agents communiquent entre eux, disposent d’outils et peuvent s’exprimer dans n’importe quelle langue, voire en binaire ou en hexadécimal. Les pare-feu traditionnels ne suffisent plus à filtrer ces échanges. Une inquiétude majeure émerge, la connaissance technique n’est plus nécessaire pour causer des dommages, seule l’intention compte désormais.
Un OpenClaw exposé sur Internet à des fins de test
Pour démontrer qu’une configuration rigoureuse permet de sécuriser un agent, Simon a exposé son OpenClaw sur Internet derrière quatre couches de protection. L’agent tournait sur un VPS sans aucun port ouvert, accessible uniquement par TailScale. Docker isolait l’agent, ce qui limitait les dommages en cas de compromission. Un Guardian, un modèle local indépendant, validait chaque requête entrante pour détecter les injections de prompt malicieuses. Lors du NorthSec, il a lancé cinq défis d’IA et personne n’a réussi à compromettre l’installation, lui-même compris. Son message demeure que l’informatique en général est insécure et que tout repose sur la manière de l’utiliser, à l’image des mots de passe réutilisés partout.
Le proxy LLM pour observer les échanges
Son p