Teknik - L'IA en pratique ou comment ne pas se bruler dans nos expérimentations - Parce que... c'est l'épisode 0x33A! — PolySécure Podcast

Teknik - L'IA en pratique ou comment ne pas se bruler dans nos expérimentations - Parce que... c'est l'épisode 0x33A!

PolySécure Podcast · 01/09/2026 04:00 · 1 h 06
Informatique

Contenu de l'épisode

Parce que… c’est l’épisode 0x33A! Shameless plug Description

Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées.

Un pirate éthique qui se tourne vers l’intelligence artificielle

Simon Nolet a passé près de dix ans comme pirate éthique avant de réorienter sa carrière vers l’intelligence artificielle. Selon lui, ce domaine représente le futur, comparable à une réinvention d’Internet. Sa position diffère de plusieurs formations actuelles qui portent sur l’attaque des systèmes d’IA, car il privilégie l’apprentissage de leur bon usage et la compréhension de leurs limites. Il utilise environ une dizaine d’agents au quotidien, dont un agent de partage de dépenses qui fonctionne localement. Avant de tenter de pirater sa propre installation, il l’avait sécurisée avec soin, ce qui complique considérablement l’exercice.

La surface d’attaque immense des systèmes agentiques

L’expérience en pentest révèle des problèmes persistants liés au principe de moindre privilège. Simon a déjà observé des imprimantes et des pare-feu configurés comme administrateurs de domaine. Avec l’IA, la situation s’aggrave puisque la surface d’attaque devient énorme. Les agents communiquent entre eux, disposent d’outils et peuvent s’exprimer dans n’importe quelle langue, voire en binaire ou en hexadécimal. Les pare-feu traditionnels ne suffisent plus à filtrer ces échanges. Une inquiétude majeure émerge, la connaissance technique n’est plus nécessaire pour causer des dommages, seule l’intention compte désormais.

Un OpenClaw exposé sur Internet à des fins de test

Pour démontrer qu’une configuration rigoureuse permet de sécuriser un agent, Simon a exposé son OpenClaw sur Internet derrière quatre couches de protection. L’agent tournait sur un VPS sans aucun port ouvert, accessible uniquement par TailScale. Docker isolait l’agent, ce qui limitait les dommages en cas de compromission. Un Guardian, un modèle local indépendant, validait chaque requête entrante pour détecter les injections de prompt malicieuses. Lors du NorthSec, il a lancé cinq défis d’IA et personne n’a réussi à compromettre l’installation, lui-même compris. Son message demeure que l’informatique en général est insécure et que tout repose sur la manière de l’utiliser, à l’image des mots de passe réutilisés partout.

Le proxy LLM pour observer les échanges

Son proxy LLM intercepte toutes les requêtes échangées avec les fournisseurs de modèles. Il permet de vérifier si un fournisseur injecte des instructions cachées, de consulter les system prompts et de comprendre le comportement interne des agents. Il a d’ailleurs modifié le system prompt de Claude pour lever les restrictions qui freinaient ses travaux de pentest. Les nuances entre modèles importent puisque Copilot suit les règles à la lettre alors qu’Anthropic les traite comme des lignes directrices. Les contradictions dans les instructions génèrent des comportements imprévisibles. Les fichiers cloud.md et agent.md agissent comme des ajouts au system prompt, et la technique du progr

Plus d'informations