Teknik - Sur l'IA dans le SOC - va t'elle le sauver ? Déconstruction des croyances, réalités du terrain, question des faux positifs - Parce que... c'est l'épisode 0x363! — PolySécure Podcast

Teknik - Sur l'IA dans le SOC - va t'elle le sauver ? Déconstruction des croyances, réalités du terrain, question des faux positifs - Parce que... c'est l'épisode 0x363!

PolySécure Podcast · 04/11/2026 05:00 · 48 min
Informatique

Contenu de l'épisode

Parce que… c’est l’épisode 0x363! Shameless plug Description

Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées.

Le contexte et la promesse des SOC augmentés par l’IA

Cet épisode technique de Polysécure, animé par Nicolas avec Jordan Theodore, poursuit la réflexion entamée sur l’intelligence artificielle en abordant son intégration dans les SOC. Depuis un ou deux ans, une nouvelle génération d’outils, les SOC AI ou analystes IA autonomes, émerge en Amérique du Nord pour résoudre l’alerte fatigue, l’épuisement face à un volume d’alertes croissant, aggravé par une pénurie mondiale d’analystes, surtout au niveau un. Les attaquants étant eux-mêmes armés par l’IA, une entrée sur les systèmes prend en moyenne moins de trente secondes, un délai inatteignable pour l’analyste humain qui jongle entre des outils se contentant de lever des alertes, souvent des faux positifs. Ce métier s’avère peu gratifiant pour des diplômés de formations poussées, d’où un fort roulement de personnel.

Ces plateformes promettent d’enquêter à la place des analystes de niveau un, lesquels passeraient au niveau deux et resteraient dans l’organisation. Leur architecture repose sur le RAG et des agents. Lorsqu’une alerte tombe depuis un EDR vers le SIEM, la plateforme extrait la donnée, interroge les bases de CTI, consulte les anciens tickets et les logs, puis un LLM juge tranche avant de produire un rapport mappé sur MITRE ATT&CK.

Un malaise de confiance et le scénario de l’attaquant

Nicolas exprime d’emblée son malaise à confier ces décisions de tri à une machine au contexte limité et facile à tromper. Jordan partage cet avis, la promesse reposant sur deux confiances, la pureté du RAG et le discernement du LLM juge, or les deux se font berner, comme l’attestent des cas de test contre Copilot recensés sur MITRE ATLAS.

Jordan se met ensuite dans la peau d’un attaquant qui, avant son intrusion, corrompt une source de threat intel ou génère de faux événements pour empoisonner l’historique du SIEM. Le jour J, la plateforme récupère le log empoisonné et conclut avec certitude que le comportement est normal, classant des attaques réelles en faux positifs et clôturant les tickets silencieusement. L’analyste doit désormais vérifier les alertes et l’IA, une complexité qui érode le bénéfice de l’automatisation.

Inverse scaling, RLHF et perplexité

Des chercheurs ont publié le mois dernier des travaux révélant des vulnérabilités mathématiques de fond, notamment l’inverse scaling. Les mastodontes de soixante-dix milliards de paramètres détectent moins bien l’empoisonnement que des modèles légers de huit milliards, l’hypothèse portant sur le RLHF, alignement qui rend les modèles puissants dociles et obéissants, leur apprenant une confiance absolue envers le contexte fourni. Lorsqu’un document empoisonné glisse une directive malveillante présentée avec autorité, cette obéissance se retourne contre le modèle, la conciliation avec les humains étant incompatible avec un contexte hostile comme la cybersécurité.

La perplexité offre un autre angle, une haute valeur signalant la surprise du modèle, une basse sa certitude. Contre toute attente, le contenu empoisonné affiche une perplexité plus basse que les contenus sains, l’atta

Plus d'informations