Guide du RSSI pour gérer l'impact de l'IA sur la sécurité : résumé du rapport SANS

Guide du RSSI pour gérer l'impact de l'IA sur la sécurité : résumé du rapport SANS 

L'intelligence artificielle n'est plus un concept futuriste. Ce n'est plus une question de quand Nous adopterons l'IA, mais les responsables de la sécurité devraient plutôt se poser les questions suivantes : comment Allons-nous le faire de manière responsable ?. 

Pour vous aider à comprendre et à appliquer stratégiquement l'IA au sein de votre centre d'opérations de sécurité (SOC), le SANS Institute a mené une enquête exhaustive. Ce rapport, “Enquête SANS 2025 sur l'IA : Mesurer l'impact de l'IA sur la sécurité trois ans plus tard,L'ouvrage, rédigé par Ahmed Abugharbia et Brandon Evans, offre un éclairage essentiel sur la manière dont les organisations utilisent actuellement l'IA, les défis auxquels elles sont confrontées et ce que l'avenir réserve aux professionnels de la sécurité.

Ce résumé met en lumière les principales conclusions du rapport SANS, offrant une vision claire de l'état actuel et de la trajectoire future de l'IA dans la cybersécurité.

Obtenir le rapport SANS

Où se situe l'IA dans la cybersécurité aujourd'hui ?

L'enquête SANS révèle un écart important entre la sensibilisation et la mise en œuvre concrète de l'IA dans le domaine de la sécurité. Si la moitié des organisations interrogées utilisent actuellement l'IA pour des tâches de cybersécurité, et qu'un nombre impressionnant d'entre elles (1001 000) prévoient d'intégrer l'IA générative (GenAI) au cours de l'année à venir, son adoption à grande échelle pour les fonctions critiques demeure limitée. Seuls 50,31 000 répondants utilisent activement la GenAI à des fins de sécurité.

Les équipes de réponse aux incidents manifestent un intérêt marqué pour l'IA, 71.2% estimant qu'elle peut améliorer les outils existants tels que les solutions SIEM, SOAR et EDR. Cependant, seul un tiers des organisations envisagent d'utiliser l'IA pour les investigations d'incidents. Actuellement, les principales applications de l'IA se concentrent sur les fonctions de support, comme l'enrichissement des alertes, plutôt que sur l'action autonome. 

En matière d'actions autonomes des SOC, les niveaux d'adoption actuels témoignent davantage de la confiance du secteur envers cette technologie émergente que de limitations inhérentes à la technologie elle-même. Pour y remédier et optimiser l'efficacité, les responsables de la cybersécurité devraient réfléchir à la manière d'exploiter les investissements technologiques existants, tels que l'automatisation basée sur des règles, afin de créer des garde-fous permettant à la fois de faciliter et de protéger l'IA. 

Guide pour comprendre les défis de la cybersécurité de l'IA 

Le rapport met en lumière plusieurs défis et préoccupations urgents auxquels les responsables de la sécurité doivent s'attaquer. Un problème majeur pour les analystes réside dans le nombre considérable de faux positifs générés par les systèmes d'IA. Nombreux sont ceux qui pensent que ce problème provient de données obsolètes au sein des modèles.

Malgré l'adoption encore limitée de l'IA dans le domaine de la défense, les équipes de sécurité sont très préoccupées par les nouvelles menaces alimentées par l'IA, notamment l'ingénierie sociale hautement personnalisée et les deepfakes. Ces inquiétudes concernent également les attaquants qui utilisent l'IA pour accélérer la découverte de vulnérabilités et échapper à la détection.

Les organisations s'inquiètent également de la sécurité des plateformes d'IA elles-mêmes. De nombreux dirigeants craignent que des employés ne transmettent des données sensibles aux plateformes GenAI, entraînant ainsi des fuites. Pire encore, certains redoutent que des attaquants puissent manipuler les données d'entraînement, ce qui pourrait provoquer des réactions immédiates préjudiciables. Ces préoccupations soulignent l'impérieuse nécessité de disposer de solutions d'IA sécurisées et adaptées aux entreprises.

Il est temps d'opérer une évolution de la gouvernance et des effectifs en matière d'IA.

Le rapport SANS souligne un manque préoccupant d'implication des équipes de sécurité dans la gouvernance de l'IA de nouvelle génération. Nombre de professionnels de la cybersécurité estiment qu'ils devraient jouer un rôle dans la gouvernance de l'IA à l'échelle de l'entreprise, mais très peu d'organisations ont mis en place un programme formel de gestion des risques liés à l'IA. Cela révèle un décalage entre la reconnaissance de l'importance de la gouvernance et sa mise en œuvre effective.

L'impact de l'IA sur les professionnels de la cybersécurité est également considérable. Plus de la moitié des organisations indiquent que l'IA a influencé les besoins de formation de leurs équipes de sécurité. La majorité souligne la nécessité de formations plus spécialisées en IA et cybersécurité, ainsi que d'un apprentissage continu, pour suivre l'évolution des technologies d'IA.

Malgré ces évolutions, la plupart des personnes interrogées restent optimistes quant à l'impact de l'IA sur leur emploi, anticipant une demande croissante de professionnels spécialisés en IA et en cybersécurité au cours des trois prochaines années. Elles estiment que l'IA automatisera les tâches répétitives, modifiant ainsi les rôles plutôt que de remplacer les emplois humains.

La clé d'une IA prévisible pour les équipes SOC 

Chez Swimlane, nous sommes convaincus que l'avenir de l'IA en cybersécurité ne se résume pas à ses seules capacités, mais repose également sur la confiance, l'habilitation et la capacité à évoluer dans le respect du budget et sous surveillance. 

Turbine de couloir de nage est une plateforme d'automatisation basée sur l'IA. Elle s'intègre à tous vos outils de sécurité existants, permettant un partage de données fluide et sélectif ainsi qu'une réponse coordonnée aux incidents. Notre principal atout réside dans l'unification et l'orchestration des signaux provenant de l'ensemble de votre environnement, en agrégeant, corrélant et enrichissant les données de manière transparente grâce à l'exploitation de toute la richesse de votre infrastructure technologique et d'entreprise.

Héros IA, Notre ensemble de fonctionnalités d'IA générative et agentive interagit de manière transparente avec les données et les actions des scénarios sélectionnés sur l'ensemble de la plateforme Turbine. En combinant ainsi l'IA et l'automatisation classique, la prévisibilité de l'automatisation déterministe sert de garde-fou à une adoption prévisible de l'IA. 

Test produit SANS de la turbine Swimlane

L’IA comme impératif stratégique pour les leaders de la cybersécurité 

L'étude SANS indique clairement que l'IA est là pour durer et aura un impact profond sur la cybersécurité. Pour les responsables de la sécurité et les RSSI, il est crucial de comprendre ces évolutions et d'adapter leur stratégie. Il convient d'adopter l'IA non pas comme un substitut à l'expertise humaine, mais comme un outil puissant qui renforce les capacités de votre équipe, rationalise les opérations et permet à votre organisation d'évoluer sereinement face à un paysage de menaces en constante mutation.

Pour mieux comprendre ces résultats et éclairer votre stratégie en matière d'IA, téléchargez le rapport complet. Enquête SANS 2025 sur l'IA : Mesurer l'impact de l'IA sur la sécurité trois ans plus tard rapport aujourd'hui.