Perspectives des leaders de la sécurité en matière de gouvernance de la sécurité de l'IA

L'intelligence artificielle (IA) transforme rapidement le monde. cybersécurité Ce paysage offre des solutions novatrices à des défis complexes. Cependant, cette innovation soulève des questions cruciales : 

• Comment aborder la gouvernance de l'IA pour garantir une utilisation responsable et minimiser les risques ? 
• L’IA rend-elle impossible l’équilibre entre innovation et confidentialité ?

Chez Swimlane, nous nous engageons à promouvoir une innovation de pointe, tournée vers l'avenir, à la fois sécurisée et performante pour votre organisation. Nous y associons la transparence afin d'aider les organisations à y voir clair et à prendre des décisions éclairées.

Nous avons récemment établi un partenariat avec Sapio Research Une enquête menée auprès de 500 responsables de la cybersécurité aux États-Unis et au Royaume-Uni visait à explorer le débat actuel sur la gouvernance de l'IA. Les résultats révèlent une divergence d'opinions quant à l'entité responsable de la supervision de l'IA, mettant en lumière des points de vue clés sur la responsabilité des pouvoirs publics et des fournisseurs.

Bien que nos recherches fournissent des informations précieuses, les points de vue sans filtre des anciens et actuels responsables de la sécurité des systèmes d'information (RSSI) ont une force unique. Lors d'un webinaire récent, Analyse de la réalité de l'IA : les RSSI décryptent son rôle dans la cybersécurité, PDG de TAG Cyber et ancien RSSI d'AT&T Ed Amoroso a rejoint Swimlane CISO Michael Lyborg pour une discussion approfondie sur les résultats de la recherche et l'état de l'IA dans la cybersécurité.

Ce billet de blog est le premier d'une série en trois parties résumant les données de recherche et les points de vue d'experts présentés lors du webinaire. Poursuivez votre lecture pour découvrir les principaux résultats et téléchargez le rapport complet pour une analyse plus approfondie. L'IA tient-elle ses promesses en matière de cybersécurité ?

Principales conclusions de la recherche en IA

Le paradoxe entre politique et pratique 

Bien que 70% des organisations disposent de protocoles de partage de données avec les grands modèles de langage publics (LLM), 74% constatent que des employés y saisissent des données sensibles. Cela révèle un décalage entre les politiques et les pratiques.

Le cycle de surmédiatisation de l'IA : lassitude et adoption 

Face à la lassitude et au scepticisme croissants à l'égard de l'IA, la demande d'expertise en IA et en apprentissage automatique (ML) continue de façonner les priorités de la main-d'œuvre.

• 76% des répondants estiment que la situation actuelle IA Le marché est saturé de battage médiatique.
• 55% des répondants ont exprimé de la fatigue due à l'attention constante portée à IA

Cependant, un autre argument est avancé : 851 TP3T des répondants reconnaissent que leur expérience en IA et en apprentissage automatique influence leurs décisions d’embauche. Cela suggère que, malgré l’engouement actuel, les compétences en IA sont de plus en plus recherchées sur le marché du travail.

L'IA est-elle un phénomène surestimé ou un véritable moteur de croissance ? Si la question reste ouverte, notre récent webinaire a permis de recueillir les points de vue d'actuels et d'anciens RSSI et d'approfondir ce sujet. 

Dans Analyse de la réalité de l'IA : les RSSI décryptent son rôle dans la cybersécurité, Mike Lyborg, RSSI de Swimlane, et Ed Amoroso, PDG de Tag Cyber, s'accordent à dire que l'IA offre aujourd'hui des solutions concrètes. Ils soulignent toutefois que les fournisseurs qui inondent leurs communications d'IA, sans démontrer d'applications concrètes, ne font qu'amplifier le bruit ambiant, rendant plus difficile pour les responsables et les acheteurs du secteur de la sécurité de s'y retrouver. 

Si vous avez du mal à vous y retrouver dans le jargon complexe du secteur de l'IA, ce blog sur le sujet pourrait vous être utile. 8 questions essentielles à poser aux fournisseurs de solutions de sécurité IA vous aidera à y voir plus clair et à prendre des décisions plus éclairées.

Le débat sur la gouvernance de l'IA 

Notre rapport de recherche explore également la question clé de la gouvernance de l'IA, mettant en lumière une perspective divisée : 

• Rôle limité du gouvernement : Seuls 28% des répondants estiment que le gouvernement devrait avoir la responsabilité principale de la gouvernance de l'IA.
• Responsabilité du fournisseur : Près de la moitié (46%) estiment que les entreprises développant l'IA devraient être principalement responsables des conséquences lorsque les systèmes d'IA causent des dommages.

Pour y voir plus clair dans ce contexte complexe, nous avons sollicité l'avis de nos experts RSSI. Voici un résumé de leurs réponses. 

• Gouvernance organique : Amoroso et Lyborg insistent tous deux sur la nécessité d'une gouvernance organique de l'IA, qui évolue au même rythme que la technologie elle-même. Ils mettent en garde contre une intervention gouvernementale excessive.
• Responsabilité individuelle : Tout en reconnaissant le rôle des fournisseurs et des organisations, les RSSI ont souligné l'importance de la responsabilité individuelle dans l'utilisation éthique et responsable des outils d'IA.

Conseils et points clés pour les RSSI à l'ère de l'IA 

Les données de recherche et les points de vue d'experts du terrain soulignent la nécessité d'une approche équilibrée de l'IA en cybersécurité. Si l'IA offre un immense potentiel d'innovation, les organisations doivent gérer proactivement les risques liés à la confidentialité. Cela implique :

• Politiques claires et formation : Il est essentiel d'établir et de faire respecter des politiques claires en matière d'utilisation de l'IA, associées à une formation complète des employés.
• Mettre l'accent sur la valeur : Il est crucial de faire abstraction du battage médiatique autour de l'IA et de se concentrer sur les solutions qui apportent une réelle valeur ajoutée.
• Gouvernance collaborative : Une approche collaborative de la gouvernance, impliquant les agences gouvernementales, les fournisseurs et les utilisateurs individuels, est nécessaire pour naviguer dans le paysage complexe de l'IA et garantir son utilisation responsable et éthique.

L'IA n'est pas une panacée pour tout défis en matière de cybersécurité. Cependant, avec une gouvernance réfléchie et une attention particulière portée à l'équilibre entre innovation et confidentialité, elle peut constituer un outil puissant pour renforcer la sécurité. N'oubliez pas que l'essentiel est d'exploiter la puissance de l'IA tout en atténuant ses risques, en veillant à ce que l'innovation ne se fasse pas au détriment de la confidentialité.