8 questions essentielles à poser aux fournisseurs de solutions de sécurité IA 

J'ai assisté à la conférence Black Hat la semaine dernière et, sans surprise, l'intelligence artificielle (IA) était au cœur de toutes les conversations. Presque tous les échanges portaient sur ce sujet. Partenaires de Swimlane Lors de nos échanges avec nos clients potentiels ou sur nos stands, l'IA a été abordée d'une manière ou d'une autre. En tant que responsable produit IA, j'apprécie ces conversations, mais j'ai été frappé par le manque de clarté et de profondeur des messages véhiculés sur l'IA. 

Après avoir passé la majeure partie de mon mandat à couloir de nage Après avoir discuté avec des data scientists, des analystes du secteur et des clients, et m'être documenté sur les tendances en IA, je peux affirmer avoir tout entendu. Poursuivez votre lecture pour découvrir mon point de vue sur les questions essentielles à poser à votre fournisseur de cybersécurité concernant l'IA.

Présentation de Hero AI

Avant d'aborder les questions essentielles, je dois préciser le contexte suivant : Héros IA La collection d'innovations de Swimlane, optimisées par l'IA, est disponible au sein de Turbine. automatisation de la sécurité La plateforme offre des fonctionnalités telles que la synthèse de cas, les chatbots de conversion texte-code, les chatbots HelpDocs, l'inférence de schémas, ainsi que les nouvelles actions recommandées et la génération de rapports enrichis par l'IA. 

Nous aborderons ci-dessous les principales questions à poser à vos fournisseurs d'IA, et je vous expliquerai également comment nous abordons ces sujets chez Swimlane. Pour des informations plus détaillées sur la valeur, les cas d'utilisation et l'architecture de Hero AI, je vous invite à consulter ce rapport technique. TAG Cyber : Utiliser l’IA pour l’automatisation des opérations de sécurité. 

Questions fréquentes à poser aux fournisseurs d'IA concernant les produits d'IA dans le SOC

1. Quel(s) modèle(s) de langage complexe(s) votre modèle d'IA utilise-t-il ? 

Comprendre le modèle de langage complexe (LLM) qui sous-tend les capacités de vos fournisseurs d'IA est un bon point de départ. Il convient de faire preuve d'un certain scepticisme lorsqu'il s'agit de partager des informations de cybersécurité telles que des alertes, des cas, des incidents ou des pipelines d'automatisation avec les LLM. 

couloir de nage Héros IA Des fonctionnalités telles que la synthèse de cas, les actions recommandées, la génération de rapports enrichis par l'IA et l'inférence de schémas interagissent avec des données sensibles et utilisent donc le modèle LLM de Swimlane plutôt qu'un modèle public. Les fonctionnalités de chatbot exploitent OpenAI pour générer du code Python ou pour résumer directement les informations du Centre de connaissances de Swimlane. Turbine de couloir de nage. 

2. Quelles sont les sources de données sur lesquelles votre système d'IA s'appuie, et comment assurez-vous la confidentialité et la sécurité des données ?

Les systèmes d'IA nécessitent souvent l'accès à une grande quantité de données pour leur entraînement et leur analyse. Il est essentiel de connaître la provenance de ces données et leur mode de traitement afin de garantir la conformité aux réglementations en matière de protection de la vie privée et d'empêcher tout accès non autorisé.

Les fonctionnalités principales de Hero AI s'appuient sur un LLM hébergé en privé. Le LLM Swimlane garantit qu'aucune donnée sensible n'est jamais stockée de manière centralisée. Seules les métadonnées relatives à l'utilisation et aux performances du modèle sont stockées de manière centralisée. Les données client ne sont jamais, et ne seront jamais, utilisées pour l'entraînement de modèles partagés. Toutes les données traitées par Hero AI sont stockées en toute sécurité dans des instances de base de données dédiées à chaque client, assurant ainsi une séparation complète des données. 

3. Pouvez-vous nous éclairer sur la transparence et l'explicabilité de vos algorithmes d'IA ?

La transparence et l'explicabilité sont primordiales pour les solutions de sécurité basées sur l'IA. Les équipes de sécurité doivent comprendre comment le système d'IA prend ses décisions et être capables d'interpréter et de faire confiance à ses résultats.

L’honnêteté et l’intégrité en toutes circonstances sont des valeurs fondamentales de Swimlane, et ces valeurs s’étendent à nos clients. Bien que nous souhaitions que tous clients de Swimlane Pour profiter pleinement des avantages et de la simplicité d'utilisation de Hero AI, il est essentiel que l'adoption de l'IA se fasse selon les conditions qui vous conviennent. Par souci de transparence, Hero AI est désactivée par défaut pour tous les clients. L'activation de l'IA est validée une fois que les clients ont pris connaissance et accepté les conditions générales d'utilisation de Hero AI. 

4. Comment votre solution d'IA s'adapte-t-elle aux menaces nouvelles et émergentes ?

Le paysage des menaces évolue constamment et les systèmes d'IA doivent pouvoir s'adapter en conséquence. Les fournisseurs d'IA doivent mettre en place des mécanismes permettant de mettre à jour et d'améliorer en permanence leurs algorithmes afin de garder une longueur d'avance sur les menaces émergentes.

Pour des raisons de protection et de sécurité des données, nous n'utilisons pas les données clients pour entraîner notre modèle. Notre approche est différente et plus performante. Plutôt que de nous concentrer sur des ensembles de données d'entraînement, qui utilisent des données datant de plusieurs mois, nous réévaluons constamment l'architecture de notre modèle afin de garantir l'utilisation permanente de technologies de pointe pour soutenir les innovations de Hero AI. Ces modèles sont ensuite entraînés sur des données accessibles au public, telles que… cadres de cybersécurité et la documentation publique. Les données et les connaissances des clients, ainsi que les meilleures pratiques en la matière, seront utilisées dans le cadre de leur instance Hero AI et permettront ainsi d'entraîner leur propre modèle privé. 

5. Quelles mesures sont mises en place pour prévenir les attaques adverses ou l'exploitation des vulnérabilités de l'IA ?

Les attaques adverses visant à exploiter les failles des systèmes d'IA constituent une préoccupation croissante. Les fournisseurs d'IA doivent mettre en place des mesures de sécurité robustes pour se protéger contre ces attaques et garantir l'intégrité de leurs algorithmes.

De par sa conception, Hero AI suit les mêmes principes de sécurité rigoureux que le reste du système. Turbine de couloir de nage La plateforme Hero AI est accessible uniquement aux utilisateurs autorisés, qui peuvent interagir exclusivement avec les données pour lesquelles ils disposent des autorisations d'automatisation. Les données utilisées pour l'entraînement et la validation des fonctionnalités de Hero AI sont rigoureusement vérifiées, nettoyées et isolées, garantissant ainsi que les données clients ne sont jamais utilisées pour entraîner des modèles partagés. 

6. Comment votre solution d'IA s'intègre-t-elle à l'infrastructure de sécurité existante ?

L'intégration transparente avec l'infrastructure de sécurité existante est essentielle pour optimiser l'efficacité des solutions d'IA. Les fournisseurs d'IA doivent fournir des instructions claires sur la manière dont leur solution peut être intégrée à l'architecture de sécurité existante de l'organisation.

De par sa nature même, Turbine de couloir de nage Hero AI s'intègre à tout. Il peut se connecter à n'importe quelle API et utilise des agents distants et des webhooks pour accéder aux données télémétriques difficiles d'accès. Entièrement intégré à la plateforme, Hero AI peut interagir avec toutes les données visibles par Turbine. 

7. Quel niveau de soutien et d'expertise proposez-vous pour faciliter la mise en œuvre et la maintenance continue ?

La mise en œuvre et la maintenance d'une solution de sécurité basée sur l'IA peuvent s'avérer complexes. Les fournisseurs d'IA doivent proposer un accompagnement complet et une expertise pointue pour aider les équipes de sécurité à gérer le processus de mise en œuvre et à surmonter les difficultés rencontrées.

Services professionnels Swimlane Hero AI est déployé pour tous les nouveaux clients dans le cadre du service de mise en œuvre de solutions SOC. Services de gestion technique des comptes (TAM) Ces options sont disponibles pour les clients qui souhaitent une assistance continue ou une personnalisation. Tous les forfaits de la plateforme Turbine incluent une assistance sans frais supplémentaires. 

8. Quelle est votre approche en matière de conformité aux réglementations et normes applicables ?

Le respect des réglementations telles que le RGPD, la loi HIPAA et autres est impératif, notamment en matière de traitement des données sensibles. Les fournisseurs de solutions d'IA doivent impérativement mettre en place des programmes de conformité rigoureux afin de garantir le respect des réglementations et normes en vigueur.

À couloir de nage, Chez Swimlane, nous prenons les réclamations au sérieux. Nous suivons en permanence l'évolution de la réglementation en matière de protection des données et d'IA, ainsi que les recherches sur les risques de cybersécurité liés à l'IA, et mettons en œuvre toutes les mesures et techniques nécessaires pour nous y conformer. Pour plus d'informations sur les contrôles de sécurité et de conformité de Swimlane, veuillez consulter [lien manquant]. Centre de confiance.

Découvrez-en plus sur l'automatisation de la sécurité améliorée par l'IA 

Il est facile de ressentir un mélange d'enthousiasme, de sentiment d'être dépassé, de curiosité et de confusion quant au moment et à la manière d'intégrer l'IA dans votre... Opérations de sécurité flux de travail. Il n'existe pas de solution unique adaptée à toutes les organisations, mais en étant bien informé sur l'offre de votre fournisseur, vous serez en mesure de prendre la meilleure décision pour vos besoins. SOC équipe. 
Si vous souhaitez en savoir plus sur l'intelligence artificielle améliorée automatisation de la sécurité, J'adorerais entrer en contact.