8 preguntas imprescindibles para los proveedores de seguridad de IA 

Asistí a la conferencia Black Hat la semana pasada y, como era de esperar, la inteligencia artificial (IA) fue el tema de conversación. Casi todas las conversaciones en Compañeros de carril En nuestros stands o con clientes potenciales, abordamos la IA de una forma u otra. Como líder de productos de IA, disfruto de estas conversaciones, pero algo que me llamó la atención fue lo vagos y superficiales que suelen ser los mensajes sobre IA. 

Después de pasar la mayor parte de mi mandato en Carril de natación Tras hablar con científicos de datos, analistas del sector y clientes, y leer sobre las tendencias de IA, puedo afirmar que lo he oído todo. Sigue leyendo este blog para conocer mi opinión sobre las principales preguntas que deberías hacerle a tu proveedor de ciberseguridad sobre IA.

Presentamos Hero AI

Antes de sumergirnos en las preguntas que debemos hacer, debo proporcionar el contexto que Héroe IA La colección de innovaciones mejoradas con IA de Swimlane está disponible dentro de la Turbina automatización de la seguridad Plataforma. Sus funciones incluyen resumen de casos, ChatBots de texto a código, ChatBots de HelpDocs, inferencia de esquemas y las recién anunciadas acciones recomendadas e informes mejorados con IA. 

A continuación, analizaremos las preguntas más importantes que deben plantear a sus proveedores de IA. También compartiré información sobre cómo abordamos estas áreas en Swimlane. Para obtener información más detallada sobre el valor, los casos de uso y la arquitectura de Hero AI, les recomiendo consultar este informe técnico de TAG Cyber: Uso de IA para la automatización de SecOps. 

Preguntas frecuentes para los proveedores de IA sobre los productos de IA en el SOC

1. ¿Qué modelos de lenguaje grandes utiliza su modelo de IA? 

Comprender el modelo de lenguaje amplio (LLM) que sustenta las capacidades de sus proveedores de IA es un buen punto de partida. Es necesario ser bastante escéptico al considerar compartir información de ciberseguridad, como alertas, casos, incidentes o procesos de automatización, con los LLM. 

Carril de natación Héroe IA Funciones como el resumen de casos, las acciones recomendadas, los informes mejorados con IA y la inferencia de esquemas interactúan con datos confidenciales y, por lo tanto, utilizan el LLM de Swimlane en lugar de un modelo público. Las funciones de ChatBot aprovechan OpenAI para generar código Python o resumir la información del Centro de Conocimiento de Swimlane directamente en... Turbina de carriles de natación. 

2. ¿En qué fuentes de datos se basa su sistema de IA y cómo garantiza la privacidad y seguridad de los datos?

Los sistemas de IA suelen requerir acceso a una gran cantidad de datos para su entrenamiento y análisis. Es fundamental conocer su procedencia y cómo se gestionan para garantizar el cumplimiento de las normativas de privacidad y evitar el acceso no autorizado.

Las funciones principales de Hero AI aprovechan un LLM alojado de forma privada. El LLM de Swimlane garantiza que ningún dato confidencial se almacene de forma centralizada. Los únicos datos almacenados centralmente son los metadatos relacionados con el uso y el rendimiento del modelo. Los datos de los clientes nunca se utilizan para entrenar modelos compartidos. Todos los datos procesados por Hero AI se almacenan de forma segura en bases de datos dedicadas para cada cliente, lo que garantiza una segregación completa de los datos. 

3. ¿Puede brindarnos información sobre la transparencia y explicabilidad de sus algoritmos de IA?

La transparencia y la explicabilidad son fundamentales en las soluciones de seguridad basadas en IA. Los equipos de seguridad necesitan comprender cómo el sistema de IA toma las decisiones y ser capaces de interpretar y confiar en sus resultados.

La honestidad y la integridad en "todos los aspectos" son valores fundamentales de Swimlane, y este valor se extiende a nuestros clientes. Si bien queremos que todos Clientes de Swimlane Para experimentar el valor y la simplicidad que ofrece Hero AI, es importante que adopten la IA bajo sus propios términos. Para priorizar la transparencia, Hero AI está desactivada por defecto para todos los clientes. La funcionalidad de IA se autentica una vez que los clientes han revisado y aceptado los términos y condiciones especificados en el anexo de Hero AI. 

4. ¿Cómo se adapta su solución de IA a las amenazas nuevas y emergentes?

El panorama de amenazas está en constante evolución, y los sistemas de IA deben poder adaptarse en consecuencia. Los proveedores de IA deben contar con mecanismos para actualizar y mejorar continuamente sus algoritmos y así anticiparse a las amenazas emergentes.

Por razones de protección y seguridad de datos, no utilizamos datos de clientes para entrenar nuestro modelo. Nuestro enfoque es diferente y mejor. En lugar de centrarnos en conjuntos de datos de entrenamiento, que utilizan datos de meses de antigüedad, reevaluamos constantemente la arquitectura de nuestro modelo para asegurarnos de utilizar siempre tecnologías de vanguardia que respalden las innovaciones de Hero AI. Estos modelos se entrenan posteriormente con datos públicos como marcos de ciberseguridad y documentación pública. Las mejores prácticas de los datos y la base de conocimientos de los clientes se utilizarán dentro de los límites de su instancia de Hero AI y, por lo tanto, se entrenará su propio modelo privado. 

5. ¿Qué medidas existen para prevenir ataques adversarios o la explotación de vulnerabilidades de la IA?

Los ataques adversarios que buscan explotar las debilidades de los sistemas de IA son una preocupación creciente. Los proveedores de IA deben implementar medidas de seguridad robustas para protegerse contra estos ataques y garantizar la integridad de sus algoritmos.

Por diseño, Hero AI sigue los mismos principios de seguridad sólidos que el resto de Turbina de carriles de natación Plataforma. Solo los usuarios autorizados pueden acceder a Hero AI, donde pueden comunicarse exclusivamente con los datos que ya tienen permisos para automatizar. Los datos utilizados para entrenar y validar las funciones de Hero AI se revisan, depuran y almacenan exhaustivamente, lo que garantiza que los datos de los clientes nunca se utilicen para entrenar modelos compartidos. 

6. ¿Cómo se integra su solución de IA con la infraestructura de seguridad existente?

La integración fluida con la infraestructura de seguridad existente es esencial para maximizar la eficacia de las soluciones de IA. Los proveedores de IA deben proporcionar una guía clara sobre cómo integrar su solución en la infraestructura de seguridad existente de la organización.

Por su propia naturaleza, Turbina de carriles de natación Se integra con cualquier sistema. Se conecta con cualquier API y utiliza agentes remotos y webhooks para obtener visibilidad de la telemetría de difícil acceso. Hero AI está completamente integrado en la plataforma y, por lo tanto, puede interactuar con cualquier dato visible para Turbine. 

7. ¿Qué nivel de soporte y experiencia ofrece para ayudar con la implementación y el mantenimiento continuo?

Implementar y mantener una solución de seguridad basada en IA puede ser complejo. Los proveedores de IA deben ofrecer soporte integral y experiencia para ayudar a los equipos de seguridad a navegar el proceso de implementación y abordar cualquier desafío que surja.

Servicios profesionales de Swimlane Implementa Hero AI para todos los nuevos clientes como parte del servicio de implementación de soluciones SOC. Servicios de Gestión Técnica de Cuentas (TAM) Están disponibles para clientes que desean asistencia continua o personalización. Todos los paquetes de la plataforma Turbine incluyen soporte sin costo adicional. 

8. ¿Cuál es su enfoque respecto del cumplimiento de las regulaciones y normas pertinentes?

El cumplimiento de normativas como el RGPD, la HIPAA y otras es innegociable, especialmente cuando se trata del manejo de datos sensibles. Los proveedores de IA deben contar con sólidos programas de cumplimiento para garantizar el cumplimiento de las normativas y estándares pertinentes.

En Carril de natación, Nos tomamos las quejas muy en serio. Revisamos y supervisamos constantemente las últimas normativas sobre protección de datos e IA, así como la investigación sobre los riesgos de ciberseguridad en el ámbito de la IA, e implementamos todas las medidas y técnicas necesarias para cumplirlas. Para obtener más información sobre los controles de seguridad y cumplimiento de Swimlane, visite Centro de confianza.

Obtenga más información sobre la automatización de seguridad mejorada con IA 

Es fácil sentirse emocionado, abrumado, curioso y confundido sobre cuándo y cómo incorporar IA a su Operaciones de seguridad Flujos de trabajo. No existe una única respuesta o solución correcta para todas las organizaciones, pero al estar bien informado sobre la oferta de su proveedor, podrá tomar la mejor decisión para su empresa. SOC equipo. 
Si está interesado en aprender más sobre la inteligencia artificial mejorada automatización de la seguridad, Me encantaría conectarme.