Perspectivas sobre gobernanza de seguridad de IA de los líderes de seguridad

La inteligencia artificial (IA) está transformando rápidamente el ciberseguridad paisaje, ofreciendo soluciones innovadoras a desafíos complejos. Sin embargo, esta innovación plantea preguntas cruciales: 

• ¿Cómo debemos abordar la gobernanza de la IA para garantizar un uso responsable y minimizar los daños? 
• ¿La IA está haciendo imposible equilibrar la innovación y la confidencialidad?

En Swimlane, nos comprometemos a impulsar innovación de vanguardia y con visión de futuro, segura y con impacto para su organización. Combinamos esto con transparencia para ayudar a las organizaciones a destacarse y tomar decisiones informadas.

Recientemente nos asociamos con Investigación Sapio Encuesta a 500 líderes de ciberseguridad en EE. UU. y el Reino Unido para explorar el debate actual sobre la gobernanza de la IA. Los resultados revelan una división de opiniones sobre quién debería ser responsable de supervisar la IA, destacando perspectivas clave sobre la rendición de cuentas de gobiernos y proveedores.

Si bien nuestra investigación proporciona información valiosa, las perspectivas sin filtros de los directores de seguridad de la información (CISO), tanto del pasado como del presente, tienen un poder singular. En un seminario web reciente, Análisis de la realidad de la IA: los CISO analizan su papel en la ciberseguridad, CEO de TAG Cyber y ex CISO de AT&T Ed Amoroso se unió a Swimlane CISO Michael Lyborg para una discusión en profundidad sobre los resultados de la investigación y el estado de la IA en la ciberseguridad.

Este blog es el primero de una serie de tres partes que resume tanto los datos de la investigación como las perspectivas de los expertos compartidas durante el seminario web. Continúe leyendo para explorar los hallazgos clave y descargue el informe completo para profundizar. ¿Está la IA cumpliendo sus promesas en materia de ciberseguridad?

Hallazgos clave de la investigación sobre IA

La paradoja de la política y la práctica 

Si bien el 70% de las organizaciones cuenta con protocolos para compartir datos con Modelos de Lenguaje de Gran Tamaño (LLM) públicos, el 74% tiene conocimiento de que sus empleados ingresan datos confidenciales en estos modelos. Esto indica una brecha entre las políticas y la práctica.

El ciclo de la IA: fatiga y adopción 

En medio de la creciente fatiga y escepticismo en torno a la IA, la demanda de experiencia en IA y aprendizaje automático (ML) continúa dando forma a las prioridades de la fuerza laboral.

• El 76% de los encuestados cree que la situación actual AI El mercado está saturado de publicidad
• El 55% de los encuestados expresó fatiga por el enfoque constante en AI

Sin embargo, un contrapunto es el 85% de los encuestados que reconocen que la experiencia en IA y ML influye en sus decisiones de contratación. Esto sugiere que, a pesar del entusiasmo, las habilidades en IA se valoran cada vez más en el mercado laboral.

¿Se trata de una exageración de la IA o realmente impulsa el crecimiento? Si bien la pregunta sigue abierta, nuestro reciente seminario web reveló perspectivas de directores de seguridad de la información (CISO) actuales y anteriores y profundizó en este tema. 

En Análisis de la IA: Los CISOs analizan su papel en la ciberseguridad, Mike Lyborg, CISO de Swimlane, y Ed Amoroso, CEO de Tag Cyber, coincidieron en que la IA ofrece soluciones tangibles hoy en día. Sin embargo, enfatizaron que los proveedores que sobresaturan sus mensajes con IA, sin demostrar casos de uso reales, solo contribuyen a la confusión, dificultando que los líderes de seguridad y los compradores se destaquen. 

Si le resulta difícil navegar por la abrumadora jerga de la industria de la IA, este blog sobre el tema 8 preguntas esenciales que debe hacer a los proveedores de seguridad de IA Le ayudará a eliminar el ruido y tomar decisiones más informadas.

El debate sobre la gobernanza de la IA 

Nuestro informe de investigación también explora la cuestión clave de la gobernanza de la IA, destacando una perspectiva dividida: 

• Papel limitado del gobierno: Sólo el 28% de los encuestados cree que el gobierno debería tener la responsabilidad principal de la gobernanza de la IA.
• Responsabilidad del proveedor: Casi la mitad (46%) cree que las empresas que desarrollan IA deberían ser las principales responsables de las consecuencias cuando los sistemas de IA causan daños.

Para comprender este panorama tan dividido, les pedimos a nuestros expertos en CISO que compartieran sus perspectivas reales. A continuación, un resumen de sus comentarios. 

• Gobernanza orgánica: Tanto Amoroso como Lyborg enfatizan la necesidad de una gobernanza orgánica de la IA que evolucione junto con la propia tecnología. Advierten contra la intervención gubernamental excesiva.
• Responsabilidad individual: Si bien reconocieron el papel de los proveedores y las organizaciones, los CISO destacaron la importancia de la responsabilidad individual a la hora de utilizar las herramientas de IA de forma ética y responsable.

Consejos y lecciones para los CISO en la era de la IA 

Tanto los datos de investigación como las perspectivas de expertos del mundo real resaltan la necesidad de un enfoque equilibrado de la IA en ciberseguridad. Si bien la IA ofrece un inmenso potencial de innovación, las organizaciones deben abordar proactivamente los riesgos para la confidencialidad. Esto implica:

• Políticas claras y capacitación: Es esencial establecer y aplicar políticas claras en torno al uso de IA, junto con una capacitación integral de los empleados.
• Centrarse en el valor: Es fundamental dejar de lado el bombo publicitario sobre la IA y centrarse en soluciones que aporten valor real.
• Gobernanza colaborativa: Es necesario un enfoque colaborativo de gobernanza, que involucre a agencias gubernamentales, proveedores y usuarios individuales, para navegar el complejo panorama de la IA y garantizar su uso responsable y ético.

La IA no es una panacea para todos desafíos de la ciberseguridad. Sin embargo, con una gobernanza inteligente y un enfoque en equilibrar la innovación y la confidencialidad, puede ser una herramienta poderosa para mejorar las estrategias de seguridad. Recuerde, la clave es aprovechar el poder de la IA y, al mismo tiempo, mitigar sus riesgos, garantizando que la innovación no se produzca a costa de la confidencialidad.