Insights de líderes de segurança sobre governança de segurança de IA

A Inteligência Artificial (IA) está transformando rapidamente o mundo. cibersegurança A paisagem, oferecendo soluções inovadoras para desafios complexos. No entanto, essa inovação levanta questões críticas: 

• Como devemos abordar a governança da IA para garantir o uso responsável e minimizar os danos? 
• Será que a IA está tornando impossível equilibrar inovação e confidencialidade?

Na Swimlane, estamos comprometidos em impulsionar inovações de ponta, com visão de futuro, que sejam seguras e impactantes para sua organização. Aliamos isso à transparência para ajudar as organizações a filtrar informações irrelevantes e tomar decisões embasadas.

Recentemente, firmamos uma parceria com Pesquisa Sapio O objetivo da pesquisa foi entrevistar 500 líderes de cibersegurança nos EUA e no Reino Unido para explorar o debate em curso sobre a governança da IA. Os resultados revelam uma divisão de opiniões sobre quem deve ser responsável pela supervisão da IA, destacando perspectivas importantes sobre a responsabilidade do governo e dos fornecedores.

Embora nossa pesquisa forneça informações valiosas, há algo singularmente poderoso nas perspectivas sem filtros de diretores de segurança da informação (CISOs) do passado e do presente. Em um webinar recente, Análise da realidade da IA: CISOs explicam seu papel na cibersegurança, CEO da TAG Cyber e ex-CISO da AT&T Ed Amoroso ingressou na Swimlane CISO Michael Lyborg Para uma discussão aprofundada sobre as conclusões da pesquisa e o estado da IA na cibersegurança.

Este blog é o primeiro de uma série de três artigos que resumem os dados da pesquisa e as perspectivas dos especialistas compartilhadas durante o webinar. Continue lendo para explorar as principais conclusões e baixe o relatório completo para uma análise mais aprofundada: A inteligência artificial está cumprindo suas promessas em relação à segurança cibernética?

Principais conclusões da pesquisa em IA

O paradoxo entre política e prática 

Embora 701% das organizações possuam protocolos para o compartilhamento de dados com Grandes Modelos de Linguagem (LLMs) públicos, 741% delas têm conhecimento de funcionários que inserem dados sensíveis nesses modelos. Isso indica uma lacuna entre a política e a prática.

O Ciclo de Hype da IA: Fadiga e Adoção 

Em meio à crescente fadiga e ceticismo em relação à IA, a demanda por conhecimento especializado em IA e aprendizado de máquina (ML) continua a moldar as prioridades da força de trabalho.

• 76% dos entrevistados acreditam que o atual IA O mercado está saturado de exageros.
• 55% dos entrevistados expressaram fadiga devido ao foco constante em IA

No entanto, um contraponto é o fato de 851% dos entrevistados reconhecerem que a experiência em IA e ML influencia suas decisões de contratação. Isso sugere que, apesar da grande repercussão, as habilidades em IA são cada vez mais valorizadas no mercado de trabalho.

Será que a IA está apenas sendo superestimada ou está realmente impulsionando o crescimento? Embora a questão ainda esteja em aberto, nosso webinar recente revelou insights de CISOs atuais e antigos e aprofundou-se nesse tema. 

Em Análise da realidade da IA: CISOs explicam seu papel na cibersegurança, Mike Lyborg, CISO da Swimlane, e Ed Amoroso, CEO da Tag Cyber, concordaram que a IA oferece soluções tangíveis hoje. No entanto, enfatizaram que os fornecedores que saturam suas mensagens com IA, sem demonstrar casos de uso reais, apenas contribuem para o ruído, dificultando que líderes de segurança e compradores se destaquem. 

Se você está achando difícil navegar pelo jargão complexo da indústria de IA, este blog sobre o assunto pode ajudar. 8 perguntas essenciais a fazer aos fornecedores de segurança de IA ajudará você a filtrar o ruído e a tomar decisões mais informadas.

O debate sobre a governança da IA 

Nosso relatório de pesquisa também explora a questão fundamental da governança da IA, destacando uma perspectiva divergente: 

• Papel limitado do governo: Apenas 281% dos entrevistados acreditam que o governo deve ter a responsabilidade principal pela governança da IA.
• Responsabilidade do fornecedor: Quase metade (46%) acredita que as empresas que desenvolvem IA devem ser as principais responsáveis pelas consequências quando os sistemas de IA causam danos.

Para entender melhor esse cenário fragmentado, pedimos aos nossos especialistas em CISO que compartilhassem suas perspectivas práticas. Aqui está um resumo do que eles disseram. 

• Governança Orgânica: Tanto Amoroso quanto Lyborg enfatizam a necessidade de uma governança orgânica da IA que evolua juntamente com a própria tecnologia. Eles alertam contra a intervenção governamental excessiva.
• Responsabilidade individual: Embora reconhecendo o papel dos fornecedores e das organizações, o CISO enfatizou a importância da responsabilidade individual no uso ético e responsável das ferramentas de IA.

Dicas e principais conclusões para CISOs na era da IA 

Tanto os dados de pesquisa quanto as perspectivas de especialistas do mundo real destacam a necessidade de uma abordagem equilibrada para a IA na cibersegurança. Embora a IA ofereça um imenso potencial para inovação, as organizações devem abordar proativamente os riscos à confidencialidade. Isso envolve:

• Políticas e treinamento claros: Estabelecer e aplicar políticas claras sobre o uso de IA, juntamente com treinamento abrangente dos funcionários, é essencial.
• Foco no valor: É crucial desmistificar o hype em torno da IA e focar em soluções que ofereçam valor real.
• Governança Colaborativa: Uma abordagem colaborativa à governança, envolvendo agências governamentais, fornecedores e usuários individuais, é necessária para navegar no complexo cenário da IA e garantir seu uso responsável e ético.

A IA não é a solução para todos os problemas. desafios de cibersegurança. No entanto, com uma governança cuidadosa e foco no equilíbrio entre inovação e confidencialidade, a IA pode ser uma ferramenta poderosa para aprimorar a segurança. Lembre-se: a chave é aproveitar o poder da IA, mitigando seus riscos e garantindo que a inovação não comprometa a confidencialidade.