8 perguntas essenciais para fornecedores de segurança de IA 

Participei da conferência Black Hat na semana passada e, como era de se esperar, inteligência artificial (IA) foi o assunto do momento. Quase todas as conversas giravam em torno desse tema. Parceiros da Swimlane Em nossos estandes ou com potenciais clientes, a IA foi abordada de uma forma ou de outra. Como líder de produto de IA, gosto dessas conversas, mas uma coisa que me chamou a atenção foi como as mensagens sobre IA tendem a ser vagas e superficiais. 

Após passar a maior parte do meu tempo em Pista de natação Conversando com cientistas de dados, analistas do setor, clientes e lendo sobre as tendências de IA, posso dizer que já ouvi de tudo. Continue lendo este blog para conferir minha opinião sobre as principais perguntas que você deve fazer ao seu fornecedor de cibersegurança sobre IA.

Apresentando o Hero AI

Antes de abordarmos as perguntas essenciais, devo fornecer o contexto que IA Heroica é a coleção de inovações aprimoradas por IA da Swimlane disponíveis no Turbine. automação de segurança A plataforma inclui recursos como resumo de casos, chatbots de texto para código, chatbots de documentação de ajuda, inferência de esquemas e as recém-anunciadas ações recomendadas e relatórios aprimorados por IA. 

Ao discutirmos as principais perguntas a serem feitas aos seus fornecedores de IA abaixo, também compartilharei informações sobre como abordamos essas áreas na Swimlane. Para obter informações mais detalhadas sobre o valor, os casos de uso e a arquitetura do Hero AI, recomendo que você consulte este relatório técnico da [nome da empresa/organização]. TAG Cyber: Usando IA para Automação de SecOps. 

Perguntas comuns a fazer aos fornecedores de IA sobre produtos de IA no SOC

1. Que modelo(s) de linguagem de grande porte seu modelo de IA utiliza? 

Compreender o modelo de linguagem de grande escala (LLM, na sigla em inglês) que está por trás das capacidades dos seus fornecedores de IA é um bom ponto de partida. É necessário um grau saudável de ceticismo ao considerar o compartilhamento de informações de cibersegurança, como alertas, casos, incidentes ou fluxos de automação, com LLMs. 

Pista de natação IA Heroica Funcionalidades como resumo de casos, ações recomendadas, relatórios aprimorados por IA e inferência de esquemas interagem com dados sensíveis e, portanto, utilizam o Swimlane LLM em vez de um modelo público. Os recursos do ChatBot aproveitam a OpenAI para ajudar a gerar código Python ou a resumir informações do Swimlane Knowledge Center diretamente no sistema. Turbina Swimlane. 

2. De quais fontes de dados seu sistema de IA depende e como você garante a privacidade e a segurança dos dados?

Os sistemas de IA frequentemente exigem acesso a uma vasta quantidade de dados para treinamento e análise. É crucial saber de onde esses dados vêm e como são tratados para garantir a conformidade com as normas de privacidade e evitar o acesso não autorizado.

Os principais recursos do Hero AI utilizam um LLM hospedado de forma privada. O Swimlane LLM garante que nenhum dado sensível seja armazenado centralmente. Os únicos dados armazenados centralmente são metadados relacionados ao uso e desempenho do modelo. Os dados do cliente nunca são e nunca serão usados para treinar modelos compartilhados. Todos os dados processados pelo Hero AI são armazenados com segurança em instâncias de banco de dados dedicadas para cada cliente, garantindo a completa segregação dos dados. 

3. Poderia nos dar detalhes sobre a transparência e a explicabilidade dos seus algoritmos de IA?

Transparência e explicabilidade são fundamentais quando se trata de soluções de segurança baseadas em IA. As equipes de segurança precisam entender como as decisões são tomadas pelo sistema de IA e ser capazes de interpretar e confiar em seus resultados.

Honestidade e integridade em "tudo" são valores fundamentais da Swimlane, e esse valor se estende aos nossos clientes. Embora desejemos que todos Clientes da Swimlane Para que os clientes possam desfrutar do valor e da simplicidade proporcionados pela Hero AI, é importante que adotem a IA de acordo com suas próprias necessidades. Para priorizar a transparência, a Hero AI está desativada por padrão para todos os clientes. A funcionalidade de IA é autenticada somente após os clientes revisarem e concordarem com os termos e condições especificados no adendo da Hero AI. 

4. Como sua solução de IA se adapta a ameaças novas e emergentes?

O cenário de ameaças está em constante evolução, e os sistemas de IA precisam ser capazes de se adaptar a essa evolução. Os fornecedores de IA devem ter mecanismos implementados para atualizar e aprimorar continuamente seus algoritmos, a fim de se manterem à frente das ameaças emergentes.

Por motivos de proteção e segurança de dados, não utilizamos dados de clientes para treinar nosso modelo. Nossa abordagem é diferente e melhor. Em vez de nos concentrarmos em conjuntos de dados de treinamento que utilizam dados de meses atrás, reavaliamos constantemente a arquitetura do nosso modelo para garantir que estejamos sempre utilizando tecnologias de ponta para apoiar as inovações da Hero AI. Esses modelos são então treinados com dados disponíveis publicamente, como estruturas de cibersegurança e documentação pública. Os dados e as melhores práticas da base de conhecimento dos clientes serão utilizados dentro dos limites de sua instância do Hero AI, treinando assim seu próprio modelo privado. 

5. Que medidas estão em vigor para prevenir ataques adversários ou a exploração de vulnerabilidades de IA?

Ataques adversários que visam explorar vulnerabilidades em sistemas de IA são uma preocupação crescente. Os fornecedores de IA devem implementar medidas de segurança robustas para se protegerem contra esses ataques e garantir a integridade de seus algoritmos de IA.

Por princípio, a Hero AI segue os mesmos princípios de segurança robustos que o restante da plataforma. Turbina Swimlane A plataforma Hero AI é acessível apenas a usuários autorizados, que podem interagir exclusivamente com os dados para os quais já possuem permissões de automação. Os dados utilizados para treinamento e validação dos recursos da Hero AI são rigorosamente verificados, higienizados e isolados, garantindo que os dados do cliente nunca sejam utilizados para treinar modelos compartilhados. 

6. Como sua solução de IA se integra à infraestrutura de segurança existente?

A integração perfeita com a infraestrutura de segurança existente é essencial para maximizar a eficácia das soluções de IA. Os fornecedores de IA devem fornecer orientações claras sobre como sua solução pode ser integrada à estrutura de segurança existente da organização.

Por sua própria natureza, Turbina Swimlane Integra-se com tudo. Pode conectar-se a qualquer API e usa agentes remotos e webhooks para obter visibilidade de dados telemétricos de difícil acesso. O Hero AI está totalmente integrado à plataforma e, portanto, pode interagir com quaisquer dados visíveis para a Turbine. 

7. Que nível de suporte e conhecimento especializado vocês oferecem para auxiliar na implementação e na manutenção contínua?

Implementar e manter uma solução de segurança baseada em IA pode ser complexo. Os fornecedores de IA devem oferecer suporte abrangente e conhecimento especializado para ajudar as equipes de segurança a navegar pelo processo de implementação e a lidar com quaisquer desafios que surjam.

Serviços profissionais Swimlane Implementa o Hero AI para todos os novos clientes como parte do serviço de Implementação de Soluções SOC. Serviços de Gestão Técnica de Contas (TAM) Estão disponíveis para clientes que desejam assistência contínua ou personalização. Todos os pacotes da plataforma Turbine incluem suporte sem custo adicional. 

8. Qual é a sua abordagem para garantir o cumprimento das normas e regulamentações pertinentes?

O cumprimento de regulamentações como GDPR, HIPAA e outras é imprescindível, especialmente quando se trata do tratamento de dados sensíveis. Os fornecedores de IA devem ter programas de conformidade robustos para garantir a adesão às normas e padrões relevantes.

No Pista de natação, Levamos as reclamações a sério. Analisamos e monitoramos constantemente as regulamentações mais recentes sobre proteção de dados e IA, bem como pesquisas sobre riscos de segurança cibernética na área de IA, e implementamos todas as medidas e técnicas necessárias para cumpri-las. Para obter mais informações sobre os controles de segurança e conformidade da Swimlane, visite o site da empresa. Centro de Confiança.

Saiba mais sobre a Automação de Segurança Aprimorada por IA 

É fácil sentir uma mistura de empolgação, ansiedade, curiosidade e confusão sobre quando e como incorporar a IA em sua empresa. SecOps fluxos de trabalho. Não existe uma única resposta ou solução correta para todas as organizações, mas, ao conhecer e estar bem informado sobre a oferta do seu fornecedor, você poderá tomar a melhor decisão para a sua empresa. SOC equipe. 
Se você estiver interessado em aprender mais sobre inteligência artificial aprimorada, automação de segurança, Adoraria entrar em contato.