AI 보안 공급업체에게 반드시 물어봐야 할 8가지 질문 

지난주 블랙햇 컨퍼런스에 참석했는데, 예상대로 인공지능(AI)이 가장 큰 화제였습니다. 거의 모든 대화에서 AI에 대한 이야기가 오갔습니다. 스윔레인 파트너 부스에서든 잠재 고객과의 대화에서든, 직간접적으로 AI에 대한 이야기가 나왔습니다. AI 제품 리더로서 저는 이런 대화를 즐기지만, AI 관련 메시지가 얼마나 모호하고 피상적인지 새삼 깨달았습니다. 

저는 재임 기간의 대부분을 그곳에서 보냈습니다. 스윔레인 데이터 과학자, 업계 분석가, 고객들과 이야기를 나누고 AI 트렌드에 대한 기사를 읽으면서, 저는 AI에 관한 모든 것을 들어봤다고 자부할 수 있습니다. 이 블로그를 계속 읽으시면 사이버 보안 업체에 AI와 관련하여 꼭 물어봐야 할 핵심 질문들을 정리해 보았습니다.

히어로 AI를 소개합니다

필수 질문들을 살펴보기 전에, 먼저 배경 설명을 드려야겠습니다. 히어로 AI Swimlane의 AI 기반 혁신 기술 모음은 Turbine에서 사용할 수 있습니다. 보안 자동화 이 플랫폼은 사례 요약, 텍스트-코드 변환 챗봇, 도움말 문서 챗봇, 스키마 추론, 그리고 새롭게 발표된 권장 조치 및 AI 기반 보고 기능을 포함합니다. 

아래에서는 AI 공급업체에 문의해야 할 주요 질문들을 살펴보겠습니다. 이와 함께 Swimlane에서 이러한 질문들에 접근하는 방식에 대한 정보도 공유하겠습니다. Hero AI의 가치, 사용 사례 및 아키텍처에 대한 더 자세한 내용은 다음 기술 보고서를 참조하시기 바랍니다. TAG 사이버: AI를 활용한 보안 운영 자동화. 

SOC에서 AI 제품에 대해 AI 공급업체에 문의할 일반적인 질문

1. 귀사의 AI 모델은 어떤 대규모 언어 모델을 사용합니까? 

AI 공급업체의 기능 기반이 되는 대규모 언어 모델(LLM)을 이해하는 것이 좋은 출발점입니다. 경고, 사례, 사고 또는 자동화 파이프라인과 같은 사이버 보안 정보를 LLM과 공유할 때는 적절한 수준의 회의적인 태도가 필요합니다. 

스윔레인 히어로 AI 사례 요약, 권장 조치, AI 기반 보고 및 스키마 추론과 같은 기능은 민감한 데이터와 상호 작용하므로 공개 모델 대신 Swimlane LLM을 사용합니다. 챗봇 기능은 OpenAI를 활용하여 Python 코드를 생성하거나 Swimlane Knowledge Center 정보를 직접 요약하는 데 도움을 줍니다. 스윔레인 터빈. 

2. 귀사의 AI 시스템은 어떤 데이터 소스를 활용하며, 데이터 개인정보 보호 및 보안은 어떻게 보장합니까?

AI 시스템은 학습 및 분석을 위해 방대한 양의 데이터에 대한 접근이 필요한 경우가 많습니다. 개인정보 보호 규정을 준수하고 무단 접근을 방지하기 위해서는 이러한 데이터의 출처와 처리 방식을 파악하는 것이 매우 중요합니다.

Hero AI의 핵심 기능은 자체 호스팅 LLM(리간드 라이프사이클 관리)을 활용합니다. 스윔레인 LLM은 민감한 데이터가 중앙 저장소에 저장되지 않도록 보장합니다. 중앙 저장소에 저장되는 유일한 데이터는 모델 사용 및 성능 관련 메타데이터입니다. 고객 데이터는 공유 모델 학습에 절대 사용되지 않으며, 앞으로도 사용되지 않을 것입니다. Hero AI에서 처리되는 모든 데이터는 각 고객 전용 데이터베이스 인스턴스에 안전하게 저장되어 완벽한 데이터 분리가 보장됩니다. 

3. 귀사의 AI 알고리즘의 투명성과 설명 가능성에 대한 정보를 제공해 주실 수 있습니까?

AI 기반 보안 솔루션에 있어서 투명성과 설명 가능성은 매우 중요합니다. 보안 팀은 AI 시스템이 어떻게 의사 결정을 내리는지 이해하고, 그 결과를 해석하고 신뢰할 수 있어야 합니다.

스윔레인의 핵심 가치는 모든 일에 있어 정직과 성실이며, 이러한 가치는 고객에게도 적용됩니다. 우리는 모든 고객이 만족하기를 바라지만, 동시에 모든 일에 있어서도 정직과 성실을 최우선으로 생각합니다. 스윔레인 고객 Hero AI가 제공하는 가치와 간편함을 경험하려면 고객이 원하는 방식으로 AI를 도입하는 것이 중요합니다. 투명성을 최우선으로 고려하여 모든 고객에게 Hero AI는 기본적으로 비활성화되어 있습니다. AI 기능은 고객이 Hero AI 추가 약관에 명시된 이용 약관을 검토하고 동의한 후에만 활성화됩니다. 

4. 귀사의 AI 솔루션은 새롭고 떠오르는 위협에 어떻게 적응합니까?

위협 환경은 끊임없이 진화하고 있으며, AI 시스템 또한 이에 맞춰 적응할 수 있어야 합니다. AI 공급업체는 새로운 위협에 앞서 나가기 위해 알고리즘을 지속적으로 업데이트하고 개선할 수 있는 메커니즘을 갖춰야 합니다.

데이터 보호 및 보안상의 이유로 고객 데이터를 모델 학습에 사용하지 않습니다. 저희의 접근 방식은 차별화되어 있습니다. 수개월 된 데이터를 사용하는 학습 데이터 세트에 집중하는 대신, Hero AI의 혁신을 지원하기 위해 항상 최첨단 기술을 활용할 수 있도록 모델 아키텍처를 지속적으로 재평가합니다. 이러한 모델은 공개적으로 이용 가능한 데이터 등을 사용하여 학습됩니다. 사이버 보안 프레임워크 공개 문서도 활용됩니다. 고객 자신의 데이터와 지식 기반의 모범 사례는 Hero AI 인스턴스 내에서 사용되어 고객만의 비공개 모델을 학습시킵니다. 

5. 인공지능 취약점 악용이나 적대적 공격을 방지하기 위해 어떤 조치가 마련되어 있습니까?

인공지능 시스템의 취약점을 악용하려는 적대적 공격은 점점 더 큰 문제로 대두되고 있습니다. 인공지능 공급업체는 이러한 공격으로부터 시스템을 보호하고 인공지능 알고리즘의 무결성을 보장하기 위해 강력한 보안 조치를 마련해야 합니다.

Hero AI는 설계상 다른 제품들과 마찬가지로 강력한 보안 원칙을 따릅니다. 스윔레인 터빈 Hero AI 플랫폼은 승인된 사용자만 접근할 수 있으며, 사용자는 이미 자동화 권한이 있는 데이터에만 접근할 수 있습니다. Hero AI 기능 학습 및 검증에 사용되는 데이터는 철저한 검사, 정제 및 격리 과정을 거치므로 고객 데이터가 공유 모델 학습에 사용되는 일은 절대 없습니다. 

6. 귀사의 AI 솔루션은 기존 보안 인프라와 어떻게 통합됩니까?

AI 솔루션의 효과를 극대화하려면 기존 보안 인프라와의 원활한 통합이 필수적입니다. AI 공급업체는 자사 솔루션을 조직의 기존 보안 체계에 통합하는 방법에 대한 명확한 지침을 제공해야 합니다.

본질적으로, 스윔레인 터빈 Hero AI는 어떤 시스템과도 통합됩니다. 모든 API와 연결할 수 있으며, 원격 에이전트와 웹훅을 사용하여 접근하기 어려운 원격 측정 데이터를 확인할 수 있습니다. Hero AI는 플랫폼에 완벽하게 통합되어 Turbine에서 볼 수 있는 모든 데이터와 상호 작용할 수 있습니다. 

7. 구현 및 지속적인 유지 관리를 지원하기 위해 어느 정도의 지원과 전문 지식을 제공하십니까?

AI 기반 보안 솔루션을 구현하고 유지 관리하는 것은 복잡할 수 있습니다. AI 공급업체는 보안 팀이 구현 과정을 원활하게 진행하고 발생하는 모든 문제를 해결할 수 있도록 포괄적인 지원과 전문 지식을 제공해야 합니다.

스윔레인 전문 서비스 SOC 솔루션 구현 서비스의 일환으로 모든 신규 고객에게 Hero AI를 도입합니다. 기술 계정 관리(TAM) 서비스 지속적인 지원이나 맞춤 설정을 원하는 고객을 위해 다양한 옵션이 제공됩니다. 모든 터빈 플랫폼 패키지에는 추가 비용 없이 지원 서비스가 포함되어 있습니다. 

8. 귀사는 관련 규정 및 표준 준수에 대해 어떤 접근 방식을 취하고 있습니까?

GDPR, HIPAA 등의 규정 준수는 특히 민감한 데이터를 다룰 때 필수적입니다. AI 공급업체는 관련 규정 및 표준을 준수하기 위한 강력한 컴플라이언스 프로그램을 마련해야 합니다.

~에 스윔레인, 저희는 모든 불만 사항을 심각하게 받아들입니다. 데이터 보호 및 AI 관련 최신 규정을 지속적으로 검토 및 모니터링하고, AI 분야의 사이버 보안 위험에 대한 연구를 진행하며, 이를 준수하기 위해 필요한 모든 조치와 기술을 구현하고 있습니다. Swimlane의 보안 및 규정 준수 관리에 대한 자세한 내용은 다음 웹사이트를 참조하십시오. 트러스트 센터.

AI 기반 보안 자동화에 대해 자세히 알아보세요. 

인공지능을 언제, 어떻게 업무에 접목할지에 대해 기대감, 부담감, 호기심, 혼란스러움 등 다양한 감정을 느끼는 것은 당연한 일입니다. 보안 운영 워크플로우. 모든 조직에 맞는 단 하나의 정답이나 해결책은 없지만, 공급업체의 제품에 대해 잘 알고 정보를 갖추면 조직에 가장 적합한 결정을 내릴 수 있습니다. 사회 팀. 
AI 기반 기술에 대해 더 자세히 알아보고 싶으시다면 보안 자동화, 연락하고 싶어요.