추론과 신뢰성의 만남: 현대 SOC에서 AI가 정체되는 이유

SOC에서 진정한 AI 관련 질문은 바로 권위에 관한 것입니다.

모든 보안 책임자는 인공지능(AI)이 경고를 분류하고, 사례를 조사하며, 경고량과 분석가 인력 간의 격차를 해소해 줄 것이라는 주장을 들어봤을 것입니다. 대부분은 이미 자신들의 도구에 AI가 적용된 것을 보았고, 심지어는 요청하지 않았는데도 사용하고 있는 경우도 많습니다. 하지만 중요한 결정을 AI에 맡기는 곳은 훨씬 더 드뭅니다.

새로운 사이버퓨처리스트 보고서, 추론과 신뢰성의 만남, 이 보고서는 그 이유를 설명합니다. 사이버퓨처리스트(Cyberfuturists)의 설립자이자 전 가트너(Gartner) 분석가인 올리버 로치포드(Oliver Rochford)가 작성한 이 보고서는 팀이 AI를 사용해야 하는지 여부에 대한 논의를 넘어 더 깊은 차원으로 나아갑니다. 보고서는 다음과 같이 말합니다. "AI는 이미 보안 팀이 사용하는 도구에 내재되어 있습니다. CISO가 직면한 결정은 AI에 어느 정도의 권한을 부여할 것인가입니다."“

연구의 핵심은 바로 이 차이점에 있습니다. 분석가가 읽는 요약 보고서와 환경을 변경하는 자동화된 조치는 완전히 다른 문제입니다. 보고서에 따르면, "요약 보고서를 생성하는 것은 위험 부담이 적습니다. 하지만 경고를 억제하거나, 사례를 상위 부서로 이관하거나, 계정을 비활성화하거나, 기기를 차단하는 것은 환경을 변경하는 행위이므로 더 높은 수준의 제어가 필요합니다."“

무엇을 기준으로 삼느냐에 따라 달라지는 입양 격차

본 연구는 실제 운영 환경에서 독립형 AI SOC 제품을 사용하는 실무자 두 명과의 심층 인터뷰, 18개월에 걸쳐 진행된 30회 이상의 벤더 브리핑, 공개된 실무자 의견 및 Swimlane 원격 측정 데이터를 기반으로 합니다. 인터뷰 대상자는 매우 다른 두 팀을 대표하도록 선정되었습니다. 한 명은 60개 이상의 지점을 보유한 유럽 모빌리티 회사의 CISO이고, 다른 한 명은 약 1,000명의 사용자를 지원하는 미국 환경보호 NGO의 유일한 보안 담당자입니다.

첫 번째 발견은 AI SOC 도입 수치가 항상 같은 것을 측정하는 것은 아니라는 점입니다. 가트너는 AI SOC 에이전트 도입률을 1~5%로 추정합니다. 하지만 보고된 도입 수치 중 상당수는 파일럿 프로그램 참여자, 활성화된 기능 사용자 또는 단순히 어시스턴트에 접근할 수 있는 분석가를 포함하고 있습니다. 보고서는 중요한 기준점에 대해 다음과 같이 명확히 밝히고 있습니다. "요약 보고서나 조사 초안 작성은 실제 운영 도입으로 간주해서는 안 됩니다. 의미 있는 기준점은 SOC가 특정 보안 결정을 내리거나 실행하는 데 AI를 활용하는지 여부입니다."“

Swimlane의 자체 원격 측정 데이터는 보안 자동화 시스템을 구축한 조직들 사이에서는 다른 양상을 보여준다. 94%의 고객이 프로덕션 환경에서 에이전트 기반 워크로드를 실행하고 있다. 스윔레인 터빈 플랫폼. 한 지역 MSSP는 하루 평균 148만 건의 작업을 처리하며, 그중 6,000건은 AI 기반 작업입니다. AI 기반 작업과 결정론적 자동화가 나란히 실행되고 있습니다.

보고서는 이를 과장하지 않도록 주의를 기울입니다. 두 수치가 "동일한 모집단이나 분모를 사용하지 않았으므로 직접적인 통계적 비교로 간주해서는 안 된다"고 지적합니다. 하지만 보고서는 이러한 수치가 검증해 볼 가치가 있는 질문을 제기한다고 주장합니다. "통합 및 운영 제어가 이미 구축된 경우 AI가 상용화 단계에 더 쉽게 도달하는가?"“

AI가 시범 운영과 양산 사이에 정체되는 이유는 무엇일까요?

파일럿 프로젝트는 준비된 데이터, 신뢰할 수 있는 통합 시스템, 그리고 관리 가능한 규모의 사례를 기반으로 운영됩니다. 하지만 실제 운영 환경에서는 불완전한 원격 측정 데이터, 권한 차이, 커넥터 오류, 조작된 입력값, 그리고 과부하 등의 문제가 발생합니다. 연구에 따르면 이러한 문제의 원인은 관심 부족이 아닙니다. 인터뷰와 브리핑을 통해 반복적으로 제기된 제약 조건은 "신뢰, 거버넌스, 통합, 비용, 그리고 결과 검증 능력"이었습니다.“

신뢰하다. 보안팀은 상황을 지켜본 후에만 구체적인 결정권을 넘겨줍니다. AI는 자신만의 환경에서 작동합니다. 보고서는 시스템이 '모른다'고 솔직하게 말할 수 있는 방법이 필요하다고 강조합니다. 모든 사례를 양성 또는 악성으로 단정짓는 것은 "불확실성을 숨기고 두 가지 운영상의 위험을 초래합니다. 첫째, 분석가들이 무시하는 법을 배우게 되는 불필요한 보고 체계 구축이고, 둘째, 사건 검토 전까지 발견되지 않을 수 있는 잘못된 정보 은폐입니다."“

통치. 행동을 취할 수 있는 AI는 명명된 ID, 최소 권한 접근 방식, 그리고 정의된 도구 세트를 필요로 합니다. AI의 프롬프트, 모델, 컨텍스트 소스 또한 프로덕션 환경 구성에 속하며, 테스트, 승인, 버전 기록, 그리고 롤백 기능을 갖춰야 합니다.

완성. AI는 SOC에서 이미 사용하고 있는 도구를 통해 작동해야 하는데, 이러한 입력값 자체가 공격 표면이 됩니다. 한 인터뷰 참가자(전직 탐지 엔지니어)는 로그와 공격 흔적을 통한 프롬프트 주입을 분석과 실행을 분리해야 하는 이유로 지적했습니다.

비용. 모델을 통해 정기적인 데이터 보강 및 티켓팅을 실행하면 의사 결정의 질을 향상시키지 못하면서 비용과 변동성만 증가합니다. 보고서는 "라이선스 가격이나 모델 호출 비용에 의존하기보다는 정상 및 최대 처리량에서 검증된 결과당 비용을 측정"할 것을 권장합니다.“

확인. 이는 가장 간과되는 장벽일 수 있습니다. 보고서에서 언급했듯이, "명령이 성공적으로 실행되었다고 해서 의도한 보안 결과가 발생했다는 것을 보장하는 것은 아닙니다." 워크플로는 계정이 실제로 비활성화되었는지 또는 표시기가 실제로 차단되었는지 확인한 다음, 그렇지 않은 경우 재시도, 되돌리기 또는 상위 관리자에게 보고해야 합니다.

결정적으로, 이러한 장벽들은 서로 상쇄되지 않습니다. 저자들은 "검증 없는 통합은 오류를 자동화할 수 있다"고 지적합니다. 워크플로는 다섯 가지 요소가 모두 실제 운영 환경에서 충족될 때 비로소 AI의 권한을 더욱 강화할 수 있습니다.

실무자들이 한 일

인터뷰에 응한 두 사람은 탐지 및 조사에는 AI를 활용했지만, 대응 결정은 사람이 내렸습니다. 그들의 우려는 실질적인 것이었습니다. 시스템이 어떻게 결론에 도달하는지, 불확실성을 어떻게 드러내는지, 그리고 어떤 부분에서 오류가 발생하는지 파악해야 했습니다.

결과는 여전히 의미 있는 것이었습니다. 모빌리티 회사에서는 AI가 인사 정보, 공개 프로필, 인증 데이터를 연관시켜 프랜차이즈 지점 간 자격 증명 공유를 밝혀냈는데, 팀은 이러한 낮은 수준의 패턴은 AI 없이는 대규모로 조사하지 않았을 것이라고 말했습니다. NGO에서는 AI 서비스 비용이 연간 1,446만 달러의 MDR(모기지 지출 상환액)의 절반에 불과했으며, 맥락이 부족할 경우 "결론 없음"도 유효한 답변으로 간주되었습니다.

보안 운영을 위한 "AI 네이티브"의 재정의

AI 기반 보안 운영에는 모델과 에이전트를 중심으로 구축된 완전히 새로운 아키텍처가 필요하다는 인식이 널리 퍼져 있습니다. 하지만 이번 연구는 이러한 인식에 반박합니다. "보안 운영(SecOps)에서 AI 기반이라는 것은 아키텍처에 대한 주장이 아닙니다. 시스템의 결정, 행동 및 결과를 테스트할 수 있다는 것을 의미합니다."“

이러한 관점의 변화는 명확한 업무 분담으로 이어집니다. AI는 증거가 불완전하거나, 모순되거나, 생소할 때 유용합니다. AI는 맥락을 파악하고, 설명을 비교하고, 적절한 대응책을 제시할 수 있습니다. 반면, 결정론적 자동화는 실행, 즉 권한 적용, 승인 절차 진행, 도구 실행, 변경 사항 기록 및 결과 확인에 더 효과적입니다. 보고서의 결론은 "생산성"입니다. AI SOC 둘 다 필요하다."”

루프 엔지니어링: 설계, 실행, 검증

이 논문은 소프트웨어 개발과 취약점 연구에서 사용되는 개념을 차용하여 두 분야의 상호 작용을 설명합니다. AI는 증거를 해석하고, 보안 자동화는 승인된 조치를 실행하며, 독립적인 검증을 통해 결과를 확인합니다. 저자들은 이를 루프 엔지니어링이라고 부르며, "결과를 검증할 수 없는 워크플로는 미완성"이라는 분명한 기준을 제시합니다.“

알려진 작품과 알려지지 않은 작품

운영 모델은 불확실성에 따라 업무를 분류합니다. 알려지고 반복 가능한 작업은 확정적인 실행 계획에 따라 진행해야 합니다. 익숙하지 않거나 모호한 사례는 감독 하에 AI가 처리합니다. 패턴이 반복되고 응답이 신뢰할 수 있음이 입증되면 해당 단계는 테스트를 거쳐 버전이 지정된 플레이북으로 발전하며, AI는 예외 상황에 대비하여 계속 활용됩니다. 또한 "검사 실패 및 내용 변경"이 발생하면 워크플로는 다시 감독 단계로 돌아갑니다.“

CISO를 위한 실질적인 시사점

그만큼 연구는 구체적인 지침을 제공합니다 AI 로드맵 구축을 위해:

• 활동이 아닌 결과를 측정하십시오. 알림 발생 횟수와 절약된 시간은 활용도를 보여주는 것이지 정확성을 나타내는 것은 아닙니다. 사람이 검토한 기준선 대비 판정 품질, 재정의율, 검증된 해결까지 소요된 시간 및 검증된 결과당 비용을 추적하세요.
• 워크플로우를 하나씩 차근차근 확장해 나가세요. 정보 보강을 자동화하고, 엔드포인트 격리에 대한 승인을 요구하며, 신원 정보 유출을 권장 사항 전용 모드로 유지하는 것이 합리적입니다.
• 모델보다 오래 지속되는 제어 시스템에 투자하십시오. 신원 확인, 접근 제어, 통합, 유효성 검사 및 감사 기능을 통해 권한 구조를 재구축하지 않고도 모델을 교체할 수 있어야 합니다.
• 인력 변동에 대비하여 미리 계획을 세우십시오. 한 CISO는 피싱 분류 자동화 덕분에 몇 주 만에 기존 업무가 대체되었고, 팀에서는 분석가 한 명을 클라우드 위협 조사 담당자로 재교육했다고 밝혔습니다.
• 책임 소재를 외부에 떠넘기지 마십시오. MDR 또는 MSSP는 기능을 제공할 수 있지만, 계약에는 모델 변경, 감사 액세스, 승인 범위 및 롤백이 포함되어야 합니다.

자동화는 AI를 위한 도구입니다.

이미 보안 자동화 시스템을 운영하고 있는 조직의 경우, 연구 결과는 상당한 우위를 점할 수 있음을 시사합니다. 예를 들어 다음과 같은 플랫폼들이 있습니다. 스윔레인 터빈 이미 보안 도구에 연결하고, 사례 상태를 유지하고, 신원 및 권한을 적용하고, 승인을 라우팅하고, 조치를 기록합니다. 보고서에서는 "이러한 기능은 모델의 권장 사항에서 관리되는 프로덕션 워크플로로 전환하는 데 필요한 기반을 제공합니다."라고 설명합니다.“

이 연구는 기존 자동화가 무엇을 증명하고 무엇을 증명하지 못하는지에 대해 신중하게 접근합니다. 기존 자동화는 AI 모델의 성능을 향상시키지는 않습니다. 오히려 AI를 실제 운영 환경에 적용하기 전에 팀이 구축해야 하는 통합 및 제어 인프라의 양을 줄여줍니다. 독립형 AI SOC 제품은 자체적인 추론 방식과 그 주변 제어 기능을 동시에 입증해야 합니다. 반면, 이미 구축된 자동화 플랫폼에서는 평가 기준이 단 하나의 질문으로 좁혀집니다. "AI가 기존 제어 기능을 약화시키지 않으면서 특정 보안 결정을 개선하는가?"“

그것이 바로 그 접근 방식의 핵심입니다. 스윔레인 AI SOC, Hero AI는 보안 팀이 이미 신뢰하는 확정적 워크플로, 커넥터 및 승인 게이트 내에서 작동합니다. 보고서의 결론처럼 Swimlane의 제안은 "별도의 의사 결정 및 제어 환경이 아니라 기존 자동화 플랫폼 내에 구축된" AI SOC입니다.“

하네스 테스트

이 연구는 독자들에게 스윔레인을 포함한 어떤 공급업체의 말도 맹신하지 말라고 요구합니다. 저자들은 "제품 주장은 검증 대상이 아니다"라고 명시합니다. 대신, AI가 개입하기 전에 모든 CISO가 스스로에게 던져야 할 7가지 질문에 대한 검증 방법을 제시하고, 각 질문은 대표적인 워크플로우를 통해 시연됩니다.

1. 인공지능의 추천이 통제된 행동으로 이어질 수 있을까요?
2. 해당 AI는 운영상의 정체성을 가지고 관리됩니까?
3. 인공지능이 틀리거나 불확실할 때는 어떻게 될까요?
4. 반복 가능한 AI 작업은 자동화로 이어질 수 있을까요?
5. 성과는 사람이 직접 검토한 결과를 기준으로 측정됩니까?
6. 워크플로우에서 보안 결과를 검증합니까?
7. 대량 생산 시 경제성은 예측 가능한가요?

전체 보고서에는 각 질문에 대한 검증 요청 사항, 주의해야 할 위험 신호, 그리고 Swimlane이 이를 어떻게 해결하는지가 자세히 설명되어 있습니다. 보고서의 기준은 간단합니다. "솔루션은 워크플로우별로 하나씩 검증 과정을 거쳐야 합니다."“

목표는 최대한의 자율성이 아닙니다.

보안팀의 전략적 질문은 더 이상 AI를 사용할지 여부가 아니라, 운영에 필수적인 보안 시스템을 약화시키지 않고 AI를 어떻게 구현할 것인가입니다. 추론과 신뢰성의 만남 이는 CISO에게 다음과 같은 실질적인 해답을 제시합니다. AI의 추론 능력과 결정론적 자동화의 신뢰성을 결합하고, 모든 결과를 검증하며, 증거가 뒷받침되는 경우에만 권한을 확대하는 것입니다.

보고서의 마지막 문장이 핵심을 잘 보여줍니다.

“"목표는 최대한의 자율성이 아닙니다. AI가 언제 개입해야 하고, 언제 사람이 결정해야 하며, 언제 워크플로를 중단해야 하는지를 판단할 수 있는 충분한 증거를 확보하여 보안 결과를 측정 가능한 수준으로 개선하는 것입니다."”

전체 보고서를 다운로드하세요 7가지 질문으로 구성된 하네스 테스트 점수표와 SOC 로드맵을 위한 8가지 결정 사항을 포함한 전체 연구 보고서를 읽어보세요. 스윔레인 터빈이 결정론적 플레이북과 히어로 AI 추론을 어떻게 결합하는지 직접 확인해 보시겠습니까? AI SOC 데모를 받아보세요.