AI SOC 에이전트와 SOAR의 실제 차이점은 무엇일까요?

AI SOC 에이전트와 SOAR의 실제 차이점은 무엇일까요?

지난 2년간 보안 운영(SecOps) 마케팅을 주도해 온 두 가지 주장은 서로 모순됩니다. 

• 첫 번째: SOAR는 사라졌고, AI 기반 SOC 에이전트가 그 자리를 대체했습니다. 
• 두 번째는 AI SOC 에이전트가 SOAR에 언어 모델을 추가한 것에 불과하다는 점입니다. 

둘 다 틀렸고, 그 사이의 간극 때문에 평가 예산이 비효율적으로 많이 사용됩니다. 

가트너의 2024년 하이프 사이클에서 SOAR는 "정체기 이전에 구식화될 것"으로 분류되었는데, 이는 첫 번째 주장에 근거를 제공했습니다. 하지만 카테고리의 시장 구조와 고객 요구는 별개의 문제이며, 둘 중 하나만 사라졌습니다. 이 블로그의 나머지 부분에서는 SOAR가 무엇을 했는지, 에이전트가 무엇을 바꾸었는지, 무엇을 바꾸지 않았는지, 그리고 프로덕션 배포에서 점점 수렴하고 있는 2계층 아키텍처에 대한 이야기를 통해 증거를 뒷받침하는 내용을 다룹니다.

SOAR의 하락세에 대해 시장이 제대로 예측한 점 

SOAR는 한 가지 일을 탁월하게 잘 해냈습니다. 바로 알려진 절차를 실행 가능한 워크플로로 인코딩하는 것이었습니다. 예를 들어, 팀에서 신고된 피싱 이메일을 처리하는 방식(이메일 분석, 첨부 파일 검사, URL 확인, 다른 수신자 검색, 격리, 알림)을 적어두면 SOAR는 그 절차를 기계 속도로 하루에 만 번씩 똑같이 실행하고 모든 단계를 로그로 남겼습니다.

이 시스템의 장점은 결정론적, 반복 가능성, 그리고 감사 가능성이었습니다. 동일한 입력값이 항상 동일한 경로를 생성했기 때문에 감사자에게 어떤 과정이 어떻게 진행되었는지 정확하게 보여줄 수 있었습니다.

하지만 그 이면에는 한계가 있었습니다. 플레이북은 작성자가 예상한 상황만 처리할 수 있었습니다. 플레이북을 구축하고 유지 관리하는 데에는 엔지니어링 노력과 구조화된 데이터 흐름이 필요했는데, 대부분의 팀은 이를 과소평가했습니다. 가트너의 비판은 바로 이러한 유지 관리 부담과 시장 통합 및 비용에 집중되었습니다. 또한 플레이북은 판단력을 발휘할 수 없었습니다. 불확실한 상황에 직면했을 때, 플레이북은 누군가가 미리 작성한 조건에 따라서만 분기할 수밖에 없었습니다. 

그 결과, SOC 툴 검토에 참여해 본 사람이라면 누구나 공감할 만한 업무 분담이 발생했습니다. 팀은 잘 이해되고 반복 가능한 경고 처리는 자동화했지만, 분석가가 직접 살펴보고 생각하고 결정해야 하는 모호한 나머지 경고에는 파묻혀버렸습니다. 플레이북이 이러한 경고 처리량을 담당했고, 조사 과정은 여전히 사람의 몫이었습니다.

어떤 에이전트들이 실제로 변경됨 

AI 기반 SOC 에이전트는 SOAR과는 근본적으로 다른 접근 방식으로 나머지 경고를 처리합니다. 단순히 점진적인 변화를 주는 것이 아닙니다. 에이전트는 미리 작성된 경로를 따르는 것이 아니라 자체적인 경로를 구축합니다. 경고를 읽고, 이를 확인하거나 반박할 증거를 판단하고, 시스템에서 해당 증거를 조회하고, 결과가 들어올 때마다 수정하고, 서면으로 된 근거와 함께 최종 결론을 내립니다. 

플레이북은 절차를 인코딩합니다. 에이전트는 판단을 근사적으로 내립니다.

이는 단순한 이름 변경이 아니라 실질적인 기능 변화입니다. 기존의 확정적 자동화 방식으로는 새롭고 모호한 경고를 구조적으로 조사할 수 없었습니다. 하지만 이제는 부분적으로 가능해졌습니다. "LLM을 사용해서 SOAR를 구현하면 된다"는 식의 일축은 실제 구현 사례를 접하면 설득력을 잃습니다.

에이전트들이 바꾸지 않은 것은 무엇이었습니까?

판단에는 대가가 따른다. 요원들은 확률적이다. 같은 조사를 두 번 진행해도 다른 경로가 나올 수 있고, 때로는 다른 결론에 도달할 수도 있다. 그들은 확신을 가지고 틀릴 수도 있다.

LLM 추론 루프는 이미 확정적인 작업에는 적합하지 않은 도구입니다. 보안 책임자는 격리 절차, 증거 보존 단계 또는 규제 기관 통지 체계를 즉흥적으로 처리하는 모델을 원하지 않습니다. 이러한 절차는 매번 정확하게, 증거와 함께 실행되어야 합니다.

이것이 바로 대체론이 실패하는 이유입니다. 확정적 실행, 강제적 프로세스, 통합 기반 시설 및 감사 기능은 더 이상 필요하지 않게 된 것이 아닙니다. 오히려 더욱 중요해졌는데, 확률적 시스템이 이제 시스템 운영에 투입되었고, 바로 이러한 속성들을 갖춘 시스템이 필요하기 때문입니다.

SOAR와 AI SOC 구축이 수렴하는 지점 

실제 운영 환경에서는 이 두 가지 기능이 계층적으로 구성됩니다.

• 1단계, 에이전트 추론: 응급 분류, 조사, 판결, 권고. 모호한 중간 단계.
• 2단계, 결정론적 실행: 어떤 행동이 어떤 자율성 수준에서 허용되는지, 어떤 행동에 사람의 승인이 필요한지, 격리 조치는 어떻게 실행되는지, 어떤 내용이 기록되는지, 그리고 에이전트의 신뢰도가 떨어질 때 어떤 일이 발생하는지 등을 명확히 해야 합니다. 가트너의 2026년 평가 가이드라인도 같은 방향을 제시하며, 영향력이 큰 행동에 대해서는 엄격한 안전장치를 마련하고 모호한 상황에서는 기본적으로 에스컬레이션을 시행할 것을 권고합니다.

이를 안전장치 안에 에이전트를 배치하는 것으로 부르겠습니다. 추론 계층은 확률적이지만, 권한 및 실행 계층은 그렇지 않습니다. 두 번째 계층 없이 에이전트를 배포하는 팀은 모델의 자체적인 제약을 신뢰하는 것이며, 프롬프트는 제어 수단이 아닙니다. 순수 SOAR 방식을 고수하는 팀은 기계가 처리할 수 있는 초기 판단 작업을 분석가에게 계속 맡기는 비용을 지불하게 됩니다.

이는 SOC 자동화 평가에 어떤 의미를 갖는가? 

AI SOC 아키텍처에 대한 질문은 네 가지 구매 질문으로 귀결되며, 이 질문들은 어떤 기능 매트릭스보다도 빠르게 시장을 구분짓습니다.

1. 수사관의 판단이 어떤 증거에 의해 제기되었는지 추적하여 감사관에게 그 과정을 재현해 보여줄 수 있습니까?
2. 작업 권한은 프롬프트에 있습니까, 아니면 모델 외부의 정책 적용 계층에 있습니까?
3. 신뢰도가 낮을 때는 어떤 일이 발생하며, 누가 그 기준점을 설정하는가?
4. 벤더의 결정론적 실행 계층은 AI보다 먼저 개발되었습니까, 아니면 나중에 래퍼 형태로 추가되었습니까?

마지막 질문은 구매자들이 가장 간과하는 부분입니다. 오케스트레이션을 레거시처럼 취급하는 공급업체는 감사가 불가능한 에이전트를 제공하게 되고, 에이전트를 부가 기능으로 취급하는 공급업체는 요약 버튼만 제공합니다. 스윔레인(Swimlane)은 실행 계층을 교체하는 대신 지속적으로 투자해 왔습니다. 왜냐하면 관리 가능한 자율성에는 두 가지 모두가 필요하며, 결정론적 측면은 기존 시스템을 개조하기가 훨씬 더 어렵다는 것을 알고 있기 때문입니다.

결론: SOAR 시장에 무슨 일이 일어났을까? 

가트너가 예측한 대로, 독립형 SOAR 시장은 더 광범위한 플랫폼에 흡수되어 사라졌습니다. 하지만 그 분야 자체는 사라지지 않았습니다. 오케스트레이션, 결정론적 실행, 그리고 감사 기능은 에이전트 자율성을 관리할 수 있게 해주는 기반이 되었습니다.

달라진 것은 분업의 방식입니다. 기계가 1차 판단을 내리고, 인간은 기계를 관리합니다. 이러한 관리를 강제하는 배관 시스템은 시연에 거의 참여하지 않으며, 이 모든 것이 감사 과정에서 살아남을지 여부를 결정합니다.