AI SOC 에이전트 클레임 평가 방법: 실패 로그를 요청하세요

AI SOC 에이전트 클레임 평가 방법: 실패 로그를 요청하세요

모든 AI SOC 저희 회사를 포함해 제가 본 모든 벤더 데모는 훌륭해 보였습니다. 데모는 엄선된 알림과 제대로 작동하는 통합 기능을 기반으로 하며, 실제 공격 대상은 없습니다. 진정한 플랫폼과 데모를 구분하는 기준은 "알림을 해결할 수 있습니까?"가 아니라 "지난 분기에 어떤 오류를 발견했고, 그 오류를 어떻게 찾아냈습니까?"입니다.“

AI 기반 SOC 에이전트는 조사 단계, 즉 분류, 정보 보강, 최종 판정 작업을 자동화할 것으로 기대되지만, 구조화된 평가는 이러한 자동화가 실제로 사용자 환경에서 제대로 작동하는지 검증하는 방법입니다. 가트너의 관련 시장 가이드에서는 모든 평가의 기준이 되어야 할 다음과 같은 예측을 제시합니다. 2028년까지 대규모 SOC의 701,300%가 1/2단계 보안 업무에 AI 에이전트를 시범 도입할 것이지만, 구조화된 평가 없이 정보 보안 운영에서 측정 가능한 개선을 보이는 곳은 151,300%에 불과할 것입니다. 구조화된 평가는 단순히 공급업체의 답변을 점수로 매기는 것이 아니라, 일련의 증거 요구 사항을 충족하는 것입니다. 제가 추천하는 증거 요구 사항은 다음과 같습니다.

1. 오류 로그를 요청하세요

실제 운영 환경에서 조사 업무를 수행하는 AI 시스템도 오류를 범할 수 있습니다. 이는 그 자체로 문제가 되는 것은 아닙니다. 인간 분석가 역시 실수를 저지르기 때문입니다. 진정으로 문제가 되는 것은 공급업체가 이러한 오류의 원인을 파악하지 못하는 것입니다.

묻다: 종료된 알림에 대한 오탐률(false-negative rate)은 얼마이며, 어떻게 측정하고, 최근 세 건의 중요한 오탐 사례는 무엇이었습니까? 경험이 풍부한 공급업체는 지속적인 품질 보증(QA)을 수행하며, 여기에는 사람이 검토할 수 있도록 에이전트가 종료한 알림을 샘플링하고, 판정 번복률을 추적하고, 모델 변경 시 에이전트 동작에 대한 회귀 테스트를 실시하는 것이 포함됩니다. 따라서 수치로 답변할 수 있습니다. 반면 정확도 마케팅("99% 정밀도")으로 응답하면서도 측정 방법을 설명하지 못하는 공급업체는 측정 도구가 없다는 것을 의미합니다. 제가 진행한 모든 평가에서, 실패 로그를 제공할 수 없는 공급업체는 측정을 하지 않거나, 측정 결과를 알려주고 싶지 않은 것입니다.

2. 재실행 가능한 조사 요구

어떤 결과가 나오든, 여러분은 에이전트가 실행한 모든 쿼리, 모든 결과, 각 단계별 추론 과정, 최종적인 확신도, 그리고 취해진 조치를 모두 확인할 수 있어야 합니다. 요약문이 아니라, 실제 진행 과정 전체가 변경 없이 그대로 보존되어야 합니다.

이는 세 가지 별개의 이유 때문에 중요합니다.

1. 실무적인 측면에서 보면, 이는 분석가들이 신뢰도를 측정하고 추세 변화를 파악하는 방법입니다. 
2. 계약상으로는, 판매자에게 책임을 묻는 방법입니다. 
3. 제도적인 측면에서 보면, 자동화된 결정이 내려진 후 감사인, 규제 기관, 사이버 보험사 또는 이사회에 그 결정을 어떻게 정당화하느냐의 문제입니다. 

귀하가 다음 조건에 따라 운영하는 경우 페드램프, PCI, DORA 또는 해당 업계 표준에서 설명할 수 없는 판정은 언제든 문제가 발생할 수 있는 요인입니다. 가트너가 거버넌스와 설명 가능성을 7가지 평가 범주 중 하나로 삼는 이유도 바로 이 때문입니다. 감사 근거를 명확하게 설명하지 못하는 주체는 블랙박스와 다름없기 때문입니다.

3. 자율성 경계를 명확하고 기술적으로 설정하십시오.

이 시스템이 사람의 개입 없이 수행할 수 있는 작업은 무엇이며, 어디에서 이러한 제한이 적용되는지, 그리고 작업 유형 및 위험 수준별로 설정을 구성할 수 있는지에 대한 정확한 답변을 얻으십시오.

대부분의 평가에서 간과되는 부분은 바로 시행 방식입니다. "상담원에게 계정을 비활성화하지 말라고 지시했다"는 것은 지침일 뿐, 통제 수단이 아닙니다. 통제란 모델 외부에 있는 워크플로 로직으로, 승인 단계 없이는 해당 작업이 불가능하도록 만드는, 확률적 추론에 대한 확정적 안전장치 역할을 합니다. 가트너 프레임워크 역시 같은 점을 강조합니다. 계정 비활성화나 네트워크 격리와 같이 영향력이 큰 작업에 대해 안전장치는 어떻게 시행되는가? 그리고 모호한 상황에서 시스템은 기본적으로 조치를 취하는 대신 문제 해결 단계로 넘어가는가?

시스템이 실제 위협에 대응할 때 안전장치 설계가 가장 중요합니다. 바로 이때 담당자들은 가장 큰 압박 속에서 행동해야 하며, 동시에 잘못된 판단을 내릴 가능성도 가장 높기 때문입니다. 만약 공급업체가 정책이 아닌, 그 작동 메커니즘을 보여주지 못한다면, 그런 메커니즘은 존재하지 않는다고 간주해야 합니다.

4. 테스트 통합 횟수가 아닌 통합 깊이를 테스트하십시오.

보유하고 있는 도구 스택에서 가장 중요한 다섯 가지 도구를 선택하고 각 도구에 대해 세 가지 수준을 테스트하십시오. 

1. 에이전트가 그 내용을 읽을 수 있나요? 
2. 조사 도중에 쿼리를 실행할 수 있습니까(프로세스 트리 추출, ID 로그 검색, 사서함 검사 등)? 
3. 설정된 안전장치를 준수하면서 그 안에서 행동할 수 있을까요? 

300개가 넘는 로고가 나열된 통합 페이지는 사용자가 중요하게 생각하는 도구에서 읽기 전용으로 바뀌는 경우가 흔합니다. 따라서 로고 목록을 액면 그대로 받아들여서는 안 됩니다. 또한 아키텍처적인 질문도 던져보세요. 플랫폼이 데이터를 중앙 집중화해야 하는지, 아니면 데이터 위치를 조회할 수 있는지 말입니다. 비용과 마이그레이션 측면에서 큰 차이가 발생합니다.

5. 기준선 대비 환경에서의 결과를 측정하십시오.

POV를 시작하기 전에, 알림을 통해, 현재 수치를 기준으로 성공의 기준을 정의하세요. 핵심 지표는 다음과 같습니다.

1. 평균 격리 시간(MTTC): 가트너가 권장하는 핵심 지표인 이유는 위험을 줄이는 핵심은 바로 확산 방지이기 때문입니다.
2. 오탐 감소: 분석가들에게 상황을 정확하게 전달하고, (상황이 얼마나 악화되었는지, 어느 정도까지 악화될 만한 사유가 있었는지)를 명확히 합니다.
3. 표본 추출된 위음성률: 선임 분석가들이 상담원이 처리한 알림 중 무작위로 샘플을 재검토합니다. 이는 대부분의 팀이 건너뛰는 단계이며, 다른 방법으로는 절대 확인하지 않을 처리 내역의 유효성을 검증하는 유일한 단계입니다.
4. 부하 시 해결된 경고당 비용경보 폭주 상황을 모델링해 보세요. 경보별 및 토큰별 가격 책정 방식은 공격으로 인해 비용이 발생할 수 있습니다.

피싱 또는 엔드포인트 분류와 같은 특정 대용량 워크플로에 30~60일 동안 적용해 보세요. "경고 4만 건 조사"와 같은 볼륨 지표는 활동일 뿐 결과가 아니므로 마케팅 자료로 활용하세요. 

6. 제품뿐 아니라 판매자도 평가하십시오.

이 시장은 아직 초기 단계이며 경쟁이 치열하고 통합이 진행 중입니다. 2026년에는 관련 시장 분석 보고서에서 15개 이상의 벤더가 집계될 것으로 예상되며, 그중 다수는 설립된 지 5년도 채 되지 않았습니다. 일부는 인수될 것이고, 일부는 사라질 것입니다. 가트너는 벤더의 사업 지속 가능성을 제3자 위험 요소로 간주하고, 시장 변화에 맞춰 단기 구독 계약을 선호할 것을 권장합니다. SOC 2 및 FedRAMP 인증 여부, 데이터 처리 및 모델 학습 정책, 그리고 제품 서비스 종료 시 워크플로 및 감사 기록이 어떻게 보존되는지 등을 반드시 확인해야 합니다.

불편한 요약

대부분의 AI SOC 평가는 벤더가 가장 잘 통제하는 두 가지 채널인 데모와 레퍼런스 콜에만 초점을 맞춰 진행되기 때문에 실패합니다. 벤더가 통제할 수 없는 증거, 즉 경고, 기준선, 선임 분석가가 검토한 종결된 사례, 그리고 벤더가 보유했거나 보유하지 않은 실패 로그를 중심으로 평가 구조를 재구성하십시오.

실제 운영 환경에 맞춰 제품을 개발해 온 업체들은 이를 환영할 것입니다. 그렇지 않은 업체들은 불필요하다고 여길 것입니다. 이러한 반응 자체가 가장 빠른 평가 기준이 될 수 있습니다.