챗GPT로 대표되는 생성AI는 보안 업계에서도 이제 중량급 키워드로 통한다. 여러 업체들이 거대 언어 모델(LLM) 기반 생성 AI 기술을 접목한 보안 솔루션을 내놨거나 준비 중이다. 

특히 마이크로소프트와 구글 같은 빅테크 기업들이 생성AI와 클라우드 보안 솔루션 결합에 공격적인 행보를 보이는 모습이다. 생성AI에 적극적이기는 보안 전문 업체들도 마찬가지다. 최근에는 클라우드 기반 엔드포인트 보안 업체인 센티넬원 행보에 관심이 쏠린다.

센티넬원은 최근 미국에서 열린 글로벌 보안 컨퍼런스 RSA2023에서 여러 AI 언어 모델들을 통합한 위협 헌팅(threat-hunting) 플랫폼을 보였다. 센티넬원은 신경망과 거대 언어 모델(LLM) 기반 자연어 인터페이스를 위협 헌팅 플랫폼에 접목해 보안 위협에 대한 역량을 강화할 수 있을 것으로 기대했다.

[센테넬원 사비스 소개 화면] 

생성AI 활용하는데는 다 이유가 있다

AI 모델은 오류에서 자유롭지 않다. 효과가 검증됐다고 보기는 아직 무리가 있다. 프롬프트 인젝션(prompt injection:  공격자가 시스템 출력을 조작하기 위해 AI 시스템에 악의적인 입력을 주입하려고 시도)과 같은 공격에도 취약해 개발사가 의도지 않은 방식으로 작동할 위험도 있다. 

그럼에도 센티넬원은 생성AI가 사이버 위협 대응에서 의미 있는 역할을 할 수 있다는 입장이다. 이유는 크게 두 가지로 요약된다. 

우선 보안과 관련해 쏟아지는 데이터를 효과적으로 활용하는데 있어 생성AI는 상당한 도움이 될 수 있다. 센티넬원 CTO인 릭 스미스가 최근 SDX센트럴에 언급한 내용을 보면 요즘 보안팀들은 페타바이트 규모로 계속 증가하는 데이터 소스를 관리해야 하는데 이와 관련한 부담이 점점 커지는 상황에 직면해 있다. 생성AI는 이같은 상황에서 요긴하게 쓰일 수 있다는 설명이다.

회사 측에 따르면 생성 AI 통합으로 센티넬원 위협 헌팅 플랫폼 사용자들은 위협과 적을 추적하는 것과 관련해 질문을 던지고 명령을 실행해 엔터프라이즈 환경을 관리할 수 있다. 예를 들면 사용자는 자신의 환경이 스무드오퍼레이터(SmoothOperator)에 감영돼 있는지 물을 수 있다. 답은 답변을 기반해 어떤 기기들이 감염돼는지 알려달라는 프롬프트(지시문구)를 활용할 수 있다. 이를 통해 구체적인 결과를 뽑아낼 수 있다는 설명이다.

생성AI는 보안 담당자들 간 '내공의 격차'를 줄여주는 역할도 활 수 있다.  특히 초보 보안 담당자들이 생성AI 기반으로 이전보다 많은 역할을 할 수 있을 것이라고 센티넬원은 강조한다. 요즘 보안 전문가들 구하기가 쉽지 않을 감안하면 보안 업무 생산성 측면에서 생성AI에 대한 관심은 점점 커질 것 같다.

센티넬원은 생성AI 적용과 관련해 장점만 보고 단점은 일단 넘어가는 것은 아니라는 점도 분명히 하고 있다. 생성AI가 접목된 센티넬원 위협 헌팅 플랫폼은 AI 모델이 제공하는 응답을 모니터링하고 검증하는 과정을 거친다. 생성된 결과가 정확하다고 믿을만 할 때까지는 고객에게 제공되지 않는 구조다.

새로운 보안 위협 대응 인터페이스로 부상 주목

센티넬원은 앞으로 생성AI 활용에 좀 더 과감하게 베팅한다는 전략이다. 위협 헌팅 플랫폼에 이어 향후 MDR(managed detection and response)과 위협 인텔리전스 서비스에도 생성AI 기술 적용을 확대할 계획이다.

센티넬원에 앞서 마이크로소프트는 지난 3월 보안 제품들에서 LLM을 활용할 수 있는 마이크로소프트 시큐리티 코파일럿( Microsoft Security Copilot last month)을 프리뷰 버전으로 공개했다. 

얼핏 보면 센티넬원이 구사하는 전술과 비슷해 보이는데, 센티넬원은 마이크로소프트 시큐리티 코파일럿과 자사 접근 방식은 차이가 있다는 입장. 마이크로소프트 시큐리이 코파일럿은 말그대로 어시스턴트이고, 플랫폼에 직접 통합돼 있지 않지만 센티넬원은 AI를 단순한 보조 도구가 아니라 핵심으로 취급한다는 점을 강조하고 있다. 쓰는 사람 입장에선 얼마나 차이가 있을지는 모르겠지만 플랫폼에 생성AI가 매우 깊숙하게 녹아들어 있다는 점을 어필하고 싶은 것 같다.

돌아가는 분위기를 보면 글로벌 시장에서 생성AI를 활용하려는 보안 업계 움직임은 더욱 빨라질 것으로 전망된다. 

구글은 이미 자체 LLM을 보안에 최적화해 선보였고 다른 유력 보안 업체들도 생성AI 끌어안기에 속도를 낼 가능성이 높다. 사이버 범죄자들도 공격에 AI를 활용하고 있는 만큼, 생성AI가 위협을 줄이는데 어느 정도 기여를 할지는 두고봐야 겠지만 할일이 점점 늘어나나는데, 손을 모자라는 상황에 처한 기업 보안 담당자들에게는 나름 매력적인 인터페이스가 되지 않을까 싶다.