AI를 활용한 사이버 공격이 빠르게 진화하고 있는 가운데, 엔비디아와 크라우드스트라이크가 손을 잡고 새로운 사이버 보안 전문 AI 모델을 함께 개발했다. 이 모델은 공격자의 입장에서 기업 시스템의 약점을 발견하는 동시에 이를 막아내는 방어 전략을 자동으로 수립하는 방식을 취한다. 궁극적으로는 AI 시대에 확대되고 있는 공격자와 방어자 간의 속도 차이를 줄이기 위한 것이다.
두 회사는 지난 1일 크라우드스트라이크의 연례 행사에서 이 AI 모델군을 '세이프마인드(SafeMind)'라는 이름으로 선보였다.
세이프마인드는 크라우드스트라이크의 핵심 보안 플랫폼인 '팰컨(Falcon)'에 탑재되며, API를 통해서도 접근할 수 있다. 기존의 보안 AI들이 위협을 감지하거나 취약점을 분석하는 데 초점을 맞춰왔다면, 세이프마인드는 침투 경로를 직접 찾아내면서 동시에 발견된 문제를 해결하는 방법을 자동화된 하나의 틀 안에서 처리한다는 점이 다르다.
이 모델은 두 가지로 나뉜다. '레드 템페스트(Red Tempest)'는 공격자의 역할을 맡아 AI 기반의 적대적 행동을 흉내내며 시스템 내에 실제로 악용될 가능성이 있는 취약점과 공격 경로를 찾아낸다. 한편 '블루 솔라노(Blue Solano)'는 방어 담당 모델로서 레드 템페스트가 발견한 공격 경로를 살피고 보안 설정과 방어 조치를 실행한다.
두 모델은 별도의 소프트웨어 하네스(harness)로 연결되어 닫힌 고리 구조를 만든다. 레드 모델이 공격 경로를 찾으면 블루 모델이 이를 차단하고, 다시 레드 모델이 새로운 침투 가능성을 모색하는 식이다. 두 회사는 이러한 반복 과정 속에서 두 모델이 서로의 결과를 토대로 함께 발전하는 '공진화(co-evolution)' 체계를 구현했다고 설명했다.
크라우드스트라이크는 개발 단계에서 엔비디아의 오픈소스 모델인 '네모트론(Nemotron)'을 자신들의 위협 정보와 사이버 보안 데이터를 이용해 세밀하게 조정했다. 특히 민감한 보안 데이터와 고객 정보가 밖으로 유출되지 않도록 하기 위해, 오픈 모델을 기초로 하되 자체적으로 맞춤형 모델을 구축하는 방식을 채택했다.
개발 속도도 눈에 띈다. 모델 조정 작업은 처음 발견부터 완성까지 45일이 걸렸으며, 엔비디아의 B200 GPU 71개가 사용됐다.
엔비디아는 세이프마인드의 효과를 확인하기 위해 자사의 내부 IT 환경을 가상으로 재현한 '디지털 트윈'에서 검증을 진행했다. 레드 팀 에이전트가 가상 환경을 누비며 실제로 실행 가능한 공격 경로를 찾아내면, 블루 팀 에이전트가 그 경로를 막는 식으로 실험을 해나갔다. 이 과정을 6~7번 반복한 결과, 가능한 모든 공격 경로가 보안 대책으로 보호될 때까지 방어 체계를 다듬을 수 있었다고 전했다.
이러한 접근은 AI가 소프트웨어 취약점을 찾아내는 속도가 인간 보안 전문가를 크게 앞지르게 되면서, 사이버 보안의 과제가 '취약점을 어떻게 찾을 것인가'에서 '공격이 시작되기 전에 얼마나 빠르게 대응할 것인가'로 변화하고 있다는 판단에서 비롯됐다. 엔비디아와 크라우드스트라이크는 공격자가 AI를 사용해 기계적인 속도로 취약점을 노려오는 만큼, 방어 입장도 그에 못지않거나 더 강한 AI 능력을 갖춰야 한다고 강조했다.
젠슨 황 엔비디아 CEO는 사이버 보안 분야에서는 모든 것을 잘 하는 범용 AI보다 특정 영역에서 뛰어난 성능을 발휘하는 특화 AI가 필요하며, 오픈 모델이 가진 높은 커스터마이징 여지가 사이버 방어에 특히 중요하다고 말했다. 엔비디아는 여러 기술 업체들과 협력해 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)를 이끌고 있으며, 기업들이 사이버 위협에 대응할 수 있도록 오픈소스 AI 도구 개발을 진행 중이다.