현황: AI 기반 행정혁신의 가속화
정부의 'AI 챔피언', 'AI 정부 실험실' 등 프로젝트가 본격 추진되면서 공공 부문의 디지털 전환이 급속화하고 있다. 공무원들이 직접 AI로 코드를 작성하고, 에이전트를 통해 외부 데이터와 시스템을 연결하는 AI 기반 행정혁신이 새로운 추세로 자리 잡고 있다. 혁신 속도가 빠를수록 정부 업무 효율성 향상과 국가 경쟁력 강화라는 기대감도 커지고 있다.
원인: 공통 보안기준과 검증도구의 '공백'
이원태 국가인공지능전략위원회 보안특별위원장은 최근 "공통된 보안기준과 검증도구 없이 확산된다면 혁신의 속도가 곧 위험의 속도가 될 수 있다"고 우려를 제기했다. 현재 공공 부문의 AI 확산이 보안 체계 없이 진행되는 상황을 지적한 것이다.
세 단계가 필요한 공공 AX 보안체계
위원장이 언급한 필요한 보안 체계는 다음 세 가지다.
첫째, 개발부터 운영까지 전 단계의 보안 통합 — 개발·검증·배포·운영의 전 과정이 보안 원칙 하에서 일관되게 진행되어야 한다는 뜻이다.
둘째, AIBOM(AI 공급망 확인 체계) — AI 모델이 무엇을 학습했는지, 누구의 데이터와 인프라 위에서 작동하는지를 추적하고 검증하는 체계다.
셋째, NHI 관리 체계(비인간 행위자 신원·권한 관리) — 에이전트와 API의 신원을 명확히 하고, 그들이 행사할 수 있는 권한의 범위를 엄격히 제한하고 감시하는 체계다.
보안의 '문법' 변화 필수
현 단계에서 요구되는 보안 패러다임의 전환은 세 가지 차원에서 진행되어야 한다.
- 접근통제에서 행위통제로 — 누가 시스템에 접근할 수 있는가의 문제를 넘어, 접근 후 무엇을 하는가를 실시간으로 감시하는 방식.
- 일회성 인증에서 상시 검증으로 — 처음 한 번의 인증에 의존하지 않고, 모든 활동을 지속적으로 검증하는 방식.
- 사고 예방에서 사이버복원력으로 — 위험을 완전히 차단하려는 방어에서 벗어나, 사고 발생 시 얼마나 빨리 복구하고 중단할 수 있는가를 중시하는 방식.
전망: 보호 대상의 확대와 지능생산국가 전략
지금까지 보안의 초점은 서버와 개인정보 보호에 맞춰져 있었다. 하지만 AI가 행정·금융·의료·국방·제조 현장으로 본격 확대되면서 보호해야 할 대상이 근본적으로 달라지고 있다. AI 모델의 판단 과정, 학습데이터의 무결성, 에이전트의 권한, 외부 API와 오픈소스 공급망까지 보호 범위가 확장되어야 한다.
"수많은 비인간 행위자(NHI)가 국가와 기업의 핵심 시스템을 움직이는 시대"가 이미 시작된 만큼, 보안은 더 이상 사고를 막는 방어정책이 아니다. 대한민국이 AI를 소비하는 나라를 넘어 세계에 지능을 공급하는 '지능생산국가'로 도약하기 위한 핵심 산업정책이자 국가안보 전략으로 자리매김하고 있다.
결론
공공AX의 확산 속도를 조절할 수 없다면, 그에 맞춰 보안 체계를 설계하고 배포하는 것이 정부의 과제다. 이는 단순히 기술 문제가 아니라, 지능생산국가 시대에 국가 통제력을 유지하고 데이터 주권을 지키는 정책 문제다.
실행 과제
- AIBOM과 NHI 관리 체계 구축 일정 수립
- 공공 AI 프로젝트의 보안기준 시행 시점과 범위 명확화
- 국내 보안기업이 새로운 AI 위협을 검증할 수 있도록 공공 조달과 실증 시장 활성화
- #공공AX
- #AI보안기준
- #지능생산국가
- #NHI관리
- #사이버보안