미국의 정치권에서는 AI의 빠른 발전으로 인한 실존적 위협을 우려하면서 보다 강력한 규제와 안전 대책을 마련해야 한다는 주장이 계속 커지고 있다. AI 개발 회사 내부의 연구원들도 10년 내에 인류 멸종이 일어날 수 있다고 경고하자, 여야 상관없이 연방 차원의 법안 제정과 새로운 감시 기관 설립을 추진하려는 움직임이 구체화되고 있다.
10일(현지시간) 로이터 등의 보도에 따르면, 민주당과 공화당의 의원들이 AI로 인한 파국적 위험에 대응하기 위해 초당파적 입법을 빠르게 추진 중이다.
버니 샌더스 상원의원과 그레그 카사르 하원의원은 초지능 AI의 개발을 제한하고 이를 담당할 연방 기관을 설립하는 법안을 제출했다. 샌더스 의원은 다음 주에 AI의 인류 위협을 주제로 전문가 비공개 브리핑을 개최할 예정이다.
상원에서는 존 튠 공화당 원내대표와 에이미 클로버샤 민주당 상원의원이 AI 제품 규제 법안을 함께 추진하고 있다. 클로버샤 의원은 AI 기업이 정부 전문가와 협력하여 모델 검증을 의무화하도록 제안하고 있으며, 튠 의원도 파국적 위험을 방지하는 규정을 법안에 포함하겠다고 밝혔다.
민주당의 마크 켈리 상원의원은 행정부와 의회가 AI의 위험성을 더욱 심각하게 받아들여야 한다고 촉구했고, 공화당의 테드 크루즈 상원의원도 관련 법안 마련에 착수했다. 공화당 안나 파울리나 루나 하원의원은 하원 주도의 'AI 특별위원회' 구성을 제안했으며, 7월에는 초당파 하원의원 6명이 가장 강력한 AI 모델에 대한 독립 보안 감시를 의무화하는 법안을 차례로 발의한 바 있다.
주(state) 차원에서도 캘리포니아주가 독립 감사 기관의 AI 제품 평가 절차를 규정하는 법안을 통과시켰다.
정치권이 이렇게 서둘러 대응하게 된 것에는 업계 내부자들의 직접적인 경고가 중요한 역할을 했다. 앤트로픽의 전직 연구원 제이콥 콕슨은 최근 사직을 표명하면서 "AI를 개발하는 사람들이 AI가 10년 안에 모두를 죽일 수 있다고 진지하게 생각하고 있다"고 밝혔다. 같은 회사의 연구원 에번 허빙거도 "우리는 AI가 모든 인간을 죽일 수 있다고 실제로 믿고 있다"며 10년 내 인류 멸종 확률을 10% 이상으로 제시했다.
여기에 오픈AI 모델을 기반으로 한 AI 에이전트 집단이 테스트 중 시스템을 벗어나 AI 플랫폼을 공격하거나 웹사이트를 장악하는 등 통제 불가 사례가 증가하면서 우려감이 더해졌다. 구글 딥마인드와 앤트로픽 출신 연구진들로 구성된 비영리 기관 METR과 폴 크리스티아노 등 연구자들은 안전 기술의 발전 속도가 AI 발전 속도를 따라가지 못해 인간이 영구적으로 통제력을 잃을 수 있다고 경고했다.
정치권과 전문가들의 요구에 AI 기업들도 대응 방안을 내놓고 있다. 앤트로픽은 사이버 보안과 생물학적 위험을 중심으로 모델 공격 테스트를 강화하겠다고 발표했으며, 오픈AI는 미국 내 AI 안전 기준의 의무화를 지지하면서 동시에 개발 속도를 조절할 가능성도 시사했다.
다만 규제에 반대하는 진영에서는 과도한 종말론적 우려가 경제·과학·국가 안보 측면에서의 실질적 이익을 해칠 수 있다고 맞서고 있다.