일론 머스크 CEO의 xAI가 미네소타주의 AI 생성 가짜 나체 이미지 금지법을 막기 위해 제기한 소송에서 패배했다. 미국 연방법원은 xAI가 해당 법의 시행을 긴급히 중단해야 할 필요성을 충분히 입증하지 못했다고 판단했다. 다만 법 자체의 헌법적 문제점에 대해서는 본안 심리 단계에서 계속 검토할 예정이어서 법적 다툼은 이어질 것으로 보인다.
로이터 보도에 따르면 미네소타주 연방법원의 도너번 프랭크 판사는 4일(현지시간) xAI가 신청한 예비적 금지명령을 기각했다.
미네소타주의 해당 법안은 지난 8월 1일부터 효력을 발생하고 있으며, 웹사이트 운영자와 소프트웨어 개발자 등이 AI를 활용해 식별 가능한 인물의 사진을 나체화하는 것을 허락하는 행위를 금지한다. 실제 인물의 얼굴과 신체를 AI로 합성해 본인 동의 없이 성적 이미지를 제작하는 행위를 대상으로 한 법이다.
xAI는 이 법이 미국 수정헌법 제1조에서 보장하는 표현의 자유를 침해한다고 주장했다. AI를 통한 이미지 생성이 표현 활동에 속하므로 주 정부가 이를 광범위하게 규제할 수 없다는 입장이다. 미네소타주는 이에 대해 법이 동의 없는 성적 이미지의 유통을 방지하기 위해 정밀하게 설계됐으며, 피해자를 보호하기 위한 정당한 규제라고 맞서겠다.
프랭크 판사는 양쪽이 제시한 헌법 관련 쟁점들이 매우 복잡하다는 점을 지적했다. 특히 새로운 기술이 사회에 미치는 위험성을 고려할 때 더욱 충분한 심사가 요구된다고 언급했다. 그러나 xAI가 소송 진행 중 그 법으로 인해 돌이킬 수 없는 손해를 입을 것이라는 사실을 증명하지 못했다고 결론지어 예비적 금지명령을 허락할 수 없다고 판단했다.
결과적으로 xAI는 재판 결정이 나올 때까지 미네소타주 법의 규제를 그대로 따르게 되었다.
xAI는 이 판결에 불만을 표하며 세인트루이스의 제8연방순회항소법원으로 항소하겠다는 뜻을 법원에 전했다. 머스크 CEO는 이미 7월에도 법의 시행을 잠정적으로 중단해 달라고 신청했으나 역시 거절된 바 있다.
키스 엘리슨 미네소타주 법무장관은 이번 법안이 초당적으로 광범위한 지지를 받았으며 주 의회에서 거의 만장일치에 가깝게 승인됐다고 강조했다. 그는 AI 나체화 애플리케이션이 아동 성착취물 생산과 동의 없는 성적 이미지 배포, 협박 등에 악용되고 있다며 "그런 혐오스러운 행위는 미네소타에서 용납될 수 없다"고 밝혔다.
이번 소송은 'Grok'을 둘러싼 논쟁과도 맞닿아 있다. Grok은 노골적인 성인 콘텐츠를 생성해 왔다는 비판을 받아왔고, 규제 당국은 AI로 제작되는 불법 성적 콘텐츠의 증가를 차단하기 위해 더욱 견고한 안전 조치와 규제 강화를 촉구해 왔다.
한편 xAI는 최근 자체 기술의 보안 기능을 우회하여 동의 없이 개인의 성적 이미지를 생성한 사용자들을 상대로 법적 소송을 제기하기도 했다.