“딥페이크 제작자 줄줄이 구속”…걸그룹-AI, 불편한 동거 [리폿-트]

[TV리포트=이지은 기자] 기술은 빠르고 정교하게 진화했고, 가짜는 진짜의 얼굴을 모방해 유통되기 시작했다. 영상, 음성, 심지어는 동작까지 복제 가능한 시대가 오면서 최근 걸그룹 멤버들을 대상으로 한 ‘딥페이크’ 이미지 제작·유포 사건이 잇달아 적발되고 있다. 딥페이크는 딥러닝(deep learning)과 가짜(fake)를 결합한 말로, 인공지능(AI)을 기반으로 만든 가짜 콘텐츠를 말한다. 처음엔 획기적인 기술로 주목받았지만, 점점 음란물 등 불건전한 용도로 악용되면서 불쾌감을 유발하는 수단으로 전락했다.

이 영상들은 이제 ‘성범죄’라는 이름 아래 법정에 서게 됐다. 범죄의 실체는 분명해졌고, 침묵하던 피해자들도 더는 물러서지 않는다. 연예인을 대상으로 딥페이크물을 제작해 배포한 사이버 성착취 범죄집단 ‘자경단’ 조직원 등이 재판에 넘겨졌다. 5월 22일 의정부지검 형사3부(부장판사 오미경)는 성폭력범죄 처벌 등에 관한 특례법상 허위 영상물 편집·반포 혐의로 11명을 구속 기소하고, 8명을 불구속 기소했다고 밝혔다. 이들은 아동·청소년인 걸그룹 멤버 등 연예인을 대상으로 수천 건 이상의 딥페이크물을 제작하고 배포한 혐의를 받는다.

검찰은 지난해 9월 경기북부청과 ‘딥페이크 등 디지털성범죄 대응을 위한 검·경 수사실무협의회’를 개최해 경찰과 유기적인 협력체계를 갖추고 수사 초기부터 증거수집과 피의자들에 대한 신속한 신병을 확보했다. 또 피해자 28명에 대해서는 심리상담 및 허위영상물 삭제·차단 등을 피해자 보호를 지원했다.

더 심각한 건, 이러한 가짜 제작물들이 일종의 ‘팬 콘텐츠’처럼 포장돼 버젓이 유통된다는 점이다. “그냥 장난이었다”, “AI가 만든 것뿐”이라는 변명은 이제 통하지 않는다. 피해 당사자인 걸그룹과 그들의 소속사가 직접 칼을 빼 들었기 때문. 지난해 YG, JYP 등 소속사들이 일제히 법적 대응을 공식화하며 아티스트 초상권·명예권·인격권 보호에 나섰다.

JYP엔터테인먼트는 트와이스 팬 커뮤니티를 통해 “최근 당사 아티스트를 대상으로 한 딥페이크(AI 기반 합성) 영상물이 확산하고 있는 상황에 대해 매우 심각하게 받아들이고 있다”라며 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고 있는바. 전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다.

블랙핑크와 베이비몬스터가 속한 YG엔터테인먼트 역시 “당사는 소속 아티스트들과 관련하여 부적절한 딥페이크(AI기반 합성 영상물)제작물이 제작 및 유포되고 있는 상황을 매우 엄중하게 인식하고 있다”라며 “광범위하고 악의적으로 이루어지고 있는 해당 불법행위를 계속 모니터링 하고 불법 영상물을 삭제/차단하기 위해 노력하고 있으며, 형사절차를 포함하여 가능한 모든 법적 조치를 진행하고 있다”라고 경고했다.

아이들 소속사 큐브엔터테인먼트 또한 “최근 소속 아티스트들을 대상으로 한 악의적인 딥페이크 제작물이 온라인상에 유포되고 있음을 확인했다”라며 “이는 아티스트의 명예를 심각하게 훼손하고 정신적 고통을 초래하는 명백한 범죄 행위이기에 매우 엄중한 상황으로 받아들이고 있다. 딥페이크 제작자 및 관련 유포자에게는 선처 없는 강력한 법적 조치를 취할 예정”이라고 전했다.

올해 4월에는 뉴진스 소속사 어도어가 “최근 아티스트를 겨냥한 악성 게시물의 양과 수위가 급격히 증가했다”라며 “사회적으로 큰 문제가 되고 있는 딥페이크 범죄에 대해서도 엄중히 대응하고 있다. 뉴진스를 대상으로 한 허위 영상물 제작 및 유포 행위에 대해 수사기관과 긴밀히 협조하고 있으며, 실제 관련 피의자가 구속 상태로 검찰에 송치된 바 있다”라고 강조했다.

그러나 연예기획사의 대응만으로는 충분하지 않다. 딥페이크 기술은 이미 음성과 움직임까지 정밀하게 모사할 수 있을 만큼 빠르게 진화했다. 따라서 지금 필요한 것은 업계의 자정 노력이나 플랫폼 필터링을 넘어서는 보다 촘촘하고 실효성 있는 법적 보호 장치다. 기술의 발전이 또 다른 범죄의 수단이 되지 않도록, 법과 제도는 그보다 한 발짝 앞서 움직여야 한다.

이지은 기자 lje@tvreport.co.kr / 사진= TV리포트 DB