딥페이크 관련 범죄는 해외에서 수년 전부터 논란을 불렀다. 주요 국가들은 딥페이크 범죄 근절을 위해 유통 단계에서의 철저한 관리와 악용 범죄에 대한 처벌 규정을 강화하는 추세다.
올해 초 세계적인 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 사회관계망서비스 X(옛 트위터)에서 확산했다. X는 “확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다”고 발표했지만 해당 이미지는 이미 삽시간에 퍼져나간 뒤였고 원본 이미지는 삭제 전까지 4700만회나 조회됐다.
테일러 스위프트뿐 아니라 이미 수많은 해외 유명 스타들이 딥페이크의 표적이 됐다. 수년 전부터 엠마 왓슨과 스칼렛 요한슨, 갤 가돗 등 할리우드 유명 여배우들이 실제 포르노 배우의 몸과 합성한 딥페이크 피해를 겪으면서 범죄의 심각성이 수면 위로 떠올랐다. 스칼렛 요한슨의 경우 1년여 동안 수십 개의 딥페이크 포르노가 유포됐다. 한 영상은 불법 포르노 사이트에서 150만회 이상의 조회 수를 기록했다.
지난해에도 엠마 왓슨과 스칼렛 요한슨은 페이스북 등 SNS상에서 딥페이크를 활용한 음란 광고에 도용됐다. 광고 속 이들은 처음엔 웃다가 카메라 앞에서 몸을 굽히며 야릇한 행동을 취한다. 미국 NBC에 따르면 SNS에 나온 광고물 중 127개가 엠마 왓슨을 닮은 것이었고, 또 다른 74개는 스칼렛 요한슨의 얼굴을 썼다.
남자 배우도 딥페이크 음란물 타깃이 됐다. 지난 6월엔 넷플릭스 영화 ‘키싱부스’ 시리즈, 미국 HBO ‘유포리아’로 인기를 끈 배우 제이콥 엘로디의 이미지가 합성된 딥페이크 동영상이 X에서 확산했다. 누적 조회 수는 300만회를 넘어섰다.
딥페이크 제작을 사전에 막는 게 사실상 불가능해 해외에서는 유통의 진원지인 텔레그램 같은 빅테크 기업에 법적 의무를 강화하고 있다. 성착취물을 방치하며 사람들을 끌어모아 광고 수익을 올리고 있는 만큼 범죄를 방조하지 않도록 사회적 책임을 져야 한다는 취지다. 국가 차원의 온라인 안전 규제도 점차 촘촘해지고 있다.
영국은 빅테크 기업에 아동 안전을 위협하는 콘텐츠가 게재된 사실을 알면서 조처를 하지 않으면 경영진 개인을 처벌할 수 있도록 하고, 최대 매출의 10%를 과징금으로 부과하는 내용의 온라인 안전법을 시행하고 있다. SNS가 불법 콘텐츠 유통에 책임을 져야 하고 이를 통해 사회적 혼란을 방지할 수 있다는 게 영국 정부 방침이다.
호주도 최근 허위 정보 규제에 나서지 않는 SNS 플랫폼에 벌금을 부과할 수 있는 법안을 발표했다. 또한 14~16세 이전까지 SNS 이용을 금지하는 SNS 연령제한법을 준비 중이다. 유럽연합(EU)과 프랑스 등은 플랫폼에 불법·유해 콘텐츠에 대한 삭제·감시·감독 의무를 부과하는 관련 법을 이미 제정했다.
미국 연방법에는 딥페이크 성착취물 처벌을 명시하는 조항이 없다. 다만 일부 주 정부에서 자체적으로 딥페이크 성착취물을 범죄로 규정하고 있다. 빅테크 기업의 본고장인 캘리포니아를 비롯해 27개 주 정부에서 빅테크 기업에 유해 콘텐츠 삭제 의무를 부여하는 딥페이크 규제 법안을 마련했다.
지동현 기자 ehdgus1211@sportsworldi.com
[ⓒ 세계비즈앤스포츠월드 & sportsworldi.com, 무단전재 및 재배포 금지]
