비혼모의 삶을 택한 모델 문가비부터 걸그룹부터 유명 여배우와 축구선수까지. AI를 통해 무작위로 만들어지는 영상으로 연예인들의 피해가 급증하고 있다. 이에 따라 "강력한 제재 장치 마련이 필요하다는 목소리가 나온다.

문가비는 최근 "아들의 얼굴이 AI로 제작돼 퍼졌다"며 AI 영상 제작의 피해를 호소했다. 문가비는 지난달 30일 개인 계정에 아들과의 일상이 담긴 사진들을 업로드했다. 문가비의 아들은 배우 정우성의 혼외자인 만큼 대중의 관심이 뜨거웠고, 실제 일부 인스타그램 계정에는 AI로 만들어낸 가짜 사진을 통해 문가비 아들의 실제 얼굴인 것처럼 오인하게 만들었다. 여기에는 "아빠 정우성이 최근 영화 출연과 광고 계약을 통해 본격적으로 복귀하는 타이밍이라 더 흥미진진한 주제인 듯?"이라는 설명도 붙었다.

연예인을 대상으로 하는 AI 조작 영상 사례는 점점 늘어나고 있다. 지난달 이이경은 사생활 루머를 폭로 당했다. 당시 폭로자는 이이경 소속사의 법적 조치 선언 이후 "대화 내용들을 AI로 만들었다"라고 자백해 AI 악용의 심각성이 도마 위에 오르기도 했다.

또 최근 인스타그램에서는 딥페이크로 제작된 배우 이하늬와 안소희가 한 도박 사이트 계정에 등장해 도박 게임을 홍보하기도 했다. 먼저 AI 이하늬는 "15분 만에 2천만 원? 헐 말도 안 돼! 진짜야!"라면서 "영화 시사회에서 사람들이 어떤 앱들을 사용하길래 나도 깔아봤어", "행운의 룰렛을 돌렸더니 최대 보너스 당첨", "딴 돈으로 갖고 싶은 거 마음껏 사버려"라고 말했다. 게시물에는 "하루에 2백만 원 벌고 싶어? 이 게임 때문에 내 인생이 바뀌었어"라는 소개글이 첨부됐다.

며칠 뒤 같은 계정에는 AI로 만들어진 안소희가 등장해 "나 이 앱에서 2천5백만 원 넘게 벌었는데 쟤는 아직도 나 안 믿어"라며 게임 사이트를 소개했다. 이후 AI 안소희는 "입금하자마자 260만 원 보너스 받았고 500만 원 만들었어. 나 이걸로 나 벤츠 샀다니까? 다들 다운받아서 보너스 받아봐. 잭팟이 기다리고 있을 거야"라고 설명했다.

이에 당시 누리꾼들은 해당 계정의 댓글 창에 두 사람의 각 소속사 계정을 태그해 소속 아티스트의 얼굴이 사기에 도용되고 있음을 알리려 직접 나서기도 했다.

이밖에도 축구 국가대표 선수 손흥민도 도박 사이트에 딥페이크로 구현된 얼굴이 등장하는 피해를 입었으며, 지난 4월에는 하이브 소속 아티스트의 딥페이크 영상이 텔레그램 대화방에서 유포되기도 했다. 또 지난해에는 블랙핑크와 트와이스 얼굴을 합성한 딥페이크 영상 유포돼 소속사가 직접 대응에 나서기도 했다.

미국의 사이버 보안 업체인 '시큐리티 히어로'에서 발표한 '2023 딥페이크 현황' 보고서에 따르면, 전 세계 유포된 딥페이크 음란 합성물 피해자의 99%가 여성이고 53%가 한국인인 것으로 조사됐다. 주 피해층은 가수와 배우 등 연예인인 것으로 알려졌다.

AI를 이용해 허위 사실을 유포한 경우, 형사처벌 및 민사상 손해배상 책임을 질 수 있다. 특히 특정 인물의 명예를 훼손하는 내용일 경우, 정보통신망법상 명예훼손죄로 최대 7년 이하의 징역, 10년 이하의 자격정지 또는 5천만 원 이하의 벌금에 처해진다. 성적인 내용을 담고 있을 경우에는 2024년 9월 개정된 성폭력처벌법에 따라 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해지고, 이를 유포하면 7년 이하의 징역형을 받을 수 있다.

한 IT 콘텐츠 제작 업체 대표는 텐아시아에 "연예인들은 얼굴이 지속적으로 노출되는 직업이기 때문에 딥페이크 피해에 취약할 수밖에 없다"며 "딥페이크 기술이 주는 이로움도 있기 때문에 그 기술이 제대로 쓰이도록 시스템과 감시망을 갖춰야 한다"고 했다. 그는 "AI로 제작된 콘텐츠에는 'AI가 생성했다'라는 문구를 넣도록 법제화할 필요가 있고, 타인의 얼굴이나 음성을 함부로 합성하거나 유포할시 강력한 처벌을 받을 수 있도록 법에 명확히 규정하는 처벌 조항을 신설하는 것이 필요하다"고 강조했다.

정다연 텐아시아 기자 light@tenasia.co.kr