가수 겸 배우 아이유의 얼굴이 AI 딥페이크로 악용됐다.

7일 인스타그램 스토리를 넘기던 중 돌연 한 게임 사이트 계정에 아이유가 등장한 영상이 공개됐다. 영상 속에는 아이유가 차 안에서 태블릿 PC를 들고 한 게임 어플을 소개하고 있었다. 도박 사이트에서 아이유의 얼굴을 AI 딥페이크로 악용해 활용한 것이다.

해당 영상에서 AI 아이유는 "'치킨로드는 사기다. 여기서는 돈 못 번다' 이런 댓글들 이제 지긋지긋하다"면서 "방금 말하는 중에도 1천700만원이 그냥 떨어졌어요", "봐요 진짜에요. 저도 믿기 힘들 정도에요"라며 게임을 통해 거액을 벌 수 있다고 소개했다.

이어 AI 아이유는 "궁금한 분들을 위해 마지막으로 한 번만 보여드릴게요"라며 "치킨로드 앱 지금 열면 신규 유저는 바로 최대 300만원 보너스 받을 수 있어요", "직접 해본 사람들은 이미 벌고 있어요"라고 홍보를 이어갔다.

해당 영상은 댓글을 달 수 없도록 설정되어 있었으며, 영상 좌측 하단에는 '광고'라고 표기가 되어 있고 계정을 인스타그램 검색창에 그대로 치면 존재하지 않는 계정으로 나온다.
해당 사이트는 아이유만 악용하지 않았다. 최근 배우 이하늬와 그룹 원더걸스 출신 멤버 안소희도 AI 딥페이크로 만들었다. 먼저 AI 이하늬는 "15분 만에 2천만 원? 헐 말도 안 돼! 진짜야!"라면서 "영화 시사회에서 사람들이 어떤 앱들을 사용하길래 나도 깔아봤어", "행운의 룰렛을 돌렸더니 최대 보너스 당첨", "딴 돈으로 갖고 싶은 거 마음껏 사버려"라고 말했다.

며칠 뒤에는 AI로 만들어진 안소희가 등장해 "나 이 앱에서 2천5백만 원 넘게 벌었는데 쟤는 아직도 나 안 믿어"라며 게임 사이트를 소개했다. 이후 AI 안소희는 "입금하자마자 260만 원 보너스 받았고 500만 원 만들었어. 나 이걸로 나 벤츠 샀다니까? 다들 다운받아서 보너스 받아봐. 잭팟이 기다리고 있을 거야"라고 설명했다.

이하늬가 AI로 악용됐을 당시에는 스토리가 아닌 게시물 형태로 광고가 떠 댓글을 달 수 있었다. 이에 누리꾼들은 해당 사이트 댓글 창에 이하늬의 SNS 계정과 이하늬 소속사 계정을 태그해 소속 아티스트의 얼굴이 사기에 도용되고 있음을 직접 알리기도 했다.

AI를 이용해 허위 사실을 유포한 경우, 형사처벌 및 민사상 손해배상 책임을 질 수 있다. 특히 특정 인물의 명예를 훼손하는 내용일 경우, 정보통신망법상 명예훼손죄로 최대 7년 이하의 징역, 10년 이하의 자격정지 또는 5천만 원 이하의 벌금에 처해진다. 성적인 내용을 담고 있을 경우에는 2024년 9월 개정된 성폭력처벌법에 따라 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처해지고, 이를 유포하면 7년 이하의 징역형을 받을 수 있다.

정다연 텐아시아 기자 light@tenasia.co.kr