👨💻 버추얼 휴먼 특집: 키워드리포트 ⑤
딥페이크로 만든 버추얼 휴먼
악용 사례, 신종 범죄 넘쳐난다
인공지능 기술이 발전하면서 누구나 간단한 방법으로 딥페이크 버추얼 휴먼을 만들 수 있는 세상이 됐다. 이에 따라 딥페이크 기술이 신종범죄의 수단이 되고 있고, 다양한 분야에서 심각한 문제가 늘어나고 있지만 근본적인 해결책은 없는 상황이다.
‘여리지’는 여행 인플루언서로 인스타그램과 틱톡 공식 채널을 보유한 버추얼 휴먼이다. 여행의 ‘여’와 택리지의 ‘리지’를 딴 이름. 한국관광공사는 2022년 여리지를 한국관광 명예홍보대사로 위촉했다. 하지만 2023년 초상권 침해 논란이 일었다. 국정감사에서 이병훈 더불어민주당 의원이 레드벨벳의 멤버 아이린과 너무 닮았다며 초상권 침해 요소가 있다며 문제를 제기했다. 사람의 얼굴을 학습해서 만들어낸 딥페이크 버추얼 휴먼 악용 사례가 나날이 늘고 있고 그 피해 또한 심각한 상황이다.
기존 인물의 얼굴에 인공지능 딥러닝 기술을 이용해 합성하는 딥페이크 방식은 버추얼 휴먼을 제작하는 방식 중 하나다. 이밖에 버추얼 휴먼 제작 방식으로는, ‘3D 프로그램을 사용해서 3D 모델링을 제작하는 방식’, ‘3D 스캐닝 카메라로 물체를 분석하여 형태와 특징을 데이터로 수집하는 방식’과 디지털 3D 모델을 움직이게 하는 기술로 3D 데이터에 뼈대를 심는 리깅과 실시간 움직임을 추적하는 리얼 타임 모션 캡처’가 있다.
딥페이크, 누구나 쉽게 버추얼 휴먼을 만들어낼 수 있다
딥페이크는 버추얼 휴먼 제작 방식 중에서 시간과 비용이 가장 적게 드는 데다 인공지능 기술이 발전하면서 실제 사람과 분간이 어려울 정도로 정교해지고 있다. 딥페이크(deepfake)는 딥러닝[1](deep learning)과 페이크(fake)의 합성어로, 인공지능을 기반으로 한 인간 이미지 합성 기술이다.
초기에는 딥페이크를 이용해 버추얼 휴먼을 제작하는 것은 할리우드급 특수효과였는데, 지금은 인공지능의 발전에 힘입어 놀라울 정도로 발전해 일반인들이 쉽게 사용할 수 있을 정도가 됐다. 구글플레이에 ‘딥페이크(Deepfake)’를 입력하면, 특정인의 얼굴, 음성 등을 섞어 가짜 영상, 이미지, 오디오를 만들어주는 수십여 개의 딥페이크 앱이 올라온다.
리페이스는 현재 전 세계에서 1억 5000명 이상이 사용하는 딥페이크 앱이다. 다양한 요금제를 선택할 수 있다. 재미삼아 본인의 사진을 블랙핑크 제니, 마동석, 유재석 등의 연예인으로 합성해 인스타그램과 같은 SNS에 공유하는 사례가 부지기수다. 인스타그램에는 리페이스 딥페이크 게시물이 수십만 개 공유됐다. 그냥 재미로 하는 일이라고는 하지만 당연히 저작권 침해 문제가 발생할 수 있다. 누구나 쉽게 딥페이크로 버추얼 휴먼을 만들 수 있게 되자 악용 사례도 늘고 이와관련한 심각한 범죄도 끊이지 않고 있다.
심각한 딥페이크 범죄, 나날이 늘고 있다
자신의 사진을 연예인으로 바꿔서 소셜 미디어에 업로드하는 일, 여리지를 둘러싼 초상권 침해 같은 사례는 딥페이크를 이용한 다른 심각한 범죄들과 비교하면 아무 일도 아니라고 느껴질 정도다.
얼마 전 소셜미디어에 연예인을 비롯해 유명인들의 가짜 계정으로 투자를 유도하는 일이 범람한 적이 있다. SBS <그것이 알고 싶다> ‘빼앗긴 얼굴과 가짜의 덫, 화면 속 그들은 누구인가’편에서는 딥페이크를 활용한 신종 피싱범죄를 다루었는데, 전 개그맨이자 개인투자자인 황현희가 출연했다. 누군가 자신의 얼굴과 이름을 무단 도용한 투자광고가 이뤄졌고, 투자 피해자가 속출한 상황에서 자신이 연루돼 억울한 누명을 써야 했다고 말했다. 유명인 137명의 얼굴이 도용됐고, 피해금액이 무려 1조 원대에 이르는 심각한 피싱범죄였다.
올해 5월경에는 서울대 동문 등 수십 명을 무단으로 합성한 성착취물을 ‘n번방’ 같은 메신저에 유포한 서울대 졸업생 두 명이 구속됐다. 이들은 동문 여성의 졸업앨범 사진과 SNS 사진 등을 이용해 성착취물 100여 건을 제작한 혐의였다. 더 큰 문제는 딥페이크를 이용한 성범죄가 날이 갈수록 늘고 있는데 관련 문제에 대한 심각성을 사회 전체가 인지하지 못하고, 문제 해결을 위한 대책 마련을 제대로 내놓지 않고 있다는 점이다.
한편 올해 홍콩의 한 다국적 기업의 재무담당자는 딥페이크에 속아 회삿돈 340억 원을 송금하는 큰 피해를 입었다. 범죄자 일당은 딥페이크 기술로 화상회의까지 하면서 재무담당자를 감쪽같이 속였다고 한다. 새로운 범죄수단이 된 딥페이크. 누구든 쉽게 범죄를 저지를 수 있고, 누구든 표적이 될 수 있어서 범죄 위험성이 훨씬 커졌다. 딥페이크를 이용한 가짜 뉴스가 일으키는 사회 혼란도 전 세계에서 끊임없이 일어나고 있다.
암담한 소식은 딥페이크를 이용한 범죄의 심각성이 커지고 있는데도 근본적인 해결방안이 없다는 점이다. 한국인공지능윤리협회 전창배 이사장은 한 미디어에서 “현재 버추얼 휴먼과 관련한 법안은 2020년 시행된 딥페이크 처벌법이 유일한 상황”이라며 “악용 사례가 지속해서 나오고 있는 만큼 관련 법안을 시급히 만들어야 한다”고 강조했다.
