피해자를 협박해 음란 동영상을 찍게 한 뒤 이를 공유한 n번방 운영자 조주빈이 경찰에 체포됐습니다. "멈출 수 없던 악마의 삶을 멈춰줘서 감사하다." 조씨가 검찰에 송치되면서 남긴 말입니다. '그들'은 피해자들을 성착취한 영상을 한낱 유흥거리로 즐겼습니다. 가까운 친구가 가해자로 둔갑하기도 했습니다. 가해자는 지인의 영상을 음란물과 합성했습니다. 이렇게 만들어진 '지인 능욕 영상'을 n번방에 공유한 것으로 알려져 있습니다. 이 영상을 만드는 데 사용된 기술은 최근 사회문제로 대두되고 있는 '딥페이크(deepfake)'입니다. 인공지능을 이용해 디지털 영상을 감쪽같이 위조하는 기술입니다. 딥페이크 기술이란? 미국 매사추세츠공대가 발행하는 기술분석 잡지 <MIT 테크놀로지 리뷰>는 지난해 초 가장 조심해야 할 인공지능의 위험요소 중 하나로 딥페이크 기술을 지목했습니다. 사람이 정보를 조작하는 수준을 넘어 인공지능의 힘을 빌려 진짜 같은 가짜 정보가 범람하는 세상이 올 수 있다는 이유에서였습니다. 일각에서는 딥페이크 기술의 발전으로 '진실의 종말' 시대가 올 것이라는 비관적 전망도 내놓고 있습니다. 딥페이크란 AI 기술인 딥러닝의 '딥(deep)'과 가짜라는 뜻의 '페이크(fake)'를 합친 단어입니다. 특정 인물의 얼굴과 신체 부위를 전혀 다른 영상과 합성하기 위해 딥러닝이라는 AI 기술과 안면 매핑(facial mapping), 안면 스와핑(face-swapping) 기술을 복합적으로 이용합니다. 딥페이크는 '생성적 적대 신경망(GAN)'이라는 AI 기술이 세상에 나오면서 등장했습니다. GAN은 이미지의 진위를 판단하는 '감별자' 알고리즘과 이미지를 만들어내는 '생성자' 알고리즘을 대립시켜 영상을 조작하는 원리입니다. AI는 대립을 통해 원본과 조작 영상물의 오차를 최대한 줄여나갑니다. 화폐 위조범과 경찰에 비유해볼까요. 위조범이 만든 가짜 화폐를 경찰이 단속합니다. 그러면 화폐 위조범은 더욱 정교하게 가짜 화폐를 만들게 됩니다. 경찰도 더욱 고도화된 수사기법으로 가짜 화폐를 적발해냅니다. 둘은 쫓고 쫓기는 경쟁을 하고 이 과정에서 가짜 화폐는 점점 고도화됩니다. 딥페이크를 통한 가짜 영상도 이와 비슷한 원리를 따릅니다. 가짜 이미지 제작 기술은 오래전부터 있었습니다. 과거 이미지는 수작업으로 편집됐기 때문에 확대하면 조작한 티가 났습니다. 그런데 영상편집 기술이 AI 기술인 GAN과 만나자 진짜와 가짜를 감별해내기가 어려워졌습니다. AI는 합성하고자 하는 얼굴의 모습이나 표정이 다르더라도 알아서 자연스럽게 합성해주기 때문입니다. 딥페이크는 누구나 손쉽게 사용할 수 있는 기술이라는 점에서 위협적입니다. 딥페이크는 프로그래밍 소스가 공개돼 있습니다. 일정 수준 이상 프로그래밍 언어를 구사할 수 있는 사람이라면 가정용 컴퓨터로도 영상을 조작할 수 있습니다. 프로그래밍 언어를 모르더라도 조작된 영상을 바로 내려받을 수 있는 웹사이트까지 등장했습니다. 마음만 먹으면 영상을 손쉽게 만들어낼 수 있는 것입니다. 가짜 영상을 만들어 범죄로까지 악용할 수 있는 기술이 대중화되는 아이러니가 발생한 것입니다. GAN 기술은 날로 발전해 지난해에는 사진 한 장으로 동영상을 만들어내는 기술도 나왔습니다.
n번방에 올려진 지인을 합성한 '지인 능욕 영상'은 '딥페이크(deepfake)'기술로 만들어진 것으로 누구나 쉽게 위조할 수 있는 기술이여서 위협적이다.