[보도자료] 우리나라, 딥페이크 기술 개발 및 위험성 대응 부재
딥페이크(Deepfake)의 발전과 해외 법제도 대응
2. 딥페이크의 개념 및 기술동향
1) 개념
딥페이크란 허위의 동영상 콘텐츠를 만들거나 변형하는데 사용되는 AI기반 기술, 또는 진짜처럼 보이는 가짜 동영상 등을 의미한다. 즉 AI기술과 안면 매핑(facial mapping) 또는 안면스와핑(face­swapping)기술을 이용해 만든 가짜 영상으로 특정 인물의 얼굴과 신체 부위를 전혀 다른 영상과 합성해 새로운 영상을 만들어 낸다. 신경망을 사용하는 딥러닝(심층 학습)의 ‘딥(Deep)’과 가짜라는 의미의 ‘페이크(Fake)’를 합친 신조어이다.
(2) 기술동향
딥페이크는 AI기술 중 하나인 ‘생성적 적대 신경망(Generative Adversarial Networks)’ 기술을 이용하며, 이 기술은 이미지의 진위 여부를 판단하는 ‘감별자’ 알고리즘과 이미지를 만들어 내는 ‘생성자’ 역할을 하는 알고리즘으로 구성되며, 두 알고리즘이 서로 대립하는 과정을 통해 원본과의 오차를 줄여, 진위를 판단하기 어려운 콘텐츠를 생성한다.
기존의 딥페이크 기술은 여러 장의 사진과 음성 데이터를 딥러닝 알고리즘으로 학습해 동영상을 만들어내기에 대상 인물의 사진이 대량으로 필요했다. 그러나 최근에는 단 1장의 얼굴 이미지 사진을 ‘말하는 얼굴 동영상(talking head videos)’으로 손쉽게 변환할 수 있는 새로운 기술까지 등장하였다.
이처럼 딥페이크 기술이 급격히 발전하면서 딥페이크를 통한 허위조작 영상의 위험성도 그만큼 커지고 있다.
딥페이크는 진위 여부를 가려내기 어렵기 에 피해를 막기 위한 가장 최선의 대응은 또 다른 AI기반 딥페이크 식별기술의 발전이다. 즉 딥페이크를 만드는 과정에 이미지에 남긴 디지털아티팩트(Artifact), 운영체제나 앱을 사용하면 서 생성되는 흔적을 통해 식별하는 방법, 그리고 소셜미디어와 인터넷 상의 사진들이 딥페이크에 이용되지 못하도록 하는 기술들이 대표적이다. 미국, EU 등 외국에서는 이와 같은 딥페이크 식별기술이 다양하게 발전하고 있다.
진위 여부를 가려내기 어려운 딥페이크의 피해를 막기 위해 어떻게 딥페이크를 식별하지 어떻게 진위 여부를 판별하기 힘든 딥페이크의 피해를 차단하기 위해 딥페이크를 식별할까