ㆍ최근 영국서 최고경영자 음성 합성해 금융사기… AI 이용한 핵무기 발사 명령 우려도 미국 프린스턴대의 '과학과 국제안보 연구소'는 지난 9월 9일(현지시간) 유튜브에 핵전쟁 시뮬레이션 결과를 공개했다. 러시아가 칼리닌그라드 인근 기지에서 처음 쏘아올린 핵무기 하나가 지구적인 핵전쟁으로 이어져 5시간도 채 지나지 않아 사망자 3410만명을 비롯해 9130만명의 인명피해를 가져올 것이라는 내용이다. 영상에서는 누가 최초에 핵무기 발사를 명령했는지 나오지 않는다. 여기서 상상력을 가미해보자. '만약 누군가가 핵보유국의 최고 군 통수권자를 가장해 핵무기 발사를 명령했다면….' 인공지능 사기 '안보위협' 가능성 문제는 인공지능(AI)을 이용해 영상과 음성을 실제에 가깝게 합성할 수 있게 되면서 이런 시나리오의 가능성을 완전히 배제하기 어렵게 됐다는 점이다. 평소 좌충우돌하면서 호전적인 성향을 보여온 지도자를 사칭해 핵무기 발사를 명령하면 그 지시를 의심하지 않을 수도 있다. 인공지능 기술을 이용한 사기가 국제적인 안보위기를 불러올 수 있다는 얘기다. 보안업체 큐브피아의 권석철 대표는 "드론을 이용한 사우디 유전 공격에서 볼 수 있듯이 전문가들이 예측한 우려가 영화 속에서만이 아니라 현실에서 이미 일어나고 있다"며 "기술의 좋은 점만 부각되지만 위험한 측면을 인식하고 대응책을 마련할 때가 됐다"고 말했다. 특히 '딥페이크'를 활용한 사기가 가장 큰 위험요인으로 거론된다. 기계학습 기법의 하나인 '딥러닝'에 가짜라는 뜻을 합한 딥페이크는 원본 이미지나 영상 위에 다른 이미지를 더해 가공의 이미지나 동영상을 만들어내는 기술이다. 이미 정치인 가짜영상이 심심찮게 나오고 있다. 일례로 지난해 5월 벨기에의 '다른사회당'은 트럼프 미국 대통령이 벨기에의 기후변화협약 탈퇴를 촉구하는 내용의 영상을 트위터 등에 올렸다. 트럼프의 발언에 분노한 사람들이 벨기에 정부에 더 적극적인 기후변화 정책을 촉구하리라는 기대에서 만든 가짜영상이었다. 유명인들은 공개석상에 노출될 기회가 많아 이들의 얼굴 이미지와 음성 자료를 얻기 쉽다. 특히 영상은 길이가 짧아도 수백·수천 장의 이미지를 담고 있어 기계학습을 시킬 데이터가 충분하다. 초기 유명 연예인의 얼굴을 합성한 딥페이크 포르노물이 범람한 것도 이런 이유에서다. 지금은 각국에서 딥페이크를 안보 차원에서 주목하고 있다. 미국 국방성 방위고등연구계획국(DARPA)은 지난해 하반기부터 '미디어 포렌식' 프로그램으로 사진과 동영상의 조작 여부를 자동으로 탐지하는 기술 개발을 지원하고 있다. 유럽연합(EU)은 2016년부터 비슷한 목적으로 '인비드 프로젝트'를 진행했다. 지난 4월 언론재단이 발간한 '딥페이크와 사실의 위기' 보고서의 공동 저자인 최순욱 너비의깊이 대표는 "미국 국방성은 딥페이크를 중요한 안보 위협 기술로 간주하고 여기에 대한 연구비를 지원하고 있지만 아직은 방어기술이 공격기술을 뒤쫓는 형국이다"라고 설명했다. 인공지능을 이용한 딥페이크가 실제 사기에 이용된 사례도 보고됐다. <월스트리트저널>의 최근 보도에 따르면 지난 3월 영국에서 일단의 범죄자들이 인공지능 소프트웨어를 이용해 한 에너지 회사의 최고경영자 목소리를 합성한 후 직원에게 전화를 걸어 22만 유로(약 3억원)의 자금을 이체한 사건이 있었다.
최근 인공지능을 이용한 영상과 음성을 합성하는 각종 사기가 늘고 있으며, 특히 '딥페이크'를 활용한 사기가 가장 큰 위험 요소로 제기된 가운데, 실제 사기에도 이용된 보고가 있어 우려가 되고 있다.