컴퓨테이셔널 선동의 감시는 더 이상 인간의 손으로 다룰 수 없는 문제가 됐다. 정치적 선동이 알고리즘 덕을 보고 있다. 그럴 듯한 음모론이 소셜미디어를 거치며 진실로 둔갑한다. 조작과 강제, 억압의 메커니즘을 따르지 않아도 된다. 선동의 주체는 바뀌지 않았지만 선동의 확산은 서서히 기계의 몫으로 넘어가고 있다. 이를 옥스퍼드의 한 연구팀은 컴퓨테이셔널 선동(Computational Propaganda), 혹은 자동화한 선동이라 부른다. 미국 플로리다 고교 총격사고가 발생한 며칠 뒤. 미국의 일부 음모론자들은 데이비드 호그라는 17세 청년이 재난전문 배우라는 검증되지 않은 루머를 퍼뜨리기 시작했다. 총기 규제론자들의 지원을 받았다는 확인되지 않은 정보까지 덧입혀 페이스북에 글을 남기고 유튜브에 영상도 올렸다. 이 콘텐츠는 얼마 되지 않아 유튜브의 인기 영상 공간인 '트렌딩' 코너에 배치됐다. 음모론이 사실로 둔갑하고 인기 콘텐츠로 돌변하는 순간이었다. 유튜브는 뒤늦게 이 영상을 삭제했지만 이미 수많은 사용자들이 돌려보고 공유하며 진실로 믿어버린 결과를 되돌려놓을 수는 없었다. 컴퓨테이셔널 선동의 대표 사례다. 컴퓨테이셔널 선동은 코드로 제작된 봇(bot)에 의해서도 추동되곤 한다. 지난 2월 초 유명 영화비평가 리처드 로퍼가 <시카고선타임스>로부터 일정 기간 동안 칼럼 집필권을 박탈당한 적이 있었다. 트위터 봇을 유료로 매입해 팔로어를 늘리고 자신의 영향력을 키워 왔다는 혐의를 받아서다. 봇을 동원해 팔로어를 늘리는 행위는 은밀하게 횡행하는 '영향력 조작법'이다. 이미 많은 수의 미국 내 유명인사들이 이런 방식으로 자신의 이름값을 키웠다. 기계 봇을 동원해 공유를 늘려가는 행위는 플랫폼 사업자의 이해관계와 맞아떨어지면서 감시영역에서 배제되기도 했다. 트위터가 이 사실을 알고도 쉬쉬했던 정황이 여러 차례 보도되기도 했다. 플랫폼 사업자의 이윤을 향한 욕망은 컴퓨테이셔널 선동을 부추기는 토대다. 유튜브의 알고리즘은 사용자들의 체류시간을, 페이스북과 트위터는 공유와 리트윗이라는 인터렉션을 확대하는 데 초점이 맞춰져 있다. 내용의 진위도 고려되지만 어디까지나 이윤이라는 욕망의 부속요소일 뿐이다. 공유와 리트윗이 높은 콘텐츠는 체류시간을 높여 광고주들의 입맛을 자극한다. 음모론에 휩쓸리는 경향성, 확증편향에 대한 의식적 의존성이라는 인간의 심리는 플랫폼의 알고리즘이 취약점을 드러내는 사각지대다. 내용의 진실성보다 체류시간을 중심으로 설계된 알고리즘 앞에 음모론을 향한 인간의 내밀한 관심은 이것들의 미끼가 된다. 여기에 봇의 자동화한 선동이 결합되면 진실은 어느새 자취를 감추고 만다. 더 위험한 건 컴퓨테이셔널 선동의 확장 고리에 저널리즘까지 힘을 보태는 경우다. 국내 언론처럼 정치인의 선동이나 검증되지 않은 발언을 무분별하게 인용 보도하는 관습이 더해지면 컴퓨테이셔널 선동은 그야말로 권위의 훈장까지 부여 받게 된다. 컴퓨테이셔널 선동의 감시는 더 이상 인간의 손으로 다룰 수 없는 문제가 됐다. 기계의 작동은 기계적 감시기법으로 해결할 수밖에 없다. 데이터 생성과정을 이해하지 못하고, 알고리즘의 작동 원리를 외면한 채로 감시체계를 구축하기란 어려워졌다.
정치적 선동이 알고리즘을 통해 활개치면서 선동 주체는 그대로 인 채 선동의 확산은 기계가 담당하고 있어 데이터 생성과정과 알고리즘의 작동 원리를 파악하지 못하면 감시체계 구축이 어려운 실정이다.