AI, 이젠 포르노 감독까지 넘보다

최근 미국 인터넷 커뮤니티 레딧에 한 포르노 영상이 올라왔다. 출연 배우의 얼굴은 영화 ‘원더우먼’의 히어로 갤 가돗과 완전히 똑같았다. 정말 그가 포르노에 출연한 것일까.

그렇지 않다. 해당 영상은 가짜다. AI(인공지능)가 기존의 포르노에 갤 가돗 얼굴을 합성한 것이다. 영상 속 갤 가돗의 얼굴은 몸과 자연스럽게 이어지지 않는다. 표정도 어색하다. 

그럼에도 미국 IT매체 마더보드는 12월12일(현지시각) “소름 돋는다(Terrifying)”고 묘사했다. 이 매체는 “자세히 보면 속지 않겠지만, 슬쩍 보면 그럴 듯하게 느껴진다”고 했다. 영상을 만들어 올린 사람은 ‘딥페이크(deepfakes)’란 아이디의 레딧 이용자다.

‘원더우먼’ 나온 가짜 포르노… “소름 돋는다”

딥페이크는 마더보드에 “나는 전문 연구가가 아니라 그저 기계 학습에 관심 있는 프로그래머에 불과하다”고 말했다. 그는 영상을 만들기 위해 먼저 인터넷에서 갤 가돗이 나온 사진과 비디오를 모았다고 했다. 이렇게 모은 자료를 구글의 머신 러닝 소프트웨어인 ‘텐서플로(TensorFlow)’에 입력시켰다.

텐서플로는 스스로 데이터를 분석하고 그 속의 패턴을 예측할 수 있다고 한다. 구글이 누구나 쓸 수 있도록 공개한 상태다. 텐서플로는 갤 가돗 얼굴의 일정한 패턴을 찾아냈고, 이를 포르노 영상에 적용했다. 가짜 포르노는 그렇게 탄생했다.

마더보드는 “아마추어 프로그래머가 자신이 싫어하는 사람의 성관계 영상을 만드는 걸 어렵지 않게 생각해볼 수 있다”고 했다. 자료는 충분하다. 구글 포토서비스엔 지난 한 해 동안 약 240억 장의 셀카 사진이 올라왔다. 영상과 움직이는 이미지 등은 16억 개에 달한다. 실제 딥페이크는 갤 가돗 외에도 스칼렛 요한슨, 테일러 스위프트 등 할리우드 배우들의 사진으로 포르노를 만들었다고 했다. 

사진 있으면 누구나 제작 가능… “리벤지 포르노 늘어날 것”

이미 걱정하는 목소리가 나온다. 런던대학교 컴퓨터공학과 케이트 데블린 부교수는 12월12일 미국 IT매체 더 버지에 “가짜 뉴스와 리벤지 포르노(보복을 목적으로 유포한 음란물)가 늘어날 것”이라고 내다봤다.

법적 논란도 예상할 수 있다. 공학박사 출신의 최규호 변호사는 “국내에선 배우의 얼굴을 포르노에 합성했다면 초상권 침해에 해당된다”면서 “배우의 사진은 저작권이 있는 경우가 많아 무단으로 사용하면 형사처벌도 가능하다”고 말했다. 또 “명예훼손이 성립될 소지도 있다”고 덧붙였다.

음성까지 따라하는 AI… “기술 막는 건 불가능”

이번에 만들어진 갤 가돗의 가짜 포르노는 그녀의 음성까지는 따라하지 못했다. 하지만 AI는 이마저도 가능하게 할 것으로 예상된다. 10월16일 국내 게임제작사 데브시스터즈의 김태훈 개발자는 머신 러닝 기술을 통해 만든 음성 합성 엔진을 공개한 바 있다. 당시 엔진은 문재인 대통령과 손석희 앵커 등 사람의 목소리를 거의 비슷하게 흉내 냈다. 

만약 음성 합성 엔진으로 갤 가돗의 목소리를 복사해 포르노에 적용했다면? 진짜 같은 가짜가 나올 수 있을 거란 짐작을 쉽게 할 수 있다. 김태훈 개발자는 “기술의 발전에는 자연스럽게 부작용이 따른다”면서 “이는 사회 모두가 함께 풀어나가야 할 문제”라고 했다. 가짜 포르노의 제작자 딥페이크는 “모든 기술은 나쁜 동기로 쓰일 수 있고, 이를 막는 건 불가능하다”고 주장했다. 고민해야 할 지점이다.​