[가짜의 범죄]딥페이크 기술과 범죄

출처 : 영화 '기사 월리엄'에 조커의 얼굴을 합성한 딥페이크 [영상 유튜브 채널 "Ctrl Shift Face']

 

 

"내가 영화 속 주인공이 된다면?"

 

 

  영화를 보며 우리는 영화 속 주인공이 되보는 것을 상상하곤 하죠. 마치 히어로들처럼 초인적인 능력을 펼치거나 멜로 속 주인공처럼 그동안 꿈꿔왔던 사랑을 상상해보는 겁니다. 하지만 그것들이 나의 상상 속에서가 아닌, 다른 사람들의 상상 속에서 만들어지고 있다면 과연 어떨까요?

  지난 2019년 11월 25~26일, 부산에서 '한·아세안 스타트업 엑스포 컴업'이 개최되었습니다. 그리고 이때 중소벤처기업부의 박영선 장관의 인사말이 영상으로 공개되었는데, 곧 모두는 충격을 받게 되었습니다. 너무도 자연스럽고 실제와 유사하여 의심할 수 없었던 바로 그 영상은 딥페이크 기술로 구현된 가짜였기 때문입니다.

  이미 2019년 8월 중국에서도 한 업체가 '자오(ZAO)'라는 앱을 출시되며 인기를 끌었습니다. 해당 앱은 영상 속 데이터를 분석하여 출연자 얼굴을 다른 사람의 얼굴로 변환할 수 있는 딥페이크 앱이었습니다. 영화와 드라마 속 유명인의 얼굴에 자신을 합성할 수 있다는 재미에 '자오' 앱은 출시 이틀만에 애플 앱 스토어 무료 엔터테인먼트 앱 순위 1위를 차지하기도 했습니다. 하지만 동시에 사생활 보호 차원에서 거센 반발을 불러일으키게 되었죠.

 

 

 

 

 

 

1. 딥페이크 무엇인가?

 

  방대한 데이터를 스스로 학습하고 진화하여 정확한 결정을 내리도록 돕는 머신러닝(기계학습)이 개발자에 의해 한층 고도화 되면서 심화단계인 딥러닝으로 발전했는데요. 이러한 기술을 활용하여 딥러닝과 가짜를 의미한 'Fake'가 합성하여 만들어진 것이 딥페이크입니다.

  딥페이크는 합성 대상의 얼굴표정, 습관뿐 아니라 음성까지 AI(인공지능) 스스로 학습하기 때문에 실제와 다름없는 인물을 만들 수 있는데요. 컴퓨터그래픽(CG)까지 적용하면 입모양, 표정, 습과 행동 등 세세한 부분까지도 자연스럽게 표현하기 때문에 진짜인지? 가짜인지 더욱 구분하기 어려울 정도입니다.

 

 

 

 

2. 딥페이크의 공포

 

  문제는 이러한 혁신적인 기술이 오히려 범죄에 적용된다는 사실입니다. 요즘 전국민에게 엄청난 충격을 불러일으키고 있는 텔레그램 'n번방'과 같이 문제시 되는 '지인능욕방'이 바로 그 예이죠. 이처럼 이미 세계 곳곳에선 딥페이크 기술을 활용한 범죄로 골머리를 앓고 있습니다.

  영국에서는 범죄자들이 딥페이크 기술을 확용하여 한 회사의 최고 경영자 목소리를 합성, 직원에게 약 3억원의 자금을 이체하게 한 사건이 있었습니다. 그때 당시 직원의 증언으로는 합성된 목소리가 억양과 습관까지 매우 유사해서 쉽게 알아차릴 수 없었다고 합니다. 또한 가장 유명한 사건으로 실제 2018년 오바마 미국 전 대통령이 트럼프 대통령을 비난한 영상이 퍼지면서 큰 이슈가 되었는데, 이후 딥페이크 기술이 사용되었다는 것이 밝혀졌습니다.

 

  네덜란드의 사이버 보안 연구 회사 '딥트레이스'가 지난 2019년 9월 발표한 딥페이크 연구 보고서에 따르면 딥페이크 영상 중 96%는 포르노로 소비되고 있다고 합니다. 그리고 이중에는 합성 포르노 피해자 중 46%는 미국·영국 여배우였고, 25%는 한국 여성 연예인들이었다고 합니다. 아마도 국내뿐 아니라 해외에서도 케이팝 한류문화로 열풍을 일으키며 그 피해가 커진듯 보입니다.

 

 

 

 

 

3. 대안, 대책 그리고 처벌

 

  2018년 3우러 한국여성변호사회가 발표한 '디지털 성범죄의 처벌 및 피해자 지원 방안 연구'을 보면 딥페이크 기술이 활용된 포르노와 같은 '촬영물 합성 편집'을 처벌할 법조항이 없다는 점을 대표적인 문제점으로 지적했었는데요. 현행법은 딥페이크 영상이 만드는 행위 자체를 처벌할 수 없기 때문에 앞으로 딥페이크 기술을 활용한 범죄를 직접적으로 다루는 법이 필요하다고 말했습니다.

 

  그리고 현재 딥페이크 처벌에 대한 법적 근거를 마련하기 위한 움직임이 계속되고 있는데요. 지난 5일에는 특정 인물의 얼굴·신체를 인공지능 기술을 이용해 합성한 딥페이크 제작·유통을 처벌하는 '성폭력범죄처벌 특례법 개정안'이 국회를 통과되었습니다.

 

  물론 현재의 기술 발전 속도를 얼마큼 따라갈 수 있을지는 모르겠습니다. 한국과학기술정보통신부는 합성 포르노 피해를 줄이기 위해 지난해 약 20억원의 예산을 들여 불법으로 재작된 음란 동영상을 인공지능을 통해 걸러내는 기술개발에 났는데요. 여전히 어려운 점이 많다고 합니다.

 

 

여러분은 범죄 속 주인공이 되고 싶은가요?

 

  만약 자신도 모르게 포르노 영상물 속 주인공이 바로 당신이 된다면, 어떠하실까요?

  인터넷 강대국이라 뽑히는 대한민국의 많은 사람들이 그 기술을 올바른 길에 사용하며, 오히려 인터넷상의 보호자가 되길 바랄뿐입니다.