지인능욕 : 범죄의 기술! 딥페이크(deepfake)는 무엇인가

최근 온라인상에서 '지인능욕'이라는 방식의 범죄가 있습니다. 

지인능욕은 말그대로 주변 지인의 얼굴사진을 알몸이 노출된 사진에 포토샵등의 사진 편집프로그램을 이용하여 정교하게 합성하고 주변 지인들이나 온라인상의 불특정 다수에게 유포하여 수치심과 성적 피해를 주는 악질범죄입니다. 

연예인을 대상으로 허황된 꿈을 꾸는 일그러진 팬심으로 노출 합성사진을 만들어 피해주던 것들이 이제는 일반인에게까지 퍼져 많은 피해를 주고 있습니다.

 

딥페이크로 더 정교한 가짜 영상을 만들어서 인터넷에 유포하는 악질 범죄가 있습니다.  

유명 헐리웃 여배우의 얼굴을 포르노비디오의 여배우 얼굴에 입혀서 가짜포르노 비디오를 만들고 유포하여 피해를 주는 사례도 있죠.

기술발전의 어두운 면을 보여주는 딥페이크에대해서 알아보겠습니다. 

 

 

 

'딥 페이크'란 무엇이며 어떤 식으로 악용하는가!

 

카메라 앱이 점점 정교해지고 있습니다. 사용자는 다리를 늘리고, 여드름을 제거하고, 동물 귀를 추가할 수 있으며, 일부는 매우 사실적인 허위 비디오를 만들 수도 있습니다. 이러한 디지털 컨텐츠를 만드는 데 사용된 기술은 대중에게 빠르게 접근할 수 있게 되었으며 존 빌라세너 (John Villasenor)는 이러한 비디오가 점점 정교해지고 접근성이 높아지고 있다고 말했습니다. 

로스앤젤레스 캘리포니아 대학의 전기공학 교수인 존 빌라세너 (John Villasenor)는 컴퓨터를 가지고 있고 인터넷에 접속할 수 있는 사람이라면 누구나 기술적으로 “심각한” 비디오를 제작할 수 있다고 말했습니다. 

“이 기술은 가짜로 실제처럼 만들어 사람들이 믿게 하는 데 사용될 수 있다.”라고 뉴 아메리카의 사이버 보안 및 국방 전략가이자 선임 연구원 인 피터 싱어(Peter Singer)는 말했습니다.

 

 

딥 페이크 란 무엇입니까?

딥 페이크는 정교한 인공 지능으로 제작된 디지털 표현을 말하며 실제처럼 보이는 이미지와 사운드를 만들어냅니다. 

딥 페이크 (deepfake)라는 단어는 “딥 러닝”과 “가짜”라는 용어를 결합한 것으로 인공 지능의 한 형태입니다.

뉴욕 대학의 법학 부교수 인 폴 바렛 (Paul Barrett)은 간단한 용어로 딥 페이크는 딥 러닝을 통해 만들어진 위조된 비디오라고 말했습니다.

딥 러닝은 "AI의 하위 집합"이며 스스로 지능적으로 결정하고 학습할 수 있는 알고리즘 배열을 나타냅니다.

 

딥 페이크는 일련의 도전적인 정책, 기술 및 법적 문제를 만들어내고 있습니다.

딥 페이크의 위험에 대해 경고 한 사람은 피터 싱어(Peter Singer)만이 아닙니다.

빌라세너는 “실제로 발생하지 않은 일을 말하거나 행동하게 함으로써 정치 후보의 명성을 훼손하는 데 사용될 수 있다”

“딥페이크 기술은 잘못된 정보를 제공하여 대중들을 선동하고 혼란을 주어 정치와 경제 등 많은 부분에서 

영향력 있는 사람들의 신뢰와 전문성을  추락시기키위한 강력하고 새로운 도구입니다."라고 CNBC에 말했습니다.  

 

 

딥 페이크는 어떻게 작동합니까?

딥 러닝 시스템은 대상자의 사진과 비디오를 여러 각도에서 연구한 후 행동과 언어 패턴을 모방하여 진짜같은 가짜를 만들 수 있습니다. 배럿은 “한 번 딥 페이크가 만들어졌다면 GAN (Generative Adversarial Networks)으로 알려진 방법을 통해 더 진짜같이 만들 수 있다" 고 설명했습니다. "GAN 프로세스는 딥페이크로 만들어진 가짜 영상의 결함을 감지하여 개선하고 여러 번의 개선과정을 거쳐 딥 페이크 비디오를 완성시킨다"고 교수는 말했습니다.

 

MIT 기술 보고서에 따르면, 딥 페이크를 만들 수 있는 장치는 “주가에서 선거에 이르기까지 모든 것에 영향을 미치는 허위 뉴스 제공자들에게 완벽한 무기가 될 수 있다" 라고 하였고 MIT 테크놀로지 리뷰 (MIT Technology Review)의 샌프란시스코 지국 마틴 길레스 (Martin Giles)는 보고서에서 “AI 툴은 이미 포르노 스타의 몸에 다른 사람들의 얼굴 사진을 찍고 정치인의 입에 단어를 넣는 데 사용되고 있다”라고 말했습니다. 그는 가짜 영상을 개선하는 GAN이 이 문제를 만들지는 않았지만 악화시킬 것이라고 말했습니다.

 

 

조작된 비디오를 감지하는 방법?

브루킹스의 빌라세너는  AI를 사용하여 딥 페이크를 만들 수 있지만 이를 감지하는 데에도 사용할 수 있다고 밝혔습니다. 모든 컴퓨터 사용자가 이 기술에 액세스 할 수 있게 됨에 따라 점점 더 많은 연구원들이 심도 있는 검색에 집중하고 이를 통제하는 방법을 찾고 있습니다.

 

Facebook 및 Microsoft와 같은 대기업은 딥 페이크 비디오를 감지하고 제거하기 위한 조치를 취했습니다. 로이터 통신에 따르면, 두 회사는 올해 초 미국 최고의 대학들과 협력하여 연구용 가짜 비디오 데이터베이스를 만들 것이라고 발표했다.

 

뉴 아메리카의 싱어 부사장은 “현재, 가까이서 보면 귀나 눈의 얼굴이 흐릿한 경계선에 맞지 않거나 피부가 너무 매끄럽거나 조명과 그림자에 맞지 않는 등 아직은 시각적으로 어색한 측면이 있습니다.” 그러나 그는 "딥 페이크 기술이 발전하고 비디오가 더욱 사실적으로 보임에 따라 거짓 정보를 말하는 가짜 영상을 감지하는 것이 점점 어려워지고 있다"고 말했습니다.

기술이 계속 발전하고 있음에도 빌라세너는 탐지 기술이 "딥페이크 영상 제작 방법의 발전보다 뒤떨어져있다"라고 경고했습니다.