딥페이크 기술이란 무엇인가? 진실과 거짓의 경계선...

안녕하세요. 오늘은 사회적 문제로 대두되고 있는 딥 페이크(Deepfake) 기술이 무엇인지,

 

그리고 왜 문제시되는지에 대해서 한번 알아보는 시간을 갖도록 하겠습니다.

 

 

[딥 페이크(Deepfake) 기술이란?]

 

딥 페이크는 딥 러닝(Deep Learning)과 속임수(Fake)의 합성어입니다.

 

딥 러닝은 AI가 여러가지 빅 데이터를 통해 학습하는 걸 의미하는데요.

 

 

AI의 신기원, 딥 러닝 기술에 대해서

 

'딥 페이크'는 이 딥러닝 기능을 활용하여 AI(인공지능)가 여러 동영상을 통해 'A'라는

 

인물의 얼굴이나 부위를 학습하여 특정하게 만듭니다.

 

그리고 이 학습한 내용을 가지고 다른 영상의 B라는 인물과 결합하여 마치 A라는 인물이

 

B라는 인물의 행동을 한 것처럼 만든 '편집물 결과물'을 의미합니다.

 

 

딥페이크는 동영상을 프레임 단위로 합성한 것이기에 1 프레임 합성인 포토샵과는

 

차원이 다른 편집 영상물이 만들어지는 것이지요.

 

이게 정말 차원이 다른 기술인게 아마 포토샵으로 합성을 해보신 분들은 아실꺼에요.  포토샵 합성과 다르게 딥 페이크의 경우 연속된 프레임을 합성하여 정교하게 영상을 만들어내는데  이게 원래 사람이 수기로 할 수 없는 영역의 작업량이거든요. 사람이 영상을 편집하려면 엄청난 분량의  편집점과 편집본이 존재해야 하는데 사실상 불가능하죠. 정교하지도 못할 뿐더러요.

 

 

[딥페이크는 왜 문제가 되고 있는지?]

 

위에서 이야기 한 것처럼 워낙 정교하게 만들어진 영상물이기에 해당 영상물에 대한

 

진위여부를 전문가 수준이 아니고서는 판단하기 어렵습니다.

 

또한 현재 관련 기술이 아직 발전단계에 있어 자세히 보면 어색한 부분을 찾아낼 수는 있지만

 

지금의 기술 발전 속도를 보았을 땐 해당 부분 또한 단시간 내에 보완될 가능성이 있지요.

 

 

문제는 이런 거짓 영상물(Fake)이 여러 매체를 통해 다수의 인원들에게 아주 쉽게

 

유포됨으로써 사회적으로 피해자들이 속출하고 있는 것입니다.

 

실제 행하지도 않은 행위의 대상자가 되어 사회적으로 지탄을 받고 해당 영상에 대한

 

해명을 해야 하는 시기가 온 것이지요.

 

 

회사의 경우 문제는 더 커집니다. 작은 소문에도 주가의 영향을 받고 기업 전체의 매출이

 

좌지우지 되는 상황에서 딥페이크를 이용한 CEO 혹은 이사진들이 문제 있는 영상이

 

노출될 경우 해당 기업이 받게 될 타격은 어마어마 하거든요.

 

 

실제 미국의 경우 오바마 대통령을 합성하여 실제 하지도 않았던 연설에 등장시킨다던지

 

유명 연예인의 경우 포르노나 저급한 영상의 편집물이 만들어져 당사자들이 이미

 

곤욕을 치르고 있습니다.

 

 

위에서 이야기했듯이 아직 발전할 요소가 많은 기술이지만 지금 기술로도 체형과

 

비슷한 얼굴형 및 편집에 용이한 영상을 촬영하여 편집한다면 워낙 정교하기에 악의적으로

 

활용될 여지가 너무나 많습니다.

 

 

[딥 페이크 기술 자체가 문제라기 보단 사용하는 유저에 달린 문제]

 

모든 기술의 발전은 악용될 소지와 문제점을 갖고 있기에 과학 기술의 발전 자체를

 

막을 수는 없습니다. 처음 나왔던 포토샵 역시 이런 비슷한 문제를 갖추고 있었으니까요.

 

 

결국 해당 툴을 사용하는 유저의 활용 및 유포에 대한 부분을 법제화하는 수밖에 없습니다.

 

아직까진 대중이 해당 기술을 자유롭게 사용할 만한 시기가 아니기에 누구나

 

쉽게 접근할 수 있는 수준의 기술은 아니지만 분명 언젠가 PC를 사용할 수 있는 유저

 

모두가 사용할 만한 소프트웨어 및 하드웨어가 갖춰지는 건 시간문제이니까요.

 

 

현재 우리나라에선 '정보 통신망 이용 촉진 및 정보 보호에 관한 법률로 처벌'에 대한

 

가이드라인을 갖추고 있지만 이것만으로는 부족해 보입니다.

 

 

물론 저작권 및 초상권, 그리고 포르노를 활용하여 합성을 실시하였다면 

 

'성폭력범죄의 처벌 등에 관한 특례법'에 준하여 처벌이 가능하지만 문제는 제작자와

 

유포자를 찾는 것이 쉽지 않다는 것입니다.

 

 

그리고 이미 유포로 인하여 손해를 보았다면 그런 정신적인 피해에 대한 방어책이

 

부실한 건 사실이니까요.

 

 

일단 유저들 스스로 해당 기술에 대한 활용도에 대해서 고민해 볼 일이고 해당 기술을

 

잘못 사용하면 어떤 사회적인 문제와 책임을 져야 하는지에 대한 경각심을

 

주기 위한 장치가 필요해 보입니다.

 

 

[현재 대중에 노출되고 있는 딥페이크 프로그램]

 

현재 일반인이 사용가능한 딥페이크 프로그램은 크게 스마트폰 용 앱과 PC용으로

 

나뉘어져 있습니다. 앱의 경우 프로그램이 가볍기 때문에 정교함이 떨어지지만

 

PC용의 경우는 교육을 위해 사용해 볼 만 합니다.

 

 

당연히 상용화 된 유료 제품이 더 좋은 성능을 발휘하지만 무료 소프트웨어도 어느 정도

 

사용방법과 구조를 익히기 괜찮기 때문에 관련 소프트웨어를 소개해 드리겠습니다.

 

 

#1. DeepFaceLab

 

iperov/DeepFaceLab

 

연습삼아 사용하기 좋은 PC용 딥 페이크 프로그램입니다. 사이트가 온통 영어라 힘들 수도 있지만

 

사용을 위해선 그 정도는 해석할 수 있어야 사용가능합니다.

 

 

 

#2. Fake app 2.2

 

가장 유명한 딥 페이크 프로그램입니다. app라고 해서 스마트폰용 어플리케이션으로 오해할 수

 

있는데 PC용 프로그램입니다.

 

하단의 링크를 타고 들어가면 관련 프로그램을 다운 받을 수 있습니다. 

 

Download FakeApp latest version in English

 

 

#3. Zao(스마트폰 용 어플)

 

중국의 어플리케이션입니다. 다른 프로그램은 높은 하드웨어 사양 및 다양한 프로그램들을 설치해야

 

사용이 가능한데 이 어플은 아주 간단하게 사용이 가능합니다. 딥페이크가 뭔지 궁금한 분들이

 

가볍게 사용해보면 좋을 것 같습니다.

 

단, 중국 어플이기에 독소 조항 및 해킹에 유의하세요.^^