딥페이크(deepfake) 기술 이란?

최근 영화 ‘아이언맨’의 주인공역으로 배우 톰크루즈도 후보에 있었다는 사실이 공개되면서 영화속 일부 장면이 톰크루즈의 얼굴로 된 영상이 화제가 되었습니다. 바로 딥페이크(deepfake) 기술로 영상속 얼굴을 변형한 것인데요.

딥페이크(deepfake) 란, ‘딥러닝(deep learning)’과 ‘페이크(fake)’의 합성어로 딥러닝 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 말합니다. 일반적으로 ‘가짜’라는 부정적인 인식을 가지고 있지만, 딥러닝 기술의 하나입니다.

 

오늘은 딥페이크가 악용된 사례와 긍정적인 사례를 몇 가지 알아보겠습니다

 

 

딥페이크(deepfake)가 악용된 사례
각국 연예인이 등장하는 딥페이크 성인용 영상의 개수와 조회수 / 출처 : Deeptrace

SNS, 영상플랫폼, 가짜뉴스 등에서 딥페이크 기술을 악용한 사례가 늘어나고 있습니다. 특히 음란물 유포에 많이 활용되면서 사회문제로 만들었다는 것입니다. 지난해 한국 사회를 뜨거운 논란으로 몰고 간 n번방 사건에서도 딥페이크 피해 사례가 나왔습니다. 불법 포르노 영상에 케이팝 가수 여성 연예인 얼굴을 합성한 영상이 다수 유통된 것입니다.

 

이러한 ‘딥페이크(deepfake) 부정사례’에 대한 딥브레인AI의 사회적 책임!
딥페이크 탐지 서비스 무료 오픈 (www.detectdeepfake.ai)

 

딥페이크 기술이 발전하다보니 각종 위·변조 영상이 사회문제로 커져가고 있으나 위·변조 여부를 확인할 수 있는 객관적인 분석 도구가 없었습니다.
딥브레인AI는 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바라며, 디텍트 딥페이크 AI(Detectdeepfake.ai)를 출시했습니다.

 

 

 

디텍트 딥페이크 AI는 위·변조가 의심이 되는 영상을 딥러닝 AI 분석 학습을 통해 영상의 진위여부를 검증하는 서비스입니다. 신경망 기반의 변조 알고리즘을 통해 생성된 변조 영상(딥페이크)을 탐지·검출하는 AI 기술 개발을 위해 다양한 탐지 방해의 가능성을 고려하여 학습용 변조영상 데이터를 구축하고 공개도 했습니다.

본 개발은 ’2020년 AI 학습용 데이터 구축사업 지원을 받아 개발하였음. (참여기관 : 서울대학교, 크라우드웍스)

 

 

 

딥페이크(deepfake)는 긍정적인 사례도 많습니다.

 

딥브레인AI의 사례를 살펴보면,

21년 KBS 1TV 다큐멘터리는 8.15 광복절을 기념해 특별 제작된 ‘옥바라지, 그녀들의 독립운동’에서 사진으로만 남겨진 독립운동가의 모습에 자연스러운 얼굴표정과 움직임을 구현하기 위해 ‘퍼펫 마스터’(Puppet Master) 기술을 지원했습니다. 독립운동을 한 역사적인 인물을 살아 숨쉬게 해서 후손들, 지금 우리 세대들에게 역사의 의미를 돼새겨볼 수 있는 기회를 제공하고 긍정적인 영향을 전하고자 했습니다.

딥브레인AI의 AI 영상 합성 기술로 재구현된 독립운동가 김태규의 합성 전후 모습

 

 

딥브레인AI는 최근 축구 선수 ‘크리스티아누 호날두’를 딥페이크 기술로 구현한 광고 제작에 참여를 했습니다.딥페이크 기술은 실제 사람과 구분이 어려울 정도의 사실감이 있기 때문에 광고, 영화 등의 엔터테이먼트 분야에서도 활용도가 점점 높아지고 있습니다.

딥브레인AI의 기술로 구현된 CF속 크리스티아누 호날두의 전후 모습

 

다른 사례로는 사진 하나로 다양한 표정 및 움직임을 바꾸는 모바일용 어플리케이션(APP)입니다.

 

또 다른 장점으로는 범죄자 색출, 테러범 차단 등의 신원확인 기술로 사용이 가능하고, CT, MRI의 자료 분석을 통해 암의 징후 등을 미리 찾아서 예방할 수 있으며 다시는 보지 못하는 사람들의 생전 모습을 담아 재현하는 것도 가능합니다.

 

위 몇 가지 사례로 알아본 것처럼 딥페이크 기술은 부정적인 것만이 아니라 활용도에 따라서 긍정적인 면이 많은 기술입니다.

 

p.s 현재 딥페이크 범죄와 관련해서 대상자의 의사에 반해 사람의 얼굴, 신체나 음성을 편집, 합성, 가공하여 촬영, 영상물 등을 제작하거나 유포하면 5년 이하의 징역 또는 5,000만 원 이하의 벌금형에 해당함으로, 딥페이크 기술 사용에 경각심을 가지고 올바르게 활용하도록 노력해야겠습니다.