딥페이크란 무엇인가요?

딥페이크 동영상을 제작하는 목적

딥페이크 활용 사례는 다양하며, 할리우드 배우를 어리게 보이게 만드는 단순한 목적에서부터 상대 정치인을 공격하고 선동하기 위한 목적 등 다양한 이유로 딥페이크 동영상이 제작되고 있습니다.

딥페이크 기술로 제작된 동영상은 진위 여부를 판단하기 힘들며, 정치인이나 연예인이 실제로 하지 않은 말이나 행동이 딥페이크 동영상으로 제작되어 오해가 발생하는 경우도 많습니다. 딥페이크 프로그램은 사용법이 크게 어렵지 않으며 이제 영화 업계에서도 종종 활용될 정도로 대중화된 기술입니다. 하지만 이렇게 딥페이크 동영상을 제작하기 쉽다는 점 때문에 악의적인 목적으로 딥페이크 동영상을 제작하는 사람도 많습니다.

또한 최근에는 인공 지능 시스템의 발달로 특정 인물의 목소리까지 모방할 수 있게 되면서 동영상의 얼굴뿐만 아니라 목소리도 진위 여부를 판단하기 힘들어졌습니다. 어떠한 동영상도 믿기 힘든 시대가 된 것입니다.

딥페이크 동영상 제작 방식

딥페이크 동영상은 인공 지능 시스템에서 딥러닝(심층 기계 학습)을 통해 기존의 사진이나 동영상을 재창조하는 방식으로 제작됩니다. 이때 일부 딥러닝 시스템에서는 생성적 대립 신경망을 사용해 인공 지능 네트워크를 두 부분으로 나누어 동영상 품질을 개선할 수 있도록 서로 경쟁시키기도 합니다.

생성적 대립 신경망에서는 기계 학습 모델 하나는 샘플 동영상을 이용해 가짜 동영상을 생성하고, 다른 기계 학습 모델은 생성된 가짜 동영상의 진위 여부를 파악합니다. 이러한 방법을 이용하면 인공 지능도 진위 여부를 판단하기 힘든 딥페이크 동영상이 탄생하게 됩니다.

딥페이크 동영상은 보통 배우의 동영상을 활용해 제작됩니다. 먼저 배우의 동영상에서 얼굴 표정과 움직임 등을 포착한 후, 수많은 사람의 이미지를 학습한 인공 지능을 이용해 동영상의 얼굴을 원하는 사람의 얼굴로 교체하는 방식이 일반적입니다.

딥페이크 인공 지능의 성능이 완벽한 것은 아니지만, 이미 개발이 크게 진전되어 인간이 개입하지 않고도 동영상을 스스로 제작하는 수준까지 도달하게 되었습니다.

누구나 제작할 수 있는 딥페이크 동영상

딥페이크 동영상은 누구나 쉽게 제작할 수 있으며, 웜보와 페이스앱과 같은 무료 앱으로도 제작이 가능합니다. 무료 앱의 성능은 뛰어나지 않기에 동영상의 진위 여부를 판명하기는 어렵지 않습니다.

하지만 시각 효과 아티스트가 동영상을 제작하게 되면 이야기는 달라집니다. 그래픽 전문가가 동영상을 제작하는 경우에는 "터미네이터: 다크 페이트"의 아놀드 슈워제네거처럼 실제 인물을 어려보이게 만들거나 "로그 원: 스타워즈 스토리"의 피터 쿠싱처럼 이미 사망한 배우도 살아있는 것처럼 동영상을 제작할 수 있기 때문입니다.

사실 엄밀히 말하면 위의 예시는 딥페이크가 아니라 시각 효과 아티스트의 세심한 디지털 작업으로 탄생한 결과입니다. 그러나 딥페이크 소프트웨어 덕분에 아마추어 시각 효과 아티스트도 영화의 한 장면을 전문가 못지 않게 수정할 수 있게 되었습니다.

이렇게 딥페이크 제작이 쉬워짐에 따라 현재 유튜브에서는 도널드 트럼프, 버락 오바마, 톰 크루즈 등 유명인을 이용한 딥페이크 동영상을 많이 확인할 수 있습니다. 그렇다면 이러한 딥페이크 동영상에 법적 문제는 없는 것일까요?

딥페이크 동영상의 불법 여부

현재 딥페이크 동영상은 명예훼손, 가짜 뉴스, 악성 음란물에 활용된다는 비난을 받고 있습니다. 하지만 딥페이크 동영상 자체가 불법은 아닙니다.

딥페이크 동영상은 목적에 따라 합법과 불법으로 구분될 수 있습니다. 예를 들어 영화에서 사용할 목적으로 딥페이크 동영상을 이용한다면 합법이지만, 사기나 협박 등 범죄에 이용하는 경우에는 불법이 될 수 있습니다.

특히 현재 딥페이크 기술은 연예인이나 유명인을 음란물에 합성하는 일에 사용될 때가 많으며, 딥페이크 기술을 이용해 자동으로 특정 인물의 음란물을 생성하는 딥페이크 사이트도 존재하기에 논란이 되고 있습니다. 또한 딥페이크 동영상이 발전함에 따라 정부의 선동에 활용될 수 있다는 두려움도 퍼지고 있는 상황입니다.

딥페이크 동영상 파악 방법

딥페이크 동영상을 파악하기란 쉽지 않을 수 있습니다. 일부 동영상은 표정이 어색하기에 쉽게 진위를 파악할 수 있지만, 일부 동영상은 실제 동영상과 거의 구분할 수 없기 때문입니다. 시청하는 동영상이 딥페이크 동영상인지 판단하는 데 도움이 되는 팁은 다음과 같습니다.

선명도가 떨어지거나 흐릿한 동영상

동영상의 선명도가 떨어지거나 인물의 모습이 흐릿하다면 딥페이크 동영상일 가능성이 있습니다. 또한 인물이 움직일 때 잔상이 자주 발생한다면 딥페이크 동영상인지 의심해 보는 것이 좋습니다.

부자연스러운 모습

동영상에 정치인 등 유명인이 등장한다면 다른 사진과 동영상의 모습을 비교해 봐야 합니다. 보통 딥페이크 동영상의 경우 얼굴은 자연스럽지만 손, 머리카락, 체형 등은 부자연스러울 때가 많기 때문입니다.

어색한 움직임

많은 딥페이크 동영상에서는 인물이 거의 움직이지 않을 때가 많습니다. 움직임이 적을수록 자연스러운 딥페이크 동영상을 만들기가 수월하기 때문입니다. 따라서 얼굴이나 몸이 거의 움직이지 않는다면 실제 동영상이 아닌 딥러닝 인공 지능으로 제작된 딥페이크 영상일 가능성이 있습니다.

부자연스러운 목소리

딥페이크 기술은 빠른 속도로 발전하고 있습니다. 하지만 현재 시점에서 동영상과 오디오의 싱크를 정확히 맞추기는 힘든 상황입니다. 따라서 목소리가 실제 인물과 다르거나 부자연스럽다면 딥페이크 동영상일 가능성이 높으며, 동영상에 소리가 없는 경우에도 딥페이크 동영상인지 의심해 보는 것이 좋습니다.

딥페이크 기술의 위험성

딥페이크 기술은 개인과 사회에 다양한 피해를 입힐 수 있습니다. 특히 딥페이크 동영상으로 리벤지 포르노를 제작해 온라인에 공유하는 경우에는 피해자에게 큰 피해가 발생할 수 있으며, 이 때문에 많은 국가에서는 딥페이크 기술을 이용한 범죄에 대한 법률을 제정하고 있습니다. 대표적인 딥페이크 악용 사례는 다음과 같습니다.

가짜 뉴스 및 선동

딥페이크 동영상은 상대 정치인이나 정부를 공격하기 위한 선동에 악용될 가능성이 있습니다. 예를 들어 2022년 러시아가 우크라이나를 침공한 직후에는 우크라이나 대통령이 항복하는 딥페이크 동영상이 인터넷에 공유되기도 했습니다.

이러한 동영상은 나중에 가짜로 판명되었지만, 진위 여부가 판명되기까지 많은 오해와 논란이 발생할 수밖에 없었습니다. 또한 딥페이크 동영상은 상대 정치인을 공격하고 유권자를 선동하는 데 악용되기도 합니다. 이렇게 딥페이크 동영상이 범람하는 상황에서는 조작된 정보와 가짜 뉴스로 인해 미디어 전체의 신뢰도가 추락하게 될 위험이 있습니다.

사기 및 협박

딥페이크 기술은 사기와 협박 범죄에도 악용될 수 있습니다. 특히 페이스북에서 친구나 가족이 금전을 요구하는 경우에는 딥페이크 기술로 생성된 가짜 프로필이 아닌지 의심해야 합니다. 또한 직접 친구나 가족에게 전화하거나 문자 메시지를 보내 금전을 요구한 사실이 있는지 확인해야 합니다.

최근에는 기술이 발전함에 따라 딥페이크 동영상을 이용한 사기 수법도 증가하고 있습니다. 예를 들어 공항에서 출국이 불가능하다고 설명하는 딥페이크 동영상을 전송해 금전을 요구하는 방식이 있습니다. 대부분의 사람들은 동영상의 진위 여부를 판단할 수 없기 때문에 바로 금전을 송금하는 경우가 많습니다.

또한 딥페이크 기술로 특정 인물을 음란물과 합성하고, 금전을 지불하지 않으면 지인에게 합성된 음란물을 전송하겠다고 협박하는 딥페이크 공격도 점점 증가하고 있습니다. 딥페이크 동영상은 진위 여부 파악이 힘들기 때문에 실제 동영상이 아니더라도 이를 해명하는 과정에서 많은 정신적 스트레스를 받는다는 문제가 있습니다. 특히 한국 딥페이크 동영상 관련 사건도 점점 늘어나는 추세이기에 주의가 필요합니다.

딥페이크 동영상의 미래와 예방법

딥페이크 기술이 발전함에 따라 동영상의 진위 여부를 파악하는 일은 점점 힘들어지게 될 것으로 예상됩니다. 컴퓨터와 시각 효과 소프트웨어를 다룰 수 있는 모든 사람이 진짜와 구별할 수 없는 딥페이크 동영상을 제작할 수 있게 되는 시점부터는 심각한 문제가 발생할 가능성이 높습니다.

현재로서는 딥페이크 기술의 발전을 막을 방법이 없으며 동영상의 진위 여부를 파악할 기술도 부족합니다. 또한 지금처럼 양극화된 정치 환경에서는 정치 선동을 위한 딥페이크 동영상이 범람하게 될 가능성이 높습니다. 딥페이크 기술의 위험성에 대해 인식하고 있는 사람들이 늘어나고 있기는 하지만 사람들은 딥페이크 동영상의 내용을 그대로 믿는 사람들도 많기에 딥페이크 동영상으로 인한 피해를 완전히 방지하기는 어렵습니다.

딥페이크 기술로 인한 피해를 막기 위해서는 온라인에 불필요한 이미지와 동영상을 공유하지 않는 것이 좋습니다. 자신에 대한 이미지와 동영상이 많을수록 딥페이크 동영상의 진위 여부를 파악하기 힘들어지기 때문입니다. 따라서 소셜 미디어 프로필은 비공개로 유지하고 얼굴이 나온 사진은 되도록이면 게시하지 말아야 하며, 사이버 보안 에 주의를 기울여야 합니다.

이때 VPN 과 바이러스 백신 등 보안 소프트웨어를 사용하면 개인 정보가 유출되어 딥페이크 범죄의 표적이 되는 일을 방지할 수 있습니다. 특히 NordVPN의 바이러스 및 위협 방지Pro 기능을 이용하면 악성 웹사이트와 멀웨어를 미리 차단할 수 있어 더욱 안전합니다.