딥페이크, 인간의 욕망을 반영한 콘텐츠의 확산 | 나라경제

이슈

딥페이크, 인간의 욕망을 반영한 콘텐츠의 확산

윤진호 조선일보 기자 2024년 11월호

이슈 윤진호.pdf

딥페이크의 대상은 인간의 얼굴뿐 아니라 암세포나 신체 기관 등으로까지 확대됐으며, 의료계에서는 딥페이크를 적용해 질병을 연구하고 이상 징후를 미리 알아내기도

딥페이크 규제가 가장 먼저 적용되고 있는 분야는 선거로, 한국은 지난해 12월 「공직선거법」을 개정하면서 선거일 90일 전부터 선거일까지 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지

AI 기술이 급격히 발전하며 정치적·사회적으로 가장 많이 언급되는 단어가 ‘딥페이크’다. 딥페이크는 ‘딥러닝(deep learning)’과 ‘페이크(fake)’의 합성어로, 말 그대로 AI 기술을 활용해 만들어진 가짜 이미지와 오디오, 비디오 등을 의미한다. 딥페이크라는 단어는 2017년 미국 최대 온라인 커뮤니티 레딧에서 ‘deepfakes(딥페이크)’란 닉네임을 쓴 사용자에 의해 만들어졌다. 이 단어는 당초 한 사람의 얼굴을 학습한 뒤 다른 영상에서 얼굴을 바꿔치기하는 기술을 의미하는 용어로 사용됐다.

그러나 이제 딥페이크의 대상은 인간의 얼굴뿐 아니라 암세포나 신체 기관 등으로까지 확대됐다. 의료계에서는 질병을 연구하고 이상 징후를 미리 알아내는 데 딥페이크를 사용한다. 실제로 2019년 7월 독일 뤼벡대 연구진들은 AI 알고리즘을 활용해 딥페이크 의료 영상을 개발했다. 원본 영상과 유사한 방대한 의료 영상과 사진을 활용해 질병을 학습시키고 질병, 특히 암의 징후 등을 탐지할 수 있도록 한 것이다.

성착취물, 전쟁 선동, 투자 사기, 선거 등에 악용···
일부 규제제도는 이미 마련돼

인류에게 도움이 되는 기술로 쓰이는 듯했던 딥페이크는 2022년 챗GPT의 등장으로 생성형 AI가 급속도로 발전하면서 분위기가 달라졌다. 일반인들도 손쉽게 다양한 시도를 해볼 수 있게 되면서 성착취물이나 가짜 뉴스 등 인간의 부정적인 욕망을 자극하는 콘텐츠들이 급속도로 확산하기 시작했다.

딥페이크의 부정적인 모습은 유튜브, 페이스북, 인스타그램 등 소셜미디어의 영향력이 막강해진 것과도 연관된다. 딥페이크의 유포 통로가 이 소셜미디어였기 때문이다. 실제로 올해 1월 세계적 팝스타 테일러 스위프트를 성적으로 대상화한 합성사진은 X(옛 트위터)에 게시된 지 19시간 만에 4,700만 회 이상 조회 수를 기록했다. 국내에서도 동문의 사진을 합성한 400여 개의 성착취 영상물을 텔레그램을 통해 유포한 ‘서울대 N번방’ 사건이 있다.

딥페이크는 투자 사기에도 쓰인다. 지난 6월 유튜브에 올라온 영상에선 테슬라의 CEO 일론 머스크가 “아래 QR코드로 가상자산을 보내주세요. 그러면 두 배를 자동으로 돌려주겠습니다.”라고 말했는데, 역시 가짜 영상이었다. 그뿐 아니라 지난해 5월엔 페이스북에 미국 국방부 청사인 펜타곤 인근에서 대형 폭발이 일어난 것처럼 보이는 가짜 사진이 유포되기도 했고, 전쟁 중인 우크라이나의 젤렌스키 대통령이 러시아에 항복을 선언하는 가짜 영상이 페이스북과 유튜브에 퍼지기도 했다. 딥페이크가 전쟁 선동에까지 악용되고 있는 것이다.

딥페이크의 유포 통로는 소셜미디어에 그치지 않는다. 홍콩의 한 금융사 직원은 딥페이크로 만들어진 가짜 화상회의에 속아 2억 홍콩달러(약 340억 원)에 달하는 거액을 송금하는 사기를 당하기도 했다. 영국에 있는 본사의 CFO로부터 돈을 송금하라는 이메일을 받고, CFO와 여러 동료가 참석한 화상회의에서도 같은 지시가 내려오자 돈을 보냈다.

한편 딥페이크의 여러 폐해 중 가장 먼저 제도개선으로 이어진 분야는 정치 분야, 특히 선거다. 전 세계인들이 주목하고 있는 올 11월의 미국 대선뿐만 아니라 지난 4월 국내에서도 총선을 앞두고 가짜 콘텐츠가 문제 됐기 때문이다. 실제 미국 뉴햄프셔주 예비경선을 앞두고 당원들에게 투표 불참을 독려하는 조 바이든 미국 대통령의 음성 전화나 인도 유명 배우의 특정 정당 지지 영상 등 조작된 콘텐츠가 유포됐다. 도널드 트럼프는 아예 자신의 X에 경쟁자인 카멀라 해리스가 공산당원 앞에서 연설하는 가짜 사진을 게시하기도 했다. 국내에서도 틱톡에 윤석열 대통령이 이재명 민주당 대표를 비난하는 가짜 영상이 유포되는 등 논란이 있었다.

이 때문에 한국을 비롯한 주요국들은 선거 분야부터 딥페이크 영상에 대한 규제를 도입했다. 한국은 지난해 12월 「공직선거법」을 개정하면서 선거일 90일 전부터 선거일까지 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 금지했다. 이를 위반하면 7년 이하 징역 또는 1천만 원 이상 5천만 원 이하의 벌금형에 처한다. 중앙선거관리위원회는 딥페이크 선거 게시물 단속을 위해 AI 감별반을 운영, 지난 1월 29일부터 총선 전날까지 총 387건의 딥페이크 게시물을 적발해 조치했다.

미국은 연방법에서 딥페이크 기술을 활용한 선거운동을 규제하고 있지는 않지만 일부 주에서 규제가 마련됐다. 캘리포니아주는 선거법에서 선거일 기준 120일 전부터 60일 후까지 딥페이크 등을 활용해 후보자의 평판을 해치거나 유권자를 속이는 행위가 금지되고 있다. 중국, 일본, 유럽 등도 딥페이크 폐해를 막을 제도 마련을 고심 중이다.

성착취 딥페이크 최대 피해국은 한국···
불법영상 처벌, 유통 책임 강화하려는 법 개정 움직임 빨라져

하지만 딥페이크의 폐해는 앞서 언급했듯 선거에 국한되지 않는다. 가장 심각한 분야는 성착취물이다. 교육부가 지난 9월 발표한 ‘학교 딥페이크 허위 영상물 피해 현황 4차 조사 결과’에 따르면, 올 1월 1일부터 9월 27일까지 교내 딥페이크 허위 영상물 피해자는 총 833명으로 집계됐다. 학생 799명, 교원 31명, 직원 등 3명이다. 같은 기간 누적 피해 신고는 초등학교 16건, 중학교 209건, 고등학교 279건 등 총 504건이 접수됐다. 상급 학교로 갈수록 피해 신고 건수가 늘긴 했으나, 초등학교에서도 두 자릿수 신고가 들어온 것이다. 전국교직원노동조합이 지난 7월 전국 유치원, 초·중·고교 학생 2,492명을 대상으로 조사한 설문조사에서도 딥페이크 불법 합성물로 피해를 본 학생은 304명, 교사는 204명에 달했다.

전 세계적으로 한국의 딥페이크 피해가 심각하다는 조사 결과도 나왔다. 미국 사이버 보안 업체 ‘시큐리티 히어로’는 ‘딥페이크 음란물에 등장하는 개인 중 절반이 한국인’이라는 내용의 「2023 딥페이크 현황」 보고서를 내놨다. 지난해 7~8월 두 달 동안 딥페이크 음란물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼 85곳에 올라온 영상물 9만5,820건을 분석한 결과, 딥페이크 음란물 대상 중 53%가 한국인이었다. 두 번째로 피해자가 많은 미국(20%)보다도 두 배 이상 많았다. 이어 일본 10%, 영국 6%, 중국 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다. 미국 월스트리트저널은 최근 이 보고서를 인용하며 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙이 한국이라는 것을 시사한다”라고 전했고, 영국 BBC도 “한국이 딥페이크 음란물 비상사태에 직면했다”라고 전했다. 이 때문에 국내에서는 법을 개정해 딥페이크 음란 콘텐츠 처벌을 강화하고, 유포 통로인 플랫폼 기업에도 책임을 부과하려는 움직임이 빨라지고 있다.

목록보기