EU·영국·호주, 플랫폼에 딥페이크 활용한 불법·유해 정보의 관리 책임 강화 | 나라경제

이슈

EU·영국·호주, 플랫폼에 딥페이크 활용한 불법·유해 정보의 관리 책임 강화

최진응 국회입법조사처 입법조사관 2024년 11월호

이슈 최진응.pdf

최근 해외에서는 온라인상 AI 기술을 악용한 딥페이크 콘텐츠의 역기능을 주시하면서 이에 대응한 입법이 활발하게 이뤄지고 있다. 먼저 미국은 연방법으로는 딥페이크 콘텐츠에 대해 별도의 규제를 하고 있지 않다. 다만 일부 주법에서 딥페이크 콘텐츠를 이용한 선거운동 및 디지털 성범죄를 규제하고 있다.

미국은 연방 수준이나 플랫폼 대상의 딥페이크 규제 없고
일부 주에서 딥페이크 악용한 선거운동 및 성범죄 규제

예를 들어 텍사스 주법에서는 선거에 영향을 줄 목적으로 딥페이크 콘텐츠를 제작하고 이를 선거일 30일 이내에 유포하는 행위를 금지하고 있다. 캘리포니아 주법에서는 악의적으로 공직 후보자에 대한 딥페이크 콘텐츠를 선거일 60일 이내에 유포하는 것을 금지하고 있지만, 딥페이크를 통해 제작된 콘텐츠임을 표시하면 법적 책임을 면제하고 있다. 나아가 버지니아 주법에서는 강압·괴롭힘·위협의 의도로 딥페이크 성범죄물을 악의적으로 유포하는 행위를 처벌하고 있다. 다만 미국은 딥페이크 콘텐츠의 유통과 관련해 온라인 플랫폼에 대해서는 별도의 규제를 하고 있지 않다.

EU는 「인공지능법(Artificial Intelligence Act)」을 통해 딥페이크 콘텐츠에 대해 투명성 의무를 부여하고 있다. 즉 딥페이크 콘텐츠를 제작하거나 시장에 제공하는 자는 딥페이크 콘텐츠가 인위적으로 제작됐거나 조작됐음을 공개하고, 기계적으로 식별이 가능하도록 조치해야 한다. 이용자에게도 딥페이크 콘텐츠를 영리적 목적으로 유통할 경우 딥페이크 콘텐츠가 인위적으로 제작됐거나 조작됐음을 의무적으로 표시하게 하고 있다.

또한 EU는 「디지털서비스법(Digital Services Act)」을 제정해 시민들이 불법 콘텐츠를 쉽게 신고할 수 있도록 하는 한편, 온라인 플랫폼과 검색 엔진은 불법 정보의 유통을 신고받으면 이를 삭제·차단하는 등 필요한 조치를 하고 추후 투명성 보고서를 통해 조치 내역을 공개하도록 하고 있다. 다만 무엇이 불법 정보인지는 회원국 재량에 맡겨두고 있어 딥페이크 콘텐츠가 회원국의 법률로 불법 정보에 해당할 경우 플랫폼 기업에 법적 책임이 발생한다.

「디지털서비스법」은 나아가 유튜브, 페이스북 등 대형 온라인 플랫폼과 구글 등 대형 검색 엔진에 불법·유해 정보 대응을 위한 추가적인 법적 책임을 부여하고 있다. 대형 플랫폼 사업자는 불법 정보 외에도 기본권을 침해하거나 치안, 선거, 민주적 절차, 시민 담론, 공중보건, 미성년자 보호, 신체적·정신적 건강에 부정적 영향을 미치는 정보, 젠더 폭력에 기반한 정보 등에 대한 위험성을 평가하고, 이런 정보가 유통되는 구조적 위험을 완화하는 조치를 해야 한다. 특히 위험 완화 조치로서 대형 플랫폼이 이용자에게 딥페이크가 가상의 정보임을 쉽게 표시할 수 있게 하는 기능을 제공하도록 규정하고 있다.

영국은 딥페이크를 이용한 성범죄물을 형사처벌하고 해당 정보를 온라인 플랫폼이 삭제하도록 한다. 「성범죄법(Sexual Offences Act)」에서는 상대방의 동의 없이 딥페이크 콘텐츠를 제작해 유포하거나, 유포하겠다고 협박하는 행위를 형사처벌하고 있다. 또한 「온라인안전법(Online Safety Bill)」은 소셜미디어처럼 이용자 간 콘텐츠를 공유하는 플랫폼과 검색 엔진에 딥페이크 성범죄물과 같은 인터넷상 불법 정보의 위험을 평가하고 이를 완화하는 조치를 하도록 의무를 부여한다. 이런 조치에는 불법 정보를 쉽게 신고할 수 있는 시스템 구축, 신고된 불법 정보에 대한 신속한 삭제나 검색 결과 조정 등이 포함된다. 또한 규제 대상이 되는 플랫폼 사업자는 상기 조치 내역을 방송 통신 규제기관인 오프콤(Ofcom; Office of Communications)에 제출해야 한다.

호주는 2024년 형법을 개정해 상대방의 동의 없이 딥페이크 성범죄물을 온라인에 유포하는 행위를 처벌하고 있다. 그리고 「온라인안전법(Online Safety Act)」에 근거해 딥페이크 성범죄물을 비롯한 딥페이크 콘텐츠가 사이버폭력에 해당하거나 혐오스러운 폭력 행위에 이용돼 유통되는 경우 삭제나 차단하도록 한다. 또 같은 법에서 신고된 사이버폭력 정보에 대해 온라인 플랫폼이 48시간 이내에 삭제 조치를 하지 않으면 온라인 안전국(eSafety Commissioner)이 플랫폼에 삭제 통지를 할 수 있으며, 테러 등 혐오스러운 폭력 정보에 대해서는 인터넷서비스 사업자(ISP)에 접속차단을 통지할 수 있다. 통지를 받은 플랫폼은 이에 따라야 할 법적 의무가 있다.

EU는 대형 플랫폼 사업자가 불법 정보 외에도 기본권을 침해하거나 치안, 선거, 공중보건, 미성년자 보호, 신체적·정신적 건강에 부정적 영향을 미치는 정보 등에 대한 위험을 평가하고, 이런 정보 유통에 따른 위험을 완화하는 조치를 하도록 추가적인 법적 책임 부과

중국, 국가 이미지 및 사회 공익 침해 등 광범위하게 규제

중국은 「인터넷 정보서비스 딥페이크 관리 규정」에서 온라인의 딥페이크 콘텐츠에 대해 광범위한 규제를 하고 있다. 이 규정에서는 딥페이크를 사용해 국가안보, 국익, 국가 이미지, 사회 공익, 경제 질서, 타인의 권익을 침해하는 등의 행위를 금지하며 특히 딥페이크를 통한 허위 정보 생성 및 유포를 금지하고 있다. 온라인 플랫폼에도 법적 책임을 강화하고 있는데, 온라인 플랫폼은 이용자가 딥페이크임을 표시할 수 있는 수단을 제공하고 딥페이크 정보를 유통할 경우 가상의 정보임을 표시하도록 이용자에게 통지해야 한다. 나아가 온라인 플랫폼에 불법 딥페이크 정보 신고 시스템 마련, 딥페이크 제공자 신원 확인, 불법 딥페이크 발견 시 조치 및 해당 기록 보관 후 관계부서 보고 등의 의무도 부여하고 있다.

딥페이크 콘텐츠에 대한 주요국의 규제를 정리해 보면, 먼저 최근 해외 규제는 선거운동 시 기만행위 및 디지털 성범죄의 경우 딥페이크 기술의 악용을 강하게 규제하면서 합법적인 딥페이크 정보 유통을 위해 가상의 정보임을 이용자가 표기하도록 하고 있다. 또한 온라인 플랫폼에도 이용자에게 딥페이크 표시 수단을 제공하고 딥페이크를 이용한 불법·유해 정보의 유통을 막기 위한 신속한 조치를 하도록 법적 의무를 부여하고 있다.

우리나라는 이미 「공직선거법」에서 딥페이크를 이용한 선거운동 정보를 규제하고 있으며, 「성폭력범죄의 처벌 등에 관한 특례법」 및 「전기통신사업법」에서 딥페이크를 이용한 디지털 성범죄 콘텐츠의 제작·유통·소지·시청을 처벌하고, 해당 콘텐츠의 온라인 유통을 막기 위해 플랫폼의 삭제·차단 및 유통 방지를 위한 기술적·관리적 조치 등 책임을 강화한 바 있다. 현재 딥페이크 기술은 다양한 영역에서 불법 행위에 사용되고 있으며, 사적 메신저 등 일반에 공개되지 않는 방식으로 악용되고 있다는 점에서 향후 해외 법제 동향을 참고해 현행 법제의 한계와 개선 방안에 대한 합리적 논의가 진행되길 기대한다.

목록보기