AI 기술 자체보다 더 중요한 것은 이를 안전하고 올바르게 사용하기 위한 윤리 확립 | 나라경제

이슈

AI 기술 자체보다 더 중요한 것은 이를 안전하고 올바르게 사용하기 위한 윤리 확립

전창배 국제인공지능윤리협회 이사장 2024년 11월호

이슈 전창배.pdf

딥페이크는 기술의 이름이 아니다. AI 기술인 딥러닝의 ‘딥(deep)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어로, AI로 만들어낸 진짜 같은 가짜 동영상, 가짜 이미지, 가짜 음성 등을 딥페이크라고 한다.

딥페이크의 문제는 이러한 ‘가짜’, ‘허위성’에서 온다. 최근 불거진 딥페이크 성범죄도 이러한 허위성에서 기인하는 여러 역기능 중 하나다. 딥페이크 문제의 가장 큰 심각성은 ‘가짜 정보’로 인해 ‘믿을 수 없는 세상’을 만든다는 것이다.

이제 누구나 AI 기술로 어렵지 않게 딥페이크 콘텐츠를 만들 수 있어서 진짜가 아닌 정보가 넘쳐나게 될 우려가 높아졌다. 가짜 뉴스, 가짜 정보뿐만 아니라 가짜 서비스, 가짜 플랫폼, 가짜 제품들이 횡행하면서 시민들이 경제적·정치적·사회적 혼란과 피해를 겪게 될 가능성이 커졌다.

이러한 역기능을 해결하지 못하면 이 세상을 지탱하고 있는 ‘신뢰’라는 가치가 훼손되면서 이제는 그 누구도, 그 무엇도 믿을 수 없는 세상이 된다. 그렇다면 이러한 딥페이크의 역기능을 해결하는 방안에는 무엇이 있을까?

가장 먼저 기술적 해결 방안을 생각해 볼 수 있다. 개인용 PC가 대중화됐을 때 컴퓨터 바이러스가 사회에 큰 피해를 주자 곧바로 백신 프로그램이 개발된 것처럼 딥페이크를 탐지하고 인식하는 기술을 개발하는 것이다. 현재 국내외 AI 기업들이 딥페이크 탐지 기술을 개발해 고도화하고 있다. 하지만 아직 일반인들이 쉽게 사용할 수 있도록 상용화된 툴은 전무하다. 우리나라 경찰청과 과학기술정보통신부에서도 기업과 함께 R&D 과제로 딥페이크 탐지 기술 개발을 추진하고 있는데, 좀 더 많은 예산과 자원을 투입할 필요가 있다.

다음으로 법적 처벌을 강화하는 방안이다. 딥페이크 문제는 범죄 행위로 이어지기 쉽다. 딥페이크 성범죄, 딥페이크 사기, 딥보이스피싱, 딥페이크 가짜 뉴스를 이용한 경제적·정치적 범죄 행위에 형법 등 기존 법률을 적용하는 데는 한계가 있다. 특별법을 제정하거나 기존의 법률을 개정해 대응할 필요가 있다. 지난 9월 「성폭력범죄의 처벌 등에 관한 특례법」 개정안이 가결돼 이제는 딥페이크 성착취물을 소지하거나 시청하기만 해도 처벌할 수 있다. 딥페이크 성범죄뿐만 아니라 사기, 딥보이스피싱, 가짜 뉴스를 이용한 범죄 등에 대한 법적 제재도 시급히 마련해야 한다.

하지만 근본적으로는 딥페이크 문제에 대한 인식과 리터러시를 강화하는 교육제도가 가장 중요하다. 경찰청이 발표한 통계자료를 보면 대다수의 딥페이크 성범죄 피의자들이 10~20대 청소년과 청년임을 알 수 있다. 2020년 6월부터 이미 「성폭력범죄의 처벌 등에 관한 특례법」에 의해 딥페이크 성범죄 처벌이 가능하지만 범죄 건수는 계속 증가하고 있다.

따라서 초·중·고 학생들과 청소년들을 대상으로 한 ‘AI 윤리의식’과 ‘AI 리터러시’ 교육을 제도적으로 강화해야 한다. 내년부터 ‘AI 교육’이 초·중·고 교육 전 과정에 필수화되지만, AI 윤리는 전체 커리큘럼 중 한 부분으로 포함돼 있는 상황이다. AI 기술 자체보다 더 중요한 것은 이를 안전하고 올바르게 사용하기 위한 윤리인데, 이를 독립된 과목으로 다루지 않는 점은 매우 아쉽다. 또한 해외 유수 대학들처럼 우리 대학과 대학원에서도 AI 윤리 과목을 필수 이수 과목으로 지정해 모든 학생이 수강하게 할 필요가 있다. 딥페이크의 역기능을 방지하고 순기능을 확대하려면 체계적인 AI 윤리 교육의 제도화가 중요하며, 학생들을 비롯한 사회 구성원 모두가 이러한 교육을 필수적으로 또 지속해서 받아야 한다는 점을 재차 강조하고 싶다.

목록보기