허위조작정보는 오늘날 발생한 새로운 현상은 아니다. 하지만 인터넷 발달과 소셜 미디어의 흐름에 의해 허위조작정보가 무분별하게 유포되면서 민주주의의 기능을 위협하고 있다. OECD 27개 회원국이 참여한 에델만 신뢰도 지표 조사에 따르면 응답자의 76%가 허위조작정보는 무기로 활용될 수 있고, 67%는 언론, 66%는 정부 및 정치 지도자, 63%는 기업인들이 거짓되거나 과장된 정보를 의도적으로 퍼뜨릴 수 있다고 답했다. 코로나19 팬데믹, 러시아의 우크라이나 공격 등을 겪으며 거짓되고 오해 소지가 있는 정보의 확산이 국가의 국익과 안보, 민주주의 수호 능력을 약화시킬 수 있다는 사실을 목도했다. OECD는 2022년 공공거버넌스 장관급 회의를 준비하면서 허위조작정보 대응에 필요한 액션플랜과 협력방안을 마련하고 허위조작정보에 탄력적으로 대응할 수 있는 거버넌스를 구축해야 할 필요성을 강조하고 있다.
언론, 시민사회, 온라인 플랫폼과 협력을 통한 대응
허위조작정보는 사실에 기반한 정보 교환과 적시에 적절한 정보로의 접근을 가로막는다. 오해 소지가 있는 거짓되고 잘못된 정보를 빠르게 확산해 민주적 삶에 건설적으로 참여하려는 대중의 의지와 능력을 약화시킨다. 반면 허위정보를 억제하기 위한 정부의 ‘부당한’ 간섭은 표현의 자유를 저해할 수 있다. 이 때문에 정부는 직접적인 조치보다 언론, 시민사회와의 협력을 통해 허위조작정보로 인한 긴급한 위협에 합법적으로 대처하는 것이 바람직하다. 이탈리아 정부는 코로나19 관련 허위정보를 뿌리 뽑기 위해 팩트체커를 지원해 ‘#bastabufale’ 캠페인을 진행했다. 영국 내각부는 캠브리지대와 힘을 모아 허위정보 유포 기술이 적용된 거짓뉴스와 밈의 예를 보여주는 ‘고 바이럴(Go Viral)’을 개발, 제공함으로써 시민들이 허위정보를 쉽게 식별하고 무시할 수 있도록 지원했다. 독일 연방정보보안국(BSI)은 2021년 선거를 준비하면서 소셜 네트워크와 협력해 잠재적 위협에 대한 신속한 대응과 자동화된 봇, 동기화된 가짜행동을 탐지하는 부서를 조직했다. EU는 신속경보시스템(RAS)을 통해 오픈소스 정보를 기반으로 학계, 팩트체커, 온라인 플랫폼 등이 참여하는 허위정보 예방 캠페인과 관련된 통찰력을 회원국과 공유하고 회원국 간 대응을 조정하고 있다.
허위정보 구별방법 알려 주면 유포 의도 3배 이상 감소
허위조작정보 대응이 무엇인지 정의하고 접근방식을 공식화하면 임시방편적인 대응에서 벗어나 구조화되고 전략적인 접근을 할 수 있다. 거버넌스 및 제도화를 통해 목적을 명확히 하고 구체적인 영향지표를 설정하면 대응노력에 대한 리소스 할당이 가능해져 정부는 정확한 콘텐츠를 보급할 수 있고 시민의 참여도 촉진할 수 있다. 공개 채널과 플랫폼을 모니터링해 잘못된 콘텐츠와 그 출처를 식별·추적·모니터링하는 것은 효과적인 커뮤니케이션 대응에 필수적이다. 다만 이러한 활동은 대응의 적시성을 보장하고 민주적 정당성을 유지하기 위해 개인정보보호 및 민주주의 원칙에 따라 투명하게 수행돼야 한다.
아울러 대중의 행동을 정교하게 이해하는 것은 허위정보에 취약한 계층에 대한 허위정보 영향력을 완화할 수 있는 혁신적인 정책개발에 도움이 될 수 있다. 2021년 OECD는 온라인 허위정보 해결을 위한 행동통찰력 정책 테스트를 통해 ①사람들은 뉴스가 사실이라고 믿지 않음에도 다른 사람에게 공유하는 경향이 있고, ②정부에 대한 신뢰도가 낮은 사람들은 허위조작정보에 취약한 경향이 있으며, ③즉각적인 주의를 기울일 경우 허위정보 유포 의도가 감소하고, ④허위정보 구별방법을 알려줄 경우 주의 환기 시보다 허위정보 유포 의도가 3배 이상 감소한다는 결과를 얻었다. 정부가 공공 커뮤니케이션을 통해 명확하고 포괄적인 콘텐츠를 전달할 경우 허위조작정보의 유포는 줄어든다. 코로나19 대응에서와 같이 정부는 과학자, 의사 등 특정 커뮤니티의 구성원과 영향력 있는 사람들을 메신저로 활용해 시의적절한 시점에 광범위한 인구집단에게 메시지를 전달할 필요가 있다.
허위조작정보의 피해를 줄이기 위해서는 캠페인과 시민교육을 통해 시민의 미디어 리터러시를 향상시키는 것도 중요하다. 표현의 자유와 열린 인터넷 유지는 허위조작정보가 사라지지 않을 것임을 뜻하므로 시민 개개인의 허위조작정보 식별 및 확산 방지를 돕기 위한 노력이 필요하다. 호주 정부는 유권자가 선거정보의 출처를 확인하도록 장려하고(‘Stop and Consider’), 벨기에 정부는 대중에게 허위조작정보를 알리는 웹사이트를 운영하고 있다.
허위조작정보가 어디서 나왔는지, 누가 공유했는지, 어떤 개입이 효과적인지를 아는 것은 문제를 이해하고 대응정책을 설계하는 데 중요하다. 허위정보의 출처를 추적하면 정부가 특정 콘텐츠의 배포 전반을 평가하고 대응정책 및 규제를 설계하는 것에 도움이 된다. 온라인 플랫폼과의 파트너십을 통해 온라인 플랫폼 데이터를 공유하고 분석할 경우 허위정보의 출처를 파악하고 허위정보 게시 및 확산을 방지하는 효과를 거둘 수 있다. 2015년 미국 정부는 사이버 위협 정보와 모범 사례를 공유하기 위해 민간 기업, 비영리 단체, 정부 부처 및 기관을 망라해 정보 공유·분석 기관(ISAO)을 만들도록 권장했다. 호주 정부는 허위정보 및 삭제된 콘텐츠와 관련된 정보의 메타데이터를 외부 연구자와 공유하도록 요구하는 법적 프레임워크를 수립하고 있다.
기존 미디어는 뉴스매체가 콘텐츠에 대한 법적 책임을 지는 메커니즘이 있지만 개인 사용자의 콘텐츠를 공유하는 온라인 플랫폼에는 게시된 허위정보에 대한 법적 책임이 모호하다. 온라인 플랫폼에 대해서는 사회적 분위기 또는 정부 압력에 따라 콘텐츠 조정을 수행하도록 하는 자율규제 접근방식을 취하고 있지만 민간 기업이 공개 정보와 금지 정보를 결정해야 하는 위험을 안고 있다. 플랫폼의 콘텐츠 중재 결정에 이의를 제기할 수 있는 가능성을 허용하고, 접근방식과 결정을 명확히 하는 내용의 투명성 프레임워크가 필요한 이유다. 투명성 프레임워크에는 ‘온라인 플랫폼이 약관을 통해 콘텐츠를 조정하는 방법(알고리즘 의사결정 및 인적 검토 포함)을 일반 언어로 명확히 공개’, ‘약관을 반복적으로 위반하는 사용자에 대한 명확한 정책’, ‘사용자의 콘텐츠가 제거되거나 등급이 낮아질 때 플랫폼이 사용자에게 통지’, ‘결정 이유와 결정에 도달하는 데 사용된 도구 제공’ 등의 내용이 포함돼야 한다.
콘텐츠 조정을 위한 규칙과 표준 제공해
온라인 플랫폼의 투명성 높여
정부는 온라인 플랫폼의 투명성 확보를 위해 콘텐츠 조정을 위한 규칙과 표준을 제공하고 자율규제 관행을 모니터링해 온라인 플랫폼이 자율규제 체제에 참여할 수 있도록 독려할 수 있다. 또한 정부는 알고리즘의 특성을 이해하고 온라인 플랫폼에 알고리즘 매개변수를 투명하게 만들도록 요구해야 한다. 온라인 플랫폼은 위치, 특정 콘텐츠에 소요된 시간 또는 앱 사용과 같은 메타데이터에서 수집된 증거를 기반으로 각 사용자가 보고 싶어 하는 것을 알고리즘을 활용해 예측한다. 사용자가 받는 콘텐츠는 선착순이 아니라 관련성에 따라 결정되며 알고리즘은 광고, 선전, 허위정보 또는 사실 확인 데이터를 구분하지 않고 사용자의 견해와 신념에 동의하는 경향의 정보를 사용자에게 제공할 수 있으므로 이미 보유된 신념을 강화하고 확인하게 하는 위험이 있다.
2020년 유럽위원회는 「디지털서비스법(DSA)」을 통해 알고리즘의 우선순위와 대상 정보에 중점을 둔 위험 평가 툴을 개발하고 플랫폼으로 하여금 그 결과를 독립적인 감사에 제출하도록 요구하는 규칙을 제안했다. 또한 봇의 의도적인 허위정보 유포 위험을 제거하기 위해서는 소셜 미디어 플랫폼 계정이 실제 사람과 연결되는지 확인할 필요가 있다. 정부는 허위계정을 예방하고 제거하기 위해 봇에 레이블을 지정하거나 소셜 미디어 플랫폼 요구사항에 추가지침을 제공하고 위조 신분증을 식별·확인할 수 있도록 지원해야 한다.
특정 주제나 제품에 대해 오해 소지가 있는 콘텐츠를 고의로 혹은 우발적으로 조장하는 인플루언서의 허위정보 문제를 해결하려면 특정 콘텐츠를 후원하는 회사 또는 개인을 공개할 필요가 있다. 합성 조작된 오디오나 영상 미디어 콘텐츠를 생성하는 딥페이크를 감지하는 AI 도구도 개발돼야 할 것이다. EU는 법 집행 및 표현의 자유 등 합법적인 목적이 있는 경우를 제외하고 특정 콘텐츠가 자동화된 수단을 사용해 생성됐음을 공개할 의무를 제안했고, 미국 정부는 딥페이크 제작자가 특정 디지털 워터마크를 준수하고 콘텐츠 정보를 공개하도록 요구하는 것을 목표로 하는 ‘딥페이크 책임법’을 제안했다.
허위조작정보는 범정부적 차원에서 광범위하게 대응돼야 한다. 영토 경계를 초월하기 때문에 국가 간 협력을 통해 공조돼야 한다. 표현의 자유가 있는 한 유해하고 오해 소지가 있는 콘텐츠는 늘 존재할 수 있음을 인정하고 유해 콘텐츠의 완전한 제한이 아닌 피해 완화에 목적을 둬야 할 것이다. 특히 즉각적인 위협에 대한 대응 이외에 허위조작정보의 경제적·구조적 동인을 효과적으로 줄이기 위해서는 미디어, 시민사회와의 협력이 반드시 필요하다.