대외경제정책연구원은 제80차 UN 총회의 글로벌 AI 거버넌스 논의와 시사점을 분석한 보고서를 발표하였다.
- ‘신뢰성 있고 책임 있는 AI 활용’을 촉진하기 위해 국제사회 차원의 AI 거버넌스 필요성이 높아지고 있으며, 최근 UN을 비롯하여 다양한 국제협의체에서 공동규범을 마련하기 위해 노력하고 있음. ‘글로벌 AI 거버넌스’는 ‘AI 시스템과 도구의 안전하고 윤리적인 활용을 돕는 각종 프로세스, 표준, 규범 등과 관련한 국제사회의 공동대응 체계’를 의미하며, 최근 G7, OECD, UN 등 다양한 국제 협의체들은 AI 안전과 윤리적 사용에 관한 국가 간 입장 차를 조율하고 공동 규범을 마련하기 위해 노력하고 있음. 특히 UN은 2023년 AI 고위급 자문기구(HLAB-AI) 출범을 시작으로 각종 AI 협력 관련 결의안 도출, 글로벌 디지털 콤팩트 채택 등을 통해 글로벌 AI 거버넌스를 위한 구체화된 협력체계를 구축해왔음.
- 이번 UN 총회는 글로벌 다이얼로그, 국제과학패널 출범 등 글로벌 AI 거버넌스 협력의 기반 구축이라는 측면에서 의미가 있으며, 안보적 위험 및 포용적 AI 등에 대한 논의 또한 지속되었음. AI 거버넌스 관련 고위급 회의(글로벌 다이얼로그)에서 UN 사무총장은 정책, 과학(글로벌 AI 과학패널 설치 등), 역량(글로벌 AI 역량개발 기금 등)의 세 가지 축을 토대로 ‘인류에 의한, 인류와 함께, 인류를 위한(by humanity, with humanity and for humanity)’ AI 구축 목표를 제시함. UN 안보리 공개토의에서 각국은 AI의 긍정적 효과와 함께, 안보적 위험과 관련한 주요 이슈로 △ 자율무기 등 현대전쟁에서 AI 활용, △ 디지털 격차와 디지털 식민주의, △ AI 거버넌스와 규제접근법 등에 대한 논의를 전개함.
- 이번 UN 총회는 AI 거버넌스에 대한 국제적인 관심 확대, 관련 논의의 실행 단계로의 진입 등의 측면에서 의의가 있으나, 주요국 간 이견으로 실행력의 한계에 대한 의문도 여전히 존재함. 이번 총회는 국제사회 전반의 글로벌 AI 거버넌스에 대한 관심을 가시화하는 계기가 된 것으로 평가됨. ‘AI 거버넌스에 관한 글로벌 다이얼로그’ 등 그동안의 AI 거버넌스에 대한 주요 논의가 실행 단계로 진입하였다는 점에서 의의가 있음. 본격적인 글로벌 AI 거버넌스 체계를 단기간 내에 수립하기는 쉽지 않음을 보여주었으나, 동시에 AI 중견국의 가교 역할이 중요함을 확인시켜 주었음.
- 한국은 AI 거버넌스 논의에서 UN의 역할에 관심을 기울이고 관련 논의에 적극 참여하는 한편, AI 중견국들과의 연대·협력을 통한 논의 주도, 글로벌 사우스와의 협력을 바탕으로 한 선진국-개도국 간 가교 역할 수행, Post-SDGs와 AI를 연계한 어젠다 발굴 등의 노력이 필요함.