인공지능, 축복일까 재앙일까 | 나라경제

칼럼

K인사이트인공지능, 축복일까 재앙일까

서중해 KDI 초빙연구위원 2025년 02월호

K인사이트.pdf

어떤 법제라도 AI 발전 속도를 따라가기는 어려울 것이다.
보다 근본적인 과제는 가적 AI 거버넌스를 구체화하는 것이다.
‘AI 시대를 맞이해 어떤 AI 거버넌스가 필요한가’ 질문을 던지고,
그 답을 정부와 민간이 함께 찾아가야 할 때다.

지난 12월 26일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 「AI 기본법」) 제정안이 국회 본회의에서 의결됐다. AI 관련 법안 제정은 전 세계에서 우리나라가 EU에 이어 두 번째다.

이 법안은 1년의 경과기간을 둔 뒤 2026년 1월부터 시행될 예정이다. EU의 「AI법」이 2026년 8월에 전면적으로 발효될 것임을 감안하면, 특정 사안들에서 실제 법 적용은 우리나라가 세계 최초일 것이다. 「AI 기본법」의 많은 사항이 시행령에 위임돼 있어, 법 시행과 관련한 구체적인 사안들은 향후 만들어가야 하는 상황이다.

「AI 기본법」 내용 두고 논란 분분···
AI 기술의 영향은 방향·깊이 가늠 어려워

그런데 기본법 제정 과정에서도, 제정 이후에도 여전히 법안의 내용을 두고 논란이 분분하다. 참여연대는 지난해 11월 22일 국회 과학기술정보방송통신위원회 법안심사소위가 통과시킨 인공지능법안에 대해 ‘누구를 위한 「AI 기본법」인가’라는 공동성명을 발표했다. 성명은 입법 논의과정을 공개하고 충분한 공론화를 거쳐야 하며, 산업을 진흥한다며 국민의 안전과 인권을 외면하지는 말아야 한다고 주장했다. 한편 한국인터넷기업협회는 법안이 통과된 직후에 발표한 이슈페이퍼(「산업을 가로막는 진흥법: ‘AI 기본법’의 역설」)에서 「AI 기본법」이 산업의 발전을 가로막을 수 있다는 우려를 표명했다. 산업 육성을 위한 국가적 지원이 미흡하고, 산업 발전을 저해할 우려가 있는 조항은 신속하게 개정을 검토할 필요가 있다고 주장했다. AI의 법제화는 학술적으로도 매우 중요한 과제가 되고 있다. 지난해 8월 한국공법학회는 ‘인공지능과 미래사회, 그리고 공법의 대응’을 주제로 2024년 한국공법학자대회를 개최하기도 했다.

「AI 기본법」 제2조에서는 AI를 “학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것”으로 정의하고 있다. 이어서 AI 시스템은 “다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위해 실제 및 가상환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 AI 기반 시스템”이라고 정의했다. 두 정의에 따르면 이미 기계는 인간의 고유 영역으로 여겨온 학습과 이해라는 지적 능력을 구현하고 있다. 인류 역사를 두고 볼 때 이렇게 극적인 사건이 있었을까?

지금까지의 발명은 인간의 신체적 활동 또는 물리적 한계를 극복하고자 고안됐다. 그런데 컴퓨터가 등장하면서 이 전통은 깨졌다. 인간의 지적 활동 일부를 기계를 통해 자동적으로 구현하게 된 것이다. 나아가 인터넷 기술혁명은 지리적 한계를 쉽게 넘어서는 것을 가능하게 했다. 이제 AI 기술이 실현되면서 물리적 세계와 가상의 세계가 만나는 새로운 장이 펼쳐지고 있다.

AI와 같이 활용 범위가 넓고 사회경제적 구조 변화를 수반하는 기술을 일반목적기술이라 칭한다. 이전의 일반목적기술과 비교할 때 AI 기술은 최소한 두 가지 점에서 특별하다. 하나는 발전과 확산 속도가 전례를 찾을 수 없을 정도로 빠르다는 사실이며, 둘째는 응용 영역이 이전에는 상상하지 못했던 인간의 지적 활동을 포함한다는 것이다. 첫 번째 특성은 법제화뿐 아니라 영향력 평가와 대응 등에서 어려움을 수반한다. 두 번째 특성은 인류에 대한 존재론적 위협으로까지 간주된다. 인간의 지적 활동을 모사하는, 또는 인간과 경쟁하는 기술과 인간 사이의 관계는 어떻게 될지 기대와 우려가 동시에 제기되고 있다. 이 두 특성은 서로 얽혀서 상승효과를 발휘할 것이다.

일반목적기술의 영향은 대체로 생산 요소, 특히 노동과 자본 사이의 상대가격 변화에서 시작된다. 이러한 미시적 변화는 중첩되고 누적되면서 산업구조에 변화를 초래하고, 장기적으로는 새로운 기술-경제 패러다임으로 자리 잡는다. AI는 이 세 가지 차원 모두에서 그 충격이 전개되고 있지만, 실제로 그 방향과 깊이에 대해서는 사례 축적이 충분하지 않고 심층연구 또한 이뤄지지 않았다. 우리의 지식은 턱없이 부족하다.

「AI 기본법」은 기본적 법적 장치로 두고
AI 거버넌스로 신속히 대응하는 접근 필요

「AI 기본법」은 조직체계에서 국가인공지능위원회를 중심에 두고 있다. 기본법은 또한 인공지능데이터센터, 인공지능정책센터, 인공지능안전연구소, 한국인공지능진흥협회, 민간자율인공지능윤리위원회 등을 설치하거나 운영할 수 있다고 규정한다. 그런데 정부의 위원회로 앞에서 언급한 AI가 제기하는 도전 과제들을 어디까지 다룰 수 있을까? 관련 조직은 소관 부처의 업무를 수행하기 위해서는 필요하겠으나, 그 범위는 협소해 보인다. 일례로 EU는 「AI법」 제정과 함께 정보사회미디어총국(DG CONNECT) 내에 AI 오피스를 설립하고 인력을 빠르게 충원하고 있으며, 현재 150여 명의 전문가로 구성된 다섯 개 부서로 운영하고 있다.

법안의 해석에서도 논란은 많다. 예를 들어 「AI 기본법」이 서술하는 ‘고영향 AI’는 어디까지 적용될까? 왜 EU는 ‘고위험 AI’라고 서술했을까? 자율 규제는 어떠한 방식으로 작동되고, 위험에 대한 책임을 누가 어디까지 질까? 규제샌드박스는 어떻게 운용될까? 배상 규모가 현저하게 낮은 우리나라의 경우, 어떻게 해야 자율 규제가 제대로 작동할 수 있을까?

이러한 상황을 감안하면 「AI 기본법」은 가장 기본적인 법적 장치로 두고, AI 거버넌스를 변화하는 상황에 지속적으로 그리고 신속하게 맞춰나가는 실용적 접근을 생각할 수 있다. 어떤 법제라도 AI 발전 속도를 따라가기는 어려울 것이다. 보다 근본적인 과제는 국가적 AI 거버넌스를 구체화하는 것이다. ‘AI 시대를 맞이해 어떤 AI 거버넌스가 필요한가’라는 질문을 던지고, 그 답을 정부와 민간이 함께 찾아가야 할 때다.

제우스에게서 불을 훔친 프로메테우스는 간을 독수리에게 쪼이는 형벌을 받았다. AI라는 판도라의 상자는 이미 열렸다. 이 기술이 축복이 될지 재앙이 될지는 인간이 어떻게 활용하고 대응하는가에 달렸다. 2025년이 인간과 AI가 공존하는 한국형 AI 거버넌스의 원년이 되기를 기대한다.

목록보기