최신자료
AI 윤리, 실천적 규범으로 나아가기 위한 정책방향과 과제:고령자 돌봄 AI 사례연구를 바탕으로
과학기술정책연구원은 AI 개발 및 사용 현장의 윤리적 쟁점과 윤리 규범체계 구축을 위한 정책과제를 살펴본 보고서를 발표하였다.
- 윤리는 세부적으로 규제하기 어려운 현장의 판단을 이끌어내고, 기술 개발 및 도입의 정당성을 비판적으로 검토하여 혁신의 방향성을 사회적 가치에 부합하도록 견인하는 기능을 함. 그러나 아직 많은 AI 윤리 가이드라인은 추상적 원칙 선언에 머물러 있어, AI 개발 부문이나 AI 사용 부문 어디에서도 실질적 행동 규범으로 안착하지 못하고 있음. 이에 본 연구는 먼저, AI 윤리에 관한 여러 유형의 담론 고찰을 통해, 윤리가 기술적 설계 방식의 개선과 더불어, 사용 시스템 측면의 운영 방식을 개선하는 제도적 기제로 작동하기 위한 이론적 관점을 탐색해 봄. 이와 더불어, 실제 AI 개발 및 사용 현장에서 발생하는 윤리적 이슈가 무엇인지, 그리고 그 배경에는 어떤 구조적 요인이 작동하고 있는지를 살펴봄.
- 관련 이론적 논의들은 우리가 주목해야 할 돌봄 AI의 윤리적 쟁점이 기술적 설계의 안전성이나 기능 구현 여부가 아니라, ‘누구의 가치’가 설계 과정에 반영되었는지를 물어야 한다는 점을 지적하고 있음. 또한 AI를 도입은 얼마나 ‘준비된’ 상황에서 이루어지고 있는지, 사용 과정에서 발생한 윤리적 쟁점을 해소하기 위해 서비스 도입 주체는 개발사와 어떤 소통을 하고 있는지를 살펴봐야 한다는 점을 시사함. 이러한 관점에 비춰 보면, 현재 시행되고 있는 돌봄 AI 관련 사업에서는 이러한 질문에 답해 줄 주체나 소통의 채널, 윤리적 판단의 기준이 아직 마련되어 있지 않아, 윤리 규범 체계가 부재하다고 볼 수 있음. 사례 연구를 토대로 돌봄 AI와 유사한 AI 개발 및 사용의 맥락을 가진 공공 서비스 부문에서는 다음과 같은 정책 과제 수행을 제안함.
(정책 방향성) 윤리에 관한 정책의 범위를 ‘원칙’을 제시하는 것에서, 윤리가 실천적 행위 규범으로 내재화될 수 있는 윤리 규범 체계를 만드는 것으로 확장되어야 함.
(정책 과제 1) 윤리 원칙을 현장에서 이행할 때 발생하는 긴장과 갈등을 해소하기 위한 세부적인 행동 규범 마련
(정책 과제 2) 윤리 원칙에 대한 세부 규정은 AI 사용 현장의 맥락에 맞게 조정될 수 있도록 AI 사용 현장의 경험과 AI 설계의 기준 간 환류 체계 구축
(정책 과제 3) AI 기본법을 모태로 한 돌봄 AI 윤리 규범 제정 및 배포자의 권한·책임과 데이터 환류 체계의 법제화
(정책 과제 4) AI 시스템과 사용 현장 간 부합성 사전 진단 및 결과 활용 체계 구축
(정책 과제 5) 실증 사업에서 상용화를 위한 윤리적 요구 사항을 식별하고, 이에 기반해 AI 도입 및 서비스 운영 기준 마련
- 윤리는 세부적으로 규제하기 어려운 현장의 판단을 이끌어내고, 기술 개발 및 도입의 정당성을 비판적으로 검토하여 혁신의 방향성을 사회적 가치에 부합하도록 견인하는 기능을 함. 그러나 아직 많은 AI 윤리 가이드라인은 추상적 원칙 선언에 머물러 있어, AI 개발 부문이나 AI 사용 부문 어디에서도 실질적 행동 규범으로 안착하지 못하고 있음. 이에 본 연구는 먼저, AI 윤리에 관한 여러 유형의 담론 고찰을 통해, 윤리가 기술적 설계 방식의 개선과 더불어, 사용 시스템 측면의 운영 방식을 개선하는 제도적 기제로 작동하기 위한 이론적 관점을 탐색해 봄. 이와 더불어, 실제 AI 개발 및 사용 현장에서 발생하는 윤리적 이슈가 무엇인지, 그리고 그 배경에는 어떤 구조적 요인이 작동하고 있는지를 살펴봄.
- 관련 이론적 논의들은 우리가 주목해야 할 돌봄 AI의 윤리적 쟁점이 기술적 설계의 안전성이나 기능 구현 여부가 아니라, ‘누구의 가치’가 설계 과정에 반영되었는지를 물어야 한다는 점을 지적하고 있음. 또한 AI를 도입은 얼마나 ‘준비된’ 상황에서 이루어지고 있는지, 사용 과정에서 발생한 윤리적 쟁점을 해소하기 위해 서비스 도입 주체는 개발사와 어떤 소통을 하고 있는지를 살펴봐야 한다는 점을 시사함. 이러한 관점에 비춰 보면, 현재 시행되고 있는 돌봄 AI 관련 사업에서는 이러한 질문에 답해 줄 주체나 소통의 채널, 윤리적 판단의 기준이 아직 마련되어 있지 않아, 윤리 규범 체계가 부재하다고 볼 수 있음. 사례 연구를 토대로 돌봄 AI와 유사한 AI 개발 및 사용의 맥락을 가진 공공 서비스 부문에서는 다음과 같은 정책 과제 수행을 제안함.
(정책 방향성) 윤리에 관한 정책의 범위를 ‘원칙’을 제시하는 것에서, 윤리가 실천적 행위 규범으로 내재화될 수 있는 윤리 규범 체계를 만드는 것으로 확장되어야 함.
(정책 과제 1) 윤리 원칙을 현장에서 이행할 때 발생하는 긴장과 갈등을 해소하기 위한 세부적인 행동 규범 마련
(정책 과제 2) 윤리 원칙에 대한 세부 규정은 AI 사용 현장의 맥락에 맞게 조정될 수 있도록 AI 사용 현장의 경험과 AI 설계의 기준 간 환류 체계 구축
(정책 과제 3) AI 기본법을 모태로 한 돌봄 AI 윤리 규범 제정 및 배포자의 권한·책임과 데이터 환류 체계의 법제화
(정책 과제 4) AI 시스템과 사용 현장 간 부합성 사전 진단 및 결과 활용 체계 구축
(정책 과제 5) 실증 사업에서 상용화를 위한 윤리적 요구 사항을 식별하고, 이에 기반해 AI 도입 및 서비스 운영 기준 마련
많이 본 자료
