디지털 기술로 재편되는 소비재시장, 소비자 안전은? | 나라경제

세계는 지금

디지털 기술로 재편되는 소비재시장, 소비자 안전은?

문종숙 주OECD대표부 참사관 2024년 05월호

세계는지금 OECD 문종숙.pdf

디지털 신기술이 소비재시장을 새롭게 변화시키고 있다. 인공지능(AI), 사물인터넷(IoT), 몰입형 가상현실(VR)과 같은 디지털 기술과 소비재의 융합은 제조자-소비자 간 직접 소통을 가능하게 하는 등 제품 안전 측면에서 혁신을 가속화하고 있다. 그러나 이러한 긍정적 측면 이면에는 소프트웨어 업데이트에 따른 기기 오작동과 인터넷 끊김 현상, 데이터 오류, 웨어러블 IoT 기기·로봇 등에 의한 물리적 위해(physical harm), 설계자가 제품개발 당시 의도하지 않은 또는 예측하지 못한 위험 및 그에 대한 책임소재 문제 등과 같은 부정적 측면도 함께 나타났다.

문제는 기존의 ‘제품안전 규제’, ‘제조물책임 프레임워크’로는 앞서 열거한 디지털 신기술의 문제점과 위험에 대응하기에 역부족이며, 해당 이슈에 대한 소관 부처도 많은 국가에서 불분명하다는 것이다. 이에 OECD 소비자정책위원회(CCP; Committee on Consumer Policy) 산하 소비자제품안전작업반(WPCPS)은 향후 2년간 ‘디지털 신기술이 접목된 소비재가 소비자의 건강 및 안전에 미치는 영향’에 대한 연구 프로젝트를 진행할 예정이다. 이글에서는 디지털 기술이 접목된 제품이 소비자 안전에 미치는 영향과 관련한 OECD의 최근 논의 동향을 소개한다.

디지털 기기로 인한
인지장애, 도청 및 해킹 우려 등 안전 이슈 불거져

디지털 기술, 특히 AI 기술이 접목된 제품(이하 AI 제품)은 기존 제품과 복잡성, 예측가능성, 데이터 의존도, 인터페이스 등에서 차이가 있다. 우선, AI 제품은 고도의 복잡성을 띠기 때문에 안전성 평가 시 높은 전문성이 요구된다. 둘째, AI 제품의 머신러닝과 자율성, 예측불가능성 및 끊임없이 변화하는 특성으로 인해 해당 제품에 대한 지속적인 모니터링이 필요하다. 셋째, AI 제품은 데이터의 질에 따라 편향성을 보이는 등 여러 측면에서 영향을 받으므로 그 안전성도 데이터에 의존한다고 할 수 있다. 마지막으로, AI 제품은 사람과 상호 소통하기 때문에 위해의 범위가 ‘물리적 위해’ 이상으로 넓어질 수 있다.

디지털 기술 중 몰입형 VR과 관련한 안전 이슈는 인간의 인지기능과 밀접한 연관이 있다. VR에 노출된 사람의 두뇌는 인지장애, 결정·판단 장애, VR 환경에서 현실감이 보다 더 증가하는 경향, 충동·중독·메스꺼움(cybersickness)·구토·혼절 등의 증상을 보일 수 있다. 인간 두뇌의 거의 모든 활동이 인지기능에서부터 시작되기 때문에 인지기능에 문제를 야기하는 것은 큰 위험으로 평가된다.

영국의 소비자 시민단체인 전국소비자단체연합(NCF; National Consumer Federation)은 특히 센서와 소프트웨어(AI 포함)가 접목된 디지털 제품의 안전을 확보하기 위해 ‘안전 센싱(sensing)’ 원칙을 개발했다. 이 원칙에 따르면 센서는 위험한 상황들을 감지할 수 있어야 하며, 소비자(이용자)가 센서에 우선하는 제어 권한을 갖되 제3자는 해당 제품에 대한 제어 권한을 가져서는 안 된다. 또한 안전을 위해 보조적·보완적으로 작동하는 부품 및 기계들은 위험한 조건에 효율적이고 기능적으로 대응할 수 있어야 한다.

아울러 디지털 제품의 신뢰성도 안전 이슈에서 유의할 부분이다. 이때의 신뢰성은 ‘다수를 위한 AI, 알고리즘 및 데이터의 책임 있는 사용’을 의미한다. 일례로 애플의 ‘에어태그’는 보안이 취약할 경우 개인의 위치정보를 누설해 스토킹 문제를 야기할 수 있다. 또한 미국 제네시스 토이(Genesis Toys)의 대화형 스마트 인형 ‘마이 프렌드 카일라’는 2016년 독일에서 보안 결함을 이유로 판매가 금지되기도 했다. 인형 내 마이크에 녹음된 가족 간 대화 내용이 소프트웨어 개발사로 전송되는 구조라 도청 우려가 있는 데다, 인터넷 접속 보안이 취약해 그 데이터가 쉽게 해킹될 수 있다고 판단했기 때문이다.

생성형 AI가 책임 있게 설계(responsible generative AI by design)될 경우, 투명성·해석가능성·제어·친환경성·프라이버시를 강화할 수 있다. 예를 들어 생성형 AI가 소비자(이용자) 특유의 개인정보를 이용하지 않고 맥락적 언어 정보를 활용할 경우 개인정보 보호가 강화될 수 있다.

안전 위해성 4단계로 나눠 AI 제품 평가하는 영국···
미국은 AI 제품인지 우선 판단한 후 위해성 시험·검사

영국은 프리즘(PRISM; Product Safety Risk Assessment Methodology)이라는 제품 안전 위해성 평가시스템을 통해 제품의 위해성을 낮음·중간·높음·심각 단계로 관리하고 있다. 해당 시스템은 AI 등 신기술이 접목된 소비재의 위해성이 감내할 만한 수준인지 파악하고, 위해 관리 가능성, 위해 완화 가능성을 평가할 수 있도록 지원하는 등 유용한 도구와 정보를 제공한다고 평가받고 있다. 실제로 영국에서는 3D 프린터, 스마트홈 기기, 가정용 몰입형 VR 기기 등을 대상으로 프리즘을 사용한 평가가 이뤄졌다. 예를 들어 2020년 코로나 팬데믹 당시 3D 프린팅이 개인용 보호구(PPE; Personal Protective Equipment) 등의 제조를 위해 널리 사용되기 시작했는데, 이에 영국 정부는 3D 프린팅으로 제조한 PPE 제품의 안전성 및 책임 등에 관한 조사에 착수했다. 해당 조사는 물리적 위해와 디지털 위해, 즉 3D 디자인 파일이 해킹되거나 잘못 수정된 경우 등에 따른 위험뿐만 아니라 소비자가 곧 제조자이자 공급자인 3D 프린팅의 경우 어떻게 관리를 해야 하는지, 물리적·디지털 위해가 결합한 문제가 발생했을 때 담당 규제당국은 어디인지 등에도 초점을 맞췄다.

미국 소비자제품안전위원회(CPSC)는 디지털 기술의 위해에 선제적으로 대응하고자 2021년부터 특정 제품이 AI 등 디지털 기술 제품인지 등을 우선 판단한 후 시험·검사를 실시하는 하향식 평가 도구를 사용하고 있다. 또한 CPSC는 미국 국립표준기술연구소(NIST)와 협업해 IoT 제품의 안전성을 검토하고 핵심 디바이스와 관련한 기본 사이버보안 프레임워크를 마련해 스마트 온도조절기, 스마트 플러그 등을 조사했다. 그 결과 다수 제품에서 취약한 암호 설정 문제와 함께 스마트 플러그에 악성 펌웨어 등이 설치될 수 있다는 사실을 발견했다.

한편 지난해 한국소비자원은 스마트폰 모바일 앱을 통한 카셰어링 서비스 이용과 관련해 IoT 보안 및 렌털차량 안전 조사를 실시했다. 그 결과 이용자 신원 확인이 비대면으로 이뤄지는 모바일 환경의 특성으로 인해 해킹에 의한 신원도용과 같은 IoT 보안 위협과 무면허 운전 및 미성년자 운전 등의 위험이 있는 것으로 나타났다. 이에 한국소비자원은 IoT 보안 안전을 강화하기 위해 해당 사업자들에게 이용자 신원증명 절차를 추가적으로 도입할 것을 권고했다.

법·제도, 디지털 기술의 변화 속도 못 따라가
연성 규범 활용과 분야를 아우르는 규제 및 위해 평가 필요

최근 웨어러블 의료기기와 같이 여러 종류의 디지털 기술이 접목돼 다양한 기능을 구현하는 제품을 쉽게 접할 수 있다. 이러한 제품들의 편리함 이면에는 기존 제품에서와는 전혀 다른 형태의 위험이 존재할 수 있다. 또한 다양한 기술이 융합되며 나타나는 위험은 각각의 고유기능이 가진 위험성의 합보다 클 수 있다. 문제는 이러한 위험의 측정과 평가가 매우 어렵고 판단기준도 미비하다는 점이다.

한편 AI와 머신러닝을 적용한 자율주행 등의 디지털 기술은 현행 법·제도와는 규제적 괴리가 크다. 현행 법·제도는 개인 간, 법인 간의 법적 책임을 계약법과 같은 사법체계 및 형법 등에서 다루기 때문에 AI 및 머신러닝 자율시스템이 적용된 디지털 기술 제품과 관련된 분쟁에 효과적으로 대응하기 어렵다. 예를 들면 자연인인 운전자에게만 책임을 물을 수 있는 미국 애리조나주에서 시범운행 중이던 자율주행 우버 자동차에 보행자가 사망하는 사건이 있었는데, 이 경우 책임소재가 문제 됐다. 또한 디지털 기술은 하루가 다르게 변화·발전하고 있어, EU 「AI법」과 같이 법률을 통해 사전에 새로운 디지털 기술을 정의하고 적시성 있게 규제하는 것은 불가능에 가까운 만큼 규제의 실용성을 담보하기도 어렵다.

이에 사전규제보다 강제력은 없지만 실질적인 영향력을 끼치는 연성 규범(soft law)을 활용하는 것이 보다 효과적일 수 있다는 의견도 있다. 아울러 기존의 규제 및 위해 평가는 분야별로 나뉘어 있었으나, 향후엔 분야를 아우르는 수평적 규제 및 위해 평가가 요구된다. 마지막으로, 책임소재, 투명성, 윤리성이 부족한 생성형 AI의 데이터는 소비자와 소통이 가능한 심리 상담 로봇 등 스마트 융합 제품과 결합해 소비자의 정신적·심리적 위해 등을 야기할 수 있으므로 소비자 안전 관점에서 고려할 필요가 있다.

목록보기