최신자료
생성형 AI 시대의 생체인식 기술의 기회와 도전
한국지능정보사회진흥원은 생성형 AI 시대의 생체인식 기술 동향과 시사점을 분석한 보고서를 발표하였다.
- 생성형 AI는 생체인식 기술의 성능 향상을 제고하는 기회인 동시에 딥페이크와 같은 악용 사례를 증가시키는 위협으로 작용함. 본 보고서에서는 생체인식 기술의 다양한 활용 사례, 법제도 및 기술 동향을 분석하고, AI와 생체인식의 긍정적·부정적 영향을 균형 있게 다루며, 이에 대한 시사점을 제시함.
- 생체인식 기술은 항공 등 국경관리, 모바일 뱅킹, 전자 결제, 모바일 기기의 개인정보보호 등을 위한 용도로 주요 활용됨. 공항의 자동출입국심사시스템은 얼굴인식과 지문인식을 활용하며, 매장에서의 신원확인 및 결제 등을 위해서 사용되는 Amazon ONE은 손바닥 인식의 대표 사례이고, 애플 비전 프로 접속을 위한 홍채인식, 금융결제시 본인확인을 위한 목소리 인식 등의 생체인식 서비스가 활발히 활용 중에 있음.
- [법제도 및 정책동향] EU는 2024년 8월 제정된 인공지능법에서 생체인식 기술의 활용을 고위험군으로 분류하여 공급자와 서비스 제공자에게 중대한 의무를 부과하고 있으며 위반시 막대한 벌금이 부과됨. 미국 상원에서는 일명 가짜 금지법이 발의 되어 승인되지 않은 불법 저작물의 제작, 호스팅, 공유에 대한 책임을 명시하고 있음.
- [기술동향] 인공지능 기술의 발달로 사진이나 영상에서 얼굴을 복제하여 AI 아바타를 생성하거나, 얼굴을 교체하는 서비스가 활발히 활용되고 있음. 음성 복제의 경우도 인공지능을 활용하여 매우 손쉬운 작업으로 가능해지고 있음.
- Amazon ONE의 경우 생성형 AI를 활용해 수백만개의 손바닥 데이터를 합성하여 학습에 활용하였으며, 학습을 위한 이미지 데이터 라벨링 또한 자동으로 생성하여 활용하고 있음. 독일에서는 생성형 AI를 활용한 최초의 대규모 아동 얼굴 이미지 데이터를 합성하여 아동 얼굴인식 정확도 제고에 활용하고 있음. 반면에, 생성형 AI는 손쉬운 딥페이크 제작을 가능하게 한다. 미국 바이든 대통령의 음성을 불법 복제하여 선거 캠페인에 활용하거나, 싱가포르 총리의 영상을 이용한 딥페이크 영상의 제작, 딥페이크 영상회의를 통한 대규모 금융 사기 등 생체인식 기술에 부정적인 영향을 미치고 있음.
- 생성형 AI 기술이 생체인식 기술의 정확성과 효율성 향상에 기여하고 있는데 반하여, 이를 활용한 딥페이크 기술은 생체인식 기술에 큰 위협을 초래하고 있음. 생성형 AI 활용에 대한 적절한 규제와 딥페이크 탐지 기술과 같은 기술적 대응이 향후 중요한 과제임. 더불어, 발전하는 딥페이크의 위협에 대응하기 위한 수단으로 멀티모달 생체 인증과 다중 요소 인증의 활용이 필요함. 생체인식 기술의 활용 확산에 따른 사용자의 우려 및 불안감을 해소하기 위한 사회적인 합의 및 제도적인 뒷받침 또한 고려되어야 함.
- 생성형 AI는 생체인식 기술의 성능 향상을 제고하는 기회인 동시에 딥페이크와 같은 악용 사례를 증가시키는 위협으로 작용함. 본 보고서에서는 생체인식 기술의 다양한 활용 사례, 법제도 및 기술 동향을 분석하고, AI와 생체인식의 긍정적·부정적 영향을 균형 있게 다루며, 이에 대한 시사점을 제시함.
- 생체인식 기술은 항공 등 국경관리, 모바일 뱅킹, 전자 결제, 모바일 기기의 개인정보보호 등을 위한 용도로 주요 활용됨. 공항의 자동출입국심사시스템은 얼굴인식과 지문인식을 활용하며, 매장에서의 신원확인 및 결제 등을 위해서 사용되는 Amazon ONE은 손바닥 인식의 대표 사례이고, 애플 비전 프로 접속을 위한 홍채인식, 금융결제시 본인확인을 위한 목소리 인식 등의 생체인식 서비스가 활발히 활용 중에 있음.
- [법제도 및 정책동향] EU는 2024년 8월 제정된 인공지능법에서 생체인식 기술의 활용을 고위험군으로 분류하여 공급자와 서비스 제공자에게 중대한 의무를 부과하고 있으며 위반시 막대한 벌금이 부과됨. 미국 상원에서는 일명 가짜 금지법이 발의 되어 승인되지 않은 불법 저작물의 제작, 호스팅, 공유에 대한 책임을 명시하고 있음.
- [기술동향] 인공지능 기술의 발달로 사진이나 영상에서 얼굴을 복제하여 AI 아바타를 생성하거나, 얼굴을 교체하는 서비스가 활발히 활용되고 있음. 음성 복제의 경우도 인공지능을 활용하여 매우 손쉬운 작업으로 가능해지고 있음.
- Amazon ONE의 경우 생성형 AI를 활용해 수백만개의 손바닥 데이터를 합성하여 학습에 활용하였으며, 학습을 위한 이미지 데이터 라벨링 또한 자동으로 생성하여 활용하고 있음. 독일에서는 생성형 AI를 활용한 최초의 대규모 아동 얼굴 이미지 데이터를 합성하여 아동 얼굴인식 정확도 제고에 활용하고 있음. 반면에, 생성형 AI는 손쉬운 딥페이크 제작을 가능하게 한다. 미국 바이든 대통령의 음성을 불법 복제하여 선거 캠페인에 활용하거나, 싱가포르 총리의 영상을 이용한 딥페이크 영상의 제작, 딥페이크 영상회의를 통한 대규모 금융 사기 등 생체인식 기술에 부정적인 영향을 미치고 있음.
- 생성형 AI 기술이 생체인식 기술의 정확성과 효율성 향상에 기여하고 있는데 반하여, 이를 활용한 딥페이크 기술은 생체인식 기술에 큰 위협을 초래하고 있음. 생성형 AI 활용에 대한 적절한 규제와 딥페이크 탐지 기술과 같은 기술적 대응이 향후 중요한 과제임. 더불어, 발전하는 딥페이크의 위협에 대응하기 위한 수단으로 멀티모달 생체 인증과 다중 요소 인증의 활용이 필요함. 생체인식 기술의 활용 확산에 따른 사용자의 우려 및 불안감을 해소하기 위한 사회적인 합의 및 제도적인 뒷받침 또한 고려되어야 함.
많이 본 자료
![[팀튜링의 디지털 오디세이] 제1화 UAM의 미래](/userdata/main/incContent/sideLink/19/aaaGHKBjsPPI5g31szc-y20240605110816byhta.png)
![[2024.04] 물가상승](/userdata/main/incContent/sideLink/20/aaaGHKBjsPPI5g31szc-y20240605111046bpogp.jpg)
