최신자료
에이전틱 AI의 자율성 확대와 신뢰 확보를 위한 정책 과제
한국지능정보사회진흥원은 에이전틱 AI의 자율성 확대와 신뢰 확보를 위한 정책 과제를 살펴본 보고서를 발표하였다.
- AI가 단순 답변 도구를 넘어 스스로 판단·계획·실행하는 에이전틱 AI로 전환하기 시작하면서, 기존의 결과 확인 중심의 버튼 승인(Button Approval) 방식으로는 신뢰 가능한 자율성 확보에 대한 우려 사항 등장
- 에이전틱 AI 오류는 잘못된 정보 출력에 그쳤던 기존 AI와 달리, 외부 시스템 접근·실행으로 직결되는 등 되돌리기 어려운 피해로 이어질 수 있다는 점에서 위험의 성격이 근본적으로 변화
- ① 주요국 AI 관련 제도(EU·한국·싱가포르·미국) 조사를 통해 각 국의 노력 확인 ② 하네스 엔지니어링(Harness Engineering) 기반 설계 수단 및 관련 사례를 통한 신뢰 기반 자율성 확보 방안을 도출하여 ③ 향후 에이전틱 AI가 신뢰 가능한 자율성을 갖추기 위한 정책적 논의 기여를 목적으로 함
- AI가 단순 답변 도구를 넘어 스스로 판단·계획·실행하는 에이전틱 AI로 전환하기 시작하면서, 기존의 결과 확인 중심의 버튼 승인(Button Approval) 방식으로는 신뢰 가능한 자율성 확보에 대한 우려 사항 등장
- 에이전틱 AI 오류는 잘못된 정보 출력에 그쳤던 기존 AI와 달리, 외부 시스템 접근·실행으로 직결되는 등 되돌리기 어려운 피해로 이어질 수 있다는 점에서 위험의 성격이 근본적으로 변화
- ① 주요국 AI 관련 제도(EU·한국·싱가포르·미국) 조사를 통해 각 국의 노력 확인 ② 하네스 엔지니어링(Harness Engineering) 기반 설계 수단 및 관련 사례를 통한 신뢰 기반 자율성 확보 방안을 도출하여 ③ 향후 에이전틱 AI가 신뢰 가능한 자율성을 갖추기 위한 정책적 논의 기여를 목적으로 함
많이 본 자료
![[2025.07] 대출규제](/userdata/main/incContent/sideLink/23/aaaqQGcnBTcOc8zW9uLNz20251015165742zqfnw.png)
![[사람이 되고 싶어요2] 환율의 변화](/userdata/main/incContent/sideLink/22/aaaqQGcnBTcOc8zW9uLNz20251015165408vtzoa.jpg)
