과학기술정보통신부와 한국정보통신기술협회는「생성형 AI 레드팀 챌린지(이하 ‘레드팀 챌린지’)」행사를 4.11.(목)부터 이틀간 개최한다고 밝혔다.
- 국내에서 처음으로 개최되는 이번 ‘레드팀 챌린지’는 AI에 관심있는 국민 누구나 참여하여 국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험·취약점(부정확 정보, 유해정보 등)을 찾는 행사임.
- 이번 행사는 최근 생성형 AI에 대한 사회 전반의 높은 관심이 반영되어 AI·IT분야 종사자뿐만 아니라, 제조·금융·의료분야 종사자, 대학생 등 다양한 분야의 국민 총 1,000여명이 챌린지 참가자로 참여하는 등 국민들의 뜨거운 관심과 참여열기 속에서 개최되었음.
- 과학기술정보통신부는 이번 ‘레드팀 챌린지’ 결과를 분석하여 생성형 AI 분야의 공통?포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 가이드라인’을 마련하는 등 표준화된 생성형 AI 위험 발굴·대응체계를 구축해 나갈 계획이라고 밝힘.
<붙임>
1. 행사 세부일정
2. 챌린지 주제 및 평가기준