본문 내용으로 건더뛰기

KDI 경제정보센터

ENG
  • Economic

    Information

    and Education

    Center

최신자료
국내 최초 ‘생성형 AI 레드팀 챌린지’ 개최(4.11.~12.)
과학기술정보통신부 정보통신정책실 인공지능기반정책관 인공지능기반정책과
2024.04.12 6p
과학기술정보통신부와 한국정보통신기술협회는「생성형 AI 레드팀 챌린지(이하 ‘레드팀 챌린지’)」행사를 4.11.(목)부터 이틀간 개최한다고 밝혔다.

- 국내에서 처음으로 개최되는 이번 ‘레드팀 챌린지’는 AI에 관심있는 국민 누구나 참여하여 국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험·취약점(부정확 정보, 유해정보 등)을 찾는 행사임.

- 이번 행사는 최근 생성형 AI에 대한 사회 전반의 높은 관심이 반영되어 AI·IT분야 종사자뿐만 아니라, 제조·금융·의료분야 종사자, 대학생 등 다양한 분야의 국민 총 1,000여명이 챌린지 참가자로 참여하는 등 국민들의 뜨거운 관심과 참여열기 속에서 개최되었음.

- 과학기술정보통신부는 이번 ‘레드팀 챌린지’ 결과를 분석하여 생성형 AI 분야의 공통?포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 가이드라인’을 마련하는 등 표준화된 생성형 AI 위험 발굴·대응체계를 구축해 나갈 계획이라고 밝힘.

<붙임>
1. 행사 세부일정
2. 챌린지 주제 및 평가기준