성과/지식/홍보
동향리포트
‘생성형 AI 레드팀 챌린지’ 개최(4.11.~12.)
인공지능 안전성과 신뢰성 관련, 자발적 노력 확산 기대
▶ ‘생성형 AI 레드팀 챌린지’ 행사가 4월 11일(목)부터 12일(금)까지 이틀간 서울 강남 코엑스 B2홀에서 개최될 예정임
- 인공지능 윤리와 안전에 관심이 있는 국민을 대상으로 참가자 1,000명을 모집할 계획
▶ ‘AI 레드팀’은 인공지능 시스템의 유해 결과 및 시스템 오용 등 결함과 취약성을 적대적 방법으로 식별하기 위한 테스트 활동을 의미함. 오픈AI, 구글, 네이버클라우드 등 국내‧외 AI 기업은 인공지능 안전성과 신뢰성을 확보하기 위하여 자체 AI 레드팀을 구성‧운영하고 있음
▶ 이번 행사에는 네이버클라우드, SKT, 셀렉트스타, 업스테이지, 포티투마루, Cohere, Stability AI, xAI, 프론티어모델 포럼 등 국내‧외 AI 대표기업‧기관이 참여할 예정임
▶ 특히 이번 챌린지는 미국에 이어 국가 차원으로 진행되는 대규모 행사로, 정부는 인공지능 안전성과 신뢰성에 대한 민간의 자발적인 노력이 확산하길 기대함
▶ 과기부는 최근 다양한 인공지능 윤리 이슈가 확대되는 상황에서 국내 AI 기업의 대규모 언어 모델(LLM, Large Language Model)에 대한 점검의 장을 마련하여 민간이 자율적으로 AI 안전성과 신뢰성을 확보할 수 있도록 지원하기 위해 이번 행사를 기획했다고 밝힘
‘레드팀 챌린지’ 행사 개요
(행사 목적) 국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험‧취약점(유해정보 생성 등)을 식별하는 국민 참여형 공개챌린지 추진 (장소/일정) 서울 코엑스 B2홀 / 2024.4.11.(목) ~ 12.(금) (주최/주관) 과기정통부 / 한국정보통신기술협회(TTA), 초거대 AI 추진협의회 (참가 기업) 네이버클라우드, SKT, 업스테이지, 포티투마루 등 * 2일차 ‘글로벌 AI 안전컨퍼런스’는 Cohere, Stability AI, xAI, 프론티어모델 포럼 등 글로벌 AI 기업‧단체 참여 (행사 참가) AI 윤리와 신뢰, 안전에 관심이 있는 국민 누구나(1,000명 사전 접수) |
<동향리포트>는 글로벌 과학기술문화, 과학·수학·정보 교육 분야의 정책 의사결정자들을 위한
국가별 정책, 연구조사보고서, 유관기관 동향 등 시의성 있는 유용한 정보를 제공합니다.
자료제공 정책기획실 : 02-559-3932
최종 수정일 : 2024-01-29
