한국과학창의재단

한국과학창의재단

통합검색

동향리포트

‘생성형 AI 레드팀 챌린지’ 개최
원문제목과기정통부, '생성형' AI레드팀 챌린지' 개최
출처https://www.msit.go.kr/bbs/view.do?sCode=user&bbsSeqNo=94&nttSeqNo=3184221
분야유관기관동향 주제SWAI교육
유형단신 발행일2024-03-21
등록일2024-03-25 작성자장미경 선임연구원
조회172 추천0 추천하기

생성형 AI 레드팀 챌린지개최(4.11.~12.)

인공지능 안전성과 신뢰성 관련, 자발적 노력 확산 기대


생성형 AI 레드팀 챌린지’ 행사가 411()부터 12일(금)까지 이틀간 서울 강남 코엑스 B2홀에서 개최될 예정임

 

- 인공지능 윤리와 안전에 관심이 있는 국민을 대상으로 참가자 1,000명을 모집할 계획


 ‘AI 레드팀은 인공지능 시스템의 유해 결과 및 시스템 오용 등 결함과 취약성을 적대적 방법으로 식별하기 위한 테스트 활동을 의미함. 오픈AI, 구글, 네이버클라우드 등 국내AI 기업은 인공지능 안전성과 신뢰성을 확보하기 위하여 자체 AI 레드팀을 구성운영하고 있음

 

이번 행사에는 네이버클라우드, SKT, 셀렉트스타, 업스테이지, 포티투마루, Cohere, Stability AI, xAI, 프론티어모델 포럼 등 국내AI 대표기업기관이 참여할 예정임

 

▶ 특히 이번 챌린지는 미국에 이어 국가 차원으로 진행되는 대규모 행사로, 정부는 인공지능 안전성과 신뢰성에 대한 민간의 자발적인 노력이 확산하길 기대함

 

과기부는 최근 다양한 인공지능 윤리 이슈가 확대되는 상황에서 국내 AI 기업의 대규모 언어 모델(LLM, Large Language Model)에 대한 점검의 장을 마련하여 민간이 자율적으로 AI 안전성과 신뢰성을 확보할 수 있도록 지원하기 위해 이번 행사를 기획했다고 밝힘



레드팀 챌린지행사 개요

 

  (행사 목적)  국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험취약점(유해정보 생성 등)을 식별하는 국민 참여형 공개챌린지 추진

  (장소/일정)  서울 코엑스 B2/ 2024.4.11.() ~ 12.()

  (주최/주관)  과기정통부 / 한국정보통신기술협회(TTA), 초거대 AI 추진협의회

  (참가 기업)  네이버클라우드, SKT, 업스테이지, 포티투마루 등

                    * 2일차 글로벌 AI 안전컨퍼런스Cohere, Stability AI, xAI, 프론티어모델 포럼 등 글로벌 AI 기업단체 참여

  (행사 참가)  AI 윤리와 신뢰, 안전에 관심이 있는 국민 누구나(1,000명 사전 접수)







<동향리포트>는 글로벌 과학기술문화, 과학·수학·정보 교육 분야의 정책 의사결정자들을 위한

국가별 정책, 연구조사보고서, 유관기관 동향 등 시의성 있는 유용한 정보를 제공합니다.

자료제공 정책기획실 : 02-559-3932

최종 수정일 : 2024-01-29