배경훈 부총리 겸 과학기술정보통신부 장관이 23일 인공지능(AI)안전연구소에서 산·학·연 전문가들과 간담회를 열고, 이와 관련된 정책을 논의했다.
AI안전연구소는 지난 2023년 말부터 영국, 미국, 일본 등 주요국들이 다양한 AI 위험에 대응하기 위해 설립했다. 우리나라도 글로벌 대응과 국가 차원의 AI 안전성 확보를 위해 지난해 안전연구소를 설립한 이래 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업을 하고 있다.
배경훈 부총리는 안전연구소에서 딥페이크 탐지 기술부터 미래 AI 위험 연구, AI 안전 평가 수행, AI 안전 정책, 글로벌 AI 협력을 수행하는 직원들을 격려했다. 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 본뒤 AI의 지속 가능한 혁신과 안전과 신뢰의 균형을 갖추면서 건전한 AI 환경을 구축하도록 AI 위험 대응을 위한 기술 개발 현황과 AI안전 생태계 조성 방안을 주제로 간담회도 진행했다.
첫 세션에서는 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황과 대응 방향을 논의했다. 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 따른 우리나라의 AI 위험 대응과 안전 확보를 위해 ‘(가칭)국가AI 안전 생태계 조성 종합계획’을 마련하기 위한 방안도 논의했다.
간담회 참석자들은 AI 안전 생태계를 조성해 안전하고 신뢰할 수 있는 AI를 개발하고, 활용하는 환경을 만들어야 한다고 강조했다.
배경훈 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI안전이 모든 산업과 국민 생활에 녹아들도록 과기정통부가 관계부처, 유관기관과 연내 ‘(가칭)국가AI 안전 생태계 조성 종합계획’을 마련할 계획”이라고 말했다.
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
.png?type=nf190_130)
