AI안전연구소, AI 인증 체계 및 딥페이크 탐지 모델 개발
현상선 '규제가 AI발전속도 못따라가' 지적…위협도출 체계 필요"
![[서울=뉴시스] 배경훈 부총리 겸 과학기술정보통신부 장관이 23일 오후 경기도 성남시 분당구 인공지능안전연구소를 방문해 AI 안전 관련 산학연 전문가 간담회를 하고 있다. (사진=과학기술정보통신부 제공) 2025.1](https://imgnews.pstatic.net/image/003/2025/10/23/NISI20251023_0021026791_web_20251023162112_20251023191316304.jpg?type=w860)
[서울=뉴시스] 심지혜 기자 = 배경훈 과학기술정보통신부 장관이 “인공지능(AI) 기술의 발전 속도가 너무 빠르다. 가이드라인만으로는 대응이 어렵다. AI 안전연구소를 중심으로 인증 기반의 신뢰체계를 구축해야 한다”고 23일 밝혔다.
배 장관은 이날 서울 AI 안전연구소에서 열린 산·학·연 전문가 간담회에서 “AI 산업 진흥만 고민할 게 아니라, 문제 없이 안전한 AI를 만들기 위한 체계도 병행해야 한다”며 “국가 차원의 AI 거버넌스는 이미 세워졌다. 이제 그 거버넌스를 실제로 작동시키는 중심축이 안전연구소가 돼야 한다”고 말했다.
그는 "AI 해킹 리스크가 본격화되면 문제가 걷잡을 수 없게 된다”며 "AI를 정말 잘 만들어 가야 한다. 만드는 과정에서 굿(Good) AI를 잘 만들고 잇는가 하는 측면에서 논의가 계속돼야 한다"고 강조했다.
김명주 AI안전연구소장은 "AI 기본법에서 인증을 민간에서 하고 있어 한국정보통신기술협회(TTA)와 협력해 평가와 인증이 한 흐름이 되도록 컨소시엄을 형성하고 있다"며 "안전연구소는 현재 이미지뿐 아니라 영상, 음성을 포괄하는 멀티모달 딥페이크 탐지 기술을 개발 중"이라고 설명했다.
이날 현장 참석자들은 빠르게 발전하는 AI 기술과 규제 사이의 속도 차이를 주요 과제로 지적했다.
배순민 KT 책임있는AI센터장은 "오늘 기준은 이렇지만 내일은 달라질 수 있을 정도로 기술 속도가 빠르다"며 "국가 기준도 빠르게 업데이트돼야 한다”고 말했다. 그는 "AI 에이전트, 피지컬AI 시대는 속도와 안전의 균형이 핵심 과제”라며 “국가도 민간과 함께 실시간 수준의 기준 보완이 필요하다"고 했다.
이상호 AI 세이프티·퀄리티 성과리더는 내년 1월 시행되는 AI 기본법과 관련해 “AI로 만든 이미지나 영상에 워터마크를 넣어도 잘라내면 무용지물”이라며 “보이지 않는 인비저블 워터마크 기술이 필수”라고 말했다. 이어 “AI가 만든 콘텐츠를 감지할 수 있는 기술적 대응이 뒷받침돼야 법이 실효성을 가질 수 있다”고 강조했다.
최대선 숭실대 AI안전성연구센터장은 “기존 가이드라인은 기술 발전을 따라잡지 못한다”며 “AI 레드팀을 위한 플레이그라운드를 만들어, 취약점을 공격적으로 검증하고 빠르게 보완하는 체계를 마련해야 한다”고 제언했다.
그는 "빠르게 변화하는 AI 시대엔 인증이나 가이드보다 더 낫다"며 "적극 공개와 실험을 통해 신뢰를 높이는 구조가 인증보다 실효적일 수 있다”고 말했다.
정부는 올해 안에 '국가 AI 안전 생태계 조성 종합계획'을 수립해, AI안전이 일반화 될 수 있게 한다는 방침이다.
배 장관은 “AI를 통해 산업 경쟁력을 확보해야 하는 건 분명하지만, 동시에 안전한 AI를 만들어야만 지속 가능한 성장도 가능하다”며 “대한민국이 가장 신뢰할 수 있는 안전한 AI를 만든다는 국제적 인지도를 쌓는 것"이라고 강조했다.
이어 "이제 우리나라도 글로벌 수준의 AI 기술력을 보여줘야 하는 때"라고 했다．
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
