플랫폼 알고리즘, 조회수 치중해
저품질 콘텐츠 노출하며 악순환
전세계적으로 규제 목소리 커져
유럽, 작년 세계 첫 'AI법' 제정
국내서도 관련 논의 활발해져
인공지능(AI)을 활용한 개인 창작 시장이 폭발적으로 성장하고 있는 가운데 그에 따른 저작권 침해와 가짜 영상 확산을 비롯한 부작용 우려도 커지고 있다. AI로 누구나 영상을 만들고 그림을 그릴 수 있게 된 시대지만, 이에 대한 사회적 논의는 여전히 초기 단계에 머물러 있다.
최근 오픈AI AI 동영상 생성·공유 애플리케이션(앱) '소라2' 공개 직후 이용자들이 공인 얼굴을 합성하고 특정 영화와 TV 프로그램, 캐릭터를 그대로 따라한 영상을 만들며 각종 논란이 불거졌다.
오픈AI는 소라에 원 콘텐츠 저작자가 별도로 콘텐츠 사용 금지를 신청해야 하는 '옵트아웃(opt-out)' 방식을 적용하고 있는데, 미국영화협회가 이에 따를 수 없다고 반발하고 나선 것이다.
또한 원피스, 포켓몬, 슈퍼 마리오 같은 일본 콘텐츠 캐릭터를 그대로 묘사한 영상들이 대량으로 생성되자 일본 정부 역시 오픈AI에 자국 예술 작품을 학습 데이터로 사용하는 행위를 중단할 것을 공식 요청하며 오픈AI를 압박했다.
기우치 미노루 일본 경제안보담당상은 "만화와 애니메이션은 일본이 세계에 자랑하는 문화자산이며 침해 행위는 용납할 수 없다"고 강력히 경고했다.
기존 스튜디오나 캐릭터의 분위기와 스타일을 모방하는 수준에서는 저작권 침해로 보기 어렵지만, 원본을 그대로 재현하거나 데이터 무단 학습 적발된 경우에는 침해로 간주될 수 있다. 그러나 이 경계가 모호해 논쟁은 끊이지 않고 있다.
또 소라 앱에서 역사적 인물에 대한 모욕적인 영상 생성이 줄을 잇자 유족들이 초상권 문제를 제기하며 강하게 반발하고 나섰다. 이에 오픈AI는 "최근 사망한 유명인의 대리인에게 영상 차단을 요구할 수 있도록 하겠다"고 한발 물러섰으며, 민권 운동가 마틴 루서 킹에 대해서는 영상 생성을 중단한다고 공식적으로 밝히기도 했다.
이같이 AI가 만들어낸 사실 같은 허구 영상이 정치나 사회 이슈에 악용되는 문제가 커질 수 있다는 점도 우려된다. 이미 딥페이크 기술로 만들어낸 허위 영상은 반복적으로 논란이 되고 있지만, AI 초상권과 관련한 뚜렷한 법적 근거가 없어 서비스 업체의 가이드라인 정도에 기반해 운영되고 있는 상황이다. 하지만 개별 업체마다 다른 가이드라인이 혼란을 가중시키고 있다는 지적이 나온다.
저작권·초상권 문제와 함께 콘텐츠의 질 저하에 대한 우려도 부작용으로 꼽힌다. 사회관계망서비스(SNS)와 동영상 플랫폼을 중심으로 AI가 자동 생성한 저품질 콘텐츠, 이른바 'AI 슬롭(AI Slop)'이 급속도로 퍼지고 있기 때문이다. 플랫폼 알고리즘이 이용자 흥미만을 맞춰 이 같은 저품질 콘텐츠를 더 많이 노출시키며 악순환을 낳고 있다.
이에 따라 전 세계적으로 규제 목소리가 커지는 가운데 유럽연합(EU)과 미국을 비롯한 일부 국가를 중심으로 포괄적인 AI 규제 방안들이 속속 나오고 있다. EU는 지난해 세계 최초로 AI를 포괄적으로 규제하는 'AI법(AI Act)'을 제정해 AI 공급자와 사용자에게 투명성 의무를 부과했다. 미국 캘리포니아주 역시 'AI 투명성법'을 제정해 월간 이용자 100만명 이상의 생성형 AI 제공자에게 AI 탐지 도구 제공과 비가시적·명시적 표시 의무를 부과하고 있다.
국내에서도 'AI 기본법'을 중심으로 제도 정비 논의가 활발히 진행 중이다. AI 기본법은 생성형 AI가 만든 이미지·영상·텍스트 등에 워터마크 표기를 의무화해 AI 생성물을 명확히 구분할 수 있도록 하는 하위 법령을 포함한다.
[안선제 기자]
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
'">
.png?type=nf190_130)
.png?type=nf190_130)