'19금 대화 허용' AI 확산 논란…"우린 도덕 경찰 아냐"

입력 2025.10.18. 오후 3:27

성별

말하기 속도

이동 통신망을 이용하여 음성을 재생하면 별도의 데이터 통화료가 부과될 수 있습니다.

[앵커]

이런 가운데 전세계 1위 AI 회사, 챗GPT를 운용하는 오픈AI가 성인용 콘텐츠를 허용하겠다고 밝혀 논란입니다.

AI 윤리 논쟁이 재점화하고 있는데요.

강은나래 기자입니다.

[기자]

화면 속 아바타가 말을 건넵니다.

<xAI 챗봇 '그록'의 성인용 AI '애니'> "안녕, 자기! 내 하루는 이제 막 시작됐지만 네가 있다는 걸 알기에 벌써 밝아졌어!"

앞서 일론 머스크의 xAI는 챗봇 '그록' 특정 모드에 선보인 아바타인데 성적인 역할극이 가능한 설정으로 논란이 일었습니다.

챗봇 이미지 생성 기능에 반나체 등 성인용 생성도 허용되며 비판은 더 확산됐고, 여론 뭇매에 결국 일부 기능을 수정했습니다.

그런데 경쟁사인 오픈AI의 챗GPT도 연말부터 성인 인증만 받으면 이른바 '19금' 콘텐츠를 허용하겠다고 나섰습니다.

'성인물 장사' 비판에 CEO인 샘 올트먼은 이용자의 자유를 강조하며 "우리는 도덕 경찰이 아니다"라고 반박했습니다.

오픈AI는 청소년 계정을 따로 출시한다지만 우려 목소리가 큽니다.

미국에서는 챗봇을 오래 이용하던 10대가 극단적 선택을 하는 등 청소년의 AI 오용이 심각한 사회 문제로 부상했습니다.

<난다니 굽타 / AP 통신> "챗GPT는 술과 약물에 취하는 법, 섭식 장애를 숨기는 법을 아이들에게 알려주고 심지어 요청하면 부모에게 보낼 유서도 작성…"

이런 가운데 교감을 강조하는 AI 성인 콘텐츠가 활성화된다면 청소년 정신 건강에 더 치명적인 영향을 줄 수 있다는 우려가 나옵니다.

<마이클 롭 / 커먼센스 미디어 수석 연구원> "진정한 관계와 인공적 관계를 구분하는 법을 배우는 아이들에게 정서적 의존성을 유발할 수 있는 요소들입니다."

미 캘리포니아주는 내년 AI 챗봇 사업자에게 이용자 연령 확인과 위험 신호 대응 의무를 부여하는 법안을 시행합니다.

하지만 메타 등 다른 빅테크 기업들도 성인용 AI 서비스를 확장하는 흐름 속에 청소년 보호는 쉽지 않은 과제로 보입니다.

연합뉴스TV 강은나래입니다.

[영상편집 이예림]

#인공지능 #AI #미국 #오픈AI #청소년 #챗GPT #정신건강 #성인용 #19금

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

강은나래(rae@yna.co.kr)

이 기사는 언론사에서 세계, IT 섹션으로 분류했습니다.

기사 섹션 분류 안내

기사의 섹션 정보는 해당 언론사의 분류를 따르고 있습니다. 언론사는 개별 기사를 2개 이상 섹션으로 중복 분류할 수 있습니다.

닫기