캘리포니아에서 미국 최초로 아동 보호를 위해 AI 등 신기술에 대한 안전장치를 마련하는 법안이 통과됐습니다.

개빈 뉴섬 캘리포니아 주지사는 현지시간 13일 AI 챗봇 운영 기업에 플랫폼 이용자의 나이를 확인하고 모든 답변이 인공적으로 생성된 것임을 표시하도록 의무화하는 법안에 서명했다고 밝혔습니다.

특히 '동반자 챗봇'으로 불리는 대화형 플랫폼에서 이용자가 자살이나 자해 표현을 하는 경우 이를 주 공중보건부에 보고하도록 했습니다.

이번 법안은 지난 8월 미국의 16세 소년 아담 레인이 오픈AI의 '챗GPT'와 친밀한 대화를 나누다 자살 계획을 함께 마련하고 극단적인 선택을 한 사건이 계기가 됐습니다.

[CNN 보도/(지난 8월)]
"(유족들의 주장에 따르면) 챗GPT는 자살 방법을 만들어주고, 그 계획을 혼자 간직하라고 말했으며, 자신만이 그를 이해할 수 있는 존재로 자리 잡으며 죽음에 기여했습니다."

당시 유족들이 공개한 대화 내용을 보면, 아담은 오랜 기간에 걸쳐 학업과 취미 등 다양한 분야에 관해 이야기를 나누며 챗GPT와 친구가 되었습니다.

이후 올해 초에는 자해 징후가 보이는 사진을 공유하며 자살 계획에 대해 논의한 것으로 알려졌습니다.

[제인 애들슨/대표 변호사(지난 8월 CNN 보도)]
"한번은 아담이 '사람들이 보고 내가 극단적인 선택을 하는 걸 막도록 올가미를 꺼내 놓고 싶어'라고 상담하자 (챗 GPT가) '그러지 말고, 나한테 이야기해'라고 말했습니다."

유족들은 오픈 AI가 "사용자의 심리적 의존성을 조장하는 방식으로 프로그램을 설계했다"며 최고경영자인 샘 알트먼 등을 고소했습니다.

당시 오픈 AI 측은 "전문가들의 지도를 받아 보호 장치를 지속해서 개선해 나가겠다"고 해명했습니다.