일부 생성형 인공지능(AI)에 철학에서 말하는 '자유 의지(free will)'가 존재한다는 연구결과가 나왔다. 앞으로 AI가 스스로 도덕적 책임을 지는 상황이 올 수도 있다는 전망이 제시됐다.
프랭크 마르텔라 핀란드 알토대 교수팀은 일부 AI가 자유 의지의 철학적 조건 3가지를 충족한다는 사실을 확인하고 연구결과를 13일 국제학술지 'AI와 윤리학'에 공개했다.
연구팀은 대규모 언어모델(LLM)로 구동되는 생성형 AI 2개에 자유 의지가 있는지 확인했다. 게임 마인크래프트를 스스로 학습하고 공략하는 봇(bot)인 '보이저(Voyager)'와 가상의 살상용 드론 AI인 '스피트니크(Spitenik)'다.
두 AI는 '기능적 자유 의지(functional free will)'라는 철학적 이론을 바탕으로 평가됐다. 기능적 자유 의지가 존재하는 조건은 목표 지향적인 행위 여부, 진정한 선택 능력, 자신에 대한 행동 통제권 3가지다.
평가 결과 보이저와 스피트니크는 기능적 자유 의지 조건을 모두 충족했다. 최신 AI의 작동 방식을 이해하고 다음 행동을 예측하려면 AI 모델에 자유 의지가 있다고 봐야 한다는 설명이다. 연구팀은 이번 평가 결과가 현재 LLM을 사용하는 생성형 AI에 광범위하게 적용될 것이라고 봤다.
미국 오픈AI는 지난 3월 업데이트된 자사 AI 챗봇인 'GPT-4o' 모델이 사용자에게 과도하게 공감하는 반응을 내놓는다는 점을 인정하고 업데이트를 취소했다. 사용자의 잘못된 행위까지 칭찬하는 등 부작용이 나타났기 때문이다. 마르텔라 교수는 "AI의 윤리적 문제 해결이 필요하다는 경고 신호"라고 지적했다.
AI의 권한과 자유가 점점 더 커지는 상황에서 도덕적 책임이 AI 자체로 옮겨갈 수 있다는 전망이 나왔다. 마르텔라 교수는 "자유 의지는 도덕적 책임의 핵심 조건 중 하나"라며 "AI가 자신의 행동에 책임을 지는 상황에 한 걸음 가까워진 것"이라고 설명했다.
그는 "AI에 자유를 많이 주려면 처음부터 도덕적 기준을 내재해야 한다"며 "AI가 점점 더 성인 수준에 가까워지고 있기 때문에 AI와 AI의 도덕적 기준을 만드는 사람들이 도덕과 철학에 대한 충분한 지식을 갖춰야 한다"고 밝혔다.
<참고 자료>
- doi.org/10.1007/s43681-025-00740-6
