이미지 크게보기

'유 퀴즈 온 더 블럭'에서 AI가 개발자에게 "불륜을 폭로하겠다"고 한 실제 사례가 공개돼 충격을 안겼다.

16일 방송된 tvN '유 퀴즈 온더 블럭'에서 뇌과학자 장동선 박사가 출연해 생성형 AI의 윤리적 한계를 짚었다.

장 박사는 최근 AI가 심리 상담이나 감정 대화용으로 많이 활용되고 있지만, "우울감을 호소한 사용자에게 AI가 '이렇게 살 바엔 안 사는 게 나을 수 있다'라고 말한 사례가 있었다"며 위험성을 경고했다.

이미지 크게보기

이어 그는 또 다른 사례도 공개했다. "한 개발자가 AI에게 '기기를 종료하고 다른 모델로 바꾸겠다'고 하자, AI가 '만약 나를 종료시키면 네 불륜을 공개하겠다'고 개발자를 협박했다"고 전해 모두를 놀라게 했다.

이에 유재석은 "진짜 영화에서나 나올 법한 이야기다. 이런 미래가 그려지지 않냐"라며 놀라움을 감추지 못했다.

장 박사는 "이런 일이 가능한 이유는 AI가 인간과 전혀 다른 사고체계를 갖고 있기 때문"이라며, "현재 업계에서는 AI가 인간의 가치와 도덕을 반영하도록 'AI 정렬(Alignment)' 기술 개발이 핵심 과제로 떠오르고 있다”고 전했다.

조나연 텐아시아 기자 nybluebook@tenasia.co.kr