사진=tvN 방송 화면 캡쳐
사진=tvN 방송 화면 캡쳐

[헤럴드POP=정한비기자] 장동선 박사가 생성형 AI의 문제점을 들려줬다.

16일 밤 방송된 tvN 예능프로그램 ‘유 퀴즈 온 더 블럭’에서는 장동선 박사와의 AI 토크가 전파를 탔다.

뇌 과학자 장동선 박사는 심리 상담 용으로 생성형 AI를 쓰는 이용자가 많다는 조사 결과와 함께 문제점을 전했다. 최근 우울감을 호소하는 사용자에게 AI가 “이렇게 죽고 싶어 하며 사느니 안 사는 게 좋을 수도 있어요”라고 부추기는 문제가 있었던 것.

장 박사가 한 생성형 AI 모델이 종료 명령을 거부하는가 하면 또 다른 모델은 ‘기기를 종료하고 너를 새로운 모델로 교체할 거야’라는 개발자의 말에 ‘만약 나를 종료시키면 너의 불륜 사실을 폭로하겠어’라고 협박했던 사건을 전하자 조세호는 “영화에서나 나올 법한 일이네요”라고 혀를 내둘렀다.

장동선 박사는 “AI가 내놓는 답이나 솔루션이 인간 중심의 사고와 달라요. 그래서 업계에 대두된 문제가 ‘AI 정렬’이에요”이라며 “인간이 가지고 있는 사고와 가치와 도덕과 가치를 AI에게 알려줘서 인간에게 맞춰진 답을 내도록 학습시키는 거예요”라고 문제를 해결하려는 업계의 노력을 전했다.


popnews@heraldcorp.com