챗GPT는 왜 거짓말을 하는가
*이 글은 외부 필자인 성원용님의 기고입니다. 챗GPT를 사용해 본 사람들은 긍정과 부정 두 부류로 극단적으로 나뉘는데, 부정적인 반응의 가장 큰 이유는 답이 연도나 이름 등 세부적인 면에서 부정확한 경우가 많기 때문입니다. 예를 들어 튀르키예는 한국전쟁 초기부터 한국에 군대를 파견하였고, 한국전쟁이 한창인 1952년 NATO에 가입했지만, 챗GPT는 튀르키예가 나토의 일원으로 (처음부터) 한국전쟁에 참전하였다고 좀 틀린 정보를 줍니다. 그리고 챗GPT에 놀라서 구글이 바드(Bard) AI를 대항마로 발표하였는데, 시연 장소에서 제임스 웹 우주 망원경이 한 일을 바드 AI에 물었을 때 잘못된 사실을 답하여 망신을 당했습니다. 이렇게 챗GPT나 바드 AI나 둘 다 잘못된 정보를 알려줄 위험이 다분히 있습니다. 암기에 약한 챗GPT 암기능력 테스트를 위해 챗GPT에 애국가를 외우도록 시켜보았습니다. Wonyong Sung : 한국의 애국가 가사를 알고 있니? 한번 외워봐. 챗GPT : 애국가의 가사는 다음과 같습니다. 동해물과 백두산이 마르고 닳도록, 하느님이 보우하사 우리나라 만세. 무궁화 삼천리 화려강산, 대한 사람, 대한으로 길이 보전하세. 가장 아름다운 것은 내 조국이요, 그리고 우리 여러분이 있소서, 이것이 우리가 사랑하는 국가입니다, 그것을 지키기 위해 우리가 살아왔으니, 이것을 지켜내야 할 것입니다. 애국가 1절은 잘 외웠는데, 2절은 완전히 엉터리입니다. 앞의 글에서 챗GPT는 생성형 언어 모델이고, 글을 꼬리에 꼬리를 무는 식으로 발생시킨다고 하였습니다. (참조 - 챗GPT에서 G와 T는 무엇인가) 도중에 한 번 틀리면 다시 돌아오기가 어렵습니다. 물론 이 문제를 완화하기 위한 훈련법도 고안이 되고는 있습니다. 더 심각한 문제가 있습니다. 챗GPT는 자기의 답이 틀렸다는 인식이 없습니다. 만약 사람이라면 "글쎄요. 좀 자신이 없는데요" 하면서 답을 냈을 것입니다. 그래도 신기한 것은 2절은 전혀 못 보던 가사입니다만, 애국의 뜻을 충분히 담고 있다는 점입니다.