GPT 4에서도 여전한 거짓말, "환각"

환각

GPT는 모르면 모른다고 말하는 대신, 가장 그럴듯한 거짓말을 늘어놓는다. 너무 그럴듯해서 믿지 않기가 어려울 정도로 거짓말을 늘어놓는다. 그걸 일반적으로 환각이라고 한다.

 

 

 

환어음

일반적으로 국제 무역거래에서 사용되는 환어음(Bill of Exchange)에 대해 chatGPT에게 질문을 해보기로 하였다. "step by step"으로 설명해달라고 하면 답변을 잘 해주곤 한다.

 

 

 

GPT 3.5

GPT 3.5가 정말 말도 안 되는 거짓말을 해주었다. 이게 실제로 존재하는 건지 검색까지 해봐야했다.

 

옛날 버전이라 성능이 나쁜 것일 수도 있으니, 그래서 이번엔 GPT 4에서 질문을 해보기로 했다.

 

 

 

 

GPT4

이번엔 문과 버전 거짓말이다. 정말 어쩜 이렇게 열심히 정교하게 거짓말을 할까.

 

 

 

 

 

개인적으로는 GPT를 최고의 개인가정교사로 활용 중이다. 하지만 종종 이렇게 말도 안 되는 거짓말을 늘어놓곤 해서, 계속 검증을 해가면서 사용해야 한다는 불편함이 있다.

 

끝없이 스스로 검증하려고 하는 비판 능력을 길러주기는 한다.