ChatGPT에 대한 신뢰의 문제

요즘 사람들이 ChatGPT엄청 많이 쓰고 있죠?

저도 사용하긴 합니다만 그렇게 ChatGPT를 좋아하지는 않습니다.

 

가장 큰 이유는 신뢰의 문제가 있기 때문입니다.

ChatGPT에게 어떤 정보를 물어보았을때 우리가 원하는 정보를 주는데 집중하는 것이 아닌 최대한 '있어 보이게' 답변하는데 초점이 맞춰져 있다고 생각이 들었습니다.

에를 들면

찾아보니 양파는 2005년에 발매한 노래도 없었고, 양파의 사랑했지만이라는 노래도 없더군요. 노래가사도 실시간으로 지어냅니다.

저는 의문이 들었습니다. 왜 모르면 모른다고하지. 거짓말을 해서 오히려 신뢰성을 떨어뜨릴까 하고요.

또 다른 예시입니다.

우선 제가 일부러 틀린 질문을 했습니다.

고려의 장군인데요.

답변 중 틀린 내용

1. 활약을 918년 ~ 1392년 ??? 사람이 300년 이상 살았다고??

2. 출생년도 지역 -> 현재 서울의 낙성대에서 948년 태어났구요..

3. 갑자기 조선시대 임진왜란의 이순신????

4. 강감찬 병법 찾아보니 그런거 없구요.

5. 그런말 한적도 없고 이토 토모후사??? 그런사람 찾아보니 없는데요??

6. 고려시대 뛰어난 장수가 어떻게 조선 독립투사가 되죠??

 

역사적 사실은 사실 자료의 출처와 진위여부가 매우 중요한데도, ChatGPT는 아무렇지 않게 책임감없이 아무말이나 해댑니다.

허언증이죠..

 

저는 요즘 그런 생각이 들더라구요. ChatGPT의 답변의 진위여부를 내가 계속해서 확인해야한다면 차라리 구글검색을 하고 자료를 내가 직접 교차검증하는 방식이 낫지 않나 하구요.

 

제가 내린 결론은 ChatGPT답변을 의심없이 신뢰하는 것은 매우 위험하다는 것입니다.