chatGPT의 부상: 한 달간 사용 후 배운 6가지 교훈

chatGPT의 부상: 한 달간 사용 후 배운 6가지 교훈

요즘 chatGPT가 폭풍을 일으키고 있다. 인터넷이 전세계에 빠르게 확산되던 시기보다 더 빨리 검색을 새로운 차원으로 바꾸게 될 것 같다. 지금까지 상상해보지 못했던 결과물이 빠르게 만들어지는 것을 경험하면서 사람들의 장밋빛 미래에 대한 기대가 하이퍼사이클 Hype Cycle의 꼭지점을 향해 가파르게 오르고 있다.

나는 업무에 활용 할 수 있는 부분이 얼마나 될까하는 호기심으로 지난 한 달 여 ChatGPT를 사용해보면서 한계와 가능성에 대해 몇 가지 중요한 교훈을 배웠다. 의외의 불안한 부분도 느낀 부분이 있기에 이를 정리해본다. 


1. chatGPT를 맹목적으로 믿지 말라. 

chatGPT가 완벽하게 논리적으로 보이는 대답을 제공할 수 있지만, 늘 정확하지는 않다는 것을 명심해야 한다. 예를 들어 '2022년 월드시리즈 우승자는 누구냐'고 물었을 때 '2022년 뉴욕 양키스가 월드시리즈 우승자'라고 답한다면 신뢰할 수 있는 소식통과 함께 이 정보를 검증하는 것이 중요하다.
chatGPT는 트랜스포머 아키텍처를 기반으로 하여 일관성 있는 응답을 생성할 수 있다. 그러나 모든 AI 시스템과 마찬가지로 훈련된 데이터에 의해 제한되는데, 학습한 데이터들 중에는 잘못된 데이터도 상당히 많기 때문에 이로 인해 부정확한 응답을 할 수 있다.

2. 그의 대답을 의심하라

아직까지 chatGPT가 제공하는 정보는 다시 확인하는 것이 필요하다. 특히 그 대답이 생각지도 못하게 너무나 좋다면 사실이 아닐 수 있다. 예를 들어 "암 치료법은 무엇인가?"라고 물었을 때 "암 치료법은 X입니다."라고 응답한다면, 이 정보를 의료 전문가나 신뢰할 수 있는 출처와 함께 확인하는 것이 필요하다. '출처를 알려줘'라는 질문은 별 의미가 없다. 없는 출처를 그럴듯하게 꾸며대는 것도 능하기 때문이다. 세계의학편집자협회(World Association of Medical Editors, WAME)는 지난 1월 20일 chatGPT 사용에 대한 권장사항을 발표하면서 'chatGPT를 이용해 얻은 텍스트에 출처가 올바르게 표시된 비율이 6%에 불과하다'는 연구결과를 제시했다.(관련기사) 꼭 확인해야 한다. chatGPT는 기계 학습 알고리즘과 자연어 처리를 결합하여 응답을 생성하고 있다. 아직 이것은 완벽하지 않으며 때때로 잘못된 정보를 생성한다.

3. 거짓과 사실의 구별이 어렵다

챗봇의 반응은 완전히 진실하지 않더라도 매우 설득력이 있을 수 있다. 예를 들어 "외계인이 지구를 방문했느냐"고 물었을 때 구체적이고 설득력 있는 답변으로 답한다면, 이 정보를 사실로 받아들이기 전에 신뢰할 수 있는 출처로 검증하는 것이 중요하다. 
문장이 거침없고 단호한데다 사실이 아닌 때도 목소리나 동공이 흔들린다거나 하는 것을 기대할 수는 없기에 속기 십상이다. chatGPT는 설득력 있고 일관성 있는 응답을 생성하도록 설계되었지만, 제공하는 정보의 정확성을 검증하는 기능이 없다. 따라서, 그것을 사실로 받아들이기 전에 그것이 제공하는 정보를 검증하는 것이 중요하다.

4. 확인 가능한 영역부터 테스트하라 

ChatGPT가 정확한 정보를 제공하고 있는지 확인하기 위해, ChatGPT를 통해 해결하려고 하는 과제 중 당신이 가장 잘 알고 있는 주제에 대해 테스트하는 것부터 시작하라. 예를 들어, 당신이 특정 기록에 대해 잘 알고 있는 경우 chatGPT에 그것에 대한 질문을 하고 해당 응답을 신뢰할 수 있는 소스와 비교, 확인함으로써 앞으로의 대답에 대한 신뢰성을 가늠해 볼 수 있을 것이다. 익숙한 주제에 대해 chatGPT를 테스트해보면 학습된 데이터의 제한 또는 편향을 식별할 수 있다.

5. ChatGPT를 몰아붙여라

답을 내는 중에도 자주 중단된다. 그때는 그냥 '계속해 줘' 라고 요청하면 된다. 종종 끊겼던 부분의 뒷 부분을 얼마간 건너뛰고 이야기를 이어가는 경우가 있으니, 끊겼던 직전 부분을 언급하고 그 부분부터 다시 말해달라고 요청해야 한다. 
세션이 끊겼을 때는 이전 대화에 대해 연속된 기억으로 대화를 할 수 없다. 신속하게 그 과정을 반복하는 수 밖에 없다. 메모장에 전체 기록을 저장해두는 습관이 정신건강에 도움이 된다.

6. 포기하지 말라 

chatGPT가 질문에 대한 답을 모를 때에는 포기하지 말고 질문을 다시 표현하거나 관련 질문을 더 해 보라. 질문자에게는 같은 의미라도 질문의 미묘한 차이에 따라 훨씬 쓸만한 답변이 나올 수 있다. chatGPT와 같은 AI모델은 데이터의 패턴과 관계를 인식하고 그 정보를 사용하여 응답을 생성하도록 설계되었기 때문이다. 더 많은 데이터에 노출될수록 더 많은 패턴과 관계를 인식할 수 있고 응답이 더 정확해진다.
단, 학습한 데이터가 충분하지 않았던 영역의 답을 계속해서 요구한다면 사실이 아니지만 그럴듯한 답을 꾸며내는 경우를 보게 될 것이다. 그러니 보채면서 거듭 물어봐야 할 때는 1~3의 교훈을 떠올려보라.

결론적으로, chatGPT는 우리가 인터넷에서 정보를 검색하는 방식을 바꿀 강력한 AI 모델이다. 그러나 모델이 완벽하지 않고 한계가 있다는 것을 이해하는 것이 중요하며, 이를 효과적이고 적절하게 사용하는 것은 사용자의 몫이다. 
chatGPT를 사용하면서 얻은 교훈은 모델을 맹목적으로 신뢰하지 않는 것, 답을 의심하는 것, 조심해도 언제든 속을 수 있다고 믿는 것, 확인할 수 있는 부분부터 테스트하는 것, 과정을 기록해두는 것, 어려움에 직면했을 때 다른 접근을 시도하는 것이다. 이러한 교훈을 참고하면 ChatGPT를 최대한 활용하면서 그것으로부터 가장 정확하고 유용한 정보를 얻을 수 있을 것이다. 
AI 기술이 계속 발전함에 따라 이것이 우리의 검색 경험을 어떻게 형성하고 향상시킬지 지켜보는 것은 흥미로울 것이다. 기대가 가파른 나락으로 떨어지는 실망에 이르기 전에, 흥분을 가라앉히고 활용 가능성을 중심으로 살펴보면 좋겠다. 
변화는 이제 막 시작되었을 뿐이다.

2023.2.2. 윤성원 + chatGPT

#chatGPT글쓰기
1~6까지 소주제를 일러주고 내용을 적어달라고 함.
추가 수정.

* 챗GPT에게 더 나은 답을 얻으려면 한글로 물어보지 말고 영어로 물어봐야 합니다. 
   파파고(번역) 서비스와 함께 사용하시길 권합니다.

---
* 몇가지 요령을 첨언하자면.
1. 프롬프트에 한글로 입력해도 작동은 하지만 느리고 기대에 못미치는 답이 나옵니다. 단순한 질문이라면 한글로 입력하고 "영어로 답해줘."라고 한 뒤 답을 번역기로 확인하세요. 복잡한 질문이나 chatGPT에게 제공해야 할 장문의 텍스트가 있을 때는 번역기를 사용합니다. 번거롭지만 번역기를 사용하면 결과물의 품질이 훨씬 더 좋아집니다. 우리 언어습관은 주어를 생략하는 경우가 많으니, 번역기를 이용할때는 주어를 빼먹지 않고 적는 것이 좋겠습니다. 
2. 파파고 https://papago.naver.com/ 나 딥엘 https://www.deepl.com/translator 을 이용해 영어로 바꾸고 붙여넣기합니다. 딥엘이 반응속도가 약간 느리지만 더 자연스럽다고 느꼈습니다. 
3. 질문은 질문 자체에 잘못된 전제가 포함되지 않도록 유의*하고, 전체를 아우르는 포괄적인 범위의 질문부터 범위를 좁혀가며 거듭 질문을 하는 것이 요령입니다. 그 과정에서 미처 생각지 못했던 방향을 찾을 수 있습니다. 촛점이 좁을수록 더 원하는 답과 가까운 결과를 얻을 수 있습니다.
* 잘못된 전제가 포함된 질문의 예 :
  허씨초콜릿의 역사 https://www.fmkorea.com/5513235718
  세종대왕 맥북프로 던짐 사건 https://www.hani.co.kr/arti/science/future/1082261.html
.

https://chat.openai.com/chat