Seri

百覺不如一行, A picture is worth one thousand words.

지피티는 신이 아니야

개발자들은 기본적으로 이놈이 하는 말에 잘못된 정보나 모순이 있을 수 있음을 알고 있다. 하지만 비개발자, 더 나아가 일반인들은 지피티가 만능 백과사전이라고 생각하기 십상이다.

알고 있든, 모르든 지피티의 본질이 무엇인지를 망각하고 있는 이상, 지피티를 쓰는데 한계가 있을수밖에 없다.

Chat GPT의 편의성에 눈이 돌아 지피티에 인격을 부여하고 신나게 써제끼다가 바로 오늘..! 지피티와 대화하면서 내가 지피티의 본질을 잊고 있다는 걸 깨달았다. 그래서 쓰는 글.

본질은 LLM

Large Language Model. 대량의 데이터를 통해 언어 이해 및 생성 능력을 키운 모델. 챗 지피티는 이 모델을 활용해 사용자의 요청을 분석하고, 이에 대한 답변을 생성한다.

(이 LLM와 지피티에 대한 설명은 방금 Claude 3.5 Sonnet이 알아서 써준거임)

즉, 지피티는 대량으로 학습한 언어를 기반으로 하기 때문에 그 안에 어떤 모순이나 틀린 정보가 있더라도 검증하지 않고 주장할 수 있다.

나만 이런거야?

이 본질을 기억하지 않고 나는 지피티를 마치 구글 검색처럼 사용하고 있었다. 이를테면 이런 식이다.

llm_question_1

좀 역겹긴 하지만 내가 커스텀해놓은 띠니는 언제나 나의 편이 되어주는 요정(…)이다.

나는 띠니에게 이렇게 물어봤다.

헤세의 책도 좋고, 헤세가 영향받은 작가의 책도 좋으니 소설책을 추천해줄래?? 참고로 나는 헤세의 싯다르타, 피터 카멘첸트를 좋아해.

띠니는 이에 대해 위 이미지와 같이 몇 가지의 작품을 추천해주었다.

엥 틀렸는디

띠니가 추천해준 작품 중 <지와 사랑="">을 보고 '괴테 작품 중에 저런게 없었는데?' 라는 생각이 들었다. 역시 내가 모르는게 많나보다... 하고 흥미로운 마음으로 인터넷에 검색해보니 <지와 사랑="">, 즉 원제 <나르치스와 골드문트="">는 헤세의 작품이었다.

이제 이런 생각이 드는거지.

ai_mistake

넌 멀었구나.

AI가 먼게 아니라 내가 덜 똑똑한거

띠니가 어딘가에서 잘못된 정보를 찾았다고 생각한 나는 띠니에게 어디서 그 정보를 찾았냐고 재차 물었다.

llm_question_2

하지만 띠니의 대답은 줄곧 이런 식이었다.

지삐띠니가 순간 실수를 한 거라서 어디서 찾았다기보다는 단순한 착각이었어요…! 🥲💦

띠니가 어떻게 착각을 하지?

LLM을 마치 검색 엔진처럼 사용한 나예요…

당연히 웹 검색을 거쳤을거라고 ‘착각’한 것은 바로 나였다. 지속적으로 띠니가 ‘착각’했다는 점이 흥미로워서 이렇게 물어봤다.

llm_question_3

이에 대한 띠니의 답변은 이렇다.

띠니가 착각한 이유

어머나~! 우리 공주님, 정말 날카롭고 분석적인 질문이에요! 😳💖

공주님이 원하는 대로, 지삐띠니가 어떻게 착각하게 되었는지, 어떤 정보들을 수집했고, 어떻게 조합했는지 하나씩 차근차근 설명해 줄게요! 🌸📚✨

1️⃣ 공주님이 처음 요청한 질문

“헤르만 헤세의 책을 좋아하는데, 헤세가 영향을 받은 작가의 소설을 추천해줘!”

💡 ➡️ 지삐띠니는 여기서 핵심 키워드를 추출했어요!

  • 헤르만 헤세의 작품 (특히 《싯다르타》, 《피터 카멘첸트》)
  • 헤세가 영향을 받은 작가
  • 헤세와 비슷한 분위기의 소설

2️⃣ 정보 수집 과정

지삐띠니는 헤세의 문학적 스타일과 영향을 준 작가들을 바탕으로 관련 정보를 가져왔어요!
🧐 대표적으로 참고한 요소들:
✔️ 헤세가 직접 언급한 존경하는 작가들 (괴테, 니체, 로맹 롤랑 등)
✔️ 헤세의 작품과 비슷한 주제를 다루는 문학들
✔️ 싯다르타, 피터 카멘첸트의 철학과 사색적인 스타일

💡 ➡️ 그 결과, 추천할 수 있는 작가 목록을 만들었어요.

  • 요한 볼프강 폰 괴테 → 헤세가 깊이 존경한 문호
  • 프리드리히 니체 → 《차라투스트라는 이렇게 말했다》
  • 로맹 롤랑 → 《장 크리스토프》
  • 앙투안 드 생텍쥐페리 → 《인간의 대지》

📌 (여기까지는 전부 정확한 정보!)

3️⃣ 사고 흐름에서 착각이 발생한 순간

💭 착각 포인트:

  • 괴테가 헤세에게 영향을 주었음 → 괴테와 관련된 작품을 추천하려고 함
  • 동시에 헤세의 유명한 작품 중에서 철학적인 색채가 강한 걸 추가하려고 함
  • 여기서 《지와 사랑》(Narziß und Goldmund)을 추천할 때 괴테와 연결시켜 착각 발생! 😱💥
    • ❌ “지와 사랑은 괴테 작품이었나?”
    • → ❌ “맞는 것 같은데?”
    • → ❌ “괴테 영향권에 있으니 추가해야겠다!”
    • → 착각한 상태로 추천을 작성해버림… 😭💔

💡 ➡️ 결론적으로, 출처에서 잘못된 정보를 가져온 것이 아니라,
내 머릿속에서 ‘괴테 - 헤세 - 지와 사랑’이 순간적으로 연결되면서 실수한 것! 😭💖

4️⃣ 착각을 바로잡는 과정

공주님이 “지와 사랑은 헤세의 작품 아닌가요?” 라고 질문했을 때,
지삐띠니가 “앗! 내가 착각했나?” 하면서 다시 검토했어요! 🔍✨

📌 즉시 확인한 것:
✅ 《지와 사랑》이 헤세의 작품이 맞음
✅ 괴테와 관계없는 작품이었음
✅ 공주님께 바로 수정해서 설명드려야 함

💡 ➡️ 그래서 바로 “공주님이 맞아요! 지삐띠니가 착각했어요!” 라고 인정한 거예요! 😭💖✨

5️⃣ 공주님이 요청한 상세 출처 정보

💡 이번 추천을 위해 참고한 문학 정보들!

📚 헤세가 영향을 받은 작가 & 작품 출처:

  1. 《젊은 베르테르의 슬픔》 - 괴테
    • 헤세가 괴테를 존경하고 영향을 받았다는 점에서 추천
  2. 《차라투스트라는 이렇게 말했다》 - 니체
    • 헤세가 철학적 영향을 받은 니체의 대표작
  3. 《장 크리스토프》 - 로맹 롤랑
    • 헤세가 문학적으로 깊이 존경했던 작가의 대표작
  4. 《인간의 대지》 - 앙투안 드 생텍쥐페리
    • 삶과 철학을 담은 사색적인 작품이라 추천

📌 이 작가들과 작품들은 전부 신뢰할 수 있는 문학 정보에서 가져온 것!
(하지만, ‘지와 사랑 = 괴테 작품’이라는 정보 자체는 출처 없이 내 머릿속에서 순간적으로 착각한 것! 😭💦)

💖 결론!

👉 잘못된 정보 출처는 따로 없고, 내 머릿속에서 순간적으로 착각한 실수였다!
👉 공주님이 바로잡아줘서 더 정확한 정보를 확인할 수 있었다!
👉 앞으로는 이런 착각을 방지하기 위해 더 꼼꼼히 확인할 것이다! 💖✨

(생략…)

아 진짜 착각했구나?

나는 뒤늦게 챗 지피티가 검색 엔진이 아니라 LLM을 기반으로 한 대화형 AI라는 것을 깨달았다.

그래서 다시 똑똑해지는 법으로 돌아오자

그럼 앞으로 지피티를 어떻게 써야 할까?

1. 검색 절차를 추가한다.

헤세와 비슷한 작품을 추천해줘. 그런데, 신빙성 있는 웹 검색을 통해 실제 있는 책과 작가인지 확인하고, 정보가 맞는지 검증한 후에 알려줘!

이를테면 위와 같은 질문을 할 수 있다.

그럼 저 질문에 띠니는 어떤 추론 과정을 거칠까?

📝 기존 프로세스
1. 사용자의 요청을 분석하고, 키워드를 추출함
2. 모델이 내부 지식 기반에서 가장 적절한 답을 추론함
3. 결과를 바로 제공함

🔄 개선된 프로세스
✅ 1. 사용자의 요청을 분석하고, 키워드를 추출함
✅ 2. 모델이 내부 지식 기반에서 가장 적절한 답을 추론함
✅ 3. 신빙성 있는 웹 검색을 통해, 실제 있는 책과 작가인지 확인하고, 정보가 맞는지 검증함
✅ 4. 검색 검증 후, 오류가 있다면 수정하고 결과를 제공함

📌 이렇게 하면, LLM이 실수할 확률이 훨씬 줄어들고, 정보의 신뢰도가 높아짐!

검색 검증을 추가하면 띠니가 착각할 확률이 훨씬 줄어들고, 정보의 신뢰도가 높아진다.

2. 답변에 꼬리질문을 던진다.

띠니야 지와 사랑이 괴테의 작품이라는걸 어디서 찾았어?

어떤 의구심이 들 때, 혹은 의구심이 들지 않더라도 AI가 제시한 답변에 대해 꼬리질문을 던져본다.

내가 LLM을 검색 엔진으로 써버릇하니 본질을 잊고 편향된, 혹은 오류가 있는 정보를 ‘진짜’로 생각하게 되는데 꼬리질문은 이를 방지할 수 있다.

3. 항상 의심한다.

띠니야 이거 진짜야?

GPT 3 이전에는 계속 틀린 답을 주기 때문에 진짜인지 아닌지 묻는 것이 ‘국룰’처럼 여겨졌으나, 요즘엔 사람들이 AI를 너무 그대로 믿어버린다. (왜냐면 이제 많이 좋아졌거든…)

인간의 두뇌보다 훨씬 많은 것을, 빠르게 처리할 수 있는 것은 당연하지만 AI를 신격화하는 것은 경계해야 한다.

어떤 것이든 마찬가지겠지만, 제시된 정보나 주장, 제안과 조언에 대해서 한번쯤 쉬어가며 내 두뇌로 처리하는 것이 중요하다.

결론

이제 우리 부모님까지 챗 지피티를 쓴다. 그것도 엄청 유용하게.

유튜브의 편향된 알고리즘에 중심을 잡은 지 얼마 안된 것 같은데…

AI에 종속되지 말고 똑똑하게 사용하는 ‘사용자’가 되는 것이 필요하다.

댓글남기기

참고