Q. RAG(검색 증강 생성) 기술이 어렵게 느껴집니다. 조금 더 쉽게 설명해 주실 수 있나요?

A. "오픈북 시험(Open-Book Exam)"을 생각하시면 이해가 가장 빠릅니다.

RAG 기술은 AI가 단순히 기억에 의존하는 것이 아니라, 참고 자료를 보고 정확하게 답하는 기술입니다. 이를 학교 시험에 비유하여 설명해 드리겠습니다.

1. 일반 생성형 AI (ChatGPT 등) : '폐쇄형 시험(Closed-Book)'

RAG 기술이 적용되지 않은 일반적인 AI는 '암기왕' 과 같습니다.

• 상황 : 교과서 내용을 통째로 외워서 시험을 봅니다. 시험장에는 아무런 책도 가지고 들어갈 수 없습니다.
• 한계점 :
  • 기억의 오류 (환각) : 기억이 가물가물하면 그럴듯한 거짓말을 지어냅니다.
  • 최신 정보 부재 : 작년까지만 공부했다면, 올해 바뀐 법이나 규정은 전혀 모릅니다.
  • 비공개 정보 모름 : 우리 회사의 사내 규정이나 대외비 문서는 학습한 적이 없어서 대답할 수 없습니다.

2. 클라우드튜링 AI (RAG) : '오픈북 시험(Open-Book)'

클라우드튜링이 사용하는 RAG AI는 '정보 탐색가' 와 같습니다.

• 상황 : 모든 내용을 외울 필요가 없습니다. 시험장에 참고 자료(고객사가 업로드한 문서) 를 가지고 들어가서, 질문이 나올 때마다 책을 펼쳐보고 답을 적습니다.
• 작동 과정 :
  1. 문제 확인 (질문) : "Pro 요금제가 얼마야?"라는 질문을 받습니다.
  2. 정답 찾기 (검색) : 책상 위에 펼쳐진 가격정책표.pdf 문서에서 'Pro 요금제'가 적힌 페이지를 순식간에 찾아냅니다.
  3. 답안 작성 (생성) : 찾아낸 페이지의 내용을 읽고, AI가 이해하기 쉬운 문장으로 답안을 작성합니다. "Pro 요금제는 월 20만 원입니다."

💡 답변이 매번 조금씩 달라지는 이유

오픈북 시험에서 학생이 책의 내용을 보고 답안지에 옮겨 적을 때, 책 내용을 토씨 하나 안 틀리고 베끼는 것이 아니라 "자신의 문장으로 다듬어서" 적는 것과 같습니다.
따라서 핵심 내용(팩트)은 정확하지만, 문장의 표현 방식은 매번 조금씩 달라질 수 있습니다.

3. RAG 방식의 핵심 장점

왜 굳이 복잡하게 RAG 방식을 사용할까요?

1. 거짓말(환각) 방지 : 기억에 의존하지 않고, 눈앞에 있는 문서를 보고 대답하므로 엉뚱한 소리를 할 확률이 현저히 낮아집니다.
2. 최신 정보 반영 : AI를 다시 학습시킬 필요 없이, 그냥 새로운 문서 파일만 업로드하면 즉시 최신 정보를 바탕으로 답변합니다.
3. 출처 제시 가능 : "이 답변은 인사규정.pdf 15페이지를 참고했습니다"라고 근거를 명확히 댈 수 있습니다.

요약 : 한눈에 비교하기