▤ 핵심 요약
- ✓ 모델이 학습하지 않은 최신 자료나 내부 문서를 다루기 위한 접근입니다.
- ✓ 질문에 관련된 문서를 먼저 찾아 함께 넣어 주고, 그 내용을 근거로 답하게 합니다.
- ✓ 근거 문서를 제시할 수 있어 확인이 쉬워지지만, 검색이 엉뚱하면 답도 엉뚱해집니다.
어떤 문제를 푸나
AI 모델은 학습한 시점까지의 내용을 바탕으로 답합니다. 그래서 어제 바뀐 사내 규정이나 공개되지 않은 자료는 알 수 없고, 모르면서도 그럴듯하게 지어내는 문제가 생깁니다.
RAG는 모델을 다시 학습시키는 대신, 질문이 들어올 때마다 관련 문서를 찾아 함께 넣어 주는 방식입니다. 모델은 그 문서를 읽고 답하므로, 새로운 자료를 반영하기 쉽고 근거를 함께 보여 줄 수 있습니다.
동작 순서
- 문서를 잘게 나눕니다
긴 문서를 통째로 넣을 수 없으므로 문단 단위로 쪼개 저장합니다.
- 의미로 찾을 수 있게 만듭니다
각 조각을 검색 가능한 형태로 색인해 둡니다. 단어가 정확히 일치하지 않아도 의미가 가까운 조각을 찾을 수 있게 하는 것이 목적입니다.
- 질문이 오면 관련 조각을 꺼냅니다
질문과 가까운 조각 몇 개를 골라 냅니다.
- 그 조각과 함께 답하게 합니다
찾아온 내용을 근거로 답하도록 지시합니다. 근거에 없는 내용은 모른다고 답하게 하는 것이 중요합니다.
한계
- 검색 단계에서 엉뚱한 문서를 가져오면 그 위에서 만든 답도 틀립니다. 품질의 절반은 검색에 달려 있습니다.
- 원본 문서가 낡았거나 서로 모순되면 그대로 답에 반영됩니다. 문서 관리가 함께 가야 합니다.
- 근거를 제시한다고 해서 그 해석까지 옳다는 뜻은 아니므로, 중요한 판단은 원문을 직접 확인하세요.