목차
1. 한 줄 요약
RAG 챗봇은 질문과 관련 있는 문서를 먼저 찾고, 그 내용을 참고해 답변하는 챗봇입니다.
2. 쉽게 설명하면?
RAG 챗봇은 자료를 찾아본 뒤 답하는 상담 도구와 비슷합니다. 사내 규정, 제품 설명서, FAQ처럼 정해진 자료를 바탕으로 답변해야 할 때 유용합니다.
3. 기본 구성
| 구성 요소 | 역할 |
|---|---|
| 문서 | 답변의 기준이 되는 자료 |
| 검색 | 질문과 관련 있는 문서 찾기 |
| LLM | 자연어 답변 생성 |
| 화면 | 사용자가 질문하는 인터페이스 |
| 평가 | 답변 품질 확인 |
4. 구축 절차
- 챗봇의 목적을 정합니다.
- 사용할 문서를 모읍니다.
- 오래된 문서와 중복 문서를 정리합니다.
- 문서를 검색하기 좋은 크기로 나눕니다.
- 질문과 관련 있는 문서를 찾는 구조를 만듭니다.
- 찾은 문서를 참고해 답변하는 흐름을 구성합니다.
- 실제 질문으로 테스트합니다.
- 부족한 부분을 개선합니다.
5. 실제 예시
- 사내 규정 챗봇
- 제품 설명서 챗봇
- 고객지원 FAQ 챗봇
- 교육자료 질의응답 챗봇
6. 장점
- 내부 문서를 답변에 활용할 수 있습니다.
- 문서가 바뀌면 답변 기준도 개선하기 쉽습니다.
- 반복 질문 처리 시간을 줄일 수 있습니다.
7. 한계
- 문서 품질이 낮으면 답변 품질도 낮아집니다.
- 검색 결과가 부정확하면 답변도 흔들릴 수 있습니다.
- 운영 후에도 테스트와 개선이 필요합니다.
8. 자주 묻는 질문
Q1. RAG 챗봇은 일반 챗봇과 무엇이 다른가요?
외부 문서를 찾아 답변에 참고한다는 점이 다릅니다.
Q2. 어떤 문서부터 넣어야 하나요?
자주 질문받는 최신 문서부터 시작하는 것이 좋습니다.
Q3. 구축 후 바로 끝인가요?
아닙니다. 실제 질문을 바탕으로 계속 개선해야 합니다.
9. 정리
RAG 챗봇의 핵심은 좋은 문서와 좋은 검색입니다. 좁은 범위에서 시작해 품질을 확인하면서 확장하는 것이 좋습니다.