에이전트 / AI 개발 개념
RAG(Retrieval-Augmented Generation)
RAG는 질문과 관련된 자료를 검색해 AI가 그 내용을 참고하며 답변하도록 하는 방식입니다.
쉬운 설명
스터디 운영 안내문을 바탕으로 질문에 답하는 챗봇을 만들고 싶을 수 있어요. RAG는 질문이 들어오면 안내문에서 관련 부분을 찾아 AI에게 함께 전달해요. AI는 찾은 내용을 참고해 답변을 만들어요. Retrieval-Augmented Generation의 줄임말이며, 자료를 검색해 답변 생성을 보완한다는 뜻이에요.
이런 상황에서 만나요
스터디원이 “과제는 언제까지 제출하나요?”라고 물었을 때 일반적인 답 대신 우리 스터디의 안내문을 근거로 답하게 하려는 상황이에요. 아래는 질문에 맞는 안내문 일부를 검색하고, 그 내용을 사용해 답변한 가상 예시예요.
질문에 맞게 찾은 원문과 답변을 함께 봐요
이번 주 과제는 언제까지 제출하나요?
제출 마감은 금요일 오후 6시입니다.
이번 주 과제는 금요일 오후 6시까지 제출하면 됩니다.
근거: 이번 주 스터디 안내 · 과제 제출
- 1질문에 답할 만한 자료를 검색하는 출발점이에요.
- 2AI에게 전달할 원문이에요. 다른 주의 안내문을 가져오지 않았는지 확인해요.
- 3답변이 원문과 맞는지 대조해요. 출처 표시만으로 정확성을 판단하지 않아요.
답이 틀렸다면 먼저 어떤 원문을 찾아왔는지 확인해 보세요. 지난 기수 안내문을 가져왔다면 검색 대상이나 최신 자료 반영을 살펴봐야 해요. 올바른 안내문을 찾았는데도 다른 마감일을 답했다면 AI에 전달된 내용과 답변 지침을 확인해요. 자료에 답이 없을 때는 없다고 안내하는지도 함께 시험해요.
헷갈리기 쉬운 점
문서를 넣었으니 AI가 그 내용을 학습한 건가요?
RAG는 보통 질문할 때 찾은 자료를 AI의 참고 내용으로 전달하는 방식이에요. 모델 자체를 다시 훈련하는 것과 달라요. 문서가 저장돼 있어도 검색에서 빠지면 답변에 쓰이지 않을 수 있고, 자료를 찾았어도 잘못 해석할 수 있어요.
출처가 붙었다고 답이 맞는 것은 아니에요. 연결된 원문이 답변을 실제로 뒷받침하는지 확인하세요. 개인 자료나 내부 문서를 쓰는 앱이라면 사용자에게 허용된 문서만 검색되는지도 확인해야 해요.
왜 알아야 할까요?
잘못된 답을 봤을 때 자료 검색 문제와 답변 생성 문제를 나눠 점검할 수 있어요. 챗봇에 문서를 많이 넣는 것뿐 아니라, 필요한 자료를 제대로 찾아 쓰는지 확인하게 돼요.
조금 더 자세히
문서 기반 RAG에서는 자료를 검색하기 좋은 단위로 나누고 검색 시스템에 등록하는 경우가 많습니다. 질문이 들어오면 관련 부분을 찾고, 그 내용과 질문을 AI 모델에 전달해 답변을 생성합니다. 자료 준비와 질문에 답하는 과정은 구분할 수 있습니다.
검색에는 키워드 검색, 의미가 비슷한 내용을 찾는 벡터 검색, 두 방식을 함께 쓰는 방법 등이 있습니다. 특정 데이터베이스나 검색 방식 하나가 RAG 자체를 뜻하지는 않습니다. 문서의 제목과 작성 시점 같은 정보도 필요한 자료를 고르는 데 사용할 수 있습니다.
문서를 수정했다고 검색에 바로 반영되는지는 앱 구성에 달려 있습니다. 자료를 다시 등록하거나 동기화해야 할 수 있습니다. 실제 질문으로 검색된 내용과 답변을 함께 확인하고, 근거가 없는 질문에도 그럴듯한 답을 만드는지 점검합니다.
직접 사용할 때 확인해 보세요
- 질문에 대해 실제 검색된 원문을 확인한다
- 수정한 문서가 검색에 반영됐는지 확인한다
- 근거가 없거나 접근 권한이 없는 질문도 시험한다
관계 지도
