주어진 맥락이나 지식베이스를 바탕으로 자연어 질문에 정확한 답을 찾아내는 AI 기능. RAG 시스템의 가장 핵심적인 응용 패턴이다.
질의응답(QA)은 AI가 특정 문서나 데이터베이스를 참조해서 질문에 답하는 능력이다. 단순 키워드 검색과 다른 점은 자연어 질문의 의미를 이해하고, 여러 문서에서 관련 정보를 종합해 답변을 생성한다는 것이다. "오픈 도메인 QA"는 전체 인터넷에서, "클로즈드 도메인 QA"는 특정 문서 세트에서 답을 찾는다.
RAG 파이프라인이 QA의 가장 일반적인 구현 방식이다. 사용자 질문 → 임베딩으로 변환 → 벡터 DB에서 유사 문서 검색 → 검색된 문서와 질문을 LLM에 전달 → 답변 생성의 흐름이다. 법률 문서 검색 시스템, 내부 정책 QA 봇, 기술 지원 자동화에 많이 쓰인다. 답변 품질은 검색 정확도(어떤 문서를 가져오는지)와 LLM의 이해력 두 가지에 모두 달려 있다.