긴 텍스트에서 핵심 내용을 추려내 짧게 정리하는 AI 기술. 문서량이 많은 업무에서 정보 처리 속도를 크게 높여준다.
요약은 LLM이 잘하는 대표적인 작업이다. 원문의 의미를 이해하고 가장 중요한 정보를 선별해서 더 짧게 표현하는 능력이 핵심이다. 추출 요약(원문에서 중요한 문장을 그대로 선택)과 생성 요약(내용을 이해해서 새로운 문장으로 재작성) 두 방식이 있는데, LLM은 생성 요약을 자연스럽게 수행한다.
긴 PDF 계약서나 회의록을 LLM에 넣고 "3문장으로 핵심만 정리해줘"라고 하면 바로 쓸 수 있는 요약이 나온다. RAG 파이프라인에서 검색된 문서를 LLM에 넘기기 전에 요약 단계를 추가하면 컨텍스트 한계 내에 더 많은 정보를 담을 수 있다. 뉴스레터 자동화, 코드 리뷰 요약, Slack 스레드 요약 같은 실무 도구로도 많이 구현된다.