엔티티와 그 관계를 그래프 구조로 표현한 데이터베이스. AI에서는 RAG의 검색 정확도를 높이거나, LLM의 사실 기반 추론을 보강하는 데 활용된다.
"스티브 잡스는 Apple의 공동창업자이고, Apple은 아이폰을 만들었다"처럼 엔티티(사람, 회사, 제품)와 관계(창업, 제조)를 노드와 엣지로 표현하는 것이 지식 그래프다. 구글의 Knowledge Graph(2012)가 검색 결과의 "Knowledge Panel"에 쓰이면서 유명해졌다. 관계형 데이터베이스가 테이블로 데이터를 표현한다면, 지식 그래프는 연결로 의미를 표현한다.
LLM과 결합할 때 강점이 드러난다. LLM은 지식 그래프에서 필요한 사실을 정확하게 검색하고, 그래프의 관계를 따라 다단계 추론을 수행한다. Graph RAG가 이 결합의 대표적인 패턴이다.
Neo4j나 Amazon Neptune에 도메인 지식을 그래프로 저장하고, LangChain의 GraphCypherQAChain으로 자연어 질문을 Cypher 쿼리로 변환해 답변하는 파이프라인을 구성할 수 있다. 기업 내부의 조직도, 제품 의존성, 규정 관계를 그래프로 모델링하면 복잡한 관계 질의에 LLM이 정확히 답할 수 있다.