프롬프트를 코드처럼 버전 관리하고, 팀이 협업하며, 성능 변화를 추적하는 체계적인 접근 방식.

개념 설명

초기에는 코드 안에 하드코딩된 프롬프트로 충분하다. 하지만 프로덕션에서 프롬프트를 자주 수정해야 하면, 어떤 버전이 가장 잘 작동했는지, 누가 언제 바꿨는지 추적하기 어렵다. 프롬프트 관리는 프롬프트를 코드 배포 없이 업데이트하고, 버전별 성능을 비교하고, 팀이 함께 리뷰할 수 있는 워크플로우를 만드는 것이다.

사용 예시

LangSmith나 Langfuse의 프롬프트 허브에 프롬프트를 등록해두면, 코드에서는 client.pull_prompt("my-prompt")로 최신 버전을 동적으로 로드할 수 있다. 프롬프트를 수정해도 코드 배포 없이 즉시 반영되고, 이전 버전으로 롤백도 쉽다.