프롬프트를 직접 작성하는 대신 프로그래밍 방식으로 LLM 파이프라인을 최적화하는 프레임워크.

개념 설명

프롬프트를 손으로 조율하는 작업은 모델이 바뀌거나 태스크가 변할 때마다 처음부터 다시 해야 한다. Stanford에서 만든 DSPy는 프롬프트를 직접 쓰는 대신, "이 입력으로 저 출력을 내야 한다"는 명세와 예시 데이터를 주면 프레임워크가 알아서 프롬프트와 퓨샷 예시를 최적화한다. ML 모델을 학습시키듯 LLM 파이프라인을 최적화하는 방식이다.

사용 예시

질의응답 파이프라인을 dspy.ChainOfThought("question -> answer")로 선언하고 정답 예시를 주면, DSPy 옵티마이저가 CoT 프롬프트와 퓨샷 예시를 자동으로 최적화해준다. 같은 파이프라인을 GPT-4o에서 Claude로 옮길 때도 코드 변경 없이 재최적화만 돌리면 된다.