모델 가중치를 수정하지 않고 프롬프트 안에 예시와 지시만 제공해 LLM이 새 작업을 즉시 수행하게 하는 능력으로, 파인튜닝 없이 다양한 용도에 적용하는 핵심 기법이다.

인컨텍스트 러닝이란

프롬프트 내에 입출력 예시를 제시하여 모델이 패턴을 파악하고 올바른 출력을 생성하게 하는 방식이다. 대화가 끝나면 모델은 원래 상태로 돌아간다. GPT-3의 2020년 논문에서 처음 보고됐다.

실제 활용 사례

Nature Communications 연구에 따르면 인컨텍스트 러닝만으로 병리 이미지 분류에서 전용 학습 신경망과 동등한 성능을 보였다. 파인튜닝에 수백만 원이 들 수 있지만 잘 설계된 퓨샷 프롬프트는 즉시 유사한 성능을 낼 수 있다. 번역, 감성 분석, 코드 변환 업무에서 프롬프트 라이브러리를 구축해 재사용하는 패턴이 보편화되고 있다.