서로 다르게 파인튜닝된 여러 모델의 가중치를 산술적으로 합쳐 새로운 모델을 만드는 기법. 추가 학습 없이 다양한 능력을 하나의 모델에 결합할 수 있다.

개념 설명

같은 베이스 모델에서 각각 코딩과 한국어를 특화시킨 두 모델이 있다면, 둘을 평균 내서 코딩과 한국어를 모두 잘하는 모델을 만들 수 있다. 모델 병합의 핵심 직관이다. SLERP, TIES, DARE 같은 다양한 병합 알고리즘이 있으며, Hugging Face의 mergekit 라이브러리로 쉽게 실험할 수 있다.

사용 예시

Hugging Face mergekit에서 YAML 설정으로 병합 비율을 조정하면, GPU 연산 비용 없이 새로운 특성의 모델을 만들 수 있다. 오픈소스 커뮤니티에서 특화 모델들을 섞어 순위표 상위권 모델을 만드는 방식으로 자주 활용된다.