모델
오픈 웨이트
Open Weights

모델의 가중치를 공개해 누구나 다운로드·수정·배포할 수 있게 한 모델 배포 방식. Llama, Mistral, Gemma가 대표적이며 AI 생태계의 저변을 넓히고 있다.

개념 설명

오픈 웨이트 모델은 학습된 파라미터를 공개하지만, 학습 코드나 데이터까지 공개하지는 않는 경우가 많아 "오픈소스"와 구별해서 부른다. Meta의 Llama 시리즈가 이 흐름을 열었고, Mistral, Google Gemma, Alibaba Qwen이 뒤를 이었다. API 호출 대신 직접 서빙할 수 있어 비용 통제, 커스터마이징, 데이터 주권 면에서 장점이 크다.

사용 예시

HuggingFace에서 Llama 3를 다운받아 vLLM으로 자체 서빙하면 API 비용 없이 LLM을 운영할 수 있다. LoRA로 파인튜닝해 도메인 특화 모델을 만들거나, 양자화해서 노트북에서 실행하는 것도 가능하다. 기업이 민감 데이터를 외부로 보내지 않으면서 AI를 활용하려 할 때 오픈 웨이트가 핵심 선택지다.

#오픈소스#Llama#Mistral
← AI Wiki에서 더 보기