Touvron 외(2023)가 발표한 Llama는 가중치가 공개된 파운데이션 모델 시리즈입니다. 첫 번째 릴리스는 공개 데이터로 학습한 모델이 훨씬 더 큰 비공개 모델과 대등한 성능을 낼 수 있음을 보여 주었고, 누구나 사용할 수 있다는 점 덕분에 파인튜닝 모델, 온디바이스 모델, 연구용 변형 모델로 이루어진 거대한 생태계가 형성되었습니다.
Llama는 오픈 웨이트(open-weight) 모델의 대표적인 사례로, GPT-4, Claude, Gemini처럼 API로만 제공되는 시스템과 대비됩니다.