Replit Code
10일만에 훈련된 오픈소스 코드 생성 LLM
Features
- Replit이 새로운 코드 생성 LLM을 상업적 이용이 가능한 오픈소스로 공개.
- 2.7B 매개변수로 가볍고 빠르며, 10일만에 훈련이 완료됨.
- 동급 모델 대비 40%의 성능 향상, 파인튜닝된 모델은 Codex보다 성능이 좋음.
- The Stack 데이터셋으로 훈련되었으며, 20여개 언어를 생성할 수 있음.
- Hugging Face에서 바로 데모 사용 가능.
10일만에 훈련된 오픈소스 코드 생성 LLM