Alpaca.cpp

ChatGPT 같은 모델을 개인 노트북에서 실행하기

Features

• LLaMA 와 Alpaca, 그리고 llama.cpp 를 합쳐서 조정한 뒤 채팅 인터페이스를 붙인 것
• Alpaca-7b-q4 모델을 이용
• M2 맥북에어 에서도 꽤 빠른 속도로 생성

See also

• Alpaca
• LLaMA
• llama.cpp
• ChatGPT

Favorite site

• antimatter15/alpaca.cpp: Locally run an Instruction-Tuned Chat-Style LLM