OpenLM
여러 LLM 호출이 가능한 OpenAI 호환 파이썬 클라이언트
Features
- OpenAI의 API와 똑같은 파라미터로 HuggingFace, Cohere 및 자신의 모델등 다른 LLM을 호출 가능
- 현재는 Completion Endpoint만 지원하지만, Streaming/Embeddings 같은 엔드포인트도 추가예정
- 기존 코드에 import openlm as openai 해서 그대로 이용 가능
여러 LLM 호출이 가능한 OpenAI 호환 파이썬 클라이언트