Skip to content

OpenLM

여러 LLM 호출이 가능한 OpenAI 호환 파이썬 클라이언트

Features

  • OpenAI의 API와 똑같은 파라미터로 HuggingFace, Cohere 및 자신의 모델등 다른 LLM을 호출 가능
  • 현재는 Completion Endpoint만 지원하지만, Streaming/Embeddings 같은 엔드포인트도 추가예정
  • 기존 코드에 import openlm as openai 해서 그대로 이용 가능

Favorite site