LiteLLM은 LLM 완성 및 임베딩 호출을 간소화하는 오픈 소스 라이브러리입니다. 다양한 LLM 모델을 호출하기 위한 편리하고 사용하기 쉬운 인터페이스를 제공합니다.
'litellm' 라이브러리를 import하고 LLM API 키 (예: OPENAI_API_KEY와 COHERE_API_KEY)에 필요한 환경 변수를 설정해야합니다. 환경 변수가 설정되면 Python 함수를 생성하고 LiteLLM을 사용하여 LLM 완성 호출을 할 수 있습니다. LiteLLM은 Python 코드를 작성하고 출력을 확인할 수 있는 데모 플레이그라운드를 제공하여 다양한 LLM 모델을 비교할 수 있습니다.
다음은 LiteLLM Discord입니다: https://discord.com/invite/wuPM9dRgDw. 더 많은 Discord 메시지를 보려면 여기(/ko/discord/wupm9drgdw)를 클릭하세요.
LiteLLM Github 링크: https://github.com/BerriAI/litellm