LiteLLM是一個開源庫,用於簡化LLM完成和嵌入調用。它提供了一個方便易用的接口,用於調用不同的LLM模型。
要使用LiteLLM,您需要導入'litellm'庫並設置LLM API金鑰的必要環境變量(例如OPENAI_API_KEY和COHERE_API_KEY)。一旦設置了環境變量,您可以創建一個Python函數並使用LiteLLM進行LLM完成調用。LiteLLM允許您通過提供演示場所來比較不同的LLM模型,在該場所您可以編寫Python代碼並查看輸出。
以下是 LiteLLM Discord:https://discord.com/invite/wuPM9dRgDw。 如欲了解更多Discord 訊息,請點選此處(/tw/discord/wupm9drgdw) 。
LiteLLM Github連結:https://github.com/BerriAI/litellm