









OpenAI、Anthropic、Gemini、Ollama、Mistral、Cohereなどの複数のLLMプロバイダーを管理するために設計されたオープンソースのAIゲートウェイです。内蔵の分析機能、ガードレール、レート制限、キャッシング、管理コントロールを提供します。HTTPおよびgRPCインターフェースの両方をサポートしています。
1. APIキーとモデル設定でConfig.tomlファイルを構成します。 2. Config.tomlファイルをマウントしてDockerコンテナーを実行します。 3. curlコマンドを使用してゲートウェイへのAPIリクエストを行い、LLMプロバイダーを指定します。
Open Source AI Gateway 会社名: Open Source AI Gateway 。
Open Source AI Gateway Githubリンク: https://github.com/wx-yz/ai-gateway


ソーシャルリスニング