









Ein Open-Source-AI-Gateway, das zur Verwaltung mehrerer LLM-Anbieter wie OpenAI, Anthropic, Gemini, Ollama, Mistral und Cohere entwickelt wurde. Es bietet integrierte Analysen, Schutzmaßnahmen, Ratenbegrenzung, Caching und Administrationskontrollen. Es unterstützt sowohl HTTP- als auch gRPC-Schnittstellen.
1. Konfigurieren Sie die Config.toml-Datei mit Ihren API-Schlüsseln und Modelleinstellungen. 2. Führen Sie den Docker-Container aus und binden Sie die Config.toml-Datei ein. 3. Verwenden Sie curl-Befehle, um API-Anfragen an das Gateway zu richten und den LLM-Anbieter anzugeben.
Open Source AI Gateway Firmenname: Open Source AI Gateway .
Open Source AI Gateway Github link: https://github.com/wx-yz/ai-gateway




28.96%
Social Media Listening