









Une passerelle d'IA open-source conçue pour gérer plusieurs fournisseurs de LLM tels qu'OpenAI, Anthropic, Gemini, Ollama, Mistral et Cohere. Elle propose des analyses intégrées, des garde-fous, une limitation de taux, un caching et des contrôles administratifs. Elle prend en charge à la fois des interfaces HTTP et gRPC.
1. Configurez le fichier Config.toml avec vos clés API et les paramètres du modèle. 2. Exécutez le conteneur Docker en montant le fichier Config.toml. 3. Utilisez des commandes curl pour faire des requêtes API à la passerelle, en spécifiant le fournisseur de LLM.
Open Source AI Gateway Nom de l'entreprise : Open Source AI Gateway .
Lien de Github Open Source AI Gateway : https://github.com/wx-yz/ai-gateway




24.79%
Écoute des médias sociaux