









Um gateway de IA de código aberto projetado para gerenciar vários provedores de LLM, como OpenAI, Anthropic, Gemini, Ollama, Mistral e Cohere. Oferece análises integradas, guardrails, limitação de taxa, cache e controles administrativos. Suporta interfaces HTTP e gRPC.
1. Configure o arquivo Config.toml com suas chaves de API e configurações de modelo. 2. Execute o contêiner Docker, montando o arquivo Config.toml. 3. Use comandos curl para fazer solicitações de API ao gateway, especificando o provedor de LLM.
Open Source AI Gateway Nome da empresa: Open Source AI Gateway .
Link de Github de Open Source AI Gateway: https://github.com/wx-yz/ai-gateway




20.84%
Escuta de mídias sociais