oMLX
O que é oMLX?
oMLX é um servidor de inferência nativo para macOS que permite executar modelos de IA localmente em Apple Silicon, utilizando a framework MLX da Apple. Disponibiliza cache KV paged em SSD para reduzir o tempo até ao primeiro token em agentes de programação, batching contínuo para maior capacidade de processamento e APIs compatíveis com OpenAI e Anthropic. O oMLX suporta modelos LLM, de visão-linguagem, de embeddings e de reranking, além de chamadas a ferramentas, integração com MCP, disponibilização de vários modelos e uma aplicação nativa na barra de menus com painel web.
Como usar oMLX?
Transfira o DMG assinado para macOS e arraste o oMLX para a pasta Aplicações. Em seguida, configure o diretório dos modelos, inicie o servidor e transfira ou selecione um modelo em formato MLX. Em alternativa, instale a partir do código-fonte com Python 3.10 ou posterior, utilizando os comandos Git fornecidos, e execute omlx serve com um diretório de modelos. Ligue o Claude Code, OpenClaw, Cursor ou outros clientes compatíveis através dos endpoints de API OpenAI ou Anthropic.
Principais recursos da oMLX
Cache KV paged em SSD para respostas mais rápidas e menor tempo até ao primeiro token
Batching contínuo para maior capacidade de processamento de pedidos simultâneos
APIs compatíveis com OpenAI e Anthropic
Aplicação nativa para macOS na barra de menus
Painel web para gestão de modelos, conversação e métricas em tempo real
Disponibilização de vários modelos LLM, VLM, de embeddings e de reranking
Chamadas a ferramentas e integração com MCP
Suporte para modelos em formato MLX provenientes do Hugging Face
Evicção LRU de modelos quando a memória é limitada
Reutilização automática das caches de modelos do Hugging Face e do LM Studio
Casos de uso da oMLX
Executar agentes de programação localmente, com respostas mais rápidas em Macs com Apple Silicon
Utilizar o Claude Code, o OpenClaw ou o Cursor com um backend de IA local
Disponibilizar vários modelos locais de linguagem e visão através de APIs compatíveis
Criar aplicações utilizando inferência local compatível com as APIs OpenAI ou Anthropic
Testar chamadas a ferramentas e fluxos de trabalho MCP sem depender de inferência na nuvem
Executar localmente conversação privada, embeddings, reranking e cargas de trabalho multimodais
Perguntas frequentes de oMLX
Em que é que o oMLX difere do Ollama ou do LM Studio?
Que requisitos de hardware tem o oMLX?
O oMLX funciona com o Claude Code, o OpenClaw e o Cursor?
É necessário descarregar novamente os modelos existentes?
Que modelos são suportados?
O oMLX suporta chamadas a ferramentas?
Como pode o oMLX ser instalado?
O oMLX é gratuito?
Avaliações de oMLX (0)
Análise de oMLX
oMLX Análise de tráfego do site
Tráfego geográfico
Top 5 Regiões
oMLX Iniciar incorporações
Use os emblemas do site para obter o apoio de sua comunidade para o lançamento do Toolify. Eles são fáceis de incorporar em sua página inicial ou rodapé.
Alternativa de oMLX
7.95%
Escuta de mídias sociais