oMLX
¿Qué es oMLX?
oMLX es un servidor de inferencia nativo para macOS que permite ejecutar modelos de IA localmente en Apple Silicon mediante el framework MLX de Apple. Ofrece almacenamiento en caché KV paginado en SSD para reducir el tiempo hasta el primer token en agentes de programación, procesamiento por lotes continuo para aumentar el rendimiento y API compatibles con OpenAI y Anthropic. oMLX admite modelos de lenguaje, de visión y lenguaje, de embeddings y de reranking, además de llamadas a herramientas, integración con MCP, servicio de varios modelos y una aplicación nativa para la barra de menús con panel web.
¿Cómo usar oMLX?
Descarga el DMG firmado para macOS y arrastra oMLX a la carpeta Aplicaciones. Después, configura el directorio de modelos, inicia el servidor y descarga o selecciona un modelo en formato MLX. Como alternativa, puedes instalarlo desde el código fuente con Python 3.10 o posterior usando los comandos de Git proporcionados y ejecutar omlx serve con un directorio de modelos. Conecta Claude Code, OpenClaw, Cursor u otros clientes compatibles mediante los endpoints de API de OpenAI o Anthropic.
Características principales de oMLX
Almacenamiento en caché KV paginado en SSD para obtener respuestas más rápidas y reducir el tiempo hasta el primer token
Procesamiento por lotes continuo para gestionar solicitudes simultáneas con mayor rendimiento
API compatibles con OpenAI y Anthropic
Aplicación nativa para la barra de menús de macOS
Panel web para gestionar modelos, chatear y consultar métricas en tiempo real
Servicio de varios modelos para modelos de lenguaje, VLM, embeddings y rerankers
Llamadas a herramientas e integración con MCP
Compatibilidad con modelos en formato MLX de Hugging Face
Expulsión de modelos mediante LRU cuando la memoria es limitada
Reutilización automática de las cachés de modelos de Hugging Face y LM Studio
Casos de uso de oMLX
Ejecutar agentes de programación localmente con respuestas más rápidas en Macs con Apple Silicon
Usar Claude Code, OpenClaw o Cursor con un backend de IA local
Servir varios modelos locales de lenguaje y visión mediante API compatibles
Desarrollar aplicaciones utilizando inferencia local compatible con OpenAI o Anthropic
Probar llamadas a herramientas y flujos de trabajo con MCP sin depender de la inferencia en la nube
Ejecutar localmente cargas de trabajo privadas de chat, embeddings, reranking y procesamiento multimodal
FAQ de oMLX
¿En qué se diferencia oMLX de Ollama o LM Studio?
¿Qué hardware necesita oMLX?
¿Funciona oMLX con Claude Code, OpenClaw y Cursor?
¿Es necesario volver a descargar los modelos existentes?
¿Qué modelos son compatibles?
¿Admite oMLX llamadas a herramientas?
¿Cómo se instala oMLX?
¿Es gratis oMLX?
oMLX Reseñas (0)
Analítica de oMLX
oMLX Análisis del tráfico del sitio web
Tráfico geográfico
Top 5 Regiones
oMLX Iniciar incrustaciones
Utiliza las insignias del sitio web para impulsar el apoyo de tu comunidad para el lanzamiento de Toolify. Son fáciles de incrustar en tu página de inicio o pie de página.
Alternativa de oMLX
17.46%
Escucha en redes sociales