Sponsored by
Crazyrouter
oMLX
5
0 评价
0 收藏
工具介绍：
面向 macOS 的原生高性能本地 AI 模型推理服务器
收录时间：
2026年8月24日
月流量：
148.1K
社交媒体&邮箱：
--
APIMaster
GPT 最高优惠 95%，另有 20 美元试用额度。指纹验证 API，价格低且稳定。
Tokenhot
统一的 LLM API 网关，接入 100 多种模型，最高可节省 90% 的成本。
Kaopu API
用于路由多种 AI 模型的统一 AI API 网关和管理后台。
Kollavo - Get Cited in AI Search | $99/mo Managed Service
要想出现在答案里，你就得出现在来源中。
Sup AI
Sup AI是世界上最准确的AI编排平台，结合了9种前沿LLMs和专有合成技术，为关键任务决策提供无幻觉的、可验证的响应。
oMLX 工具信息
什么是oMLX？
oMLX 是一款原生 macOS 推理服务器，基于 Apple 的 MLX 框架，可在 Apple Silicon 芯片上运行本地 AI 模型。它提供分页式 SSD KV 缓存，可缩短编程代理的首 token 生成时间；支持连续批处理以提升吞吐量；并兼容 OpenAI 和 Anthropic API。oMLX 支持大语言模型、视觉语言模型、嵌入模型和重排序模型，以及工具调用、MCP 集成、多模型服务，并配备原生菜单栏应用和 Web 控制面板。
如何使用 oMLX？
下载签名版 macOS DMG 文件，将 oMLX 拖入“应用程序”文件夹，然后配置模型目录、启动服务器，并下载或选择 MLX 格式的模型。也可以使用 Python 3.10 或更高版本，通过项目提供的 Git 命令从源码安装，然后使用包含模型目录的 omlx serve 命令运行。你可以通过 OpenAI 或 Anthropic API 端点，将 Claude Code、OpenClaw、Cursor 或其他兼容客户端连接到 oMLX。
oMLX 的核心功能
分页式 SSD KV 缓存，可加快响应速度并缩短首 token 生成时间
连续批处理，提升并发请求吞吐量
兼容 OpenAI API 和 Anthropic API
原生 macOS 菜单栏应用
提供模型管理、聊天和实时指标的 Web 控制面板
支持大语言模型、视觉语言模型、嵌入模型和重排序模型的多模型服务
支持工具调用和 MCP 集成
支持来自 Hugging Face 的 MLX 格式模型
内存有限时支持 LRU 模型淘汰
自动复用 Hugging Face 和 LM Studio 的模型缓存
oMLX 的使用案例
#1
在 Apple Silicon Mac 上运行本地编程代理，获得更快的响应
#2
使用 Claude Code、OpenClaw 或 Cursor，并将本地 AI 作为后端
#3
通过兼容的 API 提供多个本地语言模型和视觉模型服务
#4
使用本地兼容 OpenAI API 或 Anthropic API 的推理能力构建应用
#5
在不依赖云端推理的情况下测试工具调用和 MCP 工作流
#6
运行私有的本地聊天、嵌入、重排序和多模态任务
来自 oMLX 的常见问题
oMLX 与 Ollama 或 LM Studio 有什么区别？
oMLX 对硬件有什么要求？
oMLX 支持 Claude Code、OpenClaw 和 Cursor 吗？
已有模型需要重新下载吗？
支持哪些模型？
oMLX 支持工具调用吗？
如何安装 oMLX？
oMLX 可以免费使用吗？
OfoxAI
统一的 API 网关，可访问 GPT、Claude 和 Gemini 等 100 多种大模型。
立即尝试
AD
oMLX 评价 (0)
5 满分 5 分
Claude Code中转站API
稳定、低延迟的 Claude API 国内直连中转服务，支持人民币支付。
立即尝试
AD
oMLX数据分析
oMLX 网站流量分析
地理位置
Top 5 国家/地区
21.73%
10.89%
10.62%
8.76%
8.28%
May 2026 - Sep 2026 仅桌面设备
oMLX 启动嵌入功能
使用网站徽章推动社区对 Toolify 启动的支持。它们很容易嵌入到您的主页或页脚。
Light
Neutral
Dark
复制嵌入代码
如何安装？
社交媒体聆听