EXO
exo labs · 在设备集群中本地运行 AI 模型，具备自动发现、分布式推理以及用于模型和集群管理的仪表板。
CaskAI 工具自带更新Apple 芯片
来自 homebrew/cask
近 30 天安装211App榜第 473
近一年安装1,493365 天累计
最新版本1.0.714月23日 · 4月23日
下载大小413MBarm64 · dmg
更新节奏不定期近 30 天 0 个版本
介绍
AI 翻译查看原文EXO 将设备连接成本地 AI 集群，使模型能够跨多台机器使用资源，而不受限于单台设备。该项目由 exo labs 维护，并使用 MLX 进行推理和分布式通信。
集群与模型工作流
官方仓库介绍了自动设备发现，以及基于设备资源和网络链路的拓扑感知模型放置。张量并行和受支持的 RDMA-over-Thunderbolt 配置旨在加速分布式推理。内置仪表板让用户管理集群并与模型聊天；macOS 应用在 Mac 后台运行。
集成
EXO 提供与 OpenAI Chat Completions、Claude Messages、OpenAI Responses 和 Ollama APIs 兼容的接口。它还支持来自 Hugging Face 的自定义模型。版本 1.0.71 新增 Kimi K2.6、更多模型卡片和提供商推荐的采样默认值，并修复 M5 视觉模型和分布式输出问题。
macOS 要求
记录的 Homebrew 1.0.71 cask 面向 Apple 芯片 Mac，并列出 macOS 15 或更高版本。当前上游 README 另外说明，macOS 应用及其 RDMA 设置需要 macOS Tahoe 26.2 或更高版本。这些来源存在差异：不要假定所记录 cask 的最低操作系统版本能保证与当前应用兼容。RDMA 需要兼容的 Thunderbolt 5 硬件和操作系统配置。应用可能会请求权限来修改系统设置并安装网络配置文件。
EXO 在 Apache-2.0 下发布。此列表附带的截图是官方 macOS 应用图像，而非生成的模拟图。
来源
新版本 1.0.71 更新内容 4月23日 · OpenNavo 编辑 · AI 翻译
- 模型新增支持多模态的 Kimi K2.6 以及额外的量化卡片。
- 推理使用提供商推荐的采样默认值，包括 min_p 和 top_k。
- 集成新增 Pi 集成标签页。