在 Apple Silicon 设备上运行本地大模型，Ollama 的优势不仅是安装简单，还能利用 macOS 的 Metal 能力让 GPU 参与推理。由于 M 系列芯片采用统一内存架构，CPU 与 GPU 共享同一套内存资源，因此优化重点并不是“把显存拉满”，而是在模型大小、上下文长度、并发数量和系统余量之间找到平衡。🍎
一、先理解 Metal 加速的工作方式
在受支持的 Apple Silicon Mac 上，官方版本的 Ollama 通常会自动使用 Metal 后端，不需要像 CUDA 环境那样单独安装显卡驱动或手动指定 GPU。使用官方应用完成安装后，可在终端运行 ollama run 模型名称 启动模型。Ollama 当前的 macOS 系统要求及安装方式可参考官方 macOS 文档。
需要注意的是，统一内存并不等于内存可以无限使用。模型权重、KV Cache、系统进程、图形界面和其他应用都会占用同一块内存。如果压力过高，macOS 会启用内存压缩甚至交换空间，推理速度可能明显下降，同时增加磁盘读写。
二、确认模型是否真正使用 GPU
启动模型后，另开一个终端窗口执行 ollama ps。输出中的 PROCESSOR 字段能够反映模型的运行位置：显示 100% GPU 表示模型完整加载到 GPU 路径；显示 CPU 与 GPU 的混合比例，说明部分计算或数据发生了分配与卸载。具体判断方法可查看Ollama FAQ。🔍
如果模型没有按预期使用 Metal，建议依次检查：设备是否为 M 系列芯片、Ollama 是否为较新的官方版本、模型是否超过可用统一内存，以及后台是否存在大量占用内存的应用。通过“活动监视器”的内存页面观察内存压力，比只看剩余内存数字更有参考价值。
三、模型选择比参数微调更重要
优化的第一步是选择适合设备容量的模型，而不是直接下载参数规模最大的版本。模型文件大小只是基础占用，实际运行时还需要为上下文缓存和运行时数据预留空间。对于内存较小的 Mac，应优先选择参数规模较小或量化程度较高的模型；内存较大的设备可以尝试更大的模型，但仍应给 macOS 和日常软件保留充足余量。
- 轻量对话与摘要：优先选择小型量化模型，通常启动更快，内存压力更低。
- 代码分析与长文档：除了模型能力，还要关注上下文长度带来的额外内存消耗。
- 复杂推理任务：先测试较小模型是否满足需求，再逐步升级，避免只追求参数规模。
同一模型的不同量化版本在质量、速度和占用之间存在取舍。量化程度越高，模型通常越节省内存，但输出质量可能受到一定影响。实践中应使用自己的真实任务进行对比，而不是仅依据模型榜单选择。
四、控制上下文长度，避免 KV Cache 膨胀
上下文越长，模型可参考的历史内容越多，但 KV Cache 的内存占用也会随之增加。普通聊天、改写和短摘要没有必要盲目设置超长上下文。可在交互会话中使用 /set parameter num_ctx 4096 调整，也可以在启动服务时设置 OLLAMA_CONTEXT_LENGTH。官方对上下文设置与显存占用的说明见上下文长度文档。🧠
建议从任务所需的最低上下文开始测试，确认内容确实被截断后再逐步增加。上下文长度不是越大越好，合适才是最有效的配置。
如果通过 API 调用 Ollama，也可以针对单次请求设置 num_ctx，避免所有任务共享一个过高的默认值。例如，日常问答使用较短上下文，代码仓库分析再单独提高，这种按任务分配的方式更节省资源。
五、减少模型并发与无效驻留
同时加载多个模型会迅速推高统一内存占用。桌面环境下，建议尽量让任务串行执行，并定期使用 ollama ps 检查仍在驻留的模型。如果暂时不再使用某个模型，可执行 ollama stop 模型名称 释放相关资源。⚙️
通过 API 或自动化工具调用时，还要防止短时间内提交过多并发请求。并发会增加运行队列和上下文缓存需求，可能导致延迟升高，而不是获得线性性能提升。对于个人开发机，限制调用端并发通常比反复修改底层参数更稳定。
六、设置环境变量的正确方式
如果 Ollama 以 macOS 图形应用运行，终端中临时执行的环境变量不一定会被应用进程继承。官方建议使用 launchctl setenv 变量名 变量值 设置环境变量，然后彻底退出并重新启动 Ollama。需要调整模型目录时，可以设置 OLLAMA_MODELS，将大体积模型迁移到空间充足的磁盘位置。
修改配置后，应重新运行模型并通过 ollama ps 验证，而不是仅凭命令没有报错就认为设置已生效。若表现异常，可查看 ~/.ollama/logs 下的日志文件，定位模型加载、内存分配或服务启动问题。
七、一套可复用的优化流程
- 关闭高内存占用应用，记录当前系统内存压力。
- 从较小的量化模型开始，运行真实业务提示词。
- 使用 ollama ps 检查 GPU 占比和上下文配置。
- 逐步增加上下文长度，观察首字延迟、生成速度与内存压力。
- 避免同时驻留多个大模型，并限制调用端并发。
- 出现交换空间持续增长时，优先缩小模型或上下文，而不是继续增加负载。
总结
Apple Silicon 上的 Ollama 通常可以自动利用 Metal，真正影响体验的是统一内存的分配策略。合理选择量化模型、按任务控制上下文、减少并发与模型驻留，再配合 ollama ps 和系统内存压力监控，就能在速度、稳定性和输出质量之间取得更好的平衡。🚀 对多数用户而言，最有效的优化不是寻找所谓“万能参数”，而是从小配置开始，用真实任务逐项测试并保留系统余量。
