在本地运行大模型时，很多人会反复输入“请使用中文回答”“保持简洁”“不要编造信息”等要求。Ollama 的 Modelfile 可以把基础模型、运行参数、系统提示词和对话模板组合成一个可复用模型，让角色设定与输出规范在创建模型时直接固化。🧩 本文将从文件结构、提示词设计、构建命令到常见问题，完整介绍一套可直接落地的方法。
一、Modelfile 是什么
Modelfile 可以理解为 Ollama 自定义模型的配置蓝图，其写法与 Dockerfile 类似：每条指令负责一类配置，其中 FROM 指定基础模型，PARAMETER 设置推理参数，SYSTEM 写入系统提示词，TEMPLATE 控制最终发送给模型的提示结构。完整指令说明可查看 Ollama Modelfile 官方文档。
需要注意的是，使用 Modelfile 通常不会重新训练模型，也不会修改基础模型权重。它更像是创建一个带固定运行配置和默认行为的新模型入口，因此创建速度主要取决于基础模型是否已经下载，以及是否需要导入额外模型文件或适配器。
二、编写一个基础 Modelfile
新建一个名为 Modelfile 的纯文本文件，可以先从以下结构开始：
FROM qwen2.5:7b
PARAMETER temperature 0.3
PARAMETER num_ctx 4096
PARAMETER repeat_penalty 1.1
SYSTEM """
你是一名专业的中文技术助手。
请始终使用简体中文回答。
回答应结构清晰、结论明确，并优先提供可执行步骤。
无法确认的信息必须明确说明，不得虚构事实、命令或数据。
"""
FROM 后面的模型名称应以本机实际可用的模型为准，可通过 ollama list 查看。为了避免基础模型更新后产生不可预期的输出变化，正式环境中可以指定明确标签，而不是长期依赖不固定的默认标签。
常用参数如何选择
- temperature：控制输出随机性。知识问答、代码分析和企业助手可从较低值开始；创意写作可以适当提高。
- num_ctx：设置上下文窗口。数值越大并不代表效果一定越好，还会增加内存或显存占用，应结合模型能力和硬件条件调整。
- repeat_penalty：用于抑制重复表达。设置过高可能破坏语句自然度，建议小幅测试。
- seed：固定随机种子有助于复现测试结果，但采样参数、模型版本和输入内容仍需保持一致。
- stop：指定停止序列，可添加多条，但错误的停止词可能导致回答提前截断。
三、如何固化高质量系统提示词
系统提示词不应只写一句“你是一个有帮助的助手”，而应明确规定角色、任务、输出格式、事实边界和异常处理。✅ 一套实用结构可以概括为：身份定位＋服务对象＋核心任务＋表达规则＋禁止事项＋信息不足时的处理方式。
SYSTEM """
你是一名面向开发者的 Ollama 技术顾问。
你的任务是解释本地模型部署、Modelfile 配置和故障排查方法。
回答时先给出结论，再列出操作步骤；命令必须完整，重要风险需要单独提醒。
如果问题缺少操作系统、模型名称或错误日志，应指出缺失条件，并在合理假设下提供排查方向。
不得伪造测试结果、版本特性、性能数据或不存在的配置项。
"""
系统提示词应尽量使用可验证、可执行的表述。例如，与其写“回答要好”，不如写“先给结论，再列出编号步骤”；与其写“保证完全正确”，不如写“不能确认时明确标注不确定性”。模型只能遵循提示，无法替代外部事实核验，因此涉及实时版本、价格或兼容性时，仍应查询官方资料。
四、创建并运行自定义模型
在 Modelfile 所在目录执行以下命令：
ollama create cn-tech-assistant -f ./Modelfile
ollama run cn-tech-assistant
其中，cn-tech-assistant 是自定义模型名称，可以替换为项目使用的命名。创建完成后，它会像普通 Ollama 模型一样出现在模型列表中。若想检查基础模型现有的配置，可使用：
ollama show --modelfile qwen2.5:7b
这条命令适合在修改模板前进行对照，因为不同模型家族可能使用不同的特殊标记和提示格式。🔍 如果只是固化系统提示词和常规参数，通常没有必要自行重写 TEMPLATE。
五、什么时候需要 TEMPLATE
TEMPLATE 决定系统消息、用户输入和模型回答如何拼接。只有在导入 GGUF、适配特殊聊天格式，或者基础模板不能正确传递系统消息时，才建议手动配置。模板中的变量通常包括 {{ .System }}、{{ .Prompt }} 和 {{ .Response }}，但具体结构必须与模型训练时采用的聊天模板匹配。
随意复制其他模型的 TEMPLATE，可能出现忽略系统提示词、输出特殊符号、角色混乱或无法正常停止等问题。更稳妥的做法是先执行 ollama show --modelfile 模型名，在原模板基础上进行最小调整，并保留对应的停止序列。
六、调试与版本管理建议
- 先只配置 FROM 和 SYSTEM，确认角色约束是否生效。
- 每次只调整一个参数，并使用相同测试问题比较结果。
- 建立固定测试集，覆盖普通问答、信息不足、格式要求、长文本和越界请求。
- 将 Modelfile 纳入 Git 管理，记录修改原因，但不要在提示词中写入密码、令牌或客户隐私。
- 升级 Ollama 或基础模型后重新执行测试，避免模型行为变化影响现有应用。
如果修改文件后运行结果没有变化，通常是因为尚未重新执行 ollama create，或者实际调用的仍是旧模型名称。还应检查 FROM 标签、三引号范围、参数拼写和停止序列，必要时创建一个新的测试名称，以排除旧配置干扰。⚠️
总结
Ollama Modelfile 的核心价值，是把零散的启动参数和系统提示词变成可复用、可审查、可版本化的模型配置。实际使用时，应先用 FROM＋SYSTEM＋少量 PARAMETER 建立最小可用版本，再根据测试结果逐步调整；除非确有兼容需求，不要轻易重写 TEMPLATE。通过明确的行为边界、稳定的测试问题和严格的版本管理，就能让本地模型在不同终端或应用中保持更一致的回答风格与任务表现。🚀
