在本地部署大模型时，直接执行 ollama run 虽然方便，但默认参数未必适合中文写作、代码辅助或知识问答。Modelfile 相当于 Ollama 的“模型配置蓝图”，可以固定基础模型、生成参数、提示词模板和系统角色，让同一模型在不同场景下表现得更稳定、更可控。🧩
一、先理解 Modelfile 的作用
Modelfile 采用“指令加参数”的配置方式，其中 FROM 用于指定基础模型，PARAMETER 控制生成行为，SYSTEM 设置系统提示词，TEMPLATE 定义完整提示模板。此外，它还支持 ADAPTER、LICENSE、MESSAGE 和 REQUIRES 等指令。具体语法可查看 Ollama Modelfile 官方文档。
一个实用的中文助手配置可以从以下内容开始：
FROM qwen3
PARAMETER temperature 0.6
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 8192
SYSTEM """
你是一名专业的中文技术助手。
回答时先给出结论，再提供可执行步骤。
信息不足时明确说明，不得编造事实。
使用简体中文，保持结构清晰、表达准确。
"""
保存为 Modelfile 后，可执行 ollama create chinese-assistant -f Modelfile 创建模型，再通过 ollama run chinese-assistant 启动。已有模型的配置则可以使用 ollama show --modelfile 模型名进行查看。相关创建命令也可参考 Ollama CLI 说明。🚀
二、常用参数应该怎样调整
1. temperature：控制随机性
temperature 越低，输出通常越集中和稳定；越高，则更容易产生多样化表达。技术问答、资料整理和代码生成可以从 0.2 至 0.6 之间试起，创意写作可适当提高。它并不是“质量开关”，设置过低可能让内容僵硬，设置过高则可能增加跑题和不确定表达。
2. top_p 与 top_k：限制候选范围
top_p 通过累计概率筛选候选词，top_k 则限制每一步参与采样的候选数量。实践中不建议一次大幅修改多个采样参数，否则很难判断是哪项配置影响了结果。可以先固定 temperature，再分别测试 top_p 和 top_k，并使用相同问题对比输出差异。🔍
3. repeat_penalty：减少机械重复
当模型频繁重复句子、标题或结论时，可以小幅提高 repeat_penalty。数值过高也可能导致术语被刻意回避，影响技术内容的准确性。因此，应使用包含固定术语和长段落的问题进行测试，而不是只观察一两句短回答。
4. num_ctx：设置上下文窗口
num_ctx 决定模型一次能够处理的上下文规模。长文总结、代码仓库分析和多轮对话需要更大的上下文，但更高的设置也会增加内存或显存压力，并可能降低推理速度。合理做法是根据实际输入长度逐级提高，而不是盲目追求最大值。官方示例也将 num_ctx 用于控制模型可使用的上下文容量，详见 参数参考。
5. stop：控制生成终止位置
stop 可以设置停止序列，适合固定格式输出或自定义对话模板。如果基础模型本身包含专用角色标记，错误的停止词可能让回答提前中断。修改 TEMPLATE 或 stop 前，建议先导出原模型的 Modelfile，观察其角色标记和终止标记，再进行增量调整。
三、系统提示词的优化方法
优秀的 SYSTEM 提示词不需要堆砌大量形容词，更重要的是明确职责、任务边界、输出结构和异常处理方式。可以按照“角色、目标、规则、格式、边界”五层结构编写：
- 角色：你是谁，擅长什么领域。
- 目标：需要帮助用户完成哪些任务。
- 规则：先做什么、后做什么，如何组织答案。
- 格式：使用何种语言、段落、列表或代码说明。
- 边界：不确定时如何处理，禁止编造哪些信息。
例如，与其写“你是最强的编程专家”，不如写“你是一名后端开发助手；先定位问题，再给出最小修改方案；代码需注明运行环境；无法确认依赖版本时，先列出假设”。后者包含可执行约束，更容易得到一致结果。✅
系统提示词还应避免互相冲突。比如同时要求“回答必须极简”和“解释每个步骤的全部原理”，模型只能在两者之间权衡。更稳妥的写法是明确优先级，例如“默认简洁回答；涉及配置风险时补充原因和验证步骤”。
四、不要随意改写 TEMPLATE
TEMPLATE 决定系统消息、用户输入和模型回答怎样组合。不同模型可能采用不同的角色标记与消息格式，如果直接复制其他模型的模板，可能导致角色混乱、输出特殊符号或无法正确停止。除非明确了解基础模型的聊天模板，否则优先保留原模板，仅通过 SYSTEM 和 PARAMETER 完成定制。
确需修改时，可重点检查 .System、.Prompt 和 .Response 等变量是否放置正确，并同步核对 stop 序列。每次只修改一个部分，然后重新创建模型并执行固定测试集，能够更快定位问题。
五、建立可复现的调试流程
- 先使用默认模型运行五至十个代表性问题，保存结果作为基线。
- 第一轮只优化 SYSTEM，确认角色、格式和边界是否生效。
- 第二轮调整 temperature、top_p 等采样参数，每次只改变一项。
- 加入长文本、模糊问题、重复内容和格式要求等压力测试。
- 记录模型版本、Modelfile 内容、测试问题和结果，便于回退。
如果需要导入 GGUF 模型或微调适配器，还应确保 ADAPTER 与训练时使用的基础模型一致，否则可能出现异常输出。相关限制可参阅 Ollama 模型导入指南。🛠️
总结
Modelfile 优化的核心不是把参数调得越复杂越好，而是围绕具体任务建立稳定、可验证、可复现的配置。先选对基础模型，再用清晰的 SYSTEM 固定行为边界，随后小步调整 PARAMETER；只有在确有需要时才修改 TEMPLATE。通过基线对比、单变量测试和版本记录，就能逐步打造适合中文问答、内容创作或开发辅助的 Ollama 自定义模型。
