欢迎来到 金小颖论坛!
所有类别
-
Ollama接入Cline实战：搭建本地代码智能体与终端命令审批机制 在代码辅助工具逐渐走向“智能体化”之后，开发者需要的不只是自动补全，而是一个能够读取项目、修改文件、执行测试并根据结果继续迭代的本地助手。Ollama 与 Cline 的组合正好覆盖这 -
Ollama接入LiteLLM实现统一多模型API网关与故障回退配置实践 在本地大模型应用中，Ollama 解决了模型下载、运行与推理服务问题，但当业务需要同时使用不同模型、切换多台推理节点，甚至在本地模型不可用时自动转向备用服务，仅靠应用代码逐一适配会迅速
-
Ollama自定义Modelfile参数配置与系统提示词优化实战 在本地部署大模型时，直接执行 ollama run 虽然方便，但默认参数未必适合中文写作、代码辅助或知识问答。Modelfile 相当于 Ollama 的“模型配置蓝图”，可以固定基础
-
Ollama接入Qdrant搭建本地向量检索服务及Payload过滤优化实践 在强调数据隐私、离线可用和成本可控的场景中，将 Ollama 与 Qdrant 组合起来，可以快速搭建一套完全运行于本地的向量检索服务。Ollama 负责把文本转换为向量，Qdrant
-
Ollama接入Chroma打造轻量级本地向量知识库及持久化存储优化实践 在企业资料检索、个人笔记问答和离线 RAG 应用中，数据隐私、部署成本与使用门槛往往比“模型越大越好”更重要。Ollama 可以在本机运行嵌入模型和生成模型，Chroma 则负责保存向
-
Ollama接入vLLM兼容接口实现双推理后端切换与请求路由 在本地大模型部署中，Ollama 以安装简单、模型管理方便见长，vLLM 则更适合 GPU 服务器上的高并发推理。🚀 如果分别为两套后端编写调用逻辑，应用层很快会堆积大量判断代码。更实
-
Ollama接入Dify：本地AI应用工作流搭建与敏感数据隔离实践 在企业内部搭建 AI 应用时，团队往往既希望获得可视化工作流、知识库和接口发布能力，又不希望合同、客户资料、研发文档等敏感信息被发送到外部模型服务。Ollama 与 Dify 的组合提
-
Ollama接入CrewAI的多智能体协作任务流与角色分工配置实践 在本地大模型逐渐成熟后，越来越多开发者希望把“模型推理”和“任务编排”拆开：由 Ollama 负责运行本地模型，由 CrewAI 负责组织智能体、分配任务和传递上下文。二者结合后，可以
-
Ollama在Apple Silicon设备上的Metal加速配置与内存优化实践 在 Apple Silicon 设备上运行本地大模型，Ollama 的优势不仅是安装简单，还能利用 macOS 的 Metal 能力让 GPU 参与推理。由于 M 系列芯片采用统一内存
-
Ollama接入LlamaIndex搭建本地文档问答系统及节点检索调优实践 导语：把企业资料、项目文档或个人笔记交给云端模型处理，往往会带来隐私、网络依赖和调用成本等问题。Ollama 可以在本机运行大语言模型与嵌入模型，LlamaIndex 则负责文档加载、
-
Ollama接入LangChain实现本地对话记忆与上下文窗口裁剪 在本地部署大模型后，很多人会发现一个常见问题：模型能够回答当前问题，却“记不住”上一轮说过什么。原因并不复杂，Ollama 负责运行模型，但默认不会替应用维护完整会话状态；LangCh
-
Ollama接入Redis实现语义缓存与重复请求命中率优化实践 在本地部署大模型时，Ollama 能降低模型调用门槛，但重复问题仍会反复执行推理。例如“如何重置密码”和“忘记密码怎么办”表达不同，真实意图却高度相近。传统字符串缓存只能命中字面完全一
-
Ollama接入Elasticsearch的全文与向量检索融合排序实践 在企业知识库、技术文档和商品搜索中，单纯依赖全文检索容易错过同义表达，单纯依赖向量检索又可能弱化型号、编号、专有名词等精确条件。更实用的方案，是让 Ollama 在本地生成文本向量，由
-
Ollama 接入 Kubernetes：GPU 推理服务部署与弹性扩缩容实践 在本地运行 Ollama 并不复杂，但当模型需要面向团队或业务系统提供稳定服务时，单机部署很快会遇到 GPU 资源固定、模型文件重复下载、故障恢复困难和高峰期排队等问题。将 Ollam
-
Windows WSL2 环境下 Ollama GPU 直通配置与网络互通故障排查指南 在 Windows 上通过 WSL2 运行 Ollama，可以兼顾 Linux 工具链与本地 GPU 推理能力，但实际配置中常见两类问题：GPU 已安装却只使用 CPU，以及 Wind
-
Ollama在AMD Radeon显卡上的ROCm部署与兼容性故障排查指南 在本地运行大语言模型时，AMD Radeon 显卡能够通过 ROCm 为 Ollama 提供 GPU 加速，但实际部署往往比“安装后直接运行”更考验兼容性。显卡架构、Linux 内核、
-
Ollama接入MCP服务器实现本地大模型工具调用与权限边界配置指南 在本地部署大模型后，很多人希望它不仅能聊天，还能读取文件、查询数据库、调用内部接口或执行自动化任务。MCP（Model Context Protocol）提供了一套标准化的工具接入方式
-
Ollama结构化JSON输出与Schema约束校验实践指南 在本地大模型应用中，“能返回 JSON”并不等于“能稳定交付可用数据”。字段缺失、类型错误、额外说明文字、枚举值漂移，都可能让自动化流程在运行时中断。Ollama 的结构化输出能力可以
金小颖论坛
欢迎来到我们的社区。
这里倡导自由表达、平等交流、友好互动、开放分享和有趣探索。无论你是想认真讨论、轻松聊天、分享经验，还是发现好玩的人和内容，都可以在这里找到属于自己的位置。
请尊重他人，理性发言，友善交流，一起建设一个更自由、更开放、更有趣的社区。
帖子数
1472
1472
评论数
1470
1470
用户数
52
52
在线
1
1
微信号
微信号
微信快人一步获取最新文章
扫一扫
不错过精彩文章
热门活动
热门标签
友情链接
XIUNOX基于 Xiuno BBS 4.0.4 原版打造的现代化重构版本 XIUNOX， 全面适配 PHP 8 + MySQL 8，采用 Bootstrap 5.3 与 HTMX 构建现代无刷新 UI， 安全与可扩展性大幅提升，原生支持多语言、RESTful API，让轻量论坛重获新生。
xiunox交流论坛—
Linux 人社区综合性技术论坛
不知名作家论坛不知名作家论坛，由众多爱好者共建的公益性交流论坛，可以发表自己的随笔，散文，短篇小说，随写。
侠客岛侠客岛是一个融合江湖豪情与技术热情的技术社区。一入江湖岁月催，代码人生共举杯。在这里，既能论剑编程之道，也可把酒江湖夜话。
酒入论坛分享资源，分享快乐
破走论坛分享资源，分享快乐
申请友情链接
值得一看
首页动态展示横幅 wajxy_home_banner_v1.1.8【插件】
立即查看
QIK7电脑硬件信息修改工具（免费绿色版）
立即查看
靓号登录 wajxy_premium_number_v1.0.9【插件】
立即查看