我更期待端侧 AI 先把高频小任务做好,比如离线 OCR、相册语义搜索、会议录音整理和本地文档问答,这些功能比单纯追求参数规模更实用。不过,“本地运行”不能只停留在宣传层面,系统最好明确显示当前任务使用了哪些文件、是否联网、缓存保存多久,并提供一键清除记录和禁止云端回传的选项。对开发者来说,还应覆盖不同档位设备,测试内存占用、发热、续航和长时间运行稳定性。端云协同可以是默认方案,但涉及合同、照片等...
我比较认同“先快后深”的用法。日常改写、提取信息没必要拉满推理强度,先拿到可用结果更重要;遇到代码排错、方案取舍时,再针对疑点增加预算。实际使用中还可以给自己设个简单规则:低风险任务优先速度,高风险任务要求列出依据、不确定点和验证方法。对 API 用户来说,除了 Token 成本,也应关注人工修改率和任务成功率,否则省了算力却增加返工,反而得不偿失。