分类、提取、格式转换、标签判断。
成本、速度与模型选择
不同任务，匹配不同模型
很多人刚开始做 AI 产品时，会想“既然最强模型效果最好，那所有任务都用最强模型不就行了？”一旦用户量上来，就会遇到成本高、速度慢、资源浪费。
一句话回答
不同任务要匹配不同模型。真正成熟的 AI 产品不会每次都问“最强模型是谁”，而会先问“这一次任务真正需要什么”。
01 先看一张图：任务先分流，再选模型
model routing
写作、总结、客服问答、普通分析。
深度分析、复杂推理、长文档理解。
简单的事情别用最贵的模型，复杂的事情也别为了省钱硬塞给小模型。
02 可以把模型想象成不同级别的员工
right person, right task
整理表格、提取字段、简单分类、固定格式转换。
写文章、做总结、客服回复、普通分析和日常办公。
复杂商业分析、高难度代码、深度研究、多步骤推理。
不要让最贵的专家，去做最简单的杂活。
03 简单任务，用快模型
fast and cheap
从文本里拿姓名、电话、公司名称。
把内容整理成 JSON、表格或固定结构。
判断客户类型、评论情绪、工单类别。
重点是快、稳定、便宜。
04 普通内容任务，用主力模型
balanced model
企业介绍、邮件润色、普通文案。
把记录整理成摘要、待办和重点。
根据知识库回答常见问题。
需要理解和表达，但不需要深度推理。
主力模型要在质量、速度、成本之间取得平衡。
05 复杂问题，再用强模型
spend where it matters
多步骤判断、资料冲突、长链路分析。
阅读多份资料后给出完整建议。
检查架构、定位问题、设计改动方案。
错误代价高时，准确性和安全性优先。
复杂任务用弱模型反复重试，最后可能更贵。
06 模型选择是在平衡三件事
ability / speed / cost
任务到底需要多强的理解、推理和生成能力？
用户能等多久，首字和总时长能否接受？
单次请求和整体规模下的预算是否合理？
07 一个 AI 客服怎么选模型？
route by request type
营业时间、售后流程、常见 FAQ。
结合订单、知识库和当前情况回答。
退款纠纷、多政策冲突、高风险问题。
10 万次请求，不应该全部调用最贵模型。
08 Agent 内部也可以用多个模型
multi-model agent
快模型先判断任务类型。
快模型做字段抽取和清洗。
强模型处理关键推理。
主力模型写普通跟进建议。
汇总结果并记录成本。
09 不同任务不只是强弱区别
capability fit
通用文本模型。
强推理模型。
多模态模型。
生图模型。
代码能力更合适的模型。
快速低成本模型。
真正的模型选择不是只有小模型 vs 大模型，而是什么任务 -> 什么能力 -> 什么模型。
10 可以先便宜处理，不够再升级
escalate when needed
处理大部分常规问题。
质量足够就直接返回。
复杂、冲突、低置信度时转强模型。
高风险或权限相关问题由人确认。
11 怎么判断模型选对了？
measure, do not guess
任务完成得好吗？
每次请求多少钱？
用户要等多久？
同类任务结果是否稳定？
产品选择看的是综合性价比，不是排行榜第一。
本节练习
给你的 AI 产品设计一张模型路由表
准备 100 个真实任务样本，比较不同模型的准确率、回答质量、平均耗时和单次成本，再决定每类任务默认用哪个模型。
低难度分类、提取、格式转换 -> 快模型。
中难度写作、总结、客服、普通分析 -> 主力模型。
高难度深度推理、复杂代码、研究分析 -> 强模型。
特殊能力图片、语音、代码、生图 -> 对应能力模型。
高风险法律、医疗、资金、权限 -> 强模型或人工确认。
持续测试用真实样本比较质量、耗时和成本。
本节小结
最终目标不是每次都使用最强 AI，而是用刚刚好的模型，以刚刚好的成本，把这件事做好。
- 不同任务对模型能力的要求不同，不应该所有任务都走同一个模型。
- 模型路由就是收到任务后，先判断它适合哪个模型。
- 产品选择看综合性价比，不是只看哪个模型最强。
- 用刚刚好的模型，以刚刚好的成本，把这件事做好。