CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 简单问题,不要调用最贵模型
22学习模块 119已上线课程 60%当前章节
LEARNING MODULES

选择学习方向

成本、速度与模型选择简单问题,不要调用最贵模型

成本、速度与模型选择

简单问题,不要调用最贵模型

很多 AI 任务其实不需要“顶级大脑”。如果只是分类、提取、格式转换、简单摘要或固定问答,却每次都调用最强模型,就像请高级专家专门负责复制粘贴。

一句话回答

简单问题,不要调用最贵模型。能缓存就缓存,能用规则就用规则,简单任务用快模型,普通任务用主力模型,复杂任务再使用强模型。

01 先看一张图:先判断,再花钱 use enough, not maximum
能缓存

直接返回。

能用规则

程序处理。

简单任务

快模型。

普通任务

主力模型。

复杂任务

强模型。

高风险

人工确认。

任务够简单,就用够用的模型。

02 什么叫简单问题? simple means low reasoning
提取信息

姓名、电话、公司名称、订单号。

分类判断

正面/负面、个人/企业、工单类别。

格式转换

把文本整理成 JSON、表格或固定结构。

简单摘要

把短文本压缩成几句话。

固定问答

营业时间、联系方式、常见流程。

标签生成

给客户、邮件、内容打基础标签。

简单问题不是字数少,而是规则清楚、答案范围有限、不需要深度推理。

03 为什么没必要用最贵模型? unused capability still costs
简单任务

规则清楚,答案范围有限。

调用强模型

强推理、长上下文能力没有真正用上。

成本照样产生

为了简单结果买了过高规格的计算能力。

速度也可能变慢

用户只是要马上完成。

为了一个简单结果,买了远超需求的计算能力。

04 用员工来理解最简单 do not overstaff simple work
8,000 初级员工

整理资料、分类、录入。

20,000 中级员工

写方案、做普通分析。

80,000 高级专家

战略判断、复杂项目。

不是越强越好,而是匹配最重要。

05 一个 AI 客服例子 faq, order, dispute
缓存 固定 FAQ

营业时间、客服电话、退款入口。

主力模型 订单相关

结合数据库和知识库回答。

强模型 + 人工 复杂纠纷

多项政策、高风险判断。

06 单次差距小,规模化以后很贵 small delta, big bill
小模型

0.01 元 / 次。

强模型

0.10 元 / 次。

10 万次 / 天

每天差 9,000 元。

规模化以后

模型选择就是商业成本问题。

AI 产品一旦规模化,模型选择不是技术细节,而是商业成本问题。

07 简单任务更看重速度 users expect instant work
自动打标签

用户期待马上完成。

邮件分类

重点是稳定、快、低延迟。

提取订单号

不需要最大推理能力。

08 什么时候升级到强模型? upgrade only when needed
先用普通模型

处理常规问题。

结果足够好?

够好就直接返回。

不够再升级

复杂、低置信度时转强模型。

高风险转人工

权限、资金、法律等需要确认。

09 成熟系统会分级处理 tiered execution
快模型 一级:简单

分类、提取、格式转换。

主力模型 二级:普通

写作、总结、普通客服、一般分析。

强模型 三级:复杂

深度推理、复杂代码、战略分析。

人工确认 四级:高风险

资金、法律、重要权限。

10 模型选择还要看错误成本 risk changes the route
一句付款判断

看起来很短,但答错可能造成资金损失。

法律 / 医疗 / 权限

高风险任务不是单纯换更强模型,还要增加权限和人工确认。

最终选择

任务难度 + 错误成本 + 速度要求 + 预算。

11 Agent 内部更要省 many steps, many chances to route
01 提取客户信息

快模型。

02 客户分类

快模型。

03 复杂客户分析

强模型。

04 跟进文案

主力模型。

05 最终总结

按需选择。

本节练习

给 20 个高频客服问题做成本分流

标记哪些可以缓存,哪些可以规则处理,哪些适合快模型,哪些需要主力模型、强模型或人工确认。

能缓存?固定 FAQ、热门回答直接复用。 能用规则?库存低于 10、字段校验交给程序。 判断复杂吗?规则清楚就用快模型。 错误成本高吗?高风险不要盲目降级。 用户急不急?简单任务更看重速度。 是否需要升级?质量不足再上强模型。

本节小结

成熟的 AI 产品不会问“哪个模型最强”,而会问“这次任务,用哪个模型最划算、最快、又足够好?”

  • 简单问题不是字数少,而是判断不复杂、规则清楚、答案范围有限。
  • 能缓存或规则解决的任务,甚至不一定需要调用模型。
  • 简单任务通常更看重速度、稳定和低成本。
  • 这次任务用哪个模型最划算、最快、又足够好,比“哪个模型最强”更重要。