CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 复盘:成本、工具与安全边界
22学习模块 119已上线课程 100%当前章节
LEARNING MODULES

选择学习方向

第二章收束复盘:成本、工具与安全边界

第二章收束

复盘:成本、工具与安全边界

当 AI 从“会聊天”升级成“会找资料、会调用工具、会执行任务的 AI 工作台”以后,真正现实的问题就变成三个:调用越来越多,成本怎么办;工具越来越多,怎么用对;AI 能执行真实操作以后,哪些事情不能让它自己决定。

一句话回答

成熟 AI 工作台要做到:花得起、做得对、管得住。成本决定能不能规模化,工具决定能不能完成任务,安全边界决定你敢不敢真的把工作交给它。

01 三个底线:成本、工具、安全 three baselines
成本 花多少钱?
  • 少调用
  • 少输入
  • 少输出
  • 用对模型
  • 缓存复用
工具 怎么完成任务?
  • 选对工具
  • 传对参数
  • 拆步骤
  • 失败重试
  • 状态管理
安全 能不能让它做?
  • 权限控制
  • 风险分级
  • 人工确认
  • 可撤销设计
  • 高风险停止

模型聪明只是起点,真正上线以后还要花得起、做得对、管得住。

02 成本:看单任务成功成本 cost control
能不用 AI,就不用 AI

简单规则交给程序,别让模型做确定性判断。

只给必要资料

不要每次把整个知识库和长历史都塞进去。

简单任务用快模型

分类、提取、格式转换,不一定需要最强模型。

能短答就短答

用户只问状态,就不要生成一大段解释。

能复用就缓存

固定 FAQ、稳定结果、重复查询,优先复用。

便宜但失败0.05 元 × 4 次 = 0.20 元 贵但一次成功0.15 元 × 1 次 = 0.15 元
03 工具:让 AI 从会说变成会做 tool workflow
工具说明要清楚

写明它做什么、什么时候用、什么时候不用。

参数要明确

customer_id、start_date、end_date 这类字段不能含糊。

多工具要拆步骤

先查 VIP,再查订单,再筛选,再创建任务。

串行并发分清楚

依赖前一步就串行,互不依赖才并发。

失败不能无限重试

限制重试次数、步骤数、运行时间和成本。

04 安全:能做,不代表有权做 risk boundary
低风险 总结、分类、查询

AI 自动完成

中风险 发邮件、修改普通数据

执行前确认

高风险 钱、删除、权限、重大操作

人工审批

低风险 读取

查询客户、查看订单、读取资料。

中风险 修改

更新资料、改状态、创建跟进任务。

高风险 删除 / 付款

删除客户、退款转账、修改权限。

AI 能执行,不代表 AI 有权执行。风险越高,自动化权限越低。

05 一个完整任务如何串起来 cost + tools + safety
判断任务 调用 CRM 查询订单 筛选客户 生成邮件 风险判断 人工确认 发送邮件 写入日志
成本

只取需要的客户和订单,不读取全量历史。

工具

CRM、订单、邮件工具按步骤调用。

安全

对外发送前展示名单和内容,由人确认。

06 最终形成一个执行判断器 execution gate
是否真的需要?

能程序处理就别调用模型。

需要什么工具?

工具选错,后面都会错。

成本是否合理?

看单任务成功成本,不只看单价。

信息是否充分?

目标不明确、资料冲突就暂停。

风险等级多高?

低风险自动,中风险确认,高风险审批。

低风险:自动执行 中风险:确认后执行 高风险:人工审批 全部写入日志

本节练习

给一个 Agent 流程标出三条底线

拿“VIP 客户优惠邮件”这个任务,分别标出哪里省成本、哪里用工具、哪里必须确认,以及日志要记录什么。

成本少查、少算、能缓存。 工具选对、传参、看结果。 安全分级、确认、可撤销。 日志每一步都可追踪。

本节小结

真正成熟的 AI 工作台,不是让 AI 做得越多越好,而是用合理成本,让 AI 在正确权限范围内,稳定完成真正有价值的任务。

  • 成本优化不是只看模型单价,而是看单任务成功成本。
  • 工具让 AI 从会说变成会做,但工具越多越需要清楚定义和流程拆解。
  • AI 能执行,不代表 AI 有权执行,风险越高自动化权限越低。
  • 查询、修改、删除要分开看,不可逆操作必须增加确认。
  • 成熟 Agent 追求自动化收益最大化,而不是自动化比例最大化。