BUYER GUIDE / 选型指南
哪些业务流程适合引入AI， 哪些关键决策应保留人工确认？
输入可获得、结果可检查、错误可恢复的任务更适合AI辅助；涉及权限、安全、资金、合规和责任归属的关键决策，应由确定性规则和有权人员最终确认。
FIELD NOTES / 专业文章
先看判断依据，再把方法带回真实项目。
适合AI的不是行业， 而是具体任务
“客服适合AI”或“财务不适合AI”都过于粗糙。客服中的资料检索、对话摘要和回复草稿风险较低，退款批准和责任认定风险较高；财务中的票据分类可以辅助，付款授权仍应由规则和人员承担。
评估时应把流程拆成输入、处理、输出和后续动作。输入是否充分、输出能否验证、错误是否容易被发现、执行是否可撤回，决定了自动化程度。
四类任务可以优先试点
第一类是信息整理，如摘要、分类、字段提取；第二类是有资料边界的检索问答；第三类是草稿生成，由人员审核后发布；第四类是辅助检测，如发现异常、遗漏或不一致。它们的共同点是结果可以被规则、来源或人员检查。
试点应从低风险、高频、重复且有历史样例的任务开始。先建立不用AI时的时间、错误和成本基线，再比较引入后的净变化。
关键决策需要确定性护栏
涉及账号权限、资金支付、合同承诺、个人信息、安全处置和高影响业务结果时，应明确授权人、规则阈值和人工确认界面。AI可以提供建议和证据，但不能绕过组织已有的责任链。
还要防止“人工在环”沦为形式。复核人需要看得到来源、模型输出依据、异常提示和可替代选项，并拥有拒绝、修改、暂停和回退的实际权限。
把风险管理贯穿整个生命周期
NIST AI风险管理框架强调以可信、可解释和可治理的方式管理AI风险，并把治理、识别、测量和管理贯穿生命周期。对企业项目而言，这意味着上线前评测只是起点，还要持续记录模型版本、数据变化、错误类型和人工接管。
当错误频率上升、输入分布变化或关键来源不可用时，系统应降级到确定性流程或人工处理。是否能够安全停止，和是否能够自动运行同样重要。
PRIMARY SOURCES / 原始来源
引用公开原始资料， 并保留适用边界。
SCOPE / 项目范围
先看这类项目通常包含什么。
- 01先拆任务而不是选模型
同一流程中，检索、草拟、判断和执行的风险完全不同。
- 02结果必须可以检查
有参考答案、规则、样例或人工复核标准的任务更适合先试。
- 03错误需要能够恢复
不可逆付款、删除、授权和对外承诺不能静默自动执行。
- 04上线后持续监测
模型、数据和业务都会变化，需要记录版本、错误、人工接管和用户反馈。
DECISIONS / 关键判断
开始开发前，先把这些问题回答清楚。
给任务分风险等级
按影响范围、可逆性、数据敏感度和责任后果决定自动化程度。
设计确认与降级路径
高风险输出必须经过有权人员，异常时回到规则或人工。
持续保留评测证据
记录样例、版本、错误、修正和业务结果，定期复盘。
BOUNDARY / 项目说明
AI能力不能替代组织授权和专业责任。
FAQ / 常见问题
AI流程上线前常见的两个问题
01
知识库问答可以完全无人值守吗？
取决于内容风险。内部低风险资料可逐步自动化；对外承诺、价格、合同和专业意见应保留来源与人工确认。
02
模型效果很好，还需要确定性规则吗？
需要。权限、金额上限、数据范围、审批和回退等边界应由可审计规则承担。
NEXT / 继续了解
从相关服务、案例或资料继续判断。
PROJECT CONTEXT / 项目沟通
问题已明确，直接讨论首期范围。
不用先整理完整需求文档，说明当前做法、使用角色、预算与首期目标即可。