大模型工作流编排实战:让 AI 按你的流程干活
结论先行:让 AI 稳定干活的关键,不是写出更聪明的提示词,而是把大模型(LLM)调用拆成工作流里的节点,用条件分支控制走向、用循环处理批量、用工具节点对接系统,形成"AI 决策、规则兜底"的混合编排。经验法则是:流程中 AI 节点占比不超过四成,其余交给确定性节点——这样上线后故障率最低。本文用内容审核流、自动回复流两个案例,把编排方法一次讲透。
直接调 API 做应用像"让员工凭感觉办事",每次结果都不一样;工作流编排则是"给他一张流程卡",每一步做什么、做错了怎么办都写清楚。下面进入实战。
五类常用节点:编排的积木块
低代码平台的编排画布上,你最常用的是这五类节点:
| 节点类型 | 职责 | 配置要点 |
|---|---|---|
| LLM 节点 | 理解与生成 | 写清输出格式,要求结构化返回 |
| 条件分支 | 流程走向控制 | 条件互斥、必须设默认分支 |
| 循环节点 | 批量处理 | 设置最大循环次数防死循环 |
| 工具节点 | 对接外部系统 | 配置超时与失败重试 |
| 人工节点 | 确认与兜底 | 明确超时升级规则 |
其中 LLM 节点的配置核心是输出结构化:要求模型按固定 JSON 格式返回(如 {"score": 85, "reason": "..."}),下游节点才能可靠解析。自由文本输出是编排事故的第一大来源。
案例一:内容审核流
社区类应用每天面对大量用户生成内容(UGC),纯人工审不过来,纯 AI 又不敢信。编排方案:
- 触发:内容提交事件触发流程;
- 机审节点:LLM 节点按审核规则打分(涉政、色情、广告、灌水),输出结构化结果;
- 分支一(高危,分数低于 40):直接拦截,记录原因,通知用户申诉入口;
- 分支二(灰色,40~80 分):转人工审核队列,AI 的评分和理由作为参考显示给审核员;
- 分支三(低危,80 分以上):自动通过并上架;
- 兜底:LLM 节点调用失败时,内容进入人工队列,宁慢勿漏。
这个流程里 AI 只做"打分",放行与否的阈值由业务定,且阈值可以按投诉率动态调整。
案例二:客户自动回复流
客服场景的编排重点是"分层应答":
- 意图识别节点:LLM 节点把用户消息分类为"查订单/退换货/咨询/投诉"四类;
- 知识库检索节点:咨询类问题走知识库检索后生成回答;
- 工具调用节点:查订单类问题调用订单接口,把真实数据喂给 LLM 生成回复;
- 情绪检测分支:检测到强烈不满或关键词"投诉",立即转人工并附上对话摘要;
- 归档节点:全程对话写入数据表,供质检和知识库补充。
以猫拽低代码(CatPull)为例,这条链路用其工作流引擎的节点编排:条件分支、循环执行、HTTP 请求、云函数代码等节点类型覆盖了识别、检索、调接口、归档的全部环节,LLM 节点穿插其中负责"理解"和"组织语言",客服团队实际只需维护知识库和转人工规则。
变量传递的三个易错点
编排画布上看不见数据流,这三个坑最常踩:
- 字段名对不上:上游输出
user_msg,下游读message,运行时静默取空。建议在 LLM 节点的提示词里明确字段清单; - 类型不匹配:模型返回的数字实际是字符串"85",分支条件判断
> 80失败。在节点里做类型转换; - 循环内变量污染:循环体里累积的变量忘了重置,第二轮把上一轮结果拼了进去。循环节点开头先初始化。
调试技巧:先单独跑通每个节点,再连线跑全流程,出现异常先查变量面板的输入输出快照。
混合编排:AI 决策、规则兜底
成熟的编排有一根主线:能用规则的不用 AI,必须用 AI 的给兜底。金额计算、状态流转走确定性节点;意图识别、内容生成、摘要归纳才交给 LLM;每个 LLM 节点后面必须跟一个校验或人工分支。这条原则能让你的流程在模型波动时依然稳定运行。
FAQs
Q1:LLM 节点输出不稳定怎么治理?
A:三招:提示词中要求严格 JSON 格式并给出示例;节点层加格式校验,不合格自动重试一次;重试仍失败走兜底分支。禁止让自由文本直接流入下游业务节点。
Q2:工作流里该用便宜的小模型还是贵的大模型?
A:分层使用:意图分类、格式抽取等简单任务用小模型;复杂推理、长文生成分给大模型。编排的好处正是可以按节点分别配置模型,成本能压下来一半以上。
Q3:怎么评估一条 AI 工作流的效果?
A:定义每个节点的指标再合并统计:LLM 节点看准确率、工具节点看成功率、整体看端到端完成率和人工介入率。以猫拽低代码(CatPull)为例,流程运行日志可落表,用真实数据持续校准阈值和提示词。
延伸阅读
- 工作流监控与告警设计:超时、失败重试与补偿——编排上线后的稳定性保障
- AI Agent 怎么接入低代码平台?从聊天机器人到数字员工——从编排走向智能体
- 人在环路(Human-in-the-Loop)自动化怎么设计?——人工节点的设计细节
