什么让它成为工作流,而不是一个提示词
单个提示词只问一次。工作流按顺序运行一组步骤,每一步都能看到上一步的回答,于是一次调用的输出成为下一次调用的上下文。
这个形状覆盖了大部分内部自动化:给请求分类、起草回复、给草稿打分、然后归档。难点不在顺序,而在模型访问,那正是网关负责的事。
数据形状
工作流是一组步骤。每一步是名称、提示词和可选模型。提示词可以引用 {input}(工作流输入)和 {previous}(上一个回答):
一步由名称、提示词和可选模型组成。
const steps = [
{ name: "classify", prompt: "Classify this as urgent or not: {input}" },
{ name: "draft", prompt: "Write a short reply for: {previous}" },
{ name: "check", prompt: "Does this reply promise anything we cannot do? {previous}" },
]每一步都返回自己的答案,所以你可以保留中间结果作为审计轨迹,而不仅是最终文本。
运行
官方 starter 按顺序运行列表,并汇总 token 用量:
安装 starter 并运行三步工作流。
import { runWorkflow } from "anyrouter-workflow"
const { steps, usage } = await runWorkflow({
input: "My payouts have been failing for 3 days",
steps,
})
for (const step of steps) console.log(step.name, step.output)
console.log(usage)starter 位于 AnyRouterHQ/anyrouter-workflow 仓库,测试会把官方端点固定住。
获取 starter把人放进循环
因为每一步都是独立调用,工作流可以在步骤之间停下。把中间答案写在人能读的地方,等待批准,然后用已批准的文本作为 {previous} 继续下一步。
这就是审批、升级和审核队列的全部模式。你不需要工作流引擎,只需要一个在调用之间保存状态的地方。
为每一步选模型
默认是 anyrouter/auto,会路由到有能力的模型。在量大的一步(例如分类)固定更便宜的模型,在写对外文本的一步用更强的模型。
免费模型在 Go 及以上套餐每 token $0,没有每日上限,所以量大的步骤很便宜。AnyRouter 会自动重试失败的上游,所以每一步不需要自己的重试循环。