Skip to content
全部文章

用 AnyRouter 构建 AI 工作流

工作流是一串有序步骤,每一步都能看到上一步的回答。用一把网关 key 和自动故障转移,整条流水线只有几行代码,并且能扛住上游故障。

什么让它成为工作流,而不是一个提示词

单个提示词只问一次。工作流按顺序运行一组步骤,每一步都能看到上一步的回答,于是一次调用的输出成为下一次调用的上下文。

这个形状覆盖了大部分内部自动化:给请求分类、起草回复、给草稿打分、然后归档。难点不在顺序,而在模型访问,那正是网关负责的事。

数据形状

工作流是一组步骤。每一步是名称、提示词和可选模型。提示词可以引用 {input}(工作流输入)和 {previous}(上一个回答):

一步由名称、提示词和可选模型组成。
const steps = [
  { name: "classify", prompt: "Classify this as urgent or not: {input}" },
  { name: "draft", prompt: "Write a short reply for: {previous}" },
  { name: "check", prompt: "Does this reply promise anything we cannot do? {previous}" },
]

每一步都返回自己的答案,所以你可以保留中间结果作为审计轨迹,而不仅是最终文本。

运行

官方 starter 按顺序运行列表,并汇总 token 用量:

安装 starter 并运行三步工作流。
import { runWorkflow } from "anyrouter-workflow"

const { steps, usage } = await runWorkflow({
  input: "My payouts have been failing for 3 days",
  steps,
})

for (const step of steps) console.log(step.name, step.output)
console.log(usage)

starter 位于 AnyRouterHQ/anyrouter-workflow 仓库,测试会把官方端点固定住。

获取 starter

把人放进循环

因为每一步都是独立调用,工作流可以在步骤之间停下。把中间答案写在人能读的地方,等待批准,然后用已批准的文本作为 {previous} 继续下一步。

这就是审批、升级和审核队列的全部模式。你不需要工作流引擎,只需要一个在调用之间保存状态的地方。

为每一步选模型

默认是 anyrouter/auto,会路由到有能力的模型。在量大的一步(例如分类)固定更便宜的模型,在写对外文本的一步用更强的模型。

免费模型在 Go 及以上套餐每 token $0,没有每日上限,所以量大的步骤很便宜。AnyRouter 会自动重试失败的上游,所以每一步不需要自己的重试循环。

选一个套餐,马上开始

Go 每月 $2,得 $4 额度。

Pro 每月 $10,得 $20 额度。

Pro+ 每月 $45,得 $100 额度。

Max 每月 $100,得 $300 额度。

注册后在下一页付款,即可调用模型。