Skip to content
Tất cả bài

Xây AI workflow với AnyRouter

Workflow là danh sách các bước, mỗi bước thấy câu trả lời trước. Với một key gateway và failover tự động, pipeline chỉ vài dòng và chịu được upstream lỗi.

Điều gì làm nên workflow chứ không phải một prompt

Một prompt hỏi một lần. Một workflow chạy danh sách các bước theo thứ tự, và mỗi bước thấy câu trả lời trước, nên đầu ra của một call thành ngữ cảnh cho call kế tiếp.

Khuôn này phủ phần lớn tự động hóa nội bộ: phân loại yêu cầu, rồi soạn trả lời, rồi chấm điểm bản thảo, rồi lưu lại. Phần khó không phải thứ tự, mà là truy cập model, và đó là việc của gateway.

Data shape

Workflow là danh sách các bước.Mỗi bước gồm tên, prompt và model tuỳ chọn. Prompt có thể dùng {input}, dữ liệu đầu vào, và {previous}, câu trả lời trước:

Một bước gồm tên, prompt và model tuỳ chọn
const steps = [
  { name: "classify", prompt: "Classify this as urgent or not: {input}" },
  { name: "draft", prompt: "Write a short reply for: {previous}" },
  { name: "check", prompt: "Does this reply promise anything we cannot do? {previous}" },
]

Mỗi bước trả về câu trả lời riêng, nên bạn giữ được kết quả trung gian làm audit trail chứ không chỉ văn bản cuối.

Chạy thử

Starter chính thức chạy danh sách theo thứ tự và cộng dồn token:

Cài starter và chạy workflow ba bước
import { runWorkflow } from "anyrouter-workflow"

const { steps, usage } = await runWorkflow({
  input: "My payouts have been failing for 3 days",
  steps,
})

for (const step of steps) console.log(step.name, step.output)
console.log(usage)

Starter nằm ở repo AnyRouterHQ/anyrouter-workflow, kèm test ghim endpoint chính thức.

Lấy starter

Đặt người vào vòng lặp

Vì mỗi bước là một call riêng, workflow có thể dừng giữa các bước. Ghi câu trả lời trung gian ở nơi người đọc được, chờ duyệt, rồi tiếp tục bước kế với văn bản đã duyệt làm {previous}.

Đó là toàn bộ khuôn cho phê duyệt, leo thang và hàng đợi rà soát. Bạn không cần workflow engine, chỉ cần một nơi lưu trạng thái giữa các call.

Chọn model cho từng bước

Mặc định là anyrouter/auto, định tuyến tới model đủ năng lực. Ghim model rẻ hơn cho bước nhiều khối lượng, ví dụ phân loại, và model mạnh hơn cho bước viết văn bản ra ngoài.

Model miễn phí tính $0 mỗi token trên gói Go trở lên, không giới hạn theo ngày, nên bước nhiều khối lượng chạy rẻ. AnyRouter tự thử lại upstream lỗi, nên một bước không cần vòng retry riêng.

Chọn gói và bắt đầu ngay

Go: $2/tháng, $4 credit.

Pro: $10/tháng, $20 credit.

Pro+: $45/tháng, $100 credit.

Max: $100/tháng, $300 credit.

Tạo tài khoản, thanh toán ở màn hình sau, rồi gọi model.