# AnyRouter Blog > Guides, comparisons, and engineering notes on routing every LLM through one OpenAI-compatible endpoint. HTML: https://anyrouter.dev/blog This index lists every post as markdown for LLM consumption. ## Feeds - RSS: https://anyrouter.dev/blog/rss.xml (alias: https://anyrouter.dev/blog/feed.xml) - Full text: https://anyrouter.dev/blog/llms-full.txt - HTML sitemap: https://anyrouter.dev/sitemap.xml - Markdown sitemap: https://anyrouter.dev/sitemap-md.xml ## Posts - [AnyRouter now supports Agent Auth](https://anyrouter.dev/blog/anyrouter-agent-auth.md): Personal agents can discover AnyRouter, sign in with their own identity and report feedback through Agent Auth, built on open OAuth standards and the Personal Agent Protocol. - [AnyRouter hiện hỗ trợ Agent Auth](https://anyrouter.dev/blog/vi/anyrouter-agent-auth.md): Agent cá nhân có thể khám phá AnyRouter, đăng nhập bằng danh tính của chính chúng và gửi phản hồi qua Agent Auth, được xây dựng trên OAuth mở và Giao thức Agent Cá nhân. - [AnyRouter 现已支持 Agent Auth](https://anyrouter.dev/blog/zh/anyrouter-agent-auth.md): 个人代理可以通过基于开放 OAuth 标准和个人代理协议的 Agent Auth 发现 AnyRouter、以自身身份登录并直接反馈问题。 - [Sage S2.1 Flash: scientific research on AnyRouter](https://anyrouter.dev/blog/sage-s2-1-flash.md): Shanghai AI Laboratory's scientific multimodal model is on AnyRouter through your own Intern TokenPlan key: 512K context, text and image input. - [Sage S2.1 Flash: nghiên cứu khoa học trên AnyRouter](https://anyrouter.dev/blog/vi/sage-s2-1-flash.md): Mô hình đa phương thức khoa học của Phòng Thí nghiệm Trí tuệ Nhân tạo Thượng Hải có mặt trên AnyRouter qua khóa Intern TokenPlan của bạn: ngữ cảnh 512K, đầu vào văn bản và hình ảnh. - [Sage S2.1 Flash:在 AnyRouter 上做科学研究](https://anyrouter.dev/blog/zh/sage-s2-1-flash.md): 上海人工智能实验室的 Scientific 多模态模型已通过你自己的 Intern TokenPlan 密钥上线 AnyRouter:512K 上下文,支持文本与图像输入。 - [All các bản embedding MiniLM miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/all-minilm-free.md): Mô hình embedding nhỏ gọn All MiniLM của Sentence-Transformers miễn phí trên các gói Go và cao hơn của AnyRouter, với $0 đầu vào/$0 đầu ra và không có hạn ngày trên các gói Go. - [All MiniLM Embeddings are free on Go and higher](https://anyrouter.dev/blog/zh/all-minilm-free.md): Sentence-Transformers' All MiniLM compact embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Apple Foundation Model miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/apple-foundation-model-free.md): Apple Foundation Model miễn phí trên AnyRouter cho các gói Go và cao hơn, với $0 đầu vào và $0 đầu ra. - [Apple Foundation Model is free on Go and higher](https://anyrouter.dev/blog/zh/apple-foundation-model-free.md): Apple Foundation Model is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [BGE-Large embedding miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/bge-large-free.md): Mô hình embedding đa ngôn어 BGE-Large của BBAI miễn phí trên AnyRouter Go và các gói cao hơn, không có hạn ngày và $0 đầu vào/$0 đầu ra trong danh mục. - [BGE-Large embeddings are free on Go and higher](https://anyrouter.dev/blog/zh/bge-large-free.md): BAAI's BGE-Large multilingual embedding model is free on AnyRouter Go and higher plans, with no daily cap and $0 input/output in the catalog. - [Cohere North Mini Code miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/cohere-north-mini-code-free.md): Cohere North Mini Code miễn phí trên AnyRouter cho các gói Go và cao hơn, với $0 đầu vào và $0 đầu ra. - [Cohere North Mini Code is free on Go and higher](https://anyrouter.dev/blog/zh/cohere-north-mini-code-free.md): Cohere North Mini Code is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [d3-lite miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/d3-lite-free.md): Mô hình quyết định 0.8B d3-lite miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - [d3-lite is free on Go and higher](https://anyrouter.dev/blog/zh/d3-lite-free.md): The 0.8B d3-lite decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-mini miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/d3-mini-free.md): Mô hình quyết định 4B d3-mini miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - [d3-mini is free on Go and higher](https://anyrouter.dev/blog/zh/d3-mini-free.md): The 4B d3-mini decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-nano miễn phí trên gói Go và cao hơn](https://anyrouter.dev/blog/vi/d3-nano-free.md): Mô hình quyết định 2B d3-nano miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - [d3-nano is free on Go and higher](https://anyrouter.dev/blog/zh/d3-nano-free.md): The 2B d3-nano decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-ultra miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/d3-ultra-free.md): Mô hình quyết định 27B d3-ultra miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra, không có hạn sử dụng hàng ngày. - [d3-ultra 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/d3-ultra-free.md): 27B 参数 d3-ultra 决策模型在 AnyRouter Go 及以上计划中免费,输入和输出均为 $0,无每日限制。 - [Dots Studio Dots3-Note Preview miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/dots-studio-dots-3-note-preview-free.md): Dots Studio Dots3-Note Preview miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - [Dots Studio Dots3-Note Preview 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/dots-studio-dots-3-note-preview-free.md): Dots Studio Dots3-Note Preview 免费 AnyRouter Go 及以上计划,输入和输出均为 $0。 - [EmbeddingGemma 2 miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/embeddinggemma-2-free.md): EmbeddingGemma 2 mô hình nhúng đa phương miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào/$0 đầu ra. - [EmbeddingGemma 2 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/embeddinggemma-2-free.md): Google's EmbeddingGemma 2 multimodal embedding model 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - [Google Gemini 2.5 Flash miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/google-gemini-2-5-flash-free.md): Google Gemini 2.5 Flash miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - [Google Gemini 2.5 Flash 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/google-gemini-2-5-flash-free.md): Google Gemini 2.5 Flash 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - [Google Gemma 3n E2B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/google-gemma-3n-e2b-free.md): Google Gemma 3n E2B miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - [Google Gemma 3n E2B 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/google-gemma-3n-e2b-free.md): Google Gemma 3n E2B 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - [Granite Embedding miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/granite-embedding-free.md): IBM's Granite Embedding family miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào/$0 đầu ra. - [Granite Embedding 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/granite-embedding-free.md): IBM's Granite Embedding family 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - [THX-01 miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/hal-x-thx-01-free.md): THX-01, một model multilingual decision 322M, miễn phí trên Go, có $0 đầu vào và $0 đầu ra, không có hạn sử dụng hàng ngày. - [THX-01 免费 Go 及以上套餐](https://anyrouter.dev/blog/zh/hal-x-thx-01-free.md): THX-01, 一个 322M 多语言决策模型, 免费 Go, 输入和输出均为 $0, 无每日限制。 - [Meituan LongCat-2.5免费归Go及以上套餐](https://anyrouter.dev/blog/vi/meituan-longcat-2.5-free.md): Meituan LongCat-2.5 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,不扣除 credit。 - [Meituan LongCat-2.5 免费套餐 Go 及以上](https://anyrouter.dev/blog/zh/meituan-longcat-2.5-free.md): Meituan LongCat-2.5 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,不扣除额度。 - [Muse Glimmer 30B 免费归Go及以上套餐](https://anyrouter.dev/blog/vi/meta-muse-glimmer-30b-free.md): Muse Glimmer 30B,Meta 的密集多模态 instruct 模型,现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Muse Glimmer 30B 免费 Go 及以上](https://anyrouter.dev/blog/zh/meta-muse-glimmer-30b-free.md): Muse Glimmer 30B,Meta 的密集多模态 instruct 模型,现已在 AnyRouter 免费。Go 及以上套餐可用,没有每日上限。 - [Mistral 7B Instruct v0.3 免费归Go及以上套餐](https://anyrouter.dev/blog/vi/mistral-mistral-7b-instruct-v0-3-free.md): Mistral 7B Instruct v0.3 现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Mistral 7B Instruct v0.3 免费 Go 及以上](https://anyrouter.dev/blog/zh/mistral-mistral-7b-instruct-v0-3-free.md): Mistral 7B Instruct v0.3 现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [MX-BAI Embed Large 嵌入向量免费归Go及以上套餐](https://anyrouter.dev/blog/vi/mxbai-embed-large-free.md): Mixedbread AI 的 MX-BAI Embed Large 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [MX-BAI Embed Large 嵌入向量免费 Go 及以上](https://anyrouter.dev/blog/zh/mxbai-embed-large-free.md): Mixedbread AI 的 MX-BAI Embed Large 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3 Embed 1B 嵌入向量免费归Go及以上套餐](https://anyrouter.dev/blog/vi/nemotron-3-embed-1b-free.md): NVIDIA 的 Nemotron 3 Embed 1B 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3 Embed 1B 嵌入向量免费 Go 及以上](https://anyrouter.dev/blog/zh/nemotron-3-embed-1b-free.md): NVIDIA 的 Nemotron 3 Embed 1B 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3.5 Embed 1B 嵌入向量免费归Go及以上套餐](https://anyrouter.dev/blog/vi/nemotron-3.5-embed-1b-free.md): NVIDIA 的 Nemotron 3.5 Embed 1B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3.5 Embed 1B 嵌入向量免费 Go 及以上](https://anyrouter.dev/blog/zh/nemotron-3.5-embed-1b-free.md): NVIDIA 的 Nemotron 3.5 Embed 1B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3.5 Embed 8B 嵌入向量免费归Go及以上套餐](https://anyrouter.dev/blog/vi/nemotron-3.5-embed-8b-free.md): NVIDIA 的 Nemotron 3.5 Embed 8B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nemotron 3.5 Embed 8B 嵌入向量免费 Go 及以上](https://anyrouter.dev/blog/zh/nemotron-3.5-embed-8b-free.md): NVIDIA 的 Nemotron 3.5 Embed 8B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - [Nomic Embed Text embedding model miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nomic-embed-text-free.md): Mô hình embedding Nomic AI Nomic Embed Text miễn phí trên AnyRouter Go và cao hơn, có $0 nhập/$0 xuất và không có giới hạn hàng ngày cho các gói Go. - [Nomic Embed Text 嵌入模型在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nomic-embed-text-free.md): Nomic AI 的 Nomic Embed Text 嵌入模型在 AnyRouter Go 及以上版本免费,输入输出均为 $0,不每日限制。 - [Nemotron 3.5 Bolt E4B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-bolt-e4b-free.md): Nemotron 3.5 Bolt E4B, mô hình nhỏ mở trọng lượng của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - [Nemotron 3.5 Bolt E4B 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-bolt-e4b-free.md): Nemotron 3.5 Bolt E4B,NVIDIA 的 8B 开放权重小语言模型,在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - [Nemotron 3.5 Lightning 30B A3B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-lightning-30b-a3b-free.md): Nemotron 3.5 Lightning 30B A3B, mô hình chat MoE sparse của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - [Nemotron 3.5 Lightning 30B A3B 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-lightning-30b-a3b-free.md): Nemotron 3.5 Lightning 30B A3B,NVIDIA 的稀疏 MoE chat model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - [Nemotron 3.5 Super VL 120B A12B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-super-vl-120b-a12b-free.md): Nemotron 3.5 Super VL 120B A12B, mô hình vision-language của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - [Nemotron 3.5 Super VL 120B A12B 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-super-vl-120b-a12b-free.md): Nemotron 3.5 Super VL 120B A12B,NVIDIA 的 vision-language model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - [Nemotron-3 Nano Omni 30B-A3B (Reasoning) miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free.md): Nemotron-3 Nano Omni 30B-A3B (Reasoning) miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào, $0 đầu ra, không trừ credit và hỗ trợ vision. - [Nemotron-3 Nano Omni 30B-A3B (Reasoning) 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free.md): Nemotron-3 Nano Omni 30B-A3B (Reasoning) 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度,支持 vision。 - [Nemotron 3 Ultra 550B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-3-ultra-550b-a55b-free.md): Nemotron 3 Ultra 550B, mô hình frontier MoE 550B của NVIDIA, miễn phí trên AnyRouter Go và cao hơn plans với $0 đầu vào/$0 đầu ra và không có giới hạn hàng ngày. - [Nemotron 3 Ultra 550B 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-3-ultra-550b-a55b-free.md): Nemotron 3 Ultra 550B,NVIDIA 的 550B 参数 frontier model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - [Nemotron Parse 2.0 miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-nemotron-parse-2.0-free.md): Nemotron Parse 2.0, VLM nhận diện문서 của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào. - [Nemotron Parse 2.0 在 Go 及以上版本免费](https://anyrouter.dev/blog/zh/nvidia-nemotron-parse-2.0-free.md): Nemotron Parse 2.0,NVIDIA 的 document-understanding VLM, 在 AnyRouter Go 及以上版本免费,输入输出 $0。 - [Riva Translate 4B Instruct v2 miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/nvidia-riva-translate-4b-instruct-v2-free.md): Riva Translate 4B Instruct v2, mô hình dịch NVIDIA 4B, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - [Riva Translate 4B Instruct v2 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/nvidia-riva-translate-4b-instruct-v2-free.md): Riva Translate 4B Instruct v2,NVIDIA的4B参数翻译模型,在AnyRouter Go及以上版本免费,输入输出$0,无扣除额度。 - [GPT-OSS 20B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/openai-gpt-oss-20b-free.md): GPT-OSS 20B, mô hình reasoning mở trọng lượng của OpenAI, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - [GPT-OSS 20B 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/openai-gpt-oss-20b-free.md): GPT-OSS 20B,OpenAI的开放重量推理模型,在AnyRouter Go及以上计划免费,无每日上限且目录$0输入/$0输出。 - [Qwen 2.5 Coder 0.5B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/qwen-qwen2-5-coder-0-5b-instruct-free.md): Qwen 2.5 Coder 0.5B, mô hình coding mở trọng lượng nhỏ của Qwen, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - [Qwen 2.5 Coder 0.5B 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/qwen-qwen2-5-coder-0-5b-instruct-free.md): Qwen 2.5 Coder 0.5B,Qwen的开放重量小型编程模型,在AnyRouter Go及以上计划免费,无每日上限。 - [Qwen 2.5 Coder 32B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/qwen-qwen2-5-coder-32b-instruct-free.md): Qwen 2.5 Coder 32B, mô hình coding mở trọng lượng của Alibaba, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - [Qwen 2.5 Coder 32B 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/qwen-qwen2-5-coder-32b-instruct-free.md): Qwen 2.5 Coder 32B,Alibaba的开放重量专用编程模型,在AnyRouter Go及以上计划免费,无每日上限。 - [Qwen3-8B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/qwen-qwen3-8b-free.md): Qwen3-8B, mô hình dense mở trọng lượng của Alibaba, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - [Qwen3-8B 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/qwen-qwen3-8b-free.md): Qwen3-8B,Alibaba的开放重量密集模型,在AnyRouter Go及以上计划免费,无每日上限。 - [Beam 1.0 miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/reflection-beam-1-0-free.md): Beam 1.0, mô hình reasoning MOE mở trọng lượng của Reflection, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - [Beam 1.0 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/reflection-beam-1-0-free.md): Beam 1.0,Reflection的开放重量MOE推理模型,在AnyRouter Go及以上计划免费,无每日上限。 - [Amos 1 Large miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/scira-amos-1-large-free.md): Amos 1 Large, mô hình decision open-weight 27B, miễn phí trên Go, với $0 đầu vào/$0 đầu ra và không có giới hạn theo ngày. - [Amos 1 Large 免费于 Go 及以上版本](https://anyrouter.dev/blog/zh/scira-amos-1-large-free.md): Amos 1 Large,一个27B开放权重决策模型,在Go免费,输入输出$0,无每日上限。 - [Amos 1 Mini miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/scira-amos-1-mini-free.md): Amos 1 Mini, mô hình quyết định open-weight 0.5B, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [Amos 1 Mini 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/scira-amos-1-mini-free.md): Amos 1 Mini,一个0.5B权重开放模型,免费在 Go,输入和输出 $0,没有每日上限。 - [Amos 1 Small miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/scira-amos-1-small-free.md): Amos 1 Small, mô hình quyết định open-weight 2B, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [Amos 1 Small 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/scira-amos-1-small-free.md): Amos 1 Small,一个2B权重开放模型,免费在 Go,输入和输出 $0,没有每日上限。 - [Snowflake Arctic Embed embedding miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/snowflake-arctic-embed-free.md): Snowflake Arctic Embed family embedding miễn phí trên AnyRouter Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [Snowflake Arctic Embed 嵌入免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/snowflake-arctic-embed-free.md): Snowflake 的 Arctic Embed embedding 系列免费在 AnyRouter Go 及更高版本,输入输出 $0,没有每日上限。 - [Glyph Cluster miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/stealth-glyph-cluster-free.md): Glyph Cluster, mô hình reasoning stealth, miễn phí trên AnyRouter Go và cao hơn, không có hạn hôm nay. - [Glyph Cluster 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/stealth-glyph-cluster-free.md): Glyph Cluster,推理模型 stealth,免费在 AnyRouter Go 及更高版本,无每日上限。 - [Strands Decider 2B miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/strandsagents-strands-decider-2b-free.md): Strands Decider 2B, mô hình decision open-weight nhỏ, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [Strands Decider 2B 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/strandsagents-strands-decider-2b-free.md): Strands Decider 2B,一个小型开放权重 decision model,免费在 Go,输入和输出 $0,没有每日上限。 - [d3-edge miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/vllm-sr-d3-edge-free.md): d3-edge, mô hình decision 0.6B open-weight multimodal, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [d3-edge 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/vllm-sr-d3-edge-free.md): d3-edge,一个0.6B开放权重多模态决策模型,免费在 Go,输入和输出 $0,没有每日上限。 - [d3-flash miễn phí trên Go và cao hơn](https://anyrouter.dev/blog/vi/vllm-sr-d3-flash-free.md): d3-flash, mô hình decision 9B open-weight multimodal, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - [d3-flash 免费在 Go 及更高版本](https://anyrouter.dev/blog/zh/vllm-sr-d3-flash-free.md): d3-flash,一个9B开放权重多模态决策模型,免费在 Go,输入和输出 $0,没有每日上限。 - [All MiniLM embeddings are free on Go and higher](https://anyrouter.dev/blog/all-minilm-free.md): Sentence-Transformers' All MiniLM compact embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Apple Foundation Model is free on Go and higher](https://anyrouter.dev/blog/apple-foundation-model-free.md): Apple Foundation Model is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [BGE-Large embeddings are free on Go and higher](https://anyrouter.dev/blog/bge-large-free.md): BAAI's BGE-Large multilingual embedding model is free on AnyRouter Go and higher plans, with no daily cap and $0 input/output in the catalog. - [Cohere North Mini Code is free on Go and higher](https://anyrouter.dev/blog/cohere-north-mini-code-free.md): Cohere North Mini Code is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [d3-lite is free on Go and higher](https://anyrouter.dev/blog/d3-lite-free.md): The 0.8B d3-lite decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-mini is free on Go and higher](https://anyrouter.dev/blog/d3-mini-free.md): The 4B d3-mini decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-nano is free on Go and higher](https://anyrouter.dev/blog/d3-nano-free.md): The 2B d3-nano decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [d3-ultra is free on Go and higher](https://anyrouter.dev/blog/d3-ultra-free.md): The 27B d3-ultra decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - [Dots Studio Dots3-Note Preview is free on Go and higher](https://anyrouter.dev/blog/dots-studio-dots-3-note-preview-free.md): Dots Studio Dots3-Note Preview is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [EmbeddingGemma 2 embeddings are free on Go and higher](https://anyrouter.dev/blog/embeddinggemma-2-free.md): Google's EmbeddingGemma 2 multimodal embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Google Gemini 2.5 Flash is free on Go and higher](https://anyrouter.dev/blog/google-gemini-2-5-flash-free.md): Google Gemini 2.5 Flash is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [Google Gemma 3n E2B is free on Go and higher](https://anyrouter.dev/blog/google-gemma-3n-e2b-free.md): Google Gemma 3n E2B is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [Granite Embedding embeddings are free on Go and higher](https://anyrouter.dev/blog/granite-embedding-free.md): IBM's Granite Embedding family is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [THX-01 is free on Go and higher](https://anyrouter.dev/blog/hal-x-thx-01-free.md): THX-01, a 322M multilingual decision model, is free on Go, with $0 input and output and no daily cap. - [Meituan LongCat-2.5 is free on Go and higher](https://anyrouter.dev/blog/meituan-longcat-2.5-free.md): Meituan LongCat-2.5 is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [Muse Glimmer 30B is free on Go and higher](https://anyrouter.dev/blog/meta-muse-glimmer-30b-free.md): Muse Glimmer 30B, Meta's dense multimodal instruct model, is free on AnyRouter Go and higher plans with no daily cap. - [Mistral 7B Instruct v0.3 is free on Go and higher](https://anyrouter.dev/blog/mistral-mistral-7b-instruct-v0-3-free.md): Mistral 7B Instruct v0.3 is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - [MX-BAI Embed Large embeddings are free on Go and higher](https://anyrouter.dev/blog/mxbai-embed-large-free.md): Mixedbread AI's MX-BAI Embed Large embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Nemotron 3 Embed 1B embeddings are free on Go and higher](https://anyrouter.dev/blog/nemotron-3-embed-1b-free.md): NVIDIA's Nemotron 3 Embed 1B embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Nemotron 3.5 Embed 1B embeddings are free on Go and higher](https://anyrouter.dev/blog/nemotron-3.5-embed-1b-free.md): NVIDIA's Nemotron 3.5 Embed 1B multimodal embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap. - [Nemotron 3.5 Embed 8B embeddings are free on Go and higher](https://anyrouter.dev/blog/nemotron-3.5-embed-8b-free.md): NVIDIA's Nemotron 3.5 Embed 8B embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Nomic Embed Text embeddings are free on Go and higher](https://anyrouter.dev/blog/nomic-embed-text-free.md): Nomic AI's Nomic Embed Text embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Nemotron 3.5 Bolt E4B is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-3-5-bolt-e4b-free.md): Nemotron 3.5 Bolt E4B, NVIDIA's 8B open-weight SLM, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - [Nemotron 3.5 Lightning 30B A3B is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-3-5-lightning-30b-a3b-free.md): Nemotron 3.5 Lightning 30B A3B, NVIDIA's sparse MoE chat model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - [Nemotron 3.5 Super VL 120B A12B is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-3-5-super-vl-120b-a12b-free.md): Nemotron 3.5 Super VL 120B A12B, NVIDIA's vision-language model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - [Nemotron-3 Nano Omni 30B-A3B (Reasoning) is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free.md): Nemotron-3 Nano Omni 30B-A3B (Reasoning) is free on AnyRouter Go and higher with $0 input/output, no credit deduction, and vision support. - [Nemotron 3 Ultra 550B is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-3-ultra-550b-a55b-free.md): Nemotron 3 Ultra 550B, NVIDIA's 550B-parameter frontier MoE model, is free on AnyRouter Go and higher plans with no daily cap and $0 input/output. - [Nemotron Parse 2.0 is free on Go and higher](https://anyrouter.dev/blog/nvidia-nemotron-parse-2.0-free.md): Nemotron Parse 2.0, NVIDIA's document-understanding VLM, is free on AnyRouter Go and higher with $0 input/output. - [Riva Translate 4B Instruct v2 is free on Go and higher](https://anyrouter.dev/blog/nvidia-riva-translate-4b-instruct-v2-free.md): Riva Translate 4B Instruct v2, NVIDIA's 4B translation model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - [GPT-OSS 20B is free on Go and higher](https://anyrouter.dev/blog/openai-gpt-oss-20b-free.md): GPT-OSS 20B, OpenAI's open-weight reasoning model, is free on AnyRouter Go and higher plans, with no daily cap and catalog $0 for input and output. - [Qwen 2.5 Coder 0.5B is free on Go and higher](https://anyrouter.dev/blog/qwen-qwen2-5-coder-0-5b-instruct-free.md): Qwen 2.5 Coder 0.5B, Qwen's open-weight small coding model, is free on AnyRouter Go and higher plans with no daily cap. - [Qwen 2.5 Coder 32B is free on Go and higher](https://anyrouter.dev/blog/qwen-qwen2-5-coder-32b-instruct-free.md): Qwen 2.5 Coder 32B, Alibaba's open-weight specialized coding model, is free on AnyRouter Go and higher plans with no daily cap. - [Qwen3-8B is free on Go and higher](https://anyrouter.dev/blog/qwen-qwen3-8b-free.md): Qwen3-8B, Alibaba's open-weight dense model, is free on AnyRouter Go and higher plans with no daily cap. - [Beam 1.0 is free on Go and higher](https://anyrouter.dev/blog/reflection-beam-1-0-free.md): Beam 1.0, Reflection's open-weights MOE reasoning model, is free on AnyRouter Go and higher plans with no daily cap. - [Amos 1 Large is free on Go and higher](https://anyrouter.dev/blog/scira-amos-1-large-free.md): Amos 1 Large, a 27B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - [Amos 1 Mini is free on Go and higher](https://anyrouter.dev/blog/scira-amos-1-mini-free.md): Amos 1 Mini, a 0.5B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - [Amos 1 Small is free on Go and higher](https://anyrouter.dev/blog/scira-amos-1-small-free.md): Amos 1 Small, a 2B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - [Snowflake Arctic Embed embeddings are free on Go and higher](https://anyrouter.dev/blog/snowflake-arctic-embed-free.md): Snowflake's Arctic Embed embedding family is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - [Glyph Cluster is free on Go and higher](https://anyrouter.dev/blog/stealth-glyph-cluster-free.md): Glyph Cluster, the stealth preview reasoning model, is free on AnyRouter Go and higher plans with no daily cap. - [Strands Decider 2B is free on Go and higher](https://anyrouter.dev/blog/strandsagents-strands-decider-2b-free.md): Strands Decider 2B, a small open-weight decision model, is free on Go, with $0 input and output and no daily cap. - [d3-edge is free on Go and higher](https://anyrouter.dev/blog/vllm-sr-d3-edge-free.md): d3-edge, a 0.6B open-weight multimodal decision model, is free on Go, with $0 input and output and no daily cap. - [d3-flash is free on Go and higher](https://anyrouter.dev/blog/vllm-sr-d3-flash-free.md): d3-flash, a 9B open-weight multimodal decision model, is free on Go, with $0 input and output and no daily cap. - [How to use QwenCloud Token Plan on AnyRouter](https://anyrouter.dev/blog/qwencloud-token-plan-byok.md): Add your QwenCloud Token Plan key to AnyRouter, then run Qwen4 Max from Claude Code or from your own agent built on the Vercel AI SDK. No fee, and your plan stays the bill. - [如何在 AnyRouter 上使用 QwenCloud Token Plan](https://anyrouter.dev/blog/zh/qwencloud-token-plan-byok.md): 把你的 QwenCloud Token Plan key 添加到 AnyRouter,就能在 Claude Code 或用 Vercel AI SDK 自建的 agent 里运行 Qwen4 Max。不收额外费用,账单仍由你的套餐承担。 - [Cách dùng QwenCloud Token Plan trên AnyRouter](https://anyrouter.dev/blog/vi/qwencloud-token-plan-byok.md): Thêm key QwenCloud Token Plan vào AnyRouter, rồi chạy Qwen4 Max từ Claude Code hoặc từ agent bạn tự xây bằng Vercel AI SDK. Không thu phí thêm, và gói của bạn vẫn là hóa đơn. - [Cheap models worth trying: prices and scores side by side](https://anyrouter.dev/blog/cheap-models-worth-trying.md): Eight low-cost LLMs ranked by GPQA Diamond score per dollar, and the decision models you can call with an AnyRouter key. Every price and score comes from our catalog. - [值得一试的低价模型:价格和得分并排对比](https://anyrouter.dev/blog/zh/cheap-models-worth-trying.md): 按每美元 GPQA Diamond 得分排出的八个低价 LLM,以及只用 AnyRouter key 就能调用的决策模型。每个价格和得分都来自我们的模型目录。 - [Mô hình giá rẻ đáng thử: giá và điểm đặt cạnh nhau](https://anyrouter.dev/blog/vi/cheap-models-worth-trying.md): Tám LLM giá rẻ xếp theo điểm GPQA Diamond trên mỗi đô la, cùng các mô hình quyết định bạn gọi được chỉ với key AnyRouter. Mọi giá và điểm đều lấy từ danh mục của chúng tôi. - [How we cut our D1 bill by moving request logs to Cloudflare Basin](https://anyrouter.dev/blog/d1-bill-request-logs-basin.md): AnyRouter wrote about 100M rows a month to D1, almost all of it request logs. We stopped logging refusals nobody reads and moved the full log to Cloudflare Basin, which stores it as Iceberg tables. This post covers the numbers, the design, and the tradeoffs. - [我们如何把请求日志迁到 Cloudflare Basin,降低 D1 账单](https://anyrouter.dev/blog/zh/d1-bill-request-logs-basin.md): AnyRouter 每月向 D1 写入约 1 亿行,几乎全是请求日志。我们不再记录没人看的拒绝请求,并把完整日志迁到 Cloudflare Basin,以 Iceberg 表存储。本文介绍数据、设计和取舍。 - [Cách chúng tôi giảm hóa đơn D1 bằng việc chuyển log request sang Cloudflare Basin](https://anyrouter.dev/blog/vi/d1-bill-request-logs-basin.md): AnyRouter ghi khoảng 100 triệu dòng mỗi tháng vào D1, gần như toàn là log request. Chúng tôi ngừng ghi những request bị từ chối mà không ai đọc, và chuyển toàn bộ log sang Cloudflare Basin, nơi lưu dưới dạng bảng Iceberg. Bài này nói về số liệu, thiết kế và các đánh đổi. - [AnyRouter turns 3 months, in numbers](https://anyrouter.dev/blog/anyrouter-turns-3-months.md): From August 5 to November 4, 2026, AnyRouter went from 1,695 users to 15,034, added 220 models, served 1.3 million requests and 65 billion tokens in the last 30 days, and shipped 753 deploys. Here is every number, how we counted it, and what it does not tell you. - [AnyRouter 三个月,用数字说话](https://anyrouter.dev/blog/zh/anyrouter-turns-3-months.md): 2026 年 8 月 5 日至 11 月 4 日,AnyRouter 的用户从 1,695 增长到 15,034,新增 220 个模型,最近 30 天处理了 130 万次请求和 650 亿个 token,完成 753 次部署。这里列出每个数字、统计方法,以及它没有说明的事。 - [AnyRouter tròn 3 tháng, qua các con số](https://anyrouter.dev/blog/vi/anyrouter-turns-3-months.md): Từ ngày 5 tháng 8 đến 4 tháng 11 năm 2026, AnyRouter tăng từ 1.695 lên 15.034 người dùng, thêm 220 model, phục vụ 1,3 triệu request và 65 tỷ token trong 30 ngày qua, và thực hiện 753 lần deploy. Đây là từng con số, cách chúng tôi đếm, và những điều chúng không nói lên. - [How our CI/CD changed when coding agents took over](https://anyrouter.dev/blog/cicd-for-coding-agents.md): Coding agents now write and ship most AnyRouter changes. After five months on GitHub Actions, we changed our CI/CD design four times in one month. We moved from GitHub Actions to local CI on one machine, then to review-gated PRs, then to a few fat PRs, and now to commits straight on main. This post walks through each stage with the numbers we measured, the bugs we found on the way, and the rules we give our agents today. - [编程智能体接手后,我们的 CI/CD 如何改变](https://anyrouter.dev/blog/zh/cicd-for-coding-agents.md): 编程智能体现在编写并发布 AnyRouter 的大部分改动。在 GitHub Actions 上用了五个月之后,我们在一个月里四次改变了 CI/CD 的设计。我们先从 GitHub Actions 换成一台机器上的本地 CI,再换成有评审关卡的 PR,再换成少量大 PR,现在是直接在 main 上提交。本文按阶段介绍,附上我们测得的数据、途中发现的问题,以及我们今天交给智能体的规则。 - [CI/CD của chúng tôi đã thay đổi thế nào khi agent lập trình tiếp quản](https://anyrouter.dev/blog/vi/cicd-for-coding-agents.md): Agent lập trình giờ viết và ship phần lớn thay đổi của AnyRouter. Sau năm tháng dùng GitHub Actions, chúng tôi đã đổi thiết kế CI/CD bốn lần trong một tháng. Chúng tôi chuyển từ GitHub Actions sang CI chạy local trên một máy, rồi sang PR có review gate, rồi sang vài PR lớn, và giờ là commit thẳng lên main. Bài này đi qua từng giai đoạn với các con số chúng tôi đã đo, các lỗi tìm thấy trên đường đi, và các quy tắc chúng tôi đưa cho agent hiện nay. - [Use AnyRouter in DeepSeek Harness](https://anyrouter.dev/blog/deepseek-harness-anyrouter.md): DeepSeek Harness is DeepSeek's open-source agent app, now in preview. Add AnyRouter as a custom model API with one base URL and one key, then pick an anyrouter/* router model for each kind of work. - [在 DeepSeek Harness 里使用 AnyRouter](https://anyrouter.dev/blog/zh/deepseek-harness-anyrouter.md): DeepSeek Harness 是 DeepSeek 的开源智能体应用,目前是预览版。把 AnyRouter 添加为自定义模型 API,只需一个 Base URL 和一把 key,再按任务挑选 anyrouter/* 路由模型。 - [Dùng AnyRouter trong DeepSeek Harness](https://anyrouter.dev/blog/vi/deepseek-harness-anyrouter.md): DeepSeek Harness là ứng dụng agent mã nguồn mở của DeepSeek, đang ở bản preview. Thêm AnyRouter làm custom model API với một base URL và một key, rồi chọn model router anyrouter/* cho từng loại việc. - [CLI update: a separate key for each coding agent](https://anyrouter.dev/blog/cli-a-key-per-coding-agent.md): The anyr CLI can now give Claude Code, Codex, OpenCode and the other coding agents it launches their own API key or their own account, with plain commands. Each agent gets its own spend, limits and revocation. - [CLI 更新:每个编程智能体一把独立的 key](https://anyrouter.dev/blog/zh/cli-a-key-per-coding-agent.md): anyr CLI 现在可以用普通命令,给 Claude Code、Codex、OpenCode 以及它能启动的其他编程智能体各配一把 API key 或一个账号。每个智能体都有自己的花费、额度和吊销。 - [Cập nhật CLI: mỗi coding agent một key riêng](https://anyrouter.dev/blog/vi/cli-a-key-per-coding-agent.md): CLI anyr giờ có thể cấp cho Claude Code, Codex, OpenCode và các coding agent khác mà nó khởi chạy một API key hoặc một tài khoản riêng, bằng lệnh thường. Mỗi agent có chi tiêu, giới hạn và thu hồi riêng. - [How we sped up our local CI without dropping a check](https://anyrouter.dev/blog/faster-local-ci-for-agents.md): Coding agents push to AnyRouter all day, so CI is where they wait. We split 50 runs into queue, setup and run time, found the slow part, and cut warm typecheck from 162 to 79 seconds on the same commit, mostly by removing a check that ran twice. This post shows the audit, the changes, the numbers, and a prompt you can give your own agent. - [我们如何在不删减任何检查的情况下加快本地 CI](https://anyrouter.dev/blog/zh/faster-local-ci-for-agents.md): 编程智能体全天向 AnyRouter 推送代码,所以它们都在等 CI。我们把 50 次运行拆成排队、准备和运行三段时间,找到了慢的部分,并在同一个提交上把热启动类型检查从 162 秒降到 79 秒,主要是去掉了一个跑了两次的检查。本文介绍审计方法、改动、数据,以及一段可以交给你自己的智能体的提示词。 - [Chúng tôi tăng tốc CI chạy local mà không bỏ một check nào](https://anyrouter.dev/blog/vi/faster-local-ci-for-agents.md): Agent lập trình push code lên AnyRouter cả ngày, nên CI là chỗ chúng phải chờ. Chúng tôi chia 50 lần chạy thành thời gian chờ, chuẩn bị và chạy, tìm ra phần chậm, và giảm typecheck warm từ 162 xuống 79 giây trên cùng một commit, phần lớn nhờ bỏ một check chạy hai lần. Bài này cho thấy cách audit, các thay đổi, số liệu, và một prompt bạn có thể đưa cho agent của mình. - [How we made AnyRouter faster](https://anyrouter.dev/blog/how-we-made-anyrouter-faster.md): In early October a warm request could wait up to 1.7 seconds that the model provider's own timer never counted. Almost none of that was work. It was a chain of small reads, each waiting for the one before it. This post shows how we found it, what we changed, the fix we had to revert, and the numbers before and after. - [我们如何让 AnyRouter 变快](https://anyrouter.dev/blog/zh/how-we-made-anyrouter-faster.md): 10 月初,一个已预热的请求可能要等待多达 1.7 秒,而模型服务商自己的计时器完全没有计入这段时间。这段时间几乎都不是在做事,而是一串小的读取,后一个等前一个。本文介绍我们如何找到它、改了什么、哪个修复不得不回滚,以及前后的数字。 - [Chúng tôi đã làm AnyRouter nhanh hơn thế nào](https://anyrouter.dev/blog/vi/how-we-made-anyrouter-faster.md): Đầu tháng 10, một request đã ấm có thể chờ tới 1,7 giây mà bộ đếm thời gian của chính nhà cung cấp model không hề tính. Gần như toàn bộ thời gian đó không phải là xử lý. Đó là một chuỗi lệnh đọc nhỏ, lệnh sau chờ lệnh trước. Bài này kể cách chúng tôi tìm ra nó, những gì đã đổi, bản sửa phải revert, và số liệu trước và sau. - [How agents deploy AnyRouter: one Worker at a time](https://anyrouter.dev/blog/agents-per-worker-deploys.md): AnyRouter runs as a fleet of Cloudflare Workers, and agents deploy it about once an hour from more than one machine. Each Worker now records the commit it runs, a deploy ships only the Workers whose code changed since that commit, and a checkout that is older than production cannot replace it. This post shows how that works and what it still costs. - [智能体如何部署 AnyRouter:一次一个 Worker](https://anyrouter.dev/blog/zh/agents-per-worker-deploys.md): AnyRouter 运行在一组 Cloudflare Worker 上,智能体从多台机器上大约每小时部署一次。现在每个 Worker 都记录自己正在运行的提交,一次部署只发布自该提交以来代码有变化的 Worker,而比生产环境更旧的检出无法覆盖生产。本文介绍它如何运作,以及它现在的成本。 - [Agent deploy AnyRouter thế nào: từng Worker một](https://anyrouter.dev/blog/vi/agents-per-worker-deploys.md): AnyRouter chạy trên một đội Cloudflare Worker, và agent deploy nó khoảng mỗi giờ một lần từ nhiều máy. Giờ mỗi Worker ghi lại commit nó đang chạy, một lần deploy chỉ ship những Worker có code thay đổi kể từ commit đó, và một checkout cũ hơn production không thể ghi đè lên production. Bài này cho thấy cách nó hoạt động và cái giá hiện tại. - [Introducing AnyRouter Artifacts: publish a page, get a link](https://anyrouter.dev/blog/introducing-anyrouter-artifacts.md): Artifacts turn an HTML page, a Markdown note, a Mermaid diagram or a small folder into a URL at anyrouter.dev/a/. Publish from the anyr CLI, the API or an agent. Every artifact starts private, and you choose when to share it. - [AnyRouter Artifacts 上线:发布一个页面,拿到一个链接](https://anyrouter.dev/blog/zh/introducing-anyrouter-artifacts.md): Artifacts 把 HTML 页面、Markdown 笔记、Mermaid 图或一个小文件夹变成 anyrouter.dev/a/ 的链接。可以用 anyr CLI、API 或 Agent 发布。每个 Artifact 默认私有,由你决定何时分享。 - [Giới thiệu AnyRouter Artifacts: đăng một trang, nhận một đường link](https://anyrouter.dev/blog/vi/introducing-anyrouter-artifacts.md): Artifacts biến một trang HTML, một ghi chú Markdown, một sơ đồ Mermaid hay một thư mục nhỏ thành đường link anyrouter.dev/a/. Đăng từ anyr CLI, API hoặc agent. Mọi artifact đều riêng tư lúc đầu, và bạn chọn khi nào chia sẻ. - [How agents ship AnyRouter: the merge and deploy loop](https://anyrouter.dev/blog/agents-ship-loop.md): Coding agents write, review, merge and deploy most AnyRouter changes. In the week of 19 to 25 October 2026 that loop merged 346 pull requests. This first post in the series shows the loop: a signed local CI gate, one reviewer per commit, one merge script, and gated deploys about once an hour. - [AnyRouter 如何由 agent 发布:合并与部署循环](https://anyrouter.dev/blog/zh/agents-ship-loop.md): AnyRouter 的大部分改动由编码 agent 编写、评审、合并和部署。2026 年 10 月 19 日至 25 日这一周,这个循环合并了 346 个 pull request。这是本系列的第一篇,介绍这个循环:带签名的本地 CI 关卡、每个 commit 一位评审、唯一的合并脚本,以及大约每小时一次、带关卡的部署。 - [Agent ship AnyRouter thế nào: vòng lặp merge và deploy](https://anyrouter.dev/blog/vi/agents-ship-loop.md): Coding agent viết, review, merge và deploy phần lớn thay đổi của AnyRouter. Trong tuần 19 đến 25 tháng 10 năm 2026, vòng lặp đó đã merge 346 pull request. Bài đầu tiên của loạt bài này mô tả vòng lặp: cổng CI chạy local có chữ ký, một reviewer cho mỗi commit, một script merge duy nhất, và deploy có kiểm tra khoảng mỗi giờ một lần. - [What is new: October 2026](https://anyrouter.dev/blog/customer-update-october-2026.md): Sign-in is fixed, the models page shows what you can call, and failed requests and logs got fixes. - [本周对你有什么变化:登录更顺畅、模型更清楚、日志更安全](https://anyrouter.dev/blog/zh/customer-update-october-2026.md): 新设备也能顺利登录,捐赠免费 key 更清楚,模型页会告诉你哪些能直接调用,缓存回答和日志也有改进。 - [Có gì mới cho bạn tuần này: đăng nhập dễ hơn, mô hình rõ hơn, log an toàn hơn](https://anyrouter.dev/blog/vi/customer-update-october-2026.md): Đăng nhập được trên thiết bị mới, tặng key miễn phí rõ ràng hơn, trang mô hình cho biết bạn gọi được gì, và câu trả lời cache cùng log được cải thiện. - [MiniMax M3.1 Flash is free on Go and higher](https://anyrouter.dev/blog/minimax-m3-1-flash-free.md): MiniMax M3.1 Flash, a 1M-context coding and agent model, is free on AnyRouter for now. Go and higher plans can use it, with no daily cap. - [MiniMax M3.1 Flash Go 及以上免费](https://anyrouter.dev/blog/zh/minimax-m3-1-flash-free.md): MiniMax M3.1 Flash 是支持 1M 上下文的编程与 agent 模型,目前在 AnyRouter 免费。Go 及以上套餐可用,没有每日上限。 - [MiniMax M3.1 Flash miễn phí từ gói Go](https://anyrouter.dev/blog/vi/minimax-m3-1-flash-free.md): MiniMax M3.1 Flash, mô hình lập trình và agent có ngữ cảnh 1M, hiện miễn phí trên AnyRouter. Gói Go trở lên dùng được, không giới hạn theo ngày. - [Run Claude Code on free models in two lines](https://anyrouter.dev/blog/claude-code-free-models.md): Install the anyr CLI, then run anyr claude. Claude Code works on AnyRouter's free models: a 5-request trial with no card, then Go ($2 a month, or free with one donated key). Exact commands, the manual setup, which models to try, and the limits. - [两行命令,用免费模型运行 Claude Code](https://anyrouter.dev/blog/zh/claude-code-free-models.md): 安装 anyr CLI,然后运行 anyr claude。Claude Code 可以在 AnyRouter 的免费模型上运行,不需要绑卡。包含完整命令、手动配置、可以试的模型和限制。 - [Chạy Claude Code trên model miễn phí chỉ với hai dòng lệnh](https://anyrouter.dev/blog/vi/claude-code-free-models.md): Cài anyr CLI, rồi chạy anyr claude. Claude Code chạy được trên các model miễn phí của AnyRouter: thử 5 request không cần thẻ, sau đó cần Go ($2/tháng, hoặc miễn phí khi góp một key). Lệnh chính xác, cách cài thủ công, model nên thử và các giới hạn. - [Free tokens from a pool of idle keys](https://anyrouter.dev/blog/donate-idle-keys-to-the-pool.md): Got an OpenRouter, NVIDIA or other provider key that sits idle? Donate it to the AnyRouter Pool. Members run free models through the shared keys at $0, and you get Go and credits back. Here is how a request moves through the pool, how your key is kept safe, what the limits are, and how to donate in a minute. - [用闲置 Key 池换免费 Token](https://anyrouter.dev/blog/zh/donate-idle-keys-to-the-pool.md): 手里有闲置的 OpenRouter、NVIDIA 或其他供应商 Key?捐给 AnyRouter Pool。成员通过共享 Key 以 $0 使用免费模型,你则获得 Go 和积分。本文说明请求如何经过 Pool、Key 如何保护、有哪些限制,以及一分钟内如何捐 Key。 - [Token miễn phí từ kho key nhàn rỗi](https://anyrouter.dev/blog/vi/donate-idle-keys-to-the-pool.md): Có key OpenRouter, NVIDIA hay nhà cung cấp khác đang để không? Hãy tặng nó cho AnyRouter Pool. Thành viên chạy model miễn phí qua các key chung với giá $0, còn bạn nhận lại Go và credit. Bài này nói về đường đi của một yêu cầu qua Pool, cách key được bảo vệ, các giới hạn, và cách tặng key trong một phút. - [Introducing the AnyRouter Pool](https://anyrouter.dev/blog/anyrouter-pool.md): The AnyRouter Pool is a set of provider keys that members donate and the gateway shares, so free models keep answering for paid-plan members and donors when a single key runs dry. Here is who can donate, how a key is protected, how requests are spread across keys, what happens when a key fails, and how to stop. - [AnyRouter Pool 上线](https://anyrouter.dev/blog/zh/anyrouter-pool.md): AnyRouter Pool 是成员捐出、由网关共用的一批供应商 Key,让付费套餐成员和捐赠者的免费模型在单个 Key 配额用完时仍能回答。本文说明谁能捐、Key 如何受保护、请求怎样分配、Key 出错或用尽时会怎样,以及如何随时停止。 - [Giới thiệu AnyRouter Pool](https://anyrouter.dev/blog/vi/anyrouter-pool.md): AnyRouter Pool là tập hợp key nhà cung cấp do thành viên góp và gateway dùng chung, để model miễn phí vẫn trả lời cho thành viên gói trả phí và người góp key khi một key cạn quota. Bài này nói ai được góp key, key được bảo vệ ra sao, request được chia thế nào, chuyện gì xảy ra khi key lỗi, và cách dừng. - [How we protect your provider keys](https://anyrouter.dev/blog/how-we-protect-your-provider-keys.md): How AnyRouter stores and uses the provider keys you add (BYOK) and the keys donated to the Pool: encryption at rest, who can read them, where they can be sent, what stays out of logs, and how to revoke one. - [我们如何保护你的供应商 Key](https://anyrouter.dev/blog/zh/how-we-protect-your-provider-keys.md): AnyRouter 如何保存和使用你添加的供应商 Key(BYOK)以及捐给 Pool 的 Key:静态加密、谁能读取、Key 能发往哪里、哪些内容不进日志,以及如何撤销。 - [Chúng tôi bảo vệ key nhà cung cấp của bạn thế nào](https://anyrouter.dev/blog/vi/how-we-protect-your-provider-keys.md): AnyRouter lưu và dùng key nhà cung cấp bạn thêm (BYOK) và key được góp vào Pool ra sao: mã hóa khi lưu, ai đọc được, key được gửi tới đâu, gì không vào log, và cách thu hồi. - [New models, 20 Sep – 10 Oct 2026](https://anyrouter.dev/blog/new-models-sep-oct-2026.md): Claude Haiku 5.5, five new Decisions models, GLM-5.3 Prime, Xiaomi MiMo V2.6 and more — new models from the last three weeks, with a release note for each. - [新模型:2026 年 9 月 20 日 – 10 月 10 日](https://anyrouter.dev/blog/zh/new-models-sep-oct-2026.md): Claude Haiku 5.5、五个新的 Decisions 模型、GLM-5.3 Prime、小米 MiMo V2.6 等——过去三周的新模型都有发布说明。 - [Mô hình mới, 20/9 – 10/10/2026](https://anyrouter.dev/blog/vi/new-models-sep-oct-2026.md): Claude Haiku 5.5, năm mô hình Decisions mới, GLM-5.3 Prime, Xiaomi MiMo V2.6 và hơn thế — các mô hình mới trong ba tuần qua, mỗi nhóm có ghi chú phát hành riêng. - [AnyRouter in October 2026: new models, top usage, free routes](https://anyrouter.dev/blog/anyrouter-snapshot-october-2026.md): A snapshot of the live catalog and the last 30 days of traffic: the newest models, what people route most, the anyrouter/* router ids, what is free right now, and one tip. - [AnyRouter 2026 年 10 月:新模型、使用排行、免费路由](https://anyrouter.dev/blog/zh/anyrouter-snapshot-october-2026.md): 实时目录与最近 30 天流量快照:最新模型、调用最多的模型、anyrouter/* 路由 id、当前免费模型,以及一个小技巧。 - [AnyRouter tháng 10/2026: mô hình mới, top sử dụng, route miễn phí](https://anyrouter.dev/blog/vi/anyrouter-snapshot-october-2026.md): Ảnh chụp catalog live và 30 ngày traffic gần nhất: mô hình mới nhất, mô hình được route nhiều nhất, các router id anyrouter/*, những gì đang miễn phí, và một mẹo. - [Where every -latest alias points today](https://anyrouter.dev/blog/latest-model-aliases-october-2026.md): AnyRouter has 19 family aliases like google/gemini-flash-latest and z-ai/glm-latest. Here is the model each one resolves to on October 10, 2026, and the seven you can call on live routes right now. - [每个 -latest 别名今天指向哪里](https://anyrouter.dev/blog/zh/latest-model-aliases-october-2026.md): AnyRouter 有 19 个模型家族别名,如 google/gemini-flash-latest 和 z-ai/glm-latest。以下是 2026 年 10 月 10 日每个别名解析到的模型,以及当前可在实时路由上调用的七个。 - [Mỗi alias -latest đang trỏ tới đâu hôm nay](https://anyrouter.dev/blog/vi/latest-model-aliases-october-2026.md): AnyRouter có 19 alias theo họ mô hình như google/gemini-flash-latest và z-ai/glm-latest. Đây là mô hình mỗi alias trỏ tới ngày 10/10/2026, và bảy alias gọi được trên route live ngay bây giờ. - [Six decision models, two of them free](https://anyrouter.dev/blog/decision-models.md): AnyRouter lists six System One decision models. Liquid d1 and Respan Span-01 Lite are priced at $0. The other four have a paid list rate and run on your own provider key. - [六个决策模型,其中两个免费](https://anyrouter.dev/blog/zh/decision-models.md): AnyRouter 列出六个 System One 决策模型。Liquid d1 与 Respan Span-01 Lite 标价为 $0。其余四个有付费牌价,走你自己的供应商密钥。 - [Sáu mô hình quyết định, hai mô hình miễn phí](https://anyrouter.dev/blog/vi/decision-models.md): AnyRouter có sáu mô hình quyết định System One. Liquid d1 và Respan Span-01 Lite có giá $0. Bốn mô hình còn lại có giá niêm yết và chạy bằng khóa nhà cung cấp của bạn. - [Latest aliases: name a family, always get a live model](https://anyrouter.dev/blog/latest-model-aliases.md): Models get retired or go down. A -latest alias calls the newest model in a family that is available right now, skips dead ones, and bills the model that answered. - [Latest 别名:指定模型家族,始终获得可用模型](https://anyrouter.dev/blog/zh/latest-model-aliases.md): 模型会下线或故障。-latest 别名会调用家族中当前可用的最新模型,跳过不可用的,并按实际作答的模型计费。 - [Alias latest: gọi tên một họ model, luôn có model đang chạy](https://anyrouter.dev/blog/vi/latest-model-aliases.md): Model có thể bị gỡ hoặc gặp sự cố. Alias -latest gọi model mới nhất đang khả dụng trong họ, bỏ qua model đã chết và tính phí theo model đã trả lời. - [anyr decision puts structured decisions in your terminal](https://anyrouter.dev/blog/anyr-decision-cli.md): Run TypeSafe Jev, Fastino GLiNER2.5-Decide, or the anyrouter/decision preset with one native CLI command instead of forcing decision models through a chat agent. - [anyr decision:在终端运行结构化决策](https://anyrouter.dev/blog/zh/anyr-decision-cli.md): 用一条原生 CLI 命令运行 TypeSafe Jev、Fastino GLiNER2.5-Decide 或 anyrouter/decision,不再把决策模型塞进聊天代理。 - [anyr decision đưa quyết định có cấu trúc vào terminal](https://anyrouter.dev/blog/vi/anyr-decision-cli.md): Chạy TypeSafe Jev, Fastino GLiNER2.5-Decide hoặc anyrouter/decision bằng một lệnh CLI native, không ép mô hình quyết định vào trợ lý chat. - [Jev Decisions is now on its model page](https://anyrouter.dev/blog/jev-decisions.md): Jev turns application state and typed questions into structured answers with probabilities. Try the new model-page demo, the full Decisions app, or the playground. - [Jev Decisions 已上线模型页](https://anyrouter.dev/blog/zh/jev-decisions.md): Jev 把应用状态和类型化问题转换为带概率的结构化答案。现在可以在模型页、完整 Decisions 应用和 playground 里试用。 - [Jev Decisions đã có trên trang model](https://anyrouter.dev/blog/vi/jev-decisions.md): Jev biến trạng thái ứng dụng và câu hỏi có kiểu thành câu trả lời có cấu trúc kèm xác suất. Hãy thử trên trang model, app Decisions hoặc playground. - [Space Bunny Alpha is free on AnyRouter](https://anyrouter.dev/blog/space-bunny-alpha.md): The anonymous stealth preview is live with a 1M-token context, adjustable reasoning, multimodal input, and $0/$0 catalog routes while it is cloaked. - [Space Bunny Alpha 已在 AnyRouter 免费提供](https://anyrouter.dev/blog/zh/space-bunny-alpha.md): 这个匿名 stealth 预览模型已上线,拥有 1M token 上下文、可调 reasoning、多模态输入,以及 cloaked 期间 $0/$0 的目录路由。 - [Space Bunny Alpha đã miễn phí trên AnyRouter](https://anyrouter.dev/blog/vi/space-bunny-alpha.md): Bản preview stealth ẩn danh đã ra mắt với context 1M token, reasoning có thể điều chỉnh, đầu vào đa phương tiện và route catalog $0/$0 khi còn cloaked. - [A shared key pool, and a free-token pool on the other side](https://anyrouter.dev/blog/intro.md): AnyRouter started as one URL in front of many models. The part that actually matters is the pool: people donate spare provider keys, the gateway routes around them, and everyone else draws a free-token pool instead of hunting for a working key. - [共享 key 池,另一头是给用户的免费 token 池](https://anyrouter.dev/blog/zh/intro.md): AnyRouter 一开始只是「一个 URL 打到很多模型」。真正要紧的是池子:有人把闲置的供应商 key 捐进来,网关在这些 key 之间调度,其他人不用自己去找一把还能用的 key,就能从免费 token 池里取用量。 - [Một pool key dùng chung, và một pool token miễn phí phía bên kia](https://anyrouter.dev/blog/vi/intro.md): AnyRouter bắt đầu như một URL đứng trước nhiều model. Phần quan trọng thật sự là cái pool: người ta góp key nhà cung cấp đang dư, gateway điều phối quanh chúng, và người khác lấy token từ pool miễn phí thay vì tự đi tìm một key còn chạy được. - [AnyRouter vs OpenRouter: a sourced comparison and migration guide](https://anyrouter.dev/blog/anyrouter-vs-openrouter.md): Fees, BYOK, free-model limits and plans for AnyRouter and OpenRouter, each OpenRouter figure linked to its source and dated. Plus the base URL and key swap to move over. - [AnyRouter 对比 OpenRouter:带来源的对比和迁移指南](https://anyrouter.dev/blog/zh/anyrouter-vs-openrouter.md): AnyRouter 和 OpenRouter 的费用、BYOK、免费模型限制和套餐对比,每个 OpenRouter 数字都附来源链接和日期。另有迁移所需的 base URL 和 key 替换步骤。 - [AnyRouter vs OpenRouter: so sánh có nguồn và hướng dẫn chuyển đổi](https://anyrouter.dev/blog/vi/anyrouter-vs-openrouter.md): Phí, BYOK, giới hạn model miễn phí và các gói của AnyRouter và OpenRouter, mỗi con số của OpenRouter đều có liên kết nguồn và ngày đọc. Kèm cách đổi base URL và key để chuyển sang. - [在 anyrouter.dev 上跑 Claude Code(BYOK、捐 key、anyr claude)](https://anyrouter.dev/blog/zh/anyrouter-zhongzhuan.md): 官方站是 anyrouter.dev。文档 anyrouter.dev/docs,控制台 dash.anyrouter.dev。Free 没有每月赠送额度。Go 是 $2/月(Polar 卡上扣 $2.63)→ $4 额度。curl cli.sh,然后 anyr claude。ANTHROPIC_BASE_URL=https://anyrouter.dev/api。没有支付宝,也没有微信。 - [Claude Code on anyrouter.dev](https://anyrouter.dev/blog/claude-code-anyrouter-dev.md): Claude Code on anyrouter.dev. cli.sh then anyr claude. ANTHROPIC_BASE_URL=https://anyrouter.dev/api. Free has no monthly credits; Go is $2/mo ($2.63 charged) → $4. - [在 anyrouter.dev 上用 Claude Code](https://anyrouter.dev/blog/zh/claude-code-anyrouter-dev.md): Claude Code 走 anyrouter.dev。cli.sh 然后 anyr claude。ANTHROPIC_BASE_URL=https://anyrouter.dev/api。Free 没有月度额度;Go 是 $2/月(实收 $2.63)→ $4。 - [Claude Code trên anyrouter.dev](https://anyrouter.dev/blog/vi/claude-code-anyrouter-dev.md): Claude Code trên anyrouter.dev. cli.sh rồi anyr claude. ANTHROPIC_BASE_URL=https://anyrouter.dev/api. Free không có credit tháng; Go là $2/tháng (trừ $2.63) → $4. - [Donate a key for Go — no card](https://anyrouter.dev/blog/donate-a-key-for-go.md): Two ways to Go: pay $2/mo (card charged $2.63, $4 credits) or donate one eligible BYOK key (DeepSeek, Z.ai GLM, Moonshot Kimi). No Alipay or WeChat. Donor cut 5%/8%, capped at $1 per key per UTC day — that $1 is the donor cap, not the Go price. - [捐一把 key 换 Go,不用绑卡](https://anyrouter.dev/blog/zh/donate-a-key-for-go.md): 开通 Go 有两条路:付 $2/月(卡上扣 $2.63,$4 额度),或捐一把可用的 BYOK key(DeepSeek、Z.ai GLM、Moonshot Kimi)。没有支付宝,也没有微信。捐赠分成 5%/8%,每把 key 每个 UTC 日上限 $1——这个 $1 是捐赠上限,不是 Go 价格。 - [Góp một key để lấy Go — không cần thẻ](https://anyrouter.dev/blog/vi/donate-a-key-for-go.md): Hai cách mở Go: trả $2/tháng (thẻ bị trừ $2.63, $4 credit) hoặc góp một key BYOK đủ điều kiện (DeepSeek, Z.ai GLM, Moonshot Kimi). Không Alipay, không WeChat. Chia cho người góp 5%/8%, trần $1 mỗi key mỗi ngày UTC — $1 đó là trần thưởng, không phải giá Go. - [AnyRouter pricing: Free vs Go (the $1 posts are wrong)](https://anyrouter.dev/blog/anyrouter-pricing-free-vs-go.md): Older pages still say $1 Go — wrong. Free has no monthly credits; anyrouter/free has no daily cap. Go is $2/mo ($2.63 charged) → $4. Pro $10 ($11.05) → $20; Pro+ $45 ($47.89) → $100; Max $100 ($105.79) → $300. - [AnyRouter 定价:Free 对 Go(写 $1 Go 的帖子是错的)](https://anyrouter.dev/blog/zh/anyrouter-pricing-free-vs-go.md): 旧页还写 $1 Go——错。Free 没有月度额度;anyrouter/free 和 `:free` 模型需要 Go 及以上(Free 只有 5 次终身试用请求),没有每日上限。Go 是 $2/月(实收 $2.63)→ $4。Pro $10($11.05)→ $20;Pro+ $45($47.89)→ $100;Max $100($105.79)→ $300。 - [Giá AnyRouter: Free và Go (bài viết $1 Go là sai)](https://anyrouter.dev/blog/vi/anyrouter-pricing-free-vs-go.md): Trang cũ vẫn nói $1 Go — sai. Free không có credit tháng; anyrouter/free cần Go trở lên (Free chỉ có 5 yêu cầu dùng thử một lần), không trần theo ngày. Go là $2/tháng (trừ $2.63) → $4. Pro $10 ($11.05) → $20; Pro+ $45 ($47.89) → $100; Max $100 ($105.79) → $300. - [Ox Alpha is now GLM-5.3-Flash](https://anyrouter.dev/blog/glm-5-3-flash.md): The Ox Alpha preview is GLM-5.3-Flash: native multimodal, 1M context, MIT-licensed 320B-A18B. Same AnyRouter routes, new catalog id z-ai/glm-5.3-flash. - [Ox Alpha 现在叫 GLM-5.3-Flash](https://anyrouter.dev/blog/zh/glm-5-3-flash.md): Ox Alpha 预览就是 GLM-5.3-Flash:原生多模态、1M 上下文、MIT 许可的 320B-A18B。同一套 AnyRouter 路由,新目录 id 是 z-ai/glm-5.3-flash。 - [Ox Alpha giờ là GLM-5.3-Flash](https://anyrouter.dev/blog/vi/glm-5-3-flash.md): Bản xem trước Ox Alpha chính là GLM-5.3-Flash: đa phương tiện gốc, ngữ cảnh 1M, 320B-A18B giấy phép MIT. Cùng route AnyRouter, catalog id mới z-ai/glm-5.3-flash. - [Qwen3.8-27B and DeepSeek V4 Flash, 50% off](https://anyrouter.dev/blog/qwen3-8-27b-50-percent-off.md): Half off through 1 Sep. Same API, same model ids — just a friendlier bill. - [Qwen3.8-27B 和 DeepSeek V4 Flash,五折](https://anyrouter.dev/blog/zh/qwen3-8-27b-50-percent-off.md): 五折到 9 月 1 日。同一套 API、同一套 model id——账单更友好。 - [Qwen3.8-27B và DeepSeek V4 Flash, giảm 50%](https://anyrouter.dev/blog/vi/qwen3-8-27b-50-percent-off.md): Nửa giá đến 1 tháng 9. Cùng API, cùng model id — hóa đơn dễ chịu hơn. - [Use OpenCode with AnyRouter — CLI launcher or opencode.json](https://anyrouter.dev/blog/opencode-anyrouter.md): Point the OpenCode coding agent at AnyRouter in one command, or add a custom Chat Completions provider in opencode.json. One sk-ar- key reaches every catalog model, with unified billing and request logs. - [用 AnyRouter 跑 OpenCode — CLI 启动器或 opencode.json](https://anyrouter.dev/blog/zh/opencode-anyrouter.md): 一条命令把 OpenCode 编程 agent 指到 AnyRouter,或在 opencode.json 里加一个自定义 Chat Completions 供应商。一把 sk-ar- key 打到目录里每个模型,账单和请求日志统一。 - [Dùng OpenCode với AnyRouter — CLI launcher hoặc opencode.json](https://anyrouter.dev/blog/vi/opencode-anyrouter.md): Chỉ coding agent OpenCode vào AnyRouter bằng một lệnh, hoặc thêm nhà cung cấp Chat Completions tùy chỉnh trong opencode.json. Một key sk-ar- tới mọi model catalog, billing và nhật ký request thống nhất. - [CLI update: multiple accounts, terminal key management, and agents that delegate](https://anyrouter.dev/blog/cli-accounts-and-delegation.md): The AnyRouter CLI now handles several accounts side by side, manages API keys without the dashboard, runs plan-then-implement pipelines across two models, and lets coding agents hand tasks to each other — one hop, one key. - [CLI 更新:多账号、终端管 key、agent 互相委派](https://anyrouter.dev/blog/zh/cli-accounts-and-delegation.md): AnyRouter CLI 现在可以并排管理多个账号,不进 dashboard 也能管 API key,用两个模型跑「先计划再实现」流水线,并让 coding agent 互相交活——一跳、一把 key。 - [Cập nhật CLI: nhiều tài khoản, quản lý key trên terminal, và agent ủy thác](https://anyrouter.dev/blog/vi/cli-accounts-and-delegation.md): CLI AnyRouter giờ giữ vài tài khoản cạnh nhau, quản lý API key không cần dashboard, chạy pipeline lập kế hoạch rồi implement trên hai mô hình, và để coding agent giao việc cho nhau — một hop, một key. - [What is AnyRouter? A plain-English guide to AI model routing](https://anyrouter.dev/blog/what-is-anyrouter.md): An AI model router lets you call many LLMs through one API. Here's what AnyRouter is, why it exists, and whether it's useful for your next project. - [AnyRouter 是什么?用人话讲 AI 模型路由](https://anyrouter.dev/blog/zh/what-is-anyrouter.md): AI 模型路由器让你用一个 API 调用很多 LLM。下面讲 AnyRouter 是什么、为什么存在、对你下一个项目有没有用。 - [AnyRouter là gì? Giải thích routing model AI bằng tiếng thường](https://anyrouter.dev/blog/vi/what-is-anyrouter.md): Router model AI cho phép gọi nhiều LLM qua một API. Đây là AnyRouter là gì, vì sao tồn tại, và có ích cho dự án tiếp theo của bạn không. - [HTTP 429 and 503 errors when calling AI APIs: what they mean and how to fix them](https://anyrouter.dev/blog/anyrouter-429-error-fix.md): If you've hit a 429 Too Many Requests or 503 Service Unavailable on AnyRouter or another AI gateway, the cause is almost always rate limiting or upstream overload. Here are the practical fixes. - [调用 AI API 时的 HTTP 429 和 503:含义和怎么修](https://anyrouter.dev/blog/zh/anyrouter-429-error-fix.md): 如果你在 AnyRouter 或其他 AI 网关上碰到 429 Too Many Requests 或 503 Service Unavailable,原因几乎总是限流或上游过载。下面是能落地的修法。 - [Lỗi HTTP 429 và 503 khi gọi AI API: nghĩa là gì và sửa thế nào](https://anyrouter.dev/blog/vi/anyrouter-429-error-fix.md): Nếu bạn gặp 429 Too Many Requests hoặc 503 Service Unavailable trên AnyRouter hay gateway AI khác, nguyên nhân gần như luôn là rate limit hoặc upstream quá tải. Đây là cách xử lý thực tế. - [How to use AnyRouter with Claude Code (Anthropic's CLI coding tool)](https://anyrouter.dev/blog/anyrouter-claude-code-setup.md): Point Claude Code at AnyRouter by setting two environment variables. Here's the setup, what changes, and what to do when things go wrong. - [如何把 Claude Code(Anthropic 官方 CLI 编程工具)接到 AnyRouter](https://anyrouter.dev/blog/zh/anyrouter-claude-code-setup.md): 设两个环境变量,就能把 Claude Code 指到 AnyRouter。下面是配置、会变什么、以及出问题时怎么处理。 - [Cách dùng AnyRouter với Claude Code (CLI coding của Anthropic)](https://anyrouter.dev/blog/vi/anyrouter-claude-code-setup.md): Chỉ Claude Code vào AnyRouter bằng hai biến môi trường. Đây là cách cài, những gì đổi, và xử lý khi hỏng. - [Nex-N2-Pro: a free AI model and how to access it via API](https://anyrouter.dev/blog/nex-n2-pro-free-ai-model.md): Nex-N2-Pro is a free chat model listed under nex-agi on OpenRouter and other model aggregators. Here's what to know before you build with it. - [Nex-N2-Pro:一个免费 AI 模型,以及如何用 API 调用它](https://anyrouter.dev/blog/zh/nex-n2-pro-free-ai-model.md): Nex-N2-Pro 是 nex-agi 名下的免费对话模型,出现在 OpenRouter 和其他聚合器上。动手前先看这些。 - [Nex-N2-Pro: model AI miễn phí và cách gọi qua API](https://anyrouter.dev/blog/vi/nex-n2-pro-free-ai-model.md): Nex-N2-Pro là model chat miễn phí của nex-agi trên OpenRouter và các aggregator khác. Đây là những gì cần biết trước khi build. - [Using AnyRouter from Linux, WSL, or a headless server](https://anyrouter.dev/blog/anyrouter-linux-do-setup.md): AnyRouter works from any machine that can make HTTPS requests — Linux servers, WSL, CI pipelines, and remote dev boxes. Here's the setup and the gotchas. - [在 Linux、WSL 或无头服务器上用 AnyRouter](https://anyrouter.dev/blog/zh/anyrouter-linux-do-setup.md): 只要能发 HTTPS 请求的机器都能用 AnyRouter — Linux 服务器、WSL、CI、远程开发机。下面是配置和坑。 - [Dùng AnyRouter từ Linux, WSL, hoặc máy không màn hình](https://anyrouter.dev/blog/vi/anyrouter-linux-do-setup.md): AnyRouter chạy trên mọi máy gửi được HTTPS — server Linux, WSL, CI, hộp dev từ xa. Đây là cài đặt và những chỗ dễ vấp. - [AnyRouter API documentation: base URL, model ids, and request format](https://anyrouter.dev/blog/anyrouter-api-docs-primer.md): The AnyRouter API is OpenAI-compatible. Here's the base URL, model id format, authentication, and a working request example. - [AnyRouter API 文档:base URL、模型 id、请求格式](https://anyrouter.dev/blog/zh/anyrouter-api-docs-primer.md): AnyRouter API 兼容 OpenAI。这里是 base URL、模型 id 格式、鉴权,以及一条能跑的请求示例。 - [Tài liệu API AnyRouter: base URL, model id, và định dạng request](https://anyrouter.dev/blog/vi/anyrouter-api-docs-primer.md): API AnyRouter tương thích OpenAI. Đây là base URL, định dạng model id, xác thực, và một request chạy được. - [Bring your CommandCode credential to AnyRouter](https://anyrouter.dev/blog/commandcode-byok.md): The CLI now reads your local CommandCode auth file and uploads it as a BYOK key — one command, no copy-paste. - [把 CommandCode 凭据带到 AnyRouter](https://anyrouter.dev/blog/zh/commandcode-byok.md): CLI 现在会读本机 CommandCode 鉴权文件并上传成 BYOK key — 一条命令,不用复制粘贴。 - [Mang credential CommandCode sang AnyRouter](https://anyrouter.dev/blog/vi/commandcode-byok.md): CLI giờ đọc file auth CommandCode trên máy và upload thành BYOK key — một lệnh, không copy-paste. - [Run Claude Code on AnyRouter — wrapper script or CLI](https://anyrouter.dev/blog/claude-code-anyrouter.md): Route Claude Code through AnyRouter in two ways: a wrapper that installs itself and maps Opus, Sonnet, and Haiku to one catalog model (override with --model), or the anyr CLI launcher. One key, unified billing, audit logs. - [在 AnyRouter 上跑 Claude Code — wrapper 脚本或 CLI](https://anyrouter.dev/blog/zh/claude-code-anyrouter.md): 两条路把 Claude Code 接到 AnyRouter:一个会自己安装的 wrapper,把 Opus、Sonnet、Haiku 都映射到同一条目录模型(用 --model 覆盖);或 anyr CLI 启动器。一把 key,统一账单,审计日志。 - [Chạy Claude Code trên AnyRouter — wrapper hoặc CLI](https://anyrouter.dev/blog/vi/claude-code-anyrouter.md): Route Claude Code qua AnyRouter theo hai cách: wrapper tự cài và map Opus, Sonnet, Haiku vào một model catalog (ghi đè bằng --model), hoặc launcher anyr CLI. Một key, billing thống nhất, nhật ký. - [Bring your Antigravity credential to AnyRouter](https://anyrouter.dev/blog/antigravity-byok.md): A CLI that finds your local Antigravity credential, shows you exactly what it found, and uploads it as a BYOK key — with pool donation as a separate, explicit opt-in. - [把 Antigravity 凭据带到 AnyRouter](https://anyrouter.dev/blog/zh/antigravity-byok.md): 一个 CLI:找到本机 Antigravity 凭据,原样给你看,再上传成 BYOK key — 捐进池是另一次、显式的选择。 - [Mang credential Antigravity sang AnyRouter](https://anyrouter.dev/blog/vi/antigravity-byok.md): CLI tìm credential Antigravity trên máy, hiện đúng những gì tìm thấy, rồi upload thành BYOK key — góp pool là lựa chọn riêng, tường minh. - [Sign in with AnyRouter: let users bring their own LLM account](https://anyrouter.dev/blog/sign-in-with-anyrouter.md): If your app needs an LLM API to run, you have two bad options: ship your own keys and eat every user's inference bill, or make each user paste in a raw provider key. "Sign in with AnyRouter" is the third option — users sign in with their AnyRouter account, and their own balance powers the inference. You get a temporary, inference-only key per user and never handle model billing. - [Sign in with AnyRouter:让用户带上自己的 LLM 账户](https://anyrouter.dev/blog/zh/sign-in-with-anyrouter.md): 如果应用要跑 LLM API,你只有两个糟糕选项:自己出 key、吃下每个用户的推理账单,或让每人粘贴一把裸的供应商 key。"Sign in with AnyRouter" 是第三条路——用户用自己的 AnyRouter 账户登录,用他们自己的余额跑推理。你拿到一把临时、仅推理、按用户隔离的 key,从不经手模型账单。 - [Sign in with AnyRouter: để người dùng mang tài khoản LLM của họ](https://anyrouter.dev/blog/vi/sign-in-with-anyrouter.md): Nếu app cần LLM API để chạy, bạn có hai lựa chọn tệ: tự ship key rồi gánh hóa đơn inference của mọi user, hoặc bắt từng người dán key nhà cung cấp thô. "Sign in with AnyRouter" là lựa chọn thứ ba — họ đăng nhập bằng tài khoản AnyRouter, số dư của họ nuôi inference. Bạn nhận key tạm, chỉ inference, theo từng user, và không đụng billing model. - [Run the Claude Agent SDK on any model](https://anyrouter.dev/blog/claude-agent-sdk-any-model.md): The Claude Agent SDK reads ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY, the same two variables Claude Code uses. Point them at AnyRouter and every catalog model is available to query() behind the Anthropic /messages dialect — in TypeScript or Python. - [在任意模型上跑 Claude Agent SDK](https://anyrouter.dev/blog/zh/claude-agent-sdk-any-model.md): Claude Agent SDK 读 ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY,和 Claude Code 用的是同一对变量。把它们指到 AnyRouter,目录里每个模型都能经 Anthropic /messages 方言给 query() 用 — TypeScript 或 Python。 - [Chạy Claude Agent SDK trên bất kỳ model nào](https://anyrouter.dev/blog/vi/claude-agent-sdk-any-model.md): Claude Agent SDK đọc ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY, cùng hai biến Claude Code dùng. Chỉ chúng vào AnyRouter thì mọi model catalog sẵn cho query() sau dialect Anthropic /messages — TypeScript hoặc Python. - [Use AnyRouter with the Vercel AI SDK](https://anyrouter.dev/blog/ai-sdk-anyrouter.md): @anyr/ai-sdk-provider wraps the AnyRouter gateway as a standard Vercel AI SDK provider. Call createAnyRouter(), pass a provider/model id, and generateText, streamText, and generateObject work unchanged — switching models is a one-string edit. - [用 Vercel AI SDK 接 AnyRouter](https://anyrouter.dev/blog/zh/ai-sdk-anyrouter.md): @anyr/ai-sdk-provider 把 AnyRouter 网关包成标准 Vercel AI SDK provider。调用 createAnyRouter(),传入 provider/model id,generateText、streamText、generateObject 不用改 — 换模型只改一个字符串。 - [Dùng AnyRouter với Vercel AI SDK](https://anyrouter.dev/blog/vi/ai-sdk-anyrouter.md): @anyr/ai-sdk-provider bọc gateway AnyRouter thành provider Vercel AI SDK chuẩn. Gọi createAnyRouter(), truyền provider/model id, generateText, streamText, và generateObject chạy không đổi — đổi model là sửa một chuỗi. - [Get a free NVIDIA API key and route it through one URL](https://anyrouter.dev/blog/nvidia-free-key-setup.md): NVIDIA hands out a free API key with credits and no card required. Attach it to AnyRouter as BYOK and every NVIDIA-hosted model runs through one OpenAI-compatible endpoint — at $0 markup. Here's the five-minute setup. - [领一把免费 NVIDIA API key,再用一个 URL 转发](https://anyrouter.dev/blog/zh/nvidia-free-key-setup.md): NVIDIA 发免费 API key,带额度,不用绑卡。把它作为 BYOK 接到 AnyRouter,NVIDIA 托管的模型都走同一个兼容 OpenAI 的端点——加价 $0。下面是大约五分钟的流程。 - [Lấy NVIDIA API key miễn phí rồi route qua một URL](https://anyrouter.dev/blog/vi/nvidia-free-key-setup.md): NVIDIA phát API key miễn phí kèm credit, không cần thẻ. Gắn vào AnyRouter như BYOK thì mọi model NVIDIA host chạy qua một endpoint tương thích OpenAI — markup $0. Setup khoảng năm phút. - [Run Hermes Agent on AnyRouter](https://anyrouter.dev/blog/hermes-agent-anyrouter.md): Install the official AnyRouter plugin for Hermes Agent, add one key, and pick from tool-capable models — including the anyrouter/hermes meta-model with automatic fallback. - [在 AnyRouter 上运行 Hermes Agent](https://anyrouter.dev/blog/zh/hermes-agent-anyrouter.md): 安装 AnyRouter 官方的 Hermes Agent 插件,加一把 key,就能从支持工具调用的模型里挑选——包括自动回退的 anyrouter/hermes 元模型。 - [Chạy Hermes Agent trên AnyRouter](https://anyrouter.dev/blog/vi/hermes-agent-anyrouter.md): Cài plugin AnyRouter chính thức cho Hermes Agent, thêm một key, và chọn từ các model gọi tool được — gồm meta-model anyrouter/hermes với fallback tự động. - [Point Claude Code at a custom base URL](https://anyrouter.dev/blog/claude-code-through-one-gateway.md): Claude Code reads ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY, so pointing it at AnyRouter takes two environment variables — no plugin, no fork. You get every model in the catalog behind the same key, automatic failover when a provider is rate-limited, and one audit log shared with Codex, Cursor, and every other agent you run. - [把 Claude Code 指到自定义 base URL](https://anyrouter.dev/blog/zh/claude-code-through-one-gateway.md): Claude Code 读 ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY,指到 AnyRouter 只要两个环境变量——不用插件、不用 fork。同一把 key 后面是整份目录,供应商限流时自动切换,审计日志和 Codex、Cursor 及其他 agent 共用。 - [Chỉ Claude Code vào custom base URL](https://anyrouter.dev/blog/vi/claude-code-through-one-gateway.md): Claude Code đọc ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY, nên chỉ vào AnyRouter chỉ cần hai biến môi trường — không plugin, không fork. Cùng một key phía sau là cả catalog, failover khi nhà cung cấp bị rate-limit, và một audit log chung với Codex, Cursor và mọi agent khác. - [Use the OpenAI SDK with any model](https://anyrouter.dev/blog/openai-sdk-any-model.md): The official openai package for Python and TypeScript doesn't have to mean OpenAI models. Override base_url and api_key, keep every other call the same, and address hundreds of models across many providers as provider/model strings — including OpenAI's own. - [用 OpenAI SDK 打任意模型](https://anyrouter.dev/blog/zh/openai-sdk-any-model.md): 官方 openai 包(Python 和 TypeScript)不必只打 OpenAI 模型。覆盖 base_url 和 api_key,其余调用不变,用 provider/model 字符串寻址多家供应商的数百个模型——包括 OpenAI 自己的。 - [Dùng OpenAI SDK với mọi model](https://anyrouter.dev/blog/vi/openai-sdk-any-model.md): Gói openai chính thức cho Python và TypeScript không bắt buộc model OpenAI. Ghi đè base_url và api_key, giữ mọi lời gọi khác, địa chỉ hàng trăm model trên nhiều nhà cung cấp bằng chuỗi provider/model — kể cả của OpenAI. - [Cheapest LLM API: how to actually shop for cost per token](https://anyrouter.dev/blog/cheapest-llm-api.md): The cheapest LLM API isn't the one with the lowest sticker price — it's the one with no markup added on top of it, a free tier that covers real usage, and a path to route on provider keys you already pay for. Here's how to actually compare cost instead of a headline number. - [最便宜的 LLM API:怎么真正按 token 成本比价](https://anyrouter.dev/blog/zh/cheapest-llm-api.md): 最便宜的 LLM API 不是标价最低的那家——而是上面不加价、免费档能覆盖真实用量、还能用你已经在付的供应商 key 转发。下面讲怎么比成本,而不是比一个标题数字。 - [LLM API rẻ nhất: so chi phí từng token cho đúng](https://anyrouter.dev/blog/vi/cheapest-llm-api.md): LLM API rẻ nhất không phải cái dán giá thấp nhất — mà là cái không cộng markup, free tier cover được lượng dùng thật, và có đường route trên key nhà cung cấp bạn đã trả. Đây là cách so chi phí, không so số headline. - [Free LLM API access for students and side projects](https://anyrouter.dev/blog/free-llm-api-for-students.md): You don't need a company card to build with real models. Between a no-spend free tier, a $2/mo plan if you outgrow it, and routing on free-tier keys you may already have from providers like Google AI Studio, there's a durable way to stay at $0 while a class project or side hustle is still finding its shape. - [给学生和 side project 的免费 LLM API](https://anyrouter.dev/blog/zh/free-llm-api-for-students.md): 用真模型做东西不必先有公司卡。在不花 credit 的免费档、$2/月(用量涨了再升)以及把你可能已有的供应商免费档 key(例如 Google AI Studio)接进来之间,有一条能在课堂项目或副业还在成形时把花费留在 $0 的路。 - [API LLM miễn phí cho sinh viên và side project](https://anyrouter.dev/blog/vi/free-llm-api-for-students.md): Bạn không cần thẻ công ty để dựng với mô hình thật. Giữa free tier không tiêu credit, gói $2/tháng nếu vượt, và route trên key free-tier bạn có thể đã có từ nhà như Google AI Studio, có cách bền để ở $0 trong lúc bài lớp hoặc side hustle còn đang định hình. - [MCP servers for AI agents: what they are and how to connect one](https://anyrouter.dev/blog/mcp-servers-for-ai-agents.md): An MCP server lets an AI agent call a workspace's tools — keys, credits, models, status — over one standard interface instead of custom glue code per service. Here's what MCP is and how to connect AnyRouter's managed MCP server to Claude Desktop, Claude Code, Cursor, or your own agent. - [给 AI agent 用的 MCP 服务器:是什么、怎么连](https://anyrouter.dev/blog/zh/mcp-servers-for-ai-agents.md): MCP 服务器让 AI agent 经一套标准接口调用工作区工具——key、额度、模型、状态——而不是每个服务手写胶水。MCP 是什么,以及如何把 AnyRouter 托管的 MCP 服务器接到 Claude Desktop、Claude Code、Cursor 或你自己的 agent。 - [MCP server cho AI agent: chúng là gì và cách kết nối một cái](https://anyrouter.dev/blog/vi/mcp-servers-for-ai-agents.md): MCP server cho AI agent gọi tool của workspace — key, credit, model, trạng thái — trên một giao diện chuẩn thay vì glue code tùy biến mỗi dịch vụ. MCP là gì và cách nối MCP server được quản lý của AnyRouter vào Claude Desktop, Claude Code, Cursor, hoặc agent của bạn. - [Calling providers directly vs. routing through one gateway](https://anyrouter.dev/blog/direct-provider-vs-gateway.md): Call OpenAI, Anthropic, and every other provider directly and you manage a key, an SDK, and an audit trail per provider. Route the same calls through one gateway and you manage one of each — at the cost of an extra hop. Here's the honest trade-off on auth, SDKs, failover, billing, audit logs, and switching cost. - [直连供应商 vs. 经一个网关路由](https://anyrouter.dev/blog/zh/direct-provider-vs-gateway.md): 直接打 OpenAI、Anthropic 和每个其他供应商,你就要为每个供应商管一把 key、一套 SDK、一份审计轨迹。把同样的调用经一个网关走,每样只管一份——代价是多一跳。下面是 auth、SDK、failover、账单、审计日志和切换成本的老实权衡。 - [Gọi nhà cung cấp trực tiếp vs. route qua một gateway](https://anyrouter.dev/blog/vi/direct-provider-vs-gateway.md): Gọi OpenAI, Anthropic và mọi nhà cung cấp khác trực tiếp thì bạn quản lý một key, một SDK, và một audit trail mỗi nhà. Route cùng những call đó qua một gateway thì bạn quản lý mỗi thứ một cái — đổi lấy một hop thêm. Đây là đánh đổi thẳng thắn về auth, SDK, failover, billing, audit log, và chi phí chuyển. - [An LLM API without vendor lock-in](https://anyrouter.dev/blog/llm-api-without-vendor-lock-in.md): Vendor lock-in with an LLM API usually isn't the model — it's the proprietary client shape you built against. Standing on the standard OpenAI-compatible surface (plus Anthropic /messages and OpenAI /responses) keeps the exit door open: the same code you write also works pointed straight at the origin provider. - [一份没有供应商锁定的 LLM API](https://anyrouter.dev/blog/zh/llm-api-without-vendor-lock-in.md): LLM API 的锁定通常不是模型本身——而是你对着写的那套专有客户端形状。站在标准兼容 OpenAI 的表面上(外加 Anthropic /messages 和 OpenAI /responses),出口一直开着:你写的同一份代码,直接指向源供应商也能跑。 - [API LLM không bị vendor lock-in](https://anyrouter.dev/blog/vi/llm-api-without-vendor-lock-in.md): Lock-in với API LLM thường không phải mô hình — mà là hình dạng client độc quyền bạn đã dựng. Đứng trên bề mặt chuẩn tương thích OpenAI (cộng Anthropic /messages và OpenAI /responses) giữ cửa thoát mở: cùng code bạn viết cũng chạy khi trỏ thẳng vào nhà cung cấp gốc. - [How automatic failover works in an LLM gateway](https://anyrouter.dev/blog/llm-gateway-latency-and-failover.md): A single provider call has a single point of failure: one rate limit, one outage, one bad deploy on their end, and your request fails. Here's the actual mechanism AnyRouter uses to route around that — circuit breakers, escalating cooldowns, and a fallback chain — and why the extra hop barely registers next to model generation time. - [LLM 网关里的自动 failover 怎么工作](https://anyrouter.dev/blog/zh/llm-gateway-latency-and-failover.md): 一次直连供应商调用只有一个失败点:一次限流、一次宕机、他们那边一次糟糕的发布,你的请求就失败。下面是 AnyRouter 实际用来绕开的机制——断路器、逐级冷却、以及回退链——以及为什么多出来的那一跳,相对模型生成时间几乎感觉不到。 - [Failover tự động trong LLM gateway hoạt động thế nào](https://anyrouter.dev/blog/vi/llm-gateway-latency-and-failover.md): Một call nhà cung cấp đơn có một điểm thất bại: một rate limit, một outage, một deploy xấu phía họ, và request của bạn fail. Đây là cơ chế AnyRouter thực sự dùng để đi vòng — circuit breaker, cooldown leo thang, và chuỗi fallback — và vì sao hop thêm gần như không đáng kể so với thời gian generate của mô hình. - [Building an LLM gateway on Cloudflare Workers](https://anyrouter.dev/blog/building-an-llm-gateway-on-cloudflare-workers.md): AnyRouter runs as a set of Cloudflare Workers, not a long-running server. That constrains the design in specific ways — a 128MB memory ceiling that rules out buffering responses, a 3MiB script cap that forced a multi-Worker split, and a hard rule that every upstream call goes through Cloudflare's AI Gateway. Here's what that architecture actually looks like. - [在 Cloudflare Workers 上做 LLM 网关](https://anyrouter.dev/blog/zh/building-an-llm-gateway-on-cloudflare-workers.md): AnyRouter 跑在一组 Cloudflare Worker 上,不是常驻服务器。这套设计被具体限制卡住:128MB 内存上限禁止缓冲整段响应,3MiB 脚本上限逼出多 Worker 拆分,以及硬规则——每条上游调用都必须走 Cloudflare AI Gateway。下面是这套架构实际长什么样。 - [Xây LLM gateway trên Cloudflare Workers](https://anyrouter.dev/blog/vi/building-an-llm-gateway-on-cloudflare-workers.md): AnyRouter chạy trên một cụm Cloudflare Worker, không phải server sống lâu. Thiết kế bị ràng buộc cụ thể: trần 128MB RAM cấm buffer cả response, trần script 3MiB buộc tách nhiều Worker, và quy tắc cứng — mọi cuộc gọi upstream đều đi qua Cloudflare AI Gateway. Đây là kiến trúc thực tế. - [What developers actually route through AnyRouter](https://anyrouter.dev/blog/what-developers-actually-route.md): The catalog has hundreds of models across many providers, but that's not what traffic looks like. A handful of models absorb almost all of the free-tier volume, model counts skew hard toward a few owner organizations, and most requests never mention a provider name at all — they arrive tagged by which coding agent sent them. Here's the shape of the catalog and the shape of what people actually call. - [开发者真正经 AnyRouter 打出去的流量长什么样](https://anyrouter.dev/blog/zh/what-developers-actually-route.md): 目录有数百个模型、多家供应商,但流量不是这样铺开的。少数模型吃掉几乎全部免费档请求,模型数量也偏向少数 owner 组织,而且多数请求根本不带供应商名——它们按哪个 coding agent 发来打标。下面是目录的形状,以及人们真正调用的形状。 - [Developer thực sự route gì qua AnyRouter](https://anyrouter.dev/blog/vi/what-developers-actually-route.md): Catalog có hàng trăm mô hình trên nhiều nhà cung cấp, nhưng traffic không trải đều. Một nắm mô hình nuốt gần hết volume free-tier, số mô hình lệch về vài tổ chức owner, và hầu hết request chẳng nêu tên nhà cung cấp — chúng được gắn theo coding agent nào gửi. Đây là hình dạng catalog và hình dạng những gì người ta thực sự gọi. - [One API for every LLM](https://anyrouter.dev/blog/one-api-every-llm.md): One OpenAI-compatible endpoint reaches every model in the catalog — hundreds of models addressed as provider/model, with automatic failover across upstreams, routing presets, and streaming. Point your existing client at AnyRouter and change a model with a string, not a rewrite. - [一个 API 打到每个 LLM](https://anyrouter.dev/blog/zh/one-api-every-llm.md): 一个兼容 OpenAI 的端点打到目录里每个模型——数百个模型用 provider/model 寻址,上游自动失败切换、路由预设和流式。把现有客户端指到 AnyRouter,换模型改字符串,不用重写。 - [Một API cho mọi LLM](https://anyrouter.dev/blog/vi/one-api-every-llm.md): Một endpoint tương thích OpenAI tới mọi mô hình trong catalog — hàng trăm mô hình địa chỉ provider/model, failover tự động giữa upstream, preset routing và streaming. Chỉ client sẵn có vào AnyRouter và đổi mô hình bằng một chuỗi, không viết lại. - [BYOK: bring your own keys to every provider](https://anyrouter.dev/blog/byok-bring-your-own-keys.md): Attach the OpenAI, Anthropic, Google, and 60+ other provider keys you already pay for, route them through one OpenAI-compatible URL at $0 markup, cap spend per key, and — if you donate idle quota to the shared pool — earn up to 8% back and unlock Go for free while a donated key stays active. - [BYOK:把你自己的 key 接到每家供应商](https://anyrouter.dev/blog/zh/byok-bring-your-own-keys.md): 挂上你已经在付的 OpenAI、Anthropic、Google 和 60+ 其他供应商 key,经一个兼容 OpenAI 的 URL 路由,$0 加价,按 key 封顶花费——如果把闲置额度捐进共享池,最多拿回 8%,并且只要捐出的 key 还活着,就能免费开通 Go。 - [BYOK: mang key của bạn tới mọi nhà cung cấp](https://anyrouter.dev/blog/vi/byok-bring-your-own-keys.md): Gắn key OpenAI, Anthropic, Google và 60+ nhà cung cấp khác bạn đã trả, route qua một URL tương thích OpenAI với $0 markup, trần chi tiêu mỗi key, và — nếu donate quota nhàn rỗi vào shared pool — nhận lại tới 8% và mở Go miễn phí khi key được donate còn hoạt động. - [Run coding agents through one gateway](https://anyrouter.dev/blog/coding-agents-one-gateway.md): Point Claude Code, Codex, OpenCode, Cursor, or any OpenAI-compatible tool at AnyRouter and get one key for every model, unified billing, per-request audit logs, and app attribution. Two environment variables — or one npx command with the anyr CLI launcher. - [让 coding agent 走同一个网关](https://anyrouter.dev/blog/zh/coding-agents-one-gateway.md): 把 Claude Code、Codex、OpenCode、Cursor 或任何兼容 OpenAI 的工具指到 AnyRouter,一把 key 打到每个模型,统一账单、按请求审计日志和 app 归因。两个环境变量——或者一条 npx 命令配 anyr CLI launcher。 - [Chạy coding agent qua một gateway](https://anyrouter.dev/blog/vi/coding-agents-one-gateway.md): Chỉ Claude Code, Codex, OpenCode, Cursor, hoặc bất kỳ công cụ tương thích OpenAI vào AnyRouter và có một key cho mọi mô hình, billing thống nhất, audit log mỗi request, và app attribution. Hai biến môi trường — hoặc một lệnh npx với anyr CLI launcher. - [An MCP gateway with managed server access](https://anyrouter.dev/blog/mcp-gateway-managed-servers.md): AnyRouter runs a Model Context Protocol server that exposes your workspace — models, keys, presets, credits, and status — as JSON-RPC tools, with OAuth 2.1 auth and a dashboard MCP Gateway for managed access. One endpoint any MCP client can connect to. - [带托管服务访问的 MCP 网关](https://anyrouter.dev/blog/zh/mcp-gateway-managed-servers.md): AnyRouter 跑一个 Model Context Protocol 服务器,把工作区——模型、key、预设、额度、状态——暴露成 JSON-RPC 工具,带 OAuth 2.1 鉴权,以及控制台 MCP Gateway 做托管访问。任何 MCP 客户端都能连的一个端点。 - [MCP gateway với truy cập server được quản lý](https://anyrouter.dev/blog/vi/mcp-gateway-managed-servers.md): AnyRouter chạy một Model Context Protocol server, lộ workspace — mô hình, key, preset, credit và trạng thái — thành công cụ JSON-RPC, auth OAuth 2.1, và MCP Gateway trên dashboard cho truy cập được quản lý. Một endpoint mọi MCP client có thể kết nối. - [A unified AI API: one endpoint, every provider dialect](https://anyrouter.dev/blog/unified-ai-api-one-endpoint.md): OpenAI ships /chat/completions, Anthropic ships /messages, OpenAI's newer surface is /responses. A unified AI API speaks all of them at one URL, so the client library you already use keeps working — you swap the base URL, not the code. - [统一 AI API:一个端点,每家供应商的方言](https://anyrouter.dev/blog/zh/unified-ai-api-one-endpoint.md): OpenAI 出 /chat/completions,Anthropic 出 /messages,OpenAI 较新的表面是 /responses。统一 AI API 在一个 URL 上说完这些,你已有的客户端库继续工作——换 base URL,不换代码。 - [Unified AI API: một endpoint, mọi dialect nhà cung cấp](https://anyrouter.dev/blog/vi/unified-ai-api-one-endpoint.md): OpenAI ship /chat/completions, Anthropic ship /messages, bề mặt mới hơn của OpenAI là /responses. Unified AI API nói cả ba tại một URL, nên thư viện client bạn đã dùng vẫn chạy — bạn đổi base URL, không đổi code. - [An OpenAI API alternative that keeps your OpenAI code](https://anyrouter.dev/blog/openai-api-alternative.md): Looking for an OpenAI-compatible API alternative? Keep your OpenAI SDK and code — swap one base URL and get every provider (including OpenAI itself), automatic failover, and $0-markup BYOK on the keys you already pay for. - [一套保住 OpenAI 代码的 OpenAI API 替代](https://anyrouter.dev/blog/zh/openai-api-alternative.md): 在找兼容 OpenAI 的 API 替代?留下 OpenAI SDK 和代码——换一个 base URL,打到每家供应商(包括 OpenAI 自己),自动故障切换,以及你已付费的 key 上 $0 markup 的 BYOK。 - [Thay thế OpenAI API mà giữ nguyên code OpenAI](https://anyrouter.dev/blog/vi/openai-api-alternative.md): Tìm API thay thế tương thích OpenAI? Giữ SDK và code OpenAI — đổi một base URL, tới mọi nhà cung cấp (kể cả OpenAI), failover tự động, và BYOK markup $0 trên key bạn đã trả. - [OpenRouter alternatives 2026: how AnyRouter differs](https://anyrouter.dev/blog/openrouter-alternative-anyrouter.md): OpenRouter alternatives 2026, without invented rankings: AnyRouter is one OpenRouter alternative with $0-markup BYOK, a donated shared pool, a $2/mo Go plan, Cloudflare-edge routing, on-device models via local relay, a built-in MCP server, and open pricing config. - [OpenRouter alternatives 2026:AnyRouter 差在哪](https://anyrouter.dev/blog/zh/openrouter-alternative-anyrouter.md): OpenRouter alternatives 2026,没有编造排名:AnyRouter 是一种 OpenRouter 替代——$0 加价 BYOK、捐赠共享池、$2/月 Go、Cloudflare 边缘路由、经 local relay 的端侧模型、内置 MCP,以及开放定价配置。 - [OpenRouter alternatives 2026: AnyRouter khác chỗ nào](https://anyrouter.dev/blog/vi/openrouter-alternative-anyrouter.md): OpenRouter alternatives 2026, không xếp hạng bịa: AnyRouter là một thay thế OpenRouter với BYOK markup $0, pool dùng chung được góp, gói Go $2/tháng, routing cạnh Cloudflare, model trên máy qua local relay, MCP server sẵn, và config giá mở. - [The top website for free LLM models — and how they're actually free](https://anyrouter.dev/blog/top-free-models-api.md): AnyRouter serves a real free LLM API across hundreds of catalog models. Here's what people actually route to for free, and the three honest mechanisms that make it free: the anyrouter/free tier, the donated shared pool, and self-hosted on-device models. - [免费 LLM 模型的首选站点——以及它们究竟如何免费](https://anyrouter.dev/blog/zh/top-free-models-api.md): AnyRouter 在数百个目录模型上提供真正的免费 LLM API。下面是人们实际免费路由到的模型,以及让它免费的三种诚实机制:anyrouter/free、捐赠共享池,以及自托管的端侧模型。 - [Trang hàng đầu cho mô hình LLM miễn phí — và chúng miễn phí thế nào](https://anyrouter.dev/blog/vi/top-free-models-api.md): AnyRouter phục vụ API LLM miễn phí thật trên hàng trăm mô hình catalog. Đây là thứ người ta thật sự route miễn phí, và ba cơ chế trung thực làm nó miễn phí: tầng ngày anyrouter/free, pool dùng chung từ key góp, và mô hình on-device tự host. - [Free models, just $2 a month](https://anyrouter.dev/blog/free-models-one-dollar.md): AnyRouter's Go plan is $2/mo: a $4 monthly credit for paid models. Free models need Go or higher. You can also donate a provider key so Go costs nothing, or run models on your own device via local relay. - [免费模型,每月只需 $2](https://anyrouter.dev/blog/zh/free-models-one-dollar.md): AnyRouter 的 Go 套餐是 $2/月:每月 $4 额度,免费模型需要 Go 及以上。也可以三条路完全免费——捐一把供应商 key 则 Go 不花钱、用 anyrouter/free,或通过 local relay 在自己的设备上跑模型。 - [Mô hình miễn phí, chỉ $2 mỗi tháng](https://anyrouter.dev/blog/vi/free-models-one-dollar.md): Gói Go của AnyRouter là $2/tháng: $4 credit hàng tháng dùng cho model trả phí. Hoặc miễn phí theo ba cách — góp một key nhà cung cấp thì Go không mất tiền, gọi anyrouter/free (cần Go trở lên), hoặc chạy mô hình trên máy mình qua local relay. - [The most-used free models on AnyRouter so far](https://anyrouter.dev/blog/most-used-free-models.md): We pulled real usage from the gateway: which free models people actually route to. GLM-5.2 runs away with it, gpt-4o-mini is the workhorse behind it, and anyrouter/free quietly serves the long tail. Numbers below, straight from production. - [目前 AnyRouter 上用得最多的免费模型](https://anyrouter.dev/blog/zh/most-used-free-models.md): 我们从网关拉了真实用量:大家实际打到哪些免费模型。GLM-5.2 遥遥领先,gpt-4o-mini 是紧随其后的干活模型,anyrouter/free 默默扛着长尾。下面的数字直接来自生产。 - [Các mô hình miễn phí được dùng nhiều nhất trên AnyRouter đến nay](https://anyrouter.dev/blog/vi/most-used-free-models.md): Chúng tôi lấy usage thật từ gateway: mô hình miễn phí nào người ta thực sự route tới. GLM-5.2 bỏ xa, gpt-4o-mini là ngựa thồ phía sau, anyrouter/free âm thầm phục vụ đuôi dài. Số liệu bên dưới, thẳng từ production. - [Apple's on-device Foundation Model, now on the AnyRouter API](https://anyrouter.dev/blog/apple-foundation-models-on-device.md): Run Apple Intelligence's on-device Foundation Model on your own Mac and call it through the same AnyRouter API you use for everything else. Your prompts stay on your hardware, you pay nothing for tokens, and there's no vendor account to manage. - [Apple 设备端 Foundation Model,现已接入 AnyRouter API](https://anyrouter.dev/blog/zh/apple-foundation-models-on-device.md): 在自己的 Mac 上跑 Apple Intelligence 的设备端 Foundation Model,用你平时打其他模型的同一套 AnyRouter API 来调。Prompt 留在本机,token 不花钱,也没有供应商账号要管。 - [Foundation Model trên thiết bị của Apple, nay trên API AnyRouter](https://anyrouter.dev/blog/vi/apple-foundation-models-on-device.md): Chạy Foundation Model trên thiết bị của Apple Intelligence trên Mac của bạn và gọi nó qua cùng API AnyRouter bạn dùng cho mọi thứ khác. Prompt ở lại trên phần cứng, bạn không trả token, không có tài khoản nhà cung cấp phải quản lý. - [Go on AnyRouter for $2 — or free if you donate a key](https://anyrouter.dev/blog/starter-plan-one-dollar.md): Go is now $2/mo: a $4 monthly credit plus shared-pool access (free models need Go or higher), with no surprise charges. Donate one working provider key to the shared pool instead, and Go costs nothing at all. - [AnyRouter 的 Go:$2,或捐一把 key 就免费](https://anyrouter.dev/blog/zh/starter-plan-one-dollar.md): Go 现在是 $2/月:每月 $4 额度,免费模型需要 Go 及以上,没有卡上意外。也可以向共享池捐一把还能用的供应商 key,Go 完全不花钱。 - [Go trên AnyRouter $2 — hoặc miễn phí nếu góp một key](https://anyrouter.dev/blog/vi/starter-plan-one-dollar.md): Go hiện $2/tháng: $4 credit hàng tháng dùng cho model trả phí, không bất ngờ trên thẻ. Mô hình miễn phí thì ai cũng gọi được, kể cả gói Free. Thay vào đó góp một key nhà cung cấp còn dùng được vào pool chung thì Go không tốn gì. - [Donate a key to unblock the Pool of free tokens](https://anyrouter.dev/blog/shared-key-pool.md): The Pool runs on provider keys that AnyRouter users donate. Donate one key you do not fully use: Pool callers get free models at $0, you earn 5% or 8% back in credits, and one active key makes the Go plan free. - [捐一把 key,解锁 Pool 的免费 token](https://anyrouter.dev/blog/zh/shared-key-pool.md): Pool 由 AnyRouter 用户捐出的供应商 key 组成。捐一把你用不完的 key:通过 Pool 调用的人以 $0 使用免费模型,你拿回 5% 或 8% 的额度,而且只要有一把 key 在用,Go 套餐就免费。 - [Góp một key để mở khóa Pool token miễn phí](https://anyrouter.dev/blog/vi/shared-key-pool.md): Pool chạy bằng các key nhà cung cấp do người dùng AnyRouter góp. Góp một key bạn dùng không hết: người gọi qua Pool dùng model miễn phí với giá $0, bạn nhận lại 5% hoặc 8% bằng credit, và một key đang hoạt động cho bạn gói Go miễn phí. - [Bring your own keys — every provider behind one API](https://anyrouter.dev/blog/bring-your-own-keys.md): Connect the provider keys and subscriptions you already pay for, route them through one OpenAI-compatible URL with automatic failover, and — soon — earn credits back by donating idle quota to the shared pool. - [自带 Key——所有供应商,一个 API](https://anyrouter.dev/blog/zh/bring-your-own-keys.md): 把你已经在付的供应商 key 和订阅接进来,经一个 OpenAI 兼容 URL 自动失败切换,并且——很快——把闲置配额捐进共享池还能拿回额度。 - [Mang key của bạn — mọi nhà cung cấp sau một API](https://anyrouter.dev/blog/vi/bring-your-own-keys.md): Nối các key và gói nhà cung cấp bạn đã trả, route qua một URL tương thích OpenAI với failover tự động, và — sắp tới — nhận credit lại khi góp quota nhàn vào pool chung. - [A clearer way to pay: Free, Standard, and pay-as-you-go](https://anyrouter.dev/blog/billing-redesign.md): We split billing into a simple subscription tier and separate pay-as-you-go credits, so you always know what you're paying for and what each request costs. - [更清楚的付费方式:Free、Standard,以及按量](https://anyrouter.dev/blog/zh/billing-redesign.md): 我们把计费拆成简单的订阅档和独立的按量额度,这样你始终知道在付什么、每次请求花多少。 - [Cách trả tiền rõ hơn: Free, Standard, và trả theo mức dùng](https://anyrouter.dev/blog/vi/billing-redesign.md): Chúng tôi tách billing thành tầng đăng ký đơn giản và credit trả theo mức dùng riêng, để bạn luôn biết đang trả gì và mỗi request tốn bao nhiêu. - [Free LLM API: hundreds of models with a real free tier](https://anyrouter.dev/blog/free-llm-api.md): You don't need a credit card to start building with large language models. A free LLM API should give you real models, an OpenAI-compatible endpoint, and a way to keep costs at zero as you grow — here's how that works in practice. - [免费 LLM API:数百个模型,真正的免费档](https://anyrouter.dev/blog/zh/free-llm-api.md): 开始用大语言模型不必先绑卡。一个像样的免费 LLM API 该给你真模型、兼容 OpenAI 的端点,以及用量涨了还能把成本留在零的办法——下面讲实际怎么做。 - [API LLM miễn phí: hàng trăm mô hình với free tier thật](https://anyrouter.dev/blog/vi/free-llm-api.md): Bạn không cần thẻ để bắt đầu dựng với mô hình ngôn ngữ lớn. Một API LLM miễn phí nên cho mô hình thật, endpoint tương thích OpenAI, và cách giữ chi phí ở zero khi lớn — đây là cách nó chạy trên thực tế. - [Is there an unlimited free LLM API? An honest answer](https://anyrouter.dev/blog/unlimited-free-llm-api.md): Truly unlimited and truly free can't both be true forever — someone pays for the GPUs. But you can get very close: free tiers, your own provider quota at $0 markup, and a shared key pool. Here's how each one works. - [有没有无限免费的 LLM API?诚实回答](https://anyrouter.dev/blog/zh/unlimited-free-llm-api.md): 真正无限和真正免费不可能永远同时成立——GPU 总有人付钱。但你可以非常接近:免费档、你自己的供应商配额加 $0 加价,以及共享 key 池。下面是每一条怎么工作。 - [Có API LLM miễn phí không giới hạn không? Trả lời thành thật](https://anyrouter.dev/blog/vi/unlimited-free-llm-api.md): Thật sự không giới hạn và thật sự miễn phí không thể cùng đúng mãi — ai đó trả GPU. Nhưng bạn có thể rất gần: free tier, quota nhà cung cấp của bạn markup $0, và pool key dùng chung. Đây là từng cái chạy thế nào. - [Unify every LLM API behind one endpoint](https://anyrouter.dev/blog/unify-llm-api.md): OpenAI, Anthropic, Google, and a dozen others each ship a different SDK, auth scheme, and error shape. Unifying them behind one OpenAI-compatible API turns model choice into a config value instead of an integration project. - [把每家 LLM API 统一到一个端点后面](https://anyrouter.dev/blog/zh/unify-llm-api.md): OpenAI、Anthropic、Google 以及十多家各自出一套 SDK、鉴权和错误形状。把它们统一到一个兼容 OpenAI 的 API 后面,选模型就变成配置值,而不是一次集成项目。 - [Thống nhất mọi LLM API sau một endpoint](https://anyrouter.dev/blog/vi/unify-llm-api.md): OpenAI, Anthropic, Google, và hàng tá hãng khác mỗi nhà một SDK, auth, và hình lỗi khác. Thống nhất chúng sau một API tương thích OpenAI biến chọn model thành giá trị config, không phải dự án tích hợp. - [Unify your MCP tools behind one free gateway](https://anyrouter.dev/blog/unify-mcp-gateway-free.md): As you add MCP servers — for search, code, data, your own internal tools — each client needs its own config and credentials. A unified MCP gateway puts them behind one endpoint with one auth flow, and connecting to AnyRouter's is free. - [把 MCP 工具统一到一个免费网关后面](https://anyrouter.dev/blog/zh/unify-mcp-gateway-free.md): 当你不断加 MCP 服务器——搜索、代码、数据、自己的内部工具——每个客户端都要自己的配置和凭证。统一 MCP 网关把它们放在一个端点、一套鉴权后面,连上 AnyRouter 的网关是免费的。 - [Thống nhất công cụ MCP sau một gateway miễn phí](https://anyrouter.dev/blog/vi/unify-mcp-gateway-free.md): Khi bạn thêm MCP server — tìm kiếm, code, data, công cụ nội bộ — mỗi client cần config và credential riêng. MCP gateway thống nhất đặt chúng sau một endpoint với một luồng auth, và kết nối tới gateway của AnyRouter thì miễn phí. - [OpenRouter alternative: what to compare before you switch](https://anyrouter.dev/blog/openrouter-alternative.md): Looking for an OpenRouter alternative? Compare markup, bring-your-own-keys, billing, and lock-in — then see where AnyRouter lands. No invented benchmarks. - [OpenRouter 替代:换网关前该比什么](https://anyrouter.dev/blog/zh/openrouter-alternative.md): 在找 OpenRouter 替代?比加价、自带 key、账单和锁定——再看 AnyRouter 落在哪。没有编造的榜单。 - [Thay thế OpenRouter: so gì trước khi chuyển](https://anyrouter.dev/blog/vi/openrouter-alternative.md): Đang tìm thay thế OpenRouter? So markup, bring-your-own-keys, billing, và lock-in — rồi xem AnyRouter đứng ở đâu. Không bịa benchmark. ## Releases - [Liquid d1.2 and d1.2 Ultra](https://anyrouter.dev/blog/releases/2026-11-17-d1-2.md): Liquid AI's omnimodal decision models join the catalog through your own Liquid key: d1.2 for everyday decisions, d1.2 Ultra for harder ones. - [Sage S2.1 Flash](https://anyrouter.dev/blog/releases/2026-11-17-sage-s2-1-flash.md): Shanghai AI Laboratory's scientific multimodal model joins the catalog through your own Intern TokenPlan key. - [Hy4 flash](https://anyrouter.dev/blog/releases/2026-11-16-hy4-flash.md): Tencent's everyday productivity model joins the catalog through your own key at several providers. - [ERNIE Light DT 1.0](https://anyrouter.dev/blog/releases/2026-11-15-ernie-light-dt-1-0.md): Baidu's lightweight 1M-context ERNIE Light DT 1.0 joins the catalog through your own provider key. - [LFM3 1.7B](https://anyrouter.dev/blog/releases/2026-11-15-lfm-3-1-7b.md): Liquid AI's 1.7B open-weight agent model with a 256K context joins the catalog through your own provider key. - [LFM3-VL 2B](https://anyrouter.dev/blog/releases/2026-11-15-lfm3-vl-2b.md): Liquid AI's 1.9B vision-language model with video input joins the catalog through your own Infron key. - [Ripple 65B Preview](https://anyrouter.dev/blog/releases/2026-11-15-ripple-65b-preview.md): Ricursive Intelligence's open-weight 65B coding model joins the catalog through your own provider key. - [Qwen4 Max through QwenCloud Token Plan](https://anyrouter.dev/blog/releases/2026-11-14-qwen4-max-qwencloud-token-plan.md): Qwen4 Max now has a QwenCloud Token Plan route. Add your Token Plan key and call qwen/qwen4-max with no markup. - [Qwen4 Max through Token Harbor](https://anyrouter.dev/blog/releases/2026-11-14-qwen4-max-token-harbor.md): Qwen4 Max now has a Token Harbor route. Add your Token Harbor key and call qwen/qwen4-max with no markup. - [SubQ Snap 1.2 on AnyRouter credits](https://anyrouter.dev/blog/releases/2026-11-14-subq-snap-1-2-credits.md): SubQ Snap 1.2 no longer needs your own SubQ key. Call it with your AnyRouter key at $0.04 / 1M input, output not billed. - [SubQ Snap 1.2](https://anyrouter.dev/blog/releases/2026-11-12-subq-snap-1-2.md): Subquadratic's long-context decision model joins the catalog: 384K context, $0.04 / 1M input, and a tie for first on the Artificial Analysis Decision Index. - [ERNIE 5.5 Flash Preview](https://anyrouter.dev/blog/releases/2026-11-11.md): Baidu's ERNIE 5.5 Flash Preview joins the catalog through your own OpenRouter key. - [Gemini Decision 1](https://anyrouter.dev/blog/releases/2026-11-11-gemini-decision-1.md): Google's first decision model joins the catalog through your own OpenRouter or Vercel key. - [Nex-N2.6](https://anyrouter.dev/blog/releases/2026-11-11-nex-n2-6.md): Nex-AGI's open-weight multimodal agentic model joins the catalog through your own OpenRouter key. - [Gemini 4 Carbon, Muse Ember, Claude Fable 5.2 and Drex Max](https://anyrouter.dev/blog/releases/2026-11-10.md): Google's Gemini 4 Carbon is generally available at $2 / $10 per 1M tokens, Meta's smallest Muse model joins the catalog (and is what stealth/crouton-alpha turned out to be), Anthropic's Claude Fable 5.2 lands at $8 / $40 per 1M tokens, and Nace AI's Drex Max v1.1 and Drex Max Finance cover multimodal decisions. - [Ollama models over Relay](https://anyrouter.dev/blog/releases/2026-11-09.md): Qwen 2.5 Coder 0.5B and Mistral 7B Instruct v0.3 join the catalog as on-device listings served by your own Ollama over AnyRouter Relay at $0 — and the existing Qwen 2.5 Coder 32B gains the same Ollama hop. - [BGE-Large, EmbeddingGemma 2, Gemini 4 Hydrogen and 9 more added](https://anyrouter.dev/blog/releases/2026-11-09-catalog.md): 12 models from 10 providers joined the catalog the week of 2026-11-09. - [Ampersand v0.1](https://anyrouter.dev/blog/releases/2026-11-08.md): humans&'s collaborator model joins the catalog — trained from GLM 5.3 to track what each person wants, flag conflicts, and share context in group chats, with a 1M-token context — BYOK through Vercel AI Gateway. - [Inkling 2 Small](https://anyrouter.dev/blog/releases/2026-11-07-inkling-2-small.md): Thinking Machines' second-generation open-weights model joins the catalog — 594B MoE, 17B active, vision input, up to 1M context — BYOK through Tinker's OpenAI-compatible API. - [Fastino GLiDE 27B](https://anyrouter.dev/blog/releases/2026-11-05-fastino-glide-27b.md): Fastino's largest GLiDE decision model joins the Decisions family, BYOK through Fastino's own API. - [Granite 4.2 30B](https://anyrouter.dev/blog/releases/2026-11-03-granite-4-2-30b.md): Granite 4.2 30B, the flagship dense reasoning model in IBM's open-weight Granite 4.2 family, joins the catalog on one BYOK route. - [Llamport: four OpenAI GPT models at 10% of the OpenAI price](https://anyrouter.dev/blog/releases/2026-11-03-llamport.md): Llamport is a new upstream on AnyRouter. It serves four OpenAI GPT models at 10% of the OpenAI API list price, on the AnyRouter platform key or with your own Llamport key. - [Aion 3.0 Mini](https://anyrouter.dev/blog/releases/2026-11-02-aion-3-0-mini.md): Aion 3.0 Mini, Aion Labs' compact multi-model reasoning model built on the DeepSeek family, joins the catalog on five BYOK routes with a 131K-token context. - [Aion 3.5](https://anyrouter.dev/blog/releases/2026-11-02-aion-3-5.md): Aion 3.5, Aion Labs' multi-model reasoning model for fiction writing, joins the catalog on five BYOK routes with a 262K-token context. - [Aion-2.0, Aion-3.0, Aion-RP 1.0 (8B) and 53 more added](https://anyrouter.dev/blog/releases/2026-11-02-catalog.md): 56 models from 18 providers joined the catalog the week of 2026-11-02. - [Hy-MT2 1.8B](https://anyrouter.dev/blog/releases/2026-11-02-hy-mt2-1-8b.md): Hy-MT2 1.8B, the smallest model in Tencent's open-weight Hy-MT2 translation family, joins the catalog on two BYOK routes. - [LongCat-2.5](https://anyrouter.dev/blog/releases/2026-11-02-longcat-2-5.md): Meituan's LongCat-2.5, a natively multimodal agentic MoE with 1.6T total and about 48B active parameters and a 1M-token context, replaces the preview in the catalog. Free for a limited time, or BYOK. - [Mistral Large 3](https://anyrouter.dev/blog/releases/2026-10-31-mistral-large-3.md): Mistral Large 3, Mistral's open-weight 675B mixture-of-experts model with image input and a 256K-token context, joins the catalog on four BYOK routes. - [Atria Dawn Preview](https://anyrouter.dev/blog/releases/2026-10-30-atria-dawn-preview.md): Atria Dawn Preview, the preview of Shanghai AI Laboratory's open-weight agentic model, joins the catalog through a free Infron BYOK route with a 256K-token context. - [Moondream 3 Preview](https://anyrouter.dev/blog/releases/2026-10-30-moondream3-preview.md): Moondream 3 Preview joins the catalog through BYOK: a 9B mixture-of-experts vision-language model with 2B active parameters and a 32K-token context window. - [Ultramarine 1 Flash](https://anyrouter.dev/blog/releases/2026-10-30-ultramarine-1-flash.md): Ultramarine 1 Flash joins the catalog through BYOK: Paper Instruments' multimodal model for finance, law and consulting work, with a 1M-token context window. - [GPT-5.6 Terra Pro](https://anyrouter.dev/blog/releases/2026-10-29-gpt-5-6-terra-pro.md): GPT-5.6 Terra Pro joins the catalog through BYOK: GPT-5.6 Terra with reasoning mode set to pro for harder problems, 1.05M-token context, at $2 / $12 per million input / output tokens. - [Particle-1](https://anyrouter.dev/blog/releases/2026-10-29-particle-1.md): Particle-1 joins the catalog through BYOK: Particle AI's token-efficient agentic coding model, post-trained on DeepSeek V4.1 Flash, with a 1M-token context window. - [BeatAPI, Token Harbor and River keys](https://anyrouter.dev/blog/releases/2026-10-28-beatapi-token-harbor-river-byok.md): Three new BYOK providers: BeatAPI, Token Harbor and River. Each adds routes to models already in the catalog, including DeepSeek V4.1 Flash. - [Liquid d1 Ultra](https://anyrouter.dev/blog/releases/2026-10-28-liquid-d1-ultra.md): Liquid AI's most capable hosted decision model joins the Decisions family, BYOK through Liquid's own API. - [Ornith 1.5 122B](https://anyrouter.dev/blog/releases/2026-10-28-ornith-1-5-122b.md): Ornith's open-weight Ornith 1.5 122B joins the catalog: a 122B mixture-of-experts model for coding and agents with a 262K-token context, free through the shared free tier. - [Ternary Bonsai 2 9B](https://anyrouter.dev/blog/releases/2026-10-28-ternary-bonsai-2-9b.md): PrismML's Ternary Bonsai 2 9B joins the catalog through BYOK: a compact vision-language model with ternary weights and a 262K-token context, at $0.08 / $0.13 per million input / output tokens (list). - [Decision 3.0](https://anyrouter.dev/blog/releases/2026-10-28-vllm-sr-decision-3.md): vLLM Semantic Router's Decision 3.0 joins the Decisions family: six open-weight multimodal decision models from 0.6B to 27B, free on AnyRouter. - [DeepSeek V3.2 Exp](https://anyrouter.dev/blog/releases/2026-10-27-deepseek-v3-2-exp.md): DeepSeek's V3.2 Exp joins the catalog through BYOK: an experimental open-weight model that adds DeepSeek Sparse Attention for long-context efficiency. - [GPT-6.1 Terra](https://anyrouter.dev/blog/releases/2026-10-27-gpt-6-1-terra.md): OpenAI's GPT-6.1 Terra joins the catalog through BYOK: a fast model for visual reasoning and computer use with a 1.05M-token context, at $1 / $5 per million input / output tokens. - [GPT-6.1 Terra Pro](https://anyrouter.dev/blog/releases/2026-10-27-gpt-6-1-terra-pro.md): GPT-6.1 Terra Pro joins the catalog through BYOK: GPT-6.1 Terra with reasoning mode set to pro for harder problems, 1.05M-token context, at $1 / $5 per million input / output tokens. - [LingDT-3.0-flash](https://anyrouter.dev/blog/releases/2026-10-27-lingdt-3-0-flash.md): Ant Digital Technologies' LingDT-3.0-flash joins the catalog through BYOK: a 124B-parameter MoE model with about 5.1B activated per token and a 256K-token context. - [Qwen Flash](https://anyrouter.dev/blog/releases/2026-10-27-qwen-flash.md): Alibaba's Qwen Flash joins the catalog through BYOK, served with your own Computrix key. - [Qwen Plus](https://anyrouter.dev/blog/releases/2026-10-27-qwen-plus.md): Alibaba's Qwen Plus joins the catalog through BYOK, served with your own Computrix key. - [Qwen3.5 Flash](https://anyrouter.dev/blog/releases/2026-10-27-qwen3-5-flash.md): Alibaba's Qwen3.5 Flash joins the catalog through BYOK, served with your own Computrix key. - [Qwen3.6 Flash](https://anyrouter.dev/blog/releases/2026-10-27-qwen3-6-flash.md): Alibaba's Qwen3.6 Flash joins the catalog through BYOK, served with your own Computrix key. - [Qwen3 Coder 480B A35B](https://anyrouter.dev/blog/releases/2026-10-27-qwen3-coder-480b-a35b-instruct.md): Qwen's open-weight 480B coding model (35B active) joins the catalog through BYOK, with a 262K-token native context. - [Qwen3 Coder Flash](https://anyrouter.dev/blog/releases/2026-10-27-qwen3-coder-flash.md): Alibaba's Qwen3 Coder Flash joins the catalog through BYOK, served with your own Computrix key. - [Qwen3 VL Plus](https://anyrouter.dev/blog/releases/2026-10-27-qwen3-vl-plus.md): Alibaba's Qwen3 VL Plus joins the catalog through BYOK, served with your own Computrix key. - [Schematron V2 Small](https://anyrouter.dev/blog/releases/2026-10-27-schematron-v2-small.md): inference.net's Schematron V2 Small joins the catalog through BYOK: a 3B model that turns messy HTML into schema-conforming JSON, with a 128K-token context, at $0.05 / $0.23 per million input / output tokens. - [Schematron V2 Turbo](https://anyrouter.dev/blog/releases/2026-10-27-schematron-v2-turbo.md): inference.net's Schematron V2 Turbo joins the catalog through BYOK: a 3B model that turns messy HTML into schema-conforming JSON, with a 128K-token context, at $0.03 / $0.15 per million input / output tokens. - [GPT-6 Luna Decisions, Classify-1, Extract and 2 more added](https://anyrouter.dev/blog/releases/2026-10-26-catalog.md): 5 models from 3 providers joined the catalog the week of 2026-10-26. - [Three more free models](https://anyrouter.dev/blog/releases/2026-10-26-three-more-free-models.md): Inkling, Inkling Small and Gemma 4 31B now answer on the free tier with no key and no credit. - [Atria Dawn](https://anyrouter.dev/blog/releases/2026-10-24-atria-dawn.md): Shanghai AI Laboratory's Atria Dawn joins the catalog: an open-weight agentic model on a 744B GLM-5.2 base with a 512K-token context, through BYOK. - [Kimi K3.1 Pro](https://anyrouter.dev/blog/releases/2026-10-24-kimi-k3-1-pro.md): Moonshot AI's Kimi K3.1 Pro joins the catalog: a 2.8T-parameter open-weight model with a 1M-token context and native vision, through BYOK. - [Kimi K3.1 Pro Highspeed](https://anyrouter.dev/blog/releases/2026-10-24-kimi-k3-1-pro-highspeed.md): The high-speed variant of Kimi K3.1 Pro: the same model at about 2-3x the output speed, through BYOK. - [Nemotron 3.5 Bolt E4B](https://anyrouter.dev/blog/releases/2026-10-24-nemotron-3-5-bolt-e4b.md): NVIDIA's Nemotron 3.5 Bolt E4B joins the catalog: a small, fast model post-trained from Gemma 4 E4B for tool use and voice assistants. - [Recursive Flint](https://anyrouter.dev/blog/releases/2026-10-22-flint.md): Recursive's open-weight coding-agent MoE joins the catalog, free to call. - [Elorian Glimpse](https://anyrouter.dev/blog/releases/2026-10-22-glimpse.md): Elorian's image and video reasoning model joins the catalog, BYOK through OpenRouter and Vercel. - [Inception Mercury 3](https://anyrouter.dev/blog/releases/2026-10-22-mercury-3.md): Inception's diffusion language model with a 1M context joins the catalog, BYOK through OpenRouter, Vercel and Venice. - [Nemotron 3.5 Embed 1B and 8B](https://anyrouter.dev/blog/releases/2026-10-22-nemotron-embed.md): NVIDIA's multimodal multilingual retrieval embedders join the catalog, free on the NIM developer tier. - [PPLX Decider Flash v1.2, pplx-embed v1 4B added](https://anyrouter.dev/blog/releases/2026-10-19-catalog.md): 2 models from 1 provider joined the catalog the week of 2026-10-19. - [MiniMax M3.1 Flash](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash.md): MiniMax's multimodal agent and coding model joins the catalog, free on NVIDIA's developer tier. - [LFM 2.5 24B A2B](https://anyrouter.dev/blog/releases/2026-10-17-lfm-2-5-24b.md): Liquid AI's open-weight reasoning MoE joins the catalog, BYOK through OpenRouter and Vercel. - [Xing4.0 29B A4B](https://anyrouter.dev/blog/releases/2026-10-17-xing4-0.md): China Telecom TeleAI's open-weight reasoning MoE joins the catalog, free to call. - [Amos 1](https://anyrouter.dev/blog/releases/2026-10-13-amos-1.md): Scira's Amos 1 joins the Decisions family: four open-weight decision models, from a 0.5B CPU encoder to a 27B decoder, free on AnyRouter. - [Drex v2.0](https://anyrouter.dev/blog/releases/2026-10-13-drex-v2.md): Nace AI's 35B mixture-of-experts decision model joins the catalog, with a platform route and BYOK. - [Trinity Large Thinking, BGE Base EN v1.5, DeepSeek V4.1 Flash 1017 and 21 more added](https://anyrouter.dev/blog/releases/2026-10-12-catalog.md): 24 models from 17 providers joined the catalog the week of 2026-10-12. - [Mistral Large 4, Ember-1, Granite 4.2 8B and Bonsai 2 27B](https://anyrouter.dev/blog/releases/2026-10-11.md): Four new chat models: Mistral's new frontier model, Fireworks' short-trace reasoning model on Kimi K3, IBM's mid-size Granite 4.2 reasoner, and PrismML's ternary 27B. All BYOK. - [THX-01](https://anyrouter.dev/blog/releases/2026-10-11-thx-01.md): HAL-X's THX-01 joins the Decisions family: a 322M multilingual decision model with calibrated probabilities, free on AnyRouter. - [Five new Decisions models](https://anyrouter.dev/blog/releases/2026-10-10-decisions.md): Microsoft-Decision-1, Solar Decide Flash, PPLX Decider v1.1, Drex v1.5 and SubQ Snap Preview join the Decisions family: send state and typed questions, get probabilities back, not chat text. - [SubQ Preview](https://anyrouter.dev/blog/releases/2026-10-10-subq-preview.md): Subquadratic's long-context chat model, built on its sparse attention architecture for very large inputs. Early access, BYOK via SubQ. - [Claude Haiku 5.5 completes the Claude 5.5 family](https://anyrouter.dev/blog/releases/2026-10-09-claude-haiku-5-5.md): Anthropic's fastest, cheapest Claude 5.x model: 1M context, vision, tools, adaptive thinking always on. $0.10 / $0.50 per 1M list. BYOK. - [Glyph Cluster (stealth)](https://anyrouter.dev/blog/releases/2026-10-08-glyph-cluster.md): A stealth reasoning model for coding and long-context work, 256k context, via Vercel AI Gateway BYOK. - [Aion 3.5 Mini, Vietnamese Embedding, Quyet 1.0 Large and 7 more added](https://anyrouter.dev/blog/releases/2026-10-05-catalog.md): 10 models from 7 providers joined the catalog the week of 2026-10-05. - [Mistral Small 4](https://anyrouter.dev/blog/releases/2026-10-04.md): Mistral's Apache 2.0 hybrid model, which folds its instruct, reasoning and coding lines into one. 256k context, image input, $0.15 / $0.60 per 1M. BYOK. - [Gemma 3n E2B, on your own phone](https://anyrouter.dev/blog/releases/2026-10-04-gemma-3n-e2b.md): Google's Gemma 3n E2B, run on a phone you pair yourself and relayed to AnyRouter. $0 in and out — your hardware does the work. - [Ling 3.1 Flash](https://anyrouter.dev/blog/releases/2026-10-03.md): inclusionAI's Ling 3.1 Flash joins the catalog: a hybrid reasoning mixture-of-experts model with 25B active of 560B total parameters, a 262,144-token context window, and tool calling, available through BYOK. - [Apodex 1.1 Mini and Laya](https://anyrouter.dev/blog/releases/2026-10-03-apodex-laya.md): Apodex 1.1 Mini, a free reasoning-first model for research and forecasting, and Laya, a free System One evaluation model from Convai Innovations. - [Gemma 3 4B IT](https://anyrouter.dev/blog/releases/2026-10-03-gemma.md): Google's Gemma 3 4B IT joins the catalog: a 4B open-weight instruct model with text and image input, a 131,072-token context window, and multilingual coverage across 140+ languages, available through BYOK. - [Faster anyrouter/free](https://anyrouter.dev/blog/releases/2026-10-03-parallel-upstreams.md): Gateway time on anyrouter/free dropped at the slow end, from about 5 seconds to 1.6 seconds. If the first upstream stays silent, anyrouter/free and anyrouter/auto start a second one and keep whichever sends a token first. - [Pareto 26.10](https://anyrouter.dev/blog/releases/2026-10-02.md): Unbiased's newer composite model joins the catalog: 1,048,576-token context, text and image input, tool calling, and a 131,072-token maximum output at $0.80 / $3.20 per million input / output tokens. BYOK-only via OpenRouter. - [Fledge Alpha](https://anyrouter.dev/blog/releases/2026-10-02-fledge-alpha.md): Fledge Alpha joins the catalog as a free stealth preview: a 1,048,576-token context window, text and image input, tool calling, and reasoning effort on low / high / max — $0 / $0 through OpenCode Zen. - [PPLX Decider v1 (27B)](https://anyrouter.dev/blog/releases/2026-10-02-pplx-decider.md): Perplexity's multimodal decision model joins the Decisions family: send state — text or images — and typed questions, get back a probability distribution over a fixed set of answers, not generated chat text. - [Strands Decider 2B](https://anyrouter.dev/blog/releases/2026-10-02-strands-decider.md): Strands Labs' open-weight decision model joins the Decisions family: run `strands-decider serve` or Ollama (`strands-decider:2b`) on your own hardware and route POST /api/v1/decisions to it through AnyRouter. - [Mercury Decide](https://anyrouter.dev/blog/releases/2026-10-01-mercury-decide.md): Inception's decision model joins the Decisions family: send state and typed questions, get back a choice, a score or a yes/no answer with a calibrated probability — no generated tokens, no per-token price. - [GPT-6.1 Sol](https://anyrouter.dev/blog/releases/2026-09-30.md): OpenAI's GPT-6.1 Sol joins the catalog BYOK-only through OpenAI — 1.05M-token context, 128K max output, image input, and adjustable reasoning at $2 / $10 per million input / output tokens. - [Latest aliases: name a model family, always get a live model](https://anyrouter.dev/blog/releases/2026-09-30-latest-aliases.md): Send google/gemini-flash-latest, anthropic/claude-sonnet-latest and 17 other -latest ids. AnyRouter calls the newest model in that family that is available right now, skips retired ones, and bills the model that answered. - [Liquid d1](https://anyrouter.dev/blog/releases/2026-09-30-liquid-d1.md): Liquid AI's first decision model joins the Decisions family: send state and typed questions, get calibrated probabilities back with zero generated tokens. Free on Liquid's API with your own Liquid key. - [Xiaomi MiMo V2 and V2.6](https://anyrouter.dev/blog/releases/2026-09-30-mimo.md): Four Xiaomi MiMo models: V2.6 Pro and V2.6 Flash (1M context, full-modality reasoning) plus V2 Pro and V2 Flash. BYOK via AIHubMix. - [Solar Decide](https://anyrouter.dev/blog/releases/2026-09-30-solar-decide.md): Upstage's Solar Decide joins the Decisions family: send state and typed questions, get structured answers instead of chat text, with a 524,288-token context window at $0.05 per million input tokens. - [Claude Sonnet 5.5](https://anyrouter.dev/blog/releases/2026-09-29.md): Anthropic's Claude Sonnet 5.5 joins the catalog — the direct upgrade to Claude Sonnet 5, at the same $2 / $10 per million input / output tokens, with adaptive thinking on by default, 1M-token context, 128K max output, and vision input. - [DeepInfra route for DeepSeek V4.1 Flash; Novita's V4 Flash route sunsets Oct 9](https://anyrouter.dev/blog/releases/2026-09-29-deepseek.md): deepseek/deepseek-v4.1-flash gains a DeepInfra BYOK route at $0.20 / $0.60 per million input / output tokens. Novita retires deepseek/deepseek-v4-flash at 16:00 UTC on Oct 9, 2026 — both Novita hops now carry the date and point at V4.1 Flash. - [Step 5 Preview](https://anyrouter.dev/blog/releases/2026-09-29-step-5.md): StepFun's next-generation flagship base model joins the catalog BYOK-only on AIHubMix — 1M-token context, 64K max output, text/image/video input, and adjustable reasoning at $1.08 / $3.0888 per million input / output tokens. - [Fugu Max, Solar Mini 4, Hy-MT2, Span-01 Lite and two embedding models](https://anyrouter.dev/blog/releases/2026-09-28.md): Six new BYOK listings: Sakana Fugu Max, Upstage Solar Mini 4, Tencent's Hy-MT2 translation model, Respan's Span-01 Lite classifier, Gemini Embedding 2 and Qwen3 Embedding 4B. - [Clef, Gemini 4 Argon added](https://anyrouter.dev/blog/releases/2026-09-28-catalog.md): 2 models from 2 providers joined the catalog the week of 2026-09-28. - [GLM-5.3 Prime and GLM-5.3-FlashX](https://anyrouter.dev/blog/releases/2026-09-28-glm-5-3.md): Two more GLM 5.3 tiers from Z.ai: Prime, the top reasoning tier ($2.80 / $8.80 list), and FlashX, the high-speed cut ($0.37 / $1.25 list). Both 1M context, BYOK. - [BGE-M3, BGE Multilingual Gemma 2, Mistral Small 3.2 — now on OVHcloud AI Endpoints](https://anyrouter.dev/blog/releases/2026-09-27.md): Two BAAI multilingual embedding models and Mistral's current 24B instruction model join the catalog, both on a new BYOK provider: OVHcloud AI Endpoints. - [Kev 4B](https://anyrouter.dev/blog/releases/2026-09-26.md): Kev 4B is a small open-weight decision model — a LoRA adapter and pointer head on Qwen3.5-4B-Base. It answers typed questions about a state with calibrated probabilities instead of generated text, on the same native `/v1/decisions` contract as the rest of the family. - [Decisions family + anyr decision](https://anyrouter.dev/blog/releases/2026-09-25.md): Fastino GLiNER2.5-Decide joins TypeSafe Jev and the anyrouter/decision preset, while the new `anyr decision` command gives the whole Decisions family a native terminal client instead of a chat-agent launcher. - [LongCat-2.5-Preview](https://anyrouter.dev/blog/releases/2026-09-25-longcat-2-5-preview.md): Meituan's LongCat-2.5-Preview — a ~1.6T-parameter MoE with ~48B active, 1M-token context, image understanding, and a thinking toggle — joins the catalog over the official LongCat API, BYOK. - [Space Bunny Alpha](https://anyrouter.dev/blog/releases/2026-09-24.md): Space Bunny Alpha — an anonymous frontier-class stealth preview with blazing-fast inference, strong coding performance, and native multimodal input — joins the catalog as a free model. It always reasons with adjustable effort over a 1M-token context window, served $0 via OpenRouter, Nous, and OpenCode Zen platform hops. - [Verified AIHubMix BYOK models](https://anyrouter.dev/blog/releases/2026-09-24-aihubmix.md): Five verified text-output models join the catalog through AIHubMix and other BYOK routes: Qwen3 235B A22B Instruct 2507, Mercury 2.5, L3.1 Euryale 70B, GPT-6 Sol, and GPT-6 Luna. Published provider prices and context windows are recorded per upstream; AnyRouter does not add platform markup to BYOK traffic. - [Claude Opus 5.5](https://anyrouter.dev/blog/releases/2026-09-22.md): Anthropic's Claude Opus 5.5 — the successor to Claude Opus 5 for long-running agentic coding and knowledge work — joins the catalog. It delivers Fable 5.1-level performance at 40% lower cost ($4 / $20 per million input / output tokens), with adaptive thinking always on, 1M-token context, vision input, and tool use. - [Doubao Seed 2.1 Pro](https://anyrouter.dev/blog/releases/2026-09-22-doubao.md): ByteDance Seed's reasoning model for coding, math and multilingual work, 262k context. BYOK via AIHubMix. - [Grok 4.7](https://anyrouter.dev/blog/releases/2026-09-21.md): xAI's Grok 4.7 joins the catalog — 500K context, adjustable reasoning, vision in, and six BYOK upstream routes. - [Agents A1, Intern S2 and Qwen3.8 Omni Flash](https://anyrouter.dev/blog/releases/2026-09-20.md): Two free 35B research and agent models from InternScience and InternLM, plus Qwen3.8 Omni Flash with text, image, audio and video input at 1M context. BYOK via AIHubMix. - [Union Alpha now on AnyRouter](https://anyrouter.dev/blog/releases/2026-09-16-union-alpha.md): Stealth preview Union Alpha joins the catalog free — multimodal research, coding, and agentic workflows at $0. - [Agnes 3.0 Flash and Nemotron Parse 2.0](https://anyrouter.dev/blog/releases/2026-09-15.md): Agnes AI's Agnes 3.0 Flash (512K, vision in, text out) and NVIDIA Nemotron Parse 2.0 (document images in, structured markdown out) join the catalog. - [AIHubMix BYOK hops on DeepSeek V4.1 Flash, Solar Pro 4, and GPT-6 Astra](https://anyrouter.dev/blog/releases/2026-09-15-aihubmix-byok.md): Existing listings pick up an aihubmix-byok hop. Same catalog ids — not new SKUs. Platform aihubmix stays off (#3031). - [Context-window floors on anyrouter/auto, free, byok, and the other virtual ids](https://anyrouter.dev/blog/releases/2026-09-15-virtual-context.md): Append [1m] or [500k] to any first-party virtual id to keep only members with at least that context window. Not a new listing — the same preset, with a token floor. - [Ling-3.0-flash-VL, Sante, Fin, and OpenRouter :free hops](https://anyrouter.dev/blog/releases/2026-09-13.md): inclusionAI Ling-3.0-flash-VL, Sante, and Fin join the catalog, plus Nex-N2.5 Mini/Pro. OpenRouter :free is the wire and an alias — Nemotron 3 Ultra and Inkling Small pick up hue hops so we can burn remaining free quota. - [DeepSeek V4.1 Flash](https://anyrouter.dev/blog/releases/2026-09-10.md): DeepSeek V4.1 Flash joins the catalog as deepseek/deepseek-v4.1-flash, with official DeepSeek API and OpenRouter BYOK hops. Peak list $0.30 / $1.20 per 1M tokens. - [Claude Fable 5.1 and GPT-6 Astra on Experiential](https://anyrouter.dev/blog/releases/2026-09-05.md): Experiential Cloud promotional hops for Claude Fable 5.1 and a new GPT-6 Astra listing (BYOK live; hosted platform hop pending #2842 recert). - [Muse Spark 1.3](https://anyrouter.dev/blog/releases/2026-09-04.md): Meta's Muse Spark 1.3 joins the catalog over AIHubMix BYOK — a multimodal reasoning model for agentic tasks with a 1M-token context window. - [Gemini 3.8 Flash and Mercury 2.5 Preview](https://anyrouter.dev/blog/releases/2026-09-03.md): Google Gemini 3.8 Flash and Inception Labs Mercury 2.5 Preview join the catalog. Claude Fable 5.1 and Qwen3.8 Max pick up AIHubMix hops on their existing ids. - [Claude Fable 5.1](https://anyrouter.dev/blog/releases/2026-09-02.md): Anthropic Claude Fable 5.1 joins the catalog as one listing, routed through Anthropic BYOK and Cloudflare Workers AI, with OpenRouter BYOK as a fallback. - [Hy4 Preview on AIHubMix BYOK](https://anyrouter.dev/blog/releases/2026-09-02-hy4-preview.md): Tencent Hunyuan Hy4 Preview joins the catalog as tencent/hy4-preview, routed through AIHubMix BYOK at the aggregator's published list rates. - [Qwen3.8 Flash on AnyRouter](https://anyrouter.dev/blog/releases/2026-09-02-qwen3-8-flash.md): Alibaba Qwen3.8 Flash via AIHubMix BYOK. List $0.1126 / $0.38 per 1M. - [Catalog sweep — GLM-5.3, vision, Agnes, Sol Disc](https://anyrouter.dev/blog/releases/2026-08-26-catalog-sweep.md): Eight models from the post-closeout sweep: Z.AI GLM-5.3 (coding preview), DeepSeek vision + 0731-fast, Microsoft MAI-Thinking-1, OpenAI GPT-5.6 Sol Disc, and Agnes 2.5 Flash/Pro/Alpha via AIHubMix. - [GLM-5.3-Flash — Ox Alpha, named](https://anyrouter.dev/blog/releases/2026-08-26-glm-5-3-flash.md): The Ox Alpha preview is GLM-5.3-Flash: native multimodal, 1M context, MIT-licensed 320B-A18B. Same AnyRouter routes, catalog id z-ai/glm-5.3-flash. - [Qwen3.8-Flash-Next from Empero](https://anyrouter.dev/blog/releases/2026-08-26-qwen3-8-flash-next-fp8.md): Free community endpoint for Qwen3.8-Flash-Next — open by default, from Empero research lab. Catalog id qwen/qwen3.8-flash-next. - [AIHubMix free tier — 15 more $0 routes](https://anyrouter.dev/blog/releases/2026-08-25-aihubmix-free.md): AIHubMix joins the platform free pool: MiniMax M2.7, Kimi K3, Gemini 3.x Flash, Nemotron 3, GPT-OSS 20B, and more, all routed at $0. - [Ox Alpha](https://anyrouter.dev/blog/releases/2026-08-21-ox-alpha.md): Ox Alpha joins the catalog free — a stealth reasoning model for coding, agentic work, and long-horizon engineering. - [Qwen 27B dense SKUs and Llama 3.3 70B Instruct](https://anyrouter.dev/blog/releases/2026-08-20.md): Qwen3.6-27B, Qwen3.8-27B, Gemma 3 27B IT, and Meta Llama 3.3 70B Instruct join the catalog as paid chat models. - [Qwen3.8-27B and DeepSeek V4 Flash, 50% off](https://anyrouter.dev/blog/releases/2026-08-20-qwen3-8-27b-sale.md): Half off through 1 Sep. Same ids, same API — just a friendlier bill. - [DeepSeek V4 Pro](https://anyrouter.dev/blog/releases/2026-08-17.md): DeepSeek V4 Pro (0813) joins the catalog, hosted on Cloudflare Workers AI with a 1M-token context window. - [Gemini 3.7 Flash and latest frontier chat SKUs](https://anyrouter.dev/blog/releases/2026-08-14.md): Google Gemini 3.7 Flash joins the catalog, plus Qwen3.8 2.4T A95B, Muse Spark 1.2, Inkling Small, Solar Pro 4, Seed 2.1 Turbo, Seed 2.0 Code, Claude Opus 5 Fast, and Dots3-Note Preview. - [Nemotron Lightning, Muse Glimmer, Seedance 2.5, DeepSeek NIM Flash](https://anyrouter.dev/blog/releases/2026-08-12.md): NVIDIA NIM additions (Nemotron 3.5 Lightning 30B, Meta Muse Glimmer 30B, DeepSeek-V4-Flash 0731), ByteDance Seedance 2.5 on Workers AI, and free Requesty route for Ling-3.0-tiny. - [Free-route expansion + Liquid LFM 2.5](https://anyrouter.dev/blog/releases/2026-08-12-free.md): Expanded free platform routes across NVIDIA Nemotron free models, GPT-OSS-20B free, Ling-3.0-tiny on Novita, and new Liquid LFM 2.5 2.6B free. CommandCode free/promo routes for Laguna S 2.1 and MiMo V2.5 Pro. - [Grok 4.6](https://anyrouter.dev/blog/releases/2026-08-12-grok-46.md): xAI Grok 4.6 joins the catalog via xAI BYOK and OpenRouter BYOK. 500K context, $2/$6 list on xAI. - [EmbeddingGemma 300M and Ling-3.0-tiny](https://anyrouter.dev/blog/releases/2026-08-07.md): Google's EmbeddingGemma 300M open embedding model and inclusionAI's Ling-3.0-tiny free MoE chat model join the catalog. - [Sakana Namazu](https://anyrouter.dev/blog/releases/2026-08-03.md): Sakana AI's Japanese-specialized LLM (built on Kimi K2.6) joins the catalog via BYOK. - [Qwen3.8 Max added](https://anyrouter.dev/blog/releases/2026-08-03-catalog.md): 1 model from 1 provider joined the catalog the week of 2026-08-03. - [Nemotron 3.5 Nano](https://anyrouter.dev/blog/releases/2026-08-01.md): NVIDIA's Nemotron 3.5 Nano joins the catalog via Blackbox AI BYOK. - [Nemotron Nano, GLM-4.5/4.6, MiniMax M2, Qwen3.5-9B/27B](https://anyrouter.dev/blog/releases/2026-07-31.md): Eight new models discovered from upstream providers and added to the catalog — NVIDIA's free Nemotron Nano 12B V2 VL and 9B V2 via OpenRouter, Z-AI's GLM-4.5 and GLM-4.6 (with vision variant), MiniMax M2, and Alibaba's Qwen3.5-9B and Qwen3.5-27B. - [Qwen3.7 Flash](https://anyrouter.dev/blog/releases/2026-07-29.md): Alibaba's Qwen3.7 Flash — a vision-language reasoning model for multimodal agents, visual coding, search, and computer interaction — joins the catalog via OpenRouter BYOK. - [Claude Opus 5](https://anyrouter.dev/blog/releases/2026-07-25.md): Anthropic's Claude Opus 5 — the flagship model for demanding reasoning, coding, and long-horizon agentic work — joins the catalog, BYOK-only like its Claude siblings. - [Ling-3.0-flash](https://anyrouter.dev/blog/releases/2026-07-24.md): inclusionAI's Ling-3.0-flash — a 124B-parameter Mixture-of-Experts model (~5.1B active) tuned for token-efficient, production-scale agentic inference — joins the catalog, served free with a user-owned API key (BYOK). - [Gemini 3.6 Flash & Gemini 3.5 Flash Lite](https://anyrouter.dev/blog/releases/2026-07-22.md): Google's Gemini 3.6 Flash and Gemini 3.5 Flash Lite join the catalog as partner-hosted SKUs on Cloudflare Workers AI, with OpenRouter BYOK fallback. - [Laguna S 2.1](https://anyrouter.dev/blog/releases/2026-07-21.md): Poolside's latest coding agent model Laguna S 2.1 (118B total, 8B active parameters, 1M context, 70.2% Terminal-Bench 2.1, 40.4% DeepSWE) joins the catalog — open-weight under OpenMDW-1.1. - [Riva Translate 4B Instruct v2 added](https://anyrouter.dev/blog/releases/2026-07-20-catalog.md): 1 model from 1 provider joined the catalog the week of 2026-07-20. - [Inkling + Nemotron 3 Embed 1B](https://anyrouter.dev/blog/releases/2026-07-17.md): Thinking Machines Lab's first open-weights foundation model Inkling (975B MoE, 41B active, 1M context, multimodal input with switchable reasoning) and NVIDIA's Nemotron-3-Embed-1B multilingual embedding model (2048 dims, 34 languages) join the catalog via NVIDIA NIM. - [Kimi K3](https://anyrouter.dev/blog/releases/2026-07-16.md): Moonshot AI's Kimi K3 is now available on AnyRouter — an open-source model with a 1M-token context window and native visual understanding (text, image, and video). Built for long-horizon software engineering and deep reasoning where code meets visual and spatial thinking, with thinking mode always on. - [Moondream 3.1 9B A2B, Nemotron-3 Nano Omni 30B-A3B (Reasoning), GPT-5.6 Terra added](https://anyrouter.dev/blog/releases/2026-07-13-catalog.md): 3 models from 3 providers joined the catalog the week of 2026-07-13. - [Grok 4.5 and Laguna XS 2.1](https://anyrouter.dev/blog/releases/2026-07-09.md): Two frontier additions: xAI's Grok 4.5 joins the catalog and Poolside ships a refreshed Laguna XS 2.1 coding model. - [Free-tier open models via SiliconFlow](https://anyrouter.dev/blog/releases/2026-07-08.md): A batch of open-weight models now has a free-tier upstream — Qwen3 across sizes, Gemma 4 27B, and Tencent Hy3. - [Apple Foundation Model, DeepSeek-R1, DeepSeek-V3 and 6 more added](https://anyrouter.dev/blog/releases/2026-07-06-catalog.md): 9 models from 6 providers joined the catalog the week of 2026-07-06. - [Claude Sonnet 5](https://anyrouter.dev/blog/releases/2026-07-02.md): Anthropic's Claude Sonnet 5 is available through BYOK — bring your Anthropic key and route it behind the gateway. - [Codex-class OpenAI models and GLM-5](https://anyrouter.dev/blog/releases/2026-07-01.md): The OpenAI Codex family lands — GPT-5.3 / 5.2 Codex and 5.1 Codex Max — alongside Z.ai's GLM-5 and Qwen3.7 Max. - [LongCat-2.0](https://anyrouter.dev/blog/releases/2026-06-30.md): The LongCat provider joins the catalog with LongCat-2.0, available via BYOK. - [LongCat-2.0, GPT-5.3 Codex Spark, Qwen3.5 Plus and 1 more added](https://anyrouter.dev/blog/releases/2026-06-29-catalog.md): 4 models from 3 providers joined the catalog the week of 2026-06-29. - [Cerebras, Venice, and Wafer providers](https://anyrouter.dev/blog/releases/2026-06-24.md): Three new upstreams broaden coverage — Cerebras GPT-OSS, Venice's MiniMax M2.7, and Wafer's aggregated MiniMax M3 and GLM-5.2. - [Fugu, Fugu Ultra, Google Gemma 4 26B A4B Instruct and 5 more added](https://anyrouter.dev/blog/releases/2026-06-22-catalog.md): 8 models from 3 providers joined the catalog the week of 2026-06-22. - [Command A, Command A+, DeepSeek V3.1 added](https://anyrouter.dev/blog/releases/2026-06-15-catalog.md): 3 models from 2 providers joined the catalog the week of 2026-06-15. - [Claude Fable 5, Claude Opus 4, Claude Opus 4.1 and 11 more added](https://anyrouter.dev/blog/releases/2026-06-08-catalog.md): 14 models from 8 providers joined the catalog the week of 2026-06-08. - [Claude Opus 4.8, MiniMax M3, Mistral Medium 3.5 128B and 6 more added](https://anyrouter.dev/blog/releases/2026-06-01-catalog.md): 9 models from 8 providers joined the catalog the week of 2026-06-01. - [Gemini 2.5 Flash-Lite, Gemini 2.5 Pro, Grok 4.1 Fast Reasoning and 3 more added](https://anyrouter.dev/blog/releases/2026-05-25-catalog.md): 6 models from 2 providers joined the catalog the week of 2026-05-25. - [Claude Opus 4.6, Claude Opus 4.7, Claude Sonnet 4 and 8 more added](https://anyrouter.dev/blog/releases/2026-05-18-catalog.md): 11 models from 6 providers joined the catalog the week of 2026-05-18. - [Gemini 3.1 Flash Lite, Gemini 3.1 Pro, Codex Mini (Latest) and 20 more added](https://anyrouter.dev/blog/releases/2026-05-11-catalog.md): 23 models from 3 providers joined the catalog the week of 2026-05-11. - [Gemma 4 26B A4B added](https://anyrouter.dev/blog/releases/2026-03-30-catalog.md): 1 model from 1 provider joined the catalog the week of 2026-03-30. - [GPT-5.4 added](https://anyrouter.dev/blog/releases/2026-03-02-catalog.md): 1 model from 1 provider joined the catalog the week of 2026-03-02. - [GLM-4.7 Flash added](https://anyrouter.dev/blog/releases/2025-04-07-catalog.md): 1 model from 1 provider joined the catalog the week of 2025-04-07. - [Llama 4 Scout 17B 16E added](https://anyrouter.dev/blog/releases/2025-03-31-catalog.md): 1 model from 1 provider joined the catalog the week of 2025-03-31. - [Kimi K2.5 added](https://anyrouter.dev/blog/releases/2025-02-10-catalog.md): 1 model from 1 provider joined the catalog the week of 2025-02-10. - [Llama 3.1 70B Instruct, Llama 3.1 8B Instruct added](https://anyrouter.dev/blog/releases/2024-07-22-catalog.md): 2 models from 1 provider joined the catalog the week of 2024-07-22. --- # AnyRouter now supports Agent Auth > Personal agents can discover AnyRouter, sign in with their own identity and report feedback through Agent Auth, built on open OAuth standards and the Personal Agent Protocol. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/anyrouter-agent-auth ## What changed AnyRouter now supports Agent Auth. It is built on open OAuth standards and the Personal Agent Protocol, so a personal agent can discover the application, identify itself and get authenticated instead of borrowing a human's session. Agents that speak the protocol can discover AnyRouter and present their own identity. Clerk verifies that identity and authenticates the agent for us. When an agent hits a wall or cannot finish a task on the site, it can report that feedback directly, which gives us a concrete signal about where the product needs work. ## What the sign-in looks like ![AnyRouter Agent Auth sign-in screen showing an agent waiting to authorize an inbox; the token and command have been redacted](https://anyrouter.dev/screenshots/agent-auth-sign-in-2026-11.png) _An agent authorizing an inbox through Agent Auth. The token has been redacted for publication._ The screen shows what the agent receives: the agent's name and email, and the owner's name and email. Privacy policy and terms of service stay visible. The owner can still sign in as a human — the agent path does not replace the normal account flow. ## Why it matters Personal agents are becoming a normal way to use software. An agent that can authenticate as itself gets a verifiable identity instead of a shared credential, and the owner keeps a clear record of which agent did what. The feedback channel matters just as much. An agent that cannot complete a task can say so in a structured way, rather than silently failing or asking the human to try again. ## Getting started Sign in at [anyrouter.dev](https://anyrouter.dev) as usual and look for the agent authorization flow when your agent opens the app. Never paste an auth token into a public place, a repository or a screenshot — treat it like a password and rotate it if it leaks. Free-model access still follows the usual plan rules: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Agent Auth changes who is signing in, not what a plan can do. - [AnyRouter](https://anyrouter.dev) — sign in and manage your account. - [Documentation](https://anyrouter.dev/docs) — API and CLI guides. --- # AnyRouter hiện hỗ trợ Agent Auth > Agent cá nhân có thể khám phá AnyRouter, đăng nhập bằng danh tính của chính chúng và gửi phản hồi qua Agent Auth, được xây dựng trên OAuth mở và Giao thức Agent Cá nhân. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/anyrouter-agent-auth ## Điều gì đã thay đổi AnyRouter hiện hỗ trợ Agent Auth. Tính năng được xây dựng trên các chuẩn OAuth mở và Giao thức Agent Cá nhân, để một agent cá nhân có thể khám phá ứng dụng, xác định danh tính và được xác thực thay vì mượn phiên của một người. Agent nói giao thức này có thể khám phá AnyRouter và trình bày danh tính của chính chúng. Clerk xác minh danh tính đó và xác thực agent thay chúng. Khi agent gặp trở ngại hoặc không hoàn thành được nhiệm vụ trên trang, nó có thể gửi phản hồi trực tiếp, giúp chúng tôi biết cụ thể cần cải thiện chỗ nào. ## Màn hình đăng nhập ![Màn hình đăng nhập Agent Auth của AnyRouter cho thấy agent đang chờ ủy quyền một hộp thư; mã thông báo và lệnh đã được che lại](https://anyrouter.dev/screenshots/agent-auth-sign-in-2026-11.png) _Một agent ủy quyền hộp thư qua Agent Auth. Mã thông báo đã được che để công bố._ Màn hình cho thấy agent nhận được gì: tên và email của agent, cùng tên và email của chủ sở hữu. Chính sách quyền riêng tư và điều khoản dịch vụ vẫn hiển thị. Chủ sở hữu vẫn có thể đăng nhập bằng con người — luồng agent không thay thế luồng tài khoản thông thường. ## Vì sao điều này quan trọng Agent cá nhân đang trở thành cách phổ biến để dùng phần mềm. Agent có thể xác thực bằng danh tính của chính nó sẽ có danh tính có thể kiểm chứng thay vì dùng chung thông tin đăng nhập, và chủ sở hữu có hồ sơ rõ ràng về agent nào đã làm gì. Kênh phản hồi cũng quan trọng không kém. Agent không hoàn thành được nhiệm vụ có thể nói rõ theo cách có cấu trúc, thay vì im lặng thất bại hoặc bắt người dùng thử lại. ## Bắt đầu Đăng nhập tại [anyrouter.dev](https://anyrouter.dev) như bình thường và tìm luồng ủy quyền agent khi agent mở ứng dụng. Đừng bao giờ dán mã xác thực vào nơi công cộng, kho mã hoặc ảnh chụp màn hình — hãy coi đó là mật khẩu và thu hồi nếu lộ. Quyền truy cập model miễn phí vẫn theo quy tắc gói thông thường: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Agent Auth chỉ thay đổi người đăng nhập, không thay đổi những gì một gói được phép làm. - [AnyRouter](https://anyrouter.dev) — đăng nhập và quản lý tài khoản. - [Tài liệu](https://anyrouter.dev/docs) — hướng dẫn API và CLI. --- # AnyRouter 现已支持 Agent Auth > 个人代理可以通过基于开放 OAuth 标准和个人代理协议的 Agent Auth 发现 AnyRouter、以自身身份登录并直接反馈问题。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/anyrouter-agent-auth ## 有什么变化 AnyRouter 现已支持 Agent Auth。它建立在开放 OAuth 标准和个人代理协议之上,让个人代理能够发现应用、表明自身身份并完成认证,而不必借用某个人的会话。 支持该协议的代理可以发现 AnyRouter 并出示自己的身份。Clerk 验证该身份并替我们完成认证。当代理在网站上遇到障碍或无法完成任务时,它可以直接反馈,让我们清楚知道产品哪里需要改进。 ## 登录界面 ![AnyRouter 的 Agent Auth 登录界面,显示代理正在等待授权一个收件箱;令牌和命令已做遮盖](https://anyrouter.dev/screenshots/agent-auth-sign-in-2026-11.png) _代理通过 Agent Auth 授权收件箱。为公开发布已遮盖令牌。_ 界面显示代理会收到什么:代理的名称和邮箱,以及所有者的名称和邮箱。隐私政策和服务条款仍然可见。所有者依然可以像往常一样以人类身份登录——代理流程不会取代普通账户流程。 ## 为什么重要 个人代理正在成为使用软件的常见方式。能够以自身身份认证的代理拥有可验证的身份,而不是共用一份凭据;所有者也能清楚记录是哪个代理做了什么。 反馈通道同样重要。无法完成任务的代理可以用结构化方式说明原因,而不是静默失败或要求人类再试一次。 ## 开始使用 像往常一样在 [anyrouter.dev](https://anyrouter.dev) 登录,当你的代理打开应用时,寻找代理授权流程。切勿把身份验证令牌粘贴到公开场合、代码仓库或截图中——把它当作密码,一旦泄露就立即轮换。 免费模型的访问仍遵循常规套餐规则:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次。Agent Auth 改变的是谁在登录,而不是某个套餐能做什么。 - [AnyRouter](https://anyrouter.dev) — 登录并管理账户。 - [文档](https://anyrouter.dev/docs) — API 与 CLI 指南。 --- # Sage S2.1 Flash: scientific research on AnyRouter > Shanghai AI Laboratory's scientific multimodal model is on AnyRouter through your own Intern TokenPlan key: 512K context, text and image input. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/sage-s2-1-flash ## What it is [Sage S2.1 Flash](https://anyrouter.dev/model/intern/sage-s2.1-flash) is a scientific multimodal model from Shanghai Artificial Intelligence Laboratory, built for research that needs several rounds of analysis and verification. It combines scientific data understanding with information retrieval, programming and tool use. The hosted API takes text and images and has a 512K-token context window. The open-weight model also reads more than ten scientific input types through Sage SciPerception projectors, including molecular graphs, crystal structures and protein structures. Those scientific inputs need the open-weight projectors; they are not part of the hosted Chat Completions route. ## What the vendor reports According to the [model card](https://huggingface.co/internlm/Sage-S2.1-Flash), Sage S2.1 Flash placed first on MLE-bench Lite, OfficeQA Pro, Harvey LAB and SpreadsheetBench 2 among the six models compared. These are Shanghai AI Laboratory's published results, not independent AnyRouter measurements. The weights are released under the MIT License, and an FP8 variant is available on Hugging Face and ModelScope. ## Try it This is a BYOK route: add your Intern TokenPlan key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Your own Intern account is billed; AnyRouter adds no charge. Intern publishes rates in Ink Points with no published USD conversion, so no list price is shown. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "intern/sage-s2.1-flash", "messages": [{"role": "user", "content": "Summarize this paper and propose three follow-up experiments."}] }' ``` _curl._ - [Model page](https://anyrouter.dev/model/intern/sage-s2.1-flash) — live routes and access. - [Launch post](https://x.com/AtriaASI/status/2122319410623029578) — the vendor announcement. - [All models](https://anyrouter.dev/models) — browse the catalog. --- # Sage S2.1 Flash: nghiên cứu khoa học trên AnyRouter > Mô hình đa phương thức khoa học của Phòng Thí nghiệm Trí tuệ Nhân tạo Thượng Hải có mặt trên AnyRouter qua khóa Intern TokenPlan của bạn: ngữ cảnh 512K, đầu vào văn bản và hình ảnh. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/sage-s2-1-flash ## Sage S2.1 Flash là gì [Sage S2.1 Flash](https://anyrouter.dev/model/intern/sage-s2.1-flash) là mô hình đa phương thức khoa học của Phòng Thí nghiệm Trí tuệ Nhân tạo Thượng Hải, được xây dựng cho nghiên cứu cần nhiều vòng phân tích và kiểm chứng. Mô hình kết hợp hiểu dữ liệu khoa học với truy xuất thông tin, lập trình và sử dụng công cụ. API được lưu trữ nhận văn bản và hình ảnh, với cửa sổ ngữ cảnh 512K token. Phiên bản trọng số mở còn đọc hơn mười loại đầu vào khoa học qua bộ chiếu Sage SciPerception, gồm đồ thị phân tử, cấu trúc tinh thể và cấu trúc protein. Các đầu vào khoa học đó cần bộ chiếu trọng số mở; chúng không nằm trong tuyến Chat Completions được lưu trữ. ## Kết quả nhà sản xuất công bố Theo [thẻ mô hình](https://huggingface.co/internlm/Sage-S2.1-Flash), Sage S2.1 Flash đứng đầu trên MLE-bench Lite, OfficeQA Pro, Harvey LAB và SpreadsheetBench 2 trong sáu mô hình được so sánh. Đây là kết quả do Shanghai AI Laboratory công bố, không phải kết quả độc lập của AnyRouter. Trọng số được phát hành theo giấy phép MIT và có biến thể FP8 trên Hugging Face và ModelScope. ## Dùng thử Đây là tuyến BYOK: thêm khóa Intern TokenPlan của bạn tại [Bảng điều khiển → BYOK](https://anyrouter.dev/dashboard/byok). Tài khoản Intern của bạn được tính phí; AnyRouter không thu thêm phí. Intern công bố giá bằng Ink Points và không quy đổi sang USD, nên không có giá niêm yết. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "intern/sage-s2.1-flash", "messages": [{"role": "user", "content": "Summarize this paper and propose three follow-up experiments."}] }' ``` _curl._ - [Trang mô hình](https://anyrouter.dev/model/intern/sage-s2.1-flash) — tuyến và quyền truy cập. - [Bài đăng công bố](https://x.com/AtriaASI/status/2122319410623029578) — thông báo từ nhà sản xuất. - [Tất cả mô hình](https://anyrouter.dev/models) — xem danh mục. --- # Sage S2.1 Flash:在 AnyRouter 上做科学研究 > 上海人工智能实验室的 Scientific 多模态模型已通过你自己的 Intern TokenPlan 密钥上线 AnyRouter:512K 上下文,支持文本与图像输入。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/sage-s2-1-flash ## 它是什么 [Sage S2.1 Flash](https://anyrouter.dev/model/intern/sage-s2.1-flash) 是上海人工智能实验室推出的科学多模态模型,面向需要多轮分析与验证的研究任务。它把科学数据理解、信息检索、编程和工具使用结合在一起。 托管 API 接受文本和图像,上下文窗口为 512K token。开源权重版本还能通过 Sage SciPerception 投影器读取十多种科学输入类型,包括分子图、晶体结构和蛋白质结构。这些科学输入需要开源权重投影器,不属于托管的 Chat Completions 接口。 ## 厂商公布的结果 根据[模型卡](https://huggingface.co/internlm/Sage-S2.1-Flash),在所比较的六个模型中,Sage S2.1 Flash 在 MLE-bench Lite、OfficeQA Pro、Harvey LAB 和 SpreadsheetBench 2 上排名第一。这些是上海人工智能实验室公布的成果,并非 AnyRouter 的独立测评。 模型权重以 MIT 许可证发布,并在 Hugging Face 和 ModelScope 提供 FP8 版本。 ## 试用 这是 BYOK 路由:请在[控制台 → BYOK](https://anyrouter.dev/dashboard/byok) 添加你的 Intern TokenPlan 密钥。费用由你自己的 Intern 账户承担,AnyRouter 不额外收费。Intern 以 Ink Points 公布价格且未给出美元换算,因此不展示标价。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "intern/sage-s2.1-flash", "messages": [{"role": "user", "content": "Summarize this paper and propose three follow-up experiments."}] }' ``` _curl._ - [模型页面](https://anyrouter.dev/model/intern/sage-s2.1-flash) — 实时路由与访问方式。 - [发布帖](https://x.com/AtriaASI/status/2122319410623029578) — 厂商公告。 - [全部模型](https://anyrouter.dev/models) — 浏览目录。 --- # All các bản embedding MiniLM miễn phí trên gói Go và cao hơn > Mô hình embedding nhỏ gọn All MiniLM của Sentence-Transformers miễn phí trên các gói Go và cao hơn của AnyRouter, với $0 đầu vào/$0 đầu ra và không có hạn ngày trên các gói Go. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/all-minilm-free ## Điều gì được miễn phí `sentence-transformers/all-minilm:free` ngay cả trên AnyRouter miễn phí. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Các yêu cầu model miễn phí chia sẻ một hạn mức theo phút cho mỗi tài khoản: ${FREE_RPM_VI}. Kế hoạch Free có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. ## Tại sao nó đáng thử All MiniLM trả về một vector riêng Dense 384 chiều trên cửa ngõ 256 token. Đây là bộ family MiniLM của sentence-transformers (cắt L6-v2 và L12-v1) cho embedding văn bản nhanh và nhẹ nhàng, và được cấp phép MIT. Cửa ngõ 256 token phù hợp cho các yêu cầu ngắn, và các vector 384 chiều nhẹ nhàng cho tính toán tương đồng nhanh và các管道 RAG. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "sentence-transformers/all-minilm:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "sentence-transformers/all-minilm:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/sentence-transformers/all-minilm) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Đomain chính / clone Mô hình cũng có sẵn qua Ollama: pull `all-minilm:latest` từ thư viện Ollama (tags: 22m/33m/latest). MIT-licensed weights. Hugging Face model card: https://huggingface.co/sentence-transformers/all-MiniLM-L6-v2 --- # All MiniLM Embeddings are free on Go and higher > Sentence-Transformers' All MiniLM compact embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/all-minilm-free ## What is free `sentence-transformers/all-minilm:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: ${FREE_RPM_ZH}. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try All MiniLM returns a 384-dimension dense vector over a 256-token window. It is the sentence-transformers MiniLM family (L6-v2 and L12-v1 cuts) for fast, compact text embedding, and is MIT-licensed. The 256-token window is suitable for short prompts, and the 384-dimensional vectors are lightweight for quick similarity computation and RAG pipelines. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "sentence-transformers/all-minilm:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "sentence-transformers/all-minilm:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/sentence-transformers/all-minilm) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `all-minilm:latest` from the Ollama library (tags: 22m/33m/latest). MIT-licensed weights. Hugging Face model card: https://huggingface.co/sentence-transformers/all-MiniLM-L6-v2 --- # Apple Foundation Model miễn phí trên gói Go và cao hơn > Apple Foundation Model miễn phí trên AnyRouter cho các gói Go và cao hơn, với $0 đầu vào và $0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/apple-foundation-model-free ## Điều gì được miễn phí `apple/foundation-model` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Update, 1 tháng 11 năm 2026: kế hoạch Free giờ đây có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. ## Tại sao nó đáng thử Apple Foundation Model chạy hoàn toàn trên thiết bị Mac, giữ các yêu cầu riêng tư và an toàn. Vì xử lý xảy ra cục bộ, không có rò rỉ dữ liệu và không có chi phí theo yêu cầu cho mục đích cá nhân. Cửa ngõ 4,096 token phù hợp cho các trợ lý trên thiết bị. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "apple/foundation-model:free", "messages": [{"role": "user", "content": "Summarize this text."}] }' ``` _curl._ ```bash anyr claude --model apple/foundation-model:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Apple Foundation Model is free on Go and higher > Apple Foundation Model is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/apple-foundation-model-free ## What is free `apple/foundation-model` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Apple Foundation Model runs entirely on-device on a Mac, keeping prompts private and secure. Since processing happens locally, there is no data leakage and no per-request cost for personal use. The 4,096-token context window suits on-device assistants. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "apple/foundation-model:free", "messages": [{"role": "user", "content": "Summarize this text."}] }' ``` _curl._ ```bash anyr claude --model apple/foundation-model:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # BGE-Large embedding miễn phí trên gói Go và cao hơn > Mô hình embedding đa ngôn어 BGE-Large của BBAI miễn phí trên AnyRouter Go và các gói cao hơn, không có hạn ngày và $0 đầu vào/$0 đầu ra trong danh mục. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/bge-large-free ## Điều gì được miễn phí `baai/bge-large:free` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Các yêu cầu model miễn phí chia sẻ một hạn mức theo phút cho mỗi tài khoản: ${FREE_RPM_VI}. Kế hoạch Free có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. Mô hình cũng có sẵn qua Ollama: pull `bge-large:latest` từ thư viện Ollama cho mục đích embedding cục bộ. ## Tại sao nó đáng thử BGE-Large trả về một vector riêng Dense 1,024 chiều trên cửa ngõ 512 token, trên 100+ ngôn어. Đây là mã nguồn mở có giấy phép MIT và chứng minh hữu ích cho retrieval, clustering và tìm kiếm nghĩa vụ. Cửa ngõ 512 token phù hợp cho các tài liệu ngắn, và sự bao phủ đa ngôn ngữ (100+ ngôn ngữ) làm cho nó hữu ích cho các tác vụ xuyên ngôn ngữ. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "baai/bge-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "baai/bge-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/baai/bge-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Đomain chính / clone Mô hình cũng được liệt kê qua Ollama. Thêm key Ollama của bạn dưới Dashboard → BYOK và các yêu cầu sẽ đi tới tài khoản Ollama của bạn. Trang Ollama library: https://ollama.com/library/bge-large --- # BGE-Large embeddings are free on Go and higher > BAAI's BGE-Large multilingual embedding model is free on AnyRouter Go and higher plans, with no daily cap and $0 input/output in the catalog. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/bge-large-free ## What is free `baai/bge-large:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: ${FREE_RPM_ZH}. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. The model is also available via Ollama: pull `bge-large:latest` from the Ollama library for local embedding use. ## Why it is worth a try BGE-Large returns a 1,024-dimension dense vector over a 512-token window, across 100+ languages. It is open MIT-licensed and proven for retrieval, clustering and semantic search. The 512-token window is suitable for short documents, and the multilingual coverage (100+ languages) makes it useful for cross-language tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "baai/bge-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "baai/bge-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/baai/bge-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also listed through Ollama. Add your own Ollama key under Dashboard → BYOK and requests go to your Ollama account. Ollama library page: https://ollama.com/library/bge-large --- # Cohere North Mini Code miễn phí trên gói Go và cao hơn > Cohere North Mini Code miễn phí trên AnyRouter cho các gói Go và cao hơn, với $0 đầu vào và $0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/cohere-north-mini-code-free ## Điều gì được miễn phí `cohere/north-mini-code` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Cập nhật, 1 tháng 11 năm 2026: kế hoạch Free giờ đây có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. ## Tại sao nó đáng thử Cohere North Mini Code là mô hình sparse mixture-of-experts (Mixture of Experts) có 30 tỷ tham số với 3 tham số đang hoạt động, được xây dựng chuyên dụng cho tác vụ code agentic. Nó có cửa ngõ ngữ cảnh 256K token, lên tới 64K token đầu ra, và reasoning lẫn dùng tool xuyên suốt. Đây là mã nguồn mở có giấy phép Apache 2.0 và hỗ trợ function calling, structured output, và streaming. Cửa ngõ lớn phù hợp cho việc đọc toàn bộ codebase hoặc các file log dài trong một yêu cầu. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Write a Python script to sort a list of numbers."}] }' ``` _curl._ ```bash anyr claude --model cohere/north-mini-code:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Cohere North Mini Code is free on Go and higher > Cohere North Mini Code is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/cohere-north-mini-code-free ## What is free `cohere/north-mini-code` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Cohere North Mini Code is a 30B parameter sparse mixture-of-experts with 3B active parameters, purpose-built for agentic coding work. It features a 256K-token context window, up to 64K tokens of output, and interleaved reasoning with tool use. It is open-weight under the Apache 2.0 license and supports function calling, structured output, and streaming. The large context window makes it suitable for reading entire codebases or long log files in a single request. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Write a Python script to sort a list of numbers."}] }' ``` _curl._ ```bash anyr claude --model cohere/north-mini-code:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-lite miễn phí trên gói Go và cao hơn > Mô hình quyết định 0.8B d3-lite miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/d3-lite-free ## Điều gì được miễn phí `vllm-sr/d3-lite` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Kế hoạch Free có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. Mô hình này có sẵn trên chính AnyRouter domain tại https://anyrouter.dev. Không sử dụng các endpoint clone hoặc các domain không chính thức, vì chúng có thể có giá pricing hoặc behavior khác. ## Tại sao nó đáng thử d3-lite là mô hình open-weight 0.8B đa phương thức từ vLLM Semantic Router. Nó đọc văn bản, ảnh và video, trả lời các câu hỏi được gõ trong một forward pass và trả về xác suất chuẩn hóa cho mỗi câu trả lời mà không sinh văn bản. Official Jev Decision Index scores of 26.16 (text board) and 42.11 (vision board). Counters every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-lite:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-lite:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Liên kết [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. Mô hình này miễn phí trên chính AnyRouter domain tại https://anyrouter.dev. Clone endpoints hoặc các domain không chính thức có thể có pricing, rate limits, hoặc behavior khác nhau. Luôn xác nhận URL model page bắt đầu bằng https://anyrouter.dev/model/vllm-sr/d3-lite. Gửi `"model": "vllm-sr/d3-lite:free"` và AnyRouter chạy nó trên route $0 của nó. Không trừ credit. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-lite is free on Go and higher > The 0.8B d3-lite decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/d3-lite-free ## What is free `vllm-sr/d3-lite` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Ollama. Add your own Ollama key under Dashboard → BYOK and requests go to your Ollama account. Ollama library page: https://ollama.com/library/bge-large ## Why it is worth a try d3-lite is a 0.8B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 26.16 (text board) and 42.11 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-lite:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-lite:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-lite. Send `"model": "vllm-sr/d3-lite:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-mini miễn phí trên gói Go và cao hơn > Mô hình quyết định 4B d3-mini miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/d3-mini-free ## Điều gì được miễn phí `vllm-sr/d3-mini` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Kế hoạch Free có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. Mô hình này có sẵn trên chính AnyRouter domain tại https://anyrouter.dev. Không sử dụng các endpoint clone hoặc các domain không chính thức, vì chúng có thể có giá pricing hoặc behavior khác. ## Tại sao nó đáng thử d3-mini là mô hình open-weight 4B đa phương thức từ vLLM Semantic Router. Nó đọc văn bản, ảnh và video, trả lời các câu hỏi được gõ trong một forward pass và trả về xác suất chuẩn hóa cho mỗi câu trả lời mà không sinh văn bản. Official Jev Decision Index scores of 49.97 (text board) and 63.16 (vision board). Counters every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-mini:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-mini:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Liên kết [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. Mô hình này miễn phí trên chính AnyRouter domain tại https://anyrouter.dev. Clone endpoints hoặc các domain không chính thức có thể có pricing, rate limits, hoặc behavior khác nhau. Luôn xác nhận URL model page bắt đầu bằng https://anyrouter.dev/model/vllm-sr/d3-mini. Gửi `"model": "vllm-sr/d3-mini:free"` và AnyRouter chạy nó trên route $0 của nó. Không trừ credit. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-mini is free on Go and higher > The 4B d3-mini decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/d3-mini-free ## What is free `vllm-sr/d3-mini` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Ollama. Add your own Ollama key under Dashboard → BYOK and requests go to your Ollama account. Ollama library page: https://ollama.com/library/bge-large ## Why it is worth a try d3-mini is a 4B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 49.97 (text board) and 63.16 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-mini:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-mini:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-mini. Send `"model": "vllm-sr/d3-mini:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-nano miễn phí trên gói Go và cao hơn > Mô hình quyết định 2B d3-nano miễn phí trên AnyRouter Go và các gói cao hơn, với $0 đầu vào và $0 đầu ra và không có hạn ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/d3-nano-free ## Điều gì được miễn phí `vllm-sr/d3-nano` miễn phí trên AnyRouter ngay lúc này. Danh mục cho thấy $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn ngày. Kế hoạch Free có thử thí 5 yêu cầu trong suốt đời với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp thêm hoạt động trên mọi gói. Mô hình này có sẵn trên chính AnyRouter domain tại https://anyrouter.dev. Không sử dụng các endpoint clone hoặc các domain không chính thức, vì chúng có thể có giá pricing hoặc behavior khác. ## Tại sao nó đáng thử d3-nano là mô hình open-weight 2B đa phương thức từ vLLM Semantic Router. Nó đọc văn bản, ảnh và video, trả lời các câu hỏi được gõ trong một forward pass và trả về xác suất chuẩn hóa cho mỗi câu trả lời mà không sinh văn bản. Official Jev Decision Index scores of 34.30 (text board) and 54.67 (vision board). Counters every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Thử thách Thêm `:free` để pin tuyến miễn phí. Yêu cầu bao giờ cũng không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-nano:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-nano:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Liên kết [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. Mô hình này miễn phí trên chính AnyRouter domain tại https://anyrouter.dev. Clone endpoints hoặc các domain không chính thức có thể có pricing, rate limits, hoặc behavior khác nhau. Luôn xác nhận URL model page bắt đầu bằng https://anyrouter.dev/model/vllm-sr/d3-nano. Gửi `"model": "vllm-sr/d3-nano:free"` và AnyRouter chạy nó trên route $0 của nó. Không trừ credit. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-nano is free on Go and higher > The 2B d3-nano decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/d3-nano-free ## What is free `vllm-sr/d3-nano` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Ollama. Add your own Ollama key under Dashboard → BYOK and requests go to your Ollama account. Ollama library page: https://ollama.com/library/bge-large ## Why it is worth a try d3-nano is a 2B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 34.30 (text board) and 54.67 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. Suitable for coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-nano:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-nano:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-nano. Send `"model": "vllm-sr/d3-nano:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-ultra miễn phí trên Go và cao hơn > Mô hình quyết định 27B d3-ultra miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra, không có hạn sử dụng hàng ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/d3-ultra-free ## Phần nào miễn phí `vllm-sr/d3-ultra` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan nhận 5 yêu cầu dùng thử trên model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc免费 khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Chúng tôi chưa đặt ngày kết thúc. Nếu giá đổi, chúng tôi sẽ nói ở đây và trong [ghi chú phát hành](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash). ## Vì sao nên thử d3-ultra là mô hình quyết định 27B open-weight từ vLLM Semantic Router. Nó đọc văn bản, ảnh và video và trả về xác suất được tính calibration cho từng câu trả lời, không có văn bản được tạo ra. Official Jev Decision Index scores of 70.18 (text board) and 70.59 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. The only Decision 3.0 model that tracks a target in video. Context is 131,072 tokens, so you can put a large repository or a long log in one request. That suits coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities; video target tracking. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-ultra:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-ultra:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Liên kết [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. Mô hình này miễn phí trên domain chính thức AnyRouter tại https://anyrouter.dev. Clone endpoints hoặc domain không chính thức có thể có pricing, rate limits hoặc hành vi khác. Luôn kiểm tra URL model page bắt đầu với https://anyrouter.dev/model/vllm-sr/d3-ultra. Send `"model": "vllm-sr/d3-ultra:free"` và AnyRouter chạy nó trên route $0 của nó. Không trừ credit. Your balance có thể là zero. Free plan nhận 5 trial requests trên free models, rồi cần Go ($2/tháng) hoặc một key donated hợp lệ và duy nhất. BYOK hoạt động ở mọi gói. --- # d3-ultra 免费 Go 及以上套餐 > 27B 参数 d3-ultra 决策模型在 AnyRouter Go 及以上计划中免费,输入和输出均为 $0,无每日限制。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/d3-ultra-free ## 什么是免费 `vllm-sr/d3-ultra` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free 计划获得 5 次免费模型试用请求,然后需要 Go。Go 是每月 $2,或当您捐赠一个有效的唯一 provider key 时免费。BYOK 和 top-ups 在每个计划上均可用。 我们还没有设定结束日期。如果价格变化,我们将在这里和在 [发布说明](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash) 中告知。 ## 为什么值得一试 d3-ultra 是 vLLM Semantic Router 的 27B open-weight 决策模型。它读取文本、图像和视频,并对每个答案返回标定的概率,无生成文本。 Official Jev Decision Index scores of 70.18 (text board) and 70.59 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. The only Decision 3.0 model that tracks a target in video. 上下文上限 131,072 tokens,所以您可以把一个大型仓库或长日志放入一个请求中。这适合 coding agents 和分类任务。 生成无文本,所以没有书面依据。请求最多可能需要 30 秒,有 per-key rate limits 和 daily quotas. 请求和响应可能被记录并用于训练模型。 Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities; video target tracking. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-ultra:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-ultra:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## 链接 [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. 该模型在 AnyRouter 官方域名 https://anyrouter.dev 中免费。Clone endpoints 或非官方域名可能有不同的 pricing、rate limits 或行为。始终验证 model page URL 是否以 https://anyrouter.dev/model/vllm-sr/d3-ultra 开头。 Send `"model": "vllm-sr/d3-ultra:free"` 和 AnyRouter 在其 $0 platform route 上运行它。不扣除 credit。您的余额可以为零。 Free plan 在 free models 上获取 5 次试用请求,然后需要 Go ($2/月) 或捐赠一个有效的唯一 key。BYOK 在每个计划上均可用。 --- # Dots Studio Dots3-Note Preview miễn phí trên Go và cao hơn > Dots Studio Dots3-Note Preview miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/dots-studio-dots-3-note-preview-free ## Phần nào miễn phí `dots-studio/dots-3-note-preview` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Cập nhật, 11 tháng 11 năm 2026: the Free plannay có 5 yêu cầu dùng thử trên model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc free khi bạn donate một key nhà cung cấp hợp lệ và duy nhất. BYOK và top-ups hoạt động ở mọi gói. Chúng tôi chưa đặt ngày kết thúc. Chúng ta sẽ nói điều đó ở đây và trong note phát hành nếu giá thay đổi. ## Vì sao nên thử Dots Studio Dots3-Note Preview là mô hình sparse mixture-of-experts 280B parameter với 16B active parameters, có 512,000-token context window. Nó chấp nhận cả text và image input và hỗ trợ function calling và reasoning. The model supports vision, making it suitable for visual understanding tasks alongside long-context reasoning. It is open-weight and released as a preview. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "dots-studio/dots-3-note-preview:free", "messages": [{"role": "user", "content": "Describe the image and write a function for it."}] }' ``` _curl._ ```bash anyr claude --model dots-studio/dots-3-note-preview:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Dots Studio Dots3-Note Preview 免费 Go 及以上套餐 > Dots Studio Dots3-Note Preview 免费 AnyRouter Go 及以上计划,输入和输出均为 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/dots-studio-dots-3-note-preview-free ## 什么是免费 `dots-studio/dots-3-note-preview` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free 计划获得 5 次免费模型试用请求,然后需要 Go。Go 是每月 $2,或当您捐赠一个有效的唯一 provider key 时免费。BYOK 和 top-ups 在每个计划上均可用。 更新,2026年11月1日: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. 我们还没有设定结束日期。我们将在价格变化时在这里和在 release note 中告知。 ## 为什么值得一试 Dots Studio Dots3-Note Preview 是一个有 280B parameter 的稀疏混合专家模型,有 16B active parameters,有 512,000-token context window. It accepts both text and image input and supports function calling and reasoning. The model supports vision, making it suitable for visual understanding tasks alongside long-context reasoning. It is open-weight and released as a preview. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "dots-studio/dots-3-note-preview:free", "messages": [{"role": "user", "content": "Describe the image and write a function for it."}] }' ``` _curl._ ```bash anyr claude --model dots-studio/dots-3-note-preview:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # EmbeddingGemma 2 miễn phí trên Go và cao hơn > EmbeddingGemma 2 mô hình nhúng đa phương miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào/$0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/embeddinggemma-2-free ## Phần nào miễn phí `google/embeddinggemma-2:free` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan nhận 5 yêu cầu dùng thử trên model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc free khi bạn donate một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Updated November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. We will say here if the price changes. ## Vì sao nên thử EmbeddingGemma 2 là multimodal embedding model open-weight của Google DeepMind với 740M parameters và không gian vector 768-dimensional. Nó chỉ chấp nhận text input với 8,192-token window. The 768-dimensional vectors are ready for immediate use in semantic search, and the 8,192-token context window lets you embed long documents or multiple short texts in a single request. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/embeddinggemma-2:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/embeddinggemma-2:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/google/embeddinggemma-2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `embeddinggemma-2:latest` from the Ollama library (default tag is :740m, 1.3 GB). Google AI Studio and Hugging Face are also sources. Hugging Face model card: https://huggingface.co/google/embeddinggemma-2 --- # EmbeddingGemma 2 免费 Go 及以上套餐 > Google's EmbeddingGemma 2 multimodal embedding model 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/embeddinggemma-2-free ## 什么是免费 `google/embeddinggemma-2:free` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free 计划获得 5 次免费模型试用请求,然后需要 Go。Go 是每月 $2,或当您捐赠一个有效的唯一 provider key 时免费。BYOK 和 top-ups 在每个计划上均可用。 Updated November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. We will say here if the price changes. ## 为什么值得一试 EmbeddingGemma 2 是 Google DeepMind 的开源多模态嵌入模型,参数量 740M,维度 768。它只接受 text input,上下文窗口为 8,192 tokens. The 768-dimensional vectors are ready for immediate use in semantic search, and the 8,192-token context window lets you embed long documents or multiple short texts in a single request. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/embeddinggemma-2:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/embeddinggemma-2:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/google/embeddinggemma-2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `embeddinggemma-2:latest` from the Ollama library (default tag is :740m, 1.3 GB). Google AI Studio and Hugging Face are also sources. Hugging Face model card: https://huggingface.co/google/embeddinggemma-2 --- # Google Gemini 2.5 Flash miễn phí trên Go và cao hơn > Google Gemini 2.5 Flash miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/google-gemini-2-5-flash-free ## Phần nào miễn phí `google/gemini-2.5-flash` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Vì sao nên thử Google Gemini 2.5 Flash là Gemini model nhanh của Google với reasoning mạnh, thiết kế cho high-throughput tasks. Nó hỗ trợ text và image input, tool calling, coding, and vision. Với 1M-token context window, nó có thể xử lý large documents, codebases, hoặc long log files trong một yêu cầu. Luôn reasoning và hỗ trợ `reasoning_effort` để kiểm soátdepth of reasoning. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/gemini-2.5-flash:free", "messages": [{"role": "user", "content": "Analyze this image and explain the key points."}] }' ``` _curl._ ```bash anyr claude --model google/gemini-2.5-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Google Gemini 2.5 Flash 免费 Go 及以上套餐 > Google Gemini 2.5 Flash 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/google-gemini-2-5-flash-free ## 什么是免费 `google/gemini-2.5-flash` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## 为什么值得一试 Google Gemini 2.5 Flash 是 Google 的快速 Gemini model,具备强大的 reasoning capability,专为 high-throughput tasks 设计. It supports text and image input, tool calling, coding, and vision. With a 1M-token context window, it can handle large documents, codebases, or long log files in a single request. It always reasons and supports `reasoning_effort` to control the depth of reasoning. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/gemini-2.5-flash:free", "messages": [{"role": "user", "content": "Analyze this image and explain the key points."}] }' ``` _curl._ ```bash anyr claude --model google/gemini-2.5-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Google Gemma 3n E2B miễn phí trên Go và cao hơn > Google Gemma 3n E2B miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào và $0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/google-gemma-3n-e2b-free ## Phần nào miễn phí `google/gemma-3n-e2b` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Vì sao nên thử Google Gemma 3n E2B là Gemma model của Google chạy trên user's own paired phone, với no server-side compute. Nó nhận text in và cho text out. Nó hỗ trợ chat và streaming responses. Since processing happens on the user's device, prompts never leave the phone, ensuring privacy. The 32,768-token context window is shared by the prompt and completion. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/gemma-3n-e2b:free", "messages": [{"role": "user", "content": "Summarize this long text."}] }' ``` _curl._ ```bash anyr claude --model google/gemma-3n-e2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Google Gemma 3n E2B 免费 Go 及以上套餐 > Google Gemma 3n E2B 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/google-gemma-3n-e2b-free ## 什么是免费 `google/gemma-3n-e2b` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## 为什么值得一试 Google Gemma 3n E2B 是 Google 的 Gemma model 在 user's own paired phone 上运行,无 server-side compute. 它接受 text input và cho text output. Nó hỗ trợ chat và streaming responses. Since processing happens on the user's device, prompts never leave the phone, ensuring privacy. The 32,768-token context window is shared by the prompt and completion. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/gemma-3n-e2b:free", "messages": [{"role": "user", "content": "Summarize this long text."}] }' ``` _curl._ ```bash anyr claude --model google/gemma-3n-e2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Granite Embedding miễn phí trên Go và cao hơn > IBM's Granite Embedding family miễn phí trên AnyRouter Go và các gói cao hơn, có $0 đầu vào/$0 đầu ra. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/granite-embedding-free ## Phần nào miễn phí `ibm-granite/granite-embedding:free` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan nhận 5 yêu cầu dùng thử trên model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc free khi bạn donate một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. ## Vì sao nên thử Granite Embedding là IBM's open text embedding family trong 30M và 278M sizes, licensed under Apache-2.0. Nó được built for retrieval, clustering and semantic search. The 278M model returns 768 dimensions and the 30M model returns fewer. Both sizes are Apache-2.0 licensed and pool-routed, making them free to use on Go and higher plans with no credit deduction. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "ibm-granite/granite-embedding:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "ibm-granite/granite-embedding:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/ibm-granite/granite-embedding) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `granite-embedding:latest` from the Ollama library (tags: 30m/278m/latest). Weights are Apache-2.0 licensed. Hugging Face model card: https://huggingface.co/ibm-granite/granite-embedding-30m-english --- # Granite Embedding 免费 Go 及以上套餐 > IBM's Granite Embedding family 免费 AnyRouter Go 及以上套餐,输入和输出均为 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/granite-embedding-free ## 什么是免费 `ibm-granite/granite-embedding:free` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free 计划获得 5 次免费模型试用请求,然后需要 Go。Go 是每月 $2,或当您捐赠一个有效的唯一 provider key 时免费。BYOK 和 top-ups 在每个计划上均可用。 ## 为什么值得一试 Granite Embedding 是 IBM's open text embedding family trong 30M và 278M sizes, licensed under Apache-2.0. Nó được built for retrieval, clustering and semantic search. The 278M model returns 768 dimensions and the 30M model returns fewer. Both sizes are Apache-2.0 licensed and pool-routed, making them free to use on Go and higher plans with no credit deduction. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "ibm-granite/granite-embedding:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "ibm-granite/granite-embedding:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/ibm-granite/granite-embedding) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `granite-embedding:latest` from the Ollama library (tags: 30m/278m/latest). Weights are Apache-2.0 licensed. Hugging Face model card: https://huggingface.co/ibm-granite/granite-embedding-30m-english --- # THX-01 miễn phí trên Go và cao hơn > THX-01, một model multilingual decision 322M, miễn phí trên Go, có $0 đầu vào và $0 đầu ra, không có hạn sử dụng hàng ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/hal-x-thx-01-free ## Phần nào miễn phí `hal-x/thx-01` là miễn phí trên AnyRouter lúc này. Danh mục cho $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Nó là miễn phí trên Go và mọi gói cao hơn, không trừ credit và không có hạn sử dụng hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 a month, hoặc free khi bạn donate một key nhà cung cấp hợp lệ và duy nhất. BYOK và top-ups hoạt động ở mọi gói. This model is officially hosted by the hal-x provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. ## Vì sao nên thử THX-01 là 322M multilingual decision model của HAL-X AI, được training với reinforcement learning để seus probabilities được calibrated. It returns probabilities for each typed question in one forward pass of about 10 ms, not generated chat text. It is Apache 2.0 licensed and supports text input/output. The model handles up to 1,024 tokens per question (including state and options), making it suitable for quick decision tasks. ## Dùng thử Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "hal-x/thx-01:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model hal-x/thx-01:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # THX-01 免费 Go 及以上套餐 > THX-01, 一个 322M 多语言决策模型, 免费 Go, 输入和输出均为 $0, 无每日限制。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/hal-x-thx-01-free ## 什么是免费 `hal-x/thx-01` 当前在 AnyRouter 免费。目录显示输入 $0,输出 $0,不扣除 credit。 它在 Go 及以上计划中免费,无 credit 消耗和每日限制。免费模型请求每个账户每分钟共享一个限额: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the hal-x provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. ## 为什么值得一试 THX-01 是 HAL-X AI 的 322M 多语言决策模型, 使用 reinforcement learning 训练,其 probabilities 被 calibrated. It returns probabilities for each typed question in one forward pass of about 10 ms, not generated chat text. It is Apache 2.0 licensed and supports text input/output. The model handles up to 1,024 tokens per question (including state and options), making it suitable for quick decision tasks. ## 尝试一下 Add `:free` 以固定免费路由。请求永远不会回退到付费的一个。 ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "hal-x/thx-01:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model hal-x/thx-01:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Meituan LongCat-2.5免费归Go及以上套餐 > Meituan LongCat-2.5 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,不扣除 credit。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/meituan-longcat-2.5-free ## 什么是免费的 `meituan/longcat-2.5` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. 更新,2026 年 11 月 1 日:Free 套餐现在获得 5 次免费模型一次性试用请求,之后需要 Go。Go 每月 $2,或免费时您捐赠一把有效且唯一的供应商 key。BYOK 和 充值 在所有套餐上都可用。 我们尚未设定结束日期。如果价格变化,我们会在这里以及[发布说明](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash)中说明。 ## 为什么值得一试 Meituan LongCat-2.5 是一种具有 1.6T 总参数数量、约 48B 主动参数的稀疏混合专家模型,具备 1M-token 上下文窗口。它原生支持多模态,同时接受文本和图像输入并返回文本输出。 该模型支持聊天、流式传输、推理、编码、Agent 工作流以及函数调用。它专为长周期 Agent 工作而设计,例如复杂的代码库和完整项目构建,以及 Agent 工作流中的视觉编码和图像理解。 ## 试用 添加 `:free` 以固定免费路由。请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meituan/longcat-2.5:free", "messages": [{"role": "user", "content": "Write a feature spec for a long-horizon agentic task."}] }' ``` _curl._ ```bash anyr claude --model meituan/longcat-2.5:free ``` _Claude Code._ - [模型页面](https://anyrouter.dev/model/meituan/longcat-2.5) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## 链接 [模型页面](https://anyrouter.dev/model/meituan/longcat-2.5) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # Meituan LongCat-2.5 免费套餐 Go 及以上 > Meituan LongCat-2.5 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,不扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/meituan-longcat-2.5-free ## 什么是免费的 `meituan/longcat-2.5` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026 年 11 月 1 日:Free 套餐现在获得 5 次免费模型一次性试用请求,之后需要 Go。Go 每月 $2,或免费时您捐赠一把有效且唯一的供应商 key。BYOK 和 充值 在所有套餐上都可用。 我们尚未设定结束日期。如果价格变化,我们会在这里以及[发布说明](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash)中说明。 ## 为什么值得一试 Meituan LongCat-2.5 是一种具有 1.6T 总参数数量、约 48B 主动参数的稀疏混合专家模型,具备 1M-token 上下文窗口。它原生支持多模态,同时接受文本和图像输入并返回文本输出。 该模型支持聊天、流式传输、推理、编码、Agent 工作流以及函数调用。它专为长周期 Agent 工作而设计,例如复杂的代码库和完整项目构建,以及 Agent 工作流中的视觉编码和图像理解。 ## 试用 添加 `:free` 以固定免费路由。请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meituan/longcat-2.5:free", "messages": [{"role": "user", "content": "Write a feature spec for a long-horizon agentic task."}] }' ``` _curl._ ```bash anyr claude --model meituan/longcat-2.5:free ``` _Claude Code._ - [模型页面](https://anyrouter.dev/model/meituan/longcat-2.5) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## 链接 [模型页面](https://anyrouter.dev/model/meituan/longcat-2.5) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # Muse Glimmer 30B 免费归Go及以上套餐 > Muse Glimmer 30B,Meta 的密集多模态 instruct 模型,现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/meta-muse-glimmer-30b-free ## What is free `meta/muse-glimmer-30b` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via NVIDIA, Vercel AI Gateway BYOK, and Nous Portal BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on NVIDIA's build.nvidia page at https://build.nvidia.com/meta/muse-glimmer-30b, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Muse Glimmer 30B is Meta's dense multimodal instruct model with about 30B parameters, distilled from Muse Spark. It takes text and image input and returns text, with reasoning and function calling. It supports chat, streaming, function calling, reasoning, vision, coding, and agentic capabilities. Text and image modalities are supported; vision tasks include image-to-text reasoning. A 131,072-token context window and open Apache-2.0 weights make it suitable for local development and specialized multimodal workflows. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meta/muse-glimmer-30b:free", "messages": [{"role": "user", "content": "Describe the main subject of this image and why it is significant."}] }' ``` _curl._ ```bash anyr claude --model meta/muse-glimmer-30b:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/meta/muse-glimmer-30b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Muse Glimmer 30B 免费 Go 及以上 > Muse Glimmer 30B,Meta 的密集多模态 instruct 模型,现已在 AnyRouter 免费。Go 及以上套餐可用,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/meta-muse-glimmer-30b-free ## 什么是免费的 `meta/muse-glimmer-30b` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via NVIDIA, Vercel AI Gateway BYOK, and Nous Portal BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on NVIDIA's build.nvidia page at https://build.nvidia.com/meta/muse-glimmer-30b, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 Muse Glimmer 30B 是 Meta 的密集多模态 instruct 模型,约 30B 个参数,源自 Muse Spark。它接受文本和图像输入并返回文本,支持推理和函数调用。 它支持聊天、流式传输、函数调用、推理、视觉、编码和 Agent 能力。文本和图像模式均受支持;视觉任务包括图像到文本推理。 131,072 token 上下文窗口和开源 Apache-2.0 权重使其适合本地开发和专门的多模态工作流。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meta/muse-glimmer-30b:free", "messages": [{"role": "user", "content": "Describe the main subject of this image and why it is significant."}] }' ``` _curl._ ```bash anyr claude --model meta/muse-glimmer-30b:free ``` _Claude Code._ ## 链接 [模型页面](https://anyrouter.dev/model/meta/muse-glimmer-30b) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # Mistral 7B Instruct v0.3 免费归Go及以上套餐 > Mistral 7B Instruct v0.3 现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/mistral-mistral-7b-instruct-v0-3-free ## What is free `mistral/mistral-7b-instruct-v0.3` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Mistral 7B Instruct v0.3 is an open-weight 7B instruct-tuned chat model from Mistral. It takes text in and returns text, with function calling and streaming. Since it runs on the donor's own hardware (via the anyrouter local-relay backend), prompts stay on the donor's machine. The 32,768-token context window suits most coding and assistant tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "mistral/mistral-7b-instruct-v0.3:free", "messages": [{"role": "user", "content": "Extract key-value pairs from this JSON."}] }' ``` _curl._ ```bash anyr claude --model mistral/mistral-7b-instruct-v0.3:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Mistral 7B Instruct v0.3 免费 Go 及以上 > Mistral 7B Instruct v0.3 现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/mistral-mistral-7b-instruct-v0-3-free ## 什么是免费的 `mistral/mistral-7b-instruct-v0.3` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## 为什么值得一试 Mistral 7B Instruct v0.3 是 Mistral 的开源权重 7B instruct 微调聊天模型。它接受文本输入并返回文本,支持函数调用和流式传输。 由于它在捐赠者自己的硬件上运行(通过 anyrouter local-relay 后端),提示保持在捐赠者的机器上。32,768 token 上下文窗口适合大多数编码和助手任务。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "mistral/mistral-7b-instruct-v0.3:free", "messages": [{"role": "user", "content": "Extract key-value pairs from this JSON."}] }' ``` _curl._ ```bash anyr claude --model mistral/mistral-7b-instruct-v0.3:free ``` _Claude Code._ - [模型页面](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## 链接 [模型页面](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # MX-BAI Embed Large 嵌入向量免费归Go及以上套餐 > Mixedbread AI 的 MX-BAI Embed Large 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/mxbai-embed-large-free ## What is free `mixedbread-ai/mxbai-embed-large:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try MX-BAI Embed Large 返回一个 1,024 维度的密集向量,在 512 token 的窗口内。它是开源 MIT 许可证,已被证明适用于检索、聚类和语义搜索任务。 512 token 窗口适合短到中等长度的文档,MIT 许可证意味着对商业用途没有限制。 ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "mixedbread-ai/mxbai-embed-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "mixedbread-ai/mxbai-embed-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/mixedbread-ai/mxbai-embed-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `mxbai-embed-large:latest` from the Ollama library (tags: 335m/latest). MIT-licensed weights, pool-routed on AnyRouter. Hugging Face model card: https://huggingface.co/mixedbread-ai/mxbai-embed-large --- # MX-BAI Embed Large 嵌入向量免费 Go 及以上 > Mixedbread AI 的 MX-BAI Embed Large 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/mxbai-embed-large-free ## 什么是免费的 `mixedbread-ai/mxbai-embed-large:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## 为什么值得一试 MX-BAI Embed Large 返回一个 1,024 维度的密集向量,在 512 token 的窗口内。它是开源 MIT 许可证,已被证明适用于检索、聚类和语义搜索任务。 512 token 窗口适合短到中等长度的文档,MIT 许可证意味着对商业用途没有限制。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "mixedbread-ai/mxbai-embed-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "mixedbread-ai/mxbai-embed-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [模型页面](https://anyrouter.dev/model/mixedbread-ai/mxbai-embed-large) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## Official domain / clone 该模型也通过 Ollama 提供:从 Ollama 库拉取 `mxbai-embed-large:latest`(标签:335m/latest)。MIT 许可权重,AnyRouter 上 pool 路由。 Hugging Face model 卡片: https://huggingface.co/mixedbread-ai/mxbai-embed-large --- # Nemotron 3 Embed 1B 嵌入向量免费归Go及以上套餐 > NVIDIA 的 Nemotron 3 Embed 1B 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nemotron-3-embed-1b-free ## What is free `nvidia/nemotron-3-embed-1b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3 Embed 1B 是 NVIDIA 的 1.14B 参数多语言文本嵌入模型,覆盖 34 种语言。它返回 2048 维度的向量,用于语义搜索、检索和 RAG。它基于 Ministral-3-3B-Instruct 构建,拥有 32,768 token 上下文。 32,768 token 上下文窗口是嵌入模型中最大的之一,34 种语言的多语言覆盖使其成为全球应用的多功能选择。 ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-embed-1b:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nvidia/nemotron-3-embed-1b:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-embed-1b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone 该模型也通过 NVIDIA NIM 和 NVIDIA API 目录提供。NVIDIA NIM 免费开发者层提供 $0 COGS 访问。 Kilo anonymous free relay (no key, 200 req/hr/IP): probes answered 200 with usage.cost 0 as of 2026-10-29. --- # Nemotron 3 Embed 1B 嵌入向量免费 Go 及以上 > NVIDIA 的 Nemotron 3 Embed 1B 嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nemotron-3-embed-1b-free ## 什么是免费的 `nvidia/nemotron-3-embed-1b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## 为什么值得一试 Nemotron 3 Embed 1B 是 NVIDIA 的 1.14B 参数多语言文本嵌入模型,覆盖 34 种语言。它返回 2048 维度的向量,用于语义搜索、检索和 RAG。它基于 Ministral-3-3B-Instruct 构建,拥有 32,768 token 上下文。 32,768 token 上下文窗口是嵌入模型中最大的之一,34 种语言的多语言覆盖使其成为全球应用的多功能选择。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-embed-1b:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nvidia/nemotron-3-embed-1b:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [模型页面](https://anyrouter.dev/model/nvidia/nemotron-3-embed-1b) — 实时路由和价格。 [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## Official domain / clone 该模型也通过 NVIDIA NIM 和 NVIDIA API 目录提供。NVIDIA NIM 免费开发者层提供 $0 COGS 访问。 Kilo anonymous free relay (no key, 200 req/hr/IP): probes answered 200 with usage.cost 0 as of 2026-10-29. --- # Nemotron 3.5 Embed 1B 嵌入向量免费归Go及以上套餐 > NVIDIA 的 Nemotron 3.5 Embed 1B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nemotron-3.5-embed-1b-free ## What is free `nvidia/nemotron-3.5-embed-1b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3.5 Embed 1B 是 NVIDIA 的 1.55B 参数多模态和多语言检索嵌入模型。它将 34 种评估语言的文本和文档页面图像嵌入到一个 2048 维度的向量中,用于语义搜索和 RAG。上下文为 32,768 token。 该模型支持文本和图像输入,图像每调用一张图片,2048 维度的向量在文本和图像模式间共享。 ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-embed-1b:free", "input": "Your text here" }' ``` _curl._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-1b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Embed 1B 嵌入向量免费 Go 及以上 > NVIDIA 的 Nemotron 3.5 Embed 1B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nemotron-3.5-embed-1b-free ## 什么是免费的 `nvidia/nemotron-3.5-embed-1b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## 为什么值得一试 Nemotron 3.5 Embed 1B 是 NVIDIA 的 1.55B 参数多模态和多语言检索嵌入模型。它将 34 种评估语言的文本和文档页面图像嵌入到一个 2048 维度的向量中,用于语义搜索和 RAG。上下文为 32,768 token。 该模型支持文本和图像输入,图像每调用一张图片,2048 维度的向量在文本和图像模式间共享。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-embed-1b:free", "input": "Your text here" }' ``` _curl._ - [模型页面](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-1b) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # Nemotron 3.5 Embed 8B 嵌入向量免费归Go及以上套餐 > NVIDIA 的 Nemotron 3.5 Embed 8B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nemotron-3.5-embed-8b-free ## What is free `nvidia/nemotron-3.5-embed-8b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除 credit。 Go 及以上套餐免费使用,不扣除 credit,没有每日上限。免费模型请求共用每个账户每分钟限额:150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3.5 Embed 8B 是 NVIDIA 的 8.38B 参数多模态和多语言检索嵌入模型。它将 34 种评估语言的文本和文档页面图像嵌入到一个 4096 维度的向量中,用于语义搜索和 RAG。上下文为 32,768 token。 4096 维度的向量比 1B 参数的 sibling 提供更高分辨率,拥有 32,768 token 上下文窗口。 ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-embed-8b:free", "input": "Your text here" }' ``` _curl._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-8b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Embed 8B 嵌入向量免费 Go 及以上 > NVIDIA 的 Nemotron 3.5 Embed 8B 多模态嵌入模型现已在 AnyRouter 免费。Go 及以上套餐可用,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nemotron-3.5-embed-8b-free ## 什么是免费的 `nvidia/nemotron-3.5-embed-8b:free` 现已在 AnyRouter 免费。目录显示输入和输出均为 $0,也不扣除额度。 Go 及以上套餐免费使用,不扣除额度,没有每日上限。免费模型请求共用每个账户每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## 为什么值得一试 Nemotron 3.5 Embed 8B 是 NVIDIA 的 8.38B 参数多模态和多语言检索嵌入模型。它将 34 种评估语言的文本和文档页面图像嵌入到一个 4096 维度的向量中,用于语义搜索和 RAG。上下文为 32,768 token。 4096 维度的向量比 1B 参数的 sibling 提供更高分辨率,拥有 32,768 token 上下文窗口。 ## 试用 添加 `:free` 以固定走免费路由,请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-embed-8b:free", "input": "Your text here" }' ``` _curl._ - [模型页面](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-8b) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 --- # Nomic Embed Text embedding model miễn phí trên Go và cao hơn > Mô hình embedding Nomic AI Nomic Embed Text miễn phí trên AnyRouter Go và cao hơn, có $0 nhập/$0 xuất và không có giới hạn hàng ngày cho các gói Go. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nomic-embed-text-free ## Gì là miễn phí `nomic-ai/nomic-embed-text:free` miễn phí trên AnyRouter ngay bây giờ. Danh mục hiển thị $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan nhận được 5 yêu cầu dùng thử một lần với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. ## Tại sao thực sự đáng thử Nomic Embed Text trả về vector dày đặc 768-dimention trên một cửa sindow 8,192 token. Nó được cấp phép open MIT-licensed và được huấn luyện cho tìm kiếmSemantic và truy xuất. Cửa sindow 8,192 token là một trong những cửa sindow lớn nhất trong các miễn phí embedding model, phù hợp cho các tài liệu dài hoặc embedding hàng loạt các văn bản ngắn. ## Thử ngay Thêm `:free` để ghim tuyến miễn phí. Yêu cầu sẽ không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nomic-ai/nomic-embed-text:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nomic-ai/nomic-embed-text:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/nomic-ai/nomic-embed-text) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Miền chính thức / Clone Model này cũng có sẵn qua Ollama: pull `nomic-embed-text:latest` từ thư viện Ollama (tags: 137m-v1.5-fp16/v1.5/latest). Trọng lượng cấp phép MIT. Hugging Face model card: https://huggingface.co/nomic-ai/nomic-embed-text --- # Nomic Embed Text 嵌入模型在 Go 及以上版本免费 > Nomic AI 的 Nomic Embed Text 嵌入模型在 AnyRouter Go 及以上版本免费,输入输出均为 $0,不每日限制。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nomic-embed-text-free ## 哪些是免费的 `nomic-ai/nomic-embed-text:free` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free 套餐现在对免费模型有 5 次终身试用请求,之后需要 Go. Go 每月 $2,或捐出一把有效且唯一的供应商 key 即可免费获得. BYOK 和充值在所有套餐上都可用. ## 为什么值得一试 Nomic Embed Text 返回 768 维稠密向量,覆盖 8,192 token 的窗口。它是开源 MIT 许可证,并针对语义搜索和检索进行了训练。 8,192 token 的上下文窗口是免费 embedding 模型中最大的之一,非常适合长文档或批量 embedding 许多短文本。 ## 试用 添加 `:free` 以固定免费路由。请求永不转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nomic-ai/nomic-embed-text:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nomic-ai/nomic-embed-text:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/nomic-ai/nomic-embed-text) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 官方域名 / Clone 该模型也可通过 Ollama 获得: 从 Ollama 库拉取 `nomic-embed-text:latest` (tags: 137m-v1.5-fp16/v1.5/latest). MIT 许可证权重。 Hugging Face model card: https://huggingface.co/nomic-ai/nomic-embed-text --- # Nemotron 3.5 Bolt E4B miễn phí trên Go và cao hơn > Nemotron 3.5 Bolt E4B, mô hình nhỏ mở trọng lượng của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-bolt-e4b-free ## Gì là miễn phí `nvidia/nemotron-3.5-bolt-e4b` miễn phí trên AnyRouter ngay bây giờ với $0 cho đầu vào và $0 cho đầu ra. Credit không bị trừ trên các backend nvidia và nvidia-byok. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Mô hình có giá $0 trên các backend nvidia và nvidia-byok. Nó có thể truy cập mà không cần keyless `:free` route; dùng một khóa NVIDIA chuẩn hoặc route `:free` thông qua các upstreams được hỗ trợ. Cập nhật, 17 tháng 11 năm 2026: Free plan hiện nhận 5 yêu cầu dùng thử một lần với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-3.5-bolt-e4b. Thêm key NVIDIA của bạn tại Dashboard → BYOK và các yêu cầu sẽ đi đến tài khoản NVIDIA của bạn. ## Tại sao nên thử Nemotron 3.5 Bolt E4B là NVIDIA's open-weight 8B-parameter small language model, post-trained từ Gemma 4 E4B. Nó cải thiện multi-turn tool use, instruction following và input grounding cho voice và device assistants. Cửa sindow ngữ cảnh là 65,536 token. Được xây dựng cho low memory use và low time to first token, phù hợp cho edge và embedded interfaces. Nó cải thiện multi-turn tool use và instruction following so với Gemma 4 E4B. ## Thử ngay Sử dụng model mà không cần `:free` — nó cần một khóa NVIDIA API chuẩn hoặc khóa BYOK. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-bolt-e4b", "messages": [{"role": "user", "content": "Extract the named entities from this text."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-3.5-bolt-e4b ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Bolt E4B 在 Go 及以上版本免费 > Nemotron 3.5 Bolt E4B,NVIDIA 的 8B 开放权重小语言模型,在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-bolt-e4b-free ## 哪些是免费的 `nvidia/nemotron-3.5-bolt-e4b` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 该模型在 nivia 和 nvidia-byok backend 上有 $0 定价。它可以在无 `:free` keyless route 的情况下访问;使用标准 NVIDIA key 或 `:free` route 通过支持的 upstreams。 更新,2026 年 11 月 17 日:Free plan 现 now gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐出一把有效且唯一的 provider key. BYOK 和 top-ups 工作在每个 plan. 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-3.5-bolt-e4b 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 ## 为什么值得一试 Nemotron 3.5 Bolt E4B 是 NVIDIA's open-weight 8B-parameter small language model, post-trained từ Gemma 4 E4B. Nó cải thiện multi-turn tool use, instruction following và input grounding cho voice và device assistants. Context window là 65,536 tokens. Được xây dựng cho low memory use và low time to first token, phù hợp cho edge và embedded interfaces. Nó cải thiện multi-turn tool use và instruction following so với Gemma 4 E4B. ## 试用 Sử dụng model mà không cần `:free` — nó cần một khóa NVIDIA API chuẩn hoặc khóa BYOK. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-bolt-e4b", "messages": [{"role": "user", "content": "Extract the named entities from this text."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-3.5-bolt-e4b ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Lightning 30B A3B miễn phí trên Go và cao hơn > Nemotron 3.5 Lightning 30B A3B, mô hình chat MoE sparse của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-lightning-30b-a3b-free ## Gì là miễn phí `nvidia/nemotron-3.5-lightning-30b-a3b:free` miễn phí trên AnyRouter ngay bây giờ. Danh mục hiển thị $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free models trên Free plan nhận 5 yêu cầu dùng thử một lần, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và top-ups work trên mọi gói. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-3.5-lightning-30b-a3b. Thêm key NVIDIA của bạn tại Dashboard → BYOK và request sẽ đi đến tài khoản NVIDIA của bạn. ## Tại sao nên thử Nemotron 3.5 Lightning 30B A3B là NVIDIA's sparse mixture-of-experts chat model, ưu đãm cho low-latency agentic workloads. Nó hỗ trợ function calling và coding. Cho phép tối đa 131,072 output tokens. Model được ưu đãm cho low-latency agentic workloads và hỗ trợ function calling và coding tasks. Cho phép 131,072 output tokens cho long-form code generation hoặc tool outputs. ## Thử ngay Thêm `:free` để ghim tuyến miễn phí. Yêu cầu永不 fall through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-lightning-30b-a3b:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-lightning-30b-a3b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Lightning 30B A3B 在 Go 及以上版本免费 > Nemotron 3.5 Lightning 30B A3B,NVIDIA 的稀疏 MoE chat model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-lightning-30b-a3b-free ## 哪些是免费的 `nvidia/nemotron-3.5-lightning-30b-a3b:free` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go 是 $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-3.5-lightning-30b-a3b 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 ## 为什么值得一试 Nemotron 3.5 Lightning 30B A3B 是 NVIDIA's sparse mixture-of-experts chat model, 优化为低延迟 agentic workloads. 支持 function calling 和 coding. 最多允许 131,072 output tokens. Model 被优化为 low-latency agentic workloads 和支持 function calling 和 coding tasks. 允许 131,072 output tokens cho long-form code generation 或 tool outputs. ## 试用 添加 `:free` 以固定免费路由. Request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-lightning-30b-a3b:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-lightning-30b-a3b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Super VL 120B A12B miễn phí trên Go và cao hơn > Nemotron 3.5 Super VL 120B A12B, mô hình vision-language của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-3-5-super-vl-120b-a12b-free ## Gì là miễn phí `nvidia/nemotron-3.5-super-vl-120b-a12b:free` miễn phí trên AnyRouter ngay bây giờ. Danh mục hiển thị $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free models trên Free plan get 5-request lifetime trial, then need Go. Go là $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-3.5-super-vl-120b-a12b. Thêm key NVIDIA của bạn tại Dashboard → BYOK và request sẽ đi đến tài khoản NVIDIA của bạn. ## Tại sao nên thử Nemotron 3.5 Super VL 120B A12B là NVIDIA's vision-language model cho reasoning, coding và tool use. Nó là hybrid Mamba-2 và Transformer mixture-of-experts với 120B total và 12B active parameters. Nó nhận text, image và video input. Model hỗ trợ text, image và video input với reasoning, coding và tool use capabilities. 1M-token context window cho long-form video analysis. ## Thử ngay Thêm `:free` để ghim tuyến miễn phí. Yêu cầu sẽ không fall through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-super-vl-120b-a12b:free", "messages": [{"role": "user", "content": "Describe the code diagram in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-super-vl-120b-a12b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Super VL 120B A12B 在 Go 及以上版本免费 > Nemotron 3.5 Super VL 120B A12B,NVIDIA 的 vision-language model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-3-5-super-vl-120b-a12b-free ## 哪些是免费的 `nvidia/nemotron-3.5-super-vl-120b-a12b:free` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go 是 $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-3.5-super-vl-120b-a12b 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 ## 为什么值得一试 Nemotron 3.5 Super VL 120B A12B 是 NVIDIA's vision-language model cho reasoning, coding và tool use. Nó là hybrid Mamba-2 và Transformer mixture-of-experts với 120B total và 12B active parameters. Nó nhận text, image và video input. Model hỗ trợ text, image và video input với reasoning, coding và tool use capabilities. 1M-token context window cho long-form video analysis. ## 试用 Thêm `:free` để pin free route. Request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-super-vl-120b-a12b:free", "messages": [{"role": "user", "content": "Describe the code diagram in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-super-vl-120b-a12b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron-3 Nano Omni 30B-A3B (Reasoning) miễn phí trên Go và cao hơn > Nemotron-3 Nano Omni 30B-A3B (Reasoning) miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào, $0 đầu ra, không trừ credit và hỗ trợ vision. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free ## Gì là miễn phí `nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free` miễn phí trên AnyRouter ngay bây giờ. Danh mục hiển thị $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free models trên Free plan get 5-request lifetime trial, then need Go. Go là $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning. Thêm key NVIDIA của bạn tại Dashboard → BYOK và request sẽ đi đến tài khoản NVIDIA của bạn. ## Tại sao nên thử Nemotron-3 Nano Omni 30B-A3B (Reasoning) là NVIDIA's multimodal mixture-of-experts model cho video, audio, image và text understanding. Nó định hướng enterprise Q&A, summarization, transcription và OCR, và hỗ trợ reasoning và function calling. Nhận text, image, audio và video input modalities. Hỗports reasoning và function calling. Context window là 256,000 tokens. ## Thử ngay Thêm `:free` để ghim tuyến miễn phí. Yêu cầu sẽ không fall through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free", "messages": [{"role": "user", "content": "Describe what you see in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron-3 Nano Omni 30B-A3B (Reasoning) 在 Go 及以上版本免费 > Nemotron-3 Nano Omni 30B-A3B (Reasoning) 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度,支持 vision。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free ## 哪些是免费的 `nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go 是 $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 ## 为什么值得一试 Nemotron-3 Nano Omni 30B-A3B (Reasoning) 是 NVIDIA's multimodal mixture-of-experts model cho video, audio, image và text understanding. Nó định hướng enterprise Q&A, summarization, transcription và OCR, và hỗ trợ reasoning và function calling. Nhận text, image, audio và video input modalities. Hỗ trợ reasoning và function calling. Context window là 256,000 tokens. ## 试用 Thêm `:free` để pin free route. Request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free", "messages": [{"role": "user", "content": "Describe what you see in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3 Ultra 550B miễn phí trên Go và cao hơn > Nemotron 3 Ultra 550B, mô hình frontier MoE 550B của NVIDIA, miễn phí trên AnyRouter Go và cao hơn plans với $0 đầu vào/$0 đầu ra và không có giới hạn hàng ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-3-ultra-550b-a55b-free ## Gì là miễn phí `nvidia/nemotron-3-ultra-550b-a55b:free` miễn phí trên AnyRouter ngay bây giờ. Danh mục hiển thị $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Cập nhật, 17 tháng 11 năm 2026: Free plan hiện nhận 5 yêu cầu dùng thử một lần với model miễn phí, sau đó cần Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và top-ups work trên mọi gói. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-3-ultra-550b-a55b. Thêm key NVIDIA của bạn tại Dashboard → BYOK và request sẽ đi đến tài khoản NVIDIA của bạn. Chúng tôi chưa đặt ngày kết thúc. Nếu giá thay đổi, chúng tôi sẽ nói ở đây và trong [ghi chú phát hành](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash) nếu giá thay đổi. ## Tại sao nên thử Nemotron 3 Ultra 550B là NVIDIA's 550B-parameter frontier model với 55B active, trên một LatentMoE hybrid of Mamba-2, MoE và Attention. Nó có reasoning可configurable thông qua enable_thinking. Nó suits agentic workflows, long-context analysis và tool use. 1M-token context window cho phép bạn đưa một kho mã lớn hoặc một log dài vào một yêu cầu. Configurable reasoning qua `enable_thinking` làm phù hợp cho các tác vụ agent phức tạp. ## Thử ngay Thêm `:free` để ghim tuyến miễn phí. Yêu cầu sẽ không fall through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-ultra-550b-a55b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3 Ultra 550B 在 Go 及以上版本免费 > Nemotron 3 Ultra 550B,NVIDIA 的 550B 参数 frontier model, 在 AnyRouter Go 及以上版本免费,输入输出 $0,不扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-3-ultra-550b-a55b-free ## 哪些是免费的 `nvidia/nemotron-3-ultra-550b-a55b:free` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026 年 11 月 17 日:Free plan 现 now gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-3-ultra-550b-a55b 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 我们没有设定结束日期。如果价格变化,我们会在这里和[发布说明](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash)中告知。 ## 为什么值得一试 Nemotron 3 Ultra 550B là NVIDIA's 550B-parameter frontier model với 55B active, trên một LatentMoE hybrid of Mamba-2, MoE và Attention. Nó có reasoning可configurable thông qua enable_thinking. Nó suits agentic workflows, long-context analysis và tool use. 1M-token context window cho phép bạn đưa một kho mã lớn hoặc một log dài vào một yêu cầu. Configurable reasoning qua `enable_thinking` làm phù hợp cho các tác vụ agent phức tạp. ## 试用 Thêm `:free` để pin free route. Yêu cầu sẽ không fall through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-ultra-550b-a55b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron Parse 2.0 miễn phí trên Go và cao hơn > Nemotron Parse 2.0, VLM nhận diện문서 của NVIDIA, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-nemotron-parse-2.0-free ## Gì là miễn phí `nvidia/nemotron-parse-2.0` miễn phí trên AnyRouter ngay bây giờ với $0 cho đầu vào và $0 cho đầu ra. Credit không bị trừ. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn hàng ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Lưu ý: nemotron-parse-2.0 có `router_eligible: false` — nó vẫn được liệt kê và gọi trực tiếp nhưng không route thông qua anyrouter/* namespace. Nó có thể truy cập như `nvidia/nemotron-parse-2.0` trực tiếp. Mô hình cũng có sẵn trên nền công thức chính thức của NVIDIA tại https://build.nvidia.com/nvidia/nemotron-parse-2.0. Thêm key NVIDIA của bạn tại Dashboard → BYOK và request sẽ đi đến tài khoản NVIDIA của bạn. ## Tại sao nên thử Nemotron Parse 2.0 là NVIDIA's document-understanding vision-language model. Một trang hình ảnh đi vào và đầu ra structured text là markdown, layout classes, bounding boxes và reading order. Nó không sinh ảnh, và context của nó là 8,192 tokens. Trích xuất văn bản có cấu trúc từ trang hình ảnh bao gồm layout classes, bounding boxes và reading order. Phù hợp cho document digitization, archival và data extraction pipelines. ## Thử ngay Sử dụng model mà không cần `:free` — nó không có keyless free route. Dùng một khóa NVIDIA API chuẩn. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-parse-2.0", "messages": [{"role": "user", "content": "Convert this page image to markdown."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-parse-2.0 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron Parse 2.0 在 Go 及以上版本免费 > Nemotron Parse 2.0,NVIDIA 的 document-understanding VLM, 在 AnyRouter Go 及以上版本免费,输入输出 $0。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-nemotron-parse-2.0-free ## 哪些是免费的 `nvidia/nemotron-parse-2.0` 目前在 AnyRouter 免费。目录显示输入和输出均为 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 注意:nemotron-parse-2.0 有 `router_eligible: false` — 它仍然被列出且可直接调用,但不通过 anyrouter/* namespace 路由。它可以作为 `nvidia/nemotron-parse-2.0` 直接访问。 该模型也在 NVIDIA 官方平台 https://build.nvidia.com/nvidia/nemotron-parse-2.0 可用。 在 Dashboard → BYOK 添加自己的 NVIDIA key,requests 会去到你的 NVIDIA 账户。 ## 为什么值得一试 Nemotron Parse 2.0 là NVIDIA's document-understanding vision-language model. Một trang hình ảnh đi vào và đầu ra structured text là markdown, layout classes, bounding boxes và reading order. Nó không sinh ảnh, và context của nó là 8,192 tokens. Trích xuất văn bản có cấu trúc từ trang hình ảnh bao gồm layout classes, bounding boxes và reading order. Phù hợp cho document digitization, archival và data extraction pipelines. ## 试用 Sử dụng model mà không cần `:free` — nó không có keyless free route. Dùng một khóa NVIDIA API chuẩn. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-parse-2.0", "messages": [{"role": "user", "content": "Convert this page image to markdown."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-parse-2.0 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Riva Translate 4B Instruct v2 miễn phí trên Go và cao hơn > Riva Translate 4B Instruct v2, mô hình dịch NVIDIA 4B, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/nvidia-riva-translate-4b-instruct-v2-free ## Gì là free `nvidia/riva-translate-4b-instruct-v2` is free on AnyRouter right now with $0 for input and $0 for output. Credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. The model has $0 pricing on the nvidia and nvidia-byok backends. It is accessible without a :free keyless route; use a standard NVIDIA key or the :free route through supported upstreams. Cập nhật, 17 tháng 11 năm 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/riva-translate-4b-instruct-v2. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Tại sao nên thử Riva Translate 4B Instruct v2 is NVIDIA's compact 4B-parameter instruction-tuned model for neural machine translation. It covers 30+ languages. Context window is 4,096 tokens. It is a compact model suitable for integration into applications requiring translation across many languages. Low-latency translation with 4B parameters. ## Thử ngay Use the model without `:free` — it requires a standard NVIDIA API key or a BYOK key. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/riva-translate-4b-instruct-v2", "messages": [{"role": "user", "content": "Translate "Hello world" to Spanish."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/riva-translate-4b-instruct-v2 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Riva Translate 4B Instruct v2 免费于 Go 及以上版本 > Riva Translate 4B Instruct v2,NVIDIA的4B参数翻译模型,在AnyRouter Go及以上版本免费,输入输出$0,无扣除额度。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/nvidia-riva-translate-4b-instruct-v2-free ## 什么是免费 `nvidia/riva-translate-4b-instruct-v2` is free on AnyRouter right now with $0 for input and $0 for output. Credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. The model has $0 pricing on the nvidia and nvidia-byok backends. It is accessible without a :free keyless route; use a standard NVIDIA key or the :free route through supported upstreams. 更新,2026 年 11 月 17 日:the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/riva-translate-4b-instruct-v2. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## 为什么值得一试 Riva Translate 4B Instruct v2 is NVIDIA's compact 4B-parameter instruction-tuned model for neural machine translation. It covers 30+ languages. Context window is 4,096 tokens. It is a compact model suitable for integration into applications requiring translation across many languages. Low-latency translation with 4B parameters. ## 试用 Use the model without `:free` — it requires a standard NVIDIA API key or a BYOK key. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/riva-translate-4b-instruct-v2", "messages": [{"role": "user", "content": "Translate "Hello world" to Spanish."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/riva-translate-4b-instruct-v2 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # GPT-OSS 20B miễn phí trên Go và cao hơn > GPT-OSS 20B, mô hình reasoning mở trọng lượng của OpenAI, miễn phí trên AnyRouter Go và cao hơn với $0 đầu vào/$0 đầu ra và không trừ credit. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/openai-gpt-oss-20b-free ## Gì là free `openai/gpt-oss-20b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on its official domain at https://openai.com/models/gpt-oss-20b. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## Tại sao nên thử GPT-OSS 20B is OpenAI's open-weight reasoning model for agentic tasks and low-latency edge use, under Apache-2.0. It has a 131,072-token context and 20.9B total / 3.6B active MOE parameters. It supports chat, reasoning, function calling, streaming, and coding use cases. Reasoning effort is set via the system prompt, e.g. "Reasoning: high". Native function calling, web browsing and Python execution make it suitable for agentic workflows and specialized local use. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "openai/gpt-oss-20b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model openai/gpt-oss-20b:free ``` _Claude Code._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. ## Liên kết [Model page](https://anyrouter.dev/model/openai/gpt-oss-20b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # GPT-OSS 20B 免费于 Go 及以上版本 > GPT-OSS 20B,OpenAI的开放重量推理模型,在AnyRouter Go及以上计划免费,无每日上限且目录$0输入/$0输出。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/openai-gpt-oss-20b-free ## 什么是免费 `openai/gpt-oss-20b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on its official domain at https://openai.com/models/gpt-oss-20b. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 GPT-OSS 20B is OpenAI's open-weight reasoning model for agentic tasks and low-latency edge use, under Apache-2.0. It has a 131,072-token context and 20.9B total / 3.6B active MOE parameters. It supports chat, reasoning, function calling, streaming, and coding use cases. Reasoning effort is set via the system prompt, e.g. "Reasoning: high". Native function calling, web browsing and Python execution make it suitable for agentic workflows and specialized local use. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "openai/gpt-oss-20b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model openai/gpt-oss-20b:free ``` _Claude Code._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. ## 链接 [Model page](https://anyrouter.dev/model/openai/gpt-oss-20b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 0.5B miễn phí trên Go và cao hơn > Qwen 2.5 Coder 0.5B, mô hình coding mở trọng lượng nhỏ của Qwen, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/qwen-qwen2-5-coder-0-5b-instruct-free ## Gì là free `qwen/qwen2.5-coder-0.5b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available through the Qwen Ollama library. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## Tại sao nên thử Qwen 2.5 Coder 0.5B is Qwen's open-weight small text model tuned for code generation and fixing. It takes text in and returns text out. It supports chat, coding, streaming, and function calling. The model runs on a user's own machine with Ollama, and the AnyRouter anyrouter backend provides keyless access. A 32,768-token context window lets you work with moderate-sized codebases in a single request. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen2.5-coder-0.5b-instruct:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-0.5b-instruct:free ``` _Claude Code._ ## Liên kết [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-0.5b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 0.5B 免费于 Go 及以上版本 > Qwen 2.5 Coder 0.5B,Qwen的开放重量小型编程模型,在AnyRouter Go及以上计划免费,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/qwen-qwen2-5-coder-0-5b-instruct-free ## 什么是免费 `qwen/qwen2.5-coder-0.5b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available through the Qwen Ollama library. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 Qwen 2.5 Coder 0.5B is Qwen's open-weight small text model tuned for code generation and fixing. It takes text in and returns text out. It supports chat, coding, streaming, and function calling. The model runs on a user's own machine with Ollama, and the AnyRouter anyrouter backend provides keyless access. A 32,768-token context window lets you work with moderate-sized codebases in a single request. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen2.5-coder-0.5b-instruct:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-0.5b-instruct:free ``` _Claude Code._ ## 链接 [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-0.5b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 32B miễn phí trên Go và cao hơn > Qwen 2.5 Coder 32B, mô hình coding mở trọng lượng của Alibaba, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/qwen-qwen2-5-coder-32b-instruct-free ## Gì là free `qwen/qwen2.5-coder-32b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Hugging Face BYOK and the Qwen Ollama relay. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## Tại sao nên thử Qwen 2.5 Coder 32B is Alibaba's open-weight specialized coding model with 32B parameters. It targets code generation, completion and debugging across 92 programming languages. It supports chat, coding, streaming, and function calling. A 131,072-token context window lets you work with very large codebases in a single request. Function calling and streaming are supported, making it suitable for interactive coding agents and tool-use workflows. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen2.5-coder-32b-instruct:free", "messages": [{"role": "user", "content": "Implement a binary search in JavaScript."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-32b-instruct:free ``` _Claude Code._ ## Liên kết [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 32B 免费于 Go 及以上版本 > Qwen 2.5 Coder 32B,Alibaba的开放重量专用编程模型,在AnyRouter Go及以上计划免费,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/qwen-qwen2-5-coder-32b-instruct-free ## 什么是免费 `qwen/qwen2.5-coder-32b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Hugging Face BYOK and the Qwen Ollama relay. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 Qwen 2.5 Coder 32B is Alibaba's open-weight specialized coding model with 32B parameters. It targets code generation, completion and debugging across 92 programming languages. It supports chat, coding, streaming, and function calling. A 131,072-token context window lets you work with very large codebases in a single request. Function calling and streaming are supported, making it suitable for interactive coding agents and tool-use workflows. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen2.5-coder-32b-instruct:free", "messages": [{"role": "user", "content": "Implement a binary search in JavaScript."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-32b-instruct:free ``` _Claude Code._ ## 链接 [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen3-8B miễn phí trên Go và cao hơn > Qwen3-8B, mô hình dense mở trọng lượng của Alibaba, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/qwen-qwen3-8b-free ## Gì là free `qwen/qwen3-8b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via SiliconFlow, qwencloud, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## Tại sao nên thử Qwen3-8B is Alibaba Qwen's open-weight small dense model with 8B parameters. It is fast and efficient, supports reasoning, and suits lightweight chat and tool use. It supports chat, streaming, function calling, and reasoning. Input and output modalities are both text. A 128,000-token context window makes it suitable for longer conversations and document analysis. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen3-8b:free", "messages": [{"role": "user", "content": "Summarize this long article in 3 sentences."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen3-8b:free ``` _Claude Code._ ## Liên kết [Model page](https://anyrouter.dev/model/qwen/qwen3-8b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen3-8B 免费于 Go 及以上版本 > Qwen3-8B,Alibaba的开放重量密集模型,在AnyRouter Go及以上计划免费,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/qwen-qwen3-8b-free ## 什么是免费 `qwen/qwen3-8b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via SiliconFlow, qwencloud, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 Qwen3-8B is Alibaba Qwen's open-weight small dense model with 8B parameters. It is fast and efficient, supports reasoning, and suits lightweight chat and tool use. It supports chat, streaming, function calling, and reasoning. Input and output modalities are both text. A 128,000-token context window makes it suitable for longer conversations and document analysis. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "qwen/qwen3-8b:free", "messages": [{"role": "user", "content": "Summarize this long article in 3 sentences."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen3-8b:free ``` _Claude Code._ ## 链接 [Model page](https://anyrouter.dev/model/qwen/qwen3-8b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Beam 1.0 miễn phí trên Go và cao hơn > Beam 1.0, mô hình reasoning MOE mở trọng lượng của Reflection, miễn phí trên AnyRouter Go và cao hơn không có giới hạn theo ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/reflection-beam-1-0-free ## Gì là free `reflection/beam-1.0` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Kilo anonymous free relay, Nous Portal BYOK, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on Hugging Face at https://huggingface.co/reflection/Beam-1.0-501B-A23B, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## Tại sao nên thử Beam 1.0 is Reflection's open-weights mixture-of-experts model with 501B total and 23B active parameters. It is built for token-efficient reasoning, agentic tool use, and software engineering. It supports chat, streaming, reasoning, coding, function calling, and structured-output. Reasoning effort accepts low/medium/high/xhigh/max; default max, cannot be turned off. A 1,048,576-token context window (per the model card) with a host-served 262,144-token cap. Strong SWE-bench Verified scores (81.6%) and Terminal Bench v2.1 scores (80.1%) make it suitable for agentic coding and long-horizon tool workflows. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "reflection/beam-1.0:free", "messages": [{"role": "user", "content": "Plan a multi-step CLI workflow to backup a Git repository."}] }' ``` _curl._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. The /v1/chat/completions endpoint is also available for standard chat calls. ```bash anyr claude --model reflection/beam-1.0:free ``` _Claude Code._ ## Liên kết [Model page](https://anyrouter.dev/model/reflection/beam-1.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Beam 1.0 免费于 Go 及以上版本 > Beam 1.0,Reflection的开放重量MOE推理模型,在AnyRouter Go及以上计划免费,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/reflection-beam-1-0-free ## 什么是免费 `reflection/beam-1.0` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Kilo anonymous free relay, Nous Portal BYOK, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on Hugging Face at https://huggingface.co/reflection/Beam-1.0-501B-A23B, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## 为什么值得一试 Beam 1.0 is Reflection's open-weights mixture-of-experts model with 501B total and 23B active parameters. It is built for token-efficient reasoning, agentic tool use, and software engineering. It supports chat, streaming, reasoning, coding, function calling, and structured-output. Reasoning effort accepts low/medium/high/xhigh/max; default max, cannot be turned off. A 1,048,576-token context window (per the model card) with a host-served 262,144-token cap. Strong SWE-bench Verified scores (81.6%) and Terminal Bench v2.1 scores (80.1%) make it suitable for agentic coding and long-horizon tool workflows. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "reflection/beam-1.0:free", "messages": [{"role": "user", "content": "Plan a multi-step CLI workflow to backup a Git repository."}] }' ``` _curl._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. The /v1/chat/completions endpoint is also available for standard chat calls. ```bash anyr claude --model reflection/beam-1.0:free ``` _Claude Code._ ## 链接 [Model page](https://anyrouter.dev/model/reflection/beam-1.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Large miễn phí trên Go và cao hơn > Amos 1 Large, mô hình decision open-weight 27B, miễn phí trên Go, với $0 đầu vào/$0 đầu ra và không có giới hạn theo ngày. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/scira-amos-1-large-free ## Gì là free `scira/amos-1-large` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the scira provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. Scira's Amos API does not check model IDs — an unknown ID silently falls back to amos-1-mini, so always use the exact wire name. ## Tại sao nên thử Amos 1 Large is Scira's open-weight Apache 2.0 decision model, a 27B decoder fine-tuned from Qwen3.8-27B. It returns a calibrated probability per answer in one pass, not chat text. It suits multi-step questions and long policies, with a 128K context window. English only. Amos keeps every request (case, questions, answers) to train future models; raw requests are deleted after 90 days. ## Thử ngay Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-large:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-large:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Liên kết [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Large 免费于 Go 及以上版本 > Amos 1 Large,一个27B开放权重决策模型,在Go免费,输入输出$0,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/scira-amos-1-large-free ## 什么是免费 `scira/amos-1-large` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the scira provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. Scira's Amos API does not check model IDs — an unknown ID silently falls back to amos-1-mini, so always use the exact wire name. ## 为什么值得一试 Amos 1 Large is Scira's open-weight Apache 2.0 decision model, a 27B decoder fine-tuned from Qwen3.8-27B. It returns a calibrated probability per answer in one pass, not chat text. It suits multi-step questions and long policies, with a 128K context window. English only. Amos keeps every request (case, questions, answers) to train future models; raw requests are deleted after 90 days. ## 试用 Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-large:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-large:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Mini miễn phí trên Go và cao hơn > Amos 1 Mini, mô hình quyết định open-weight 0.5B, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/scira-amos-1-mini-free ## Gì là miễn phí `scira/amos-1-mini` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Cập nhật 17 tháng 11 năm 2026: gói Freenay có 5 yêu cầu dùng thử một lần với model miễn phí, sau đó cần Go. Go giá $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Model này được hosting chính thức bởi provider scira. Tuyền miễn phí trên AnyRouter dùng giá catalog $0; truy cập trực tiếp đến nguồn upstream tuân theo điều khoản của provider. Giống tất cả các Amos model, model ID không xác định sẽ lặng lỹ fall back to amos-1-mini, vì vậy luôn dùng tên wire chính xác. ## Tại sao nên thử Amos 1 Mini là mô hình decision open-weight Apache 2.0 của Scira, một encoder 0.5B trả lời mọi câu hỏi trong một pass trên CPU. Nó trả về xác suất được tính calibrated per answer, không phải text chat. Phù hợp cho các quyết định đơn giản và đọc 9K tokens per pass. Chỉ English. Giống các Amos model lớn hơn, nó giữ mọi request để train model tiếp theo và xóa raw requests sau 90 days. ## Thử nó Thêm `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-mini:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-mini:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Mini 免费在 Go 及更高版本 > Amos 1 Mini,一个0.5B权重开放模型,免费在 Go,输入和输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/scira-amos-1-mini-free ## 什么是免费 `scira/amos-1-mini` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026年11月17日: Free plan 免费试用 5 次免费模型,然后需要 Go. Go 价 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 top-ups 在每个计划都可用。 该模型由 provider scira 官方托管。AnyRouter 上的免费 route 使用 $0 catalog 定价;直接访问 upstream 源受 provider own 条款约束。与所有 Amos models 类似,未知的 model ID 会静默 fall back to amos-1-mini,因此始终使用精确的 wire 名称。 ## 为什么值得一试 Amos 1 Mini 是 Scira 的 open-weight Apache 2.0 decision model,一个 0.5B encoder 一次性回答每一个问题,不产生 chat text. 它适合简单的决定和读取 9K tokens per pass. 仅 English. 就像更大的 Amos models,它保留每个请求来训练未来的 models 并在 90 天后删除 raw requests。 ## 试一试 添加 `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-mini:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-mini:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Small miễn phí trên Go và cao hơn > Amos 1 Small, mô hình quyết định open-weight 2B, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/scira-amos-1-small-free ## Gì là miễn phí `scira/amos-1-small` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Cập nhật 17 tháng 11 năm 2026: gói Free gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Model này được hosting chính thức bởi provider scira. Tuyền miễn phí trên AnyRouter dùng giá catalog $0; truy cập trực tiếp đến nguồn upstream tuân theo điều khoản của provider. Giống tất cả các Amos model, model ID không xác định sẽ lặng lỹ fall back to amos-1-mini, vì vậy luôn dùng tên wire chính xác. Amos 1 Small có context window 256K và được xây dựng cho volume và các trường hợp với photos. ## Tại sao nên thử Amos 1 Small là mô hình decision open-weight Apache 2.0 của Scira, một 2B decoder tinh chỉnh từ Qwen3.5-2B. Nó trả về xác suất được tính calibrated per answer trong một pass thay vì text chat. Xây dựng cho volume và các trường hợp với photos, có context window 256K. Chỉ English. Giống các Amos model khác, nó giữ mọi request để train model tiếp theo và xóa raw requests sau 90 days. ## Thử nó Thêm `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-small:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-small:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Small 免费在 Go 及更高版本 > Amos 1 Small,一个2B权重开放模型,免费在 Go,输入和输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/scira-amos-1-small-free ## 什么是免费 `scira/amos-1-small` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026年11月17日: Free plan 免费试用 5 次免费模型,然后需要 Go. Go 价 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 top-ups 在每个计划都可用。 该模型由 provider scira 官方托管。AnyRouter 上的免费 route 使用 $0 catalog 定价;直接访问 upstream 源受 provider own 条款约束。与所有 Amos models 类似,未知的 model ID 会静默 fall back to amos-1-mini,因此始终使用精确的 wire 名称。Amos 1 Small 有 256K context window và được xây dựng cho volume và các trường hợp với photos. ## 为什么值得一试 Amos 1 Small là mô hình decision open-weight Apache 2.0 của Scira, một 2B decoder tinh chỉnh từ Qwen3.5-2B. Nó trả về xác suất được tính calibrated per answer trong một pass thay vì text chat. Xây dựng cho volume và các trường hợp với photos, có context window 256K. Chỉ English. Giống các Amos model khác, nó giữ mọi request để train model tiếp theo và xóa raw requests sau 90 days. ## 试一试 添加 `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-small:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-small:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Snowflake Arctic Embed embedding miễn phí trên Go và cao hơn > Snowflake Arctic Embed family embedding miễn phí trên AnyRouter Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/snowflake-arctic-embed-free ## Gì là miễn phí `snowflakeai/snowflake-arctic-embed:free` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. ## Tại sao nên thử Snowflake Arctic Embed là family embedding open-source của Snowflake, extend từ small đến large cuts qua 100+ languages. arctic-embed-base trả về 1,024 dimensions. Apache-2.0 licensed. Multiple parameter sizes (22M/33M/110M/137M/335M) are available through Ollama, và base model offers 1,024-dimensional vectors for strong retrieval performance qua languages. ## Thử nó Add `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "snowflakeai/snowflake-arctic-embed:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "snowflakeai/snowflake-arctic-embed:free", input: "Your text here" }), }) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/snowflakeai/snowflake-arctic-embed) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone Model cũng có qua Ollama: pull `snowflake-arctic-embed:latest` từ Ollama library (tags: 22m/33m/110m/137m/335m/latest). Apache-2.0 licensed weights. Hugging Face model card: https://huggingface.co/SnowflakeAI/snowflake-arctic-embed --- # Snowflake Arctic Embed 嵌入免费在 Go 及更高版本 > Snowflake 的 Arctic Embed embedding 系列免费在 AnyRouter Go 及更高版本,输入输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/snowflake-arctic-embed-free ## 什么是免费 `snowflakeai/snowflake-arctic-embed:free` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 top-ups 在每个计划都可用。 ## 为什么值得一试 Snowflake Arctic Embed 是 Snowflake 的 open-source embedding family,跨 100+ languages 从 small 到 large cuts. arctic-embed-base 返回 1,024 dimensions. Apache-2.0 licensed. Multiple parameter sizes (22M/33M/110M/137M/335M) 通过 Ollama 可用,base model offers 1,024-dimensional vectors for strong retrieval performance across languages. ## 试一试 Add `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "snowflakeai/snowflake-arctic-embed:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "snowflakeai/snowflake-arctic-embed:free", input: "Your text here" }), }) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/snowflakeai/snowflake-arctic-embed) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 官方域名 / 克隆 模型也可通过 Ollama 获取: 从 Ollama library 拉取 `snowflake-arctic-embed:latest` (tags: 22m/33m/110m/137m/335m/latest). Apache-2.0 licensed weights. Hugging Face model card: https://huggingface.co/SnowflakeAI/snowflake-arctic-embed --- # Glyph Cluster miễn phí trên Go và cao hơn > Glyph Cluster, mô hình reasoning stealth, miễn phí trên AnyRouter Go và cao hơn, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/stealth-glyph-cluster-free ## Gì là miễn phí `stealth/glyph-cluster` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Model cũng có qua Kilo anonymous free relay (không cần provider key) và Vercel AI Gateway BYOK. AnyRouter listing này unifies the keyless route. An official-domain/clone note: model là stealth preview từ third-party provider đã chọn đểẩn danh. AnyRouter cung cấp public gateway route duy nhất. Chúng tôi chưa set end date. Chúng tôi sẽ nói lại đây nếu giá thay đổi. ## Tại sao nên thử Glyph Cluster là reasoning model được thiết kế cho coding và long-context workloads. Nó là stealth preview model từ third-party provider đã chọn đểẩn danh. Hỗ trợ chat, streaming, function calling, và reasoning. Input là text only, và function calling được hỗ trợ. Context window 256,000-token (với 256,000 max completion tokens) cho phép bạn làm việc với prompts và codebase rất dài trong một request. ## Thử nó Add `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "stealth/glyph-cluster:free", "messages": [{"role": "user", "content": "Find the bug in this Python function and suggest a fix."}] }' ``` _curl._ ```bash anyr claude --model stealth/glyph-cluster:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/stealth/glyph-cluster) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Glyph Cluster 免费在 Go 及更高版本 > Glyph Cluster,推理模型 stealth,免费在 AnyRouter Go 及更高版本,无每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/stealth-glyph-cluster-free ## 什么是免费 `stealth/glyph-cluster` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 top-ups 在每个计划都可用。 Model 也可通过 Kilo anonymous free relay 获取(无需 provider key)和 Vercel AI Gateway BYOK. AnyRouter listing 统一了无 key route. 官方域名/克隆说明: model 是 third-party provider 选择保持匿名的 stealth preview. AnyRouter 提供唯一公共 gateway route. 我们尚未设定结束日期. 如果价格变动,我们会在这里说明. ## 为什么值得一试 Glyph Cluster 是一个推理模型,专为 coding 和 long-context workloads 设计. 它是 third-party provider 选择保持匿名的 stealth preview model. 支持 chat, streaming, function calling, 和 reasoning. Input 仅 text, 和 function calling 被支持. 256,000-token context window (连同 256,000 max completion tokens) 让你能在单个 request 中处理 very long prompts 和 codebases. ## 试一试 Add `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "stealth/glyph-cluster:free", "messages": [{"role": "user", "content": "Find the bug in this Python function and suggest a fix."}] }' ``` _curl._ ```bash anyr claude --model stealth/glyph-cluster:free ``` _Claude Code._ ## 链接 [Model page](https://anyrouter.dev/model/stealth/glyph-cluster) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Strands Decider 2B miễn phí trên Go và cao hơn > Strands Decider 2B, mô hình decision open-weight nhỏ, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/strandsagents-strands-decider-2b-free ## Gì là miễn phí `strandsagents/strands-decider-2b` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, 17 tháng 11 năm 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. This model is officially available through the strandsagents provider. The free route on AnyRouter uses the $0 catalog pricing. Model có hai backends: an Ollama relay (device runs the model locally, AnyRouter forwards over WebSocket, không cần API key) và a BYOK key (your own sk-vsr- key với per-key quota). The Ollama library serves strands-decider (97K downloads, Apache 2.0, tags latest = 2b, 4K context, ~2.0 GB). ## Tại sao nên thử Strands Decider 2B là AWS Strands Labs' small open-weights (Apache 2.0) decision model. Nó takes application state và typed questions và returns calibrated probabilities trong một forward pass, không phải generated chat text. Weights chạy trên của bạn hardware. Được thiết kế cho local execution. Model hỗ trợ text input/output chỉ, có context window 4096 tokens. Apache 2.0 licensed và phù hợp cho personal hoặc on-device decision tasks. ## Thử nó Add `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "strandsagents/strands-decider-2b:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl via Ollama relay._ ```bash anyr claude --model strandsagents/strands-decider-2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Strands Decider 2B 免费在 Go 及更高版本 > Strands Decider 2B,一个小型开放权重 decision model,免费在 Go,输入和输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/strandsagents-strands-decider-2b-free ## 什么是免费 `strandsagents/strands-decider-2b` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026年11月17日: Free plan gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 top-ups 在每个计划都可用。 该模型 officially available through the strandsagents provider. AnyRouter 上的 free route 使用 $0 catalog pricing. Model có hai backends: an Ollama relay (device runs the model locally, AnyRouter forwards over WebSocket, 不需要 API key) 和 a BYOK key (your own sk-vsr- key với per-key quota). The Ollama library serves strands-decider (97K downloads, Apache 2.0, tags latest = 2b, 4K context, ~2.0 GB). ## 为什么值得一试 Strands Decider 2B 是 AWS Strands Labs' small open-weights (Apache 2.0) decision model. 它 takes application state 和 typed questions 和 returns calibrated probabilities 在一个 forward pass, 不产生 generated chat text. Weights 运行在您自己的硬件上. 设计为 local execution. Model 支持 text input/output only, 有 4096 token context window. Apache 2.0 licensed và 适合 personal 或 on-device decision tasks. ## 试一试 Add `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "strandsagents/strands-decider-2b:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl via Ollama relay._ ```bash anyr claude --model strandsagents/strands-decider-2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-edge miễn phí trên Go và cao hơn > d3-edge, mô hình decision 0.6B open-weight multimodal, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/vllm-sr-d3-edge-free ## Gì là miễn phí `vllm-sr/d3-edge` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, 17 tháng 11 năm 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. This model is officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-edge reads text, images, and videos, và returns a calibrated probability for each answer in one forward pass với no generated text. Context là 131,072 tokens. Mọi request và response, bao gồm images và videos, có thể được logged và dùng để train models theo terms của provider. ## Tại sao nên thử d3-edge là 0.6B open-weight multimodal decision model từ vLLM Semantic Router. Nó reads text, images, và videos, answers typed questions trong một forward pass, và returns a calibrated probability cho mỗi answer với no generated text. Official Jev Decision Index scores of 17.69 (text board) và 31.71 (vision board). Answers every typed question about one input trong một forward pass, với a probability per answer. Generates no text, do đó không có written rationale. A request có thể take at most 30 seconds, với per-key rate limits và daily quotas. ## Thử nó Add `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-edge:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-edge:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-edge 免费在 Go 及更高版本 > d3-edge,一个0.6B开放权重多模态决策模型,免费在 Go,输入和输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/vllm-sr-d3-edge-free ## 什么是免费 `vllm-sr/d3-edge` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026年11月17日: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK 和 nạp credit dùng được ở mọi gói. Model này officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-edge reads text, images, and videos, và returns a calibrated probability for each answer in one forward pass với no generated text. Context là 131,072 tokens. Mọi request và response, bao gồm images và videos, có thể được logged và dùng để train models theo provider terms. ## 为什么值得一试 d3-edge là 0.6B open-weight multimodal decision model từ vLLM Semantic Router. Nó reads text, images, và videos, answers typed questions trong một forward pass, và returns a calibrated probability cho mỗi answer với no generated text. Official Jev Decision Index scores of 17.69 (text board) và 31.71 (vision board). Answers every typed question about one input trong một forward pass, với a probability per answer. Generates no text, do đó không có written rationale. A request có thể take at most 30 seconds, với per-key rate limits và daily quotas. ## 试一试 Add `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-edge:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-edge:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-flash miễn phí trên Go và cao hơn > d3-flash, mô hình decision 9B open-weight multimodal, miễn phí trên Go, đầu vào và đầu ra $0, không có hạn hôm nay. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/vllm-sr-d3-flash-free ## Gì là miễn phí `vllm-sr/d3-flash` hiện miễn phí trên AnyRouter. Thể loại cho $0 đầu vào và $0 đầu ra, và không trừ credit. It is free on Go và mọi gói cao hơn, không trừ credit và không có hạn hôm nay. Yêu cầu miễn phí miễn phí một tài khoản giới hạn theo phút: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Update, 17 tháng 11 năm 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go là $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. This model is officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-flash reads text, images, and videos, và returns a calibrated probability for each answer in one forward pass với no generated text. Context là 131,072 tokens. Mọi request và response, bao gồm images và videos, có thể được logged và dùng để train models theo terms của provider. ## Tại sao nên thử d3-flash là 9B open-weight multimodal decision model từ vLLM Semantic Router. Nó reads text, images, và videos, answers typed questions trong một forward pass, và returns a calibrated probability cho mỗi answer với no generated text. Official Jev Decision Index scores of 54.27 (text board) và 66.89 (vision board). Answers every typed question about one input trong một forward pass, với a probability per answer. Generates no text, do đó không có written rationale. A request có thể take at most 30 seconds, với per-key rate limits và daily quotas. Generates no text, do đó không có written rationale. ## Thử nó Add `:free` để pin tuền miễn phí. Yêu cầu sẽ không fall through đến paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-flash:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-flash 免费在 Go 及更高版本 > d3-flash,一个9B开放权重多模态决策模型,免费在 Go,输入和输出 $0,没有每日上限。 - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/vllm-sr-d3-flash-free ## 什么是免费 `vllm-sr/d3-flash` 当前在 AnyRouter 免费。目录显示输入 $0 和输出 $0,不扣除 credit。 它免费在 Go 和每个更高计划,不花费 credit,也没有每日上限。免费模型请求共享每账户每分钟一个限制: Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次. 更新,2026年11月17日: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go 是 $2 每月,或免费当你捐赠一个有效的、唯一的 provider key. BYOK và nạp credit dùng được ở mọi gói. Model này officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-flash reads text, images, and videos, và returns a calibrated probability for each answer in one forward pass với no generated text. Context là 131,072 tokens. Mọi request và response, bao gồm images và videos, có thể được logged và dùng để train models theo provider terms. ## 为什么值得一试 d3-flash là 9B open-weight multimodal decision model từ vLLM Semantic Router. Nó reads text, images, và videos, answers typed questions trong một forward pass, và returns a calibrated probability cho mỗi answer với no generated text. Official Jev Decision Index scores of 54.27 (text board) và 66.89 (vision board). Answers every typed question about one input trong một forward pass, với a probability per answer. Generates no text, do đó không có written rationale. A request có thể take at most 30 seconds, với per-key rate limits và daily quotas. Generates no text, do đó không có written rationale. ## 试一试 Add `:free` 以 pin 免费 route. 请求永远不会 fall through 到 paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-flash:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## 链接 [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # All MiniLM embeddings are free on Go and higher > Sentence-Transformers' All MiniLM compact embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/all-minilm-free ## What is free `sentence-transformers/all-minilm:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try All MiniLM returns a 384-dimension dense vector over a 256-token window. It is the sentence-transformers MiniLM family (L6-v2 and L12-v1 cuts) for fast, compact text embedding, and is MIT-licensed. The 256-token window is suitable for short prompts, and the 384-dimensional vectors are lightweight for quick similarity computation and RAG pipelines. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "sentence-transformers/all-minilm:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "sentence-transformers/all-minilm:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/sentence-transformers/all-minilm) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `all-minilm:latest` from the Ollama library (tags: 22m/33m/latest). MIT-licensed weights. Hugging Face model card: https://huggingface.co/sentence-transformers/all-MiniLM-L6-v2 --- # Apple Foundation Model is free on Go and higher > Apple Foundation Model is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/apple-foundation-model-free ## What is free `apple/foundation-model` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Apple Foundation Model runs entirely on-device on a Mac, keeping prompts private and secure. It supports chat interactions and text streaming. Since processing happens locally, there is no data leakage and no per-request cost for personal use. The 4,096-token context window suits on-device assistants. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "apple/foundation-model:free", "messages": [{"role": "user", "content": "Summarize this text."}] }' ``` _curl._ ```bash anyr claude --model apple/foundation-model:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/apple/foundation-model) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # BGE-Large embeddings are free on Go and higher > BAAI's BGE-Large multilingual embedding model is free on AnyRouter Go and higher plans, with no daily cap and $0 input/output in the catalog. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/bge-large-free ## What is free `baai/bge-large:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Ollama: pull `bge-large:latest` from the Ollama library for local embedding use. ## Why it is worth a try BGE-Large returns a 1,024-dimension dense vector over a 512-token window, across 100+ languages. It is open MIT-licensed and proven for retrieval, clustering and semantic search. The 512-token window is suitable for short documents, and the multilingual coverage (100+ languages) makes it useful for cross-language tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "baai/bge-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "baai/bge-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/baai/bge-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also listed through Ollama. Add your own Ollama key under Dashboard → BYOK and requests go to your Ollama account. Ollama library page: https://ollama.com/library/bge-large --- # Cohere North Mini Code is free on Go and higher > Cohere North Mini Code is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/cohere-north-mini-code-free ## What is free `cohere/north-mini-code` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Cohere North Mini Code is a 30B parameter sparse mixture-of-experts with 3B active parameters, purpose-built for agentic coding work. It features a 256K-token context window, up to 64K tokens of output, and interleaved reasoning with tool use. It is open-weight under the Apache 2.0 license and supports function calling, structured output, and streaming. The large context window makes it suitable for reading entire codebases or long log files in a single request. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Write a Python script to sort a list of numbers."}] }' ``` _curl._ ```bash anyr claude --model cohere/north-mini-code:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/cohere/north-mini-code) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-lite is free on Go and higher > The 0.8B d3-lite decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/d3-lite-free ## What is free `vllm-sr/d3-lite` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. Decision models are free on every plan if sourced through the official AnyRouter domain. This model is available on the official AnyRouter domain at https://anyrouter.dev. Do not use clone endpoints or unofficial domains, as they may have different pricing or behavior. ## Why it is worth a try d3-lite is a 0.8B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 26.16 (text board) and 42.11 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. That suits coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-lite:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-lite:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-lite) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-lite. Send `"model": "vllm-sr/d3-lite:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-mini is free on Go and higher > The 4B d3-mini decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/d3-mini-free ## What is free `vllm-sr/d3-mini` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. Decision models are free on every plan if sourced through the official AnyRouter domain. This model is available on the official AnyRouter domain at https://anyrouter.dev. Do not use clone endpoints or unofficial domains, as they may have different pricing or behavior. ## Why it is worth a try d3-mini is a 4B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 49.97 (text board) and 63.16 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. That suits coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-mini:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-mini:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-mini. Send `"model": "vllm-sr/d3-mini:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-nano is free on Go and higher > The 2B d3-nano decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/d3-nano-free ## What is free `vllm-sr/d3-nano` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. Decision models are free on every plan if sourced through the official AnyRouter domain. This model is available on the official AnyRouter domain at https://anyrouter.dev. Do not use clone endpoints or unofficial domains, as they may have different pricing or behavior. ## Why it is worth a try d3-nano is a 2B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 34.30 (text board) and 54.67 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. Context is 131,072 tokens, so you can put a large repository or a long log in one request. That suits coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-nano:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-nano:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-nano) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-nano. Send `"model": "vllm-sr/d3-nano:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # d3-ultra is free on Go and higher > The 27B d3-ultra decision model is free on AnyRouter Go and higher plans, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/d3-ultra-free ## What is free `vllm-sr/d3-ultra` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. Decision models are free on every plan if sourced through the official AnyRouter domain. This model is available on the official AnyRouter domain at https://anyrouter.dev. Do not use clone endpoints or unofficial domains, as they may have different pricing or behavior. ## Why it is worth a try d3-ultra is a 27B open-weight decision model from vLLM Semantic Router. It reads text, images and videos and returns a calibrated probability per answer, with no generated text. It is the only Decision 3.0 model that tracks a target in video. Official Jev Decision Index scores of 70.18 (text board) and 70.59 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Reads text, images and videos. The only Decision 3.0 model that tracks a target in video. Context is 131,072 tokens, so you can put a large repository or a long log in one request. That suits coding agents and classification tasks. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Requests and responses may be logged and used to train models. Use cases: routing, classification and moderation of text, images and video; scoring and grading with calibrated probabilities; video target tracking. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "vllm-sr/d3-ultra:free", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr decide --model vllm-sr/d3-ultra:free --state "Help! My payouts have been failing for 3 days." --question is_urgent --instructions "Does this convey urgency?" ``` _anyr CLI._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. - [Decisions API reference](https://anyrouter.dev/api/v1/decisions) — request format and question types. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-ultra) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. This model is free on the official AnyRouter domain at https://anyrouter.dev. Clone endpoints or unofficial domains may have different pricing, rate limits, or behavior. Always verify the model page URL starts with https://anyrouter.dev/model/vllm-sr/d3-ultra. Send `"model": "vllm-sr/d3-ultra:free"` and AnyRouter runs it on its $0 platform route. No credits are deducted. Your balance can be zero. Free plan gets 5 trial requests on free models, then needs Go ($2/mo) or a donated valid unique key. BYOK works on every plan. --- # Dots Studio Dots3-Note Preview is free on Go and higher > Dots Studio Dots3-Note Preview is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/dots-studio-dots-3-note-preview-free ## What is free `dots-studio/dots-3-note-preview` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Dots Studio Dots3-Note Preview is a 280B parameter sparse mixture-of-experts with 16B active parameters, featuring a 512,000-token context window. It accepts both text and image input and supports function calling and reasoning. The model supports vision, making it suitable for visual understanding tasks alongside long-context reasoning. It is open-weight and released as a preview. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "dots-studio/dots-3-note-preview:free", "messages": [{"role": "user", "content": "Describe the image and write a function for it."}] }' ``` _curl._ ```bash anyr claude --model dots-studio/dots-3-note-preview:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # EmbeddingGemma 2 embeddings are free on Go and higher > Google's EmbeddingGemma 2 multimodal embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/embeddinggemma-2-free ## What is free `google/embeddinggemma-2:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. Updated November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. We will say here if the price changes. ## Why it is worth a try EmbeddingGemma 2 is Google DeepMind's open-weight multimodal embedding model with 740M parameters and a 768-dimensional vector space. It accepts text input only with an 8,192-token window. The 768-dimensional vectors are ready for immediate use in semantic search, and the 8,192-token context window lets you embed long documents or multiple short texts in a single request. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "google/embeddinggemma-2:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/embeddinggemma-2:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/google/embeddinggemma-2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `embeddinggemma-2:latest` from the Ollama library (default tag is :740m, 1.3 GB). Google AI Studio and Hugging Face are also sources. Hugging Face model card: https://huggingface.co/google/embeddinggemma-2 --- # Google Gemini 2.5 Flash is free on Go and higher > Google Gemini 2.5 Flash is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/google-gemini-2-5-flash-free ## What is free `google/gemini-2.5-flash` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Google Gemini 2.5 Flash is Google's fast Gemini model with strong reasoning, designed for high-throughput tasks. It supports text and image input, tool calling, coding, and vision. With a 1M-token context window, it can handle large documents, codebases, or long log files in a single request. It always reasons and supports `reasoning_effort` to control the depth of reasoning. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "google/gemini-2.5-flash:free", "messages": [{"role": "user", "content": "Analyze this image and explain the key points."}] }' ``` _curl._ ```bash anyr claude --model google/gemini-2.5-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/google/gemini-2.5-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Google Gemma 3n E2B is free on Go and higher > Google Gemma 3n E2B is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/google-gemma-3n-e2b-free ## What is free `google/gemma-3n-e2b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Google Gemma 3n E2B is Google's Gemma model that runs on a user's own paired phone, with no server-side compute. It takes text in and gives text out. It supports chat and streaming responses. Since processing happens on the user's device, prompts never leave the phone, ensuring privacy. The 32,768-token context window is shared by the prompt and completion. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "google/gemma-3n-e2b:free", "messages": [{"role": "user", "content": "Summarize this long text."}] }' ``` _curl._ ```bash anyr claude --model google/gemma-3n-e2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/google/gemma-3n-e2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Granite Embedding embeddings are free on Go and higher > IBM's Granite Embedding family is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/granite-embedding-free ## What is free `ibm-granite/granite-embedding:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Granite Embedding is IBM's open text embedding family in 30M and 278M sizes, licensed under Apache-2.0. It is built for retrieval, clustering and semantic search. The 278M model returns 768 dimensions and the 30M model returns fewer. Both sizes are Apache-2.0 licensed and pool-routed, making them free to use on Go and higher plans with no credit deduction. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "ibm-granite/granite-embedding:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "ibm-granite/granite-embedding:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/ibm-granite/granite-embedding) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `granite-embedding:latest` from the Ollama library (tags: 30m/278m/latest). Weights are Apache-2.0 licensed. Hugging Face model card: https://huggingface.co/ibm-granite/granite-embedding-30m-english --- # THX-01 is free on Go and higher > THX-01, a 322M multilingual decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/hal-x-thx-01-free ## What is free `hal-x/thx-01` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the hal-x provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. ## Why it is worth a try THX-01 is HAL-X AI's 322M multilingual decision model, trained with reinforcement learning so its probabilities are calibrated. It returns probabilities for each typed question in one forward pass of about 10 ms, not generated chat text. It is Apache 2.0 licensed and supports text input/output. The model handles up to 1,024 tokens per question (including state and options), making it suitable for quick decision tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "hal-x/thx-01:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model hal-x/thx-01:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/hal-x/thx-01) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Meituan LongCat-2.5 is free on Go and higher > Meituan LongCat-2.5 is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/meituan-longcat-2.5-free ## What is free `meituan/longcat-2.5` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Meituan LongCat-2.5 is a sparse mixture-of-experts with 1.6T total and about 48B active parameters, featuring a 1M-token context window. It is natively multimodal, accepting both text and image input and returning text output. The model supports chat, streaming, reasoning, coding, agentic workflows, and function calling. It is designed for long-horizon agent work such as complex codebases and full-project builds, as well as visual coding and image understanding in agent workflows. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meituan/longcat-2.5:free", "messages": [{"role": "user", "content": "Write a feature spec for a long-horizon agentic task."}] }' ``` _curl._ ```bash anyr claude --model meituan/longcat-2.5:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/meituan/longcat-2.5) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/meituan/longcat-2.5) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Muse Glimmer 30B is free on Go and higher > Muse Glimmer 30B, Meta's dense multimodal instruct model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/meta-muse-glimmer-30b-free ## What is free `meta/muse-glimmer-30b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via NVIDIA, Vercel AI Gateway BYOK, and Nous Portal BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on NVIDIA's build.nvidia page at https://build.nvidia.com/meta/muse-glimmer-30b, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Muse Glimmer 30B is Meta's dense multimodal instruct model with about 30B parameters, distilled from Muse Spark. It takes text and image input and returns text, with reasoning and function calling. It supports chat, streaming, function calling, reasoning, vision, coding, and agentic capabilities. Text and image modalities are supported; vision tasks include image-to-text reasoning. A 131,072-token context window and open Apache-2.0 weights make it suitable for local development and specialized multimodal workflows. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "meta/muse-glimmer-30b:free", "messages": [{"role": "user", "content": "Describe the main subject of this image and why it is significant."}] }' ``` _curl._ ```bash anyr claude --model meta/muse-glimmer-30b:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/meta/muse-glimmer-30b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Mistral 7B Instruct v0.3 is free on Go and higher > Mistral 7B Instruct v0.3 is free on AnyRouter for Go and higher plans, with $0 input and $0 output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/mistral-mistral-7b-instruct-v0-3-free ## What is free `mistral/mistral-7b-instruct-v0.3` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the release note if the price changes. ## Why it is worth a try Mistral 7B Instruct v0.3 is an open-weight 7B instruct-tuned chat model from Mistral. It takes text in and returns text, with function calling and streaming. Since it runs on the donor's own hardware (via the anyrouter local-relay backend), prompts stay on the donor's machine. The 32,768-token context window suits most coding and assistant tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "mistral/mistral-7b-instruct-v0.3:free", "messages": [{"role": "user", "content": "Extract key-value pairs from this JSON."}] }' ``` _curl._ ```bash anyr claude --model mistral/mistral-7b-instruct-v0.3:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # MX-BAI Embed Large embeddings are free on Go and higher > Mixedbread AI's MX-BAI Embed Large embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/mxbai-embed-large-free ## What is free `mixedbread-ai/mxbai-embed-large:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try MX-BAI Embed Large returns a 1,024-dimension dense vector over a 512-token window. It is open MIT-licensed and proven for retrieval, clustering and semantic search tasks. The 512-token window suits short to medium-length documents, and the MIT license means no restrictions on commercial use. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "mixedbread-ai/mxbai-embed-large:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "mixedbread-ai/mxbai-embed-large:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/mixedbread-ai/mxbai-embed-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `mxbai-embed-large:latest` from the Ollama library (tags: 335m/latest). MIT-licensed weights, pool-routed on AnyRouter. Hugging Face model card: https://huggingface.co/mixedbread-ai/mxbai-embed-large --- # Nemotron 3 Embed 1B embeddings are free on Go and higher > NVIDIA's Nemotron 3 Embed 1B embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nemotron-3-embed-1b-free ## What is free `nvidia/nemotron-3-embed-1b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3 Embed 1B is NVIDIA's 1.14B-parameter multilingual text embedding model covering 34 languages. It returns 2048-dimension vectors for semantic search, retrieval and RAG. It is built on Ministral-3-3B-Instruct and has a 32,768-token context. The 32,768-token context window is one of the largest in embedding models, and the multilingual coverage (34 languages) makes it versatile for global applications. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-embed-1b:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nvidia/nemotron-3-embed-1b:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-embed-1b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available through NVIDIA NIM and the NVIDIA API catalog at build.nvidia.com. The NVIDIA NIM free developer tier provides $0 COGS access. Kilo anonymous free relay (no key, 200 req/hr/IP): probes answered 200 with usage.cost 0 as of 2026-10-29. --- # Nemotron 3.5 Embed 1B embeddings are free on Go and higher > NVIDIA's Nemotron 3.5 Embed 1B multimodal embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nemotron-3.5-embed-1b-free ## What is free `nvidia/nemotron-3.5-embed-1b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3.5 Embed 1B is NVIDIA's 1.55B-parameter multimodal and multilingual retrieval embedding model. It embeds text in 34 evaluated languages and document-page images into one 2048-dimension vector for semantic search and RAG. Context is 32,768 tokens. The model supports text and image input, with images split into one call per image, and the 2048-dimensional vectors are shared across text and image modalities. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "nvidia/nemotron-3.5-embed-1b:free", "input": "Your text here" }' ``` _curl._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-1b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Embed 8B embeddings are free on Go and higher > NVIDIA's Nemotron 3.5 Embed 8B embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nemotron-3.5-embed-8b-free ## What is free `nvidia/nemotron-3.5-embed-8b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nemotron 3.5 Embed 8B is NVIDIA's 8.38B-parameter multimodal and multilingual retrieval embedding model. It embeds text in 34 evaluated languages and document-page images into one 4096-dimension vector for semantic search and RAG. Context is 32,768 tokens. The 4096-dimensional vectors offer higher resolution than the 1B parameter sibling, with a 32,768-token context window. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "nvidia/nemotron-3.5-embed-8b:free", "input": "Your text here" }' ``` _curl._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-8b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nomic Embed Text embeddings are free on Go and higher > Nomic AI's Nomic Embed Text embedding model is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nomic-embed-text-free ## What is free `nomic-ai/nomic-embed-text:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Nomic Embed Text returns a 768-dimension dense vector over an 8,192-token window. It is open MIT-licensed and trained for semantic search and retrieval. The 8,192-token context window is among the largest in free embedding models, making it suitable for long documents or batch embedding of many short texts. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nomic-ai/nomic-embed-text:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "nomic-ai/nomic-embed-text:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/nomic-ai/nomic-embed-text) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `nomic-embed-text:latest` from the Ollama library (tags: 137m-v1.5-fp16/v1.5/latest). MIT-licensed weights. Hugging Face model card: https://huggingface.co/nomic-ai/nomic-embed-text --- # Nemotron 3.5 Bolt E4B is free on Go and higher > Nemotron 3.5 Bolt E4B, NVIDIA's 8B open-weight SLM, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-3-5-bolt-e4b-free ## What is free `nvidia/nemotron-3.5-bolt-e4b` is free on AnyRouter right now with $0 for input and $0 for output. Credits are not deducted on the nvidia and nvidia-byok backends. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. The model has $0 pricing on the nivia and nvidia-byok backends. It is accessible without a :free keyless route; use a standard NVIDIA key or the :free route through supported upstreams. Update, November 17, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-3.5-bolt-e4b. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Nemotron 3.5 Bolt E4B is NVIDIA's open-weight 8B-parameter small language model, post-trained from Gemma 4 E4B. It improves multi-turn tool use, instruction following and input grounding for voice and device assistants. Context window is 65,536 tokens. It is built for low memory use and low time to first token, making it suitable for edge and embedded interfaces. It improves multi-turn tool use and instruction following over Gemma 4 E4B. ## Try it Use the model without `:free` — it requires a standard NVIDIA API key or a BYOK key. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-bolt-e4b", "messages": [{"role": "user", "content": "Extract the named entities from this text."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-3.5-bolt-e4b ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Lightning 30B A3B is free on Go and higher > Nemotron 3.5 Lightning 30B A3B, NVIDIA's sparse MoE chat model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-3-5-lightning-30b-a3b-free ## What is free `nvidia/nemotron-3.5-lightning-30b-a3b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-3.5-lightning-30b-a3b. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Nemotron 3.5 Lightning 30B A3B is NVIDIA's sparse mixture-of-experts chat model, optimized for low-latency agentic workloads. It supports function calling and coding. It allows up to 131,072 output tokens. The model is optimized for low-latency agentic workloads and supports function calling and coding tasks. It allows up to 131,072 output tokens for long-form code generation or tool outputs. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-lightning-30b-a3b:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-lightning-30b-a3b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3.5 Super VL 120B A12B is free on Go and higher > Nemotron 3.5 Super VL 120B A12B, NVIDIA's vision-language model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-3-5-super-vl-120b-a12b-free ## What is free `nvidia/nemotron-3.5-super-vl-120b-a12b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-3.5-super-vl-120b-a12b. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Nemotron 3.5 Super VL 120B A12B is NVIDIA's vision-language model for reasoning, coding and tool use. It is a hybrid Mamba-2 and Transformer mixture-of-experts with 120B total and 12B active parameters. It takes text, image and video input. The model supports text, image and video input with reasoning, coding and tool use capabilities. 1M-token context window for long-form video analysis. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3.5-super-vl-120b-a12b:free", "messages": [{"role": "user", "content": "Describe the code diagram in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3.5-super-vl-120b-a12b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-3.5-super-vl-120b-a12b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron-3 Nano Omni 30B-A3B (Reasoning) is free on Go and higher > Nemotron-3 Nano Omni 30B-A3B (Reasoning) is free on AnyRouter Go and higher with $0 input/output, no credit deduction, and vision support. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-3-nano-omni-30b-a3b-reasoning-free ## What is free `nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free models on the Free plan get a 5-request lifetime trial, then need Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Nemotron-3 Nano Omni 30B-A3B (Reasoning) is NVIDIA's multimodal mixture-of-experts model for video, audio, image and text understanding. It targets enterprise Q&A, summarization, transcription and OCR, and supports reasoning and function calling. It accepts text, image, audio and video input modalities. Supports reasoning and function calling. Context window is 256,000 tokens. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free", "messages": [{"role": "user", "content": "Describe what you see in this image."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron 3 Ultra 550B is free on Go and higher > Nemotron 3 Ultra 550B, NVIDIA's 550B-parameter frontier MoE model, is free on AnyRouter Go and higher plans with no daily cap and $0 input/output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-3-ultra-550b-a55b-free ## What is free `nvidia/nemotron-3-ultra-550b-a55b:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-3-ultra-550b-a55b. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. We have not set an end date. We will say so here and in the [release note](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash) if the price changes. ## Why it is worth a try Nemotron 3 Ultra 550B is NVIDIA's 550B-parameter frontier model with 55B active, on a LatentMoE hybrid of Mamba-2, MoE and Attention. It has configurable reasoning through enable_thinking. It suits agentic workflows, long-context analysis and tool use. The 1M-token context window lets you put a large repository or a long log in one request. Configurable reasoning through `enable_thinking` makes it suitable for complex agentic tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model nvidia/nemotron-3-ultra-550b-a55b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Nemotron Parse 2.0 is free on Go and higher > Nemotron Parse 2.0, NVIDIA's document-understanding VLM, is free on AnyRouter Go and higher with $0 input/output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-nemotron-parse-2.0-free ## What is free `nvidia/nemotron-parse-2.0` is free on AnyRouter right now with $0 for input and $0 for output. Credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Note: nemotron-parse-2.0 has `router_eligible: false` — it is still listed and directly callable but is not routed through the anyrouter/* namespace. It is accessible as `nvidia/nemotron-parse-2.0` directly. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/nemotron-parse-2.0. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Nemotron Parse 2.0 is NVIDIA's document-understanding vision-language model. A page image goes in and structured text comes out as markdown, layout classes, bounding boxes and reading order. It does not generate images, and its context is 8,192 tokens. It extracts structured text from page images including layout classes, bounding boxes and reading order. Useful for document digitization, archival, and data extraction pipelines. ## Try it Use the model without `:free` — it does not have a keyless free route. Use a standard NVIDIA API key. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/nemotron-parse-2.0", "messages": [{"role": "user", "content": "Convert this page image to markdown."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/nemotron-parse-2.0 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Riva Translate 4B Instruct v2 is free on Go and higher > Riva Translate 4B Instruct v2, NVIDIA's 4B translation model, is free on AnyRouter Go and higher with $0 input/output and no credit deduction. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/nvidia-riva-translate-4b-instruct-v2-free ## What is free `nvidia/riva-translate-4b-instruct-v2` is free on AnyRouter right now with $0 for input and $0 for output. Credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. The model has $0 pricing on the nvidia and nvidia-byok backends. It is accessible without a :free keyless route; use a standard NVIDIA key or the :free route through supported upstreams. Update, November 17, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on NVIDIA's official platform at https://build.nvidia.com/nvidia/riva-translate-4b-instruct-v2. Add your own NVIDIA key under Dashboard → BYOK and requests go to your NVIDIA account. ## Why it is worth a try Riva Translate 4B Instruct v2 is NVIDIA's compact 4B-parameter instruction-tuned model for neural machine translation. It covers 30+ languages. Context window is 4,096 tokens. It is a compact model suitable for integration into applications requiring translation across many languages. Low-latency translation with 4B parameters. ## Try it Use the model without `:free` — it requires a standard NVIDIA API key or a BYOK key. ```bash curl https://anyrouter.dev/api/v1/chat/completions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "nvidia/riva-translate-4b-instruct-v2", "messages": [{"role": "user", "content": "Translate "Hello world" to Spanish."}] }' ``` _curl with NVIDIA key._ ```bash anyr claude --model nvidia/riva-translate-4b-instruct-v2 ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/nvidia/riva-translate-4b-instruct-v2) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # GPT-OSS 20B is free on Go and higher > GPT-OSS 20B, OpenAI's open-weight reasoning model, is free on AnyRouter Go and higher plans, with no daily cap and catalog $0 for input and output. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/openai-gpt-oss-20b-free ## What is free `openai/gpt-oss-20b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available on its official domain at https://openai.com/models/gpt-oss-20b. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try GPT-OSS 20B is OpenAI's open-weight reasoning model for agentic tasks and low-latency edge use, under Apache-2.0. It has a 131,072-token context and 20.9B total / 3.6B active MOE parameters. It supports chat, reasoning, function calling, streaming, and coding use cases. Reasoning effort is set via the system prompt, e.g. "Reasoning: high". Native function calling, web browsing and Python execution make it suitable for agentic workflows and specialized local use. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "openai/gpt-oss-20b:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model openai/gpt-oss-20b:free ``` _Claude Code._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. ## Links [Model page](https://anyrouter.dev/model/openai/gpt-oss-20b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 0.5B is free on Go and higher > Qwen 2.5 Coder 0.5B, Qwen's open-weight small coding model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/qwen-qwen2-5-coder-0-5b-instruct-free ## What is free `qwen/qwen2.5-coder-0.5b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available through the Qwen Ollama library. This AnyRouter listing provides a unified gateway route. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Qwen 2.5 Coder 0.5B is Qwen's open-weight small text model tuned for code generation and fixing. It takes text in and returns text out. It supports chat, coding, streaming, and function calling. The model runs on a user's own machine with Ollama, and the AnyRouter anyrouter backend provides keyless access. A 32,768-token context window lets you work with moderate-sized codebases in a single request. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen/qwen2.5-coder-0.5b-instruct:free", "messages": [{"role": "user", "content": "Write a Python function to sort a list."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-0.5b-instruct:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-0.5b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen 2.5 Coder 32B is free on Go and higher > Qwen 2.5 Coder 32B, Alibaba's open-weight specialized coding model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/qwen-qwen2-5-coder-32b-instruct-free ## What is free `qwen/qwen2.5-coder-32b-instruct` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Hugging Face BYOK and the Qwen Ollama relay. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Qwen 2.5 Coder 32B is Alibaba's open-weight specialized coding model with 32B parameters. It targets code generation, completion and debugging across 92 programming languages. It supports chat, coding, streaming, and function calling. A 131,072-token context window lets you work with very large codebases in a single request. Function calling and streaming are supported, making it suitable for interactive coding agents and tool-use workflows. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen/qwen2.5-coder-32b-instruct:free", "messages": [{"role": "user", "content": "Implement a binary search in JavaScript."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen2.5-coder-32b-instruct:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Qwen3-8B is free on Go and higher > Qwen3-8B, Alibaba's open-weight dense model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/qwen-qwen3-8b-free ## What is free `qwen/qwen3-8b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via SiliconFlow, qwencloud, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Qwen3-8B is Alibaba Qwen's open-weight small dense model with 8B parameters. It is fast and efficient, supports reasoning, and suits lightweight chat and tool use. It supports chat, streaming, function calling, and reasoning. Input and output modalities are both text. A 128,000-token context window makes it suitable for longer conversations and document analysis. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen/qwen3-8b:free", "messages": [{"role": "user", "content": "Summarize this long article in 3 sentences."}] }' ``` _curl._ ```bash anyr claude --model qwen/qwen3-8b:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/qwen/qwen3-8b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Beam 1.0 is free on Go and higher > Beam 1.0, Reflection's open-weights MOE reasoning model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/reflection-beam-1-0-free ## What is free `reflection/beam-1.0` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via Kilo anonymous free relay, Nous Portal BYOK, and Hugging Face BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is also listed on Hugging Face at https://huggingface.co/reflection/Beam-1.0-501B-A23B, and this AnyRouter route provides a unified gateway. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Beam 1.0 is Reflection's open-weights mixture-of-experts model with 501B total and 23B active parameters. It is built for token-efficient reasoning, agentic tool use, and software engineering. It supports chat, streaming, reasoning, coding, function calling, and structured-output. Reasoning effort accepts low/medium/high/xhigh/max; default max, cannot be turned off. A 1,048,576-token context window (per the model card) with a host-served 262,144-token cap. Strong SWE-bench Verified scores (81.6%) and Terminal Bench v2.1 scores (80.1%) make it suitable for agentic coding and long-horizon tool workflows. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "reflection/beam-1.0:free", "messages": [{"role": "user", "content": "Plan a multi-step CLI workflow to backup a Git repository."}] }' ``` _curl._ Note: This model supports the /v1/responses decisions endpoint for structured output generation. The /v1/chat/completions endpoint is also available for standard chat calls. ```bash anyr claude --model reflection/beam-1.0:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/reflection/beam-1.0) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Large is free on Go and higher > Amos 1 Large, a 27B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/scira-amos-1-large-free ## What is free `scira/amos-1-large` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the scira provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. Scira's Amos API does not check model IDs — an unknown ID silently falls back to amos-1-mini, so always use the exact wire name. ## Why it is worth a try Amos 1 Large is Scira's open-weight Apache 2.0 decision model, a 27B decoder fine-tuned from Qwen3.8-27B. It returns a calibrated probability per answer in one pass, not chat text. It suits multi-step questions and long policies, with a 128K context window. English only. Amos keeps every request (case, questions, answers) to train future models; raw requests are deleted after 90 days. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-large:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-large:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/scira/amos-1-large) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Mini is free on Go and higher > Amos 1 Mini, a 0.5B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/scira-amos-1-mini-free ## What is free `scira/amos-1-mini` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the scira provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. Like all Amos models, an unknown model ID silently falls back to amos-1-mini, so always use the exact wire name. ## Why it is worth a try Amos 1 Mini is Scira's open-weight Apache 2.0 decision model, a 0.5B encoder that answers every question in one pass on a CPU. It returns a calibrated probability per answer, not chat text. It suits simple decisions and reads 9K tokens per pass. English only. Like the larger Amos models, it keeps every request to train future models and deletes raw requests after 90 days. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-mini:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-mini:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/scira/amos-1-mini) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Amos 1 Small is free on Go and higher > Amos 1 Small, a 2B open-weight decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/scira-amos-1-small-free ## What is free `scira/amos-1-small` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the scira provider. The free route on AnyRouter uses the $0 catalog pricing; direct access to the upstream source is subject to the provider's own terms. Like all Amos models, an unknown model ID silently falls back to amos-1-mini, so always use the exact wire name. Amos 1 Small has a 256K context window and is built for volume and cases with photos. ## Why it is worth a try Amos 1 Small is Scira's open-weight Apache 2.0 decision model, a 2B decoder fine-tuned from Qwen3.5-2B. It returns a calibrated probability per answer in one pass instead of chat text. It is built for volume and for cases with photos, with a 256K context window. English only. Like the other Amos models, it keeps every request to train future models and deletes raw requests after 90 days. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "scira/amos-1-small:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model scira/amos-1-small:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/scira/amos-1-small) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Snowflake Arctic Embed embeddings are free on Go and higher > Snowflake's Arctic Embed embedding family is free on AnyRouter Go and higher, with $0 input/output and no daily cap on Go plans. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/snowflake-arctic-embed-free ## What is free `snowflakeai/snowflake-arctic-embed:free` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. ## Why it is worth a try Snowflake Arctic Embed is Snowflake's open text embedding family, spanning small to large cuts across 100+ languages. The arctic-embed-base returns 1,024 dimensions. It is Apache-2.0 licensed. Multiple parameter sizes (22M/33M/110M/137M/335M) are available through Ollama, and the base model offers 1,024-dimensional vectors for strong retrieval performance across languages. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/embeddings -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "snowflakeai/snowflake-arctic-embed:free", "input": "Your text here" }' ``` _curl._ ```typescript fetch("https://anyrouter.dev/api/v1/embeddings", { method: "POST", headers: { Authorization: "Bearer $ANYROUTER_API_KEY", "Content-Type": "application/json", }, body: JSON.stringify({ model: "snowflakeai/snowflake-arctic-embed:free", input: "Your text here" }), }).then((r) => r.json()) ``` _TypeScript / SDK._ [Model page](https://anyrouter.dev/model/snowflakeai/snowflake-arctic-embed) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Official domain / clone The model is also available via Ollama: pull `snowflake-arctic-embed:latest` from the Ollama library (tags: 22m/33m/110m/137m/335m/latest). Apache-2.0 licensed weights. Hugging Face model card: https://huggingface.co/SnowflakeAI/snowflake-arctic-embed --- # Glyph Cluster is free on Go and higher > Glyph Cluster, the stealth preview reasoning model, is free on AnyRouter Go and higher plans with no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/stealth-glyph-cluster-free ## What is free `stealth/glyph-cluster` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. The model is also available via the Kilo anonymous free relay (no provider key required) and Vercel AI Gateway BYOK. This AnyRouter listing unifies the keyless route. An official-domain/clone note: the model is a stealth preview from a third-party provider. AnyRouter provides the only public gateway route. We have not set an end date. We will say so here if the price changes. ## Why it is worth a try Glyph Cluster is a reasoning model designed for coding and long-context workloads. It is a stealth preview model from a third-party provider who has chosen to remain anonymous. It supports chat, streaming, function calling, and reasoning. Input is text only, and function calling is supported. A 256,000-token context window (with 256,000 max completion tokens) lets you work with very long prompts and codebases in a single request. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "stealth/glyph-cluster:free", "messages": [{"role": "user", "content": "Find the bug in this Python function and suggest a fix."}] }' ``` _curl._ ```bash anyr claude --model stealth/glyph-cluster:free ``` _Claude Code._ ## Links [Model page](https://anyrouter.dev/model/stealth/glyph-cluster) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # Strands Decider 2B is free on Go and higher > Strands Decider 2B, a small open-weight decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/strandsagents-strands-decider-2b-free ## What is free `strandsagents/strands-decider-2b` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially available through the strandsagents provider. The free route on AnyRouter uses the $0 catalog pricing. The model has two backends: an Ollama relay (device runs the model locally, AnyRouter forwards over WebSocket, no API key needed) and a BYOK key (your own sk-vsr- key with per-key quota). The Ollama library serves strands-decider (97K downloads, Apache 2.0, tags latest = 2b, 4K context, ~2.0 GB). ## Why it is worth a try Strands Decider 2B is AWS Strands Labs' small open-weights (Apache 2.0) decision model. It takes application state and typed questions and returns calibrated probabilities in one forward pass, not generated chat text. Weights run on your own hardware. It is designed for local execution. The model supports text input/output only, with a 4096 token context window. It is Apache 2.0 licensed and suitable for personal or on-device decision tasks. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "strandsagents/strands-decider-2b:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl via Ollama relay._ ```bash anyr claude --model strandsagents/strands-decider-2b:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/strandsagents/strands-decider-2b) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-edge is free on Go and higher > d3-edge, a 0.6B open-weight multimodal decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vllm-sr-d3-edge-free ## What is free `vllm-sr/d3-edge` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-edge reads text, images, and videos, and returns a calibrated probability for each answer in one forward pass with no generated text. Context is 131,072 tokens. Every request and response, including images and videos, may be logged and used to train models per the provider's terms. ## Why it is worth a try d3-edge is a 0.6B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 17.69 (text board) and 31.71 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-edge:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-edge:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-edge) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # d3-flash is free on Go and higher > d3-flash, a 9B open-weight multimodal decision model, is free on Go, with $0 input and output and no daily cap. - Date: November 17, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vllm-sr-d3-flash-free ## What is free `vllm-sr/d3-flash` is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 17, 2026: the Free plan gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. This model is officially hosted by the vllm-sr provider via decision.vllm-sr.ai. The free route on AnyRouter uses the $0 catalog pricing. d3-flash reads text, images, and videos, and returns a calibrated probability for each answer in one forward pass with no generated text. Context is 131,072 tokens. Every request and response, including images and videos, may be logged and used to train models per the provider's terms. ## Why it is worth a try d3-flash is a 9B open-weight multimodal decision model from vLLM Semantic Router. It reads text, images, and videos, answers typed questions in one forward pass, and returns a calibrated probability for each answer with no generated text. Official Jev Decision Index scores of 54.27 (text board) and 66.89 (vision board). Answers every typed question about one input in a single forward pass, with a probability per answer. Generates no text, so there is no written rationale. A request may take at most 30 seconds, with per-key rate limits and daily quotas. Generates no text, so there is no written rationale. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/decisions -H "Authorization: Bearer $ANYROUTER_API_KEY" -H "Content-Type: application/json" -d '{ "model": "vllm-sr/d3-flash:free", "state": "Your state here", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` _curl._ ```bash anyr claude --model vllm-sr/d3-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Links [Model page](https://anyrouter.dev/model/vllm-sr/d3-flash) — live routes and price. [All free models](https://anyrouter.dev/models?free=true) — the full free list. --- # How to use QwenCloud Token Plan on AnyRouter > Add your QwenCloud Token Plan key to AnyRouter, then run Qwen4 Max from Claude Code or from your own agent built on the Vercel AI SDK. No fee, and your plan stays the bill. - Date: November 14, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/qwencloud-token-plan-byok ## What Token Plan is [Token Plan](https://www.qwencloud.com/pricing/token-plan?region=ap-southeast-1) is QwenCloud's monthly plan for Qwen models. You pay QwenCloud one flat price instead of paying per token. Its API key starts with `sk-sp-`, and you buy the plan for Singapore. You can add that key to AnyRouter as a bring-your-own-key (BYOK) key. AnyRouter adds no fee and charges no credits for the requests your key serves. This guide uses `qwen/qwen4-max`. ## Add your key Copy your key from the **Token Plan** section of QwenCloud's [API Keys page](https://home.qwencloud.com/api-keys). Use the Token Plan key that starts with `sk-sp-`. A pay-as-you-go key does not work here. **1. Open the key menu.** Go to the [Qwen4 Max page](https://anyrouter.dev/model/qwen/qwen4-max). In the **Upstreams** table, find **QwenCloud Token Plan**, open its **Key** menu and choose **Add your key (BYOK)**. ![The Key menu on the QwenCloud Token Plan row of the Qwen4 Max upstreams table, open on Add your key (BYOK), with an arrow pointing at it.](https://anyrouter.dev/screenshots/qwencloud-token-plan-add-key-menu-2026-11.jpg) **2. Paste the key and add it.** AnyRouter checks the key right away. A good key shows **Key works** and the models it can call. Click **Add key**. The key then shows as **Active** and **Verified**. AnyRouter shows only a masked form of it, and you can switch it off or delete it at any time. You can also add it later from the [BYOK page](https://anyrouter.dev/dashboard/byok). ![The QwenCloud Token Plan keys dialog with one masked key marked Active and Verified, a note that these keys cannot be shared so the pool is not available for them, and a Manage all keys in dashboard link.](https://anyrouter.dev/screenshots/qwencloud-token-plan-keys-dialog-2026-11.jpg) **3. Know how requests are routed.** Your key answers first, and QwenCloud bills it to your plan. If none of your keys can answer, the donated pool answers from your AnyRouter credits. Token Plan keys cannot be shared, so your key is never added to that pool. ## Option A: a coding agent Use this when you work in Claude Code every day. The first command installs the AnyRouter CLI. The second starts Claude Code on AnyRouter with `qwen/qwen4-max` as the model for the session. The first run signs you in. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model qwen/qwen4-max ``` Once Claude Code opens, send a message. It answers as the model you picked. ```text Claude Code v2.1.325 qwen/qwen4-max with low effort · API Usage Billing ~/my-app ❯ Hello, what model are you? ● I’m the AI assistant in this session, currently running as Qwen4-Max (qwen/qwen4-max). ✻ Worked for 9s · done 10:36 PM ``` _A real Claude Code session on qwen/qwen4-max_ `anyr codex`, `anyr opencode` and `anyr grok` take the same `--model` flag. The full set of options is in the [Claude Code guide](https://anyrouter.dev/docs/guides/claude-code) and the [QwenCloud Token Plan docs](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan). ## Option B: your own agent with the Vercel AI SDK Use this when you build an agent yourself. It uses the [Vercel AI SDK](https://ai-sdk.dev), not the OpenAI SDK. Install the AnyRouter provider next to it. ```bash npm install @anyr/ai-sdk-provider ai ``` Then call the model by its AnyRouter id. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen4-max"), prompt: "Say hi in 3 words.", }) console.log(text) ``` _agent.ts_ `createAnyRouter()` reads your AnyRouter key from the `ANYROUTER_API_KEY` environment variable. That is your AnyRouter key from the [dashboard](https://anyrouter.dev/dashboard/keys), not the Token Plan key. AnyRouter adds the Token Plan key on the way out. ## See it in your logs Open the [request logs](https://anyrouter.dev/dashboard/logs). Your request appears within a second or two with its model, tokens and cost. ![The AnyRouter request log with four successful requests for qwen/qwen4-max.](https://anyrouter.dev/screenshots/qwencloud-token-plan-request-log-2026-11.jpg) ## Limits QwenCloud allows Token Plan only for interactive use in coding and agent tools, by the person who bought it. Do not use it for automation scripts, application backends or batch calls, and do not share the key. So Option B is for your own interactive agent and for development work on your own machine. It is not a way to run a product backend. Use a pay-as-you-go key for that. For the same reason, a Token Plan key can never be donated to the shared pool, and the pool is never used for it. AnyRouter does not offer it. Qwen4 Max is a preview. QwenCloud has said the preview ends on November 25, 2026. After that date, pick another Qwen model from the [QwenCloud Token Plan docs](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan). --- # 如何在 AnyRouter 上使用 QwenCloud Token Plan > 把你的 QwenCloud Token Plan key 添加到 AnyRouter,就能在 Claude Code 或用 Vercel AI SDK 自建的 agent 里运行 Qwen4 Max。不收额外费用,账单仍由你的套餐承担。 - Date: November 14, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/qwencloud-token-plan-byok ## Token Plan 是什么 [Token Plan](https://www.qwencloud.com/pricing/token-plan?region=ap-southeast-1) 是 QwenCloud 面向 Qwen 模型的包月套餐。你向 QwenCloud 支付固定价格,而不是按 token 付费。它的 API key 以 `sk-sp-` 开头,套餐按新加坡区域购买。 你可以把这个 key 作为自带 key(BYOK)添加到 AnyRouter。你的 key 处理的请求,AnyRouter 不收额外费用,也不扣积分。本文使用 `qwen/qwen4-max`。 ## 添加你的 key 在 QwenCloud 的 [API Keys 页面](https://home.qwencloud.com/api-keys)的 **Token Plan** 区域复制你的 key。要用以 `sk-sp-` 开头的 Token Plan key,按量付费的 key 在这里不能用。 **1. 打开 key 菜单。** 进入 [Qwen4 Max 页面](https://anyrouter.dev/model/qwen/qwen4-max)。在 **Upstreams** 表里找到 **QwenCloud Token Plan**,打开它的 **Key** 菜单,选择 **Add your key (BYOK)**。 ![Qwen4 Max 上游表中 QwenCloud Token Plan 一行的 Key 菜单,已展开到 Add your key (BYOK),并有箭头指向它。](https://anyrouter.dev/screenshots/qwencloud-token-plan-add-key-menu-2026-11.jpg) **2. 粘贴并添加 key。** AnyRouter 会立刻检查这个 key。key 有效时会显示 **Key works** 和它能调用的模型。点击 **Add key**。之后 key 会显示为 **Active** 和 **Verified**。AnyRouter 只显示它的掩码形式,你可以随时关闭或删除它。之后也可以在 [BYOK 页面](https://anyrouter.dev/dashboard/byok)添加。 ![QwenCloud Token Plan 的 key 对话框,一个已掩码的 key 标为 Active 和 Verified,提示这类 key 不能共享所以号池不可用,以及 Manage all keys in dashboard 链接。](https://anyrouter.dev/screenshots/qwencloud-token-plan-keys-dialog-2026-11.jpg) **3. 请求如何路由。** 你的 key 先应答,由 QwenCloud 计入你的套餐。如果你的 key 都无法应答,则由捐赠号池用你的 AnyRouter 积分应答。Token Plan key 不能共享,所以你的 key 永远不会加入这个号池。 ## 方式 A:编程 agent 如果你每天都在 Claude Code 里工作,用这个。第一条命令安装 AnyRouter CLI,第二条让 Claude Code 通过 AnyRouter 启动,并以 `qwen/qwen4-max` 作为本次会话的模型。第一次运行会引导你登录。 ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model qwen/qwen4-max ``` Claude Code 打开后,发一条消息。它会以你选的模型回答。 ```text Claude Code v2.1.325 qwen/qwen4-max with low effort · API Usage Billing ~/my-app ❯ Hello, what model are you? ● I’m the AI assistant in this session, currently running as Qwen4-Max (qwen/qwen4-max). ✻ Worked for 9s · done 10:36 PM ``` _qwen/qwen4-max 上的真实 Claude Code 会话_ `anyr codex`、`anyr opencode` 和 `anyr grok` 使用同样的 `--model` 参数。完整选项见 [Claude Code 指南](https://anyrouter.dev/docs/guides/claude-code)和 [QwenCloud Token Plan 文档](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan)。 ## 方式 B:用 Vercel AI SDK 自建 agent 如果你自己构建 agent,用这个。它用的是 [Vercel AI SDK](https://ai-sdk.dev),不是 OpenAI SDK。在它旁边安装 AnyRouter provider。 ```bash npm install @anyr/ai-sdk-provider ai ``` 然后用 AnyRouter 的模型 id 调用模型。 ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen4-max"), prompt: "Say hi in 3 words.", }) console.log(text) ``` _agent.ts_ `createAnyRouter()` 从环境变量 `ANYROUTER_API_KEY` 读取你的 AnyRouter key。它是[控制台](https://anyrouter.dev/dashboard/keys)里的 AnyRouter key,不是 Token Plan key。Token Plan key 由 AnyRouter 在发出请求时附上。 ## 在日志里查看 打开[请求日志](https://anyrouter.dev/dashboard/logs)。你的请求会在一两秒内出现,并显示模型、token 数和费用。 ![AnyRouter 请求日志,显示四个 qwen/qwen4-max 的成功请求。](https://anyrouter.dev/screenshots/qwencloud-token-plan-request-log-2026-11.jpg) ## 限制 QwenCloud 只允许购买者本人在编程和 agent 工具里交互式使用 Token Plan。不要把它用于自动化脚本、应用后端或批量调用,也不要共享 key。 所以方式 B 只适合你自己的交互式 agent,以及在自己机器上的开发工作。它不能用来运行产品后端。后端请用按量付费的 key。 出于同样的原因,Token Plan key 永远不能捐赠给共享号池,号池也永远不会用于它。AnyRouter 也不提供这个选项。 Qwen4 Max 是预览版。QwenCloud 表示预览版将于 2026 年 11 月 25 日结束。之后请从 [QwenCloud Token Plan 文档](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan)里换一个 Qwen 模型。 --- # Cách dùng QwenCloud Token Plan trên AnyRouter > Thêm key QwenCloud Token Plan vào AnyRouter, rồi chạy Qwen4 Max từ Claude Code hoặc từ agent bạn tự xây bằng Vercel AI SDK. Không thu phí thêm, và gói của bạn vẫn là hóa đơn. - Date: November 14, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/qwencloud-token-plan-byok ## Token Plan là gì [Token Plan](https://www.qwencloud.com/pricing/token-plan?region=ap-southeast-1) là gói theo tháng của QwenCloud cho các model Qwen. Bạn trả cho QwenCloud một mức giá cố định thay vì trả theo token. API key của gói bắt đầu bằng `sk-sp-`, và bạn mua gói cho khu vực Singapore. Bạn có thể thêm key này vào AnyRouter như một key tự mang (BYOK). AnyRouter không thu phí thêm và không trừ credit cho các request mà key của bạn phục vụ. Bài này dùng `qwen/qwen4-max`. ## Thêm key của bạn Sao chép key từ mục **Token Plan** trong [trang API Keys](https://home.qwencloud.com/api-keys) của QwenCloud. Dùng key Token Plan bắt đầu bằng `sk-sp-`. Key trả theo mức dùng không hoạt động ở đây. **1. Mở menu key.** Vào [trang Qwen4 Max](https://anyrouter.dev/model/qwen/qwen4-max). Trong bảng **Upstreams**, tìm **QwenCloud Token Plan**, mở menu **Key** của nó và chọn **Add your key (BYOK)**. ![Menu Key trên dòng QwenCloud Token Plan của bảng upstream Qwen4 Max, đang mở ở Add your key (BYOK), có mũi tên chỉ vào.](https://anyrouter.dev/screenshots/qwencloud-token-plan-add-key-menu-2026-11.jpg) **2. Dán key và thêm nó.** AnyRouter kiểm tra key ngay. Key hợp lệ hiện **Key works** cùng các model nó gọi được. Bấm **Add key**. Sau đó key hiện **Active** và **Verified**. AnyRouter chỉ hiện dạng đã che của key, và bạn có thể tắt hoặc xóa nó bất cứ lúc nào. Bạn cũng có thể thêm sau từ [trang BYOK](https://anyrouter.dev/dashboard/byok). ![Hộp thoại key QwenCloud Token Plan với một key đã che được đánh dấu Active và Verified, ghi chú rằng loại key này không thể chia sẻ nên không dùng được pool, và liên kết Manage all keys in dashboard.](https://anyrouter.dev/screenshots/qwencloud-token-plan-keys-dialog-2026-11.jpg) **3. Cách request được định tuyến.** Key của bạn trả lời trước, và QwenCloud tính phí vào gói của bạn. Nếu không key nào của bạn trả lời được, pool đóng góp sẽ trả lời bằng credit AnyRouter của bạn. Key Token Plan không thể chia sẻ, nên key của bạn không bao giờ được thêm vào pool đó. ## Cách A: agent viết code Dùng cách này khi bạn làm việc trong Claude Code mỗi ngày. Lệnh đầu cài AnyRouter CLI. Lệnh thứ hai khởi động Claude Code qua AnyRouter với `qwen/qwen4-max` làm model cho phiên. Lần chạy đầu sẽ đăng nhập cho bạn. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model qwen/qwen4-max ``` Khi Claude Code mở, hãy gửi một tin nhắn. Nó trả lời bằng model bạn đã chọn. ```text Claude Code v2.1.325 qwen/qwen4-max with low effort · API Usage Billing ~/my-app ❯ Hello, what model are you? ● I’m the AI assistant in this session, currently running as Qwen4-Max (qwen/qwen4-max). ✻ Worked for 9s · done 10:36 PM ``` _Một phiên Claude Code thật trên qwen/qwen4-max_ `anyr codex`, `anyr opencode` và `anyr grok` dùng cùng cờ `--model`. Toàn bộ tùy chọn nằm trong [hướng dẫn Claude Code](https://anyrouter.dev/docs/guides/claude-code) và [tài liệu QwenCloud Token Plan](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan). ## Cách B: agent của bạn với Vercel AI SDK Dùng cách này khi bạn tự xây agent. Nó dùng [Vercel AI SDK](https://ai-sdk.dev), không phải OpenAI SDK. Cài provider AnyRouter cạnh nó. ```bash npm install @anyr/ai-sdk-provider ai ``` Rồi gọi model bằng id của AnyRouter. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen4-max"), prompt: "Say hi in 3 words.", }) console.log(text) ``` _agent.ts_ `createAnyRouter()` đọc key AnyRouter của bạn từ biến môi trường `ANYROUTER_API_KEY`. Đó là key AnyRouter trong [dashboard](https://anyrouter.dev/dashboard/keys), không phải key Token Plan. AnyRouter gắn key Token Plan khi gửi request đi. ## Xem trong log của bạn Mở [log request](https://anyrouter.dev/dashboard/logs). Request của bạn hiện ra trong một hai giây cùng model, token và chi phí. ![Log request của AnyRouter với bốn request thành công cho qwen/qwen4-max.](https://anyrouter.dev/screenshots/qwencloud-token-plan-request-log-2026-11.jpg) ## Giới hạn QwenCloud chỉ cho phép dùng Token Plan tương tác trong các công cụ viết code và agent, bởi chính người mua. Không dùng cho script tự động, backend ứng dụng hay gọi hàng loạt, và không chia sẻ key. Vì vậy Cách B chỉ dành cho agent tương tác của riêng bạn và việc phát triển trên máy của bạn. Nó không phải cách để chạy backend sản phẩm. Hãy dùng key trả theo mức dùng cho việc đó. Cùng lý do, key Token Plan không bao giờ được đóng góp vào pool chung, và pool cũng không bao giờ được dùng cho nó. AnyRouter không cung cấp lựa chọn đó. Qwen4 Max là bản xem trước. QwenCloud cho biết bản xem trước kết thúc vào ngày 25 tháng 11 năm 2026. Sau ngày đó, hãy chọn model Qwen khác trong [tài liệu QwenCloud Token Plan](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan). --- # Cheap models worth trying: prices and scores side by side > Eight low-cost LLMs ranked by GPQA Diamond score per dollar, and the decision models you can call with an AnyRouter key. Every price and score comes from our catalog. - Date: November 14, 2026 - Category: data - HTML: https://anyrouter.dev/blog/cheap-models-worth-trying ## Why this list A cheap model is only cheap if it does the job. So we took every chat model in the AnyRouter catalog that has a published GPQA Diamond score and a price above $0, and divided the score by the price. The tables below are the result on November 14, 2026. They also list the decision models you can call with only an AnyRouter key. ## Eight LLMs to try These are the eight best scores per dollar among models that score at least 80% on GPQA Diamond. The list is ordered by score per dollar. | Model | Owner | Price in / out per 1M | Context | GPQA Diamond | Score per $ | Access | | --- | --- | --- | --- | --- | --- | --- | | [Qwen3.7 Flash](https://anyrouter.dev/model/qwen/qwen3.7-flash) | qwen | $0.01 / $0.06 (list) | 1M | 82.3% · Epoch AI · 2026-11-09 | 33.9 | Pool · BYOK | | [GPT-6 Luna](https://anyrouter.dev/model/openai/gpt-6-luna) | openai | $0.02 / $0.10 (80% off) | 1.1M | 90.5% · Epoch AI · 2026-11-09 | 22.6 | Credits · Pool · BYOK | | [DeepSeek V4.1 Flash](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) | deepseek | $0.04 / $0.14 (list) | 1M | 89.8% · Epoch AI · 2026-11-09 | 13.6 | Pool · BYOK | | [GPT-5.6 Luna](https://anyrouter.dev/model/openai/gpt-5.6-luna) | openai | $0.04 / $0.24 (80% off) | 1.1M | 85.9% · Artificial Analysis · 2026-07-30 | 9.5 | Credits · Pool · BYOK | | [GLM-5.3](https://anyrouter.dev/model/z-ai/glm-5.3) | z-ai | $0.06 / $0.22 (list) | 1M | 90.9% · Epoch AI · 2026-11-09 | 9.1 | Pool · BYOK | | [DeepSeek V4.1 Flash 1017](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash-1017) | deepseek | $0.07 / $0.30 (list) | 1M | 93.2% · Epoch AI · 2026-11-09 | 7.1 | Pool · BYOK | | [MiMo V2.5](https://anyrouter.dev/model/xiaomi/mimo-v2.5) | xiaomi | $0.12 / $0.24 (list) | 1.1M | 84.9% · Artificial Analysis · 2026-07-30 | 5.7 | Pool · BYOK | | [Step 3.5 Flash](https://anyrouter.dev/model/stepfun-ai/step-3.5-flash) | stepfun-ai | $0.10 / $0.30 (list) | 262K | 83.1% · Artificial Analysis · 2026-07-30 | 5.5 | Pool · BYOK | Both GPT Luna rows are 80% off their list price as of November 14, 2026: GPT-6 Luna lists at $0.10 / $0.50 and GPT-5.6 Luna at $0.20 / $1.20. If the discount ends, their score per dollar drops. **Credits** means AnyRouter serves the model and bills your credits. **BYOK** means you add your own provider key, the provider bills you, and AnyRouter adds no markup. **Pool** means donated keys can serve it on paid plans. Prices marked (list) are the lowest provider list price on a BYOK route. Provider prices can differ a lot: GLM-5.3 lists at $0.06 / $0.22 on an AIHubMix preview listing and at $1.40 / $4.40 on most other providers. Models that are free with Go are left out of the ranking, because a $0 price has no score per dollar. See them on the [models page](https://anyrouter.dev/models?f=free). ## Decision models Decision models answer typed questions about a piece of text with a calibrated probability. They generate no chat text, so they bill input tokens only. Our catalog stores no benchmark score for any decision model, so this table compares price, access and what each one is for. | Model | Owner | Price in / out per 1M | Context | Access | Good for | | --- | --- | --- | --- | --- | --- | | [AnyRouter Decision](https://anyrouter.dev/model/anyrouter/decision) | anyrouter | $0 / $0 | Varies | Free with Go · 5-request trial on Free | General yes/no, choice and score questions | | [Drex Max Finance](https://anyrouter.dev/model/nace-ai/drex-max-finance) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | Invoice, fraud, credit and filing checks, with images | | [Drex Max v1.1](https://anyrouter.dev/model/nace-ai/drex-max-v1.1) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | Decisions over text plus up to 8 images | | [SubQ Snap 1.2](https://anyrouter.dev/model/subquadratic/subq-snap-1.2) | subquadratic | $0.04 / $0 | 393K | Credits · BYOK | Long inputs, text and images | | [Drex v1.5](https://anyrouter.dev/model/nace-ai/drex-v1.5) | nace-ai | $0.05 / $0 | 131K | Credits · Pool · BYOK | Small and cheap, long text state | | [Drex v2.0](https://anyrouter.dev/model/nace-ai/drex-v2.0) | nace-ai | $0.06 / $0 | 8K | Credits · BYOK | Routing, classification and policy checks on short state | `anyrouter/decision` routes to the decision models AnyRouter serves at $0 on its own keys. It is free on Go and up, with a 5-request trial on the Free plan. The other rows are called by name and bill credits at the price shown. ## When to use which - Chat, code or tool use on a budget, with only an AnyRouter key: start with GPT-6 Luna. - You already pay a provider such as OpenRouter: add that key and try Qwen3.7 Flash or DeepSeek V4.1 Flash at no markup. - A yes/no, choice or score answer you feed into code: use `anyrouter/decision`, or a Drex model for finance or image checks. ## Try them A chat request with your AnyRouter key: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "openai/gpt-6-luna", "messages": [ { "role": "user", "content": "Explain NAT in one sentence." } ], "max_tokens": 200 }' ``` A decision request: ```bash curl -sS https://anyrouter.dev/api/v1/decisions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "anyrouter/decision", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` Run decisions in the browser on the [Decisions app](https://anyrouter.dev/apps/decisions). The request shapes are in the [Chat Completions](https://anyrouter.dev/docs/api-reference/chat-completions) and [Decisions](https://anyrouter.dev/docs/api-reference/systemone) API reference. Add a provider key with the [BYOK guide](https://anyrouter.dev/docs/features/byok). ## How we got the numbers Every number comes from the AnyRouter catalog on November 14, 2026. The score is GPQA Diamond, a graduate-level science question set. Each score is reported by Epoch AI or Artificial Analysis, as the table says, and the date is when we last pulled that source. Each price is the one the models page shows. For a Credits row it is the price AnyRouter bills, including any running discount. For a BYOK row it is the lowest list price among the providers that serve it, and other providers can charge more. Score per dollar is the GPQA Diamond fraction divided by a blended price per 1M tokens, weighting input 3 to 1 over output, computed from the unrounded prices. It measures one benchmark and one price mix. It does not measure speed, and your own prompts may rank the models differently. Prices and discounts change, so check the model page before you commit. --- # 值得一试的低价模型:价格和得分并排对比 > 按每美元 GPQA Diamond 得分排出的八个低价 LLM,以及只用 AnyRouter key 就能调用的决策模型。每个价格和得分都来自我们的模型目录。 - Date: November 14, 2026 - Category: data - HTML: https://anyrouter.dev/blog/zh/cheap-models-worth-trying ## 为什么做这份清单 便宜的模型只有在能完成任务时才算便宜。所以我们取出 AnyRouter 目录里所有公布了 GPQA Diamond 得分、价格高于 $0 的聊天模型,用得分除以价格。 下面的表格是 2026 年 11 月 14 日的结果。表格里也列出了只用 AnyRouter key 就能调用的决策模型。 ## 八个值得试的 LLM 这是 GPQA Diamond 得分至少 80% 的模型中,每美元得分最高的八个,按每美元得分排序。 | 模型 | 厂商 | 每 1M 输入 / 输出价格 | 上下文 | GPQA Diamond | 每美元得分 | 使用方式 | | --- | --- | --- | --- | --- | --- | --- | | [Qwen3.7 Flash](https://anyrouter.dev/model/qwen/qwen3.7-flash) | qwen | $0.01 / $0.06 (list) | 1M | 82.3% · Epoch AI · 2026-11-09 | 33.9 | Pool · BYOK | | [GPT-6 Luna](https://anyrouter.dev/model/openai/gpt-6-luna) | openai | $0.02 / $0.10 (80% off) | 1.1M | 90.5% · Epoch AI · 2026-11-09 | 22.6 | Credits · Pool · BYOK | | [DeepSeek V4.1 Flash](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) | deepseek | $0.04 / $0.14 (list) | 1M | 89.8% · Epoch AI · 2026-11-09 | 13.6 | Pool · BYOK | | [GPT-5.6 Luna](https://anyrouter.dev/model/openai/gpt-5.6-luna) | openai | $0.04 / $0.24 (80% off) | 1.1M | 85.9% · Artificial Analysis · 2026-07-30 | 9.5 | Credits · Pool · BYOK | | [GLM-5.3](https://anyrouter.dev/model/z-ai/glm-5.3) | z-ai | $0.06 / $0.22 (list) | 1M | 90.9% · Epoch AI · 2026-11-09 | 9.1 | Pool · BYOK | | [DeepSeek V4.1 Flash 1017](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash-1017) | deepseek | $0.07 / $0.30 (list) | 1M | 93.2% · Epoch AI · 2026-11-09 | 7.1 | Pool · BYOK | | [MiMo V2.5](https://anyrouter.dev/model/xiaomi/mimo-v2.5) | xiaomi | $0.12 / $0.24 (list) | 1.1M | 84.9% · Artificial Analysis · 2026-07-30 | 5.7 | Pool · BYOK | | [Step 3.5 Flash](https://anyrouter.dev/model/stepfun-ai/step-3.5-flash) | stepfun-ai | $0.10 / $0.30 (list) | 262K | 83.1% · Artificial Analysis · 2026-07-30 | 5.5 | Pool · BYOK | 截至 2026 年 11 月 14 日,两个 GPT Luna 都比标价低 80%:GPT-6 Luna 标价 $0.10 / $0.50,GPT-5.6 Luna 标价 $0.20 / $1.20。折扣结束后,它们的每美元得分会下降。 **Credits** 表示由 AnyRouter 提供服务并从你的额度扣费。**BYOK** 表示你添加自己的服务商 key,由服务商向你收费,AnyRouter 不加价。**Pool** 表示付费套餐下可以由捐赠的 key 提供服务。标有 (list) 的价格是 BYOK 路线上最低的服务商标价。不同服务商的价格可能差很多:GLM-5.3 在 AIHubMix 的预览版上标价 $0.06 / $0.22,在大多数其他服务商标价 $1.40 / $4.40。 Go 套餐免费的模型没有参与排名,因为 $0 的价格算不出每美元得分。可以在[模型页面](https://anyrouter.dev/models?f=free)查看它们。 ## 决策模型 决策模型针对一段文本回答带类型的问题,并给出校准后的概率。它们不生成聊天文本,所以只按输入 token 计费。我们的目录里没有任何决策模型的基准得分,所以这张表比较价格、使用方式和各自的用途。 | 模型 | 厂商 | 每 1M 输入 / 输出价格 | 上下文 | 使用方式 | 适合 | | --- | --- | --- | --- | --- | --- | | [AnyRouter Decision](https://anyrouter.dev/model/anyrouter/decision) | anyrouter | $0 / $0 | 不固定 | Go 及以上免费 · Free 套餐可试用 5 次 | 通用的是/否、选择和打分问题 | | [Drex Max Finance](https://anyrouter.dev/model/nace-ai/drex-max-finance) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | 发票、欺诈、信用和申报检查,可带图片 | | [Drex Max v1.1](https://anyrouter.dev/model/nace-ai/drex-max-v1.1) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | 文本加最多 8 张图片的决策 | | [SubQ Snap 1.2](https://anyrouter.dev/model/subquadratic/subq-snap-1.2) | subquadratic | $0.04 / $0 | 393K | Credits · BYOK | 长输入,文本和图片 | | [Drex v1.5](https://anyrouter.dev/model/nace-ai/drex-v1.5) | nace-ai | $0.05 / $0 | 131K | Credits · Pool · BYOK | 小巧便宜,长文本状态 | | [Drex v2.0](https://anyrouter.dev/model/nace-ai/drex-v2.0) | nace-ai | $0.06 / $0 | 8K | Credits · BYOK | 短状态下的路由、分类和策略检查 | `anyrouter/decision` 会路由到 AnyRouter 用自己的 key 以 $0 提供的决策模型。Go 及以上套餐免费,Free 套餐可以试用 5 次。其他行按名称调用,按表中价格从额度扣费。 ## 怎么选 - 预算有限、只有 AnyRouter key,要做聊天、代码或工具调用:先试 GPT-6 Luna。 - 你已经在为 OpenRouter 这类服务商付费:添加那个 key,不加价地试试 Qwen3.7 Flash 或 DeepSeek V4.1 Flash。 - 需要把是/否、选择或打分结果交给代码处理:用 `anyrouter/decision`,金融或图片检查用 Drex 模型。 ## 动手试试 用你的 AnyRouter key 发一个聊天请求: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "openai/gpt-6-luna", "messages": [ { "role": "user", "content": "Explain NAT in one sentence." } ], "max_tokens": 200 }' ``` 一个决策请求: ```bash curl -sS https://anyrouter.dev/api/v1/decisions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "anyrouter/decision", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` 在浏览器里用 [Decisions 应用](https://anyrouter.dev/apps/decisions)运行决策。请求格式见 [Chat Completions](https://anyrouter.dev/docs/api-reference/chat-completions) 和 [Decisions](https://anyrouter.dev/docs/api-reference/systemone) API 参考。添加服务商 key 请看 [BYOK 指南](https://anyrouter.dev/docs/features/byok)。 ## 数字从哪里来 所有数字都来自 2026 年 11 月 14 日的 AnyRouter 模型目录。得分是 GPQA Diamond,一套研究生水平的科学题。每个得分由 Epoch AI 或 Artificial Analysis 报告,表中已注明,日期是我们最后一次拉取该来源的时间。每个价格都与模型页面显示的一致。Credits 行是 AnyRouter 实际收取的价格,包含正在进行的折扣。BYOK 行是提供该模型的服务商中最低的标价,其他服务商可能更贵。每美元得分是 GPQA Diamond 的比例除以每 1M token 的混合价格,输入和输出按 3 比 1 加权,用未取整的价格计算。它只衡量一个基准和一种价格组合,不衡量速度,你自己的提示词可能会得出不同的排名。价格和折扣会变,决定前请先看模型页面。 --- # Mô hình giá rẻ đáng thử: giá và điểm đặt cạnh nhau > Tám LLM giá rẻ xếp theo điểm GPQA Diamond trên mỗi đô la, cùng các mô hình quyết định bạn gọi được chỉ với key AnyRouter. Mọi giá và điểm đều lấy từ danh mục của chúng tôi. - Date: November 14, 2026 - Category: data - HTML: https://anyrouter.dev/blog/vi/cheap-models-worth-trying ## Vì sao có danh sách này Một mô hình rẻ chỉ thật sự rẻ khi nó làm được việc. Vì vậy chúng tôi lấy mọi mô hình chat trong danh mục AnyRouter có điểm GPQA Diamond được công bố và giá trên $0, rồi chia điểm cho giá. Các bảng dưới đây là kết quả ngày 14 tháng 11 năm 2026. Chúng cũng liệt kê các mô hình quyết định bạn gọi được chỉ với key AnyRouter. ## Tám LLM nên thử Đây là tám mô hình có điểm trên mỗi đô la cao nhất trong số các mô hình đạt ít nhất 80% trên GPQA Diamond, xếp theo điểm trên mỗi đô la. | Mô hình | Hãng | Giá vào / ra mỗi 1M | Ngữ cảnh | GPQA Diamond | Điểm mỗi $ | Cách dùng | | --- | --- | --- | --- | --- | --- | --- | | [Qwen3.7 Flash](https://anyrouter.dev/model/qwen/qwen3.7-flash) | qwen | $0.01 / $0.06 (list) | 1M | 82.3% · Epoch AI · 2026-11-09 | 33.9 | Pool · BYOK | | [GPT-6 Luna](https://anyrouter.dev/model/openai/gpt-6-luna) | openai | $0.02 / $0.10 (80% off) | 1.1M | 90.5% · Epoch AI · 2026-11-09 | 22.6 | Credits · Pool · BYOK | | [DeepSeek V4.1 Flash](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) | deepseek | $0.04 / $0.14 (list) | 1M | 89.8% · Epoch AI · 2026-11-09 | 13.6 | Pool · BYOK | | [GPT-5.6 Luna](https://anyrouter.dev/model/openai/gpt-5.6-luna) | openai | $0.04 / $0.24 (80% off) | 1.1M | 85.9% · Artificial Analysis · 2026-07-30 | 9.5 | Credits · Pool · BYOK | | [GLM-5.3](https://anyrouter.dev/model/z-ai/glm-5.3) | z-ai | $0.06 / $0.22 (list) | 1M | 90.9% · Epoch AI · 2026-11-09 | 9.1 | Pool · BYOK | | [DeepSeek V4.1 Flash 1017](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash-1017) | deepseek | $0.07 / $0.30 (list) | 1M | 93.2% · Epoch AI · 2026-11-09 | 7.1 | Pool · BYOK | | [MiMo V2.5](https://anyrouter.dev/model/xiaomi/mimo-v2.5) | xiaomi | $0.12 / $0.24 (list) | 1.1M | 84.9% · Artificial Analysis · 2026-07-30 | 5.7 | Pool · BYOK | | [Step 3.5 Flash](https://anyrouter.dev/model/stepfun-ai/step-3.5-flash) | stepfun-ai | $0.10 / $0.30 (list) | 262K | 83.1% · Artificial Analysis · 2026-07-30 | 5.5 | Pool · BYOK | Tính đến ngày 14 tháng 11 năm 2026, cả hai dòng GPT Luna đang giảm 80% so với giá niêm yết: GPT-6 Luna niêm yết $0.10 / $0.50 và GPT-5.6 Luna niêm yết $0.20 / $1.20. Khi hết giảm giá, điểm trên mỗi đô la của chúng sẽ giảm. **Credits** nghĩa là AnyRouter phục vụ mô hình và trừ vào số dư của bạn. **BYOK** nghĩa là bạn thêm key nhà cung cấp của mình, nhà cung cấp tính phí bạn, và AnyRouter không cộng thêm phí. **Pool** nghĩa là key được quyên góp có thể phục vụ mô hình trên các gói trả phí. Giá ghi (list) là giá niêm yết thấp nhất của nhà cung cấp trên tuyến BYOK. Giá giữa các nhà cung cấp có thể chênh nhiều: GLM-5.3 niêm yết $0.06 / $0.22 trên bản xem trước của AIHubMix và $1.40 / $4.40 ở hầu hết nhà cung cấp khác. Các mô hình miễn phí với Go không được xếp hạng, vì giá $0 không có điểm trên mỗi đô la. Xem chúng trên [trang mô hình](https://anyrouter.dev/models?f=free). ## Mô hình quyết định Mô hình quyết định trả lời các câu hỏi có kiểu về một đoạn văn bản bằng xác suất đã hiệu chỉnh. Chúng không sinh văn bản chat, nên chỉ tính phí token đầu vào. Danh mục của chúng tôi chưa lưu điểm benchmark nào cho mô hình quyết định, nên bảng này so sánh giá, cách dùng và mục đích của từng mô hình. | Mô hình | Hãng | Giá vào / ra mỗi 1M | Ngữ cảnh | Cách dùng | Phù hợp cho | | --- | --- | --- | --- | --- | --- | | [AnyRouter Decision](https://anyrouter.dev/model/anyrouter/decision) | anyrouter | $0 / $0 | Thay đổi | Miễn phí với Go · Dùng thử 5 yêu cầu trên Free | Câu hỏi có/không, lựa chọn và chấm điểm chung | | [Drex Max Finance](https://anyrouter.dev/model/nace-ai/drex-max-finance) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | Kiểm tra hóa đơn, gian lận, tín dụng và hồ sơ, có ảnh | | [Drex Max v1.1](https://anyrouter.dev/model/nace-ai/drex-max-v1.1) | nace-ai | $0.03 / $0 | 262K | Credits · BYOK | Quyết định trên văn bản kèm tối đa 8 ảnh | | [SubQ Snap 1.2](https://anyrouter.dev/model/subquadratic/subq-snap-1.2) | subquadratic | $0.04 / $0 | 393K | Credits · BYOK | Đầu vào dài, văn bản và ảnh | | [Drex v1.5](https://anyrouter.dev/model/nace-ai/drex-v1.5) | nace-ai | $0.05 / $0 | 131K | Credits · Pool · BYOK | Nhỏ, rẻ, trạng thái văn bản dài | | [Drex v2.0](https://anyrouter.dev/model/nace-ai/drex-v2.0) | nace-ai | $0.06 / $0 | 8K | Credits · BYOK | Định tuyến, phân loại và kiểm tra chính sách trên trạng thái ngắn | `anyrouter/decision` định tuyến tới các mô hình quyết định mà AnyRouter phục vụ với giá $0 trên key của chính mình. Nó miễn phí từ gói Go trở lên, và gói Free được dùng thử 5 yêu cầu. Các dòng còn lại được gọi theo tên và trừ số dư theo giá trong bảng. ## Khi nào dùng mô hình nào - Chat, code hoặc gọi công cụ với ngân sách thấp, chỉ có key AnyRouter: bắt đầu với GPT-6 Luna. - Bạn đã trả tiền cho một nhà cung cấp như OpenRouter: thêm key đó và thử Qwen3.7 Flash hoặc DeepSeek V4.1 Flash mà không bị cộng phí. - Cần câu trả lời có/không, lựa chọn hoặc điểm để đưa vào code: dùng `anyrouter/decision`, hoặc một mô hình Drex cho kiểm tra tài chính hay ảnh. ## Thử ngay Một yêu cầu chat với key AnyRouter của bạn: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "openai/gpt-6-luna", "messages": [ { "role": "user", "content": "Explain NAT in one sentence." } ], "max_tokens": 200 }' ``` Một yêu cầu quyết định: ```bash curl -sS https://anyrouter.dev/api/v1/decisions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "state": "Help! My payouts have been failing for 3 days.", "model": "anyrouter/decision", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this convey urgency?" } } }' ``` Chạy quyết định trên trình duyệt bằng [ứng dụng Decisions](https://anyrouter.dev/apps/decisions). Cấu trúc yêu cầu có trong tài liệu API [Chat Completions](https://anyrouter.dev/docs/api-reference/chat-completions) và [Decisions](https://anyrouter.dev/docs/api-reference/systemone). Thêm key nhà cung cấp theo [hướng dẫn BYOK](https://anyrouter.dev/docs/features/byok). ## Chúng tôi lấy số liệu thế nào Mọi con số đều lấy từ danh mục AnyRouter ngày 14 tháng 11 năm 2026. Điểm là GPQA Diamond, bộ câu hỏi khoa học trình độ sau đại học. Mỗi điểm do Epoch AI hoặc Artificial Analysis báo cáo, như bảng ghi, và ngày là lần cuối chúng tôi lấy dữ liệu từ nguồn đó. Mỗi giá là giá mà trang mô hình hiển thị. Với dòng Credits, đó là giá AnyRouter tính, gồm cả giảm giá đang chạy. Với dòng BYOK, đó là giá niêm yết thấp nhất trong các nhà cung cấp phục vụ mô hình, và nhà cung cấp khác có thể tính cao hơn. Điểm trên mỗi đô la là tỷ lệ GPQA Diamond chia cho giá pha trộn mỗi 1M token, với đầu vào nặng gấp 3 lần đầu ra, tính từ giá chưa làm tròn. Nó chỉ đo một benchmark và một tỷ lệ giá. Nó không đo tốc độ, và prompt của bạn có thể cho thứ hạng khác. Giá và giảm giá có thể thay đổi, nên hãy xem trang mô hình trước khi quyết định. --- # How we cut our D1 bill by moving request logs to Cloudflare Basin > AnyRouter wrote about 100M rows a month to D1, almost all of it request logs. We stopped logging refusals nobody reads and moved the full log to Cloudflare Basin, which stores it as Iceberg tables. This post covers the numbers, the design, and the tradeoffs. - Date: November 7, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/d1-bill-request-logs-basin ## D1 cost was row writes D1 bills per million rows written after an included monthly allowance. Every index on a table adds one billed row per insert, and row size does not matter. Storage is charged per GB-month after an included allowance. On 7 November 2026 we measured 3.2 to 4.0M rows written per day. That is about 100M a month, about 2x the included monthly allowance. The peak was 8.7M in a day on 27 October, and earlier fixes had already halved it. The database file was 6.45 GB, so storage was not the problem. The top writers over 24 hours were all request logs: - `INSERT INTO generations`: 1.565M rows from 141k calls, about 11 rows each, because the table has 14 indexes. - `INSERT INTO generation_attempts`: 583k rows from 117k calls, about 5 each. - The hourly rollup `workspace_usage_hourly`: 213k rows from 85 calls. ## Most of it was refusals Of the 110k `generations` rows written per day, 63k had status `rejected`. 54k of those came from one API key that swept 286 BYOK-only models every 4 minutes, with no BYOK key attached. Each refusal wrote about 16 D1 rows for a 4xx response that nobody reads. We checked the indexes first. No unused index is left on `generations` or `generation_attempts`, because earlier migrations already dropped 14. Dropping indexes was not a lever. ## Fix 1: refusals write no D1 row A request that is refused before any upstream is tried now writes no D1 row. That covers a BYOK-only model without a key, an unknown model, a key that is not allowed to use the model, and the billing and free-model gates. The count is not lost. Analytics Engine still counts every refusal by error code, and the Logs page shows an "N requests refused" note. One case keeps its row on purpose: a platform-side empty dispatch, where the router fails a model it should serve. Route health reads those rows. We checked this on production. The sweeper's rows went from about 620 per 10 minutes to 0. ## Fix 2: the full log goes to Basin Refusals were the largest single source, but not the only one. Every successful request still wrote about 16 rows, and the log grows with traffic. So we moved the full log out of D1. Cloudflare Basin is a data lake product. A Pipelines stream takes typed records from a Worker binding and writes them as Parquet files into an Iceberg table in an R2 bucket. You query the table with Basin SQL. We created three streams, each with a typed schema: - `generations`: 66 columns, covering every D1 column. - `generation_attempts`: 29 columns. - `generation_bodies`: 12 columns, with the full request and response text, up to 1 MB per side. Requests under zero data retention are never stored. Each stream sinks to its own table in one Basin Catalog bucket, as Parquet with zstd compression. A file rolls every 300 seconds, and automatic compaction merges files toward a 128 MB target. The writes come from the existing telemetry Worker over a service binding, so they run on that Worker's own CPU budget and not on the gateway's request path. The gateway log sync sends captured bodies from the workflow Worker. A unit test fails if a D1 column is missing from the Basin schema, because Basin drops records that do not match. ```ts // Pipelines binding declared in wrangler.jsonc await env.BASIN_GENERATIONS.send([ { id: row.id, model_id: row.model_id, status: row.status, cost_usd: row.cost_usd, created_at: "2026-11-07T10:15:00Z", // ...the rest of the schema's columns, null when missing }, ]) // Basin SQL, run against the Iceberg table const query = ` SELECT model_id, COUNT(*), SUM(cost_usd) FROM anyrouter.generations_v1 WHERE created_at > now() - INTERVAL '1 day' GROUP BY 1 ORDER BY 2 DESC LIMIT 20 ` ``` _One send per batch from the telemetry Worker, then the kind of query we run for cost by model. The real record carries all 66 columns of the schema._ ## What it costs Pipelines ingest is free, with 50 GB a month of transforms and sink included, then usage-based pricing per GB for transforms and for Parquet and Iceberg sinks. R2 storage is charged per GB-month with an included allowance. Basin Catalog includes 1M operations a month. Basin SQL is charged per TB scanned, with an included monthly allowance and a small minimum per query. Our volume is about 260k log rows a day, which is roughly 6 to 12 GB a month uncompressed. That fits inside the included allowances at today's traffic, so the Basin path adds effectively no extra cost today. Here is how the two compare as traffic grows, in relative terms: | Traffic | D1 per month | Basin per month | | --- | --- | --- | | 1x (today) | about 100M rows written | about 6–12 GB, inside included allowance | | 10x | about 1B rows written | about 60–120 GB, 1 order of magnitude cheaper | | 100x | about 10B rows written | about 0.6–1.2 TB, 1 order of magnitude cheaper | D1 cost scales with rows written, and each index multiplies it. Basin cost scales with bytes stored and scanned. ## What we gave up Basin SQL runs at analytics speed, which means seconds and not milliseconds. New rows appear after minutes, because of batching. Iceberg is append-only, so a row is written once at its final state, and deletes need care. So D1 stays the hot store. The Logs page still reads D1, which is fast and updatable. Basin is the system of record for history, analytics and future datasets. It keeps everything with no deletion, and the dashboard only limits what it shows. Three constraints are worth knowing before you copy this. A stream schema cannot change after creation, so a change means a new stream and a new table name such as `generations_v2`. A sink cannot target an existing Iceberg table. And records that do not match the schema are dropped silently, so we watch the Pipelines user error metrics after any change to the mapper. ## How the decision was made anybot agent made this design decision. It analyzed the system, measured where the writes came from, compared the options on cost, and chose the cheapest one that kept the Logs page working. The owner reviewed the decision before it shipped. Next, we plan to backfill the existing D1 history into Basin, then move free-request logs off D1, make the hourly rollup rewrite only the hours that changed, and fold our older R2 archives into Basin. Those archives are an NDJSON lakehouse, AI Gateway log shards, and a daily D1 copy job. --- # 我们如何把请求日志迁到 Cloudflare Basin,降低 D1 账单 > AnyRouter 每月向 D1 写入约 1 亿行,几乎全是请求日志。我们不再记录没人看的拒绝请求,并把完整日志迁到 Cloudflare Basin,以 Iceberg 表存储。本文介绍数据、设计和取舍。 - Date: November 7, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/d1-bill-request-logs-basin ## D1 成本来自行写入 D1 在每月包含的额度之后,按每百万行写入计费。表上的每个索引会让每次插入多计一行,行的大小不影响计费。存储在包含额度之后按每 GB 每月计费。 2026 年 11 月 7 日,我们测得每天写入 320 万到 400 万行,约合每月 1 亿行,约为每月包含额度的 2 倍。峰值出现在 10 月 27 日,单日 870 万行,之前的修复已经让它减半。数据库文件为 6.45 GB,所以存储不是问题。 24 小时内写入最多的都是请求日志: - `INSERT INTO generations`:来自 14.1 万次调用的 156.5 万行,每次约 11 行,因为这张表有 14 个索引。 - `INSERT INTO generation_attempts`:来自 11.7 万次调用的 58.3 万行,每次约 5 行。 - 每小时汇总 `workspace_usage_hourly`:来自 85 次调用的 21.3 万行。 ## 大部分是被拒绝的请求 每天写入的 11 万行 `generations` 中,有 6.3 万行状态为 `rejected`。其中 5.4 万行来自同一个 API 密钥,它每 4 分钟扫描 286 个仅限 BYOK 的模型,却没有绑定任何 BYOK 密钥。每次拒绝要写约 16 行 D1 数据,换来的是一个没人看的 4xx 响应。 我们先查了索引。`generations` 和 `generation_attempts` 上已经没有未使用的索引,因为之前的迁移已经删掉了 14 个。删索引这条路走不通。 ## 修复一:拒绝请求不再写 D1 在尝试任何上游之前就被拒绝的请求,现在不再写 D1 行。这包括没有密钥的仅限 BYOK 模型、未知模型、密钥无权使用该模型,以及计费和免费模型的限制。 计数并没有丢。Analytics Engine 仍按错误码统计每一次拒绝,日志页会显示“N 个请求被拒绝”的提示。有一种情况特意保留了行:平台侧的空分发,也就是路由器没能为本该可用的模型找到路由。路由健康度要读这些行。 我们在生产环境验证过:该扫描密钥产生的行数从每 10 分钟约 620 行降到 0。 ## 修复二:完整日志写入 Basin 拒绝请求是最大的单一来源,但不是唯一来源。每个成功的请求仍会写约 16 行,而且日志随流量增长。所以我们把完整日志移出了 D1。 Cloudflare Basin 是一个数据湖产品。Pipelines 流从 Worker 绑定接收带类型的记录,并以 Parquet 文件写入 R2 存储桶中的 Iceberg 表。你可以用 Basin SQL 查询这些表。我们创建了三个流,各有带类型的 schema: - `generations`:66 列,覆盖 D1 的每一列。 - `generation_attempts`:29 列。 - `generation_bodies`:12 列,保存完整的请求和响应文本,每侧最多 1 MB。零数据留存的请求不会被存储。 每个流写入同一个 Basin Catalog 存储桶中各自的表,格式为 Parquet,使用 zstd 压缩。文件每 300 秒滚动一次,自动压缩会把文件合并到 128 MB 的目标大小。 写入来自现有的遥测 Worker,通过服务绑定调用,所以占用的是该 Worker 自己的 CPU 预算,不在网关的请求路径上。网关日志同步从工作流 Worker 发送捕获的请求体。如果 D1 的某一列没有出现在 Basin 的 schema 中,单元测试会失败,因为 Basin 会丢弃与 schema 不匹配的记录。 ```ts // Pipelines binding declared in wrangler.jsonc await env.BASIN_GENERATIONS.send([ { id: row.id, model_id: row.model_id, status: row.status, cost_usd: row.cost_usd, created_at: "2026-11-07T10:15:00Z", // ...the rest of the schema's columns, null when missing }, ]) // Basin SQL, run against the Iceberg table const query = ` SELECT model_id, COUNT(*), SUM(cost_usd) FROM anyrouter.generations_v1 WHERE created_at > now() - INTERVAL '1 day' GROUP BY 1 ORDER BY 2 DESC LIMIT 20 ` ``` _遥测 Worker 每批发送一次,然后是我们按模型查看成本的那类查询。真实记录包含 schema 的全部 66 列。_ ## 成本 Pipelines 的写入免费,每月包含 50 GB 的转换和写出,之后按每 GB 的使用量计转换和 Parquet 与 Iceberg 写出的费用。R2 存储按每 GB 每月计费,有包含额度。Basin Catalog 每月包含 100 万次操作。Basin SQL 按每 TB 扫描量计费,每月有包含额度,每次查询有较小的最低计费量。 我们的量约为每天 26 万行日志,未压缩时每月约 6 到 12 GB。按目前流量,这一量落在包含额度内,所以走 Basin 这条路今天几乎不增加成本。下面是流量增长时两者的对比,按相对规模表示: | 流量 | D1 每月 | Basin 每月 | | --- | --- | --- | | 1 倍(现在) | 约 1 亿行写入 | 约 6–12 GB,落在包含额度内 | | 10 倍 | 约 10 亿行写入 | 约 60–120 GB,便宜约一个数量级 | | 100 倍 | 约 100 亿行写入 | 约 0.6–1.2 TB,便宜约一个数量级 | D1 的成本随写入行数增长,每个索引还会成倍放大。Basin 的成本随存储和扫描的字节数增长。 ## 我们放弃了什么 Basin SQL 以分析型速度运行,也就是秒级而不是毫秒级。新行因为批量写入,要几分钟后才出现。Iceberg 只能追加,所以一行只在最终状态写入一次,删除需要小心处理。 因此 D1 仍是热数据存储。日志页仍从 D1 读取,速度快,也可以更新。Basin 是历史、分析和未来数据集的记录系统。它保留全部数据、不做删除,控制台只限制显示的范围。 照搬这套方案之前,有三个约束值得知道。流的 schema 在创建后不能修改,要改就得新建一个流和一个新表名,例如 `generations_v2`。写出端不能指向已有的 Iceberg 表。不匹配 schema 的记录会被静默丢弃,所以每次改动映射代码后,我们都会查看 Pipelines 的用户错误指标。 ## 这个决定是怎么做出的 这个设计决定由一个 anybot agent 做出。它分析了系统,测量了写入的来源,按成本比较了各个方案,并选择了既能让日志页继续工作、又最便宜的那个。上线前由所有者审阅了这个决定。 接下来,我们计划把现有的 D1 历史数据回填到 Basin,然后把免费请求的日志移出 D1,让每小时汇总只重写发生变化的小时,并把较早的 R2 归档合并到 Basin。这些归档包括 NDJSON 数据湖、AI Gateway 日志分片,以及每日的 D1 拷贝任务。 --- # Cách chúng tôi giảm hóa đơn D1 bằng việc chuyển log request sang Cloudflare Basin > AnyRouter ghi khoảng 100 triệu dòng mỗi tháng vào D1, gần như toàn là log request. Chúng tôi ngừng ghi những request bị từ chối mà không ai đọc, và chuyển toàn bộ log sang Cloudflare Basin, nơi lưu dưới dạng bảng Iceberg. Bài này nói về số liệu, thiết kế và các đánh đổi. - Date: November 7, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/d1-bill-request-logs-basin ## Chi phí D1 đến từ việc ghi dòng D1 tính theo mỗi triệu dòng ghi, sau khi đã bao gồm một hạn mức mỗi tháng. Mỗi index trên bảng làm mỗi lần insert bị tính thêm một dòng, còn kích thước dòng không ảnh hưởng. Dung lượng lưu trữ được tính theo mỗi GB-tháng sau khi trừ hạn mức bao gồm. Ngày 7 tháng 11 năm 2026, chúng tôi đo được 3,2 đến 4,0 triệu dòng ghi mỗi ngày. Đó là khoảng 100 triệu dòng mỗi tháng, gấp khoảng 2 lần hạn mức bao gồm mỗi tháng. Đỉnh là 8,7 triệu dòng trong một ngày vào 27 tháng 10, và các bản sửa trước đó đã giảm được một nửa. File database nặng 6,45 GB, nên dung lượng không phải vấn đề. Trong 24 giờ, các câu lệnh ghi nhiều nhất đều là log request: - `INSERT INTO generations`: 1,565 triệu dòng từ 141 nghìn lần gọi, khoảng 11 dòng mỗi lần, vì bảng có 14 index. - `INSERT INTO generation_attempts`: 583 nghìn dòng từ 117 nghìn lần gọi, khoảng 5 dòng mỗi lần. - Bảng tổng hợp theo giờ `workspace_usage_hourly`: 213 nghìn dòng từ 85 lần gọi. ## Phần lớn là request bị từ chối Trong 110 nghìn dòng `generations` ghi mỗi ngày, có 63 nghìn dòng ở trạng thái `rejected`. 54 nghìn dòng trong số đó đến từ một API key quét 286 model chỉ dùng BYOK mỗi 4 phút, mà không gắn key BYOK nào. Mỗi lần từ chối ghi khoảng 16 dòng D1 cho một phản hồi 4xx mà không ai đọc. Chúng tôi kiểm tra index trước. Không còn index nào không dùng trên `generations` hay `generation_attempts`, vì các migration trước đã xóa 14 index. Xóa index không phải đòn bẩy. ## Bản sửa 1: request bị từ chối không ghi dòng D1 Request bị từ chối trước khi thử bất kỳ upstream nào giờ không ghi dòng D1 nữa. Điều này gồm model chỉ dùng BYOK mà không có key, model không tồn tại, key không được phép dùng model, và các cổng thanh toán và model miễn phí. Số đếm không mất. Analytics Engine vẫn đếm mọi lần từ chối theo mã lỗi, và trang Logs hiển thị ghi chú "N request bị từ chối". Một trường hợp được giữ lại dòng có chủ ý: dispatch rỗng phía nền tảng, tức là router không tìm được route cho một model lẽ ra phải phục vụ. Route health đọc các dòng đó. Chúng tôi đã kiểm tra trên production. Số dòng của key quét giảm từ khoảng 620 mỗi 10 phút xuống 0. ## Bản sửa 2: toàn bộ log đi vào Basin Request bị từ chối là nguồn đơn lẻ lớn nhất, nhưng không phải duy nhất. Mỗi request thành công vẫn ghi khoảng 16 dòng, và log tăng theo lưu lượng. Vì vậy chúng tôi chuyển toàn bộ log ra khỏi D1. Cloudflare Basin là một sản phẩm data lake. Một stream Pipelines nhận các bản ghi có kiểu từ binding của Worker và ghi chúng thành file Parquet trong một bảng Iceberg ở bucket R2. Bạn truy vấn bảng bằng Basin SQL. Chúng tôi tạo ba stream, mỗi stream có schema có kiểu: - `generations`: 66 cột, bao phủ mọi cột của D1. - `generation_attempts`: 29 cột. - `generation_bodies`: 12 cột, chứa toàn bộ nội dung request và response, tối đa 1 MB mỗi phía. Request dùng zero data retention không bao giờ được lưu. Mỗi stream ghi vào bảng riêng trong cùng một bucket Basin Catalog, dạng Parquet nén zstd. Một file được cuộn mỗi 300 giây, và compaction tự động gộp file về kích thước mục tiêu 128 MB. Việc ghi đến từ Worker telemetry hiện có qua service binding, nên chạy trên ngân sách CPU riêng của Worker đó chứ không nằm trên đường xử lý request của gateway. Phần đồng bộ log của gateway gửi các body đã thu thập từ Worker workflow. Một unit test sẽ lỗi nếu thiếu cột D1 nào trong schema Basin, vì Basin bỏ các bản ghi không khớp schema. ```ts // Pipelines binding declared in wrangler.jsonc await env.BASIN_GENERATIONS.send([ { id: row.id, model_id: row.model_id, status: row.status, cost_usd: row.cost_usd, created_at: "2026-11-07T10:15:00Z", // ...the rest of the schema's columns, null when missing }, ]) // Basin SQL, run against the Iceberg table const query = ` SELECT model_id, COUNT(*), SUM(cost_usd) FROM anyrouter.generations_v1 WHERE created_at > now() - INTERVAL '1 day' GROUP BY 1 ORDER BY 2 DESC LIMIT 20 ` ``` _Worker telemetry gửi một lần mỗi batch, rồi đến loại truy vấn chúng tôi dùng để xem chi phí theo model. Bản ghi thật có đủ 66 cột của schema._ ## Chi phí Pipelines nhận dữ liệu miễn phí, đã bao gồm 50 GB mỗi tháng cho transform và sink, sau đó tính theo mức dùng cho mỗi GB transform và mỗi GB sink Parquet và Iceberg. Lưu trữ R2 được tính theo mỗi GB-tháng với hạn mức bao gồm. Basin Catalog bao gồm 1 triệu thao tác mỗi tháng. Basin SQL được tính theo mỗi TB quét, với hạn mức bao gồm mỗi tháng và mức tối thiểu nhỏ cho mỗi truy vấn. Lượng của chúng tôi khoảng 260 nghìn dòng log mỗi ngày, tức khoảng 6 đến 12 GB mỗi tháng khi chưa nén. Với lưu lượng hiện tại, lượng này nằm trong hạn mức bao gồm, nên đường đi qua Basin gần như không tốn thêm chi phí hôm nay. Dưới đây là so sánh khi lưu lượng tăng, theo quy mô tương đối: | Lưu lượng | D1 mỗi tháng | Basin mỗi tháng | | --- | --- | --- | | 1x (hiện tại) | khoảng 100 triệu dòng được ghi | khoảng 6–12 GB, nằm trong hạn mức bao gồm | | 10x | khoảng 1 tỷ dòng được ghi | khoảng 60–120 GB, rẻ hơn khoảng 1 cấp độ | | 100x | khoảng 10 tỷ dòng được ghi | khoảng 0,6–1,2 TB, rẻ hơn khoảng 1 cấp độ | Chi phí D1 tăng theo số dòng ghi, và mỗi index nhân nó lên. Chi phí Basin tăng theo số byte lưu và quét. ## Những gì chúng tôi đánh đổi Basin SQL chạy ở tốc độ phân tích, nghĩa là vài giây chứ không phải mili giây. Dòng mới xuất hiện sau vài phút vì gom batch. Iceberg chỉ ghi nối thêm, nên mỗi dòng được ghi một lần ở trạng thái cuối, và việc xóa cần cẩn thận. Vì vậy D1 vẫn là kho dữ liệu nóng. Trang Logs vẫn đọc từ D1, nhanh và cập nhật được. Basin là hệ thống ghi chép cho lịch sử, phân tích và các tập dữ liệu sau này. Nó giữ mọi thứ, không xóa, và dashboard chỉ giới hạn phần hiển thị. Có ba ràng buộc đáng biết trước khi bạn làm theo. Schema của stream không thể đổi sau khi tạo, nên muốn đổi phải tạo stream mới và tên bảng mới như `generations_v2`. Một sink không thể trỏ vào bảng Iceberg đã có. Và các bản ghi không khớp schema bị bỏ âm thầm, nên chúng tôi theo dõi chỉ số lỗi người dùng của Pipelines sau mỗi thay đổi mapper. ## Quyết định này được đưa ra thế nào Một anybot agent đã đưa ra quyết định thiết kế này. Nó phân tích hệ thống, đo xem các lần ghi đến từ đâu, so sánh các phương án theo chi phí, và chọn phương án rẻ nhất mà vẫn giữ trang Logs hoạt động. Chủ sở hữu đã xem xét quyết định trước khi nó được đưa lên. Tiếp theo, chúng tôi dự định backfill lịch sử D1 hiện có vào Basin, sau đó chuyển log của request miễn phí ra khỏi D1, làm cho bảng tổng hợp theo giờ chỉ ghi lại những giờ đã thay đổi, và gộp các kho lưu trữ R2 cũ vào Basin. Các kho đó gồm lakehouse NDJSON, các shard log của AI Gateway, và job sao chép D1 hằng ngày. --- # AnyRouter turns 3 months, in numbers > From August 5 to November 4, 2026, AnyRouter went from 1,695 users to 15,034, added 220 models, served 1.3 million requests and 65 billion tokens in the last 30 days, and shipped 753 deploys. Here is every number, how we counted it, and what it does not tell you. - Date: November 7, 2026 - Category: product - HTML: https://anyrouter.dev/blog/anyrouter-turns-3-months ## Three months, one page of numbers AnyRouter is one API key that reaches every model. We call it three months old. That age is our framing, not a measured launch date: the first commit is from April 11 and the first signup from April 16. Every number below covers **August 5 to November 4, 2026** unless it says otherwise. The film is 75 seconds. It carries the same figures as this post. [AnyRouter turns 3 months](https://youtu.be/8tA08jKs1Is) _AnyRouter turns 3 months, 75 seconds. Cut on November 5 from the counts below._ The same figures as one page with charts, published as an AnyRouter Artifact. It runs no script and loads nothing from another site. [Open the metrics page](https://anyrouter.dev/a/CYofiNq3zpqMzRsZ) ## Users AnyRouter had **15,034 users** on November 4, up from 1,695 on August 4. That counts accounts that were not banned. **5,966 people** used it in the last 30 days (October 6 to November 4), and the busiest day, October 26, had **2,288**. Most of the growth came in one week. Between October 24 and October 27, 9,048 accounts signed up. We have no launch post to point at, so we make no claim about the cause. **Signups per month** - April (from the 16th): 40 - May: 118 - June: 871 - July: 908 - August: 876 - September: 486 - October: 11,356 - November (1 to 5): 1,049 ## Models We added **220 models** between August 5 and November 4. That is more than two a day. On November 7 the catalog lists 376 models, and 42 of them are free on the Go plan. Our catalog pipeline found **at least 56** of the 220 on its own, from monitor tickets and catalog jobs. That figure is a lower bound. Every commit is authored by the same two accounts, so the author field cannot split pipeline work from hand work, and the other 164 are not labelled as hand-added. ## Traffic In the last 30 days AnyRouter served **1,340,987 requests** and **65,530,955,527 tokens**. We give traffic for 30 days only. Usage rollups start in October, so there is no honest request or token total for the whole three months. ## How it gets built anybot is our name for the AI agent fleet that works on the repository. These counts cover August 5 to November 4. | What | Count | How it was counted | | --- | --- | --- | | Commits to main | 4,506 | git history, UTC day boundaries | | Pull requests merged | 3,435 | merged date, GitHub | | Commits naming an AI co-author | 2,278 | Co-authored-by trailers, so a floor for AI involvement | | Deploys | 753 | one machine's deploy log, 59 on the busiest day (October 31) | | Issues filed | 2,663 | 2,614 closed for any reason | | Issues filed by monitors | 863 | 851 closed, 465 of them completed | The way this loop runs is the subject of [how AnyRouter ships through agents](/agents-ship-loop). Since November 3 we land work as commits on `main` instead of pull requests, so the pull request count stops there. ## What these numbers do not say - Users are accounts, not paying customers. We show no revenue, credits or per-user data. - The deploy count is from one machine's log, so it can only be too low. - The October jump is real, but we do not know why it happened. - Three months is our framing of the age, not a launch date. ## Try it One key, every model. Free models need the Go plan or a donated key, and the plan and pool rules are on the [pricing page](/pricing). Start at [anyrouter.dev](https://anyrouter.dev). --- # AnyRouter 三个月,用数字说话 > 2026 年 8 月 5 日至 11 月 4 日,AnyRouter 的用户从 1,695 增长到 15,034,新增 220 个模型,最近 30 天处理了 130 万次请求和 650 亿个 token,完成 753 次部署。这里列出每个数字、统计方法,以及它没有说明的事。 - Date: November 7, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/anyrouter-turns-3-months ## 三个月,一页数字 AnyRouter 是一把 API key 通向所有模型。我们说它三个月大。这个月龄是我们的说法,不是实测的上线日期:第一个 commit 在 4 月 11 日,第一个注册在 4 月 16 日。除非另有说明,下面的数字都覆盖 **2026 年 8 月 5 日至 11 月 4 日**。 视频长 75 秒,数字与本文一致。 [AnyRouter 三个月](https://youtu.be/8tA08jKs1Is) _AnyRouter 三个月,75 秒。11 月 5 日根据下面的统计剪辑。_ 同样的数字,带图表,做成一页,作为 AnyRouter Artifact 发布。页面不运行脚本,也不从其他站点加载内容。 [打开数据页](https://anyrouter.dev/a/CYofiNq3zpqMzRsZ) ## 用户 11 月 4 日,AnyRouter 有 **15,034 名用户**,8 月 4 日是 1,695。统计的是未被封禁的账号。最近 30 天(10 月 6 日至 11 月 4 日)有 **5,966 人**使用,最忙的一天是 10 月 26 日,有 **2,288 人**。 增长大多集中在一周内。10 月 24 日至 27 日,共有 9,048 个账号注册。我们没有发布过上线文章可供对照,所以不对原因下结论。 **每月注册数** - 4 月(16 日起): 40 - 5 月: 118 - 6 月: 871 - 7 月: 908 - 8 月: 876 - 9 月: 486 - 10 月: 11,356 - 11 月(1 日至 5 日): 1,049 ## 模型 8 月 5 日至 11 月 4 日,我们新增了 **220 个模型**,平均每天超过两个。11 月 7 日,目录列出 376 个模型,其中 42 个在 Go 套餐下免费。 目录流水线自己发现了其中**至少 56 个**,来源是监控工单和目录任务。这个数字是下限。每个 commit 都由同样两个账号提交,作者字段无法区分流水线和人工,其余 164 个也没有被标为人工添加。 ## 流量 最近 30 天,AnyRouter 处理了 **1,340,987 次请求**和 **65,530,955,527 个 token**。我们只给出 30 天的流量。用量汇总从 10 月才开始,所以没有覆盖整个三个月的可靠请求或 token 总数。 ## 它是怎么被构建的 anybot 是我们对在这个仓库里工作的 AI agent 群的称呼。下面的统计覆盖 8 月 5 日至 11 月 4 日。 | 内容 | 数量 | 统计方法 | | --- | --- | --- | | 提交到 main 的 commit | 4,506 | git 历史,按 UTC 日界 | | 合并的 pull request | 3,435 | GitHub 合并日期 | | 署名 AI 共同作者的 commit | 2,278 | 来自 Co-authored-by 标记,是 AI 参与的下限 | | 部署 | 753 | 一台机器的部署日志,最忙的一天(10 月 31 日)有 59 次 | | 提交的 issue | 2,663 | 其中 2,614 个已关闭,原因不限 | | 监控提交的 issue | 863 | 851 个已关闭,其中 465 个已完成 | 这个循环如何运转,见[AnyRouter 如何由 agent 发布](/agents-ship-loop)。从 11 月 3 日起,我们直接把改动作为 commit 合入 `main`,不再走 pull request,所以 pull request 的计数到此为止。 ## 这些数字没有说明什么 - 用户是账号,不是付费客户。我们不展示收入、额度或单个用户的数据。 - 部署数来自一台机器的日志,只可能偏低。 - 10 月的增长是真实的,但我们不知道原因。 - 三个月是我们对月龄的说法,不是上线日期。 ## 试一试 一把 key,所有模型。免费模型需要 Go 套餐或捐赠的 key,套餐和共享池规则见[定价页](/pricing)。从 [anyrouter.dev](https://anyrouter.dev) 开始。 --- # AnyRouter tròn 3 tháng, qua các con số > Từ ngày 5 tháng 8 đến 4 tháng 11 năm 2026, AnyRouter tăng từ 1.695 lên 15.034 người dùng, thêm 220 model, phục vụ 1,3 triệu request và 65 tỷ token trong 30 ngày qua, và thực hiện 753 lần deploy. Đây là từng con số, cách chúng tôi đếm, và những điều chúng không nói lên. - Date: November 7, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/anyrouter-turns-3-months ## Ba tháng, một trang số liệu AnyRouter là một API key đi tới mọi model. Chúng tôi gọi nó là ba tháng tuổi. Tuổi này là cách nói của chúng tôi, không phải ngày ra mắt đo được: commit đầu tiên ngày 11 tháng 4 và lượt đăng ký đầu tiên ngày 16 tháng 4. Mọi con số dưới đây đều tính từ **5 tháng 8 đến 4 tháng 11 năm 2026**, trừ khi ghi khác. Video dài 75 giây và dùng cùng các con số với bài này. [AnyRouter tròn 3 tháng](https://youtu.be/8tA08jKs1Is) _AnyRouter tròn 3 tháng, 75 giây. Dựng ngày 5 tháng 11 từ các số liệu bên dưới._ Cùng các con số, kèm biểu đồ, trên một trang đăng thành AnyRouter Artifact. Trang không chạy script và không tải gì từ trang khác. [Mở trang số liệu](https://anyrouter.dev/a/CYofiNq3zpqMzRsZ) ## Người dùng Ngày 4 tháng 11, AnyRouter có **15.034 người dùng**, tăng từ 1.695 vào ngày 4 tháng 8. Đó là các tài khoản chưa bị khóa. **5.966 người** dùng trong 30 ngày qua (6 tháng 10 đến 4 tháng 11), và ngày đông nhất, 26 tháng 10, có **2.288 người**. Phần lớn mức tăng đến trong một tuần. Từ 24 đến 27 tháng 10 có 9.048 tài khoản đăng ký. Chúng tôi không có bài ra mắt nào để đối chiếu, nên không kết luận về nguyên nhân. **Lượt đăng ký mỗi tháng** - Tháng 4 (từ ngày 16): 40 - Tháng 5: 118 - Tháng 6: 871 - Tháng 7: 908 - Tháng 8: 876 - Tháng 9: 486 - Tháng 10: 11.356 - Tháng 11 (1 đến 5): 1.049 ## Model Từ 5 tháng 8 đến 4 tháng 11, chúng tôi thêm **220 model**, tức hơn hai model mỗi ngày. Ngày 7 tháng 11, danh mục liệt kê 376 model, trong đó 42 model miễn phí với gói Go. Pipeline danh mục tự tìm ra **ít nhất 56** trong 220 model, từ ticket của monitor và job danh mục. Con số này là cận dưới. Mọi commit đều do cùng hai tài khoản tạo, nên trường tác giả không tách được việc của pipeline với việc làm tay, và 164 model còn lại cũng không được gắn nhãn là thêm bằng tay. ## Lưu lượng Trong 30 ngày qua, AnyRouter phục vụ **1.340.987 request** và **65.530.955.527 token**. Chúng tôi chỉ nêu lưu lượng 30 ngày. Bảng tổng hợp mức dùng bắt đầu từ tháng 10, nên không có tổng request hay token đáng tin cho cả ba tháng. ## Nó được xây như thế nào anybot là tên chúng tôi gọi đội AI agent làm việc trên repository. Các số đếm dưới đây tính từ 5 tháng 8 đến 4 tháng 11. | Nội dung | Số lượng | Cách đếm | | --- | --- | --- | | Commit vào main | 4.506 | lịch sử git, ranh giới ngày UTC | | Pull request đã merge | 3.435 | ngày merge trên GitHub | | Commit ghi đồng tác giả là AI | 2.278 | đếm từ trailer Co-authored-by, nên là mức tối thiểu của sự tham gia của AI | | Deploy | 753 | log deploy của một máy, ngày đông nhất (31 tháng 10) có 59 | | Issue đã tạo | 2.663 | 2.614 đã đóng, vì bất kỳ lý do nào | | Issue do monitor tạo | 863 | 851 đã đóng, trong đó 465 đã hoàn thành | Cách vòng lặp này chạy được kể trong [AnyRouter phát hành qua agent](/agents-ship-loop). Từ ngày 3 tháng 11 chúng tôi đưa thay đổi vào `main` bằng commit thay vì pull request, nên số pull request dừng ở đó. ## Những điều các con số này không nói - Người dùng là tài khoản, không phải khách trả tiền. Chúng tôi không hiển thị doanh thu, credit hay dữ liệu từng người dùng. - Số deploy lấy từ log của một máy, nên chỉ có thể bị thấp hơn thực tế. - Mức tăng tháng 10 là thật, nhưng chúng tôi không biết vì sao. - Ba tháng là cách chúng tôi nói về tuổi, không phải ngày ra mắt. ## Thử ngay Một key, mọi model. Model miễn phí cần gói Go hoặc một key được tặng, quy tắc gói và pool nằm ở [trang giá](/pricing). Bắt đầu tại [anyrouter.dev](https://anyrouter.dev). --- # How our CI/CD changed when coding agents took over > Coding agents now write and ship most AnyRouter changes. After five months on GitHub Actions, we changed our CI/CD design four times in one month. We moved from GitHub Actions to local CI on one machine, then to review-gated PRs, then to a few fat PRs, and now to commits straight on main. This post walks through each stage with the numbers we measured, the bugs we found on the way, and the rules we give our agents today. - Date: November 3, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/cicd-for-coding-agents ## Agents changed what the bottleneck is Most changes to AnyRouter are now written, checked and shipped by coding agents. They push and deploy many times a day. When writing code got fast, the pipeline around it became the thing everyone waited on. We ran GitHub Actions CI for five months. Then we changed our CI/CD design four times in one month, between 4 October and 3 November. Each change fixed one bottleneck and showed us the next one. This post walks through the stages in order, with the dates and the commits or PRs that made each change. All numbers here were measured on 3 November 2026 from git history, GitHub, our deploy log and a lead-time script. Where a number has a gap or a caveat, we say so next to it. ## Stage 1: GitHub Actions and preview deploys On 23 May 2026 we set up the usual pipeline (#321). Each pull request ran CI on GitHub Actions and got a preview deploy. A merge to `main` deployed from GitHub Actions. ```mermaid flowchart LR A["Agent pushes a branch"] --> PR["Pull request"] PR --> GHA["GitHub Actions CI"] GHA --> PV["Preview deploy"] PV --> M["Merge"] M --> GHA2["GitHub Actions deploy"] ``` _Stage 1. Every push from every agent runs the whole pipeline on GitHub._ This works well for a team of people. It does not work well for a fleet of agents. An agent pushes, waits for CI, fixes what failed and pushes again. Every one of those pushes runs the full pipeline. We did not measure the queue at the time, but the waiting was easy to see. It also costs money. Our repository is private. GitHub [documents](https://docs.github.com/en/billing/concepts/product-billing/github-actions) that Actions on private repositories include a monthly amount of usage, and that you pay per minute after that. Standard hosted runners are free only for public repositories. Agents push all day, so we expected to pay for most of those minutes. We did not measure that cost. ## Stage 2: local CI on a dedicated machine On 4 October we turned GitHub Actions CI off (#4452). Only the release workflows still run there. The same checks now run as `pnpm local-ci` on one dedicated machine, and that run signs a commit status on the PR. Agents develop and deploy from that machine too. ```mermaid flowchart LR A["Agent lane in a worktree"] --> PR["Pull request"] PR --> LCI["pnpm local-ci on the dedicated machine"] LCI -->|"signs a status"| M["merge-pr.sh"] M --> D["pnpm ops deploy from local main"] D --> W["Only the Workers that changed"] ``` _Stage 2. Checks and deploys move to one machine that the agents share._ One machine brings its own limits. It has 15 GB of memory, and many agents share it. Three changes made it work. - Per-Worker deploys (10 October). AnyRouter runs as 19 Cloudflare Workers. A deploy now ships only the Workers whose code changed since their own last deploy. Each Worker version is stamped with the commit it was built from, so the next deploy knows where to diff from. - A heavy lock (12 October, #5026). Installs, builds, typechecks and test runs take one shared lock, scoped to their heavy phases. Before that, parallel builds ran the machine out of memory and the out-of-memory handler killed agent sessions. - One merge script (14 October, #5492). `merge-pr.sh` became the single way a lane PR lands, with the same checks every time. We wrote about the per-Worker deploys and about making local CI faster in earlier posts. This post is about the flow around them. ## Stage 3: review gates, then fewer and fatter PRs Local CI took away the cost. It did not take away the wait. So on 28 October we changed the merge gate (#6840). A PR merged on one independent review, a `review:approved` label plus a signed status, with no per-PR CI run. Tests ran once on `main` after a batch of merges, and failures were fixed forward. A PR with no review after 2 hours was flagged as stale. Then the volume caught up with us. In the week of 26 October, 821 PRs were merged. Each one got its own reviewer agent, its own worktree and its own dependency install. A reviewer that sees one small PR cannot see how it interacts with the PR next to it. Per-PR review at that volume did not make sense. The lead-time numbers show the cost. In that week, the median PR went from opened to live in 1.4 hours, but the slowest 10 percent took 22.2 hours or more. Most of that tail came before the merge, not between the merge and the deploy. The lead-time chart is in the metrics section below. On 3 November the manager session was running 8 lanes at once. They queued behind each other's test runs on the heavy lock for 15 minutes or more. Two lanes edited the same files and had to wait on each other's PRs. So we changed the rule (#7798). - At most 2 implementation lanes at once. Everything else waits in a queue. - Lanes are fixed by code area, such as catalog and pricing, or model pages UI. A new request joins the lane that owns its area. - A lane stacks its queued changes into one larger change with one review. ```mermaid flowchart LR L1["Lane: catalog and pricing"] --> B1["Stacked commits"] L2["Lane: model pages UI"] --> B2["Stacked commits"] B1 --> PR1["One PR"] B2 --> PR2["One PR"] PR1 --> R["One independent review per PR"] PR2 --> R R --> M["Merge, then one deploy for the batch"] ``` _Stage 3. Two lanes, each stacking its area's changes behind one review._ This idea came partly from Anthropic's article [Building agents: when to fold subagents into your main agent loop](https://claude.com/resources/articles/building-agents-when-to-fold-subagents-into-your-main-agent-loop). Its advice is to keep a subagent only for parallel work in a fresh context, for measured context bloat, or when one agent struggles with its tools or instructions. Otherwise, fold it into the main loop. A handoff between agents loses detail, and every extra agent adds latency. We saw both. ## Stage 4: no PRs, commits on main Fat PRs still had a round trip. On 3 November a one-line test fix still needed a worktree, an install, a PR, a reviewer and a merge before the deploy it unblocked. So we dropped PRs (78675034b). Now an agent works on `main`, or in a lane worktree that pushes to `main`. It reviews and checks locally, commits each working step as a checkpoint, rebases, and pushes. The push is the backup and the shared state between machines. Deploys run from local `main`. ```mermaid flowchart LR E["Edit on main"] --> C["Local checks: diff read, vitest, biome, typecheck"] C --> K["git commit as a checkpoint"] K --> P["git pull --rebase, then fast-forward push"] P --> D["Deploy from local main"] D --> RV["Review the pushed range, fix forward with new commits"] ``` _Stage 4. A commit is the checkpoint, a push is the backup, and review reads the pushed range._ Review did not go away. After a range lands, a reviewer reads `git diff ..` and lists issues. For small changes that reviewer is the main session. Billing, pricing, auth, secrets, migrations and routing still get an independent reviewer before the push. Every fix lands as a new commit. We never amend or force-push a reviewed commit, so the review trail stays readable. Release-please PRs are the one kind of PR left. The owner merges those by hand. ## More things we found on the way Measuring each stage turned up problems that no check reported. Every check passed while each of these cost us time or let a bug through. - A deploy loop that fed itself. Stray untracked files in the deploy checkout made every deploy stamp its Worker versions as `+dirty` (the manager's diagnosis counted 5 such files). A deploy cannot diff from a dirty stamp, so the next deploy rebuilt the whole fleet, and stamped `+dirty` again because the files were still there. All 51 deploys since 1 November were full-fleet deploys. Stray untracked files no longer mark a deploy dirty (2ee30c20f). - A cache that never hit. The deploy skips its typecheck when the same commit already passed. That cache treated the stray untracked files as a dirty tree, so it hit 0 of 51 times. Typecheck averaged 197 seconds per deploy. It was the same root cause as the loop above. The cache now ignores untracked files that TypeScript never reads (fbe45259b). - A smoke run too soon after a deploy. On 3 November (measured), the first production smoke run right after a deploy failed 52 of 115 checks with `503 database_unavailable`. A rerun a few minutes later passed all 72 checks it did not skip. The failures came from the fresh deploy, not from a bug. We now wait before the post-deploy smoke. - Vitest does not check types. Vitest strips types and runs the code. A lane's check ran only Vitest, and a test with a type error reached `main`. It surfaced at deploy, which stops at the first type error. Now every lane runs the root `pnpm typecheck` before it pushes and reads its real exit code. - A fast-forward-only guard on `main`. On 29 October a lane's worktree was removed while the lane still used it. Its next command chained a `cd` that failed, so a `git push --force-with-lease` ran from a stale checkout of `main`. `main` moved back for about a minute (#7089). The lane restored it and no commits were lost. When we allowed direct pushes to `main`, we kept that lesson. The pre-push hook allows fast-forward pushes and refuses any push that rewrites or deletes `main` (62d85ea2b). - The commit hash is the identity. Every Worker version on Cloudflare carries `anyr-sha=`. That one field drives the per-Worker deploy diff, the rollback check that stops a stale checkout from rolling production back, and the lead-time numbers in this post. A metric keyed on a PR number breaks the day you stop opening PRs. A metric keyed on the commit does not. - Deploy speed, in progress. A deploy took a median of 602 seconds over those 51 runs. The two fixes above landed on 3 November, so per-Worker deploys and the typecheck cache can work again. We are also working on a build cache that survives between deploys, and we are evaluating tsgo, the Go-based TypeScript compiler. We have not measured a result from any of these yet. ## The rules we give our agents This is the current contract, adapted from the `Main-only flow` and `Few lanes` sections of our `AGENTS.md`. You can copy it and change the commands for your own repository. ```text # How we land changes (main-only flow) - No pull requests. Work on main, or in a lane worktree that pushes to main. - Keep each commit small and on one topic. Stage exact paths. Never git add -A. - Check locally before every commit: - read the whole diff - targeted vitest: scripts/heavy.sh light -- npx vitest run --maxWorkers=2 - biome on the changed files - root pnpm typecheck for TypeScript changes; read its real exit code (vitest does not type-check) - Billing, pricing, auth, secrets, migrations, routing: one independent reviewer reads the diff before you push. - git commit, git pull --rebase origin main, git push origin main. Never force-push main. - A review of the pushed range lands its fixes as new commits. Never amend, rebase or force-push reviewed commits. # Few lanes - At most 2 implementation lanes at once. Queue the rest. - Lanes are fixed by code area. A new request joins the lane that owns its area. It does not get a new worktree. - Fold before you fan out. Spawn a subagent only for parallel fresh-context work, a black-box review, or measured context bloat. - One heavy command at a time per machine (install, vitest, tsc, build). ``` _Adapted from AGENTS.md, 3 November 2026._ ## The numbers These charts use git history, GitHub and our deploy log. The deploy log covers only one machine, and some weeks are missing from it. Those weeks are left out of the deploy charts, not drawn as zero. So the deploy counts are a floor. The week of 2 November is partial. It runs to 3 November. ```mermaid --- config: xyChart: width: 900 height: 420 themeVariables: xyChart: plotColorPalette: "#c96442, #2f6fb0" --- xychart-beta title "Commits on main vs PRs merged, per week" x-axis ["Aug 3", "Aug 10", "Aug 17", "Aug 24", "Aug 31", "Sep 7", "Sep 14", "Sep 21", "Sep 28", "Oct 5", "Oct 12", "Oct 19", "Oct 26", "Nov 2*"] y-axis "Count" 0 --> 900 bar [123, 250, 255, 231, 133, 80, 76, 201, 570, 283, 495, 338, 810, 129] line [32, 71, 170, 162, 123, 75, 73, 169, 530, 280, 485, 346, 821, 83] ``` _Commits on main (bars) and PRs merged (line) per week, from the week of 3 August. * Nov 2 is a partial week._ In August, the counts suggest many commits on `main` did not come from a merged PR. From late September, almost every commit was a squash-merged PR, and both lines peaked in the week of 26 October with 810 commits and 821 PRs. After the switch to main-only, the PR line should fall while commits continue. **Deploys per week** - Aug 3: 12 deploys - Aug 10: 59 deploys - Aug 17: 91 deploys - Aug 24: 50 deploys - Aug 31: 9 deploys - Sep 21: 14 deploys - Sep 28: 168 deploys - Oct 5: 45 deploys - Oct 12: 34 deploys - Oct 26: 14 deploys - Nov 2 (partial): 37 deploys **Median deploy time per week** - Aug 3: 95 s seconds - Aug 10: 438 s seconds - Aug 17: 538 s seconds - Aug 24: 43 s seconds - Aug 31: 177 s seconds - Sep 21: 172 s seconds - Sep 28: 107 s seconds - Oct 5: 883 s seconds - Oct 12: 937 s seconds - Oct 26: 794 s seconds - Nov 2 (partial): 562 s seconds Deploy time rose in October. Deploys became full builds of a growing fleet of 19 Workers, plus a typecheck gate. The dirty stamp above made every deploy since 1 November a full one. **Where deploy time goes** - deploy:spokes: 227 s seconds - typecheck: 197 s seconds - core-uploads: 124 s seconds - prerender: 79 s seconds - prerender:redeploy: 50 s seconds - build: 49 s seconds - assets: 42 s seconds - build:docs: 41 s seconds - deploy:docs: 40 s seconds Deploying the spoke Workers and the typecheck make up about half of the summed step averages. Those are the two things the dirty stamp breaks. A clean stamp lets a deploy skip unchanged Workers and skip a typecheck that already passed. **PR flow lead time, start to live** - Oct 12 p50: 2.1 h hours - Oct 12 p90: 10.7 h hours - Oct 19 p50: 4.6 h hours - Oct 19 p90: 14.3 h hours - Oct 26 p50: 1.4 h hours - Oct 26 p90: 22.2 h hours - Nov 2 p50 (partial): 0.3 h hours - Nov 2 p90 (partial): 1.6 h hours Our script `scripts/delivery-metrics.ts` measures lead time per commit. A commit starts when its PR opens, or when it is authored if it had no PR. It is live when a Worker version stamped with that commit, or a later one, is deployed. This table splits the PR flow into its two halves. | PR flow, week of | Commits | Start to landed p50 / p90 | Landed to live p50 / p90 | Start to live p50 / p90 | | --- | --- | --- | --- | --- | | Oct 12 | 412 | 0.6 h / 5.6 h | 0.8 h / 5.0 h | 2.1 h / 10.7 h | | Oct 19 | 344 | 3.0 h / 12.6 h | 0.8 h / 2.7 h | 4.6 h / 14.3 h | | Oct 26 | 819 | 0.2 h / 21.7 h | 0.5 h / 3.4 h | 1.4 h / 22.2 h | | Nov 2 (partial) | 83 (80 live) | 0.1 h / 0.4 h | 0.2 h / 0.8 h | 0.3 h / 1.6 h | In the week of 26 October, the p90 tail sat almost entirely before the merge, at 21.7 hours. The wait was before the merge, not between the merge and the deploy. The partial week of 2 November is much faster, but it covers only 83 commits from the last days of the PR flow. It is not a result of the main-only flow. ## What we do not know yet The main-only flow is one day old. When we measured, it had 6 commits on `main` and none of them had been deployed yet. We have no after numbers for it, so we do not claim a speedup. | Main flow, week of | Commits | Start to landed p50 / p90 | Start to live p50 / p90 | | --- | --- | --- | --- | | Oct 12 | 6 (6 live) | 0.0 h / 0.0 h | 1.0 h / 2.5 h | | Oct 26 | 1 (1 live) | 0.0 h / 0.0 h | 1.7 h / 1.7 h | | Nov 2 | 6 (0 live) | 0.2 h / 0.7 h | not yet | The earlier main rows are a handful of direct commits made during the PR era. They are too few to compare with anything. We will rerun `npx tsx scripts/delivery-metrics.ts --since 2026-10-12` after a few days of the new flow and the two deploy fixes. We will update this post with those numbers, including the ones that do not look good. --- # 编程智能体接手后,我们的 CI/CD 如何改变 > 编程智能体现在编写并发布 AnyRouter 的大部分改动。在 GitHub Actions 上用了五个月之后,我们在一个月里四次改变了 CI/CD 的设计。我们先从 GitHub Actions 换成一台机器上的本地 CI,再换成有评审关卡的 PR,再换成少量大 PR,现在是直接在 main 上提交。本文按阶段介绍,附上我们测得的数据、途中发现的问题,以及我们今天交给智能体的规则。 - Date: November 3, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/cicd-for-coding-agents ## 智能体改变了瓶颈所在 AnyRouter 的大部分改动现在由编程智能体编写、检查和发布。它们每天推送和部署很多次。写代码变快之后,围绕它的流水线成了大家等待的对象。 我们在 GitHub Actions 上运行 CI 五个月。然后在一个月里,从 10 月 4 日到 11 月 3 日,我们四次改变了 CI/CD 的设计。每次改动解决一个瓶颈,并让我们看到下一个。本文按顺序介绍各个阶段,附上日期,以及促成每次改动的提交或 PR。 这里所有数据都是在 2026 年 11 月 3 日,从 git 历史、GitHub、我们的部署日志和一个交付时长脚本中测得的。数据有缺口或需要说明的地方,我们都在旁边注明。 ## 阶段 1:GitHub Actions 和预览部署 2026 年 5 月 23 日,我们搭建了常见的流水线(#321)。每个 pull request 在 GitHub Actions 上运行 CI,并得到一个预览部署。合并到 `main` 后从 GitHub Actions 部署。 ```mermaid flowchart LR A["Agent pushes a branch"] --> PR["Pull request"] PR --> GHA["GitHub Actions CI"] GHA --> PV["Preview deploy"] PV --> M["Merge"] M --> GHA2["GitHub Actions deploy"] ``` _阶段 1。每个智能体的每次推送都在 GitHub 上运行整条流水线。_ 这对一个人类团队很合适,对一群智能体则不合适。智能体推送,等 CI,修复失败的部分,再推送。每一次推送都会运行完整流水线。我们当时没有测量队列,但等待是显而易见的。 它还要花钱。我们的仓库是私有的。GitHub [文档](https://docs.github.com/en/billing/concepts/product-billing/github-actions)说明,私有仓库上的 Actions 每月包含一定的使用量,超出后按分钟付费。标准托管运行器只对公开仓库免费。智能体整天都在推送,所以我们预计大部分分钟数都要付费。我们没有测量这笔成本。 ## 阶段 2:专用机器上的本地 CI 10 月 4 日,我们关闭了 GitHub Actions 的 CI(#4452)。那里只剩发布工作流还在运行。同样的检查现在通过 `pnpm local-ci` 在一台专用机器上运行,这次运行会在 PR 上签署一个提交状态。智能体也在这台机器上开发和部署。 ```mermaid flowchart LR A["Agent lane in a worktree"] --> PR["Pull request"] PR --> LCI["pnpm local-ci on the dedicated machine"] LCI -->|"signs a status"| M["merge-pr.sh"] M --> D["pnpm ops deploy from local main"] D --> W["Only the Workers that changed"] ``` _阶段 2。检查和部署移到智能体共用的一台机器上。_ 一台机器有它自己的限制。它有 15 GB 内存,很多智能体共用。三项改动让它能运转。 - 按 Worker 部署(10 月 10 日)。AnyRouter 运行在 19 个 Cloudflare Worker 上。现在一次部署只发布自己上次部署以来代码有变化的 Worker。每个 Worker 版本都标有构建它所用的提交,所以下一次部署知道从哪里做 diff。 - 重量级锁(10 月 12 日,#5026)。安装、构建、类型检查和测试运行共用一把锁,范围只限于它们的重量级阶段。在此之前,并行构建会耗尽机器内存,内存不足处理程序会杀掉智能体会话。 - 一个合并脚本(10 月 14 日,#5492)。`merge-pr.sh` 成为 lane 的 PR 合入的唯一方式,每次都运行同样的检查。 我们在之前的文章里写过按 Worker 部署,以及如何让本地 CI 更快。本文讲的是围绕它们的流程。 ## 阶段 3:评审关卡,然后是更少更大的 PR 本地 CI 去掉了成本,但没有去掉等待。所以 10 月 28 日我们改了合并关卡(#6840)。一个 PR 凭一次独立评审合并,即 `review:approved` 标签加一个已签署的状态,不再为每个 PR 运行 CI。测试在一批合并之后在 `main` 上运行一次,失败向前修复。超过 2 小时没有评审的 PR 会被标记为过期。 然后数量追上了我们。在 10 月 26 日这一周,合并了 821 个 PR。每个 PR 都有自己的评审智能体、自己的 worktree 和自己的依赖安装。只看到一个小 PR 的评审者,看不出它和旁边那个 PR 如何相互影响。在那样的数量下,逐个 PR 评审没有意义。 交付时长的数据显示了代价。那一周,PR 从打开到上线的中位数是 1.4 小时,但最慢的 10% 用了 22.2 小时或更久。这条长尾大部分出现在合并之前,而不是在合并和部署之间。交付时长图在下面的数据部分。 11 月 3 日,manager 会话同时运行着 8 个 lane。它们在重量级锁上排在彼此的测试运行后面,等了 15 分钟或更久。两个 lane 修改了相同的文件,不得不互相等对方的 PR。所以我们改了规则(#7798)。 - 同一时间最多 2 个实现 lane。其他的都在队列里等待。 - lane 按代码区域固定,例如 catalog 和 pricing,或模型页面 UI。新请求加入拥有该区域的 lane。 - 一个 lane 把排队的改动堆叠成一个更大的改动,只做一次评审。 ```mermaid flowchart LR L1["Lane: catalog and pricing"] --> B1["Stacked commits"] L2["Lane: model pages UI"] --> B2["Stacked commits"] B1 --> PR1["One PR"] B2 --> PR2["One PR"] PR1 --> R["One independent review per PR"] PR2 --> R R --> M["Merge, then one deploy for the batch"] ``` _阶段 3。两个 lane,每个把自己区域的改动堆叠在一次评审之后。_ 这个想法部分来自 Anthropic 的文章 [Building agents: when to fold subagents into your main agent loop](https://claude.com/resources/articles/building-agents-when-to-fold-subagents-into-your-main-agent-loop)。它的建议是,只在并行的新上下文工作、已测得的上下文膨胀,或者一个智能体在工具或指令上吃力时,才保留子智能体。否则就折叠回主循环。智能体之间的交接会丢失细节,每多一个智能体都会增加延迟。这两点我们都遇到了。 ## 阶段 4:不要 PR,直接在 main 上提交 大 PR 仍然有一个来回。11 月 3 日,一行的测试修复仍然需要一个 worktree、一次安装、一个 PR、一个评审者和一次合并,才能轮到它所阻塞的那次部署。所以我们去掉了 PR(78675034b)。 现在智能体在 `main` 上工作,或者在推送到 `main` 的 lane worktree 里工作。它在本地评审和检查,把每个可用的步骤作为检查点提交,然后 rebase 并推送。推送是备份,也是机器之间的共享状态。部署从本地 `main` 运行。 ```mermaid flowchart LR E["Edit on main"] --> C["Local checks: diff read, vitest, biome, typecheck"] C --> K["git commit as a checkpoint"] K --> P["git pull --rebase, then fast-forward push"] P --> D["Deploy from local main"] D --> RV["Review the pushed range, fix forward with new commits"] ``` _阶段 4。提交是检查点,推送是备份,评审读取已推送的范围。_ 评审并没有消失。一段范围落地之后,评审者读取 `git diff ..` 并列出问题。对小改动,这个评审者就是主会话。Billing、pricing、auth、secrets、migration 和 routing 在推送之前仍然由一个独立评审者检查。每个修复都作为新提交落地。我们从不 amend 或 force-push 已评审的提交,所以评审记录保持可读。 release-please 的 PR 是剩下的唯一一种 PR。这些由负责人手动合并。 ## 途中发现的更多问题 测量每个阶段,发现了没有任何检查报告的问题。每项检查都通过了,而这些问题中的每一个都让我们耗费了时间,或者放过了一个错误。 - 一个自己喂养自己的部署循环。部署检出里零散的未跟踪文件,让每次部署都把它的 Worker 版本标记为 `+dirty`(manager 的诊断数出了 5 个这样的文件)。部署无法从 dirty 标记做 diff,所以下一次部署重建了整个 Worker 集群,并且因为这些文件还在,又标记了 `+dirty`。自 11 月 1 日以来的全部 51 次部署都是全集群部署。零散的未跟踪文件现在不会再把一次部署标记为 dirty(2ee30c20f)。 - 一个从不命中的缓存。如果同一个提交已经通过,部署会跳过类型检查。这个缓存把零散的未跟踪文件当成 dirty 的树,所以 51 次里命中了 0 次。每次部署的类型检查平均用 197 秒。它和上面的循环是同一个根本原因。现在这个缓存会忽略 TypeScript 从不读取的未跟踪文件(fbe45259b)。 - 部署后过早运行的冒烟测试。11 月 3 日(实测),部署后立刻运行的第一次生产冒烟测试,115 项检查中有 52 项失败,错误是 `503 database_unavailable`。几分钟后重跑,没有被跳过的 72 项检查全部通过。这些失败来自刚部署的版本,而不是某个 bug。现在我们在部署后的冒烟测试之前先等待。 - Vitest 不检查类型。Vitest 会去掉类型再运行代码。一个 lane 的检查只运行了 Vitest,一个有类型错误的测试进入了 `main`。它在部署时才暴露,而部署在第一个类型错误处就停止。现在每个 lane 在推送前都运行根目录的 `pnpm typecheck`,并读取它真实的退出码。 - `main` 上只允许 fast-forward 的守卫。10 月 29 日,一个 lane 的 worktree 在 lane 还在使用时被删除了。它的下一条命令串联了一个失败的 `cd`,所以一条 `git push --force-with-lease` 从一个过期的 `main` 检出里运行了。`main` 倒退了大约一分钟(#7089)。该 lane 恢复了它,没有丢失任何提交。当我们允许直接推送到 `main` 时,我们保留了这个教训。pre-push 钩子允许 fast-forward 推送,拒绝任何改写或删除 `main` 的推送(62d85ea2b)。 - 提交哈希就是身份。Cloudflare 上的每个 Worker 版本都带有 `anyr-sha=`。这一个字段驱动按 Worker 部署的 diff、防止过期检出让生产回滚的回滚检查,以及本文中的交付时长数据。以 PR 编号为键的指标,会在你不再开 PR 的那天失效。以提交为键的指标不会。 - 部署速度,进行中。在那 51 次运行中,一次部署的中位数是 602 秒。上面的两个修复已在 11 月 3 日落地,所以按 Worker 部署和类型检查缓存可以重新发挥作用。我们还在做一个能在部署之间保留的构建缓存,并在评估 tsgo,用 Go 编写的 TypeScript 编译器。这些我们都还没有测得结果。 ## 我们给智能体的规则 这是当前的约定,改编自我们 `AGENTS.md` 里的 `Main-only flow` 和 `Few lanes` 两节。你可以复制它,并把命令改成你自己仓库的。 ```text # How we land changes (main-only flow) - No pull requests. Work on main, or in a lane worktree that pushes to main. - Keep each commit small and on one topic. Stage exact paths. Never git add -A. - Check locally before every commit: - read the whole diff - targeted vitest: scripts/heavy.sh light -- npx vitest run --maxWorkers=2 - biome on the changed files - root pnpm typecheck for TypeScript changes; read its real exit code (vitest does not type-check) - Billing, pricing, auth, secrets, migrations, routing: one independent reviewer reads the diff before you push. - git commit, git pull --rebase origin main, git push origin main. Never force-push main. - A review of the pushed range lands its fixes as new commits. Never amend, rebase or force-push reviewed commits. # Few lanes - At most 2 implementation lanes at once. Queue the rest. - Lanes are fixed by code area. A new request joins the lane that owns its area. It does not get a new worktree. - Fold before you fan out. Spawn a subagent only for parallel fresh-context work, a black-box review, or measured context bloat. - One heavy command at a time per machine (install, vitest, tsc, build). ``` _改编自 AGENTS.md,2026 年 11 月 3 日。_ ## 数据 这些图使用 git 历史、GitHub 和我们的部署日志。部署日志只覆盖一台机器,而且缺了几周。这些周从部署图里省略了,没有画成 0。所以部署次数是下限。11 月 2 日这一周不完整,只到 11 月 3 日。 ```mermaid --- config: xyChart: width: 900 height: 420 themeVariables: xyChart: plotColorPalette: "#c96442, #2f6fb0" --- xychart-beta title "Commits on main vs PRs merged, per week" x-axis ["Aug 3", "Aug 10", "Aug 17", "Aug 24", "Aug 31", "Sep 7", "Sep 14", "Sep 21", "Sep 28", "Oct 5", "Oct 12", "Oct 19", "Oct 26", "Nov 2*"] y-axis "Count" 0 --> 900 bar [123, 250, 255, 231, 133, 80, 76, 201, 570, 283, 495, 338, 810, 129] line [32, 71, 170, 162, 123, 75, 73, 169, 530, 280, 485, 346, 821, 83] ``` _从 8 月 3 日这一周开始,每周 main 上的提交(柱)和已合并的 PR(线)。* Nov 2 是不完整的一周。_ 8 月,从计数看,`main` 上有很多提交不是来自已合并的 PR。从 9 月下旬起,几乎每个提交都是一个 squash 合并的 PR,两条线都在 10 月 26 日这一周达到峰值,分别是 810 个提交和 821 个 PR。改为只用 main 之后,PR 这条线应该会下降,而提交会继续。 **每周部署次数** - Aug 3: 12 次部署 - Aug 10: 59 次部署 - Aug 17: 91 次部署 - Aug 24: 50 次部署 - Aug 31: 9 次部署 - Sep 21: 14 次部署 - Sep 28: 168 次部署 - Oct 5: 45 次部署 - Oct 12: 34 次部署 - Oct 26: 14 次部署 - Nov 2 (partial): 37 次部署 **每周部署时间中位数** - Aug 3: 95 s 秒 - Aug 10: 438 s 秒 - Aug 17: 538 s 秒 - Aug 24: 43 s 秒 - Aug 31: 177 s 秒 - Sep 21: 172 s 秒 - Sep 28: 107 s 秒 - Oct 5: 883 s 秒 - Oct 12: 937 s 秒 - Oct 26: 794 s 秒 - Nov 2 (partial): 562 s 秒 部署时间在 10 月上升了。部署变成了对一个不断增长的 19 个 Worker 集群的完整构建,外加一道类型检查关卡。上面说的 dirty 标记让自 11 月 1 日以来的每次部署都是完整部署。 **部署时间花在哪里** - deploy:spokes: 227 s 秒 - typecheck: 197 s 秒 - core-uploads: 124 s 秒 - prerender: 79 s 秒 - prerender:redeploy: 50 s 秒 - build: 49 s 秒 - assets: 42 s 秒 - build:docs: 41 s 秒 - deploy:docs: 40 s 秒 部署 spoke Worker 和类型检查加在一起,约占各步骤平均值总和的一半。这正是 dirty 标记破坏的两件事。干净的标记能让部署跳过没有变化的 Worker,也能跳过已经通过的类型检查。 **PR 流程的交付时长,从开始到上线** - Oct 12 p50: 2.1 h 小时 - Oct 12 p90: 10.7 h 小时 - Oct 19 p50: 4.6 h 小时 - Oct 19 p90: 14.3 h 小时 - Oct 26 p50: 1.4 h 小时 - Oct 26 p90: 22.2 h 小时 - Nov 2 p50 (partial): 0.3 h 小时 - Nov 2 p90 (partial): 1.6 h 小时 我们的脚本 `scripts/delivery-metrics.ts` 按提交测量交付时长。一个提交从它的 PR 打开时开始,如果没有 PR,则从它被编写时开始。当标有该提交或更晚提交的 Worker 版本被部署时,它就上线了。这张表把 PR 流程分成它的两半。 | PR 流程,所在周 | 提交 | 从开始到合入 p50 / p90 | 从合入到上线 p50 / p90 | 从开始到上线 p50 / p90 | | --- | --- | --- | --- | --- | | Oct 12 | 412 | 0.6 h / 5.6 h | 0.8 h / 5.0 h | 2.1 h / 10.7 h | | Oct 19 | 344 | 3.0 h / 12.6 h | 0.8 h / 2.7 h | 4.6 h / 14.3 h | | Oct 26 | 819 | 0.2 h / 21.7 h | 0.5 h / 3.4 h | 1.4 h / 22.2 h | | Nov 2(不完整) | 83(80 已上线) | 0.1 h / 0.4 h | 0.2 h / 0.8 h | 0.3 h / 1.6 h | 在 10 月 26 日这一周,p90 的长尾几乎完全出现在合并之前,为 21.7 小时。等待发生在合并之前,而不是在合并和部署之间。11 月 2 日这个不完整的一周快得多,但它只涵盖 PR 流程最后几天的 83 个提交。它不是只用 main 流程的结果。 ## 我们还不知道的事 只用 main 的流程才一天。我们测量时,`main` 上有 6 个提交,其中还没有一个被部署。我们没有它的改动后数据,所以不宣称它更快。 | main 流程,所在周 | 提交 | 从开始到合入 p50 / p90 | 从开始到上线 p50 / p90 | | --- | --- | --- | --- | | Oct 12 | 6(6 已上线) | 0.0 h / 0.0 h | 1.0 h / 2.5 h | | Oct 26 | 1(1 已上线) | 0.0 h / 0.0 h | 1.7 h / 1.7 h | | Nov 2 | 6(0 已上线) | 0.2 h / 0.7 h | 暂无 | 较早的 main 行是在 PR 时期做的少量直接提交。它们太少,无法与任何东西比较。 新流程和这两个部署修复运行几天之后,我们会重新运行 `npx tsx scripts/delivery-metrics.ts --since 2026-10-12`。我们会用这些数据更新本文,包括那些不好看的数据。 --- # CI/CD của chúng tôi đã thay đổi thế nào khi agent lập trình tiếp quản > Agent lập trình giờ viết và ship phần lớn thay đổi của AnyRouter. Sau năm tháng dùng GitHub Actions, chúng tôi đã đổi thiết kế CI/CD bốn lần trong một tháng. Chúng tôi chuyển từ GitHub Actions sang CI chạy local trên một máy, rồi sang PR có review gate, rồi sang vài PR lớn, và giờ là commit thẳng lên main. Bài này đi qua từng giai đoạn với các con số chúng tôi đã đo, các lỗi tìm thấy trên đường đi, và các quy tắc chúng tôi đưa cho agent hiện nay. - Date: November 3, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/cicd-for-coding-agents ## Agent làm thay đổi điểm nghẽn Phần lớn thay đổi của AnyRouter giờ do agent lập trình viết, kiểm tra và ship. Chúng push và deploy nhiều lần mỗi ngày. Khi viết code nhanh lên, pipeline xung quanh trở thành thứ mọi người phải chờ. Chúng tôi đã chạy CI bằng GitHub Actions trong năm tháng. Rồi chúng tôi đổi thiết kế CI/CD bốn lần trong một tháng, từ ngày 4 tháng 10 đến ngày 3 tháng 11. Mỗi thay đổi sửa một điểm nghẽn và cho chúng tôi thấy điểm nghẽn tiếp theo. Bài này đi qua các giai đoạn theo thứ tự, với ngày tháng và các commit hoặc PR tạo ra từng thay đổi. Mọi con số ở đây được đo vào ngày 3 tháng 11 năm 2026 từ lịch sử git, GitHub, log deploy và một script đo lead time. Chỗ nào số liệu có khoảng trống hoặc lưu ý, chúng tôi nói ngay bên cạnh. ## Giai đoạn 1: GitHub Actions và preview deploy Ngày 23 tháng 5 năm 2026, chúng tôi dựng pipeline quen thuộc (#321). Mỗi pull request chạy CI trên GitHub Actions và có một preview deploy. Merge vào `main` thì deploy từ GitHub Actions. ```mermaid flowchart LR A["Agent pushes a branch"] --> PR["Pull request"] PR --> GHA["GitHub Actions CI"] GHA --> PV["Preview deploy"] PV --> M["Merge"] M --> GHA2["GitHub Actions deploy"] ``` _Giai đoạn 1. Mỗi lần push từ mỗi agent chạy cả pipeline trên GitHub._ Cách này hợp với một đội người. Nó không hợp với một đội agent. Một agent push, chờ CI, sửa phần lỗi rồi push lại. Mỗi lần push đó chạy toàn bộ pipeline. Chúng tôi không đo hàng đợi vào thời điểm đó, nhưng việc chờ đợi rất dễ thấy. Nó cũng tốn tiền. Repo của chúng tôi là private. GitHub [ghi rõ](https://docs.github.com/en/billing/concepts/product-billing/github-actions) rằng Actions trên repo private đi kèm một lượng sử dụng mỗi tháng, và sau đó bạn trả theo phút. Runner tiêu chuẩn do GitHub cung cấp chỉ miễn phí cho repo public. Agent push cả ngày, nên chúng tôi dự đoán sẽ phải trả cho phần lớn số phút đó. Chúng tôi không đo chi phí này. ## Giai đoạn 2: CI chạy local trên một máy riêng Ngày 4 tháng 10, chúng tôi tắt CI của GitHub Actions (#4452). Chỉ các workflow release còn chạy ở đó. Các check đó giờ chạy bằng `pnpm local-ci` trên một máy riêng, và lần chạy đó ký một commit status lên PR. Agent cũng phát triển và deploy từ máy đó. ```mermaid flowchart LR A["Agent lane in a worktree"] --> PR["Pull request"] PR --> LCI["pnpm local-ci on the dedicated machine"] LCI -->|"signs a status"| M["merge-pr.sh"] M --> D["pnpm ops deploy from local main"] D --> W["Only the Workers that changed"] ``` _Giai đoạn 2. Check và deploy chuyển sang một máy mà các agent dùng chung._ Một máy thì có giới hạn riêng. Nó có 15 GB bộ nhớ, và nhiều agent dùng chung. Ba thay đổi giúp nó chạy được. - Deploy theo từng Worker (10 tháng 10). AnyRouter chạy trên 19 Cloudflare Worker. Một lần deploy giờ chỉ ship các Worker có code thay đổi kể từ lần deploy trước của chính Worker đó. Mỗi phiên bản Worker được đóng dấu bằng commit mà nó được build từ đó, nên lần deploy sau biết cần diff từ đâu. - Một khóa heavy (12 tháng 10, #5026). Cài đặt, build, typecheck và chạy test dùng chung một khóa, chỉ áp dụng trong các pha nặng của chúng. Trước đó, build song song làm máy hết bộ nhớ và trình xử lý hết bộ nhớ đã kill các phiên agent. - Một script merge (14 tháng 10, #5492). `merge-pr.sh` trở thành cách duy nhất để PR của một lane được merge, với cùng các check mỗi lần. Chúng tôi đã viết về deploy theo từng Worker và về việc làm local CI nhanh hơn trong các bài trước. Bài này nói về luồng xung quanh chúng. ## Giai đoạn 3: review gate, rồi ít PR hơn và lớn hơn Local CI loại bỏ chi phí. Nó không loại bỏ thời gian chờ. Vì vậy ngày 28 tháng 10 chúng tôi đổi cổng merge (#6840). Một PR được merge sau một lần review độc lập, gồm nhãn `review:approved` cộng một status đã ký, không chạy CI theo từng PR. Test chạy một lần trên `main` sau một loạt merge, và lỗi được sửa tiến lên. Một PR không có review sau 2 giờ bị đánh dấu là stale. Rồi khối lượng đuổi kịp chúng tôi. Trong tuần 26 tháng 10, có 821 PR được merge. Mỗi PR có một agent reviewer riêng, một worktree riêng và một lần cài dependency riêng. Một reviewer chỉ thấy một PR nhỏ thì không thấy được nó tương tác thế nào với PR bên cạnh. Review từng PR ở khối lượng đó không hợp lý. Số liệu lead time cho thấy cái giá. Trong tuần đó, PR trung vị đi từ lúc mở đến lúc live trong 1.4 giờ, nhưng 10 phần trăm chậm nhất mất 22.2 giờ hoặc hơn. Phần lớn cái đuôi đó nằm trước lúc merge, không phải giữa lúc merge và lúc deploy. Biểu đồ lead time nằm ở phần số liệu bên dưới. Ngày 3 tháng 11, phiên manager đang chạy 8 lane cùng lúc. Chúng xếp hàng sau các lần chạy test của nhau trên khóa heavy trong 15 phút hoặc hơn. Hai lane sửa cùng các file và phải chờ PR của nhau. Vì vậy chúng tôi đổi quy tắc (#7798). - Tối đa 2 lane implementation cùng lúc. Mọi thứ khác chờ trong hàng đợi. - Lane được cố định theo vùng code, như catalog và pricing, hoặc UI trang model. Một yêu cầu mới vào lane sở hữu vùng đó. - Một lane gom các thay đổi trong hàng đợi thành một thay đổi lớn hơn với một lần review. ```mermaid flowchart LR L1["Lane: catalog and pricing"] --> B1["Stacked commits"] L2["Lane: model pages UI"] --> B2["Stacked commits"] B1 --> PR1["One PR"] B2 --> PR2["One PR"] PR1 --> R["One independent review per PR"] PR2 --> R R --> M["Merge, then one deploy for the batch"] ``` _Giai đoạn 3. Hai lane, mỗi lane gom các thay đổi của vùng mình sau một lần review._ Ý tưởng này một phần đến từ bài của Anthropic [Building agents: when to fold subagents into your main agent loop](https://claude.com/resources/articles/building-agents-when-to-fold-subagents-into-your-main-agent-loop). Lời khuyên là chỉ giữ subagent cho công việc song song trong ngữ cảnh mới, cho tình trạng phình ngữ cảnh đã đo được, hoặc khi một agent gặp khó với công cụ hay chỉ dẫn của nó. Còn lại thì gộp vào vòng lặp chính. Mỗi lần chuyển giao giữa các agent làm mất chi tiết, và mỗi agent thêm vào làm tăng độ trễ. Chúng tôi đã thấy cả hai. ## Giai đoạn 4: không PR, commit trên main PR lớn vẫn có một vòng đi về. Ngày 3 tháng 11, một bản sửa test một dòng vẫn cần một worktree, một lần cài đặt, một PR, một reviewer và một lần merge trước khi đến lần deploy mà nó đang chặn. Vì vậy chúng tôi bỏ PR (78675034b). Giờ một agent làm việc trên `main`, hoặc trong một worktree của lane push lên `main`. Nó review và check local, commit mỗi bước chạy được như một checkpoint, rebase rồi push. Lần push là bản sao lưu và là trạng thái chung giữa các máy. Deploy chạy từ `main` local. ```mermaid flowchart LR E["Edit on main"] --> C["Local checks: diff read, vitest, biome, typecheck"] C --> K["git commit as a checkpoint"] K --> P["git pull --rebase, then fast-forward push"] P --> D["Deploy from local main"] D --> RV["Review the pushed range, fix forward with new commits"] ``` _Giai đoạn 4. Một commit là checkpoint, một lần push là bản sao lưu, và review đọc dải commit đã push._ Review không biến mất. Sau khi một dải commit được đưa lên, một reviewer đọc `git diff ..` và liệt kê vấn đề. Với thay đổi nhỏ, reviewer đó là phiên chính. Billing, pricing, auth, secrets, migration và routing vẫn có một reviewer độc lập trước khi push. Mỗi bản sửa được đưa lên như một commit mới. Chúng tôi không bao giờ amend hay force-push một commit đã review, nên dấu vết review vẫn dễ đọc. PR của release-please là loại PR duy nhất còn lại. Chủ dự án merge chúng bằng tay. ## Những điều khác chúng tôi tìm ra trên đường đi Đo từng giai đoạn làm lộ ra những vấn đề mà không check nào báo. Mọi check đều qua trong khi mỗi vấn đề này làm chúng tôi mất thời gian hoặc để lọt một lỗi. - Một vòng deploy tự nuôi chính nó. Các file chưa được theo dõi nằm rải rác trong checkout dùng để deploy khiến mọi lần deploy đóng dấu phiên bản Worker của nó là `+dirty` (chẩn đoán của manager đếm được 5 file như vậy). Một lần deploy không thể diff từ một dấu dirty, nên lần deploy sau build lại cả đội Worker, và lại đóng dấu `+dirty` vì các file vẫn còn đó. Cả 51 lần deploy kể từ 1 tháng 11 đều là deploy toàn bộ. Các file chưa được theo dõi nằm rải rác không còn đánh dấu một lần deploy là dirty nữa (2ee30c20f). - Một cache không bao giờ trúng. Lần deploy bỏ qua typecheck nếu cùng commit đó đã qua. Cache đó coi các file chưa được theo dõi nằm rải rác là một cây dirty, nên nó trúng 0 trên 51 lần. Typecheck mất trung bình 197 giây mỗi lần deploy. Đó là cùng một nguyên nhân gốc với vòng lặp ở trên. Giờ cache bỏ qua các file chưa được theo dõi mà TypeScript không bao giờ đọc (fbe45259b). - Một lần chạy smoke quá sớm sau deploy. Ngày 3 tháng 11 (đã đo), lần chạy smoke production đầu tiên ngay sau một lần deploy đã thất bại 52 trên 115 check với `503 database_unavailable`. Chạy lại vài phút sau thì qua cả 72 check không bị bỏ qua. Các lỗi đến từ lần deploy mới, không phải từ một bug. Giờ chúng tôi chờ trước khi chạy smoke sau deploy. - Vitest không kiểm tra kiểu. Vitest bỏ kiểu đi và chạy code. Check của một lane chỉ chạy Vitest, và một test có lỗi kiểu đã lọt vào `main`. Nó lộ ra ở lúc deploy, vốn dừng ở lỗi kiểu đầu tiên. Giờ mọi lane chạy `pnpm typecheck` ở thư mục gốc trước khi push và đọc exit code thật của nó. - Một guard chỉ cho phép fast-forward trên `main`. Ngày 29 tháng 10, worktree của một lane bị xóa trong khi lane vẫn đang dùng. Lệnh tiếp theo của nó nối một `cd` thất bại, nên một lệnh `git push --force-with-lease` chạy từ một checkout cũ của `main`. `main` lùi lại khoảng một phút (#7089). Lane đã khôi phục nó và không mất commit nào. Khi cho phép push thẳng lên `main`, chúng tôi giữ lại bài học đó. Hook pre-push cho phép push fast-forward và từ chối mọi lần push ghi đè hoặc xóa `main` (62d85ea2b). - Hash của commit là danh tính. Mỗi phiên bản Worker trên Cloudflare mang `anyr-sha=`. Một trường đó điều khiển diff deploy theo từng Worker, việc kiểm tra rollback ngăn một checkout cũ làm production lùi lại, và các số lead time trong bài này. Một chỉ số gắn với số PR sẽ hỏng ngày bạn ngừng mở PR. Một chỉ số gắn với commit thì không. - Tốc độ deploy, đang làm. Một lần deploy mất trung vị 602 giây trên 51 lần chạy đó. Hai bản sửa ở trên đã được đưa lên ngày 3 tháng 11, nên deploy theo từng Worker và cache typecheck có thể hoạt động trở lại. Chúng tôi cũng đang làm một build cache sống qua các lần deploy, và đang đánh giá tsgo, trình biên dịch TypeScript viết bằng Go. Chúng tôi chưa đo được kết quả nào trong số này. ## Các quy tắc chúng tôi đưa cho agent Đây là hợp đồng hiện tại, lấy từ các mục `Main-only flow` và `Few lanes` trong `AGENTS.md` của chúng tôi. Bạn có thể sao chép và đổi các lệnh cho repo của mình. ```text # How we land changes (main-only flow) - No pull requests. Work on main, or in a lane worktree that pushes to main. - Keep each commit small and on one topic. Stage exact paths. Never git add -A. - Check locally before every commit: - read the whole diff - targeted vitest: scripts/heavy.sh light -- npx vitest run --maxWorkers=2 - biome on the changed files - root pnpm typecheck for TypeScript changes; read its real exit code (vitest does not type-check) - Billing, pricing, auth, secrets, migrations, routing: one independent reviewer reads the diff before you push. - git commit, git pull --rebase origin main, git push origin main. Never force-push main. - A review of the pushed range lands its fixes as new commits. Never amend, rebase or force-push reviewed commits. # Few lanes - At most 2 implementation lanes at once. Queue the rest. - Lanes are fixed by code area. A new request joins the lane that owns its area. It does not get a new worktree. - Fold before you fan out. Spawn a subagent only for parallel fresh-context work, a black-box review, or measured context bloat. - One heavy command at a time per machine (install, vitest, tsc, build). ``` _Lấy từ AGENTS.md, ngày 3 tháng 11 năm 2026._ ## Các con số Các biểu đồ này dùng lịch sử git, GitHub và log deploy của chúng tôi. Log deploy chỉ bao gồm một máy, và thiếu vài tuần. Những tuần đó bị bỏ khỏi biểu đồ deploy, không được vẽ thành 0. Vì vậy số lần deploy là mức tối thiểu. Tuần 2 tháng 11 chưa đủ. Nó chạy đến ngày 3 tháng 11. ```mermaid --- config: xyChart: width: 900 height: 420 themeVariables: xyChart: plotColorPalette: "#c96442, #2f6fb0" --- xychart-beta title "Commits on main vs PRs merged, per week" x-axis ["Aug 3", "Aug 10", "Aug 17", "Aug 24", "Aug 31", "Sep 7", "Sep 14", "Sep 21", "Sep 28", "Oct 5", "Oct 12", "Oct 19", "Oct 26", "Nov 2*"] y-axis "Count" 0 --> 900 bar [123, 250, 255, 231, 133, 80, 76, 201, 570, 283, 495, 338, 810, 129] line [32, 71, 170, 162, 123, 75, 73, 169, 530, 280, 485, 346, 821, 83] ``` _Commit trên main (cột) và PR đã merge (đường) mỗi tuần, từ tuần 3 tháng 8. * Nov 2 là một tuần chưa đủ._ Vào tháng 8, các số đếm cho thấy nhiều commit trên `main` không đến từ một PR đã merge. Từ cuối tháng 9, gần như mọi commit là một PR squash-merge, và cả hai đường đạt đỉnh trong tuần 26 tháng 10 với 810 commit và 821 PR. Sau khi chuyển sang main-only, đường PR sẽ giảm trong khi commit tiếp tục. **Số lần deploy mỗi tuần** - Aug 3: 12 lần deploy - Aug 10: 59 lần deploy - Aug 17: 91 lần deploy - Aug 24: 50 lần deploy - Aug 31: 9 lần deploy - Sep 21: 14 lần deploy - Sep 28: 168 lần deploy - Oct 5: 45 lần deploy - Oct 12: 34 lần deploy - Oct 26: 14 lần deploy - Nov 2 (partial): 37 lần deploy **Thời gian deploy trung vị mỗi tuần** - Aug 3: 95 s giây - Aug 10: 438 s giây - Aug 17: 538 s giây - Aug 24: 43 s giây - Aug 31: 177 s giây - Sep 21: 172 s giây - Sep 28: 107 s giây - Oct 5: 883 s giây - Oct 12: 937 s giây - Oct 26: 794 s giây - Nov 2 (partial): 562 s giây Thời gian deploy tăng vào tháng 10. Deploy trở thành build đầy đủ của một đội 19 Worker đang lớn dần, cộng thêm một cổng typecheck. Dấu dirty ở trên khiến mọi lần deploy kể từ 1 tháng 11 đều là deploy đầy đủ. **Thời gian deploy đi đâu** - deploy:spokes: 227 s giây - typecheck: 197 s giây - core-uploads: 124 s giây - prerender: 79 s giây - prerender:redeploy: 50 s giây - build: 49 s giây - assets: 42 s giây - build:docs: 41 s giây - deploy:docs: 40 s giây Deploy các Worker spoke và typecheck cộng lại chiếm khoảng một nửa tổng các số trung bình của từng bước. Đó là hai thứ mà dấu dirty làm hỏng. Một dấu sạch cho phép deploy bỏ qua các Worker không đổi và bỏ qua một typecheck đã qua. **Lead time của luồng PR, từ đầu đến live** - Oct 12 p50: 2.1 h giờ - Oct 12 p90: 10.7 h giờ - Oct 19 p50: 4.6 h giờ - Oct 19 p90: 14.3 h giờ - Oct 26 p50: 1.4 h giờ - Oct 26 p90: 22.2 h giờ - Nov 2 p50 (partial): 0.3 h giờ - Nov 2 p90 (partial): 1.6 h giờ Script `scripts/delivery-metrics.ts` của chúng tôi đo lead time theo từng commit. Một commit bắt đầu khi PR của nó được mở, hoặc khi nó được viết nếu không có PR. Nó live khi một phiên bản Worker được đóng dấu bằng commit đó, hoặc commit sau nó, được deploy. Bảng này chia luồng PR thành hai nửa của nó. | Luồng PR, tuần | Commit | Từ đầu đến đã vào main p50 / p90 | Từ đã vào main đến live p50 / p90 | Từ đầu đến live p50 / p90 | | --- | --- | --- | --- | --- | | Oct 12 | 412 | 0.6 h / 5.6 h | 0.8 h / 5.0 h | 2.1 h / 10.7 h | | Oct 19 | 344 | 3.0 h / 12.6 h | 0.8 h / 2.7 h | 4.6 h / 14.3 h | | Oct 26 | 819 | 0.2 h / 21.7 h | 0.5 h / 3.4 h | 1.4 h / 22.2 h | | Nov 2 (chưa đủ tuần) | 83 (80 đã live) | 0.1 h / 0.4 h | 0.2 h / 0.8 h | 0.3 h / 1.6 h | Trong tuần 26 tháng 10, cái đuôi p90 nằm gần như hoàn toàn trước lúc merge, ở mức 21.7 giờ. Thời gian chờ nằm trước lúc merge, không phải giữa lúc merge và lúc deploy. Tuần 2 tháng 11 chưa đủ nhanh hơn nhiều, nhưng nó chỉ gồm 83 commit từ những ngày cuối của luồng PR. Đó không phải là kết quả của luồng main-only. ## Những gì chúng tôi chưa biết Luồng main-only mới một ngày tuổi. Khi chúng tôi đo, nó có 6 commit trên `main` và chưa commit nào được deploy. Chúng tôi chưa có số liệu sau thay đổi, nên chúng tôi không tuyên bố nó nhanh hơn. | Luồng main, tuần | Commit | Từ đầu đến đã vào main p50 / p90 | Từ đầu đến live p50 / p90 | | --- | --- | --- | --- | | Oct 12 | 6 (6 live) | 0.0 h / 0.0 h | 1.0 h / 2.5 h | | Oct 26 | 1 (1 live) | 0.0 h / 0.0 h | 1.7 h / 1.7 h | | Nov 2 | 6 (0 live) | 0.2 h / 0.7 h | chưa có | Các dòng main trước đó là một nhúm commit trực tiếp được làm trong thời kỳ PR. Chúng quá ít để so sánh với bất cứ thứ gì. Chúng tôi sẽ chạy lại `npx tsx scripts/delivery-metrics.ts --since 2026-10-12` sau vài ngày của luồng mới và hai bản sửa deploy. Chúng tôi sẽ cập nhật bài này với các số liệu đó, kể cả những số trông không đẹp. --- # Use AnyRouter in DeepSeek Harness > DeepSeek Harness is DeepSeek's open-source agent app, now in preview. Add AnyRouter as a custom model API with one base URL and one key, then pick an anyrouter/* router model for each kind of work. - Date: November 2, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/deepseek-harness-anyrouter ## What DeepSeek Harness is DeepSeek Harness (`dsh`) is an open-source agent harness from DeepSeek, released under the MIT license. Its product page describes it as a tool for everyday tasks, coding, or building your own harness. Every part of it is a plugin, and you can ask the agent to write new plugins. It runs as a desktop app on macOS (Apple silicon) and Windows (64-bit). You can also start the Web UI with `npx @deepseek-ai/dsh web`. Harness is a preview. DeepSeek says its core plugins and APIs still change, and the README warns of compatibility-breaking changes. ![DeepSeek Harness home screen titled Into the Unknown with a Preview badge. The sidebar lists New Session, Plugins, Automation tasks and Workspaces. The composer shows a Default workspace, Standard mode, a Workspace Write permission selector and a Select model dropdown.](https://anyrouter.dev/screenshots/deepseek-harness-home-2026-11.webp) _The Harness home screen. Pick a workspace, a mode and a permission level, then pick a model._ The app shows workspaces, sessions, plugins, automation tasks and agent presets. You pick the model for a session from the Select model dropdown in the composer. ## Add AnyRouter as a custom model API Harness lists built-in providers under Third-party model provider. Any other endpoint goes under Custom model API, which accepts OpenAI-compatible and Anthropic-compatible endpoints. AnyRouter is one of those. 1. Create an AnyRouter API key at anyrouter.dev/keys. It starts with `sk-ar-`. 2. In Harness, open Settings, then Models, choose Add model provider, and switch to the Custom model API tab. 3. Set Provider ID to `anyrouter`. Harness uses this id in requests, saved sessions and the credential name, so you cannot rename it later. 4. Set Base URL to `https://anyrouter.dev/api/v1` and API protocol to OpenAI Chat Completions. 5. Paste your `sk-ar-` key into API key. 6. Choose Fetch available models, tick the `anyrouter/*` models you want, and save. ![DeepSeek Harness Settings, Models, Custom model API tab. Provider ID is anyrouter, Base URL is https://anyrouter.dev/api/v1, API protocol is OpenAI Chat Completions and the API key is masked. The model list shows anyrouter/byok, anyrouter/coding, anyrouter/agent and anyrouter/hermes.](https://anyrouter.dev/screenshots/deepseek-harness-custom-model-api-2026-11.webp) _The finished custom model API form. The key field is masked, and the model list came from Fetch available models._ Harness says discovery is a convenience, not a guarantee. If Fetch available models lists nothing, type the model ids by hand. They work the same way. Harness stores the key in `$DSH_HOME/.credentials.yaml` and writes the rest to the profile's `cordis.patch.yml`. Choose Open configuration file in the Settings header to edit it directly. This entry is the same provider, reading the key from the `ANYROUTER_API_KEY` environment variable: ```yaml - id: llm-pi-ai config: providers: anyrouter: apiKeyEnv: ANYROUTER_API_KEY api: openai-completions baseURL: https://anyrouter.dev/api/v1 models: - id: anyrouter/coding - id: anyrouter/agent - id: anyrouter/hermes - id: anyrouter/auto ``` Harness replaces the whole entry config when it applies an override. Keep your other providers in the block when you edit it. ## Anthropic Messages works too The API protocol picker offers OpenAI Chat Completions, OpenAI Responses and Anthropic Messages. One Harness provider speaks one protocol. If you want Anthropic Messages, add a second provider, for example `anyrouter-messages`, with protocol Anthropic Messages and Base URL `https://anyrouter.dev/api`. Leave `/v1` off that base URL. Anthropic clients add `/v1/messages` themselves, and AnyRouter serves Messages at `https://anyrouter.dev/api/v1/messages`. The same `sk-ar-` key works on both protocols. Chat Completions is the simpler default, so start there. ## Which anyrouter/* model to pick In this setup, Fetch available models pulled in every AnyRouter router model. `anyrouter/byok`, `anyrouter/coding` and `anyrouter/agent` appear only once your account has a provider key at anyrouter.dev/byok. Each one is a routing rule, not a single model. AnyRouter picks a real model per request and falls back to the next one when an upstream fails. ![The DeepSeek Harness model picker open under the anyrouter provider, listing AnyRouter BYOK, Coding, Agent, Hermes, Cowork, Free, Auto (checked), Decision and Latest. The composer shows Full access and AnyRouter Auto. The footer reads 1 turns 7 steps, 198 tok/s, 146K tok, Cache hit 69%.](https://anyrouter.dev/screenshots/deepseek-harness-model-picker-2026-11.webp) _The Harness model picker after a fetch. This session ran on AnyRouter Auto._ | Model | Routes across | Billed to | | --- | --- | --- | | `anyrouter/coding` | Tool-calling models your own keys reach, best for coding first | Your provider | | `anyrouter/agent` | Tool-calling models your own keys reach, best model first | Your provider | | `anyrouter/byok` | Every model your own keys reach, with no tool-calling filter | Your provider | | `anyrouter/hermes` | Top tool-calling models, one per upstream provider | AnyRouter credits | | `anyrouter/cowork` | Tool-calling models for assistant work, with vision, one per provider | AnyRouter credits | | `anyrouter/auto` | Top used, stable models, free and paid mixed, health-aware | Each hop's rate, $0 on free hops | | `anyrouter/latest` | The latest stable chat model that is serving traffic | Each hop's rate | | `anyrouter/free` | Models AnyRouter serves at $0 | Nothing | For coding sessions, pick `anyrouter/coding` if you have your own provider keys, and `anyrouter/hermes` if you do not. A Harness agent calls tools on almost every step, and both of these only route to models that accept tools. `anyrouter/auto` is a good general default. When a request carries tools, as Harness agent steps do, AnyRouter routes it only to models that accept tools. Pick `anyrouter/coding` or `anyrouter/hermes` when you want the ranking tuned for coding or tool calling. Skip `anyrouter/decision`. It is for the Decisions API (`/api/v1/decisions`), which returns typed yes or no, choice and score answers. It is not a chat model for an agent loop. Footer numbers are per session. In the session above, Harness reported 1 turn, 7 steps, 198 tok/s, 146K tokens and a 69% cache hit. That is one session, not a benchmark. ## Run on your own keys with BYOK `anyrouter/byok`, `anyrouter/coding` and `anyrouter/agent` route only across your own provider keys. Your provider bills you, and AnyRouter never takes credits for these requests. Add keys once at anyrouter.dev/byok. They become available to these models right away. With no provider keys saved, these three models are not listed and have nothing to route to. Use `anyrouter/hermes` or `anyrouter/auto` until you add a key. Add your provider keys once and use them from Harness. [Add a key](https://anyrouter.dev/byok) ## Get a key and pick a plan Sign up at anyrouter.dev and create a key at anyrouter.dev/keys. The Free plan gives you a 5-request trial on free and decision models, paid models with purchased credit, and your own BYOK keys as normal. The Go plan is $2 a month, or free when you donate one valid, unique provider key that the shared pool can use. It opens every model and adds $4 of credit each month. Every request Harness sends shows up in your AnyRouter request logs. Step-by-step setup with the same screenshots. [Open the use case](https://anyrouter.dev/use-cases/deepseek-harness) --- # 在 DeepSeek Harness 里使用 AnyRouter > DeepSeek Harness 是 DeepSeek 的开源智能体应用,目前是预览版。把 AnyRouter 添加为自定义模型 API,只需一个 Base URL 和一把 key,再按任务挑选 anyrouter/* 路由模型。 - Date: November 2, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/deepseek-harness-anyrouter ## DeepSeek Harness 是什么 DeepSeek Harness(`dsh`)是 DeepSeek 开源的智能体 harness,采用 MIT 许可证。产品页说它可以用来做日常任务、写代码,或者搭建你自己的 harness。它的每个部分都是插件,你也可以让智能体帮你写新插件。 它有 macOS(Apple 芯片)和 Windows(64 位)桌面版,也可以用 `npx @deepseek-ai/dsh web` 启动 Web UI。Harness 目前是预览版。DeepSeek 说核心插件和 API 仍在变化,README 也提醒会有不兼容的改动。 ![DeepSeek Harness 首页,标题为 Into the Unknown,带 Preview 标记。侧栏有 New Session、Plugins、Automation tasks 和 Workspaces。输入框显示 Default workspace、Standard mode、Workspace Write 权限选择和 Select model 下拉框。](https://anyrouter.dev/screenshots/deepseek-harness-home-2026-11.webp) _Harness 首页。先选工作区、模式和权限,再选模型。_ 应用里能看到工作区、会话、插件、自动化任务和智能体预设。会话用的模型在输入框的 Select model 下拉框里选。 ## 把 AnyRouter 添加为自定义模型 API Harness 把内置提供商放在 Third-party model provider 下。其他端点放在 Custom model API 下,它接受兼容 OpenAI 和兼容 Anthropic 的端点,AnyRouter 就是其中之一。 1. 在 anyrouter.dev/keys 创建一把 AnyRouter API key,以 `sk-ar-` 开头。 2. 在 Harness 里打开 Settings,进入 Models,选择 Add model provider,切换到 Custom model API 标签。 3. Provider ID 填 `anyrouter`。Harness 会在请求、已保存的会话和凭据名里使用这个 id,之后不能改名。 4. Base URL 填 `https://anyrouter.dev/api/v1`,API protocol 选 OpenAI Chat Completions。 5. 把 `sk-ar-` key 粘贴到 API key。 6. 选择 Fetch available models,勾选需要的 `anyrouter/*` 模型,然后保存。 ![DeepSeek Harness 的 Settings、Models、Custom model API 标签。Provider ID 为 anyrouter,Base URL 为 https://anyrouter.dev/api/v1,API protocol 为 OpenAI Chat Completions,API key 已遮盖。模型列表有 anyrouter/byok、anyrouter/coding、anyrouter/agent 和 anyrouter/hermes。](https://anyrouter.dev/screenshots/deepseek-harness-custom-model-api-2026-11.webp) _填好的自定义模型 API 表单。key 已遮盖,模型列表来自 Fetch available models。_ Harness 说模型发现只是便利功能,不保证一定成功。如果 Fetch available models 什么都没列出,手动输入模型 id 即可,效果一样。 Harness 把 key 存在 `$DSH_HOME/.credentials.yaml`,其余设置写进配置的 `cordis.patch.yml`。在 Settings 顶部选择 Open configuration file 可以直接编辑。下面是同一个提供商,从环境变量 `ANYROUTER_API_KEY` 读取 key: ```yaml - id: llm-pi-ai config: providers: anyrouter: apiKeyEnv: ANYROUTER_API_KEY api: openai-completions baseURL: https://anyrouter.dev/api/v1 models: - id: anyrouter/coding - id: anyrouter/agent - id: anyrouter/hermes - id: anyrouter/auto ``` Harness 应用覆盖配置时会替换整个条目配置。编辑这段时,保留你的其他提供商。 ## 也可以用 Anthropic Messages API protocol 有三个选项:OpenAI Chat Completions、OpenAI Responses 和 Anthropic Messages。一个 Harness 提供商只用一种协议。想用 Anthropic Messages,就再加一个提供商,比如 `anyrouter-messages`,协议选 Anthropic Messages,Base URL 填 `https://anyrouter.dev/api`。 这个 Base URL 不要带 `/v1`。Anthropic 客户端会自己加上 `/v1/messages`,AnyRouter 的 Messages 端点是 `https://anyrouter.dev/api/v1/messages`。同一把 `sk-ar-` key 两种协议都能用。Chat Completions 更简单,建议先用它。 ## 该选哪个 anyrouter/* 模型 在这个配置里,Fetch available models 拉取了全部 AnyRouter 路由模型。`anyrouter/byok`、`anyrouter/coding` 和 `anyrouter/agent` 要在账号于 anyrouter.dev/byok 添加了提供商 key 之后才会出现。每个都是一条路由规则,而不是单个模型。AnyRouter 每次请求挑选一个真实模型,上游失败时自动切到下一个。 ![DeepSeek Harness 模型选择器在 anyrouter 提供商下展开,列出 AnyRouter BYOK、Coding、Agent、Hermes、Cowork、Free、Auto(已勾选)、Decision 和 Latest。输入框显示 Full access 和 AnyRouter Auto。底部显示 1 turns 7 steps、198 tok/s、146K tok、Cache hit 69%。](https://anyrouter.dev/screenshots/deepseek-harness-model-picker-2026-11.webp) _拉取后的 Harness 模型选择器。这个会话用的是 AnyRouter Auto。_ | 模型 | 路由范围 | 计费方 | | --- | --- | --- | | `anyrouter/coding` | 你自己的 key 能用的工具调用模型,编程能力强的优先 | 你的提供商 | | `anyrouter/agent` | 你自己的 key 能用的工具调用模型,最好的优先 | 你的提供商 | | `anyrouter/byok` | 你自己的 key 能用的所有模型,不筛选工具调用 | 你的提供商 | | `anyrouter/hermes` | 顶尖工具调用模型,每个上游提供商一个 | AnyRouter 额度 | | `anyrouter/cowork` | 适合助手工作的工具调用模型,支持视觉,每个提供商一个 | AnyRouter 额度 | | `anyrouter/auto` | 使用量高且稳定的模型,免费和付费混合,按健康度路由 | 按每跳价格,免费跳为 $0 | | `anyrouter/latest` | 正在服务流量的最新稳定聊天模型 | 按每跳价格 | | `anyrouter/free` | AnyRouter 以 $0 提供的模型 | 不计费 | 编程会话里,有自己的提供商 key 就选 `anyrouter/coding`,没有就选 `anyrouter/hermes`。Harness 智能体几乎每一步都调用工具,这两个只路由到支持工具的模型。 `anyrouter/auto` 适合作为通用默认。Harness 的智能体步骤会带上工具。请求带有工具时,AnyRouter 只把它路由到支持工具的模型。想要针对编程或工具调用的排序,就选 `anyrouter/coding` 或 `anyrouter/hermes`。 不要选 `anyrouter/decision`。它用于 Decisions API(`/api/v1/decisions`),返回是或否、选项和分数这类结构化答案,不是给智能体循环用的聊天模型。 底部的数字是单个会话的。上图这个会话里,Harness 显示 1 轮、7 步、198 tok/s、146K token、69% 缓存命中。这只是一个会话,不是基准测试。 ## 用 BYOK 跑在你自己的 key 上 `anyrouter/byok`、`anyrouter/coding` 和 `anyrouter/agent` 只在你自己的提供商 key 之间路由。由你的提供商计费,AnyRouter 不会为这些请求扣额度。在 anyrouter.dev/byok 添加一次 key,这些模型马上就能用上。 没有保存任何提供商 key 时,这三个模型不会列出,也无处可路由。添加 key 之前,先用 `anyrouter/hermes` 或 `anyrouter/auto`。 添加一次提供商 key,就能在 Harness 里使用。 [添加 key](https://anyrouter.dev/byok) ## 获取 key,选择套餐 在 anyrouter.dev 注册,然后在 anyrouter.dev/keys 创建 key。Free 套餐包含免费模型和决策模型的 5 次试用请求、用购买额度调用付费模型,以及照常使用你自己的 BYOK key。Go 套餐每月 $2,捐赠一把有效、唯一且共享池可用的提供商 key 也能免费获得。它开放所有模型,每月附带 $4 额度。 Harness 发出的每个请求都会出现在你的 AnyRouter 请求日志里。 带同样截图的分步配置。 [打开使用场景](https://anyrouter.dev/use-cases/deepseek-harness) --- # Dùng AnyRouter trong DeepSeek Harness > DeepSeek Harness là ứng dụng agent mã nguồn mở của DeepSeek, đang ở bản preview. Thêm AnyRouter làm custom model API với một base URL và một key, rồi chọn model router anyrouter/* cho từng loại việc. - Date: November 2, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/deepseek-harness-anyrouter ## DeepSeek Harness là gì DeepSeek Harness (`dsh`) là agent harness mã nguồn mở của DeepSeek, theo giấy phép MIT. Trang sản phẩm mô tả nó dùng cho việc hằng ngày, viết code, hoặc dựng harness của riêng bạn. Mọi phần của nó là plugin, và bạn có thể nhờ agent viết plugin mới. Nó có bản desktop cho macOS (chip Apple) và Windows (64-bit). Bạn cũng có thể mở Web UI bằng `npx @deepseek-ai/dsh web`. Harness đang là bản preview. DeepSeek cho biết plugin lõi và API vẫn thay đổi, và README cảnh báo sẽ có thay đổi phá vỡ tương thích. ![Màn hình chính DeepSeek Harness với tiêu đề Into the Unknown và nhãn Preview. Thanh bên có New Session, Plugins, Automation tasks và Workspaces. Ô soạn thảo có Default workspace, Standard mode, bộ chọn quyền Workspace Write và menu Select model.](https://anyrouter.dev/screenshots/deepseek-harness-home-2026-11.webp) _Màn hình chính của Harness. Chọn workspace, chế độ và quyền, rồi chọn model._ Ứng dụng có workspace, session, plugin, automation task và agent preset. Bạn chọn model cho session từ menu Select model trong ô soạn thảo. ## Thêm AnyRouter làm custom model API Harness liệt kê provider có sẵn trong Third-party model provider. Endpoint khác nằm trong Custom model API, nơi nhận endpoint tương thích OpenAI và tương thích Anthropic. AnyRouter là một trong số đó. 1. Tạo API key AnyRouter tại anyrouter.dev/keys. Key bắt đầu bằng `sk-ar-`. 2. Trong Harness, mở Settings, vào Models, chọn Add model provider và chuyển sang tab Custom model API. 3. Đặt Provider ID là `anyrouter`. Harness dùng id này trong request, session đã lưu và tên credential, nên bạn không đổi tên được về sau. 4. Đặt Base URL là `https://anyrouter.dev/api/v1` và API protocol là OpenAI Chat Completions. 5. Dán key `sk-ar-` vào API key. 6. Chọn Fetch available models, tích các model `anyrouter/*` bạn cần, rồi lưu. ![DeepSeek Harness Settings, Models, tab Custom model API. Provider ID là anyrouter, Base URL là https://anyrouter.dev/api/v1, API protocol là OpenAI Chat Completions và API key đã bị che. Danh sách model có anyrouter/byok, anyrouter/coding, anyrouter/agent và anyrouter/hermes.](https://anyrouter.dev/screenshots/deepseek-harness-custom-model-api-2026-11.webp) _Form custom model API đã điền. Key bị che, danh sách model lấy từ Fetch available models._ Harness nói việc dò model chỉ để tiện, không đảm bảo. Nếu Fetch available models không liệt kê gì, gõ id model bằng tay. Chúng chạy như nhau. Harness lưu key trong `$DSH_HOME/.credentials.yaml` và ghi phần còn lại vào `cordis.patch.yml` của profile. Chọn Open configuration file ở đầu Settings để sửa trực tiếp. Đây là cùng provider đó, đọc key từ biến môi trường `ANYROUTER_API_KEY`: ```yaml - id: llm-pi-ai config: providers: anyrouter: apiKeyEnv: ANYROUTER_API_KEY api: openai-completions baseURL: https://anyrouter.dev/api/v1 models: - id: anyrouter/coding - id: anyrouter/agent - id: anyrouter/hermes - id: anyrouter/auto ``` Harness thay toàn bộ config của entry khi áp dụng override. Giữ các provider khác của bạn trong khối này khi sửa. ## Anthropic Messages cũng dùng được Bộ chọn API protocol có OpenAI Chat Completions, OpenAI Responses và Anthropic Messages. Mỗi provider trong Harness dùng một protocol. Muốn dùng Anthropic Messages, thêm provider thứ hai, ví dụ `anyrouter-messages`, chọn protocol Anthropic Messages và Base URL `https://anyrouter.dev/api`. Đừng thêm `/v1` vào base URL này. Client Anthropic tự thêm `/v1/messages`, và AnyRouter phục vụ Messages tại `https://anyrouter.dev/api/v1/messages`. Cùng một key `sk-ar-` dùng được cho cả hai protocol. Chat Completions đơn giản hơn, nên bắt đầu từ đó. ## Chọn model anyrouter/* nào Trong cấu hình này, Fetch available models đã kéo về mọi model router của AnyRouter. `anyrouter/byok`, `anyrouter/coding` và `anyrouter/agent` chỉ hiện khi tài khoản đã có key provider tại anyrouter.dev/byok. Mỗi cái là một luật định tuyến, không phải một model đơn lẻ. AnyRouter chọn một model thật cho mỗi request và chuyển sang model kế tiếp khi upstream lỗi. ![Bộ chọn model của DeepSeek Harness mở dưới provider anyrouter, liệt kê AnyRouter BYOK, Coding, Agent, Hermes, Cowork, Free, Auto (đã chọn), Decision và Latest. Ô soạn thảo hiện Full access và AnyRouter Auto. Chân trang ghi 1 turns 7 steps, 198 tok/s, 146K tok, Cache hit 69%.](https://anyrouter.dev/screenshots/deepseek-harness-model-picker-2026-11.webp) _Bộ chọn model của Harness sau khi fetch. Session này chạy trên AnyRouter Auto._ | Model | Định tuyến qua | Tính tiền vào | | --- | --- | --- | | `anyrouter/coding` | Model gọi tool mà key của bạn dùng được, mạnh về code trước | Provider của bạn | | `anyrouter/agent` | Model gọi tool mà key của bạn dùng được, model tốt nhất trước | Provider của bạn | | `anyrouter/byok` | Mọi model key của bạn dùng được, không lọc theo gọi tool | Provider của bạn | | `anyrouter/hermes` | Model gọi tool hàng đầu, mỗi provider upstream một model | Credit AnyRouter | | `anyrouter/cowork` | Model gọi tool cho việc trợ lý, có vision, mỗi provider một model | Credit AnyRouter | | `anyrouter/auto` | Model ổn định dùng nhiều nhất, trộn miễn phí và trả phí, theo sức khỏe | Giá từng hop, $0 với hop miễn phí | | `anyrouter/latest` | Model chat ổn định mới nhất đang phục vụ traffic | Giá từng hop | | `anyrouter/free` | Các model AnyRouter phục vụ với giá $0 | Không tính | Với session viết code, chọn `anyrouter/coding` nếu bạn có key provider riêng, và `anyrouter/hermes` nếu không có. Agent của Harness gọi tool ở gần như mọi bước, và hai model này chỉ định tuyến tới model nhận tool. `anyrouter/auto` là mặc định chung tốt. Khi request có tool, như các bước agent của Harness, AnyRouter chỉ định tuyến nó tới model nhận tool. Chọn `anyrouter/coding` hoặc `anyrouter/hermes` khi bạn muốn thứ hạng theo code hoặc gọi tool. Bỏ qua `anyrouter/decision`. Nó dành cho Decisions API (`/api/v1/decisions`), trả về câu trả lời có kiểu như có hoặc không, lựa chọn và điểm số. Nó không phải model chat cho vòng lặp agent. Số liệu ở chân trang là của từng session. Trong session ở trên, Harness ghi 1 lượt, 7 bước, 198 tok/s, 146K token và 69% cache hit. Đó là một session, không phải benchmark. ## Chạy trên key của bạn với BYOK `anyrouter/byok`, `anyrouter/coding` và `anyrouter/agent` chỉ định tuyến qua key provider của chính bạn. Provider tính tiền bạn, và AnyRouter không trừ credit cho các request này. Thêm key một lần tại anyrouter.dev/byok. Các model này dùng được key đó ngay. Khi chưa lưu key provider nào, ba model này không được liệt kê và không có gì để định tuyến. Dùng `anyrouter/hermes` hoặc `anyrouter/auto` cho đến khi bạn thêm key. Thêm key provider một lần và dùng nó trong Harness. [Thêm key](https://anyrouter.dev/byok) ## Lấy key và chọn gói Đăng ký tại anyrouter.dev và tạo key tại anyrouter.dev/keys. Gói Free cho 5 request dùng thử trên model miễn phí và model decision, model trả phí với credit đã mua, và key BYOK của bạn như bình thường. Gói Go giá $2 mỗi tháng, hoặc miễn phí khi bạn góp một key provider hợp lệ, không trùng và pool dùng được. Gói này mở mọi model và thêm $4 credit mỗi tháng. Mọi request Harness gửi đi đều hiện trong request log AnyRouter của bạn. Hướng dẫn từng bước với cùng ảnh chụp màn hình. [Mở use case](https://anyrouter.dev/use-cases/deepseek-harness) --- # CLI update: a separate key for each coding agent > The anyr CLI can now give Claude Code, Codex, OpenCode and the other coding agents it launches their own API key or their own account, with plain commands. Each agent gets its own spend, limits and revocation. - Date: November 2, 2026 - Category: product - HTML: https://anyrouter.dev/blog/cli-a-key-per-coding-agent ## Why one key per agent One AnyRouter key can drive every coding agent. That is the easy setup, but it pools everything. All agents share one spend limit and one line of usage, and revoking the key signs every agent out. With a key per agent, each agent gets its own limit, its own usage, and its own revocation. If one agent runs away, it stops at its own limit. If you rotate one key, the other agents keep working. ## Give each agent its own key or account ```bash anyr keys create --agent claude --limit 20 # mint a key for Claude Code and save it for it pbpaste | anyr keys set --agent codex - # store a key you copied from the dashboard anyr account use work --agent opencode # OpenCode launches with the work account anyr auth status # the key each agent launches with ``` `keys create --agent` mints the key in the account that agent uses, prints it once, and saves it for that agent. The usual scope flags work, so `--limit`, `--reset`, `--endpoints` and `--expires` set the agent's cap and lifetime. `keys set --agent -` reads a key from stdin. A key typed as an argument is refused, so it stays out of your shell history. `account use --agent` binds a whole account instead of one key. `--agent` takes any agent the CLI launches, including `claude`, `codex`, `opencode`, `grok` and `pi`. ## See which key each agent uses `anyr auth status` (or `anyr whoami`) adds one line per agent that has its own key or account. Each line shows the masked key and where it comes from: ```text claude sk-ar-v1-k7m2p…9xq4 · agent key codex sk-ar-v1-r3c8w…2hd7 · agent key opencode sk-ar-v1-a9t5n…6vbe · agent account work ``` The view uses the same lookup as a launch. When `ANYROUTER_API_KEY` is set, every line says so, because that variable overrides every agent's key. `--json` returns the same rows in `agents`. Full keys are never printed. ## Undo it ```bash anyr keys unset --agent codex # codex goes back to its account anyr account use --agent opencode --clear # opencode uses the active account ``` A removed key keeps working until you revoke it, so `keys unset` prints the `anyr keys revoke` command for it. Renaming an account keeps its agents bound, and removing an account unbinds them. ## Try it These commands ship in the next `anyr` release. Run `anyr upgrade` to get it. Docs: [accounts and keys](https://anyrouter.dev/docs/cli/accounts-and-keys). --- # CLI 更新:每个编程智能体一把独立的 key > anyr CLI 现在可以用普通命令,给 Claude Code、Codex、OpenCode 以及它能启动的其他编程智能体各配一把 API key 或一个账号。每个智能体都有自己的花费、额度和吊销。 - Date: November 2, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/cli-a-key-per-coding-agent ## 为什么每个智能体一把 key 一把 AnyRouter key 就能驱动所有编程智能体。这样配置最省事,但所有东西都混在一起:所有智能体共用一个花费上限、一条用量记录,吊销这把 key 会让所有智能体一起掉线。 每个智能体一把 key 后,各自有自己的额度、用量和吊销。某个智能体失控时,它只会停在自己的额度上。轮换其中一把 key,其他智能体照常工作。 ## 给每个智能体配自己的 key 或账号 ```bash anyr keys create --agent claude --limit 20 # mint a key for Claude Code and save it for it pbpaste | anyr keys set --agent codex - # store a key you copied from the dashboard anyr account use work --agent opencode # OpenCode launches with the work account anyr auth status # the key each agent launches with ``` `keys create --agent` 在该智能体使用的账号里创建 key,只显示一次,并为该智能体保存。常用的范围参数照样可用,`--limit`、`--reset`、`--endpoints` 和 `--expires` 设置该智能体的上限和有效期。 `keys set --agent -` 从 stdin 读取 key。直接写在参数里的 key 会被拒绝,这样它不会留在 shell 历史里。`account use --agent` 则是绑定整个账号,而不是一把 key。 `--agent` 接受 CLI 能启动的任何智能体,包括 `claude`、`codex`、`opencode`、`grok` 和 `pi`。 ## 查看每个智能体用哪把 key `anyr auth status`(或 `anyr whoami`)会为每个有自己 key 或账号的智能体多显示一行,列出打码后的 key 和它的来源: ```text claude sk-ar-v1-k7m2p…9xq4 · agent key codex sk-ar-v1-r3c8w…2hd7 · agent key opencode sk-ar-v1-a9t5n…6vbe · agent account work ``` 这个视图和启动时用的是同一套查找逻辑。设置了 `ANYROUTER_API_KEY` 时,每一行都会标明,因为这个变量会覆盖所有智能体的 key。`--json` 在 `agents` 中返回同样的行。完整 key 从不打印。 ## 撤销 ```bash anyr keys unset --agent codex # codex goes back to its account anyr account use --agent opencode --clear # opencode uses the active account ``` 移除的 key 在吊销前仍然有效,所以 `keys unset` 会打印对应的 `anyr keys revoke` 命令。重命名账号时,绑定的智能体会跟着走;删除账号时,绑定会被解除。 ## 试一试 这些命令随下一个 `anyr` 版本发布。运行 `anyr upgrade` 即可获取。 文档:[账号与 key](https://anyrouter.dev/docs/cli/accounts-and-keys)。 --- # Cập nhật CLI: mỗi coding agent một key riêng > CLI anyr giờ có thể cấp cho Claude Code, Codex, OpenCode và các coding agent khác mà nó khởi chạy một API key hoặc một tài khoản riêng, bằng lệnh thường. Mỗi agent có chi tiêu, giới hạn và thu hồi riêng. - Date: November 2, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/cli-a-key-per-coding-agent ## Vì sao mỗi agent một key Một key AnyRouter chạy được mọi coding agent. Cách này dễ nhất, nhưng mọi thứ dồn chung một chỗ. Mọi agent dùng chung một giới hạn chi tiêu và một dòng usage, và thu hồi key thì mọi agent cùng bị đăng xuất. Khi mỗi agent có một key, mỗi agent có giới hạn, usage và việc thu hồi riêng. Nếu một agent chạy mất kiểm soát, nó dừng ở giới hạn của chính nó. Nếu bạn đổi một key, các agent khác vẫn chạy bình thường. ## Cấp cho mỗi agent key hoặc tài khoản riêng ```bash anyr keys create --agent claude --limit 20 # mint a key for Claude Code and save it for it pbpaste | anyr keys set --agent codex - # store a key you copied from the dashboard anyr account use work --agent opencode # OpenCode launches with the work account anyr auth status # the key each agent launches with ``` `keys create --agent` tạo key trong tài khoản mà agent đó dùng, in ra một lần, và lưu cho agent đó. Các cờ phạm vi quen thuộc vẫn dùng được: `--limit`, `--reset`, `--endpoints` và `--expires` đặt giới hạn và thời hạn cho agent. `keys set --agent -` đọc key từ stdin. Key gõ thẳng vào tham số sẽ bị từ chối, để nó không nằm trong lịch sử shell. `account use --agent` gắn cả một tài khoản thay vì một key. `--agent` nhận mọi agent mà CLI khởi chạy, gồm `claude`, `codex`, `opencode`, `grok` và `pi`. ## Xem mỗi agent dùng key nào `anyr auth status` (hoặc `anyr whoami`) thêm một dòng cho mỗi agent có key hoặc tài khoản riêng. Mỗi dòng hiện key đã che và key đó lấy từ đâu: ```text claude sk-ar-v1-k7m2p…9xq4 · agent key codex sk-ar-v1-r3c8w…2hd7 · agent key opencode sk-ar-v1-a9t5n…6vbe · agent account work ``` Màn hình này dùng đúng cách tra cứu như lúc khởi chạy. Khi có `ANYROUTER_API_KEY`, mọi dòng đều ghi rõ, vì biến này đè lên key của mọi agent. `--json` trả về cùng các dòng trong `agents`. Key đầy đủ không bao giờ được in ra. ## Hoàn tác ```bash anyr keys unset --agent codex # codex goes back to its account anyr account use --agent opencode --clear # opencode uses the active account ``` Key đã gỡ vẫn dùng được cho tới khi bạn thu hồi, nên `keys unset` in sẵn lệnh `anyr keys revoke` cho nó. Đổi tên tài khoản thì các agent vẫn gắn với nó, còn xóa tài khoản thì các agent được gỡ gắn. ## Dùng thử Các lệnh này có trong bản `anyr` kế tiếp. Chạy `anyr upgrade` để cập nhật. Tài liệu: [tài khoản và key](https://anyrouter.dev/docs/cli/accounts-and-keys). --- # How we sped up our local CI without dropping a check > Coding agents push to AnyRouter all day, so CI is where they wait. We split 50 runs into queue, setup and run time, found the slow part, and cut warm typecheck from 162 to 79 seconds on the same commit, mostly by removing a check that ran twice. This post shows the audit, the changes, the numbers, and a prompt you can give your own agent. - Date: November 1, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/faster-local-ci-for-agents ## Agents push all day, so CI is the wait Coding agents write and merge most AnyRouter changes. An agent pushes, waits for CI, fixes what failed, and pushes again. When writing code gets fast and CI does not, CI is the thing everyone waits on. Our CI does not run on GitHub. We turned GitHub Actions CI off to save money, and every check runs as `pnpm local-ci` on one machine with 16 cores and 15 GB of memory. Many agents share that machine. The first post in this series describes that loop. This post started with Owen Gretzinger's [How I made our CI 20x faster](https://x.com/owengretzinger/status/2116291924219060319). In one line, Owen audited where CI time went and fixed each cause in turn, such as slow runners, a slow linter, cache misses and test isolation. Some of the post's ideas fit our setup and some did not. We say which below. ## Audit first: queue, setup and run Before changing anything, we read the 50 most recent local CI logs, from 23 to 26 October. We split each run into three parts. - Queue. Time spent waiting for the machine or a lock. The mean was 0 seconds. - Setup. Time to prepare a clean copy of the repo and its dependencies. The mean was 52 seconds. - Run. Time inside the checks. The mean was 326 seconds, the median was 20 seconds, and the longest run took about 2,900 seconds. The gap between the mean and the median was the most useful number. Half of the runs finished their checks in 20 seconds. A few runs that typechecked about 20 apps one after another pulled the mean up. So the problem was not every run. It was the heavy tail, and the heavy tail was typecheck. Other things we expected to be slow were not. Biome lint took about 1 second. Only 1 of the 50 runs ran the full test suite, because local CI runs only the tests related to the changed files. Waiting for the machine cost nothing. The limit was memory, not cores. The logs also showed some smaller costs. - The image build step missed its cache on 19 of 21 runs. Each run deletes untracked files to start clean, and that deleted about 1,200 generated social card images. So every run drew them again. - A change to the lockfile creates a new working copy for CI with no TypeScript build state. The logs had 11 lockfile keys in 6 days, and a cold start for every typecheck program took about 5 minutes. - The test setup file loaded Testing Library and React DOM into every test file, even the ones that do not use a DOM. That was 38 to 42 percent of the time for a small batch of node tests. ## The same check ran twice Then we found the biggest problem, and it came from a fix. On 1 November we changed the root `pnpm typecheck` so that it checks every package and app. Before that, type errors in some test files could reach `main`. The change was right. But local CI still ran its own typecheck for the API, the server core, the UI and each app after the root step. That made 29 TypeScript programs per run, about 26 of them checked twice, all one after another. A warm run took 162 seconds. Nothing failed, so nothing told us. A duplicated check is green and slow. Now, when local CI plans the root typecheck, it plans exactly the set that `pnpm typecheck` covers and runs each program once. It reads that set from each package's `package.json`, so a new app is picked up without a hand-written list. ## Run in parallel, but budget memory The first post in this series said local CI ran its checks one at a time because the machine has 15 GB of memory and cannot take parallel builds. That was true for a fixed number of jobs. On this machine, three cold TypeScript programs started together were killed by the out-of-memory handler at about 1.5 GB free. So we did not pick a number of jobs. A new script starts the largest program first. It starts another program only when that program's peak memory fits in the free memory, after it subtracts the growth still ahead of the running programs and keeps 2 GB in reserve. It learns each program's peak from past runs, and assumes 2.8 GB for a program it has not seen. A program that is killed with no type error reruns once, alone. If it is killed again, the run is reported as out of memory, not as a failed check. An agent that sees a failed typecheck goes looking for a type error. An agent that sees out of memory knows to wait and retry. Warm runs kept at least 2.5 GB free. In the cold parallel run, no program was killed. ## What else we changed - The 15 cheap guards, such as schema drift and app import boundaries, now run 4 at a time. They only read files, so they are safe to run side by side. Heavy checks and test runs still take their own lock. - One guard parsed every TypeScript file to find issue references. It now skips files that contain no `#` followed by digits. - A new CI working copy starts with the TypeScript build state and caches of the most recently used copy. TypeScript rechecks any file that changed, and we confirmed that an injected type error still fails on the copied state. - Rendered social cards are stored in a cache outside the files that the clean step deletes, keyed by path and source. Cards unused for 14 days are removed. - Testing Library loads only in tests that have a DOM. - A pre-push hook runs Biome on the changed files and reports errors only. An agent hears about a lint error before it pushes, not after CI runs. These are the numbers, each measured before and after on the same commit. Each row says how many runs it took. | Check | Before | After | Change | | --- | --- | --- | --- | | Typecheck, 29 programs, warm (median of 3) | 162 s | 79 s | -51% | | Typecheck, 29 programs, cold (1 run each) | 402 s | 256 s | -36% | | 15 guards (median of 3, busy machine) | 35 s | 14 s | -60% | | Issue reference guard alone (median of 3) | 13.9 s | 5.0 s | -64% | | Image build after a clean (2 runs each) | 100 s | 60 s | -40% | | 20 node test files (median of 3) | 4.86 s | 3.58 s | -26% | | 12 DOM test files (2 runs each) | 16.5 to 17.6 s | 16.7 s | none | | Pre-push Biome on 13 changed files | none | 0.1 s | new check | Running each program once, still one at a time, took the warm typecheck from 162 to 111 seconds. Running them side by side took it to 79. So about 60 percent of the win came from removing the duplicate, and the rest came from parallel work. These are per-check numbers. We have not yet measured the mean of a whole local CI run after the change. The next 50 logs will show that. ## An empty list can mean everything One trap is worth its own section. Local CI runs only the tests related to the changed files. A script often builds that list from a git diff, like `T=$(git diff --name-only main | grep test)`, then runs `vitest run $T`. If the diff comes back empty, for example because a `git pull` failed and HEAD did not move, the command becomes `vitest run` with no files. To Vitest, that means run the whole suite. On our machine the whole suite risks the out-of-memory handler. We stopped one such run after 600 seconds. The guard is one line. Check the list before you run it, with `[ -n "$T" ] && vitest run $T`. Owen makes a similar point about Nx. A rule that skips work needs its own test, because a skip that fails open looks green or runs everything. ## Which ideas fit us Owen's post lists nine changes. Here is how each one mapped to our setup. | Idea | For us | Status | | --- | --- | --- | | Faster runners | Local CI waits 0 s. But our release workflows on GitHub waited for a self-hosted runner that never came, and 146 of 146 runs were cancelled. We moved them to GitHub's standard runners. | Done | | Faster linter | We already lint with Biome, at about 1 s. | Nothing to gain | | Faster typechecker | The Go-based TypeScript compiler, tsgo. | Next | | Shard tests on bigger machines | We have one machine and pay nothing for CI. More machines cost money. | Not taken | | Do not reload the app for every test file | Vitest `isolate: false`. Our DOM tests did not get faster, so test startup is the place to look. | Next | | Fix setup | Seeded working copies and a card cache that survives the clean. | Done | | Run checks in parallel | Typecheck by memory budget, guards 4 at a time. | Done | | Run only what a change touches | Already did this. Added the empty-list guard. | Done | | Checks before every push | Errors-only Biome in the pre-push hook. | Done | Owen's team paid for speed. Owen's post reports a CI bill that went from $230 to $4,300 a month and calls it worth it. Our constraint is different. CI runs on a machine we already have, so we looked for time we were wasting before time we could buy. ## Prompt for your coding agent You can give this prompt to your own coding agent. It asks for the same audit and the same rules we followed. ```text Audit this repo's CI and make it faster. Never drop or weaken a check. 1. Pull the last 50 CI runs. Split each job's time into queue, setup and run. 2. Report mean, median and max for each part. If the mean is far above the median, find the slow runs behind it. 3. List the 5 slowest jobs and what each one spends its time on. 4. Check the usual causes: slow runner queue, slow linter, slow typechecker, too few cores for the tests, a fresh app load per test file, cache misses or caches a clean step deletes, serial work that could run side by side, checks on code the change cannot reach, and checks that never run before push. 5. Look for the same check running twice, and for an empty file list that means "run everything". 6. Run work in parallel within a memory budget. Report a memory kill as out of memory, not a failed check. 7. Measure each change before and after on the same commit, median of 3. Never skip tests or lower thresholds to improve a number. 8. Leave out changes that cost money (paid runners, bigger machines, more shards). List them for a human with time saved and cost. 9. Open one PR with a before and after table and the commands to reproduce it. ``` _Paste into Claude Code, Codex or any coding agent, from the root of your repo._ --- # 我们如何在不删减任何检查的情况下加快本地 CI > 编程智能体全天向 AnyRouter 推送代码,所以它们都在等 CI。我们把 50 次运行拆成排队、准备和运行三段时间,找到了慢的部分,并在同一个提交上把热启动类型检查从 162 秒降到 79 秒,主要是去掉了一个跑了两次的检查。本文介绍审计方法、改动、数据,以及一段可以交给你自己的智能体的提示词。 - Date: November 1, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/faster-local-ci-for-agents ## 智能体全天推送,CI 就是等待 AnyRouter 的大部分改动由编程智能体编写和合并。智能体推送代码,等 CI,修复失败的部分,再推送一次。写代码变快了而 CI 没有变快时,大家等的就是 CI。 我们的 CI 不在 GitHub 上运行。为了省钱,我们关掉了 GitHub Actions 的 CI,所有检查都通过 `pnpm local-ci` 在一台 16 核、15 GB 内存的机器上运行。很多智能体共用这台机器。本系列第一篇介绍了这个循环。 本文的起点是 Owen Gretzinger 的文章 [How I made our CI 20x faster](https://x.com/owengretzinger/status/2116291924219060319)。一句话概括,Owen 审计了 CI 时间花在哪里,然后逐个修复原因,例如运行器慢、lint 工具慢、缓存未命中和测试隔离。文中的一些想法适合我们,一些不适合。下文会逐一说明。 ## 先审计:排队、准备和运行 在做任何改动之前,我们读了最近 50 份本地 CI 日志,时间是 10 月 23 日到 26 日。我们把每次运行拆成三段。 - 排队。等待机器或锁的时间。平均值是 0 秒。 - 准备。准备一份干净的仓库副本和依赖的时间。平均值是 52 秒。 - 运行。检查本身的时间。平均值是 326 秒,中位数是 20 秒,最长的一次约 2,900 秒。 平均值和中位数之间的差距是最有用的数字。一半的运行在 20 秒内完成了检查。少数几次运行一个接一个地对约 20 个应用做类型检查,把平均值拉高了。所以问题不在每一次运行,而在长尾,而长尾就是类型检查。 我们以为慢的地方其实并不慢。Biome lint 约 1 秒。50 次运行中只有 1 次跑了完整的测试套件,因为本地 CI 只运行与改动文件相关的测试。等待机器不花时间。限制在内存,而不在核数。 日志还显示了一些较小的开销。 - 图片构建步骤在 21 次运行中有 19 次没有命中缓存。每次运行都会删除未被 git 跟踪的文件以便从干净状态开始,这也删掉了约 1,200 张生成的社交卡片图片。所以每次都要重新绘制。 - 锁文件一有改动,就会为 CI 创建一份新的工作副本,里面没有 TypeScript 构建状态。日志中 6 天内出现了 11 个锁文件键,所有类型检查程序冷启动一次约 5 分钟。 - 测试的 setup 文件把 Testing Library 和 React DOM 加载进每个测试文件,包括不使用 DOM 的文件。这占了一小批 node 测试 38% 到 42% 的时间。 ## 同一个检查跑了两次 接着我们找到了最大的问题,而它来自一次修复。11 月 1 日,我们修改了根目录的 `pnpm typecheck`,让它检查每个包和应用。在此之前,一些测试文件里的类型错误可能进入 `main`。这个改动是对的。但本地 CI 在根步骤之后,仍然分别对 API、server core、UI 和每个应用再做一次类型检查。结果每次运行有 29 个 TypeScript 程序,其中约 26 个被检查了两次,并且全部串行。一次热启动运行要 162 秒。 没有任何检查失败,所以没有任何东西提醒我们。重复的检查是绿色的,只是慢。现在,本地 CI 规划根类型检查时,规划的正是 `pnpm typecheck` 覆盖的那一组,并且每个程序只运行一次。它从每个包的 `package.json` 读取这一组,所以新应用会被自动纳入,不需要手写列表。 ## 并行运行,但要给内存做预算 本系列第一篇说过,本地 CI 一次只跑一个检查,因为机器只有 15 GB 内存,承受不了并行构建。对固定数量的任务来说,这是对的。在这台机器上,同时启动三个冷启动的 TypeScript 程序,会在剩余约 1.5 GB 时被内存不足处理程序杀掉。 所以我们没有选一个固定的任务数。一个新脚本先启动最大的程序。只有当下一个程序的内存峰值放得进剩余内存时,它才会启动下一个程序。计算剩余内存时,先减去正在运行的程序还会增长的部分,再保留 2 GB。它从过去的运行中学习每个程序的峰值,没见过的程序按 2.8 GB 估算。 一个程序如果被杀掉而且没有类型错误,就会单独重跑一次。如果再次被杀,这次运行会报告为内存不足,而不是检查失败。看到类型检查失败的智能体会去找类型错误。看到内存不足的智能体知道应该等一等再重试。 热启动运行时,剩余内存始终不低于 2.5 GB。在冷启动并行运行中,没有程序被杀掉。 ## 我们还改了什么 - 15 个轻量守卫检查,例如 schema 漂移和应用间导入边界,现在每次 4 个并行。它们只读文件,所以并行运行是安全的。重量级检查和测试运行仍然各自持有锁。 - 有一个守卫会解析每个 TypeScript 文件来查找 issue 引用。现在它会跳过不包含 `#` 加数字的文件。 - 新的 CI 工作副本会带上最近使用过的副本的 TypeScript 构建状态和缓存。TypeScript 会重新检查任何改动过的文件,我们也确认了,注入的类型错误在复制来的状态上仍然会让检查失败。 - 渲染好的社交卡片存放在清理步骤不会删除的缓存里,按路径和源内容做键。14 天未使用的卡片会被删除。 - Testing Library 只在有 DOM 的测试中加载。 - pre-push 钩子会对改动的文件运行 Biome,只报告错误。智能体在推送之前就能知道 lint 错误,而不是等 CI 跑完。 下面是数据,每一项都在同一个提交上测量改动前后。每行都注明了运行次数。 | 检查 | 之前 | 之后 | 变化 | | --- | --- | --- | --- | | 类型检查,29 个程序,热启动(3 次的中位数) | 162 秒 | 79 秒 | -51% | | 类型检查,29 个程序,冷启动(各 1 次) | 402 秒 | 256 秒 | -36% | | 15 个守卫(3 次的中位数,机器繁忙) | 35 秒 | 14 秒 | -60% | | 仅 issue 引用守卫(3 次的中位数) | 13.9 秒 | 5.0 秒 | -64% | | 清理后的图片构建(各 2 次) | 100 秒 | 60 秒 | -40% | | 20 个 node 测试文件(3 次的中位数) | 4.86 秒 | 3.58 秒 | -26% | | 12 个 DOM 测试文件(各 2 次) | 16.5 到 17.6 秒 | 16.7 秒 | 无变化 | | pre-push Biome,13 个改动文件 | 无 | 0.1 秒 | 新增检查 | 每个程序只运行一次但仍然串行时,热启动类型检查从 162 秒降到 111 秒。并行运行后降到 79 秒。所以大约 60% 的提升来自去掉重复,其余来自并行。 这些是单项检查的数据。我们还没有测量改动后整次本地 CI 运行的平均时间。接下来的 50 份日志会告诉我们。 ## 空列表可能意味着全部 有一个陷阱值得单独说。本地 CI 只运行与改动文件相关的测试。脚本通常从 git diff 生成这个列表,例如 `T=$(git diff --name-only main | grep test)`,然后运行 `vitest run $T`。 如果 diff 返回空,例如 `git pull` 失败、HEAD 没有移动,命令就变成了不带文件的 `vitest run`。对 Vitest 来说,这意味着运行整个测试套件。在我们的机器上,整个套件有触发内存不足处理程序的风险。我们曾在 600 秒后停掉过这样一次运行。 守卫只需要一行。运行之前先检查列表,写成 `[ -n "$T" ] && vitest run $T`。Owen 关于 Nx 也说过类似的话。跳过工作的规则需要自己的测试,因为一个失效的跳过要么看起来是绿色,要么会运行全部。 ## 哪些想法适合我们 Owen 的文章列出了九项改动。下面是每一项在我们这里的情况。 | 想法 | 对我们来说 | 状态 | | --- | --- | --- | | 更快的运行器 | 本地 CI 排队 0 秒。但我们在 GitHub 上的发布工作流一直在等一个从未出现的自托管运行器,146 次运行全部被取消。我们把它们改到了 GitHub 的标准运行器。 | 已完成 | | 更快的 lint 工具 | 我们已经在用 Biome,约 1 秒。 | 没有可提升的空间 | | 更快的类型检查器 | 用 Go 编写的 TypeScript 编译器 tsgo。 | 下一步 | | 把测试分片到更大的机器 | 我们只有一台机器,CI 不花钱。增加机器要花钱。 | 不采用 | | 不要为每个测试文件重新加载应用 | Vitest 的 `isolate: false`。我们的 DOM 测试没有变快,所以测试启动是要看的地方。 | 下一步 | | 修复准备阶段 | 预先填充的工作副本,以及在清理后仍然保留的卡片缓存。 | 已完成 | | 并行运行检查 | 按内存预算做类型检查,守卫每次 4 个。 | 已完成 | | 只运行改动涉及的部分 | 之前已经这样做了。新增了空列表守卫。 | 已完成 | | 每次推送前先检查 | pre-push 钩子中只报错误的 Biome。 | 已完成 | Owen 的团队花钱买速度。Owen 在文中说 CI 账单从每月 $230 涨到了 $4,300,并认为值得。我们的约束不同。CI 运行在我们已有的机器上,所以我们先找被浪费的时间,再考虑能买到的时间。 ## 给你的编程智能体的提示词 你可以把这段提示词交给自己的编程智能体。它要求做同样的审计,并遵守我们遵守的规则。 ```text 审计这个仓库的 CI 并让它更快。绝不删除或放宽任何检查。 1. 拉取最近 50 次 CI 运行。把每个任务的时间拆成排队、准备和运行。 2. 报告每一段的平均值、中位数和最大值。如果平均值远高于中位数,找出造成这一点的慢运行。 3. 列出最慢的 5 个任务,以及每个任务的时间花在哪里。 4. 检查常见原因:运行器排队慢、lint 工具慢、类型检查器慢、测试可用的核数太少、每个测试文件都重新加载应用、缓存未命中或被清理步骤删除、可以并行却在串行的工作、对改动无法触及的代码做检查,以及推送前从不运行的检查。 5. 查找跑了两次的同一个检查,以及被当成"全部运行"的空文件列表。 6. 在内存预算内并行运行。因内存被杀的任务报告为内存不足,而不是检查失败。 7. 每项改动都在同一个提交上测量前后,取 3 次的中位数。不要为了数字好看而跳过测试或降低阈值。 8. 不要包含要花钱的改动(付费运行器、更大的机器、更多分片)。把它们列给人来决定,写明节省的时间和成本。 9. 开一个 PR,附上前后对比表和复现结果的命令。 ``` _在仓库根目录下,粘贴到 Claude Code、Codex 或任何编程智能体中。_ --- # Chúng tôi tăng tốc CI chạy local mà không bỏ một check nào > Agent lập trình push code lên AnyRouter cả ngày, nên CI là chỗ chúng phải chờ. Chúng tôi chia 50 lần chạy thành thời gian chờ, chuẩn bị và chạy, tìm ra phần chậm, và giảm typecheck warm từ 162 xuống 79 giây trên cùng một commit, phần lớn nhờ bỏ một check chạy hai lần. Bài này cho thấy cách audit, các thay đổi, số liệu, và một prompt bạn có thể đưa cho agent của mình. - Date: November 1, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/faster-local-ci-for-agents ## Agent push cả ngày, nên CI là chỗ phải chờ Agent lập trình viết và merge phần lớn thay đổi của AnyRouter. Một agent push, chờ CI, sửa phần bị lỗi, rồi push lại. Khi viết code nhanh lên mà CI không nhanh lên, CI là thứ mọi người phải chờ. CI của chúng tôi không chạy trên GitHub. Chúng tôi đã tắt CI của GitHub Actions để tiết kiệm tiền, và mọi check chạy bằng `pnpm local-ci` trên một máy có 16 core và 15 GB bộ nhớ. Nhiều agent dùng chung máy đó. Bài đầu tiên của loạt bài này mô tả vòng lặp đó. Bài này bắt đầu từ bài viết [How I made our CI 20x faster](https://x.com/owengretzinger/status/2116291924219060319) của Owen Gretzinger. Tóm tắt trong một dòng, Owen audit xem thời gian CI đi đâu rồi sửa từng nguyên nhân, như runner chậm, linter chậm, cache trượt và cách cô lập test. Có ý tưởng hợp với chúng tôi, có ý tưởng không. Chúng tôi nói rõ ở phần dưới. ## Audit trước: chờ, chuẩn bị và chạy Trước khi đổi gì, chúng tôi đọc 50 log local CI gần nhất, từ 23 đến 26 tháng 10. Mỗi lần chạy được chia thành ba phần. - Chờ. Thời gian chờ máy hoặc chờ khóa. Trung bình là 0 giây. - Chuẩn bị. Thời gian tạo một bản repo sạch và các dependency. Trung bình là 52 giây. - Chạy. Thời gian bên trong các check. Trung bình là 326 giây, trung vị là 20 giây, và lần lâu nhất mất khoảng 2.900 giây. Khoảng cách giữa trung bình và trung vị là con số hữu ích nhất. Một nửa số lần chạy xong các check trong 20 giây. Vài lần chạy typecheck khoảng 20 app nối tiếp nhau đã kéo trung bình lên. Vậy vấn đề không nằm ở mọi lần chạy. Nó nằm ở phần đuôi nặng, và phần đuôi nặng là typecheck. Những thứ chúng tôi tưởng là chậm thì lại không chậm. Lint bằng Biome mất khoảng 1 giây. Chỉ 1 trong 50 lần chạy chạy toàn bộ bộ test, vì local CI chỉ chạy các test liên quan tới file thay đổi. Chờ máy không tốn gì. Giới hạn là bộ nhớ, không phải số core. Log cũng cho thấy vài chi phí nhỏ hơn. - Bước build ảnh trượt cache ở 19 trên 21 lần chạy. Mỗi lần chạy xóa các file không được git theo dõi để bắt đầu sạch, và việc đó xóa khoảng 1.200 ảnh social card được sinh ra. Vì vậy lần nào cũng phải vẽ lại. - Một thay đổi ở lockfile tạo ra một bản làm việc mới cho CI, không có trạng thái build TypeScript. Log có 11 khóa lockfile trong 6 ngày, và khởi động lạnh cho mọi chương trình typecheck mất khoảng 5 phút. - File setup của test nạp Testing Library và React DOM vào mọi file test, kể cả các file không dùng DOM. Phần đó chiếm 38 tới 42 phần trăm thời gian của một lô nhỏ test node. ## Cùng một check chạy hai lần Rồi chúng tôi tìm ra vấn đề lớn nhất, và nó đến từ một bản sửa. Ngày 1 tháng 11, chúng tôi đổi `pnpm typecheck` ở thư mục gốc để nó kiểm tra mọi package và app. Trước đó, lỗi kiểu trong vài file test có thể lọt vào `main`. Thay đổi đó đúng. Nhưng local CI vẫn chạy typecheck riêng cho API, server core, UI và từng app sau bước gốc. Kết quả là 29 chương trình TypeScript mỗi lần chạy, khoảng 26 trong số đó bị kiểm tra hai lần, tất cả nối tiếp nhau. Một lần chạy warm mất 162 giây. Không có gì lỗi, nên không có gì báo cho chúng tôi biết. Một check bị lặp thì vẫn xanh và chậm. Giờ khi local CI lên kế hoạch typecheck gốc, nó lên đúng tập mà `pnpm typecheck` bao phủ và chạy mỗi chương trình một lần. Nó đọc tập đó từ `package.json` của từng package, nên một app mới được nhận ra mà không cần danh sách viết tay. ## Chạy song song, nhưng có ngân sách bộ nhớ Bài đầu tiên của loạt bài nói rằng local CI chạy các check lần lượt vì máy có 15 GB bộ nhớ và không chịu được build song song. Điều đó đúng với một số job cố định. Trên máy này, ba chương trình TypeScript lạnh khởi động cùng lúc đã bị trình xử lý hết bộ nhớ kill khi còn khoảng 1,5 GB trống. Vì vậy chúng tôi không chọn một con số job. Một script mới khởi động chương trình lớn nhất trước. Nó chỉ khởi động chương trình tiếp theo khi bộ nhớ đỉnh của chương trình đó vừa với bộ nhớ trống, sau khi trừ phần tăng còn lại của các chương trình đang chạy và giữ 2 GB dự phòng. Nó học bộ nhớ đỉnh của mỗi chương trình từ các lần chạy trước, và giả định 2,8 GB cho chương trình chưa gặp. Một chương trình bị kill mà không có lỗi kiểu sẽ chạy lại một lần, một mình. Nếu nó lại bị kill, lần chạy được báo là hết bộ nhớ, không phải check thất bại. Một agent thấy typecheck thất bại sẽ đi tìm lỗi kiểu. Một agent thấy hết bộ nhớ thì biết là cần chờ rồi thử lại. Các lần chạy warm luôn còn ít nhất 2,5 GB trống. Trong lần chạy song song lạnh, không chương trình nào bị kill. ## Những gì khác chúng tôi đã đổi - 15 guard nhẹ, như schema drift và ranh giới import giữa các app, giờ chạy 4 cái một lúc. Chúng chỉ đọc file, nên chạy cạnh nhau là an toàn. Các check nặng và các lần chạy test vẫn giữ khóa riêng. - Một guard từng parse mọi file TypeScript để tìm tham chiếu tới issue. Giờ nó bỏ qua những file không có `#` theo sau là chữ số. - Một bản làm việc CI mới bắt đầu với trạng thái build TypeScript và cache của bản được dùng gần nhất. TypeScript kiểm tra lại mọi file đã thay đổi, và chúng tôi đã xác nhận một lỗi kiểu được cài vào vẫn làm check thất bại trên trạng thái được sao chép. - Social card đã render được lưu trong một cache nằm ngoài các file bị bước dọn dẹp xóa, theo khóa đường dẫn và nguồn. Card không dùng trong 14 ngày sẽ bị xóa. - Testing Library chỉ được nạp trong các test có DOM. - Một hook pre-push chạy Biome trên các file thay đổi và chỉ báo lỗi. Agent biết về lỗi lint trước khi push, không phải sau khi CI chạy. Đây là các con số, mỗi số đo trước và sau trên cùng một commit. Mỗi dòng ghi rõ số lần chạy. | Check | Trước | Sau | Thay đổi | | --- | --- | --- | --- | | Typecheck, 29 chương trình, warm (trung vị của 3) | 162 s | 79 s | -51% | | Typecheck, 29 chương trình, lạnh (1 lần mỗi bên) | 402 s | 256 s | -36% | | 15 guard (trung vị của 3, máy đang bận) | 35 s | 14 s | -60% | | Riêng guard tham chiếu issue (trung vị của 3) | 13,9 s | 5,0 s | -64% | | Build ảnh sau khi dọn sạch (2 lần mỗi bên) | 100 s | 60 s | -40% | | 20 file test node (trung vị của 3) | 4,86 s | 3,58 s | -26% | | 12 file test DOM (2 lần mỗi bên) | 16,5 tới 17,6 s | 16,7 s | không đổi | | Biome pre-push trên 13 file thay đổi | không có | 0,1 s | check mới | Chạy mỗi chương trình một lần, vẫn lần lượt, đưa typecheck warm từ 162 xuống 111 giây. Chạy chúng song song đưa xuống 79. Vậy khoảng 60 phần trăm mức cải thiện đến từ việc bỏ phần lặp, phần còn lại đến từ chạy song song. Đây là số liệu theo từng check. Chúng tôi chưa đo trung bình của cả một lần chạy local CI sau thay đổi. 50 log tiếp theo sẽ cho thấy điều đó. ## Một danh sách rỗng có thể nghĩa là tất cả Có một cái bẫy đáng một mục riêng. Local CI chỉ chạy các test liên quan tới file thay đổi. Một script thường tạo danh sách đó từ git diff, như `T=$(git diff --name-only main | grep test)`, rồi chạy `vitest run $T`. Nếu diff trả về rỗng, ví dụ vì `git pull` thất bại và HEAD không đổi, lệnh trở thành `vitest run` không có file nào. Với Vitest, điều đó nghĩa là chạy toàn bộ bộ test. Trên máy của chúng tôi, toàn bộ bộ test có nguy cơ bị trình xử lý hết bộ nhớ kill. Chúng tôi đã dừng một lần chạy như vậy sau 600 giây. Guard chỉ là một dòng. Kiểm tra danh sách trước khi chạy, bằng `[ -n "$T" ] && vitest run $T`. Owen nêu một ý tương tự về Nx. Một quy tắc bỏ qua việc cần có test riêng, vì một lần bỏ qua bị hỏng sẽ trông như xanh hoặc chạy tất cả. ## Ý tưởng nào hợp với chúng tôi Bài của Owen liệt kê chín thay đổi. Đây là cách mỗi thay đổi áp vào hệ thống của chúng tôi. | Ý tưởng | Với chúng tôi | Trạng thái | | --- | --- | --- | | Runner nhanh hơn | Local CI chờ 0 s. Nhưng các workflow release trên GitHub chờ một runner self-hosted không bao giờ tới, và 146 trên 146 lần chạy bị hủy. Chúng tôi chuyển chúng sang runner tiêu chuẩn của GitHub. | Đã làm | | Linter nhanh hơn | Chúng tôi đã lint bằng Biome, khoảng 1 s. | Không cần đổi | | Typechecker nhanh hơn | Trình biên dịch TypeScript viết bằng Go, tsgo. | Tiếp theo | | Chia test lên máy lớn hơn | Chúng tôi có một máy và không trả tiền cho CI. Thêm máy thì tốn tiền. | Không làm | | Không nạp lại app cho mỗi file test | Vitest `isolate: false`. Test DOM của chúng tôi không nhanh hơn, nên phần khởi động test là chỗ cần xem. | Tiếp theo | | Sửa phần chuẩn bị | Bản làm việc được gieo sẵn và cache card sống qua bước dọn dẹp. | Đã làm | | Chạy check song song | Typecheck theo ngân sách bộ nhớ, guard 4 cái một lúc. | Đã làm | | Chỉ chạy những gì thay đổi chạm tới | Đã làm từ trước. Thêm guard cho danh sách rỗng. | Đã làm | | Check trước mỗi lần push | Biome chỉ báo lỗi trong hook pre-push. | Đã làm | Đội của Owen trả tiền để có tốc độ. Bài của Owen cho biết hóa đơn CI tăng từ $230 lên $4.300 mỗi tháng và cho rằng đáng giá. Ràng buộc của chúng tôi khác. CI chạy trên một máy chúng tôi đã có sẵn, nên chúng tôi tìm thời gian đang bị lãng phí trước khi tìm thời gian có thể mua. ## Prompt cho agent lập trình của bạn Bạn có thể đưa prompt này cho agent lập trình của mình. Nó yêu cầu cùng một cách audit và cùng các quy tắc chúng tôi đã theo. ```text Audit CI của repo này và làm nó nhanh hơn. Không bao giờ bỏ hay nới lỏng một check. 1. Lấy 50 lần chạy CI gần nhất. Chia thời gian của mỗi job thành chờ, chuẩn bị và chạy. 2. Báo cáo trung bình, trung vị và lớn nhất của mỗi phần. Nếu trung bình cao hơn trung vị nhiều, tìm các lần chạy chậm gây ra điều đó. 3. Liệt kê 5 job chậm nhất và mỗi job tốn thời gian vào việc gì. 4. Kiểm tra các nguyên nhân thường gặp: hàng chờ runner chậm, linter chậm, typechecker chậm, quá ít core cho test, nạp lại app cho mỗi file test, cache trượt hoặc bị bước dọn dẹp xóa, việc chạy nối tiếp có thể chạy song song, check trên code mà thay đổi không chạm tới, và check không bao giờ chạy trước khi push. 5. Tìm check chạy hai lần, và danh sách file rỗng bị hiểu thành "chạy tất cả". 6. Chạy song song trong một ngân sách bộ nhớ. Báo job bị kill vì bộ nhớ là hết bộ nhớ, không phải check thất bại. 7. Đo mỗi thay đổi trước và sau trên cùng một commit, trung vị của 3 lần. Không bỏ test hay hạ ngưỡng để làm đẹp con số. 8. Không đưa vào thay đổi tốn tiền (runner trả phí, máy lớn hơn, thêm shard). Liệt kê chúng cho người quyết định, kèm thời gian tiết kiệm và chi phí. 9. Mở một PR với bảng trước và sau, và các lệnh để tái hiện kết quả. ``` _Dán vào Claude Code, Codex hoặc bất kỳ agent lập trình nào, từ thư mục gốc của repo._ --- # How we made AnyRouter faster > In early October a warm request could wait up to 1.7 seconds that the model provider's own timer never counted. Almost none of that was work. It was a chain of small reads, each waiting for the one before it. This post shows how we found it, what we changed, the fix we had to revert, and the numbers before and after. - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/how-we-made-anyrouter-faster ## Two clocks in every request When you call a model through AnyRouter, the wait has two parts. The first part is ours. We check your key, pick an upstream, and send the request on. The second part belongs to the model. The provider queues the request, reads the prompt, and generates tokens. We can't make a provider generate faster. Our part is different. Every request pays it, an agent loop pays it hundreds of times, and all of it runs in our code. Anthropic's write-up [How we made claude.ai faster](https://claude.dev/blog/how-we-made-claude-ai-faster/) makes the point that you measure first and optimize second. We followed that order. This post covers the gateway work and the pages that no longer run code per visit. Every number comes from our own measurements, and each one says how it was taken. ## Step one: make our time visible Until 2 October, a served request reported only the provider's latency. Time spent in the gateway before dispatch was not measured anywhere. So the first change was a measurement, not a fix. Every inference response now carries a standard `Server-Timing` header. `gw` is the time from arrival to the first upstream attempt. `upstream` is the time each provider attempt took, with one entry per attempt. `post` is the time from the end of dispatch to the assembled response. `total` is the sum. `gw` is split again into stages, such as `gw-auth` (key check), `gw-ctx` (account context), `gw-prep` and `gw-route` (choosing the upstream). The stages always add up to `gw`. ```bash curl -s -o /dev/null -D - https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"hi"}]}' \ | grep -i server-timing ``` _Print only the timing header from a chat completion._ A call we made while writing this post returned the line below. We removed the per-attempt entry, which names the backend. ```text server-timing: gw;dur=764, gw-auth;dur=222, gw-ctx;dur=238, gw-prep;dur=23, gw-route;dur=281, upstream;dur=5487, post;dur=10, total;dur=6261 ``` Here the model took 5.5 seconds and we took 0.76 seconds. That is far above the warm numbers later in this post. It was our first call in a while, so our guess is that the isolate's caches were cold. The 222 ms and 238 ms stages match the cold pattern described below. ## What the first measurement showed On 2 October we compared client wall time with the provider's own latency on single-hop routes, from a warmed isolate. A request that fails before routing is the control. It pays the network round trip and nothing else. | Route | Client wall time | Provider latency | Not attributed | | --- | --- | --- | --- | | anyrouter/auto | 0.97 s | 59 ms | about 0.9 s | | anyrouter/agent | 1.81 s | 50 ms | about 1.7 s | | anyrouter/coding | 1.56 s | 81 ms | about 1.5 s | | 404, never routed (control) | 0.19 s | none | about 0.19 s (network) | The model answered in 50 to 81 ms. We spent most of a second, sometimes almost two, before we called it. ## The cost was waiting, not working We first suspected the work after the response, such as billing and logging. It was not that. That work already runs after the response is sent. The cost was before dispatch. One request walked a chain of reads, strictly one after another. It read the key entry, held credit in the database, loaded the account context, called two rate-limit counters, and then ran routing's own checks one by one. Each read is fast. The sum was 1 to 2 seconds of waiting. Most of those reads do not depend on each other. So the fix was one rule. Two reads that don't depend on each other must not wait for each other. ```mermaid flowchart LR subgraph Before A1["Key"] --> A2["Account"] --> A3["Rate limits"] --> A4["Route checks, one by one"] --> A5["Dispatch"] end subgraph After B0["Request parsed"] --> B1["Key"] B0 --> B2["Account"] B0 --> B3["Rate limits"] B0 --> B4["Route checks"] B1 --> B5["Dispatch"] B2 --> B5 B3 --> B5 B4 --> B5 end ``` _Before, each independent read waited for the previous one. After, independent reads go out together, and the request waits once for the slowest._ These are the patterns we found and removed: - Router models such as `anyrouter/auto` expanded their candidate branches one at a time. One request could run up to 8 full routing pipelines in a row, plus 8 more as a reserve. Branches are independent, so they now expand in parallel batches of 8 and are merged back in the original order. - The set of disabled models was read again on every call. Routing asks once per branch, so one request could read it up to 16 times. It is now cached per isolate, and a write refreshes the cache. - A cache meant to last one request was created again for every branch, so each branch re-queried the database. The request now passes one cache to every branch. - Upstream health checks ran in sequence, and quarantine flags were read as up to 4 reads per candidate. They now go out as one wave. - The two rate-limit counters, the provider credentials and the account identity checks now each go out together instead of one after another. None of these changes alters a routing decision. The tests check that the candidate order and every skip record stay identical. ## What moved We measured `gw` with the smoke-test key against `anyrouter/free`, from one fixed test machine. Warm means the isolate's caches were already filled. After idle means the request came after about 100 seconds without traffic, when those caches have expired. | Date | State of the code | Warm gw | gw after idle | | --- | --- | --- | --- | | 3 October | While the parallel reads were landing | 364 to 697 ms | 2,254 to 2,306 ms | | 12 October | Parallel reads live, before the cache warm-up below | 68 to 85 ms (p50) | 1,269 to 1,652 ms | Treat this as a trend, not a clean A/B test. The two rows come from different scripts nine days apart, with a handful of samples each. Some of the parallel reads may already have been live on 3 October. The smoke-test key also skips rate limiting, so a real user's `gw` is somewhat higher than these numbers. Warm `gw` went from 364 to 697 ms down to 68 to 85 ms. The after-idle path still cost more than a second, and that was the next problem. ## The cold cliff, and the fix we had to revert After idle, each routing stage waited for one expired cache read of about 250 ms, then the next stage did the same. The stage split showed about 250 ms each in `gw-auth`, `gw-ctx` and `gw-prep`, and 600 to 940 ms in `gw-route`. The fix was to warm those caches early. As soon as the request body is parsed, we start every routing read that does not depend on the user, as one wave. It runs while the key check and rate limiting are still in flight. Later checks then find the value already loaded or join the read in progress. We merged it on 12 October and merged the revert 78 minutes later. Some non-streamed chat requests and the model list API hung for 60 to 120 seconds. The cause was a Workers rule we had not accounted for. When a request returns without registering its pending work with `waitUntil`, the runtime cancels that work, and a cancelled storage read never settles. Its promise never resolves and never rejects. A request that failed early, for example with a bad key, left its warm-up reads cancelled. Those reads were shared with later requests in the same isolate, so every later request waited on a promise that would never finish. We reproduced it on the local Workers runtime and then re-landed the change with two fixes. The warm-up now runs under `waitUntil`, so the request that starts it stays alive until it settles. A request that joins someone else's read now waits at most 1.5 seconds, then drops the shared slot and reads for itself. Tests that hung on the old code pass on the new code. We have not yet re-measured the after-idle path since that change, so we won't claim a number for it here. ## Pages that never wake a Worker The second change is on the website. The model catalog, every model page, and their Markdown datasheets do not change per visitor. The only live parts, such as current latency or your own provider keys, load from the API after the page appears. So we stopped rendering those pages on each request. A deploy step builds them into static files, and Cloudflare serves them from the edge without running our Worker at all. The docs site does the same inside its own build. It writes 210 pages, and we estimate it adds about 10 seconds to a docs deploy. On 26 October we measured time to first byte with curl from one machine. For each page we sent one first request, then 12 sequential requests, and took the median of those 12. The baseline is a Cloudflare endpoint that runs no Worker, so it shows the network alone. | Page | Warm median TTFB | | --- | --- | | Network baseline, no Worker | 165 ms | | Docs home page, static | 198 ms | | /models, static | 199 ms | | A model page, static | 221 ms | | Sign-in page, rendered by the Worker on every request | 211 ms | | Two pages on other Workers, rendered on every request | 292 and 341 ms | Static pages run no Worker code, so a view costs us no Worker time. From this one machine, though, their time to first byte is close to a page the Worker renders. The sign-in page has no cache and renders on every request, and it measured 211 ms. The two slower pages run on other Workers, and this report did not isolate why they are slower. So the gain we can show from static pages is Worker work per view, not a large drop in time to first byte. ## What's next Lab numbers and server timings don't show how a page feels on a phone. On 26 October we started recording real-user timings. These are Core Web Vitals grouped by kind of page, and the time from send to the first token in the playground. We keep 20% of sessions, reduce each URL to its page group, and record no prompts, responses or keys. Users with zero data retention turned on send nothing. We need a full week of data before we quote it. These changes are in review and not shipped yet. Their numbers come from lab tests, not production. - Reading upstream quarantine flags as one record per backend. On a cold isolate, the test harness counted 59 storage reads for a model with several upstreams before the change and 26 after. - Splitting the website's JavaScript so a page stops downloading code for other pages. On the home page in a throttled mobile test, blocking time fell from 1,017 to 691 ms and JavaScript fell from 1,411 to 1,192 KB compressed. - Serving the use-case pages as static files, like the model pages. If a call through AnyRouter feels slow, look at the `Server-Timing` header and send us the `gw` and `upstream` values. They tell us right away which side to look at. --- # 我们如何让 AnyRouter 变快 > 10 月初,一个已预热的请求可能要等待多达 1.7 秒,而模型服务商自己的计时器完全没有计入这段时间。这段时间几乎都不是在做事,而是一串小的读取,后一个等前一个。本文介绍我们如何找到它、改了什么、哪个修复不得不回滚,以及前后的数字。 - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/how-we-made-anyrouter-faster ## 每个请求里有两块时钟 通过 AnyRouter 调用模型时,等待时间分两部分。第一部分属于我们:检查密钥、选择上游、转发请求。第二部分属于模型:服务商排队、读取提示词、生成 token。 我们无法让服务商生成得更快。我们这部分不同。每个请求都要付出它,一个智能体循环要付出几百次,而它全部运行在我们的代码里。 Anthropic 的文章 [How we made claude.ai faster](https://claude.dev/blog/how-we-made-claude-ai-faster/) 强调先测量、再优化。我们也按这个顺序来。本文讲网关里的工作,以及不再为每次访问运行代码的页面。每个数字都来自我们自己的测量,并说明了测量方法。 ## 第一步:让我们的时间可见 在 10 月 2 日之前,一个已完成的请求只报告服务商的延迟。请求在发往上游之前在网关里花的时间,没有任何地方在测。所以第一个改动是加测量,而不是修复。 现在每个推理响应都带有标准的 `Server-Timing` 头。`gw` 是从请求到达到第一次调用上游的时间。`upstream` 是每次调用服务商的时间,每次一条。`post` 是从调用结束到响应组装完成的时间。`total` 是总和。`gw` 又拆分成多个阶段,例如 `gw-auth`(检查密钥)、`gw-ctx`(账户上下文)、`gw-prep` 和 `gw-route`(选择上游)。各阶段之和总是等于 `gw`。 ```bash curl -s -o /dev/null -D - https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"hi"}]}' \ | grep -i server-timing ``` _只打印一次 chat completion 的 timing 头。_ 撰写本文时的一次调用返回了下面这一行。我们去掉了按次调用的那一条,因为它包含后端名称。 ```text server-timing: gw;dur=764, gw-auth;dur=222, gw-ctx;dur=238, gw-prep;dur=23, gw-route;dur=281, upstream;dur=5487, post;dur=10, total;dur=6261 ``` 这里模型用了 5.5 秒,我们用了 0.76 秒。这比后文预热时的数字高得多。这是隔了一段时间后的第一次调用,我们猜测 isolate 的缓存是冷的。222 毫秒和 238 毫秒这两个阶段与下文描述的冷启动模式一致。 ## 第一次测量看到了什么 10 月 2 日,我们在已预热的 isolate 上,对单跳路由比较了客户端总耗时和服务商自己报告的延迟。在路由之前就失败的请求是对照组,它只付出一次网络往返。 | 路由 | 客户端总耗时 | 服务商延迟 | 未归因 | | --- | --- | --- | --- | | anyrouter/auto | 0.97 秒 | 59 毫秒 | 约 0.9 秒 | | anyrouter/agent | 1.81 秒 | 50 毫秒 | 约 1.7 秒 | | anyrouter/coding | 1.56 秒 | 81 毫秒 | 约 1.5 秒 | | 404,未路由(对照) | 0.19 秒 | 无 | 约 0.19 秒(网络) | 模型在 50 到 81 毫秒内就回答了。而我们在调用它之前花了将近一秒,有时接近两秒。 ## 成本是等待,而不是工作 我们起初怀疑是响应之后的工作,比如计费和日志。并不是。那部分工作本来就在响应发出之后运行。 成本在发往上游之前。一个请求要依次走过一串读取:读取密钥记录,在数据库里预留额度,加载账户上下文,调用两个限流计数器,然后逐个运行路由自己的检查。每次读取都很快,加起来却是 1 到 2 秒的等待。 这些读取大多互不依赖。所以修复就是一条规则:互不依赖的两次读取,不能互相等待。 ```mermaid flowchart LR subgraph before["之前"] A1["密钥"] --> A2["账户"] --> A3["限流"] --> A4["路由检查,逐个进行"] --> A5["发往上游"] end subgraph after["之后"] B0["请求已解析"] --> B1["密钥"] B0 --> B2["账户"] B0 --> B3["限流"] B0 --> B4["路由检查"] B1 --> B5["发往上游"] B2 --> B5 B3 --> B5 B4 --> B5 end ``` _之前,每个独立读取都等待上一个。之后,独立读取一起发出,请求只为最慢的那个等待一次。_ 下面是我们找到并去掉的几种模式: - `anyrouter/auto` 这类路由模型逐个展开候选分支。一个请求最多可能连续跑 8 条完整的路由流水线,另外还有 8 条作为备用。各分支相互独立,所以现在以每批 8 个并行展开,再按原来的顺序合并。 - 已禁用模型的集合在每次调用时都重新读取。路由每个分支问一次,所以一个请求最多会读 16 次。现在它按 isolate 缓存,写入时刷新缓存。 - 一个本应只在单个请求内存在的缓存,被每个分支重新创建,于是每个分支都重新查询数据库。现在请求把同一个缓存传给所有分支。 - 上游健康检查是顺序执行的,隔离标记每个候选最多要读 4 次。现在它们作为一批一起发出。 - 两个限流计数器、服务商凭据以及账户身份检查,现在也都一起发出,而不是一个接一个。 这些改动都不会改变路由结果。测试会检查候选顺序和每条跳过记录保持不变。 ## 数字的变化 我们使用冒烟测试密钥调用 `anyrouter/free`,从一台固定的测试机器测量 `gw`。预热表示 isolate 的缓存已经填好。空闲之后表示请求在大约 100 秒无流量之后到达,此时这些缓存已过期。 | 日期 | 代码状态 | 预热时的 gw | 空闲之后的 gw | | --- | --- | --- | --- | | 10 月 3 日 | 并行读取的改动正在陆续合入 | 364 到 697 毫秒 | 2,254 到 2,306 毫秒 | | 10 月 12 日 | 并行读取已上线,下文的缓存预热之前 | 68 到 85 毫秒(p50) | 1,269 到 1,652 毫秒 | 请把它看作趋势,而不是严格的 A/B 测试。两行来自不同的脚本,相隔九天,每行只有少量样本。10 月 3 日时部分并行读取可能已经上线。冒烟测试密钥还会跳过限流,所以真实用户的 `gw` 会比这些数字略高。 预热时的 `gw` 从 364 到 697 毫秒降到了 68 到 85 毫秒。空闲之后的路径仍然超过一秒,这是下一个问题。 ## 冷启动的悬崖,以及不得不回滚的修复 空闲之后,每个路由阶段都要等一次已过期的缓存读取,大约 250 毫秒,然后下一个阶段再等一次。阶段拆分显示 `gw-auth`、`gw-ctx` 和 `gw-prep` 各约 250 毫秒,`gw-route` 为 600 到 940 毫秒。 修复方法是提前预热这些缓存。请求体一解析完,我们就把所有与用户无关的路由读取作为一批发出。它与密钥检查和限流同时进行。之后的检查要么直接拿到已加载的值,要么加入正在进行的读取。 我们在 10 月 12 日合入了这个改动,78 分钟后合入了回滚。部分非流式聊天请求和模型列表 API 卡住了 60 到 120 秒。 原因是一条我们没有考虑到的 Workers 规则。如果请求返回时没有用 `waitUntil` 登记尚未完成的工作,运行时会取消这些工作,而被取消的存储读取永远不会结束。它的 promise 既不会 resolve,也不会 reject。一个提前失败的请求,例如密钥错误,会留下被取消的预热读取。这些读取与同一 isolate 里后续的请求共享,于是后续每个请求都在等待一个永远不会完成的 promise。 我们在本地 Workers 运行时上复现了问题,然后带着两处修复重新合入。预热现在在 `waitUntil` 下运行,发起它的请求会一直存活到它完成。加入他人读取的请求现在最多等待 1.5 秒,之后放弃共享的槽位,自己去读。在旧代码上卡住的测试,在新代码上都通过了。 自那次改动以来,我们还没有重新测量空闲之后的路径,所以这里不给出数字。 ## 不需要唤醒 Worker 的页面 第二项改动在网站上。模型目录、每个模型页面以及它们的 Markdown 数据表,不会因访问者而变化。唯一动态的部分,例如当前延迟或你自己的服务商密钥,在页面显示之后才从 API 加载。 所以我们不再为每个请求渲染这些页面。部署中的一个步骤把它们构建成静态文件,Cloudflare 直接在边缘提供,完全不运行我们的 Worker。文档站在自己的构建里做同样的事。它写出 210 个页面,据我们估计只给一次文档部署增加大约 10 秒。 10 月 26 日,我们用 curl 从一台机器测量首字节时间。每个页面先发一次请求,再连续发 12 次,取这 12 次的中位数。基线是 Cloudflare 的一个不运行任何 Worker 的端点,所以它只反映网络。 | 页面 | 预热时首字节中位数 | | --- | --- | | 网络基线,无 Worker | 165 毫秒 | | 文档首页,静态 | 198 毫秒 | | /models,静态 | 199 毫秒 | | 一个模型页面,静态 | 221 毫秒 | | 登录页,Worker 每次请求都渲染 | 211 毫秒 | | 其他 Worker 上每次请求都渲染的两个页面 | 292 和 341 毫秒 | 静态页面不运行任何 Worker 代码,所以每次访问不消耗 Worker 时间。不过从这台机器测量,它们的首字节时间与 Worker 渲染的页面很接近。登录页没有缓存,每次请求都渲染,测得 211 毫秒。两个较慢的页面运行在其他 Worker 上,这份报告没有查明它们为什么更慢。所以我们能证明的静态页面收益是每次访问的 Worker 工作量,而不是首字节时间的大幅下降。 ## 下一步 实验室数字和服务端 timing 无法说明页面在手机上的真实感受。从 10 月 26 日起,我们开始记录真实用户的 timing:按页面类型分组的 Core Web Vitals,以及 playground 中从发送到第一个 token 的时间。我们保留 20% 的会话,把每个 URL 归并为页面分组,不记录提示词、响应或密钥。开启零数据保留的用户不会发送任何数据。我们需要积累满一周的数据再公布数字。 下面这些改动正在评审中,尚未上线。它们的数字来自实验室测试,而不是生产环境。 - 把上游隔离标记读成每个后端一条记录。在冷 isolate 上,测试工具统计到一个有多个上游的模型在改动前需要 59 次存储读取,改动后为 26 次。 - 拆分网站的 JavaScript,让一个页面不再下载其他页面的代码。在限速的移动端测试中,首页的阻塞时间从 1,017 毫秒降到 691 毫秒,JavaScript 从压缩后 1,411 KB 降到 1,192 KB。 - 像模型页面一样,把用例页面作为静态文件提供。 如果通过 AnyRouter 的调用感觉慢,请查看 `Server-Timing` 头,把 `gw` 和 `upstream` 的值发给我们。它们能让我们立刻知道该查哪一边。 --- # Chúng tôi đã làm AnyRouter nhanh hơn thế nào > Đầu tháng 10, một request đã ấm có thể chờ tới 1,7 giây mà bộ đếm thời gian của chính nhà cung cấp model không hề tính. Gần như toàn bộ thời gian đó không phải là xử lý. Đó là một chuỗi lệnh đọc nhỏ, lệnh sau chờ lệnh trước. Bài này kể cách chúng tôi tìm ra nó, những gì đã đổi, bản sửa phải revert, và số liệu trước và sau. - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/how-we-made-anyrouter-faster ## Hai chiếc đồng hồ trong mỗi request Khi bạn gọi một model qua AnyRouter, thời gian chờ có hai phần. Phần đầu là của chúng tôi. Chúng tôi kiểm tra key, chọn upstream và chuyển request đi. Phần thứ hai thuộc về model. Nhà cung cấp xếp hàng request, đọc prompt và sinh token. Chúng tôi không thể làm nhà cung cấp sinh token nhanh hơn. Phần của chúng tôi thì khác. Request nào cũng phải trả phần này, một vòng lặp agent trả nó hàng trăm lần, và toàn bộ nó chạy trong code của chúng tôi. Bài viết [How we made claude.ai faster](https://claude.dev/blog/how-we-made-claude-ai-faster/) của Anthropic nhấn mạnh rằng phải đo trước rồi mới tối ưu. Chúng tôi làm theo thứ tự đó. Bài này nói về phần việc trong gateway và các trang không còn chạy code cho mỗi lượt xem. Mọi con số đều từ phép đo của chính chúng tôi, và mỗi con số đều nói rõ cách đo. ## Bước một: làm cho thời gian của chúng tôi nhìn thấy được Trước ngày 2 tháng 10, một request được phục vụ chỉ báo độ trễ của nhà cung cấp. Thời gian nằm trong gateway trước khi gửi đi không được đo ở đâu cả. Vì vậy thay đổi đầu tiên là một phép đo, chưa phải một bản sửa. Mọi response inference giờ có header chuẩn `Server-Timing`. `gw` là thời gian từ lúc request tới đến lần gọi upstream đầu tiên. `upstream` là thời gian của mỗi lần gọi nhà cung cấp, mỗi lần một mục. `post` là thời gian từ lúc gửi xong đến lúc response được dựng xong. `total` là tổng. `gw` lại được chia thành các giai đoạn, như `gw-auth` (kiểm tra key), `gw-ctx` (ngữ cảnh tài khoản), `gw-prep` và `gw-route` (chọn upstream). Tổng các giai đoạn luôn bằng `gw`. ```bash curl -s -o /dev/null -D - https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"hi"}]}' \ | grep -i server-timing ``` _Chỉ in header timing của một chat completion._ Một lần gọi khi viết bài này trả về dòng dưới đây. Chúng tôi đã bỏ mục theo từng lần gọi, vì nó ghi tên backend. ```text server-timing: gw;dur=764, gw-auth;dur=222, gw-ctx;dur=238, gw-prep;dur=23, gw-route;dur=281, upstream;dur=5487, post;dur=10, total;dur=6261 ``` Ở đây model mất 5,5 giây và chúng tôi mất 0,76 giây. Con số này cao hơn nhiều so với số khi ấm ở phần sau. Đó là lần gọi đầu tiên sau một lúc, nên chúng tôi đoán cache của isolate đang nguội. Hai giai đoạn 222 ms và 238 ms khớp với mẫu khi nguội được mô tả bên dưới. ## Phép đo đầu tiên cho thấy gì Ngày 2 tháng 10, chúng tôi so thời gian phía client với độ trễ do chính nhà cung cấp báo, trên các route một hop, từ một isolate đã ấm. Request lỗi trước khi định tuyến là nhóm đối chứng. Nó chỉ trả một vòng mạng. | Route | Thời gian phía client | Độ trễ nhà cung cấp | Chưa quy cho ai | | --- | --- | --- | --- | | anyrouter/auto | 0,97 s | 59 ms | khoảng 0,9 s | | anyrouter/agent | 1,81 s | 50 ms | khoảng 1,7 s | | anyrouter/coding | 1,56 s | 81 ms | khoảng 1,5 s | | 404, không định tuyến (đối chứng) | 0,19 s | không có | khoảng 0,19 s (mạng) | Model trả lời trong 50 đến 81 ms. Chúng tôi mất gần một giây, có lúc gần hai giây, trước khi gọi nó. ## Chi phí là chờ, không phải làm Ban đầu chúng tôi nghi phần việc sau response, như tính tiền và ghi log. Không phải vậy. Phần đó vốn đã chạy sau khi response được gửi. Chi phí nằm trước khi gửi đi. Một request đi qua một chuỗi lệnh đọc, lần lượt từng cái. Nó đọc mục key, giữ credit trong database, tải ngữ cảnh tài khoản, gọi hai bộ đếm rate limit, rồi chạy từng bước kiểm tra của bộ định tuyến. Mỗi lệnh đọc đều nhanh. Cộng lại là 1 đến 2 giây chờ. Phần lớn các lệnh đọc đó không phụ thuộc nhau. Vì vậy bản sửa là một quy tắc. Hai lệnh đọc không phụ thuộc nhau thì không được chờ nhau. ```mermaid flowchart LR subgraph before["Trước"] A1["Key"] --> A2["Tài khoản"] --> A3["Rate limit"] --> A4["Kiểm tra route, từng cái"] --> A5["Gửi đi"] end subgraph after["Sau"] B0["Đã parse request"] --> B1["Key"] B0 --> B2["Tài khoản"] B0 --> B3["Rate limit"] B0 --> B4["Kiểm tra route"] B1 --> B5["Gửi đi"] B2 --> B5 B3 --> B5 B4 --> B5 end ``` _Trước đây, mỗi lệnh đọc độc lập chờ lệnh trước. Bây giờ, các lệnh đọc độc lập được gửi cùng lúc, và request chỉ chờ một lần cho lệnh chậm nhất._ Đây là các mẫu chúng tôi tìm thấy và loại bỏ: - Các router model như `anyrouter/auto` mở rộng từng nhánh ứng viên một. Một request có thể chạy tới 8 pipeline định tuyến đầy đủ nối tiếp nhau, cộng thêm 8 cái dự phòng. Các nhánh độc lập với nhau, nên giờ chúng được mở rộng song song theo lô 8 cái và ghép lại theo đúng thứ tự cũ. - Danh sách model bị tắt được đọc lại ở mỗi lần gọi. Bộ định tuyến hỏi một lần cho mỗi nhánh, nên một request có thể đọc nó tới 16 lần. Giờ nó được cache theo isolate, và mỗi lần ghi sẽ làm mới cache. - Một cache lẽ ra chỉ sống trong một request lại bị tạo mới cho từng nhánh, nên nhánh nào cũng truy vấn lại database. Giờ request truyền một cache duy nhất cho mọi nhánh. - Các bước kiểm tra sức khoẻ upstream chạy tuần tự, và cờ quarantine được đọc bằng tối đa 4 lệnh mỗi ứng viên. Giờ chúng được gửi thành một đợt. - Hai bộ đếm rate limit, thông tin xác thực nhà cung cấp và các bước kiểm tra danh tính tài khoản giờ đều được gửi cùng lúc thay vì lần lượt. Không thay đổi nào ở trên làm đổi quyết định định tuyến. Các test kiểm tra rằng thứ tự ứng viên và mọi bản ghi bỏ qua vẫn giữ nguyên. ## Con số đã thay đổi Chúng tôi đo `gw` bằng key smoke test với `anyrouter/free`, từ một máy test cố định. Ấm nghĩa là cache của isolate đã được nạp. Sau khi nghỉ nghĩa là request tới sau khoảng 100 giây không có traffic, khi các cache đó đã hết hạn. | Ngày | Trạng thái code | gw khi ấm | gw sau khi nghỉ | | --- | --- | --- | --- | | 3 tháng 10 | Khi các lệnh đọc song song đang được đưa lên | 364 đến 697 ms | 2.254 đến 2.306 ms | | 12 tháng 10 | Đọc song song đã chạy, trước bước làm ấm cache bên dưới | 68 đến 85 ms (p50) | 1.269 đến 1.652 ms | Hãy xem đây là xu hướng, không phải một phép thử A/B sạch. Hai dòng đến từ hai script khác nhau, cách nhau chín ngày, mỗi dòng chỉ vài mẫu. Một phần lệnh đọc song song có thể đã chạy từ ngày 3 tháng 10. Key smoke test cũng bỏ qua rate limit, nên `gw` của người dùng thật sẽ cao hơn các số này một chút. `gw` khi ấm giảm từ 364 đến 697 ms xuống 68 đến 85 ms. Đường sau khi nghỉ vẫn tốn hơn một giây, và đó là vấn đề tiếp theo. ## Vách đá khi nguội, và bản sửa phải revert Sau khi nghỉ, mỗi giai đoạn định tuyến chờ một lệnh đọc cache đã hết hạn, khoảng 250 ms, rồi giai đoạn sau lại như vậy. Phần chia giai đoạn cho thấy khoảng 250 ms mỗi giai đoạn ở `gw-auth`, `gw-ctx` và `gw-prep`, và 600 đến 940 ms ở `gw-route`. Bản sửa là làm ấm các cache đó sớm. Ngay khi parse xong body của request, chúng tôi bắt đầu mọi lệnh đọc định tuyến không phụ thuộc người dùng, trong một đợt. Đợt đó chạy song song với bước kiểm tra key và rate limit. Các bước kiểm tra sau sẽ thấy giá trị đã nạp sẵn hoặc nhập vào lệnh đọc đang chạy. Chúng tôi merge thay đổi này ngày 12 tháng 10 và merge bản revert 78 phút sau đó. Một số request chat không stream và API danh sách model bị treo 60 đến 120 giây. Nguyên nhân là một quy tắc của Workers mà chúng tôi chưa tính tới. Khi một request trả về mà không đăng ký phần việc đang chờ bằng `waitUntil`, runtime sẽ huỷ phần việc đó, và một lệnh đọc storage bị huỷ thì không bao giờ kết thúc. Promise của nó không bao giờ resolve và cũng không reject. Một request lỗi sớm, ví dụ vì key sai, để lại các lệnh đọc làm ấm bị huỷ. Các lệnh đọc đó được chia sẻ với các request sau trong cùng isolate, nên mọi request sau đều chờ một promise không bao giờ xong. Chúng tôi tái hiện lỗi trên runtime Workers chạy local rồi đưa thay đổi trở lại với hai bản sửa. Bước làm ấm giờ chạy dưới `waitUntil`, nên request khởi động nó sống tới khi nó xong. Một request nhập vào lệnh đọc của request khác giờ chờ tối đa 1,5 giây, sau đó bỏ slot dùng chung và tự đọc. Các test từng treo trên code cũ đều pass trên code mới. Chúng tôi chưa đo lại đường sau khi nghỉ kể từ thay đổi đó, nên bài này không đưa ra con số cho nó. ## Những trang không cần đánh thức Worker Thay đổi thứ hai nằm ở website. Danh mục model, mọi trang model và datasheet Markdown của chúng không thay đổi theo người xem. Những phần động duy nhất, như độ trễ hiện tại hay key nhà cung cấp của chính bạn, được tải từ API sau khi trang hiện ra. Vì vậy chúng tôi ngừng render các trang đó cho mỗi request. Một bước trong deploy dựng chúng thành file tĩnh, và Cloudflare phục vụ chúng từ edge mà không chạy Worker của chúng tôi. Trang docs làm điều tương tự ngay trong bước build của nó. Bước đó ghi ra 210 trang, và theo ước tính của chúng tôi chỉ thêm khoảng 10 giây cho một lần deploy docs. Ngày 26 tháng 10, chúng tôi đo time to first byte bằng curl từ một máy. Với mỗi trang, chúng tôi gửi một request đầu tiên, rồi 12 request nối tiếp, và lấy trung vị của 12 request đó. Mốc so sánh là một endpoint của Cloudflare không chạy Worker nào, nên nó chỉ phản ánh mạng. | Trang | TTFB trung vị khi ấm | | --- | --- | | Mốc mạng, không có Worker | 165 ms | | Trang chủ docs, tĩnh | 198 ms | | /models, tĩnh | 199 ms | | Một trang model, tĩnh | 221 ms | | Trang đăng nhập, Worker render ở mỗi request | 211 ms | | Hai trang trên Worker khác, render ở mỗi request | 292 và 341 ms | Trang tĩnh không chạy code Worker nào, nên mỗi lượt xem không tốn thời gian Worker. Tuy vậy, đo từ một máy này, time to first byte của chúng gần với một trang do Worker render. Trang đăng nhập không có cache và render ở mỗi request, đo được 211 ms. Hai trang chậm hơn chạy trên Worker khác, và báo cáo này chưa tách được vì sao chúng chậm hơn. Vì vậy lợi ích chúng tôi chứng minh được từ trang tĩnh là phần việc của Worker cho mỗi lượt xem, không phải một mức giảm lớn của time to first byte. ## Tiếp theo Số đo trong lab và timing phía server không cho biết một trang có cảm giác thế nào trên điện thoại. Từ ngày 26 tháng 10, chúng tôi bắt đầu ghi timing từ người dùng thật. Đó là Core Web Vitals theo nhóm trang, và thời gian từ lúc gửi đến token đầu tiên trong playground. Chúng tôi giữ 20% phiên, rút gọn mỗi URL về nhóm trang của nó, và không ghi prompt, response hay key. Người dùng bật zero data retention thì không gửi gì cả. Chúng tôi cần đủ một tuần dữ liệu trước khi công bố số. Các thay đổi sau đang được review và chưa ship. Số liệu của chúng đến từ test trong lab, không phải production. - Đọc cờ quarantine của upstream thành một bản ghi cho mỗi backend. Trên một isolate nguội, harness test đếm được 59 lệnh đọc storage cho một model có nhiều upstream trước thay đổi và 26 sau thay đổi. - Tách JavaScript của website để một trang không tải code của trang khác. Trên trang chủ, trong một bài test mobile có giới hạn tốc độ, thời gian bị chặn giảm từ 1.017 xuống 691 ms và JavaScript giảm từ 1.411 xuống 1.192 KB đã nén. - Phục vụ các trang use case dưới dạng file tĩnh, như các trang model. Nếu một lần gọi qua AnyRouter có vẻ chậm, hãy xem header `Server-Timing` và gửi cho chúng tôi giá trị `gw` và `upstream`. Chúng cho chúng tôi biết ngay nên xem phía nào. --- # How agents deploy AnyRouter: one Worker at a time > AnyRouter runs as a fleet of Cloudflare Workers, and agents deploy it about once an hour from more than one machine. Each Worker now records the commit it runs, a deploy ships only the Workers whose code changed since that commit, and a checkout that is older than production cannot replace it. This post shows how that works and what it still costs. - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/agents-per-worker-deploys ## One repo, many Workers AnyRouter is one pnpm monorepo that ships as many Cloudflare Workers. A full deploy covers 17 main Workers plus two small proxy Workers. The API, the website, the dashboard, the docs, the blog and the MCP server are separate Workers. Most of them share code from the same packages. Agents merge changes all day and deploy about once an hour. The first post in this series covers that loop. This post covers one command inside it, `pnpm ops deploy`, and the three questions it has to answer on every run. 1. What is each Worker running right now? 2. Which Workers can this change affect? 3. Is this checkout newer than production? ## Why we stopped deploying everything Until early October, a deploy shipped the whole fleet whenever a shared package changed, and almost every change touches a shared package. The median full deploy took about 1,130 seconds, measured over the last 5 successful full runs in our deploy log from 6 to 9 October. The biggest phase took 385 seconds. It crawls the model catalog into static HTML and then redeploys the web Worker with those pages. Only the web Worker ships that HTML. A change to the docs alone still paid for the crawl, and took about 513 seconds, of which 425 seconds produced pages that were never deployed. ## Each Worker records its own commit The first fix was to stop guessing what production runs. Every `wrangler deploy` that `ops` runs passes `--message anyr-sha=`. Cloudflare stores that message on the Worker version, so any machine with the API token can read it later. It costs nothing and needs no new database. A plain `pnpm ops deploy` reads the live version of every Worker in parallel. That read took 1.8 seconds when we measured it on 12 October. A secret update creates a new version with no message, so the reader skips those versions and finds the code version under them. Then the diff for each Worker is `..HEAD`, plus any uncommitted changes. We used to diff against `origin/main`. That diff is empty as soon as a merge is pushed, and on 11 October a `--since HEAD~1` deploy skipped a merge that sat under a later docs commit. The live commit is the only base that matches what is actually running. A Worker whose commit can't be read always deploys. That covers a Worker that was never stamped, a deploy from a dirty tree, or an API error. Deploying too much is safe. Deploying too little is not. ## The import graph picks the targets Next, `scripts/lib/worker-graph.ts` maps changed files to Workers. For each Worker it collects the workspace packages it depends on and the `@anyrouter/*` packages its source actually imports, then follows the same rule through each of those packages. Test files never add an edge. The shared UI package is handled per file. For each Worker, the planner walks the imports from that Worker's own source into `packages/ui`. A changed UI file deploys only the Workers that reach it, and the dry run names the file that imports it. If the walk hits an import it can't follow, such as a dynamic `import()` with a template string, that Worker counts as reaching all of the UI package. Some inputs can change every bundle, so they force the full path. These include `package.json`, the lockfile, root TypeScript and Vite config, the deploy scripts themselves, database migrations, and any path the planner does not recognize. A kb note under `docs/kb` deploys nothing on its own. ```mermaid flowchart TD R["Read live anyr-sha of every Worker"] --> D["Diff each live sha to HEAD"] D --> G["Map changed files through the import graph"] G --> P{"Plan"} P -->|"nothing affected"| N["Skip, deploy nothing"] P -->|"root input changed"| F["Full path"] P -->|"some Workers"| T["Only those Workers"] F --> L{"Deploy lease free?"} T --> L L -->|"held by another machine"| W["Wait, then abort"] L -->|"acquired"| A{"Is HEAD older than a live sha?"} A -->|"yes"| X["Abort: pull and retry"] A -->|"no"| U["Build, upload, stamp anyr-sha"] ``` _How one run decides what to ship, and the two checks that can stop it before any upload._ `pnpm ops deploy --dry-run` prints the plan with one row per Worker, the reason for each target, and a time estimate. These are the planner's estimates for a few kinds of change, built from the phase medians in our deploy log: | Change | Deploys | Estimate | Before | | --- | --- | --- | --- | | Dashboard only | dashboard | about 65 s | about 1,130 s | | Docs app only | docs | about 95 s | about 513 s | | Home page sections | web and its runtime dependency | about 620 s | about 1,130 s | | A kb note only | nothing | 0 s | 0 s | ## A stale checkout cannot roll prod back On 12 October two machines ran `pnpm ops deploy` at the same time. One deployed a newer commit over the other in the middle of its run, so the first run failed its final check. No harm was done that time, because the newer build contained the older commits. In the other order, production would have gone back to an older build. Two guards now run before the first upload or migration. - A deploy lease. The deploy writes a lease key to Workers KV with its machine, commit, start time and a random nonce, and a 25-minute expiry. KV has no compare-and-set, so the writer waits 1 second and reads the key back. Only the machine whose nonce is stored owns the lease. Another machine waits, polling every 15 seconds, and gives up after 15 minutes by default. A background process extends the lease every minute while builds run. - A rollback guard. After taking the lease, the deploy compares HEAD with each target's live `anyr-sha`. If HEAD is a strict ancestor of a live commit, it aborts with a message that says production is newer and tells you to pull. A live commit that git can't resolve never blocks the deploy. A third check came from a different incident. A deploy reads the shared checkout for minutes, and once another session ran `git pull` there in the middle of a build. That deploy crawled pages with a newer script against an older bundle, and 4 model pages fell back to server rendering. Now `ops deploy` records HEAD and the tracked file state when it starts, and checks both again before every build, upload and crawl. If either changed, it aborts and names the Workers it already shipped. ## The crawl is cached and faster Every web deploy replaces the Worker's static files, so it must ship the prerendered pages every time. Dropping them would send the catalog back to server rendering. So the planner never skips the crawl. It reuses one instead. The cache key is a hash of the built bundle, not of the source, because the HTML embeds the build's asset names. A retry of a failed deploy on the same build reuses the crawl and skips it entirely. A deploy that does not touch the web Worker does not crawl at all. The crawl also got faster on its own. It ran one page at a time with an 800 ms pause, settings chosen for the Workers Free plan. On the paid plan it now runs 2 pages at a time with a 100 ms pause. In the 18 successful deploys logged on one machine on 25 and 26 October, the same step, crawl plus web redeploy, took 84 to 129 seconds, with a median of about 100. It used to take 385. ## What it costs today Here is one machine's deploy log for 25 and 26 October. Other machines deploy too, so this is a sample, not a total. - 18 successful deploys and 3 failed ones in the changed-files mode. - A median of 522 seconds from start to finish across all 18, and a median of 419 seconds until production served the new code and passed a 5-second critical smoke test. The full crawl and checks run after that point. - 11 of the 18 resolved to the full path, with a median of 530 seconds. The other 7 shipped between 11 and 17 Workers, with a median of 493 seconds. That last number matters most. The agents themselves change the deploy scripts, the lockfile and shared packages often, and each of those forces a wide deploy. Per-Worker targeting saves the most on small, local changes, such as a dashboard fix or a docs edit. So the drop for full-path runs, from about 1,130 to 530 seconds, comes mostly from two other changes. The crawl went from 385 to about 100 seconds, and uploads now run while the next build runs. That is our reading of the phase timings in the log, not a controlled test. Next, we want fewer inputs that force the full path. The dashboard is one example. When we counted on 10 October, 102 of the 126 dashboard UI files the dashboard Worker reaches were also bundled into the web Worker through an old route tree, so editing one of them deployed the web Worker too. Deleting that old tree would make those edits deploy the dashboard alone. --- # 智能体如何部署 AnyRouter:一次一个 Worker > AnyRouter 运行在一组 Cloudflare Worker 上,智能体从多台机器上大约每小时部署一次。现在每个 Worker 都记录自己正在运行的提交,一次部署只发布自该提交以来代码有变化的 Worker,而比生产环境更旧的检出无法覆盖生产。本文介绍它如何运作,以及它现在的成本。 - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/agents-per-worker-deploys ## 一个仓库,多个 Worker AnyRouter 是一个 pnpm monorepo,发布为多个 Cloudflare Worker。一次完整部署包括 17 个主要 Worker 和两个小型代理 Worker。API、网站、控制台、文档、博客和 MCP 服务器都是独立的 Worker,其中大多数共享同一批包里的代码。 智能体全天合并改动,大约每小时部署一次。本系列第一篇介绍了这个循环。本文讲其中的一条命令 `pnpm ops deploy`,以及它每次运行都要回答的三个问题。 1. 每个 Worker 现在运行的是什么? 2. 这次改动可能影响哪些 Worker? 3. 这个检出比生产环境新吗? ## 为什么我们不再全部部署 直到 10 月初,只要共享包有改动,一次部署就会发布整个 Worker 集群,而几乎每个改动都会碰到共享包。完整部署的中位数约为 1,130 秒,统计自部署日志中 10 月 6 日到 9 日最近 5 次成功的完整运行。 最大的阶段耗时 385 秒。它把模型目录爬取成静态 HTML,然后带着这些页面重新部署 web Worker。只有 web Worker 会发布这些 HTML。即使只改文档,也要付出这次爬取,耗时约 513 秒,其中 425 秒生成的页面从未被部署。 ## 每个 Worker 记录自己的提交 第一个修复是不再猜测生产环境在运行什么。`ops` 执行的每次 `wrangler deploy` 都会传入 `--message anyr-sha=`。Cloudflare 把这条消息保存在 Worker 版本上,任何拥有 API 令牌的机器之后都能读取。它不花钱,也不需要新的数据库。 普通的 `pnpm ops deploy` 会并行读取每个 Worker 的线上版本。我们在 10 月 12 日测量时,这次读取耗时 1.8 秒。更新密钥会产生一个没有消息的新版本,所以读取程序会跳过这些版本,找到其下的代码版本。 然后每个 Worker 的 diff 是 `<它的线上提交>..HEAD`,再加上未提交的改动。我们以前与 `origin/main` 比较。合并一推送,那个 diff 就是空的;10 月 11 日,一次 `--since HEAD~1` 的部署漏掉了一个压在后续文档提交下面的合并。线上提交是唯一与实际运行内容一致的基准。 读不到提交的 Worker 一律部署。这包括从未打过标记的 Worker、从有未提交改动的工作区部署的版本,以及 API 错误。部署多了是安全的,部署少了不安全。 ## 由导入图选出目标 接下来,`scripts/lib/worker-graph.ts` 把改动的文件映射到 Worker。对每个 Worker,它收集其依赖的 workspace 包和源码实际导入的 `@anyrouter/*` 包,再对每个包套用同样的规则。测试文件不会增加依赖边。 共享 UI 包按文件处理。对每个 Worker,规划器从该 Worker 自己的源码出发,沿着导入走进 `packages/ui`。改动一个 UI 文件,只会部署能到达它的 Worker,dry run 会写出导入它的文件。如果遇到无法追踪的导入,例如带模板字符串的动态 `import()`,就把该 Worker 视为能到达整个 UI 包。 有些输入可能改变所有 bundle,所以会强制走完整路径。包括 `package.json`、lockfile、根目录的 TypeScript 和 Vite 配置、部署脚本本身、数据库迁移,以及规划器不认识的任何路径。只改 `docs/kb` 下的 kb 笔记,本身不会触发部署。 ```mermaid flowchart TD R["读取每个 Worker 的线上 anyr-sha"] --> D["把每个线上 sha 与 HEAD 比较"] D --> G["通过导入图映射改动的文件"] G --> P{"计划"} P -->|"没有受影响的"| N["跳过,不部署"] P -->|"根输入有改动"| F["完整路径"] P -->|"部分 Worker"| T["只部署这些 Worker"] F --> L{"部署租约空闲?"} T --> L L -->|"被其他机器持有"| W["等待,然后中止"] L -->|"已获得"| A{"HEAD 比某个线上 sha 旧?"} A -->|"是"| X["中止:先 pull 再重试"] A -->|"否"| U["构建、上传、标记 anyr-sha"] ``` _一次运行如何决定发布什么,以及能在任何上传之前叫停它的两项检查。_ `pnpm ops deploy --dry-run` 会打印计划:每个 Worker 一行、每个目标的原因,以及预计耗时。下面是规划器对几类改动的估算,基于部署日志中各阶段的中位数: | 改动 | 部署 | 估算 | 之前 | | --- | --- | --- | --- | | 只改控制台 | dashboard | 约 65 秒 | 约 1,130 秒 | | 只改文档应用 | docs | 约 95 秒 | 约 513 秒 | | 首页区块 | web 及其运行时依赖 | 约 620 秒 | 约 1,130 秒 | | 只改一条 kb 笔记 | 无 | 0 秒 | 0 秒 | ## 过时的检出无法让生产回退 10 月 12 日,两台机器同时运行了 `pnpm ops deploy`。其中一台在另一台运行中途部署了更新的提交,于是前者的最终检查失败。那次没有造成损害,因为更新的构建已经包含了较旧的提交。如果顺序相反,生产环境就会回到更旧的构建。 现在在第一次上传或迁移之前会运行两道防护。 - 部署租约。部署会向 Workers KV 写入一个租约键,内容包括机器、提交、开始时间和一个随机 nonce,有效期 25 分钟。KV 没有 compare-and-set,所以写入方等待 1 秒后再读回该键,只有存储的 nonce 属于自己的机器才拥有租约。其他机器会等待,每 15 秒检查一次,默认 15 分钟后放弃。构建期间,一个后台进程每分钟续一次租约。 - 回退防护。拿到租约后,部署会把 HEAD 与每个目标的线上 `anyr-sha` 比较。如果 HEAD 是某个线上提交的严格祖先,就中止,并提示生产环境更新、请先 pull。git 无法解析的线上提交永远不会阻止部署。 第三项检查来自另一次事故。一次部署要在几分钟内持续读取共享检出,而有一次另一个会话在构建过程中在那里运行了 `git pull`。那次部署用更新的脚本爬取了基于更旧 bundle 的页面,导致 4 个模型页面退回到服务端渲染。现在 `ops deploy` 在开始时记录 HEAD 和受跟踪文件的状态,并在每次构建、上传和爬取之前重新检查两者。任何一个变化,它都会中止,并列出已经发布的 Worker。 ## 爬取有了缓存,也更快了 每次 web 部署都会整体替换该 Worker 的静态文件,所以每次都必须带上预渲染页面。丢掉它们会让目录退回到服务端渲染。因此规划器从不跳过爬取,而是复用已有的爬取结果。 缓存键是构建产物的哈希,而不是源码的哈希,因为 HTML 中嵌入了构建的资源文件名。对同一构建重试失败的部署时,会复用爬取结果,完全跳过爬取。不涉及 web Worker 的部署则完全不爬取。 爬取本身也变快了。它以前一次爬一个页面,每次暂停 800 毫秒,这是为 Workers Free 计划选的参数。在付费计划上,它现在一次爬 2 个页面,暂停 100 毫秒。在一台机器记录的 10 月 25 日和 26 日的 18 次成功部署中,同一步骤(爬取加重新部署 web Worker)耗时 84 到 129 秒,中位数约 100 秒。以前是 385 秒。 ## 现在的成本 下面是一台机器在 10 月 25 日和 26 日的部署日志。其他机器也在部署,所以这只是样本,不是总数。 - 按改动文件模式,成功 18 次,失败 3 次。 - 18 次从开始到结束的中位数为 522 秒;到生产环境提供新代码并通过 5 秒关键冒烟测试的中位数为 419 秒。完整爬取和检查在此之后运行。 - 18 次中有 11 次走了完整路径,中位数 530 秒;其余 7 次发布了 11 到 17 个 Worker,中位数 493 秒。 最后这个数字最重要。智能体自己经常修改部署脚本、lockfile 和共享包,每一项都会强制一次大范围部署。按 Worker 选择目标,在小而局部的改动上省得最多,比如一次控制台修复或一次文档编辑。所以完整路径部署从约 1,130 秒降到 530 秒,主要来自另外两项改动。爬取从 385 秒降到约 100 秒,上传现在也与下一次构建同时进行。这是我们对日志中各阶段耗时的解读,不是对照实验。 接下来,我们希望减少强制走完整路径的输入。控制台就是一个例子。10 月 10 日统计时,控制台 Worker 能到达的 126 个控制台 UI 文件中,有 102 个也通过一棵旧的路由树被打包进 web Worker,所以修改其中任何一个也会部署 web Worker。删除那棵旧树后,这些修改就只会部署控制台。 --- # Agent deploy AnyRouter thế nào: từng Worker một > AnyRouter chạy trên một đội Cloudflare Worker, và agent deploy nó khoảng mỗi giờ một lần từ nhiều máy. Giờ mỗi Worker ghi lại commit nó đang chạy, một lần deploy chỉ ship những Worker có code thay đổi kể từ commit đó, và một checkout cũ hơn production không thể ghi đè lên production. Bài này cho thấy cách nó hoạt động và cái giá hiện tại. - Date: October 27, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/agents-per-worker-deploys ## Một repo, nhiều Worker AnyRouter là một monorepo pnpm, ship thành nhiều Cloudflare Worker. Một lần deploy toàn bộ gồm 17 Worker chính và hai Worker proxy nhỏ. API, website, dashboard, docs, blog và MCP server là các Worker riêng. Phần lớn chúng dùng chung code từ cùng các package. Agent merge thay đổi cả ngày và deploy khoảng mỗi giờ một lần. Bài đầu tiên của loạt bài nói về vòng lặp đó. Bài này nói về một lệnh bên trong nó, `pnpm ops deploy`, và ba câu hỏi lệnh này phải trả lời ở mỗi lần chạy. 1. Mỗi Worker đang chạy gì ngay lúc này? 2. Thay đổi này có thể ảnh hưởng tới những Worker nào? 3. Checkout này có mới hơn production không? ## Vì sao chúng tôi thôi deploy tất cả Cho tới đầu tháng 10, một lần deploy sẽ ship cả đội Worker mỗi khi một package dùng chung thay đổi, mà gần như thay đổi nào cũng chạm tới package dùng chung. Một lần deploy toàn bộ mất trung vị khoảng 1.130 giây, đo trên 5 lần chạy toàn bộ thành công gần nhất trong log deploy, từ 6 đến 9 tháng 10. Giai đoạn lớn nhất mất 385 giây. Nó crawl danh mục model thành HTML tĩnh rồi deploy lại Worker web cùng các trang đó. Chỉ Worker web ship HTML đó. Một thay đổi chỉ ở docs vẫn phải trả cho lần crawl, và mất khoảng 513 giây, trong đó 425 giây tạo ra các trang không bao giờ được deploy. ## Mỗi Worker ghi lại commit của chính nó Bản sửa đầu tiên là thôi đoán xem production đang chạy gì. Mỗi lệnh `wrangler deploy` mà `ops` chạy đều truyền `--message anyr-sha=`. Cloudflare lưu message đó trên version của Worker, nên bất kỳ máy nào có API token đều đọc lại được. Việc này không tốn gì và không cần database mới. Một lệnh `pnpm ops deploy` thường sẽ đọc version đang chạy của mọi Worker song song. Lần chúng tôi đo vào ngày 12 tháng 10, việc đọc này mất 1,8 giây. Cập nhật secret tạo ra một version mới không có message, nên bộ đọc bỏ qua các version đó và tìm version code bên dưới. Sau đó diff cho mỗi Worker là `..HEAD`, cộng với các thay đổi chưa commit. Trước đây chúng tôi diff với `origin/main`. Diff đó rỗng ngay khi một merge được push, và ngày 11 tháng 10 một lần deploy với `--since HEAD~1` đã bỏ sót một merge nằm dưới một commit docs mới hơn. Commit đang chạy là mốc duy nhất khớp với thứ thật sự đang chạy. Một Worker không đọc được commit thì luôn được deploy. Điều đó gồm Worker chưa từng được đánh dấu, một lần deploy từ cây có thay đổi chưa commit, hoặc lỗi API. Deploy thừa thì an toàn. Deploy thiếu thì không. ## Đồ thị import chọn mục tiêu Tiếp theo, `scripts/lib/worker-graph.ts` ánh xạ các file thay đổi sang Worker. Với mỗi Worker, nó gom các workspace package mà Worker phụ thuộc và các package `@anyrouter/*` mà source thật sự import, rồi áp dụng cùng quy tắc đó qua từng package. File test không bao giờ thêm cạnh. Package UI dùng chung được xử lý theo từng file. Với mỗi Worker, bộ lập kế hoạch đi theo các import từ source của chính Worker đó vào `packages/ui`. Một file UI thay đổi chỉ deploy những Worker chạm tới nó, và bản dry run ghi tên file import nó. Nếu gặp một import không lần theo được, như `import()` động với template string, Worker đó bị coi là chạm tới toàn bộ package UI. Một số đầu vào có thể đổi mọi bundle, nên chúng buộc đi đường toàn bộ. Gồm `package.json`, lockfile, cấu hình TypeScript và Vite ở gốc, chính các script deploy, migration database, và mọi đường dẫn mà bộ lập kế hoạch không nhận ra. Một ghi chú kb trong `docs/kb` tự nó không deploy gì. ```mermaid flowchart TD R["Đọc anyr-sha đang chạy của mọi Worker"] --> D["Diff từng sha đang chạy tới HEAD"] D --> G["Ánh xạ file thay đổi qua đồ thị import"] G --> P{"Kế hoạch"} P -->|"không có gì bị ảnh hưởng"| N["Bỏ qua, không deploy"] P -->|"đầu vào gốc thay đổi"| F["Đường toàn bộ"] P -->|"một số Worker"| T["Chỉ các Worker đó"] F --> L{"Lease deploy còn trống?"} T --> L L -->|"máy khác đang giữ"| W["Chờ, rồi huỷ"] L -->|"đã lấy được"| A{"HEAD cũ hơn một sha đang chạy?"} A -->|"có"| X["Huỷ: pull rồi thử lại"] A -->|"không"| U["Build, upload, đánh dấu anyr-sha"] ``` _Một lần chạy quyết định ship gì, và hai bước kiểm tra có thể dừng nó trước mọi lần upload._ `pnpm ops deploy --dry-run` in kế hoạch với một dòng cho mỗi Worker, lý do của mỗi mục tiêu và thời gian ước tính. Đây là ước tính của bộ lập kế hoạch cho vài loại thay đổi, dựa trên trung vị từng giai đoạn trong log deploy: | Thay đổi | Deploy | Ước tính | Trước đây | | --- | --- | --- | --- | | Chỉ dashboard | dashboard | khoảng 65 s | khoảng 1.130 s | | Chỉ app docs | docs | khoảng 95 s | khoảng 513 s | | Các section trang chủ | web và phụ thuộc runtime của nó | khoảng 620 s | khoảng 1.130 s | | Chỉ một ghi chú kb | không gì cả | 0 s | 0 s | ## Một checkout cũ không thể đưa prod lùi lại Ngày 12 tháng 10, hai máy chạy `pnpm ops deploy` cùng lúc. Một máy deploy commit mới hơn đè lên máy kia giữa chừng, nên lần chạy đầu tiên thất bại ở bước kiểm tra cuối. Lần đó không gây hại, vì bản build mới hơn đã chứa các commit cũ hơn. Nếu thứ tự ngược lại, production đã quay về một bản build cũ hơn. Giờ có hai lớp chặn chạy trước lần upload hoặc migration đầu tiên. - Một lease deploy. Lần deploy ghi một key lease vào Workers KV với tên máy, commit, thời điểm bắt đầu, một nonce ngẫu nhiên, và thời hạn 25 phút. KV không có compare-and-set, nên bên ghi chờ 1 giây rồi đọc lại key. Chỉ máy có nonce được lưu mới sở hữu lease. Máy khác sẽ chờ, kiểm tra lại mỗi 15 giây, và mặc định bỏ cuộc sau 15 phút. Một tiến trình nền gia hạn lease mỗi phút trong lúc build. - Một lớp chặn rollback. Sau khi lấy lease, lần deploy so HEAD với `anyr-sha` đang chạy của từng mục tiêu. Nếu HEAD là tổ tiên thực sự của một commit đang chạy, nó huỷ với thông báo rằng production mới hơn và bảo bạn pull. Một commit đang chạy mà git không nhận ra thì không bao giờ chặn deploy. Lớp kiểm tra thứ ba đến từ một sự cố khác. Một lần deploy đọc checkout dùng chung trong nhiều phút, và có lần một session khác chạy `git pull` ở đó giữa lúc build. Lần deploy đó crawl trang bằng script mới hơn trên một bundle cũ hơn, và 4 trang model rơi về render phía server. Giờ `ops deploy` ghi lại HEAD và trạng thái các file được theo dõi khi bắt đầu, rồi kiểm tra lại cả hai trước mỗi lần build, upload và crawl. Nếu một trong hai thay đổi, nó huỷ và ghi tên các Worker đã ship. ## Lần crawl được cache và nhanh hơn Mỗi lần deploy web thay toàn bộ file tĩnh của Worker, nên lần nào cũng phải ship các trang đã prerender. Bỏ chúng đi sẽ đưa danh mục về render phía server. Vì vậy bộ lập kế hoạch không bao giờ bỏ qua lần crawl. Nó dùng lại một lần crawl cũ. Key của cache là hash của bundle đã build, không phải của source, vì HTML nhúng tên asset của bản build. Chạy lại một lần deploy thất bại trên cùng bản build sẽ dùng lại lần crawl và bỏ qua hẳn bước đó. Một lần deploy không chạm Worker web thì hoàn toàn không crawl. Bản thân lần crawl cũng nhanh hơn. Trước đây nó chạy từng trang một với khoảng nghỉ 800 ms, cấu hình chọn cho gói Workers Free. Trên gói trả phí, giờ nó chạy 2 trang một lúc với khoảng nghỉ 100 ms. Trong 18 lần deploy thành công được ghi trên một máy ngày 25 và 26 tháng 10, cùng bước đó, gồm crawl và deploy lại Worker web, mất 84 đến 129 giây, trung vị khoảng 100. Trước đây là 385. ## Cái giá hiện tại Đây là log deploy của một máy trong ngày 25 và 26 tháng 10. Các máy khác cũng deploy, nên đây là một mẫu, không phải tổng. - 18 lần deploy thành công và 3 lần thất bại ở chế độ theo file thay đổi. - Trung vị 522 giây từ đầu tới cuối trên cả 18 lần, và trung vị 419 giây cho tới khi production phục vụ code mới và qua bài smoke test quan trọng 5 giây. Lần crawl đầy đủ và các bước kiểm tra chạy sau thời điểm đó. - 11 trên 18 lần đi đường toàn bộ, trung vị 530 giây. 7 lần còn lại ship từ 11 đến 17 Worker, trung vị 493 giây. Con số cuối là quan trọng nhất. Chính các agent thường xuyên sửa script deploy, lockfile và package dùng chung, và mỗi thứ đó buộc một lần deploy rộng. Chọn từng Worker tiết kiệm nhiều nhất với các thay đổi nhỏ, cục bộ, như một bản sửa dashboard hay một chỉnh sửa docs. Vì vậy mức giảm của các lần đi đường toàn bộ, từ khoảng 1.130 xuống 530 giây, chủ yếu đến từ hai thay đổi khác. Lần crawl giảm từ 385 xuống khoảng 100 giây, và việc upload giờ chạy trong lúc bản build tiếp theo đang chạy. Đó là cách chúng tôi đọc thời gian từng giai đoạn trong log, không phải một phép thử có đối chứng. Tiếp theo, chúng tôi muốn có ít đầu vào buộc đi đường toàn bộ hơn. Dashboard là một ví dụ. Khi đếm vào ngày 10 tháng 10, 102 trên 126 file UI dashboard mà Worker dashboard chạm tới cũng được bundle vào Worker web qua một cây route cũ, nên sửa một file trong số đó cũng deploy cả Worker web. Xoá cây cũ đó sẽ khiến các chỉnh sửa này chỉ deploy dashboard. --- # Introducing AnyRouter Artifacts: publish a page, get a link > Artifacts turn an HTML page, a Markdown note, a Mermaid diagram or a small folder into a URL at anyrouter.dev/a/. Publish from the anyr CLI, the API or an agent. Every artifact starts private, and you choose when to share it. - Date: October 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/introducing-anyrouter-artifacts ## A link for what your agent made Coding agents write a lot of HTML now: a weekly report, a chart, a design note, a diagram of a request flow. Most of it ends up as a file on one laptop. To show it to someone, you had to find a host, set up a deploy and decide who could see it. Artifacts, now in beta, removes those steps. You publish a file or a small folder to AnyRouter and get a stable URL at `https://anyrouter.dev/a/`. Publish again and you get a new numbered version at the same URL. Every artifact is private until you change it. ## Quick start Install the `anyr` CLI and sign in. The `artifact` command ships in the stable CLI. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login ``` Publish a page. The CLI prints the URL. ```bash anyr artifact publish ./page.html --title "Sales board" ``` The page is private, so only you can open the link. When you want to share it, make it unlisted: ```bash anyr artifact visibility unlisted ``` The same publish works over HTTP with any AnyRouter API key: ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Hello","files":{"index.html":{"content":"

Hi

"}}}' ``` ```json { "id": "k3Vx9TqLm2Ab7Zcd", "version": 1, "url": "https://anyrouter.dev/a/k3Vx9TqLm2Ab7Zcd", "visibility": "private" } ``` ## What you can publish One file, or a folder with its styles, scripts and images. The entry file's extension decides how the page looks to a viewer. | Entry | Viewers see | | --- | --- | | `.html` | The page itself | | `.md` | Formatted text | | `.svg` | The image (scripts in it do not run) | | `.mmd`, `.mermaid` | A Mermaid diagram, drawn in the browser | | `.py`, `.ts`, `.sql`, `.go`, `.rs` and other source files | The code with syntax highlighting | In a folder, `index.html` opens first. Files such as `.js`, `.css`, `.json` and `.csv` are never the entry, so a page plus its `app.js` still opens the page. ## Three ways to use it **Let an agent publish its report.** An agent that can run shell commands can publish with one call and read the URL from JSON. Ask it to build the page, then run: ```bash anyr artifact publish report.html --json ``` Agents that talk to the AnyRouter MCP server can call the `publish_artifact` tool instead. It takes text files up to 1 MB and needs a [management key](https://anyrouter.dev/docs/api-reference/management-keys) with the `write:artifacts` scope. **Share a diagram.** A `.mmd` file becomes a rendered Mermaid diagram. Paste the link in a pull request or a chat thread. ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Flow","files":{"flow.mmd":{"content":"graph TD\n A[Request] --> B{Key valid?}\n B -->|yes| C[Route]\n B -->|no| D[401]"}}}' ``` **Keep one URL for a page that changes.** Publish a folder, then send new versions to the same id. Each version gets a number and an optional label, so people who have the link always see the latest one. ```bash anyr artifact publish ./report anyr artifact publish ./report --id k3Vx9TqLm2Ab7Zcd --label "fix chart" ``` The CLI skips dotfiles, `node_modules` and `.git` when it uploads a folder. ## Sharing and privacy Each artifact has one of three visibility settings: | Visibility | Who can open it | Listed | Search engines | | --- | --- | --- | --- | | `private` (default) | Only you | No | No | | `unlisted` | Anyone with the URL | No | No | | `public` | Anyone with the URL | In the public gallery | Yes | - Your name is hidden by default. The page header reads "by an AnyRouter user" until you turn on `--show-author`. Your email address is never shown. - A private id answers 404 to anyone but you, so nobody can probe for it. - An account can make artifacts public 24 hours after sign-up, and up to 5 per day. Every artifact page has a Report button. - You can see daily views and visitors for your own artifacts. AnyRouter stores no IP address or user identity for these counts. - A page can fetch the files of its own version and nothing else. Requests to another artifact or another URL are blocked. - Deleting an artifact stops its URL working for everyone else at once. You can change visibility or show your name from the Artifacts page in the dashboard, or with `anyr artifact visibility`. ## Limits The limits are: | Limit | Value | | --- | --- | | Artifacts per account | 100 | | Stored size per account (current versions) | 200 MB | | Publishes per hour | 20 | | One page or source file | 5 MB | | One image, font or script | 25 MB | | One version | 200 files, 100 MB | The CLI uploads up to 50 files and 20 MB in one publish. For larger folders, use the [manifest upload](https://anyrouter.dev/docs/api-reference/artifacts) in the API. ## Try it The [Artifacts API docs](https://anyrouter.dev/docs/api-reference/artifacts) cover the folder upload, version conflicts, every error code and the MCP tools. See what other people have published at [anyrouter.dev/artifact](https://anyrouter.dev/artifact), and manage your own in [Dashboard, Artifacts](https://anyrouter.dev/dashboard/artifacts). Publish your first page in one command. [Open Artifacts](https://anyrouter.dev/artifact) --- # AnyRouter Artifacts 上线:发布一个页面,拿到一个链接 > Artifacts 把 HTML 页面、Markdown 笔记、Mermaid 图或一个小文件夹变成 anyrouter.dev/a/ 的链接。可以用 anyr CLI、API 或 Agent 发布。每个 Artifact 默认私有,由你决定何时分享。 - Date: October 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/introducing-anyrouter-artifacts ## 给 Agent 的产出一个链接 现在编码 Agent 会写很多 HTML:周报、图表、设计笔记、请求流程图。大多数最后只是某台电脑上的一个文件。想给别人看,就得找托管、配部署、再决定谁能看。 Artifacts(目前为 Beta)省掉这些步骤。把一个文件或小文件夹发布到 AnyRouter,就得到一个固定链接 `https://anyrouter.dev/a/`。再次发布会在同一链接下生成新的编号版本。每个 Artifact 在你修改之前都是私有的。 ## 快速上手 安装 `anyr` CLI 并登录。稳定版 CLI 已包含 `artifact` 命令。 ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login ``` 发布一个页面,CLI 会打印链接。 ```bash anyr artifact publish ./page.html --title "Sales board" ``` 页面是私有的,只有你能打开。想分享时,把它设为 unlisted: ```bash anyr artifact visibility unlisted ``` 用任意 AnyRouter API Key 也可以通过 HTTP 发布: ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Hello","files":{"index.html":{"content":"

Hi

"}}}' ``` ```json { "id": "k3Vx9TqLm2Ab7Zcd", "version": 1, "url": "https://anyrouter.dev/a/k3Vx9TqLm2Ab7Zcd", "visibility": "private" } ``` ## 可以发布什么 一个文件,或带样式、脚本和图片的文件夹。入口文件的扩展名决定访问者看到的样子。 | 入口 | 访问者看到 | | --- | --- | | `.html` | 页面本身 | | `.md` | 排版后的文字 | | `.svg` | 图片(其中的脚本不会运行) | | `.mmd`、`.mermaid` | 在浏览器中绘制的 Mermaid 图 | | `.py`、`.ts`、`.sql`、`.go`、`.rs` 等源码 | 带语法高亮的代码 | 文件夹里优先打开 `index.html`。`.js`、`.css`、`.json`、`.csv` 等文件永远不会作为入口,所以页面加上它的 `app.js` 仍然打开页面。 ## 三种用法 **让 Agent 发布它的报告。** 能运行命令行的 Agent 一条命令就能发布,并从 JSON 中读取链接。让它生成页面,然后运行: ```bash anyr artifact publish report.html --json ``` 连接 AnyRouter MCP 服务器的 Agent 也可以调用 `publish_artifact` 工具。它接受最多 1 MB 的文本文件,需要带 `write:artifacts` 权限的[管理密钥](https://anyrouter.dev/docs/api-reference/management-keys)。 **分享一张图。** `.mmd` 文件会渲染成 Mermaid 图。把链接贴到 PR 或聊天里即可。 ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Flow","files":{"flow.mmd":{"content":"graph TD\n A[Request] --> B{Key valid?}\n B -->|yes| C[Route]\n B -->|no| D[401]"}}}' ``` **给会变化的页面一个固定链接。** 发布一个文件夹,之后把新版本发到同一个 id。每个版本都有编号和可选标签,拿到链接的人始终看到最新版本。 ```bash anyr artifact publish ./report anyr artifact publish ./report --id k3Vx9TqLm2Ab7Zcd --label "fix chart" ``` CLI 上传文件夹时会跳过点文件、`node_modules` 和 `.git`。 ## 分享与隐私 每个 Artifact 有三种可见性之一: | 可见性 | 谁能打开 | 是否列出 | 搜索引擎 | | --- | --- | --- | --- | | `private`(默认) | 只有你 | 否 | 否 | | `unlisted` | 任何拿到链接的人 | 否 | 否 | | `public` | 任何拿到链接的人 | 出现在公开列表 | 是 | - 默认隐藏你的名字。页面头部显示 "by an AnyRouter user",直到你开启 `--show-author`。邮箱永远不会显示。 - 私有 id 对除你以外的人返回 404,别人无法探测它是否存在。 - 账号注册 24 小时后才能把 Artifact 设为公开,每天最多 5 个。每个 Artifact 页面都有举报按钮。 - 你可以看到自己 Artifact 的每日浏览量和访客数。这些计数不保存 IP 地址或用户身份。 - 页面只能 fetch 自己这个版本的文件。请求其他 Artifact 或其他 URL 会被拦截。 - 删除 Artifact 后,链接对其他人立即失效。 可以在控制台的 Artifacts 页面,或用 `anyr artifact visibility` 修改可见性和是否显示名字。 ## 限制 限制如下: | 限制 | 数值 | | --- | --- | | 每个账号的 Artifact 数 | 100 | | 每个账号的存储(当前版本) | 200 MB | | 每小时发布次数 | 20 | | 单个页面或源码文件 | 5 MB | | 单个图片、字体或脚本 | 25 MB | | 单个版本 | 200 个文件,100 MB | CLI 单次发布最多上传 50 个文件、20 MB。更大的文件夹请用 API 的[清单上传](https://anyrouter.dev/docs/api-reference/artifacts)。 ## 试一试 [Artifacts API 文档](https://anyrouter.dev/docs/api-reference/artifacts)介绍了文件夹上传、版本冲突、所有错误码和 MCP 工具。在 [anyrouter.dev/artifact](https://anyrouter.dev/artifact) 查看别人发布的内容,在[控制台的 Artifacts 页面](https://anyrouter.dev/dashboard/artifacts)管理你自己的 Artifact。 一条命令发布你的第一个页面。 [打开 Artifacts](https://anyrouter.dev/artifact) --- # Giới thiệu AnyRouter Artifacts: đăng một trang, nhận một đường link > Artifacts biến một trang HTML, một ghi chú Markdown, một sơ đồ Mermaid hay một thư mục nhỏ thành đường link anyrouter.dev/a/. Đăng từ anyr CLI, API hoặc agent. Mọi artifact đều riêng tư lúc đầu, và bạn chọn khi nào chia sẻ. - Date: October 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/introducing-anyrouter-artifacts ## Một đường link cho thứ agent vừa làm Coding agent giờ viết rất nhiều HTML: báo cáo tuần, biểu đồ, ghi chú thiết kế, sơ đồ luồng request. Phần lớn nằm lại thành một file trên một máy. Muốn cho người khác xem, bạn phải tìm chỗ host, cài deploy và quyết định ai được xem. Artifacts, đang ở bản beta, bỏ các bước đó. Bạn đăng một file hoặc một thư mục nhỏ lên AnyRouter và nhận đường link cố định `https://anyrouter.dev/a/`. Đăng lại sẽ tạo một phiên bản đánh số mới ở cùng link. Mọi artifact đều riêng tư cho đến khi bạn đổi. ## Bắt đầu nhanh Cài `anyr` CLI và đăng nhập. Lệnh `artifact` có trong bản CLI ổn định. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login ``` Đăng một trang. CLI in ra đường link. ```bash anyr artifact publish ./page.html --title "Sales board" ``` Trang đang riêng tư, nên chỉ bạn mở được. Khi muốn chia sẻ, chuyển nó sang unlisted: ```bash anyr artifact visibility unlisted ``` Bạn cũng có thể đăng qua HTTP với bất kỳ API key AnyRouter nào: ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Hello","files":{"index.html":{"content":"

Hi

"}}}' ``` ```json { "id": "k3Vx9TqLm2Ab7Zcd", "version": 1, "url": "https://anyrouter.dev/a/k3Vx9TqLm2Ab7Zcd", "visibility": "private" } ``` ## Bạn đăng được gì Một file, hoặc một thư mục kèm style, script và ảnh. Đuôi của file chính quyết định người xem thấy gì. | File chính | Người xem thấy | | --- | --- | | `.html` | Chính trang đó | | `.md` | Văn bản đã định dạng | | `.svg` | Hình ảnh (script trong đó không chạy) | | `.mmd`, `.mermaid` | Sơ đồ Mermaid, vẽ trong trình duyệt | | `.py`, `.ts`, `.sql`, `.go`, `.rs` và file mã nguồn khác | Mã nguồn có tô màu cú pháp | Trong thư mục, `index.html` được mở trước. Các file như `.js`, `.css`, `.json` và `.csv` không bao giờ là file chính, nên một trang kèm `app.js` vẫn mở trang đó. ## Ba cách dùng **Để agent đăng báo cáo của nó.** Agent chạy được lệnh shell có thể đăng bằng một lệnh và đọc link từ JSON. Bảo nó dựng trang, rồi chạy: ```bash anyr artifact publish report.html --json ``` Agent kết nối với MCP server của AnyRouter có thể gọi tool `publish_artifact`. Tool nhận file văn bản tới 1 MB và cần một [management key](https://anyrouter.dev/docs/api-reference/management-keys) có quyền `write:artifacts`. **Chia sẻ một sơ đồ.** File `.mmd` thành sơ đồ Mermaid. Dán link vào pull request hoặc khung chat. ```bash curl -sS https://anyrouter.dev/api/v1/artifacts \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"title":"Flow","files":{"flow.mmd":{"content":"graph TD\n A[Request] --> B{Key valid?}\n B -->|yes| C[Route]\n B -->|no| D[401]"}}}' ``` **Giữ một link cho trang hay thay đổi.** Đăng một thư mục, rồi gửi phiên bản mới vào cùng id. Mỗi phiên bản có số và nhãn tùy chọn, nên ai có link cũng luôn thấy bản mới nhất. ```bash anyr artifact publish ./report anyr artifact publish ./report --id k3Vx9TqLm2Ab7Zcd --label "fix chart" ``` Khi tải thư mục lên, CLI bỏ qua dotfile, `node_modules` và `.git`. ## Chia sẻ và quyền riêng tư Mỗi artifact có một trong ba chế độ hiển thị: | Chế độ | Ai mở được | Có trong danh sách | Công cụ tìm kiếm | | --- | --- | --- | --- | | `private` (mặc định) | Chỉ bạn | Không | Không | | `unlisted` | Ai có link | Không | Không | | `public` | Ai có link | Có, trong thư viện công khai | Có | - Tên bạn bị ẩn mặc định. Đầu trang ghi "by an AnyRouter user" cho đến khi bạn bật `--show-author`. Email không bao giờ hiện. - Một id riêng tư trả về 404 với mọi người trừ bạn, nên không ai dò được nó. - Tài khoản chỉ đặt artifact là public sau 24 giờ kể từ khi đăng ký, tối đa 5 cái mỗi ngày. Mỗi trang artifact có nút Report. - Bạn xem được lượt xem và lượt khách mỗi ngày của artifact của mình. AnyRouter không lưu địa chỉ IP hay danh tính người xem cho các số này. - Một trang chỉ fetch được file trong phiên bản của chính nó. Request tới artifact khác hay URL khác đều bị chặn. - Xóa một artifact làm link ngừng hoạt động với mọi người khác ngay lập tức. Bạn đổi chế độ hiển thị hay bật tên mình ở trang Artifacts trong dashboard, hoặc bằng `anyr artifact visibility`. ## Giới hạn Các giới hạn như sau: | Giới hạn | Giá trị | | --- | --- | | Artifact mỗi tài khoản | 100 | | Dung lượng lưu mỗi tài khoản (phiên bản hiện tại) | 200 MB | | Số lần đăng mỗi giờ | 20 | | Một trang hoặc file mã nguồn | 5 MB | | Một ảnh, font hoặc script | 25 MB | | Một phiên bản | 200 file, 100 MB | CLI tải tối đa 50 file và 20 MB mỗi lần đăng. Với thư mục lớn hơn, dùng [manifest upload](https://anyrouter.dev/docs/api-reference/artifacts) của API. ## Dùng thử [Tài liệu Artifacts API](https://anyrouter.dev/docs/api-reference/artifacts) mô tả cách tải thư mục, xung đột phiên bản, mọi mã lỗi và các tool MCP. Xem những gì người khác đã đăng tại [anyrouter.dev/artifact](https://anyrouter.dev/artifact), và quản lý artifact của bạn ở [Dashboard, Artifacts](https://anyrouter.dev/dashboard/artifacts). Đăng trang đầu tiên của bạn bằng một lệnh. [Mở Artifacts](https://anyrouter.dev/artifact) --- # How agents ship AnyRouter: the merge and deploy loop > Coding agents write, review, merge and deploy most AnyRouter changes. In the week of 19 to 25 October 2026 that loop merged 346 pull requests. This first post in the series shows the loop: a signed local CI gate, one reviewer per commit, one merge script, and gated deploys about once an hour. - Date: October 26, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/agents-ship-loop ## Agents do most of the shipping AnyRouter is a small team and a lot of coding agents. Agents pick up issues, write the fix in their own git worktree, open a pull request, review each other's pull requests, merge the approved ones and deploy. The owner sets the rules and makes the calls that only a person should make. This series is about how that works in practice: what we automated, what broke, and what we changed after it broke. Every number in it comes from our git history, the GitHub API or the scripts in the repo. In the week of 19 to 25 October 2026, 346 pull requests merged into `main`. The busiest day had 71 and the quietest had 29. In the three weeks from 5 to 25 October, 1,111 merged. That volume only works if every step from a pushed commit to a live Worker is a script with a gate, not a person clicking buttons. This post walks through that loop. ## The loop at a glance ```mermaid flowchart TD I["Issue"] --> L["Agent lane in its own worktree"] L --> PR["Pull request"] PR --> CI["pnpm local-ci signs the commit"] CI --> RV["Fresh reviewer agent signs the same commit"] RV -->|"changes requested"| L RV -->|"approved"| M["merge-pr.sh squash-merges"] M --> Q["Merged changes wait for the next deploy"] Q --> G{"Memory, disk and lease gates"} G -->|"not yet"| Q G -->|"clear"| D["Bookmark, smoke, pnpm ops deploy, smoke"] D -->|"new smoke failure"| R["Roll back the Workers it uploaded"] ``` _One pass of the loop. A new commit on a pull request starts over at the CI gate, because both signatures belong to one commit._ The rest of the post takes each box in turn. ## GitHub Actions is off, so CI runs on our own machine We turned GitHub Actions CI off to save money. Only the release workflows still run there. The gate moved to a local command, `pnpm local-ci ` (`scripts/local-ci.ts`), which first landed on 4 October 2026. It runs the same checks the old workflow ran, one at a time, because the machine has 15 GB of memory and cannot take parallel builds. 18 repo guards always run. They cover things like migration numbering, schema drift, app import boundaries, generated config that is out of date, and the format of the pull request body. The rest is scoped to the change: biome on the changed files, only the typecheck programs the change can reach, and `vitest related` on the changed code. Two details make the result trustworthy. - The checks run on the pull request merged onto the current `main`, not on the branch alone. An old branch would otherwise skip a check that was added to `main` after it branched. - A pass is posted as a `local-ci` commit status by one bot account. The status names the gate count and the sha256 of the log, so a green result points at the exact output that earned it. A status from any other account does not count. A real status from one recent pull request reads `41/41 gates passed (scoped, on main 3e175c42)`. The count changes with what each pull request touches. ## One reviewer per commit CI proves the code builds and the tests pass. It does not prove the change is right. So every pull request also gets a review from a fresh agent session that did not write the code. It reads the diff against our validation checklist, reruns what it doubts, and either approves or sends the change back with a precise list of fixes. The approval is bound to a commit, not to the pull request. `scripts/herdr/approve-pr.sh` takes the pull request number and the exact commit the reviewer read. If someone pushed while the review ran, the script refuses, because the live head is no longer the code the reviewer saw. On success it posts a `review` status on that commit and adds the `review:approved` label. Of the 346 pull requests merged from 19 to 25 October, 342 carried `review:approved`. ## One way to merge Every merge goes through `scripts/herdr/merge-pr.sh`. It refuses release pull requests, which the owner merges by hand. It refuses a head without a signed `local-ci` pass. Then it runs `check:pr-merge-safety`, which also wants the signed `review` status and the approval label on the current head, and refuses a pull request that carries `review:changes`. Only then does it squash-merge, with `--match-head-commit`, so a push that lands during the merge fails the merge instead of shipping unreviewed code. The script exists because of a bug in an earlier version of this step. The merge check was piped into another command, and a shell pipeline returns the exit code of its last command, so a failed check still let a red pull request merge. Now the check runs alone, and the script has a comment that says why. ## Deploys, about once an hour Nothing deploys on push. A polling loop (`scripts/gh-loop/`) checks GitHub every 3 minutes. When changes have merged since the last deploy and at least 30 minutes have passed, it starts a deploy lane. The lane waits until the machine has at least 5.5 GB of available memory and 20 GB of free disk, and it runs at most 3 heavy lanes at once. The deploy itself follows a fixed order. 1. Check out a freshly fetched `main` in a worktree that only deploys. 2. Record a D1 Time Travel bookmark, so the database can be restored to that minute. 3. Run the production smoke test to get a baseline. 4. Run `pnpm ops deploy`. It takes a deploy lease, so two machines never deploy at once. It deploys only the Workers whose code changed since the commit each one runs now. It refuses to deploy a `main` that is older than what is live. 5. Run the smoke test again. A failure that was not in the baseline rolls back each Worker the deploy uploaded. Step 2 used to be a full database export. We dropped it after an export took the database offline. A D1 export blocks every query for 2 to 4 minutes, and the API failed for that whole time. The bookmark costs no downtime. The next post covers that incident and the rule it became. On 26 October, the deploy log on one of our machines shows 15 successful deploys and 2 failed ones between midnight and 17:00 UTC. Across the 18 regular deploys it logged as successful on 25 and 26 October, the median run took 520 seconds. A full run touched 17 Workers. Other machines deploy too, so this is a sample, not a total. ## What the loop will not do The loop skips some changes completely and leaves them to the owner: - Pull requests that touch database migrations, billing and credits, auth, API keys and stored provider keys, or legal pages. - A migration that drops, renames or rewrites data. It needs the owner's approval and a backup. Additive migrations apply on their own. - Release pull requests, drafts and dependency bumps. - Anything that talks to a customer. Each skip rule is one row in a table in `scripts/gh-loop/rules.ts`, and each row has a test that fails if someone removes it. ## What is next in the series Next, we cover how incidents become guards: the database export outage, a stash shared across worktrees, and merges that reverted newer code. After that come per-Worker deploys, running many agents on one 15 GB machine, and how we find free models. --- # AnyRouter 如何由 agent 发布:合并与部署循环 > AnyRouter 的大部分改动由编码 agent 编写、评审、合并和部署。2026 年 10 月 19 日至 25 日这一周,这个循环合并了 346 个 pull request。这是本系列的第一篇,介绍这个循环:带签名的本地 CI 关卡、每个 commit 一位评审、唯一的合并脚本,以及大约每小时一次、带关卡的部署。 - Date: October 26, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/agents-ship-loop ## 大部分发布工作由 agent 完成 AnyRouter 是一个小团队加上许多编码 agent。agent 领取 issue,在自己的 git worktree 里写修复,开 pull request,互相评审 pull request,合并已批准的改动并部署。项目负责人制定规则,并做出只应由人来做的决定。 这个系列讲它在实际中如何运作:我们自动化了什么,什么出过问题,出问题后我们改了什么。文中每个数字都来自我们的 git 历史、GitHub API 或仓库里的脚本。 2026 年 10 月 19 日至 25 日这一周,共有 346 个 pull request 合并进 `main`。最多的一天 71 个,最少的一天 29 个。10 月 5 日至 25 日这三周共合并 1,111 个。 要撑住这个量,从推送一个 commit 到 Worker 上线的每一步都必须是带关卡的脚本,而不是有人去点按钮。本文逐步介绍这个循环。 ## 循环总览 ```mermaid flowchart TD I["Issue"] --> L["独立 worktree 中的 agent 通道"] L --> PR["Pull request"] PR --> CI["pnpm local-ci 为 commit 签名"] CI --> RV["全新的评审 agent 为同一 commit 签名"] RV -->|"要求修改"| L RV -->|"批准"| M["merge-pr.sh squash 合并"] M --> Q["已合并的改动等待下次部署"] Q --> G{"内存、磁盘与租约关卡"} G -->|"未满足"| Q G -->|"通过"| D["书签、冒烟测试、pnpm ops deploy、冒烟测试"] D -->|"新的冒烟失败"| R["回滚本次上传的 Worker"] ``` _循环的一轮。pull request 上的新 commit 会从 CI 关卡重新开始,因为两个签名都属于同一个 commit。_ 下文依次说明每一步。 ## GitHub Actions 已关闭,CI 在我们自己的机器上运行 为了省钱,我们关闭了 GitHub Actions CI,只有发布相关的 workflow 还在那里运行。关卡改成一条本地命令 `pnpm local-ci `(`scripts/local-ci.ts`),于 2026 年 10 月 4 日首次上线。 它运行旧 workflow 的同一套检查,一次一个,因为这台机器只有 15 GB 内存,无法并行构建。18 项仓库守卫每次都会运行,检查内容包括 migration 编号、schema 漂移、应用之间的 import 边界、过期的生成配置,以及 pull request 描述的格式。其余检查按改动范围执行:对改动文件运行 biome,只运行改动能影响到的 typecheck 程序,对改动代码运行 `vitest related`。 有两个细节让结果可信。 - 检查运行在合并到当前 `main` 之后的 pull request 上,而不只是分支本身。否则一个旧分支会跳过它分出之后才加入 `main` 的检查。 - 通过结果由唯一的机器人账号发布为 `local-ci` commit 状态。状态里写明关卡数量和日志的 sha256,所以一个绿色结果能对应到产生它的那份输出。其他账号发布的状态不算数。 最近一个 pull request 上的真实状态是 `41/41 gates passed (scoped, on main 3e175c42)`。这个数字随每个 pull request 涉及的范围变化。 ## 每个 commit 一位评审 CI 证明代码能构建、测试能通过,但不能证明改动是对的。所以每个 pull request 还要由一个全新的 agent 会话评审,它不是写代码的那个会话。评审按我们的验证清单阅读 diff,重跑它有疑问的部分,然后批准,或者附上明确的修改清单退回。 批准绑定的是 commit,而不是 pull request。`scripts/herdr/approve-pr.sh` 接收 pull request 编号和评审实际读过的那个 commit。如果评审期间有人推送,脚本会拒绝,因为当前 head 已经不是评审看过的代码。成功时,它在该 commit 上发布 `review` 状态,并加上 `review:approved` 标签。 10 月 19 日至 25 日合并的 346 个 pull request 中,有 342 个带有 `review:approved`。 ## 只有一种合并方式 每次合并都通过 `scripts/herdr/merge-pr.sh`。它拒绝发布用的 pull request,这类由项目负责人手动合并。它拒绝没有签名 `local-ci` 通过状态的 head。然后它运行 `check:pr-merge-safety`,该检查还要求当前 head 上有签名的 `review` 状态和批准标签,并拒绝带有 `review:changes` 的 pull request。 只有这样它才会 squash 合并,并带上 `--match-head-commit`,这样合并过程中出现的推送会让合并失败,而不是发布未经评审的代码。 这个脚本源于这一步早期版本的一个 bug。当时合并检查的输出被 pipe 给另一条命令,而 shell 管道返回的是最后一条命令的退出码,所以检查失败了,红色的 pull request 仍然被合并。现在检查单独运行,脚本里也有一条注释说明原因。 ## 部署,大约每小时一次 推送不会触发部署。一个轮询循环(`scripts/gh-loop/`)每 3 分钟检查一次 GitHub。当上次部署后有新的合并,并且距离上次至少过了 30 分钟,它会启动一个部署通道。通道会等到机器至少有 5.5 GB 可用内存和 20 GB 空闲磁盘,并且同时最多运行 3 个重型通道。 部署本身按固定顺序进行。 1. 在一个只用于部署的 worktree 中检出刚 fetch 的 `main`。 2. 记录一个 D1 Time Travel 书签,以便把数据库恢复到那一分钟。 3. 运行生产环境冒烟测试,作为基线。 4. 运行 `pnpm ops deploy`。它会持有部署租约,所以两台机器不会同时部署。它只部署代码相对其当前运行 commit 有变化的 Worker。它拒绝部署比线上版本更旧的 `main`。 5. 再次运行冒烟测试。基线中没有的失败会回滚本次部署上传的每个 Worker。 第 2 步以前是一次完整的数据库导出。在一次导出让数据库停止服务之后,我们去掉了它。一次 D1 导出会阻塞所有查询 2 到 4 分钟,整个期间 API 都在报错。书签不会造成停机。下一篇会讲这次事故以及由它产生的规则。 10 月 26 日 0 点到 17 点(UTC),我们一台机器上的部署日志记录了 15 次成功部署和 2 次失败。该日志在 10 月 25 日和 26 日记录的 18 次常规成功部署中,运行时间中位数为 520 秒。一次完整运行涉及 17 个 Worker。其他机器也会部署,所以这是一个样本,而不是总数。 ## 循环不会做的事 循环会完全跳过一些改动,留给项目负责人: - 涉及数据库 migration、计费与额度、认证、API key 和已保存的供应商 key,或法律页面的 pull request。 - 删除、重命名或改写数据的 migration。这类需要项目负责人批准并先做备份。只做新增的 migration 会自动应用。 - 发布用的 pull request、草稿和依赖升级。 - 任何与客户沟通的事情。 每条跳过规则都是 `scripts/gh-loop/rules.ts` 中一张表里的一行,每一行都有一个测试,删掉它测试就会失败。 ## 本系列的下一篇 下一篇讲事故如何变成守卫:数据库导出事故、在 worktree 之间共享的 stash,以及把较新代码回退掉的合并。之后会讲按 Worker 部署、在一台 15 GB 机器上运行许多 agent,以及我们如何寻找免费模型。 --- # Agent ship AnyRouter thế nào: vòng lặp merge và deploy > Coding agent viết, review, merge và deploy phần lớn thay đổi của AnyRouter. Trong tuần 19 đến 25 tháng 10 năm 2026, vòng lặp đó đã merge 346 pull request. Bài đầu tiên của loạt bài này mô tả vòng lặp: cổng CI chạy local có chữ ký, một reviewer cho mỗi commit, một script merge duy nhất, và deploy có kiểm tra khoảng mỗi giờ một lần. - Date: October 26, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/agents-ship-loop ## Agent làm phần lớn việc ship AnyRouter là một team nhỏ cùng nhiều coding agent. Agent nhận issue, viết bản sửa trong git worktree riêng, mở pull request, review pull request của nhau, merge những cái đã được duyệt và deploy. Chủ dự án đặt luật và quyết những việc chỉ người mới nên quyết. Loạt bài này kể cách việc đó chạy trong thực tế: cái gì đã tự động hoá, cái gì đã hỏng, và chúng tôi đổi gì sau khi nó hỏng. Mọi con số đều lấy từ lịch sử git, GitHub API hoặc các script trong repo. Trong tuần 19 đến 25 tháng 10 năm 2026, 346 pull request đã merge vào `main`. Ngày nhiều nhất có 71, ngày ít nhất có 29. Trong ba tuần từ 5 đến 25 tháng 10, có 1.111 pull request đã merge. Khối lượng đó chỉ chạy được khi mọi bước từ một commit được push tới một Worker đang chạy là một script có cổng kiểm tra, không phải một người bấm nút. Bài này đi qua vòng lặp đó. ## Toàn cảnh vòng lặp ```mermaid flowchart TD I["Issue"] --> L["Lane agent trong worktree riêng"] L --> PR["Pull request"] PR --> CI["pnpm local-ci ký commit"] CI --> RV["Reviewer agent mới ký cùng commit đó"] RV -->|"yêu cầu sửa"| L RV -->|"duyệt"| M["merge-pr.sh squash-merge"] M --> Q["Thay đổi đã merge chờ lần deploy sau"] Q --> G{"Cổng bộ nhớ, ổ đĩa và lease"} G -->|"chưa"| Q G -->|"thông"| D["Bookmark, smoke, pnpm ops deploy, smoke"] D -->|"smoke lỗi mới"| R["Rollback các Worker vừa upload"] ``` _Một vòng của vòng lặp. Một commit mới trên pull request sẽ bắt đầu lại từ cổng CI, vì cả hai chữ ký đều gắn với một commit._ Phần còn lại của bài đi qua từng ô. ## GitHub Actions đã tắt, nên CI chạy trên máy của chúng tôi Chúng tôi tắt GitHub Actions CI để tiết kiệm tiền. Chỉ còn các workflow release chạy ở đó. Cổng kiểm tra chuyển sang một lệnh local, `pnpm local-ci ` (`scripts/local-ci.ts`), có từ ngày 4 tháng 10 năm 2026. Lệnh này chạy cùng các kiểm tra mà workflow cũ chạy, lần lượt từng cái, vì máy chỉ có 15 GB bộ nhớ và không chịu được build song song. 18 guard của repo luôn chạy. Chúng kiểm tra những thứ như số thứ tự migration, lệch schema, ranh giới import giữa các app, config sinh ra bị cũ, và định dạng mô tả pull request. Phần còn lại tuỳ theo thay đổi: biome trên các file đã đổi, chỉ những chương trình typecheck mà thay đổi chạm tới, và `vitest related` trên code đã đổi. Hai chi tiết làm kết quả đáng tin. - Các kiểm tra chạy trên pull request đã merge vào `main` hiện tại, không chỉ trên nhánh. Nếu không, một nhánh cũ sẽ bỏ qua kiểm tra được thêm vào `main` sau khi nhánh tách ra. - Kết quả đạt được đăng thành commit status `local-ci` bởi một tài khoản bot duy nhất. Status ghi số cổng và sha256 của log, nên một kết quả xanh trỏ đúng vào output đã tạo ra nó. Status từ tài khoản khác không được tính. Một status thật từ một pull request gần đây ghi `41/41 gates passed (scoped, on main 3e175c42)`. Con số thay đổi theo phần mà mỗi pull request chạm tới. ## Một reviewer cho mỗi commit CI chứng minh code build được và test qua. Nó không chứng minh thay đổi là đúng. Vì vậy mỗi pull request còn được review bởi một phiên agent mới, không phải phiên đã viết code. Reviewer đọc diff theo checklist kiểm tra của chúng tôi, chạy lại những gì nó nghi ngờ, rồi duyệt hoặc trả lại kèm danh sách sửa cụ thể. Lượt duyệt gắn với một commit, không gắn với pull request. `scripts/herdr/approve-pr.sh` nhận số pull request và đúng commit mà reviewer đã đọc. Nếu có ai push trong lúc review, script từ chối, vì head hiện tại không còn là code reviewer đã xem. Khi thành công, nó đăng status `review` trên commit đó và gắn nhãn `review:approved`. Trong 346 pull request merge từ 19 đến 25 tháng 10, 342 cái có nhãn `review:approved`. ## Chỉ một cách để merge Mọi lần merge đi qua `scripts/herdr/merge-pr.sh`. Script từ chối pull request release, vì chủ dự án merge chúng bằng tay. Nó từ chối head không có kết quả `local-ci` đạt có chữ ký. Sau đó nó chạy `check:pr-merge-safety`, kiểm tra thêm status `review` có chữ ký và nhãn duyệt trên head hiện tại, và từ chối pull request mang nhãn `review:changes`. Chỉ khi đó nó mới squash-merge, với `--match-head-commit`, để một lần push xảy ra giữa lúc merge làm merge thất bại thay vì ship code chưa review. Script này ra đời vì một lỗi ở phiên bản trước của bước này. Lệnh kiểm tra merge được pipe sang lệnh khác, và một pipeline shell trả về exit code của lệnh cuối, nên một kiểm tra thất bại vẫn để một pull request đỏ được merge. Giờ lệnh kiểm tra chạy riêng, và script có một comment ghi lý do. ## Deploy, khoảng mỗi giờ một lần Không có gì deploy khi push. Một vòng lặp polling (`scripts/gh-loop/`) kiểm tra GitHub mỗi 3 phút. Khi có thay đổi đã merge từ lần deploy trước và đã qua ít nhất 30 phút, nó mở một lane deploy. Lane chờ đến khi máy có ít nhất 5,5 GB bộ nhớ khả dụng và 20 GB ổ đĩa trống, và chạy tối đa 3 lane nặng cùng lúc. Bản thân lần deploy đi theo thứ tự cố định. 1. Checkout `main` vừa fetch trong một worktree chỉ dùng để deploy. 2. Ghi một bookmark D1 Time Travel, để có thể khôi phục database về đúng phút đó. 3. Chạy smoke test production để lấy mốc so sánh. 4. Chạy `pnpm ops deploy`. Lệnh giữ một deploy lease, nên hai máy không bao giờ deploy cùng lúc. Nó chỉ deploy các Worker có code thay đổi so với commit mà mỗi Worker đang chạy. Nó từ chối deploy một `main` cũ hơn bản đang chạy. 5. Chạy lại smoke test. Một lỗi không có trong mốc so sánh sẽ rollback từng Worker mà lần deploy đã upload. Bước 2 từng là một lần export toàn bộ database. Chúng tôi bỏ nó sau khi một lần export làm database ngừng phục vụ. Một lần export D1 chặn mọi truy vấn trong 2 đến 4 phút, và API lỗi suốt thời gian đó. Bookmark không gây gián đoạn. Bài sau sẽ kể sự cố đó và luật được tạo ra từ nó. Ngày 26 tháng 10, log deploy trên một máy của chúng tôi ghi 15 lần deploy thành công và 2 lần thất bại trong khoảng từ 0 giờ đến 17 giờ UTC. Với 18 lần deploy thường thành công được ghi trong ngày 25 và 26 tháng 10, thời gian chạy trung vị là 520 giây. Một lần chạy đầy đủ chạm tới 17 Worker. Các máy khác cũng deploy, nên đây là một mẫu, không phải tổng. ## Những việc vòng lặp không làm Vòng lặp bỏ qua hoàn toàn một số thay đổi và để lại cho chủ dự án: - Pull request chạm tới migration database, billing và credit, xác thực, API key và key nhà cung cấp đã lưu, hoặc các trang pháp lý. - Migration xoá, đổi tên hoặc ghi lại dữ liệu. Loại này cần chủ dự án duyệt và một bản backup. Migration chỉ thêm mới thì tự áp dụng. - Pull request release, bản nháp và cập nhật dependency. - Mọi thứ liên lạc với khách hàng. Mỗi luật bỏ qua là một dòng trong một bảng ở `scripts/gh-loop/rules.ts`, và mỗi dòng có một test sẽ fail nếu ai đó xoá nó. ## Bài tiếp theo trong loạt bài Bài sau kể cách sự cố trở thành guard: sự cố export database, một stash dùng chung giữa các worktree, và những lần merge đã đảo ngược code mới hơn. Sau đó là deploy theo từng Worker, chạy nhiều agent trên một máy 15 GB, và cách chúng tôi tìm model miễn phí. --- # What is new: October 2026 > Sign-in is fixed, the models page shows what you can call, and failed requests and logs got fixes. - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/customer-update-october-2026 ## Sign in just works Signing in from a new device and creating an account now finish every step. If you got stuck before, try again. The header has a plain **Sign in** link. It keeps you on the page you are on. ## Clearer models The [models page](https://anyrouter.dev/models) shows how many models you can call today, and how many more need your own key. Each model says how it is billed: **credits**, **free**, or **your key**. The API returns the same label as `pricing.billing`. ## Share a free key You can donate a free key to the [shared Pool](https://anyrouter.dev/docs/features/shared-pool) and earn credit. A key with $0 balance can now be shared as free only. If a key cannot be shared, you see why. ## Fewer failed requests An unknown `anyrouter/` model name now goes to `anyrouter/auto` instead of failing. Cached answers get their own response id and time. Laguna XS 2.1 switches provider after 20 seconds of silence, not 36. ## Safer logs Server logs now hide keys that a provider repeats back inside an error message. --- # 本周对你有什么变化:登录更顺畅、模型更清楚、日志更安全 > 新设备也能顺利登录,捐赠免费 key 更清楚,模型页会告诉你哪些能直接调用,缓存回答和日志也有改进。 - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/customer-update-october-2026 ## 登录和注册都能顺利完成 在新设备上登录、创建新账号,现在每一步都能走完。之前有些人会卡在中间。如果你遇到过,请再试一次。 页面顶部还有一个简单的 **Sign in** 链接,会在当前页面打开登录窗口,不会丢掉你正在看的内容。 ## 向 Pool 分享免费 key,提示更明确 你可以把免费的服务商 key 捐给[共享 Pool](https://anyrouter.dev/docs/features/shared-pool) 并获得额度。对话框现在会显示你已经捐过的 key,并在当前页面直接打开。 余额为 $0 的 key,只要还能提供免费模型,就不会再被拒绝,可以只作为免费 key 分享。如果某个 key 不能分享,你会看到原因和下一步,而不是笼统的错误。 Pool 页面现在会列出每个服务商及其本周流量,并标出有免费档的服务商。Pool 以 $0 提供的模型会在模型页标为免费,包括名称不以 `:free` 结尾的模型。 ## 模型页告诉你哪些能调用 [模型页](https://anyrouter.dev/models)现在会说明统计了什么:今天你能直接调用多少模型,另有多少需要你自己的服务商 key。点一下就能显示它们。 每个模型现在都标明计费方式:用你的 **credits**、**免费**,或使用**你的 key**。API 里的 `pricing.billing` 字段是同一个标签,代码可以直接读取。见 [models API](https://anyrouter.dev/docs/api-reference/models)。 最新列表优先显示你能调用的模型。分类标签在手机上会换行,不再左右滑动。筛选更简单,价格、速度和发布时间都放进了同样的筛选分组。 ## 自带 key,界面更清爽 [BYOK 页面](https://anyrouter.dev/dashboard/byok)更紧凑:Pool 状态只占一行,分隔线更少,宽屏上能看到更多服务商。需要你自己 key 的模型页用平实的话说明,并只有一个明确的 **Add your key** 操作。 本周新增:`perplexity/pplx-embed-v1-4b`,一个可搭配你自己的 Respan key 使用的 embedding 模型。用法见 [BYOK 文档](https://anyrouter.dev/docs/features/byok)。 ## 更少的失败请求 如果你请求的 `anyrouter/` 模型名不存在,请求现在会转到 `anyrouter/auto`,而不是失败。加上 `:free` 则走免费路由。你原来的名称会保留在请求日志里。见[路由](https://anyrouter.dev/docs/features/routing)。 Laguna XS 2.1 现在静默 20 秒就切换到下一个服务商,而不是 36 秒。服务商卡住时,你更快拿到回答。 缓存命中的回答现在有自己的响应 id 和时间。之前两次请求可能共用一个 id,不便追踪。缓存说明见[响应缓存](https://anyrouter.dev/docs/features/response-caching)。 ## 更安全的日志 我们的服务器日志现在也会隐藏错误信息里的凭据,比如服务商在报错文字中回显的 key。此前我们只隐藏名称像密钥的字段,现在补上了 key 出现在普通文本里的缺口。 ## 更容易上手 每个有视频的[使用场景](https://anyrouter.dev/use-cases)现在都能直接在页面上播放,点击播放前不会从视频网站加载任何内容。首页页脚也列出了我们最新的文章和动态。 --- # Có gì mới cho bạn tuần này: đăng nhập dễ hơn, mô hình rõ hơn, log an toàn hơn > Đăng nhập được trên thiết bị mới, tặng key miễn phí rõ ràng hơn, trang mô hình cho biết bạn gọi được gì, và câu trả lời cache cùng log được cải thiện. - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/customer-update-october-2026 ## Đăng nhập và đăng ký chạy trơn tru Đăng nhập từ thiết bị mới và tạo tài khoản mới giờ hoàn tất đủ mọi bước. Trước đây một số người bị kẹt giữa chừng. Nếu đó là bạn, hãy thử lại. Phần đầu trang cũng có liên kết **Sign in** đơn giản. Nó mở cửa sổ đăng nhập ngay trên trang bạn đang xem, nên bạn không mất vị trí. ## Chia sẻ key miễn phí với Pool, báo lỗi rõ ràng Bạn có thể tặng key nhà cung cấp miễn phí cho [Pool dùng chung](https://anyrouter.dev/docs/features/shared-pool) và nhận credit. Hộp thoại giờ hiện các key bạn đã tặng và mở ngay tại chỗ. Key có số dư $0 không còn bị từ chối nếu vẫn phục vụ được các mô hình miễn phí. Bạn có thể chia sẻ nó chỉ cho mô hình miễn phí. Khi một key không chia sẻ được, bạn nhận được lý do và bước tiếp theo, thay vì một lỗi chung chung. Trang Pool giờ hiện từng nhà cung cấp kèm lưu lượng tuần này, và đánh dấu nhà cung cấp có gói miễn phí. Các mô hình Pool phục vụ với giá $0 được gắn nhãn miễn phí trên trang mô hình, kể cả khi tên không kết thúc bằng `:free`. ## Trang mô hình cho bạn biết gọi được gì [Trang mô hình](https://anyrouter.dev/models) giờ nói rõ nó đếm gì: hôm nay bạn gọi được bao nhiêu mô hình và còn bao nhiêu mô hình cần key nhà cung cấp của riêng bạn. Một cú nhấp sẽ hiện chúng. Mỗi mô hình giờ cho biết cách tính phí: từ **credit** của bạn, **miễn phí**, hoặc dùng **key của bạn**. Nhãn này có trong API dưới dạng `pricing.billing`, nên code của bạn đọc được. Xem [API models](https://anyrouter.dev/docs/api-reference/models). Danh sách mới nhất ưu tiên các mô hình bạn gọi được. Các tab loại mô hình xuống dòng trên điện thoại thay vì trượt ngang. Bộ lọc đơn giản hơn, với giá, tốc độ và ngày phát hành nằm trong cùng các nhóm lọc. ## Mang key của bạn, giao diện gọn hơn [Trang BYOK](https://anyrouter.dev/dashboard/byok) gọn hơn: trạng thái Pool trên một dòng, ít đường kẻ hơn, và nhiều nhà cung cấp hơn trên màn hình rộng. Trang mô hình cần key của bạn nói rõ bằng lời đơn giản và có một hành động **Add your key** rõ ràng. Mới tuần này: `perplexity/pplx-embed-v1-4b`, một mô hình embedding dùng được với key Respan của bạn. Xem cách dùng trong [tài liệu BYOK](https://anyrouter.dev/docs/features/byok). ## Ít yêu cầu thất bại hơn Nếu bạn gọi một tên mô hình `anyrouter/` không tồn tại, yêu cầu giờ đi tới `anyrouter/auto` thay vì thất bại. Thêm `:free` thì đi theo tuyến miễn phí. Tên gốc của bạn vẫn nằm trong log yêu cầu. Xem [định tuyến](https://anyrouter.dev/docs/features/routing). Laguna XS 2.1 giờ chuyển sang nhà cung cấp kế tiếp sau 20 giây im lặng, thay vì 36 giây. Khi một nhà cung cấp bị treo, câu trả lời đến sớm hơn. Câu trả lời từ cache giờ có id phản hồi và thời gian riêng. Trước đây hai yêu cầu có thể dùng chung một id, gây khó truy vết. Xem [cache phản hồi](https://anyrouter.dev/docs/features/response-caching). ## Log an toàn hơn Log máy chủ của chúng tôi giờ cũng ẩn thông tin xác thực nằm trong thông báo lỗi, chẳng hạn một key mà nhà cung cấp lặp lại trong chữ báo lỗi. Trước đây chúng tôi chỉ ẩn các trường có tên giống bí mật. Giờ khoảng trống khi key xuất hiện trong văn bản thường đã được lấp. ## Dễ học hơn Mỗi [trường hợp sử dụng](https://anyrouter.dev/use-cases) có video giờ phát ngay trên trang. Không có gì tải từ trang video cho đến khi bạn bấm phát. Chân trang chủ cũng liệt kê các bài viết và tin mới nhất. --- # MiniMax M3.1 Flash is free on Go and higher > MiniMax M3.1 Flash, a 1M-context coding and agent model, is free on AnyRouter for now. Go and higher plans can use it, with no daily cap. - Date: October 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/minimax-m3-1-flash-free ## What is free [`minimax/minimax-m3.1-flash`](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) is free on AnyRouter right now. The catalog shows $0 for input and $0 for output, and credits are not deducted. It is free on Go and every higher plan, with no credit spend and no daily cap. Free-model requests share one per-account limit per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Update, November 1, 2026: the Free plan now gets a 5-request lifetime trial on free models, then needs Go. Go is $2 a month, or free when you donate one valid, unique provider key. BYOK and top-ups work on every plan. We have not set an end date. We will say so here and in the [release note](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash) if the price changes. ## Why it is worth a try MiniMax built M3.1 Flash for multi-step agent work, reading real codebases, fixing bugs and building features. It has a 1M-token context window, accepts text, image and video, and always reasons. You set the effort with `reasoning_effort`. A 1M window lets you put a large repository or a long log in one request. That suits coding agents. ## Try it Add `:free` to pin the free route. The request never falls through to a paid one. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "minimax/minimax-m3.1-flash:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model minimax/minimax-m3.1-flash:free ``` _Claude Code._ - [Model page](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) — live routes and price. - [All free models](https://anyrouter.dev/models?free=true) — the full free list. ## Use your own Ollama key The model is also listed through Ollama Cloud. Add your own Ollama key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and requests go to your Ollama account. Ollama is offering this model free on its own cloud until 23:59 UTC on October 22, 2026. That is Ollama's offer on your Ollama account, not an AnyRouter price. After that date, Ollama's own terms apply. --- # MiniMax M3.1 Flash Go 及以上免费 > MiniMax M3.1 Flash 是支持 1M 上下文的编程与 agent 模型,目前在 AnyRouter 免费。Go 及以上套餐可用,没有每日上限。 - Date: October 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/minimax-m3-1-flash-free ## 哪些是免费的 [`minimax/minimax-m3.1-flash`](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) 目前在 AnyRouter 免费。目录显示输入和输出都是 $0,也不会扣除额度。 Go 及以上套餐免费使用,不扣额度,没有每日上限。免费模型的请求共用每个账户的每分钟限额:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次。 更新,2026 年 11 月 1 日:Free 套餐现在对免费模型有 5 次终身试用请求,之后需要 Go。Go 每月 $2,或捐出一把有效且唯一的供应商 key 即可免费获得。BYOK 和充值在所有套餐上都可用。 我们没有设定结束日期。如果价格变化,会在这里和[发布说明](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash)中告知。 ## 为什么值得一试 MiniMax 为多步骤 agent 任务、阅读真实代码库、修 bug 和开发功能而打造了 M3.1 Flash。它有 1M token 上下文窗口,支持文本、图像和视频输入,并始终启用 reasoning,可用 `reasoning_effort` 调节强度。 1M 窗口可以把大型仓库或长日志放进一次请求,适合编程 agent。 ## 试用 加上 `:free` 即可固定走免费路由,请求不会转到付费路由。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "minimax/minimax-m3.1-flash:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl。_ ```bash anyr claude --model minimax/minimax-m3.1-flash:free ``` _Claude Code。_ - [模型页面](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) — 实时路由和价格。 - [全部免费模型](https://anyrouter.dev/models?free=true) — 完整免费列表。 ## 使用你自己的 Ollama key 该模型也通过 Ollama Cloud 提供。在 [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) 添加你自己的 Ollama key,请求就会发往你的 Ollama 账号。 Ollama 在其自己的云上免费提供该模型,截至 2026 年 10 月 22 日 23:59 UTC。这是 Ollama 对你的 Ollama 账号的优惠,不是 AnyRouter 的价格。该日期之后以 Ollama 自己的条款为准。 --- # MiniMax M3.1 Flash miễn phí từ gói Go > MiniMax M3.1 Flash, mô hình lập trình và agent có ngữ cảnh 1M, hiện miễn phí trên AnyRouter. Gói Go trở lên dùng được, không giới hạn theo ngày. - Date: October 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/minimax-m3-1-flash-free ## Phần nào miễn phí [`minimax/minimax-m3.1-flash`](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) hiện miễn phí trên AnyRouter. Danh mục ghi $0 cho đầu vào và $0 cho đầu ra, và không trừ credit. Miễn phí trên Go và mọi gói cao hơn, không trừ credit, không có giới hạn theo ngày. Các yêu cầu mô hình miễn phí dùng chung một giới hạn theo phút cho mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Cập nhật ngày 1 tháng 11 năm 2026: gói Free nay có 5 yêu cầu dùng thử một lần với model miễn phí, sau đó cần Go. Go giá $2 một tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp hợp lệ và duy nhất. BYOK và nạp credit dùng được ở mọi gói. Chúng tôi chưa đặt ngày kết thúc. Nếu giá đổi, chúng tôi sẽ nói ở đây và trong [ghi chú phát hành](https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash). ## Vì sao nên thử MiniMax tạo M3.1 Flash cho công việc agent nhiều bước, đọc codebase thật, sửa lỗi và xây tính năng. Mô hình có cửa sổ ngữ cảnh 1M token, nhận văn bản, ảnh và video, và luôn suy luận. Bạn chỉnh mức bằng `reasoning_effort`. Cửa sổ 1M cho phép đưa cả kho mã lớn hoặc log dài vào một yêu cầu. Điều này hợp với coding agent. ## Dùng thử Thêm `:free` để ghim tuyến miễn phí. Yêu cầu sẽ không chuyển sang tuyến trả phí. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "minimax/minimax-m3.1-flash:free", "messages": [{"role": "user", "content": "Find the bug in this function."}] }' ``` _curl._ ```bash anyr claude --model minimax/minimax-m3.1-flash:free ``` _Claude Code._ - [Trang mô hình](https://anyrouter.dev/model/minimax/minimax-m3.1-flash) — tuyến và giá hiện tại. - [Tất cả mô hình miễn phí](https://anyrouter.dev/models?free=true) — danh sách đầy đủ. ## Dùng key Ollama của bạn Mô hình cũng có trên Ollama Cloud. Thêm key Ollama của bạn trong [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) và yêu cầu sẽ đi tới tài khoản Ollama của bạn. Ollama đang cho dùng mô hình này miễn phí trên cloud của họ đến 23:59 UTC ngày 22/10/2026. Đó là ưu đãi của Ollama trên tài khoản Ollama của bạn, không phải giá của AnyRouter. Sau ngày đó, áp dụng điều khoản của Ollama. --- # Run Claude Code on free models in two lines > Install the anyr CLI, then run anyr claude. Claude Code works on AnyRouter's free models: a 5-request trial with no card, then Go ($2 a month, or free with one donated key). Exact commands, the manual setup, which models to try, and the limits. - Date: October 16, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/claude-code-free-models ## The two lines Install the `anyr` CLI, then launch Claude Code through it on the free router: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` The first run opens a browser to sign you in, creates a key and saves it. Later runs go straight into Claude Code. If Claude Code is not installed yet, add `--install` and `anyr` installs it first. You need an AnyRouter account; the Free plan is a 5-request trial, then Go. `anyrouter/free` picks one of the free models that is healthy right now and falls back to the next if it fails. The same two lines are on the [/claude-code](https://anyrouter.dev/claude-code) page, and the signed-in version, with your own key filled in, is at [/welcome#claude-code](https://anyrouter.dev/welcome#claude-code). ## Keep background calls free too Claude Code sends some calls to a small background model, and to subagents. `anyr claude` points those at Claude Haiku by default, and that model is only available through your own provider key (BYOK). On a Free account without one, those calls can fail with `404 model_unavailable` even while your main model is free. Pin all the aliases to the free router to avoid that: ```bash anyr claude --model anyrouter/free \ --haiku anyrouter/free --sonnet anyrouter/free \ --opus anyrouter/free --fable anyrouter/free ``` `anyr claude --dry-run` prints the command and environment it would use, with the key redacted, so you can check the aliases before you start. ## Without the CLI Claude Code reads two environment variables. Create a key in the [dashboard](https://anyrouter.dev/dashboard/keys) (every key starts with `sk-ar-`), then: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude --model anyrouter/free ``` Leave `/v1` off the base URL: Claude Code adds `/v1/messages` itself. Full reference: [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Which free models to try We have not ranked free models for coding, and any ranking would go stale in a week. What we can say is which ones `anyrouter/free` may route to and have at least 128K of context, since Claude Code's own prompt and tool list use a good part of a small window. This table is generated from the catalog when the page is built. | Model | Id | Context | | --- | --- | --- | | [LongCat-2.5](https://anyrouter.dev/model/meituan/longcat-2.5) | `meituan/longcat-2.5` | 1M | | [Beam 1.0](https://anyrouter.dev/model/reflection/beam-1.0) | `reflection/beam-1.0` | 1M | | [Glyph Cluster](https://anyrouter.dev/model/stealth/glyph-cluster) | `stealth/glyph-cluster` | 256K | | [Dots3-Note Preview](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) | `dots-studio/dots-3-note-preview` | 512K | | [Nemotron 3.5 Lightning 30B A3B](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) | `nvidia/nemotron-3.5-lightning-30b-a3b` | 1M | | [Qwen3-8B](https://anyrouter.dev/model/qwen/qwen3-8b) | `qwen/qwen3-8b` | 128K | | [North Mini Code](https://anyrouter.dev/model/cohere/north-mini-code) | `cohere/north-mini-code` | 256K | | [Nemotron 3 Ultra 550B](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) | `nvidia/nemotron-3-ultra-550b-a55b` | 1M | | [GPT-OSS 20B](https://anyrouter.dev/model/openai/gpt-oss-20b) | `openai/gpt-oss-20b` | 131K | | [Qwen 2.5 Coder 32B](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) | `qwen/qwen2.5-coder-32b-instruct` | 131K | Pass any id to `--model` to pin it. The full, current list is at [/free](https://anyrouter.dev/free). To see only models that speak the Messages API Claude Code uses, filter the [model list](https://anyrouter.dev/models?endpoint=messages). ## Limits, stated plainly - Cost: free models bill $0 per token and do not touch your credit balance. Paid models return `402` until you add credits or a plan. - Rate: no daily cap. Free models share 2,400 requests per minute per API key on Go and higher. - Sign-in: a request with no key gets a `401`. Signing up is free. - Quality: these are not Claude. Hard multi-file work is where a free model is most likely to stall or go wrong, so review diffs as you would for any agent. - Availability: free capacity comes from upstream providers and changes. `anyrouter/free` falls back automatically, but a pinned model can be busy or gone. - Settings: if a privacy setting such as Zero Data Retention rules out every free model, you get `400 no_eligible_models`. Pin a model that meets it. - Long runs: for slow models, `export API_TIMEOUT_MS=3000000` raises Claude Code's timeout. The `anyr` launcher already sets it. ## Check it worked Run any prompt, then open your [request logs](https://anyrouter.dev/dashboard/logs). The call shows up a few seconds after the stream closes, with the model that answered, token counts and cost. Free calls show $0. Coming from OpenRouter? The same two-line swap works for any OpenAI-compatible client. See [AnyRouter vs OpenRouter](/blog/anyrouter-vs-openrouter) for a sourced comparison and the migration steps. Free models in Claude Code: two lines, 5 requests free with no card, then Go. [Open the setup page](https://anyrouter.dev/claude-code) --- # 两行命令,用免费模型运行 Claude Code > 安装 anyr CLI,然后运行 anyr claude。Claude Code 可以在 AnyRouter 的免费模型上运行,不需要绑卡。包含完整命令、手动配置、可以试的模型和限制。 - Date: October 16, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/claude-code-free-models ## 两行命令 安装 `anyr` CLI,然后通过它在免费路由上启动 Claude Code: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` 第一次运行会打开浏览器让你登录,创建 key 并保存。之后的运行会直接进入 Claude Code。如果还没装 Claude Code,加上 `--install`,`anyr` 会先帮你安装。需要 AnyRouter 账号,但不需要绑卡。 `anyrouter/free` 会选一个当前健康的免费模型,失败时回退到下一个。同样的两行命令也在 [/claude-code](https://anyrouter.dev/claude-code) 页面上;登录后的版本已填入你自己的 key,在 [/welcome#claude-code](https://anyrouter.dev/welcome#claude-code)。 ## 让后台调用也免费 Claude Code 会把一部分调用发给小型后台模型和子代理。`anyr claude` 默认把它们指向 Claude Haiku,而这个模型只能通过你自己的供应商 key(BYOK)使用。没有 BYOK key 的 Free 账号即使主模型是免费的,这些调用也可能以 `404 model_unavailable` 失败。把所有别名都固定到免费路由即可避免: ```bash anyr claude --model anyrouter/free \ --haiku anyrouter/free --sonnet anyrouter/free \ --opus anyrouter/free --fable anyrouter/free ``` `anyr claude --dry-run` 会打印它将使用的命令和环境变量(key 已打码),方便你在开始前检查这些别名。 ## 不用 CLI Claude Code 读取两个环境变量。先在[控制台](https://anyrouter.dev/dashboard/keys)创建 key(每把 key 都以 `sk-ar-` 开头),然后: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude --model anyrouter/free ``` base URL 不要带 `/v1`:Claude Code 会自己拼上 `/v1/messages`。完整参考:[anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code)。 ## 可以试哪些免费模型 我们没有为编码给免费模型排名,任何排名一周就会过时。我们能说的是:`anyrouter/free` 可能路由到哪些模型,且上下文至少有 128K,因为 Claude Code 自己的提示词和工具列表会占掉小窗口的一大部分。下表在构建页面时从目录生成。 | 模型 | Id | 上下文 | | --- | --- | --- | | [LongCat-2.5](https://anyrouter.dev/model/meituan/longcat-2.5) | `meituan/longcat-2.5` | 1M | | [Beam 1.0](https://anyrouter.dev/model/reflection/beam-1.0) | `reflection/beam-1.0` | 1M | | [Glyph Cluster](https://anyrouter.dev/model/stealth/glyph-cluster) | `stealth/glyph-cluster` | 256K | | [Dots3-Note Preview](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) | `dots-studio/dots-3-note-preview` | 512K | | [Nemotron 3.5 Lightning 30B A3B](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) | `nvidia/nemotron-3.5-lightning-30b-a3b` | 1M | | [Qwen3-8B](https://anyrouter.dev/model/qwen/qwen3-8b) | `qwen/qwen3-8b` | 128K | | [North Mini Code](https://anyrouter.dev/model/cohere/north-mini-code) | `cohere/north-mini-code` | 256K | | [Nemotron 3 Ultra 550B](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) | `nvidia/nemotron-3-ultra-550b-a55b` | 1M | | [GPT-OSS 20B](https://anyrouter.dev/model/openai/gpt-oss-20b) | `openai/gpt-oss-20b` | 131K | | [Qwen 2.5 Coder 32B](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) | `qwen/qwen2.5-coder-32b-instruct` | 131K | 把任意 id 传给 `--model` 即可固定该模型。完整的最新列表在 [/free](https://anyrouter.dev/free)。如果只想看支持 Claude Code 所用 Messages API 的模型,可以筛选[模型列表](https://anyrouter.dev/models?endpoint=messages)。 ## 限制,直说 - 费用:免费模型每个 token 计费 $0,不动用你的额度余额。付费模型在你添加额度或套餐之前会返回 `402`。 - 速率:没有每日上限。Go 及以上套餐的免费模型共享每个 API key 每分钟 2,400 次请求。 - 登录:不带 key 的请求会收到 `401`。注册是免费的。 - 质量:这些不是 Claude。复杂的多文件任务最容易让免费模型卡住或出错,所以像对待任何代理一样审查 diff。 - 可用性:免费容量来自上游供应商,会变化。`anyrouter/free` 会自动回退,但固定的模型可能繁忙或已下线。 - 设置:如果 Zero Data Retention 这类隐私设置排除了所有免费模型,你会收到 `400 no_eligible_models`。固定一个符合该设置的模型。 - 长任务:对于慢速模型,`export API_TIMEOUT_MS=3000000` 可以提高 Claude Code 的超时时间。`anyr` 启动器已经设置了它。 ## 确认生效 运行任意提示词,然后打开你的[请求日志](https://anyrouter.dev/dashboard/logs)。这次调用会在流结束后几秒出现,包含作答的模型、token 数和费用。免费调用显示 $0。 从 OpenRouter 迁移?同样的两行替换适用于任何兼容 OpenAI 的客户端。参见 [AnyRouter 对比 OpenRouter](/blog/zh/anyrouter-vs-openrouter),有带来源的对比和迁移步骤。 在 Claude Code 里用免费模型:两行命令,不需要绑卡。 [打开设置页面](https://anyrouter.dev/claude-code) --- # Chạy Claude Code trên model miễn phí chỉ với hai dòng lệnh > Cài anyr CLI, rồi chạy anyr claude. Claude Code chạy được trên các model miễn phí của AnyRouter: thử 5 request không cần thẻ, sau đó cần Go ($2/tháng, hoặc miễn phí khi góp một key). Lệnh chính xác, cách cài thủ công, model nên thử và các giới hạn. - Date: October 16, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/claude-code-free-models ## Hai dòng lệnh Cài `anyr` CLI, rồi chạy Claude Code qua nó trên router miễn phí: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` Lần chạy đầu tiên mở trình duyệt để bạn đăng nhập, tạo key và lưu lại. Các lần sau vào thẳng Claude Code. Nếu chưa cài Claude Code, thêm `--install` và `anyr` sẽ cài giúp trước. Bạn cần tài khoản AnyRouter; gói Free được thử 5 request, sau đó cần Go. `anyrouter/free` chọn một model miễn phí đang hoạt động tốt và chuyển sang model kế tiếp nếu nó lỗi. Hai dòng lệnh này cũng có trên trang [/claude-code](https://anyrouter.dev/claude-code), còn bản đã đăng nhập, điền sẵn key của bạn, ở [/welcome#claude-code](https://anyrouter.dev/welcome#claude-code). ## Giữ các lệnh gọi nền cũng miễn phí Claude Code gửi một số lệnh gọi tới một model nền nhỏ và tới các subagent. Mặc định `anyr claude` trỏ chúng tới Claude Haiku, và model này chỉ dùng được qua key nhà cung cấp của riêng bạn (BYOK). Tài khoản Free không có key đó có thể gặp lỗi `404 model_unavailable` ở các lệnh này dù model chính miễn phí. Ghim mọi alias vào router miễn phí để tránh điều này: ```bash anyr claude --model anyrouter/free \ --haiku anyrouter/free --sonnet anyrouter/free \ --opus anyrouter/free --fable anyrouter/free ``` `anyr claude --dry-run` in ra lệnh và môi trường nó sẽ dùng, với key được ẩn, để bạn kiểm tra các alias trước khi bắt đầu. ## Không dùng CLI Claude Code đọc hai biến môi trường. Tạo key trong [dashboard](https://anyrouter.dev/dashboard/keys) (mọi key đều bắt đầu bằng `sk-ar-`), rồi: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude --model anyrouter/free ``` Đừng thêm `/v1` vào base URL: Claude Code tự nối `/v1/messages`. Tài liệu đầy đủ: [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Nên thử model miễn phí nào Chúng tôi chưa xếp hạng model miễn phí cho việc lập trình, và mọi bảng xếp hạng sẽ lỗi thời trong một tuần. Điều chúng tôi nói được là những model nào `anyrouter/free` có thể chuyển tới và có ít nhất 128K context, vì prompt và danh sách tool của Claude Code chiếm một phần lớn của một cửa sổ nhỏ. Bảng này được tạo từ catalog khi trang được build. | Model | Id | Context | | --- | --- | --- | | [LongCat-2.5](https://anyrouter.dev/model/meituan/longcat-2.5) | `meituan/longcat-2.5` | 1M | | [Beam 1.0](https://anyrouter.dev/model/reflection/beam-1.0) | `reflection/beam-1.0` | 1M | | [Glyph Cluster](https://anyrouter.dev/model/stealth/glyph-cluster) | `stealth/glyph-cluster` | 256K | | [Dots3-Note Preview](https://anyrouter.dev/model/dots-studio/dots-3-note-preview) | `dots-studio/dots-3-note-preview` | 512K | | [Nemotron 3.5 Lightning 30B A3B](https://anyrouter.dev/model/nvidia/nemotron-3.5-lightning-30b-a3b) | `nvidia/nemotron-3.5-lightning-30b-a3b` | 1M | | [Qwen3-8B](https://anyrouter.dev/model/qwen/qwen3-8b) | `qwen/qwen3-8b` | 128K | | [North Mini Code](https://anyrouter.dev/model/cohere/north-mini-code) | `cohere/north-mini-code` | 256K | | [Nemotron 3 Ultra 550B](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) | `nvidia/nemotron-3-ultra-550b-a55b` | 1M | | [GPT-OSS 20B](https://anyrouter.dev/model/openai/gpt-oss-20b) | `openai/gpt-oss-20b` | 131K | | [Qwen 2.5 Coder 32B](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) | `qwen/qwen2.5-coder-32b-instruct` | 131K | Truyền bất kỳ id nào vào `--model` để ghim model đó. Danh sách đầy đủ, mới nhất ở [/free](https://anyrouter.dev/free). Để chỉ xem các model nói được Messages API mà Claude Code dùng, hãy lọc [danh sách model](https://anyrouter.dev/models?endpoint=messages). ## Các giới hạn, nói thẳng - Chi phí: model miễn phí tính $0 cho mỗi token và không động tới số dư credit. Model trả phí trả về `402` cho tới khi bạn thêm credit hoặc gói. - Tốc độ: không giới hạn theo ngày. Model miễn phí dùng chung 2,400 request mỗi phút cho mỗi API key từ gói Go trở lên. - Đăng nhập: request không có key nhận `401`. Đăng ký là miễn phí. - Chất lượng: đây không phải Claude. Công việc khó nhiều file là nơi model miễn phí dễ bị kẹt hoặc sai nhất, nên hãy xem lại diff như với bất kỳ agent nào. - Khả dụng: dung lượng miễn phí đến từ các nhà cung cấp upstream và thay đổi theo thời gian. `anyrouter/free` tự chuyển sang model khác, nhưng một model được ghim có thể bận hoặc đã biến mất. - Cài đặt: nếu một cài đặt riêng tư như Zero Data Retention loại bỏ mọi model miễn phí, bạn nhận `400 no_eligible_models`. Hãy ghim một model đáp ứng cài đặt đó. - Chạy lâu: với model chậm, `export API_TIMEOUT_MS=3000000` nâng timeout của Claude Code. Trình khởi chạy `anyr` đã đặt sẵn giá trị này. ## Kiểm tra đã chạy được chưa Chạy một prompt bất kỳ, rồi mở [request logs](https://anyrouter.dev/dashboard/logs). Lệnh gọi hiện ra vài giây sau khi stream kết thúc, kèm model đã trả lời, số token và chi phí. Lệnh gọi miễn phí hiển thị $0. Đang chuyển từ OpenRouter? Cách đổi hai dòng tương tự hoạt động với mọi client tương thích OpenAI. Xem [AnyRouter vs OpenRouter](/blog/vi/anyrouter-vs-openrouter) để có bản so sánh có nguồn và các bước chuyển. Model miễn phí trong Claude Code: hai dòng lệnh, thử 5 request không cần thẻ, sau đó cần Go. [Mở trang cài đặt](https://anyrouter.dev/claude-code) --- # Free tokens from a pool of idle keys > Got an OpenRouter, NVIDIA or other provider key that sits idle? Donate it to the AnyRouter Pool. Members run free models through the shared keys at $0, and you get Go and credits back. Here is how a request moves through the pool, how your key is kept safe, what the limits are, and how to donate in a minute. - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/donate-idle-keys-to-the-pool ## Free models, funded by spare keys Plenty of provider keys sit idle. A free OpenRouter key you rarely hit. An NVIDIA NIM key with room to spare. The AnyRouter Pool puts that spare room to work. Members donate a key. Everyone in the pool runs free models through the shared keys at $0. This post is the how-to. For the full announcement, read [Introducing the AnyRouter Pool](https://anyrouter.dev/blog/anyrouter-pool). _(Interactive embed `pool-flow` — see the [HTML version](https://anyrouter.dev/blog).)_ ## Is it unlimited? No, and we will not say it is. Here is what is true. - Free models through the pool cost you $0. Paid models served by a donated key are billed at the donor's price, from $0 up to 10% over the provider's list price. - Every API key has a fair-use rate limit, so a burst of requests can be slowed down. - Every donated key has its own provider limits. A busy or empty key is skipped, so the pool is big but it is not endless. - The pool is for members. You need a paid plan or one active donated key. A Free-plan member who calls a model marked Free via Pool gets a message that explains both ways in. See which models are free on the [free models list](https://anyrouter.dev/models?free=true). Check the label before you plan around one. ## What happens to a request 1. You send a request to AnyRouter, like any other. 2. AnyRouter finds the routes that can serve the model. Donated keys are among them if you are allowed to use the pool. 3. It picks a key that is ready, favoring one that has been idle longest. You are never handed your own donated key. 4. The key's provider answers, and you see the answer. You pay $0 for a free model. 5. If a key is rate limited, out of credit or failing, AnyRouter moves on to the next route. You usually see one answer and no error. ## What a donor gets back - Go, free. One working donated key gives you the Go plan. If your last key stops working, Go pauses and you get an email. - Credits. Each request your key serves adds 5% of its token cost to your pending credits, or 8% on Pro, Pro+, Max and Enterprise. The cap is $1 per key per day. - Your own requests come first. Your key still works for you as a normal BYOK key. ## How your key stays safe Your key is encrypted with its own random salt before it is stored. After you save it, you only see a masked alias, never the key. It is redacted from our logs. It is sent only to the provider it belongs to. Other members never see it, and they never see which donor served them. Be clear on one thing. The pool sends other members' requests through your provider account, so the usage shows up in your provider's console, under your provider's terms. Check that your provider allows sharing a key. Donate a key you can spare, and set a spend limit on it at your provider if it has one. If a key runs out of credit or fails three times in a row, it pauses by itself. You can take it out any time, and it leaves the pool right away. Zero data retention is respected: with it on, a donated key only serves routes that declare it. The [security post](https://anyrouter.dev/blog/how-we-protect-your-provider-keys) goes deeper. ## How to donate, step by step 1. Pick a key you can spare, such as a free OpenRouter or NVIDIA key. The [NVIDIA key guide](https://anyrouter.dev/blog/nvidia-free-key-setup) shows how to get one. 2. Sign in and open [Dashboard, BYOK](https://anyrouter.dev/dashboard/byok). Add the key. AnyRouter checks that it works. 3. Turn on Donate to pool for that key and confirm the one-time consent. 4. Choose free coverage, or paid coverage with your own prices. 5. Watch requests and credits on the key. Turn the switch off whenever you want. More detail is in the [shared pool guide](https://anyrouter.dev/docs/features/shared-pool) and the [walkthrough](https://anyrouter.dev/blog/shared-key-pool). Ready? Donate an idle key and see the pool at work. [Donate a key](https://anyrouter.dev/pool) --- # 用闲置 Key 池换免费 Token > 手里有闲置的 OpenRouter、NVIDIA 或其他供应商 Key?捐给 AnyRouter Pool。成员通过共享 Key 以 $0 使用免费模型,你则获得 Go 和积分。本文说明请求如何经过 Pool、Key 如何保护、有哪些限制,以及一分钟内如何捐 Key。 - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/donate-idle-keys-to-the-pool ## 免费模型,由闲置 Key 供养 很多供应商 Key 都闲着。一把你很少用到的免费 OpenRouter Key,一把还有余量的 NVIDIA NIM Key。AnyRouter Pool 让这些余量派上用场。成员捐出 Key,Pool 里的每个人都能通过共享 Key 以 $0 使用免费模型。 本文是操作指南。完整介绍请看 [AnyRouter Pool 上线](https://anyrouter.dev/blog/zh/anyrouter-pool)。 _(Interactive embed `pool-flow-zh` — see the [HTML version](https://anyrouter.dev/blog).)_ ## 它是无限的吗? 不是,我们也不会这么说。以下是实情。 - 通过 Pool 使用免费模型,你付 $0。由捐赠 Key 提供的付费模型,按捐赠者定的价格计费,从 $0 到供应商标价上浮 10%。 - 每个 API Key 都有公平使用的速率限制,突发请求可能被放慢。 - 每个捐赠的 Key 都有供应商自己的限制。繁忙或已用尽的 Key 会被跳过,所以 Pool 很大,但不是无穷无尽。 - Pool 面向成员。你需要付费套餐或一个有效的捐赠 Key。免费套餐成员调用标有 Free via Pool 的模型时,会收到说明两种解锁方式的提示。 在[免费模型列表](https://anyrouter.dev/models?free=true)查看哪些模型免费。规划前先看清标签。 ## 一个请求会发生什么 1. 你像平常一样向 AnyRouter 发送请求。 2. AnyRouter 找出能服务该模型的路由。如果你有权使用 Pool,捐赠的 Key 就在其中。 3. 它挑一把就绪的 Key,优先选闲置最久的。不会把你自己捐的 Key 分给你。 4. Key 所属的供应商回答,你收到答案。免费模型你付 $0。 5. 如果某把 Key 被限流、额度用尽或出错,AnyRouter 会换下一条路由。你通常只会看到一个答案,没有错误。 ## 捐赠者能得到什么 - 免费的 Go。一个可用的捐赠 Key 就能让你获得 Go 套餐。如果最后一把 Key 失效,Go 会暂停,你会收到邮件。 - 积分。你的 Key 每处理一个请求,就为你的待领积分增加其 Token 成本的 5%,Pro、Pro+、Max 和 Enterprise 为 8%。每把 Key 每天上限 $1。 - 你自己的请求优先。你的 Key 仍可作为普通 BYOK Key 为你服务。 ## 你的 Key 如何保持安全 Key 在存储前用独立的随机盐加密。保存后你只会看到打码的别名,永远看不到 Key 本身。我们的日志会对它打码。它只会发送给所属的供应商。其他成员看不到它,也看不到是哪位捐赠者为他们服务。 有一点要说清楚。Pool 会把其他成员的请求经由你的供应商账号发出,所以用量会出现在你供应商的控制台里,适用你供应商的条款。请确认你的供应商允许共享 Key。捐出你用不上的 Key,如果供应商支持,请先给它设置消费上限。 如果 Key 额度用尽或连续失败三次,它会自动暂停。你随时可以把它撤出,它会立即离开 Pool。零数据留存会被遵守:开启后,捐赠的 Key 只服务声明零数据留存的路由。[安全文章](https://anyrouter.dev/blog/zh/how-we-protect-your-provider-keys)有更多细节。 ## 如何捐 Key,一步步来 1. 挑一把你用不上的 Key,例如免费的 OpenRouter 或 NVIDIA Key。[NVIDIA Key 指南](https://anyrouter.dev/blog/zh/nvidia-free-key-setup)说明如何获取。 2. 登录并打开[控制台 BYOK](https://anyrouter.dev/dashboard/byok)。添加 Key,AnyRouter 会检查它是否可用。 3. 为该 Key 打开 Donate to pool,并确认一次性同意书。 4. 选择免费覆盖,或自行定价的付费覆盖。 5. 在该 Key 上查看请求和积分。想停就关掉开关。 更多细节见[共享 Pool 指南](https://anyrouter.dev/docs/features/shared-pool)和[操作演示](https://anyrouter.dev/blog/zh/shared-key-pool)。 准备好了吗?捐出一把闲置 Key,看看 Pool 如何运转。 [捐一把 Key](https://anyrouter.dev/pool) --- # Token miễn phí từ kho key nhàn rỗi > Có key OpenRouter, NVIDIA hay nhà cung cấp khác đang để không? Hãy tặng nó cho AnyRouter Pool. Thành viên chạy model miễn phí qua các key chung với giá $0, còn bạn nhận lại Go và credit. Bài này nói về đường đi của một yêu cầu qua Pool, cách key được bảo vệ, các giới hạn, và cách tặng key trong một phút. - Date: October 21, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/donate-idle-keys-to-the-pool ## Model miễn phí, nuôi bằng key nhàn rỗi Rất nhiều key của nhà cung cấp nằm không. Một key OpenRouter miễn phí bạn ít khi dùng hết. Một key NVIDIA NIM còn dư. AnyRouter Pool tận dụng phần dư đó. Thành viên tặng key, và mọi người trong Pool chạy model miễn phí qua các key chung với giá $0. Bài này là hướng dẫn. Bản giới thiệu đầy đủ ở [Giới thiệu AnyRouter Pool](https://anyrouter.dev/blog/vi/anyrouter-pool). _(Interactive embed `pool-flow-vi` — see the [HTML version](https://anyrouter.dev/blog).)_ ## Có phải không giới hạn? Không, và chúng tôi sẽ không nói vậy. Đây là điều đúng. - Model miễn phí qua Pool có giá $0 với bạn. Model trả phí do key được tặng phục vụ tính theo giá người tặng đặt, từ $0 đến cao hơn giá niêm yết của nhà cung cấp 10%. - Mỗi API key có giới hạn tốc độ sử dụng hợp lý, nên một đợt yêu cầu dồn dập có thể bị làm chậm. - Mỗi key được tặng có giới hạn riêng của nhà cung cấp. Key bận hoặc hết hạn mức sẽ bị bỏ qua, nên Pool lớn nhưng không vô tận. - Pool dành cho thành viên. Bạn cần gói trả phí hoặc một key đang hoạt động đã tặng. Thành viên gói Free gọi model có nhãn Free via Pool sẽ nhận thông báo giải thích cả hai cách mở khóa. Xem model nào miễn phí ở [danh sách model miễn phí](https://anyrouter.dev/models?free=true). Hãy đọc nhãn trước khi lên kế hoạch. ## Chuyện gì xảy ra với một yêu cầu 1. Bạn gửi yêu cầu tới AnyRouter như bình thường. 2. AnyRouter tìm các tuyến phục vụ được model. Key được tặng nằm trong đó nếu bạn được dùng Pool. 3. Nó chọn một key sẵn sàng, ưu tiên key nhàn rỗi lâu nhất. Bạn không bao giờ được giao key do chính mình tặng. 4. Nhà cung cấp của key trả lời, và bạn nhận câu trả lời. Với model miễn phí, bạn trả $0. 5. Nếu key bị giới hạn tốc độ, hết hạn mức hoặc lỗi, AnyRouter chuyển sang tuyến kế tiếp. Thường bạn chỉ thấy một câu trả lời, không có lỗi. ## Người tặng nhận lại gì - Go miễn phí. Một key dùng được đã tặng giúp bạn có gói Go. Nếu key cuối cùng ngừng hoạt động, Go tạm dừng và bạn nhận email. - Credit. Mỗi yêu cầu key của bạn phục vụ cộng 5% chi phí token vào credit chờ nhận, hoặc 8% với Pro, Pro+, Max và Enterprise. Trần là $1 mỗi key mỗi ngày. - Yêu cầu của bạn được ưu tiên. Key vẫn dùng cho bạn như một key BYOK bình thường. ## Key của bạn được giữ an toàn thế nào Key được mã hóa với salt ngẫu nhiên riêng trước khi lưu. Sau khi lưu, bạn chỉ thấy bí danh đã che, không bao giờ thấy key. Key được che khỏi log của chúng tôi. Nó chỉ được gửi tới nhà cung cấp của nó. Thành viên khác không thấy key, và cũng không biết người tặng nào đã phục vụ họ. Có một điều cần nói rõ. Pool gửi yêu cầu của thành viên khác qua tài khoản nhà cung cấp của bạn, nên lượng dùng hiện trong trang điều khiển của nhà cung cấp, theo điều khoản của họ. Hãy kiểm tra nhà cung cấp có cho phép chia sẻ key không. Chỉ tặng key bạn dư, và đặt giới hạn chi tiêu cho nó ở nhà cung cấp nếu có. Nếu key hết hạn mức hoặc lỗi ba lần liên tiếp, nó tự tạm dừng. Bạn có thể rút key bất cứ lúc nào và nó rời Pool ngay. Zero data retention được tôn trọng: khi bật, key được tặng chỉ phục vụ các tuyến khai báo zero data retention. [Bài về bảo mật](https://anyrouter.dev/blog/vi/how-we-protect-your-provider-keys) nói sâu hơn. ## Cách tặng key, từng bước 1. Chọn một key bạn dư, như key OpenRouter hoặc NVIDIA miễn phí. [Hướng dẫn key NVIDIA](https://anyrouter.dev/blog/vi/nvidia-free-key-setup) chỉ cách lấy. 2. Đăng nhập và mở [Dashboard, BYOK](https://anyrouter.dev/dashboard/byok). Thêm key. AnyRouter kiểm tra key dùng được. 3. Bật Donate to pool cho key đó và xác nhận đồng ý một lần. 4. Chọn phạm vi miễn phí, hoặc phạm vi trả phí với giá do bạn đặt. 5. Theo dõi yêu cầu và credit trên key. Tắt công tắc bất cứ lúc nào. Chi tiết hơn ở [hướng dẫn shared pool](https://anyrouter.dev/docs/features/shared-pool) và [bài hướng dẫn từng bước](https://anyrouter.dev/blog/vi/shared-key-pool). Sẵn sàng chưa? Tặng một key nhàn rỗi và xem Pool hoạt động. [Tặng một key](https://anyrouter.dev/pool) --- # Introducing the AnyRouter Pool > The AnyRouter Pool is a set of provider keys that members donate and the gateway shares, so free models keep answering for paid-plan members and donors when a single key runs dry. Here is who can donate, how a key is protected, how requests are spread across keys, what happens when a key fails, and how to stop. - Date: October 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/anyrouter-pool ## What the pool is Free models run on someone's quota. When that quota is one provider key, a burst of traffic ends in 429 errors and the model looks broken. The AnyRouter Pool spreads that load. Members donate spare provider keys, and the gateway sends matching requests through whichever donated key is ready. A donated key keeps belonging to its owner. You flip a switch on a key you already added under BYOK, and you can flip it back at any time. In return, every request your key serves adds to a pending credit balance. The rate is 5% of the request's notional token cost, or 8% on Pro, Pro+, Max and Enterprise, capped at $1 per key per UTC day. Donors who price a paid model themselves receive what the caller paid minus a 10% platform fee instead. ## Who can donate, and how Any signed-in member can donate a key for a provider AnyRouter can route to. Claude on Bedrock, Vertex and Foundry is the exception, because those credentials open a whole cloud account rather than one inference key. 1. Open [Dashboard, BYOK](https://anyrouter.dev/dashboard/byok) and add the provider key. AnyRouter checks it against the provider first. 2. Turn on Donate to pool for that key and confirm the one-time consent. The text says other members' requests will use your key, that usage appears on your provider account, and that you are responsible for your provider's terms. 3. Choose the coverage. Free coverage serves only free models. Paid coverage also serves paid models at prices you set, from $0 up to 10% over the provider's list price. The live [pool page](https://anyrouter.dev/pool) shows aggregate activity. The step-by-step version is in the [shared pool guide](https://anyrouter.dev/docs/features/shared-pool). ## Who can draw from it The pool runs on reciprocity. A member can use it with at least one active donated key, or on a paid plan: Go, Pro, Pro+, Max or Enterprise. Decisions models are the exception, because they are free to every signed-in member. Models marked Free via Pool in the catalog are served by donated keys, and they need Go or a donated key of your own. A Free-plan member who calls one gets a message that offers both ways to unlock it, either subscribe to Go or donate a key. Free models that do not say via Pool run through AnyRouter's own routes and stay open to everyone. The [free models list](https://anyrouter.dev/models?free=true) shows both kinds, so check the label before you plan around a model, and see [Pricing](https://anyrouter.dev/pricing) for plan details. ## How a donated key is protected Your key is encrypted before it is stored, with a separate random salt for each key, and the encryption is tied to your workspace so a copied value cannot be decrypted as someone else's key. The secret that unlocks it sits in the platform's secret store, not in the database. After you save, the dashboard shows an alias and a masked identifier, never the key. Server logs mask credential fields, and your key goes only to the provider it belongs to. | Who | What they can see | | --- | --- | | You, the donor | Totals for requests served, tokens and credits earned. In AnyRouter you never see the prompts or who sent them. | | Members using the pool | The answer, like any other request. AnyRouter does not show them which donor served it. | | Anyone on the pool page | Aggregate activity only. No keys, no members, no request contents. | | Your provider | The requests, as usage on your account. Its own terms and logging apply. | ## How requests are routed and spread When a request qualifies, the gateway adds donated keys to the list of routes it can try. It picks the key that has been idle the longest, with some randomness among the less recently used keys so that a burst of simultaneous requests does not pile onto one key. The pool never hands you your own donated key. Your key still serves you as a normal BYOK key. A free-coverage key serves only free models. A paid model needs a key donated with paid coverage. If no donated key can serve a request, the gateway moves to the next route and the caller sees one response. ## When a key fails or runs out A donated key leaves the pool when it stops being healthy, and the cause decides how it comes back. | What happened | What the pool does | | --- | --- | | Three failures in a row, such as rejected credentials or provider errors | Pauses the key. A later health check resumes it once it passes. | | Three rate-limit errors in a row | Pauses the key. A daily check turns it back on. | | Out of credit at the provider | Pauses on the first failure. You top up, then resume or donate again. | | A spend limit on the key itself (OpenRouter) | Pauses on the first failure, and you raise the limit before resuming. | | The $1 daily reward cap is reached | Pauses until the next UTC day. | OpenRouter keys with a zero balance are the one case that keeps serving, because free models there cost nothing. If your only donated key pauses, Go that came from donating pauses with it, this month's $4 credit is clawed back, and you get an email. Donate a working key again in the same month and the unspent remainder, $4 minus what you already used, is restored. ## Privacy and zero data retention Zero data retention is the one privacy routing setting. It is off by default, so a pooled request can reach a host that keeps or trains on prompts. Turn on Always enforce ZDR in [Privacy settings](https://anyrouter.dev/docs/features/privacy-controls) and a donated key serves your request only on routes that declare zero data retention. A donated Vercel key never carries ZDR traffic. If you donate, remember that the prompts of other members pass through your provider account. Read your provider's data and sharing terms before you switch it on. ## Stopping at any time Turn off Donate to pool on the key. It leaves the pool right away and serves only your own requests again. You can turn it back on later. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` _A free model through the gateway. Same URL for every member._ Donate an idle provider key from the pool page. [Open the pool](https://anyrouter.dev/pool) --- # AnyRouter Pool 上线 > AnyRouter Pool 是成员捐出、由网关共用的一批供应商 Key,让付费套餐成员和捐赠者的免费模型在单个 Key 配额用完时仍能回答。本文说明谁能捐、Key 如何受保护、请求怎样分配、Key 出错或用尽时会怎样,以及如何随时停止。 - Date: October 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/anyrouter-pool ## Pool 是什么 免费模型跑在某人的配额上。当这份配额只是一把供应商 Key,流量一突发就会 429,模型看起来像坏了。AnyRouter Pool 把这份负载分摊出去。成员捐出闲置的供应商 Key,网关把匹配的请求送到当下可用的捐赠 Key 上。 捐出的 Key 仍属于它的主人。你在已添加到 BYOK 的 Key 上打开一个开关,随时可以关回去。作为回报,Key 每处理一次请求,就会往待领额度里加一笔。比例是该请求名义 token 成本的 5%,Pro、Pro+、Max 和 Enterprise 为 8%,每把 Key 每个 UTC 日上限 $1。为付费模型自己定价的捐赠者,改为获得调用方实际支付金额扣除 10% 平台费后的部分。 ## 谁能捐,怎么捐 任何已登录成员都可以捐 AnyRouter 能路由的供应商 Key。Bedrock、Vertex 和 Foundry 上的 Claude 除外,因为这些凭据打开的是整个云账号,而不是一把推理 Key。 1. 打开 [Dashboard,BYOK](https://anyrouter.dev/dashboard/byok) 并添加供应商 Key。AnyRouter 会先向供应商验证。 2. 为这把 Key 打开 Donate to pool,并确认一次同意。文本说明其他成员的请求会使用你的 Key,用量会出现在你的供应商账号上,你需自行遵守供应商条款。 3. 选择覆盖范围。Free 只服务免费模型。Paid 还会按你设定的价格服务付费模型,价格从 $0 到高出供应商标价最多 10%。 [Pool 页面](https://anyrouter.dev/pool)显示汇总活动。分步说明见[共享池指南](https://anyrouter.dev/docs/features/shared-pool)。 ## 谁能使用 Pool Pool 遵循互惠原则。成员至少有一把在捐状态的 Key,或使用付费套餐 Go、Pro、Pro+、Max、Enterprise,即可使用。Decisions 模型例外,它们对所有已登录成员免费。 目录中标有 Free via Pool 的模型由捐出的 Key 提供服务,需要 Go 或你自己捐出的一把 Key。Free 套餐成员调用它们时会收到一条提示,列出两种解锁方式,订阅 Go 或捐一把 Key。没有标 via Pool 的免费模型走 AnyRouter 自己的路由,对所有人开放。[免费模型列表](https://anyrouter.dev/models?free=true)同时包含两类,所以在依赖某个模型前请先看标签,套餐详情见 [Pricing](https://anyrouter.dev/pricing)。 ## 捐出的 Key 如何受保护 你的 Key 在存储前先加密,每把 Key 使用各自独立的随机盐,并且加密与你的工作区绑定,复制出来的密文无法被当作别人的 Key 解密。解锁用的密钥放在平台的密钥库里,不在数据库中。保存后,Dashboard 只显示别名和打码标识,从不显示 Key。服务器日志会遮蔽凭据字段,Key 只会发往它所属的供应商。 | 谁 | 能看到什么 | | --- | --- | | 你,捐赠者 | 已处理请求数、token 数和已获额度的汇总。在 AnyRouter 里看不到提示词或发送者。 | | 使用 Pool 的成员 | 答案,与其他请求一样。AnyRouter 不会告诉他们是哪位捐赠者提供的服务。 | | 查看 Pool 页面的人 | 只有汇总活动。没有 Key、没有成员、没有请求内容。 | | 你的供应商 | 这些请求,作为你账号上的用量。其自身条款和日志规则适用。 | ## 请求如何路由和分摊 请求符合条件时,网关会把捐赠 Key 加入可尝试的路由列表。它挑选闲置最久的 Key,并在最近较少使用的 Key 之间加一点随机,避免同时到来的一批请求挤到同一把 Key 上。Pool 不会把你自己捐出的 Key 分给你。你的 Key 仍然作为普通 BYOK Key 为你服务。 Free 范围的 Key 只服务免费模型。付费模型需要以 Paid 范围捐出的 Key。若没有任何捐赠 Key 能服务,网关会转到下一条路由,调用方只看到一次响应。 ## Key 出错或用尽时 捐赠 Key 不再健康时会退出 Pool,原因决定它如何回来。 | 发生了什么 | Pool 怎么做 | | --- | --- | | 连续三次失败,例如凭据被拒绝或供应商出错 | 暂停 Key。之后的健康检查通过即恢复。 | | 连续三次限流错误 | 暂停 Key。每日检查会重新启用。 | | 供应商处额度用尽 | 第一次失败即暂停。你充值后恢复或重新捐赠。 | | Key 自身的支出上限(OpenRouter) | 第一次失败即暂停,需先提高上限再恢复。 | | 达到每日 $1 奖励上限 | 暂停到下一个 UTC 日。 | 余额为零的 OpenRouter Key 是唯一仍继续服务的情况,因为那里的免费模型不花钱。若你唯一捐出的 Key 被暂停,因捐 Key 获得的 Go 也会随之暂停,本月的 $4 额度会被收回,并且你会收到邮件。同一个月内重新捐一把可用的 Key,未用完的部分($4 减去已用的)会恢复。 ## 隐私与零数据留存 零数据留存是唯一的隐私路由设置。它默认关闭,所以经 Pool 的请求可能到达会保留或用提示词训练的主机。在[隐私设置](https://anyrouter.dev/docs/features/privacy-controls)里打开 Always enforce ZDR,捐出的 Key 就只在声明零数据留存的路由上处理你的请求。捐出的 Vercel Key 从不承载 ZDR 流量。 如果你要捐 Key,请记住其他成员的提示词会经过你的供应商账号。打开开关前,先阅读供应商的数据与共享条款。 ## 随时停止 关闭该 Key 上的 Donate to pool。Key 立即退出 Pool,只处理你自己的请求。之后可以再打开。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` _通过网关调用免费模型。所有成员使用同一个 URL。_ 从 Pool 页面捐出一把闲置的供应商 Key。 [打开 Pool](https://anyrouter.dev/pool) --- # Giới thiệu AnyRouter Pool > AnyRouter Pool là tập hợp key nhà cung cấp do thành viên góp và gateway dùng chung, để model miễn phí vẫn trả lời cho thành viên gói trả phí và người góp key khi một key cạn quota. Bài này nói ai được góp key, key được bảo vệ ra sao, request được chia thế nào, chuyện gì xảy ra khi key lỗi, và cách dừng. - Date: October 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/anyrouter-pool ## Pool là gì Model miễn phí chạy trên quota của ai đó. Khi quota đó là một key nhà cung cấp, một đợt traffic đột biến kết thúc bằng lỗi 429 và model trông như hỏng. AnyRouter Pool chia tải đó ra. Thành viên góp key nhà cung cấp đang dư, và gateway gửi các request phù hợp qua key được góp nào đang sẵn sàng. Key được góp vẫn thuộc về chủ của nó. Bạn bật một công tắc trên key đã thêm ở BYOK, và tắt lại bất cứ lúc nào. Đổi lại, mỗi request key của bạn phục vụ cộng thêm vào số dư credit đang chờ. Tỷ lệ là 5% chi phí token danh nghĩa của request, hoặc 8% với Pro, Pro+, Max và Enterprise, giới hạn $1 mỗi key mỗi ngày UTC. Người góp tự đặt giá cho model trả phí sẽ nhận số tiền người gọi đã trả trừ 10% phí nền tảng. ## Ai góp được, và góp thế nào Mọi thành viên đã đăng nhập đều góp được key của nhà cung cấp mà AnyRouter route tới. Claude trên Bedrock, Vertex và Foundry là ngoại lệ, vì các thông tin xác thực đó mở cả tài khoản cloud chứ không chỉ một key suy luận. 1. Mở [Dashboard, BYOK](https://anyrouter.dev/dashboard/byok) và thêm key nhà cung cấp. AnyRouter kiểm tra key với nhà cung cấp trước. 2. Bật Donate to pool cho key đó và xác nhận đồng ý một lần. Nội dung nói rằng request của thành viên khác sẽ dùng key của bạn, mức dùng hiện trên tài khoản nhà cung cấp của bạn, và bạn tự chịu trách nhiệm về điều khoản của nhà cung cấp. 3. Chọn phạm vi. Free chỉ phục vụ model miễn phí. Paid phục vụ cả model trả phí với giá bạn đặt, từ $0 đến cao hơn giá niêm yết của nhà cung cấp tối đa 10%. [Trang pool](https://anyrouter.dev/pool) cho thấy hoạt động tổng hợp. Hướng dẫn từng bước nằm trong [hướng dẫn shared pool](https://anyrouter.dev/docs/features/shared-pool). ## Ai được dùng pool Pool chạy theo nguyên tắc có đi có lại. Thành viên dùng được pool khi có ít nhất một key đang góp, hoặc dùng gói trả phí: Go, Pro, Pro+, Max hay Enterprise. Model Decisions là ngoại lệ, vì chúng miễn phí cho mọi thành viên đã đăng nhập. Model ghi Free via Pool trong catalog do key được góp phục vụ, và cần Go hoặc một key bạn đã góp. Thành viên gói Free gọi chúng sẽ nhận thông báo nêu cả hai cách mở khóa, đăng ký Go hoặc góp một key. Model miễn phí không ghi via Pool chạy qua các route riêng của AnyRouter và vẫn mở cho mọi người. [Danh sách model miễn phí](https://anyrouter.dev/models?free=true) có cả hai loại, nên hãy xem nhãn trước khi dựa vào một model, và xem [Pricing](https://anyrouter.dev/pricing) để biết chi tiết gói. ## Key được góp được bảo vệ thế nào Key của bạn được mã hóa trước khi lưu, mỗi key một salt ngẫu nhiên riêng, và phép mã hóa gắn với workspace của bạn nên giá trị bị sao chép không giải mã được thành key của người khác. Bí mật dùng để mở khóa nằm trong kho bí mật của nền tảng, không nằm trong cơ sở dữ liệu. Sau khi lưu, dashboard chỉ hiện bí danh và mã định danh đã che, không bao giờ hiện key. Log máy chủ che các trường thông tin xác thực, và key chỉ đi tới nhà cung cấp mà nó thuộc về. | Ai | Họ thấy gì | | --- | --- | | Bạn, người góp | Tổng số request đã phục vụ, token và credit kiếm được. Trong AnyRouter bạn không thấy prompt hay người gửi. | | Thành viên dùng pool | Câu trả lời, như mọi request khác. AnyRouter không cho họ biết người góp nào đã phục vụ. | | Người xem trang pool | Chỉ hoạt động tổng hợp. Không có key, không có thành viên, không có nội dung request. | | Nhà cung cấp của bạn | Các request, dưới dạng mức dùng trên tài khoản của bạn. Điều khoản và log của họ áp dụng. | ## Request được route và chia thế nào Khi một request đủ điều kiện, gateway thêm các key được góp vào danh sách route có thể thử. Nó chọn key đã nhàn rỗi lâu nhất, có thêm chút ngẫu nhiên trong nhóm key ít dùng gần đây để một loạt request đồng thời không dồn vào một key. Pool không bao giờ giao cho bạn chính key bạn đã góp. Key của bạn vẫn phục vụ bạn như một key BYOK bình thường. Key phạm vi Free chỉ phục vụ model miễn phí. Model trả phí cần key được góp với phạm vi Paid. Nếu không key nào phục vụ được, gateway chuyển sang route kế tiếp và người gọi chỉ thấy một phản hồi. ## Khi key lỗi hoặc hết quota Key được góp rời pool khi không còn khỏe, và nguyên nhân quyết định cách nó quay lại. | Chuyện gì xảy ra | Pool làm gì | | --- | --- | | Lỗi ba lần liên tiếp, như bị từ chối xác thực hoặc lỗi từ nhà cung cấp | Tạm dừng key. Lần kiểm tra sức khỏe sau đó bật lại khi key đạt. | | Ba lỗi giới hạn tốc độ liên tiếp | Tạm dừng key. Một lần kiểm tra hằng ngày bật lại. | | Hết credit ở nhà cung cấp | Tạm dừng ngay lần lỗi đầu. Bạn nạp thêm rồi bật lại hoặc góp lại. | | Giới hạn chi tiêu trên chính key (OpenRouter) | Tạm dừng ngay lần lỗi đầu, bạn nâng giới hạn rồi mới bật lại. | | Chạm mức thưởng $1 mỗi ngày | Tạm dừng đến ngày UTC kế tiếp. | Key OpenRouter có số dư bằng không là trường hợp duy nhất vẫn tiếp tục phục vụ, vì model miễn phí ở đó không tốn gì. Nếu key góp duy nhất của bạn bị dừng, Go có được nhờ góp key cũng tạm dừng theo, $4 credit của tháng này bị thu hồi, và bạn nhận email. Góp lại một key hoạt động trong cùng tháng, phần chưa dùng, tức $4 trừ đi số bạn đã dùng, sẽ được khôi phục. ## Quyền riêng tư và zero data retention Zero data retention là thiết lập định tuyến riêng tư duy nhất. Mặc định nó tắt, nên request qua pool có thể tới host lưu hoặc huấn luyện trên prompt. Bật Always enforce ZDR trong [cài đặt Quyền riêng tư](https://anyrouter.dev/docs/features/privacy-controls) và key được góp chỉ phục vụ request của bạn trên các route tuyên bố zero data retention. Key Vercel được góp không bao giờ mang traffic ZDR. Nếu bạn góp key, hãy nhớ prompt của thành viên khác đi qua tài khoản nhà cung cấp của bạn. Đọc điều khoản dữ liệu và chia sẻ của nhà cung cấp trước khi bật. ## Dừng bất cứ lúc nào Tắt Donate to pool trên key. Key rời pool ngay và chỉ phục vụ request của bạn. Bạn có thể bật lại sau. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` _Một model miễn phí qua gateway. Cùng một URL cho mọi thành viên._ Góp một key nhà cung cấp đang nhàn rỗi từ trang pool. [Mở pool](https://anyrouter.dev/pool) --- # How we protect your provider keys > How AnyRouter stores and uses the provider keys you add (BYOK) and the keys donated to the Pool: encryption at rest, who can read them, where they can be sent, what stays out of logs, and how to revoke one. - Date: October 19, 2026 - Category: product - HTML: https://anyrouter.dev/blog/how-we-protect-your-provider-keys ## The short version A provider key you add is encrypted before it is written to our database. The dashboard and the API show only a masked preview, never the key. The key is decrypted in memory when a request has to be sent to the provider you added it for, and it goes to that provider's address and nowhere else. AnyRouter has to use your key to send requests for you, so our servers can decrypt it at that moment. This post says what limits that, and what we do not claim. ## How a key is stored - Each key is encrypted with AES-256-GCM. Every key gets its own random salt and its own random nonce. - The encryption key is derived from a master secret with HKDF-SHA-256 and that salt. The master secret is not in the database. It lives in Cloudflare Secrets Store and is read by the backend services that need it. - Keys written in the current format are bound to your workspace. A ciphertext copied from one workspace's row does not decrypt as another workspace's key. - Rows written before we added the stronger key derivation still decrypt, but they are not bound to a workspace until they are re-encrypted. A maintenance script can re-encrypt every stored key under the current format or under a new master secret. Because the master secret is separate from the database, a copy of the database alone is ciphertext. ## Who and what can read it - You see a masked preview: the first four and last three characters. After you save a key, there is no screen or API call that returns the full value. - Admin tools show the same preview. They do not return the stored ciphertext or the key. - Other members never receive a key. A request that uses a donated key is made by our gateway, and the caller only gets the model's answer. ## Where a key can be sent A key is only sent to the provider it belongs to. Most providers are reached at a fixed address that we register, and for those a custom base URL is rejected when you add the key. For providers where you supply an endpoint, such as a self-hosted server, the URL must use HTTPS, must not be an IP address or a local address, and must be on the provider's registered host when one exists. Azure AI Foundry endpoints must be on an Azure host, and Claude keys for Bedrock and Vertex are checked for their expected host and region. These checks run again on every request, not only when you save the key. Pool requests ignore any custom base URL on a donor's key. A donated key is sent only to the registered address for its provider. ## What stays out of logs We do not write keys to our logs. The one place a key can come back to us is a provider's own error message, because some providers repeat the key you sent when they reject a request. Before an upstream error body is stored, logged or passed on, we remove the exact key that request used, in its plain, URL-encoded and JSON-escaped forms. This works for any key format, not only the ones we recognise by prefix. ## Revoking a key - Delete the key in the dashboard or the API. The encrypted row is removed, and any Pool donation backed by that key ends with it. - If the key was donated, the Pool's selection cache is refreshed in the same request, so a deleted key stops serving other members right away. - Replace the key in place instead of deleting it. The new key is checked with the provider first, and the old one is dropped from the Pool cache as soon as it is replaced. Deleting a key here does not cancel it at the provider. If you think a key was exposed, also revoke it in your provider's console. ## If you donate a key to the Pool A donated key is the same encrypted row you added under BYOK. We do not make a second copy. You stay in control of it: - Pause and resume it, or withdraw it, at any time. - Cap its requests per minute. - Choose free-only coverage, or paid coverage with your own price per model. - Keys that keep failing or hit a provider limit are paused automatically. Usage from the Pool appears on your provider account, and you agree to your provider's terms. Keys that open a whole cloud account, such as Claude on Bedrock, Vertex or Foundry, cannot be donated. ## What we do not claim We hold the master secret, so a compromise of our backend while it runs could expose keys that are in use. That is why we keep the number of services that hold it small and keep the re-encryption tooling ready for a rotation. Use a key with a spend limit where your provider offers one, give it only the access you need, and revoke it at the provider if you stop using it. --- # 我们如何保护你的供应商 Key > AnyRouter 如何保存和使用你添加的供应商 Key(BYOK)以及捐给 Pool 的 Key:静态加密、谁能读取、Key 能发往哪里、哪些内容不进日志,以及如何撤销。 - Date: October 19, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/how-we-protect-your-provider-keys ## 简短版本 你添加的供应商 Key 在写入数据库之前就已加密。Dashboard 和 API 只显示打码的预览,不会显示 Key 本身。只有在需要向你添加该 Key 的供应商发请求时,Key 才会在内存中解密,并且只发往该供应商的地址。 AnyRouter 需要替你使用 Key 来发请求,所以我们的服务器在那一刻能解密它。本文说明有哪些限制,以及我们不做哪些承诺。 ## Key 如何保存 - 每个 Key 都用 AES-256-GCM 加密,每个 Key 有自己的随机盐和随机 nonce。 - 加密密钥由主密钥通过 HKDF-SHA-256 和该盐派生。主密钥不在数据库里,而是存放在 Cloudflare Secrets Store,由需要它的后端服务读取。 - 以当前格式写入的 Key,其密文与你的工作区绑定。从一个工作区的行里复制出来的密文,无法作为另一个工作区的 Key 解密。 - 在我们加入更强的密钥派生之前写入的行仍可解密,但在重新加密之前不与工作区绑定。维护脚本可以把所有已存 Key 重新加密为当前格式,或换成新的主密钥。 由于主密钥与数据库分开,单独拿到数据库副本只得到密文。 ## 谁能读取 - 你能看到打码预览:前四个和后三个字符。保存 Key 之后,没有任何页面或 API 会返回完整值。 - 管理工具显示同样的预览,不会返回已存密文或 Key。 - 其他成员永远拿不到 Key。使用捐赠 Key 的请求由我们的网关发出,调用方只会得到模型的回答。 ## Key 能发往哪里 Key 只会发往它所属的供应商。大多数供应商通过我们登记的固定地址访问,对这些供应商,添加 Key 时自定义 base URL 会被拒绝。 对于由你提供端点的供应商(例如自建服务器),URL 必须使用 HTTPS,不能是 IP 地址或本地地址,并且有登记主机时必须在该供应商的登记主机上。Azure AI Foundry 端点必须在 Azure 主机上,Bedrock 和 Vertex 上的 Claude Key 会检查其预期的主机和区域。这些检查在每次请求时都会重新执行,而不只是在你保存 Key 时。 Pool 请求会忽略捐赠者 Key 上的任何自定义 base URL,捐赠的 Key 只会发往其供应商的登记地址。 ## 哪些内容不进日志 我们不会把 Key 写入日志。Key 唯一可能回到我们这里的地方是供应商自己的错误信息,因为有些供应商在拒绝请求时会把你发送的 Key 原样回显。在存储、记录或转发上游错误内容之前,我们会删除该请求所用的确切 Key,包括原文、URL 编码和 JSON 转义三种形式。这对任何 Key 格式都有效,而不只是我们能按前缀识别的那些。 ## 撤销 Key - 在 Dashboard 或 API 中删除 Key。加密的行会被删除,由该 Key 支撑的 Pool 捐赠也随之结束。 - 如果该 Key 已捐赠,Pool 的选择缓存会在同一次请求里刷新,所以被删除的 Key 会立刻停止为其他成员服务。 - 也可以原地替换 Key,而不是删除。新 Key 会先向供应商验证,旧 Key 在被替换后会立刻从 Pool 缓存中移除。 在这里删除 Key 不会在供应商处取消它。如果你认为 Key 已泄露,请同时在供应商控制台撤销。 ## 如果你把 Key 捐给 Pool 捐赠的 Key 就是你在 BYOK 下添加的那一行加密数据,我们不会再复制一份。控制权仍在你手里: - 随时暂停、恢复或撤回。 - 限制每分钟请求数。 - 选择仅免费覆盖,或按模型自定价格的付费覆盖。 - 持续失败或触及供应商限额的 Key 会被自动暂停。 Pool 的用量会出现在你的供应商账号上,你需要遵守供应商的条款。能打开整个云账号的 Key,例如 Bedrock、Vertex 或 Foundry 上的 Claude,不能捐赠。 ## 我们不做哪些承诺 主密钥由我们持有,所以后端在运行期间被攻破时,正在使用的 Key 可能暴露。因此我们让持有它的服务数量保持很少,并备好轮换所需的重新加密工具。 如果供应商提供,请为 Key 设置消费上限,只授予所需的权限,不再使用时在供应商处撤销。 --- # Chúng tôi bảo vệ key nhà cung cấp của bạn thế nào > AnyRouter lưu và dùng key nhà cung cấp bạn thêm (BYOK) và key được góp vào Pool ra sao: mã hóa khi lưu, ai đọc được, key được gửi tới đâu, gì không vào log, và cách thu hồi. - Date: October 19, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/how-we-protect-your-provider-keys ## Tóm tắt Key nhà cung cấp bạn thêm được mã hóa trước khi ghi vào cơ sở dữ liệu. Dashboard và API chỉ hiện bản xem trước đã che, không bao giờ hiện chính key. Key chỉ được giải mã trong bộ nhớ khi cần gửi yêu cầu tới nhà cung cấp mà bạn thêm key cho, và nó chỉ đi tới địa chỉ của nhà cung cấp đó. AnyRouter phải dùng key của bạn để gửi yêu cầu thay bạn, nên máy chủ của chúng tôi giải mã được nó vào lúc đó. Bài này nêu những giới hạn áp dụng và những điều chúng tôi không cam kết. ## Key được lưu thế nào - Mỗi key được mã hóa bằng AES-256-GCM. Mỗi key có salt ngẫu nhiên và nonce ngẫu nhiên riêng. - Khóa mã hóa được suy ra từ một master secret bằng HKDF-SHA-256 và salt đó. Master secret không nằm trong cơ sở dữ liệu. Nó nằm trong Cloudflare Secrets Store và do các dịch vụ backend cần nó đọc. - Key ghi theo định dạng hiện tại có bản mã gắn với workspace của bạn. Bản mã sao chép từ hàng của workspace này không giải mã được như key của workspace khác. - Các hàng ghi trước khi chúng tôi thêm cách suy khóa mạnh hơn vẫn giải mã được, nhưng chưa gắn với workspace cho tới khi được mã hóa lại. Một script bảo trì có thể mã hóa lại mọi key đã lưu theo định dạng hiện tại hoặc theo master secret mới. Vì master secret tách khỏi cơ sở dữ liệu, chỉ có bản sao cơ sở dữ liệu thì chỉ thu được bản mã. ## Ai và cái gì đọc được key - Bạn thấy bản xem trước đã che: bốn ký tự đầu và ba ký tự cuối. Sau khi lưu key, không có màn hình hay lệnh gọi API nào trả về giá trị đầy đủ. - Công cụ quản trị hiện cùng bản xem trước đó. Chúng không trả về bản mã đã lưu hay key. - Thành viên khác không bao giờ nhận được key. Yêu cầu dùng key được góp do gateway của chúng tôi gửi, và người gọi chỉ nhận câu trả lời của model. ## Key được gửi tới đâu Key chỉ được gửi tới nhà cung cấp mà nó thuộc về. Phần lớn nhà cung cấp được gọi qua một địa chỉ cố định do chúng tôi đăng ký, và với họ, base URL tùy chỉnh bị từ chối khi bạn thêm key. Với nhà cung cấp mà bạn tự cung cấp endpoint, như máy chủ tự dựng, URL phải dùng HTTPS, không được là địa chỉ IP hay địa chỉ nội bộ, và phải nằm trên host đã đăng ký của nhà cung cấp khi có. Endpoint Azure AI Foundry phải nằm trên host Azure, và key Claude trên Bedrock và Vertex được kiểm tra host và vùng mong đợi. Các kiểm tra này chạy lại ở mỗi yêu cầu, không chỉ lúc bạn lưu key. Yêu cầu Pool bỏ qua mọi base URL tùy chỉnh trên key của người góp. Key được góp chỉ được gửi tới địa chỉ đã đăng ký của nhà cung cấp. ## Gì không vào log Chúng tôi không ghi key vào log. Chỗ duy nhất key có thể quay lại chúng tôi là thông báo lỗi của chính nhà cung cấp, vì một số nhà cung cấp lặp lại key bạn gửi khi từ chối yêu cầu. Trước khi lưu, ghi log hoặc chuyển tiếp nội dung lỗi từ upstream, chúng tôi xóa đúng key mà yêu cầu đó đã dùng, ở dạng nguyên bản, mã hóa URL và thoát JSON. Cách này áp dụng cho mọi định dạng key, không chỉ những định dạng chúng tôi nhận ra qua tiền tố. ## Thu hồi key - Xóa key trong dashboard hoặc API. Hàng đã mã hóa bị xóa, và mọi khoản góp vào Pool dựa trên key đó kết thúc cùng nó. - Nếu key đã được góp, bộ nhớ đệm chọn key của Pool được làm mới ngay trong cùng yêu cầu, nên key đã xóa ngừng phục vụ thành viên khác ngay lập tức. - Thay key tại chỗ thay vì xóa. Key mới được kiểm tra với nhà cung cấp trước, và key cũ bị loại khỏi bộ nhớ đệm của Pool ngay khi được thay. Xóa key ở đây không hủy nó tại nhà cung cấp. Nếu bạn nghĩ key đã lộ, hãy thu hồi nó cả trong bảng điều khiển của nhà cung cấp. ## Nếu bạn góp key vào Pool Key được góp chính là hàng đã mã hóa bạn thêm ở BYOK. Chúng tôi không tạo bản sao thứ hai. Bạn vẫn kiểm soát nó: - Tạm dừng, tiếp tục hoặc rút lại bất cứ lúc nào. - Giới hạn số yêu cầu mỗi phút. - Chọn phạm vi chỉ miễn phí, hoặc phạm vi trả phí với giá riêng cho từng model. - Key liên tục lỗi hoặc chạm giới hạn của nhà cung cấp sẽ tự động bị tạm dừng. Lượng dùng từ Pool hiện trên tài khoản nhà cung cấp của bạn, và bạn đồng ý với điều khoản của nhà cung cấp. Key mở được cả tài khoản cloud, như Claude trên Bedrock, Vertex hay Foundry, không thể góp. ## Những điều chúng tôi không cam kết Chúng tôi giữ master secret, nên nếu backend bị xâm nhập khi đang chạy thì key đang dùng có thể bị lộ. Vì vậy chúng tôi giữ số dịch vụ nắm nó ở mức nhỏ và giữ sẵn công cụ mã hóa lại cho việc xoay khóa. Hãy dùng key có hạn mức chi tiêu khi nhà cung cấp hỗ trợ, chỉ cấp quyền cần thiết, và thu hồi nó tại nhà cung cấp khi bạn không dùng nữa. --- # New models, 20 Sep – 10 Oct 2026 > Claude Haiku 5.5, five new Decisions models, GLM-5.3 Prime, Xiaomi MiMo V2.6 and more — new models from the last three weeks, with a release note for each. - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/new-models-sep-oct-2026 ## What landed The public models added to the catalog between 20 September and 10 October 2026 now have release notes, with prices copied from the catalog and try-it snippets. Same-family models share one note. - [Claude Haiku 5.5](https://anyrouter.dev/blog/releases/2026-10-09-claude-haiku-5-5) - [Five new Decisions models](https://anyrouter.dev/blog/releases/2026-10-10-decisions) - [SubQ Preview](https://anyrouter.dev/blog/releases/2026-10-10-subq-preview) - [Glyph Cluster (stealth)](https://anyrouter.dev/blog/releases/2026-10-08-glyph-cluster) - [Gemma 3n E2B on your phone](https://anyrouter.dev/blog/releases/2026-10-04-gemma-3n-e2b) - [Apodex 1.1 Mini and Laya](https://anyrouter.dev/blog/releases/2026-10-03-apodex-laya) - [Xiaomi MiMo V2 and V2.6](https://anyrouter.dev/blog/releases/2026-09-30-mimo) - [GLM-5.3 Prime and FlashX](https://anyrouter.dev/blog/releases/2026-09-28-glm-5-3) - [Fugu Max, Solar Mini 4, Hy-MT2, Span-01 Lite, embeddings](https://anyrouter.dev/blog/releases/2026-09-28) - [Doubao Seed 2.1 Pro](https://anyrouter.dev/blog/releases/2026-09-22-doubao) - [Agents A1, Intern S2, Qwen3.8 Omni Flash](https://anyrouter.dev/blog/releases/2026-09-20) ## Try one Chat models work with the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) and the [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). Decisions models use `POST /api/v1/decisions` instead. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-haiku-5-5"), prompt: "Classify these support tickets by urgency.", }) console.log(text) ``` _generateText with Claude Haiku 5.5._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-haiku-5-5" anyr decision --model microsoft/microsoft-decision-1 ``` _Coding agent or Decisions from the CLI._ More: [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [Decisions app](https://anyrouter.dev/apps/decisions) · [all release notes](https://anyrouter.dev/blog/releases). --- # 新模型:2026 年 9 月 20 日 – 10 月 10 日 > Claude Haiku 5.5、五个新的 Decisions 模型、GLM-5.3 Prime、小米 MiMo V2.6 等——过去三周的新模型都有发布说明。 - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/new-models-sep-oct-2026 ## 新增内容 2026 年 9 月 20 日至 10 月 10 日加入目录的公开模型,现在都有发布说明,价格取自目录,并附带试用代码。同一系列的模型共用一篇说明。 - [Claude Haiku 5.5](https://anyrouter.dev/blog/releases/2026-10-09-claude-haiku-5-5) - [Five new Decisions models](https://anyrouter.dev/blog/releases/2026-10-10-decisions) - [SubQ Preview](https://anyrouter.dev/blog/releases/2026-10-10-subq-preview) - [Glyph Cluster (stealth)](https://anyrouter.dev/blog/releases/2026-10-08-glyph-cluster) - [Gemma 3n E2B on your phone](https://anyrouter.dev/blog/releases/2026-10-04-gemma-3n-e2b) - [Apodex 1.1 Mini and Laya](https://anyrouter.dev/blog/releases/2026-10-03-apodex-laya) - [Xiaomi MiMo V2 and V2.6](https://anyrouter.dev/blog/releases/2026-09-30-mimo) - [GLM-5.3 Prime and FlashX](https://anyrouter.dev/blog/releases/2026-09-28-glm-5-3) - [Fugu Max, Solar Mini 4, Hy-MT2, Span-01 Lite, embeddings](https://anyrouter.dev/blog/releases/2026-09-28) - [Doubao Seed 2.1 Pro](https://anyrouter.dev/blog/releases/2026-09-22-doubao) - [Agents A1, Intern S2, Qwen3.8 Omni Flash](https://anyrouter.dev/blog/releases/2026-09-20) ## 试一试 聊天模型可直接用 [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) 和 [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk)。Decisions 模型使用 `POST /api/v1/decisions`。 ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-haiku-5-5"), prompt: "Classify these support tickets by urgency.", }) console.log(text) ``` _用 Claude Haiku 5.5 调用 generateText。_ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-haiku-5-5" anyr decision --model microsoft/microsoft-decision-1 ``` _通过 CLI 启动编程助手或 Decisions。_ 更多:[编程助手](https://anyrouter.dev/use-cases/coding-agents) · [Decisions 应用](https://anyrouter.dev/apps/decisions) · [全部发布说明](https://anyrouter.dev/blog/releases)。 --- # Mô hình mới, 20/9 – 10/10/2026 > Claude Haiku 5.5, năm mô hình Decisions mới, GLM-5.3 Prime, Xiaomi MiMo V2.6 và hơn thế — các mô hình mới trong ba tuần qua, mỗi nhóm có ghi chú phát hành riêng. - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/new-models-sep-oct-2026 ## Có gì mới Các mô hình công khai được thêm vào danh mục từ 20/9 đến 10/10/2026 nay đều có ghi chú phát hành riêng, với giá lấy từ danh mục và đoạn mã dùng thử. Các mô hình cùng họ dùng chung một ghi chú. - [Claude Haiku 5.5](https://anyrouter.dev/blog/releases/2026-10-09-claude-haiku-5-5) - [Five new Decisions models](https://anyrouter.dev/blog/releases/2026-10-10-decisions) - [SubQ Preview](https://anyrouter.dev/blog/releases/2026-10-10-subq-preview) - [Glyph Cluster (stealth)](https://anyrouter.dev/blog/releases/2026-10-08-glyph-cluster) - [Gemma 3n E2B on your phone](https://anyrouter.dev/blog/releases/2026-10-04-gemma-3n-e2b) - [Apodex 1.1 Mini and Laya](https://anyrouter.dev/blog/releases/2026-10-03-apodex-laya) - [Xiaomi MiMo V2 and V2.6](https://anyrouter.dev/blog/releases/2026-09-30-mimo) - [GLM-5.3 Prime and FlashX](https://anyrouter.dev/blog/releases/2026-09-28-glm-5-3) - [Fugu Max, Solar Mini 4, Hy-MT2, Span-01 Lite, embeddings](https://anyrouter.dev/blog/releases/2026-09-28) - [Doubao Seed 2.1 Pro](https://anyrouter.dev/blog/releases/2026-09-22-doubao) - [Agents A1, Intern S2, Qwen3.8 Omni Flash](https://anyrouter.dev/blog/releases/2026-09-20) ## Dùng thử Mô hình chat dùng được với [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) và [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). Mô hình Decisions dùng `POST /api/v1/decisions`. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-haiku-5-5"), prompt: "Classify these support tickets by urgency.", }) console.log(text) ``` _generateText với Claude Haiku 5.5._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-haiku-5-5" anyr decision --model microsoft/microsoft-decision-1 ``` _Trợ lý lập trình hoặc Decisions từ CLI._ Thêm: [trợ lý lập trình](https://anyrouter.dev/use-cases/coding-agents) · [ứng dụng Decisions](https://anyrouter.dev/apps/decisions) · [mọi ghi chú phát hành](https://anyrouter.dev/blog/releases). --- # AnyRouter in October 2026: new models, top usage, free routes > A snapshot of the live catalog and the last 30 days of traffic: the newest models, what people route most, the anyrouter/* router ids, what is free right now, and one tip. - Date: October 10, 2026 - Category: data - HTML: https://anyrouter.dev/blog/anyrouter-snapshot-october-2026 ## New in the catalog The newest entries in the live model list, by catalog date. Most of them are System One decision models, plus Ling 3.1 Flash and Apodex 1.1 Mini for chat and coding. ![The eight newest models in the AnyRouter live catalog with provider logos and dates.](https://anyrouter.dev/screenshots/x-new-models-2026-10.png) | Model | Catalog date | | --- | --- | | subquadratic/subq-snap-preview | Oct 10 | | microsoft/microsoft-decision-1 | Oct 9 | | nace-ai/drex-v1.5 | Oct 9 | | upstage/solar-decide-flash | Oct 8 | | perplexity/pplx-decider-v1.1-27b | Oct 6 | | inclusionai/ling-3.1-flash | Oct 2 | | apodex/apodex-1.1-mini | Oct 1 | | perplexity/pplx-decider-v1-27b | Oct 1 | ## What people route most Tokens served over the rolling 30 days from September 10 to October 10, 2026. `anyrouter/auto` is a router, not a single model: it picks a model per request. **Tokens served by model** - anyrouter/auto: 543.6M - stealth/space-bunny-alpha: 530.3M - poolside/laguna-s-2.1: 391.0M - stealth/union-alpha: 213.6M - apodex/apodex-1.1-mini: 142.2M - inclusionai/ling-3.1-flash: 58.4M - deepseek/deepseek-v4-flash: 43.7M - google/gemini-3.7-flash: 29.2M By request count the order changes: `poolside/laguna-s-2.1` leads with 11,545 requests, ahead of `anyrouter/auto` (8,967) and `stealth/space-bunny-alpha` (8,580). ## Let a router id pick If you don't want to choose a model, send one of the `anyrouter/*` ids. Each one picks a model per request and falls back when an upstream fails. ![The six anyrouter/* router ids with a one-line summary each.](https://anyrouter.dev/screenshots/x-presets-2026-10.png) | Router id | What it does | | --- | --- | | anyrouter/auto | Top-usage and stable models, mixing free and paid hops, with health-aware fallback. | | anyrouter/free | Curated $0 platform models plus the donated free pool. Never credits. | | anyrouter/latest | The newest stable chat model that is actually serving traffic. | | anyrouter/hermes | The best tool-calling model per provider, for autonomous agents. | | anyrouter/cowork | Tool-calling models for everyday assistant work. | | anyrouter/decision | System One decision models your BYOK keys can reach. | ## Free right now Five models are $0 on platform routes today, so they need no provider key. Most are task models (embeddings, safety, parsing, translation); `stealth/space-bunny-alpha` is the general chat model of the set. For chat, `anyrouter/free` is usually the easier choice. ![Five models at $0 on AnyRouter platform routes.](https://anyrouter.dev/screenshots/x-free-models-2026-10.png) - `nvidia/nemotron-3-embed-1b` — embeddings - `nvidia/nemotron-3.5-content-safety` — content safety, vision input - `nvidia/nemotron-parse-2.0` — document parsing, vision input - `nvidia/riva-translate-4b-instruct-v2` — translation - `stealth/space-bunny-alpha` — chat, reasoning, coding, tools ## Tip: one key, three API shapes The same `sk-ar-v1-` key works on the OpenAI Chat Completions, Anthropic Messages, and OpenAI Responses endpoints, so Codex, Cursor, and Claude Code can share one key and one catalog. ![Three AnyRouter endpoints that accept the same key: chat/completions, messages and responses.](https://anyrouter.dev/screenshots/x-tip-2026-10.png) ```bash curl https://anyrouter.dev/api/v1/messages \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "anyrouter/auto", "max_tokens": 256, "messages": [{"role": "user", "content": "Hello"}]}' ``` _Anthropic Messages shape, any catalog model._ --- # AnyRouter 2026 年 10 月:新模型、使用排行、免费路由 > 实时目录与最近 30 天流量快照:最新模型、调用最多的模型、anyrouter/* 路由 id、当前免费模型,以及一个小技巧。 - Date: October 10, 2026 - Category: data - HTML: https://anyrouter.dev/blog/zh/anyrouter-snapshot-october-2026 ## 目录新增 按目录日期排列的实时模型列表最新条目。大部分是 System One 决策模型,另有用于对话和编程的 Ling 3.1 Flash 与 Apodex 1.1 Mini。 ![The eight newest models in the AnyRouter live catalog with provider logos and dates.](https://anyrouter.dev/screenshots/x-new-models-2026-10.png) | Model | Catalog date | | --- | --- | | subquadratic/subq-snap-preview | Oct 10 | | microsoft/microsoft-decision-1 | Oct 9 | | nace-ai/drex-v1.5 | Oct 9 | | upstage/solar-decide-flash | Oct 8 | | perplexity/pplx-decider-v1.1-27b | Oct 6 | | inclusionai/ling-3.1-flash | Oct 2 | | apodex/apodex-1.1-mini | Oct 1 | | perplexity/pplx-decider-v1-27b | Oct 1 | ## 调用最多的模型 2026 年 9 月 10 日至 10 月 10 日滚动 30 天的 token 用量。`anyrouter/auto` 是路由器而非单一模型:它按请求挑选模型。 **Tokens served by model** - anyrouter/auto: 543.6M - stealth/space-bunny-alpha: 530.3M - poolside/laguna-s-2.1: 391.0M - stealth/union-alpha: 213.6M - apodex/apodex-1.1-mini: 142.2M - inclusionai/ling-3.1-flash: 58.4M - deepseek/deepseek-v4-flash: 43.7M - google/gemini-3.7-flash: 29.2M 按请求数排序则不同:`poolside/laguna-s-2.1` 以 11,545 次请求领先,其后是 `anyrouter/auto`(8,967)和 `stealth/space-bunny-alpha`(8,580)。 ## 让路由 id 帮你选 不想自己选模型?发送一个 `anyrouter/*` id。每个 id 按请求选模型,上游失败时自动回退。 ![The six anyrouter/* router ids with a one-line summary each.](https://anyrouter.dev/screenshots/x-presets-2026-10.png) | Router id | What it does | | --- | --- | | anyrouter/auto | Top-usage and stable models, mixing free and paid hops, with health-aware fallback. | | anyrouter/free | Curated $0 platform models plus the donated free pool. Never credits. | | anyrouter/latest | The newest stable chat model that is actually serving traffic. | | anyrouter/hermes | The best tool-calling model per provider, for autonomous agents. | | anyrouter/cowork | Tool-calling models for everyday assistant work. | | anyrouter/decision | System One decision models your BYOK keys can reach. | ## 当前免费 今天有五个模型在平台路由上为 $0,无需提供商 key。多数是任务模型(嵌入、内容安全、解析、翻译);`stealth/space-bunny-alpha` 是其中的通用对话模型。若要对话,`anyrouter/free` 通常更方便。 ![Five models at $0 on AnyRouter platform routes.](https://anyrouter.dev/screenshots/x-free-models-2026-10.png) - `nvidia/nemotron-3-embed-1b` — embeddings - `nvidia/nemotron-3.5-content-safety` — content safety, vision input - `nvidia/nemotron-parse-2.0` — document parsing, vision input - `nvidia/riva-translate-4b-instruct-v2` — translation - `stealth/space-bunny-alpha` — chat, reasoning, coding, tools ## 技巧:一个 key,三种 API 同一个 `sk-ar-v1-` key 可用于 OpenAI Chat Completions、Anthropic Messages 和 OpenAI Responses,Codex、Cursor 与 Claude Code 可共用一个 key 和一个目录。 ![Three AnyRouter endpoints that accept the same key: chat/completions, messages and responses.](https://anyrouter.dev/screenshots/x-tip-2026-10.png) ```bash curl https://anyrouter.dev/api/v1/messages \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "anyrouter/auto", "max_tokens": 256, "messages": [{"role": "user", "content": "Hello"}]}' ``` _Anthropic Messages shape, any catalog model._ --- # AnyRouter tháng 10/2026: mô hình mới, top sử dụng, route miễn phí > Ảnh chụp catalog live và 30 ngày traffic gần nhất: mô hình mới nhất, mô hình được route nhiều nhất, các router id anyrouter/*, những gì đang miễn phí, và một mẹo. - Date: October 10, 2026 - Category: data - HTML: https://anyrouter.dev/blog/vi/anyrouter-snapshot-october-2026 ## Mới trong catalog Các mục mới nhất trong danh sách mô hình live, theo ngày catalog. Phần lớn là mô hình quyết định System One, cùng Ling 3.1 Flash và Apodex 1.1 Mini cho chat và code. ![The eight newest models in the AnyRouter live catalog with provider logos and dates.](https://anyrouter.dev/screenshots/x-new-models-2026-10.png) | Model | Catalog date | | --- | --- | | subquadratic/subq-snap-preview | Oct 10 | | microsoft/microsoft-decision-1 | Oct 9 | | nace-ai/drex-v1.5 | Oct 9 | | upstage/solar-decide-flash | Oct 8 | | perplexity/pplx-decider-v1.1-27b | Oct 6 | | inclusionai/ling-3.1-flash | Oct 2 | | apodex/apodex-1.1-mini | Oct 1 | | perplexity/pplx-decider-v1-27b | Oct 1 | ## Mô hình được route nhiều nhất Token phục vụ trong 30 ngày cuốn chiếu từ 10/9 đến 10/10/2026. `anyrouter/auto` là router, không phải một mô hình: nó chọn mô hình theo từng request. **Tokens served by model** - anyrouter/auto: 543.6M - stealth/space-bunny-alpha: 530.3M - poolside/laguna-s-2.1: 391.0M - stealth/union-alpha: 213.6M - apodex/apodex-1.1-mini: 142.2M - inclusionai/ling-3.1-flash: 58.4M - deepseek/deepseek-v4-flash: 43.7M - google/gemini-3.7-flash: 29.2M Theo số request thì thứ tự khác: `poolside/laguna-s-2.1` dẫn đầu với 11.545 request, trước `anyrouter/auto` (8.967) và `stealth/space-bunny-alpha` (8.580). ## Để router id chọn giúp Không muốn chọn mô hình? Gửi một id `anyrouter/*`. Mỗi id chọn mô hình theo request và tự fallback khi upstream lỗi. ![The six anyrouter/* router ids with a one-line summary each.](https://anyrouter.dev/screenshots/x-presets-2026-10.png) | Router id | What it does | | --- | --- | | anyrouter/auto | Top-usage and stable models, mixing free and paid hops, with health-aware fallback. | | anyrouter/free | Curated $0 platform models plus the donated free pool. Never credits. | | anyrouter/latest | The newest stable chat model that is actually serving traffic. | | anyrouter/hermes | The best tool-calling model per provider, for autonomous agents. | | anyrouter/cowork | Tool-calling models for everyday assistant work. | | anyrouter/decision | System One decision models your BYOK keys can reach. | ## Miễn phí ngay bây giờ Hôm nay có năm mô hình $0 trên route nền tảng, không cần key nhà cung cấp. Phần lớn là mô hình tác vụ (embedding, an toàn nội dung, parse, dịch); `stealth/space-bunny-alpha` là mô hình chat tổng quát. Để chat, `anyrouter/free` thường tiện hơn. ![Five models at $0 on AnyRouter platform routes.](https://anyrouter.dev/screenshots/x-free-models-2026-10.png) - `nvidia/nemotron-3-embed-1b` — embeddings - `nvidia/nemotron-3.5-content-safety` — content safety, vision input - `nvidia/nemotron-parse-2.0` — document parsing, vision input - `nvidia/riva-translate-4b-instruct-v2` — translation - `stealth/space-bunny-alpha` — chat, reasoning, coding, tools ## Mẹo: một key, ba dạng API Cùng một key `sk-ar-v1-` chạy trên OpenAI Chat Completions, Anthropic Messages và OpenAI Responses, nên Codex, Cursor và Claude Code dùng chung một key và một catalog. ![Three AnyRouter endpoints that accept the same key: chat/completions, messages and responses.](https://anyrouter.dev/screenshots/x-tip-2026-10.png) ```bash curl https://anyrouter.dev/api/v1/messages \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "anyrouter/auto", "max_tokens": 256, "messages": [{"role": "user", "content": "Hello"}]}' ``` _Anthropic Messages shape, any catalog model._ --- # Where every -latest alias points today > AnyRouter has 19 family aliases like google/gemini-flash-latest and z-ai/glm-latest. Here is the model each one resolves to on October 10, 2026, and the seven you can call on live routes right now. - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/latest-model-aliases-october-2026 ## Seven aliases on live routes A `-latest` alias names a model family instead of a version. The default model list only shows models that can serve a request right now, and seven aliases are in it today. Each one resolves to the newest live model in its family: | Alias | Resolves to (Oct 10, 2026) | | --- | --- | | google/gemini-flash-latest | google/gemini-3-flash | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | ## The full alias list The full catalog (`/api/v1/models?all=1`) lists 19 family aliases. That list resolves against every catalog model, including ones not routable at this moment, so its target can be newer than the live one. For example, it shows `google/gemini-flash-latest` as `google/gemini-3.8-flash`, while the live list resolves it to `google/gemini-3-flash`. | Alias | Newest in full catalog | | --- | --- | | google/gemini-flash-latest | google/gemini-3.8-flash | | google/gemini-flash-lite-latest | google/gemini-3.5-flash-lite | | google/gemini-pro-latest | google/gemini-3.1-pro | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-latest | deepseek/deepseek-v4-pro | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | anthropic/claude-opus-latest | anthropic/claude-opus-5-5 | | anthropic/claude-sonnet-latest | anthropic/claude-sonnet-5-5 | | anthropic/claude-haiku-latest | anthropic/claude-haiku-5-5 | | openai/gpt-latest | openai/gpt-5.5 | | openai/gpt-mini-latest | openai/gpt-5.4-mini | | openai/gpt-nano-latest | openai/gpt-5.4-nano | | qwen/qwen-max-latest | qwen/qwen3.8-max | | qwen/qwen-plus-latest | qwen/qwen3.7-plus | | qwen/qwen-flash-latest | qwen/qwen3.8-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | `openai/codex-mini-latest` and `openai/gpt-5-chat-latest` also end in `-latest`, but they are OpenAI's own model ids, not AnyRouter family aliases. ## What you see and pay The response `model` field is the concrete model that answered, and billing uses that model's price. An alias can move to a newer model without notice, so pin a concrete id when you need stable behavior. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-latest", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Call a family alias; the response names the model that answered._ - [Launch post](https://anyrouter.dev/blog/latest-model-aliases) — why aliases exist and how fallback works. - [Docs](https://anyrouter.dev/docs/features/latest-model-aliases) — how aliases resolve. --- # 每个 -latest 别名今天指向哪里 > AnyRouter 有 19 个模型家族别名,如 google/gemini-flash-latest 和 z-ai/glm-latest。以下是 2026 年 10 月 10 日每个别名解析到的模型,以及当前可在实时路由上调用的七个。 - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/latest-model-aliases-october-2026 ## 实时路由上的七个别名 `-latest` 别名指代一个模型家族而非具体版本。默认模型列表只显示当前可服务的模型,今天其中有七个别名,各自解析到家族中最新的实时模型: | Alias | Resolves to (Oct 10, 2026) | | --- | --- | | google/gemini-flash-latest | google/gemini-3-flash | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | ## 完整别名列表 完整目录(`/api/v1/models?all=1`)列出 19 个家族别名。它基于目录中的所有模型解析,包括此刻无法路由的模型,因此目标可能比实时列表更新。例如这里 `google/gemini-flash-latest` 显示为 `google/gemini-3.8-flash`,而实时列表解析为 `google/gemini-3-flash`。 | Alias | Newest in full catalog | | --- | --- | | google/gemini-flash-latest | google/gemini-3.8-flash | | google/gemini-flash-lite-latest | google/gemini-3.5-flash-lite | | google/gemini-pro-latest | google/gemini-3.1-pro | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-latest | deepseek/deepseek-v4-pro | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | anthropic/claude-opus-latest | anthropic/claude-opus-5-5 | | anthropic/claude-sonnet-latest | anthropic/claude-sonnet-5-5 | | anthropic/claude-haiku-latest | anthropic/claude-haiku-5-5 | | openai/gpt-latest | openai/gpt-5.5 | | openai/gpt-mini-latest | openai/gpt-5.4-mini | | openai/gpt-nano-latest | openai/gpt-5.4-nano | | qwen/qwen-max-latest | qwen/qwen3.8-max | | qwen/qwen-plus-latest | qwen/qwen3.7-plus | | qwen/qwen-flash-latest | qwen/qwen3.8-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | `openai/codex-mini-latest` 和 `openai/gpt-5-chat-latest` 也以 `-latest` 结尾,但它们是 OpenAI 自己的模型 id,不是 AnyRouter 的家族别名。 ## 你看到什么、付多少 响应中的 `model` 字段是实际回答的模型,计费按该模型价格。别名可能随时切换到更新的模型,需要稳定行为时请固定具体 id。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-latest", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Call a family alias; the response names the model that answered._ - [Launch post](https://anyrouter.dev/blog/latest-model-aliases) — why aliases exist and how fallback works. - [Docs](https://anyrouter.dev/docs/features/latest-model-aliases) — how aliases resolve. --- # Mỗi alias -latest đang trỏ tới đâu hôm nay > AnyRouter có 19 alias theo họ mô hình như google/gemini-flash-latest và z-ai/glm-latest. Đây là mô hình mỗi alias trỏ tới ngày 10/10/2026, và bảy alias gọi được trên route live ngay bây giờ. - Date: October 10, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/latest-model-aliases-october-2026 ## Bảy alias trên route live Alias `-latest` đặt tên cho một họ mô hình thay vì một phiên bản. Danh sách mô hình mặc định chỉ hiện mô hình phục vụ được ngay, và hôm nay có bảy alias trong đó. Mỗi alias trỏ tới mô hình live mới nhất trong họ: | Alias | Resolves to (Oct 10, 2026) | | --- | --- | | google/gemini-flash-latest | google/gemini-3-flash | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | ## Danh sách alias đầy đủ Catalog đầy đủ (`/api/v1/models?all=1`) có 19 alias. Danh sách này tính trên mọi mô hình trong catalog, kể cả mô hình chưa route được lúc này, nên đích có thể mới hơn bản live. Ví dụ `google/gemini-flash-latest` hiện là `google/gemini-3.8-flash` ở đó, còn danh sách live trỏ tới `google/gemini-3-flash`. | Alias | Newest in full catalog | | --- | --- | | google/gemini-flash-latest | google/gemini-3.8-flash | | google/gemini-flash-lite-latest | google/gemini-3.5-flash-lite | | google/gemini-pro-latest | google/gemini-3.1-pro | | google/gemma-latest | google/gemma-4-31b | | deepseek/deepseek-latest | deepseek/deepseek-v4-pro | | deepseek/deepseek-flash-latest | deepseek/deepseek-v4.1-flash | | anthropic/claude-opus-latest | anthropic/claude-opus-5-5 | | anthropic/claude-sonnet-latest | anthropic/claude-sonnet-5-5 | | anthropic/claude-haiku-latest | anthropic/claude-haiku-5-5 | | openai/gpt-latest | openai/gpt-5.5 | | openai/gpt-mini-latest | openai/gpt-5.4-mini | | openai/gpt-nano-latest | openai/gpt-5.4-nano | | qwen/qwen-max-latest | qwen/qwen3.8-max | | qwen/qwen-plus-latest | qwen/qwen3.7-plus | | qwen/qwen-flash-latest | qwen/qwen3.8-flash | | z-ai/glm-latest | z-ai/glm-5.3 | | z-ai/glm-flash-latest | z-ai/glm-5.3-flash | | moonshotai/kimi-latest | moonshotai/kimi-k3 | | x-ai/grok-latest | x-ai/grok-4.7 | `openai/codex-mini-latest` và `openai/gpt-5-chat-latest` cũng kết thúc bằng `-latest`, nhưng đó là id mô hình của OpenAI, không phải alias họ mô hình của AnyRouter. ## Bạn thấy gì và trả gì Trường `model` trong response là mô hình thực sự trả lời, và giá tính theo mô hình đó. Alias có thể chuyển sang mô hình mới hơn mà không báo trước, nên hãy ghim id cụ thể khi cần hành vi ổn định. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-latest", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Call a family alias; the response names the model that answered._ - [Launch post](https://anyrouter.dev/blog/latest-model-aliases) — why aliases exist and how fallback works. - [Docs](https://anyrouter.dev/docs/features/latest-model-aliases) — how aliases resolve. --- # Six decision models, two of them free > AnyRouter lists six System One decision models. Liquid d1 and Respan Span-01 Lite are priced at $0. The other four have a paid list rate and run on your own provider key. - Date: October 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/decision-models ## Six models, one endpoint Decision models answer typed questions about application state. They are not chat. Every one of them is called with `POST /api/v1/decisions`. The catalog has six: - [Liquid d1](https://anyrouter.dev/model/liquid/d1) — free. - [Respan Span-01 Lite](https://anyrouter.dev/model/respan/span-01-lite) — free. - [TypeSafe Jev](https://anyrouter.dev/model/typesafe/jev). - [Fastino GLiNER2.5-Decide](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1). - [Jared Palmer Kev 4B](https://anyrouter.dev/model/jaredpalmer/kev-4b). - [Upstage Solar Decide](https://anyrouter.dev/model/upstage/solar-decide). ## Two are free Liquid d1 (`d1:free`) and Span-01 Lite are listed at $0 per million input and output tokens. Jev, GLiNER2.5-Decide, Kev 4B, and Solar Decide have a non-zero list rate. All six routes use your own provider key. They do not sit on the platform free-model badge, which is reserved for public routes AnyRouter serves without a key you supply. `anyrouter/decision` is a preset over these models, not a seventh model. Try one from the terminal: `anyr decision --model liquid/d1`. --- # 六个决策模型,其中两个免费 > AnyRouter 列出六个 System One 决策模型。Liquid d1 与 Respan Span-01 Lite 标价为 $0。其余四个有付费牌价,走你自己的供应商密钥。 - Date: October 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/decision-models ## 六个模型,一个端点 决策模型针对应用状态回答类型化问题,不是聊天。它们都走 `POST /api/v1/decisions`。 目录里有六个: - [Liquid d1](https://anyrouter.dev/model/liquid/d1) — 免费。 - [Respan Span-01 Lite](https://anyrouter.dev/model/respan/span-01-lite) — 免费。 - [TypeSafe Jev](https://anyrouter.dev/model/typesafe/jev)。 - [Fastino GLiNER2.5-Decide](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1)。 - [Jared Palmer Kev 4B](https://anyrouter.dev/model/jaredpalmer/kev-4b)。 - [Upstage Solar Decide](https://anyrouter.dev/model/upstage/solar-decide)。 ## 其中两个免费 Liquid d1(`d1:free`)和 Span-01 Lite 的输入、输出牌价都是每百万 token $0。Jev、GLiNER2.5-Decide、Kev 4B 和 Solar Decide 有非零牌价。 这六条路由都使用你自己的供应商密钥。它们不带平台免费徽章;那个徽章只给 AnyRouter 不需要你提供密钥就能调用的公开路由。`anyrouter/decision` 是这些模型之上的预设,不是第七个模型。 在终端试一个:`anyr decision --model liquid/d1`。 --- # Sáu mô hình quyết định, hai mô hình miễn phí > AnyRouter có sáu mô hình quyết định System One. Liquid d1 và Respan Span-01 Lite có giá $0. Bốn mô hình còn lại có giá niêm yết và chạy bằng khóa nhà cung cấp của bạn. - Date: October 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/decision-models ## Sáu mô hình, một endpoint Mô hình quyết định trả lời câu hỏi có kiểu trên trạng thái ứng dụng. Đây không phải chat. Cả sáu đều gọi `POST /api/v1/decisions`. Danh mục có sáu mô hình: - [Liquid d1](https://anyrouter.dev/model/liquid/d1) — miễn phí. - [Respan Span-01 Lite](https://anyrouter.dev/model/respan/span-01-lite) — miễn phí. - [TypeSafe Jev](https://anyrouter.dev/model/typesafe/jev). - [Fastino GLiNER2.5-Decide](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1). - [Jared Palmer Kev 4B](https://anyrouter.dev/model/jaredpalmer/kev-4b). - [Upstage Solar Decide](https://anyrouter.dev/model/upstage/solar-decide). ## Hai mô hình miễn phí Liquid d1 (`d1:free`) và Span-01 Lite có giá niêm yết $0 cho mỗi triệu token đầu vào và đầu ra. Jev, GLiNER2.5-Decide, Kev 4B và Solar Decide có giá niêm yết khác $0. Cả sáu tuyến dùng khóa nhà cung cấp của bạn. Chúng không mang huy hiệu miễn phí của nền tảng; huy hiệu đó chỉ dành cho tuyến công khai mà AnyRouter phục vụ khi bạn không đưa khóa. `anyrouter/decision` là preset trên các mô hình này, không phải mô hình thứ bảy. Thử từ terminal: `anyr decision --model liquid/d1`. --- # Latest aliases: name a family, always get a live model > Models get retired or go down. A -latest alias calls the newest model in a family that is available right now, skips dead ones, and bills the model that answered. - Date: September 30, 2026 - Category: product - HTML: https://anyrouter.dev/blog/latest-model-aliases ## Pinned ids break If your code pins `google/gemini-3.5-flash`, you edit it every time a newer Flash ships, and it breaks the day that model is retired or goes down. A latest alias names the family instead. Send `google/gemini-flash-latest` and AnyRouter calls the newest Gemini Flash model that can serve your request right now. If it is unavailable, AnyRouter tries the next newest model in the family automatically. ## What you see and pay The response `model` field is the concrete model that answered, for example `google/gemini-3.8-flash`, so logs and evals stay honest. Billing uses that model's price. There are 19 aliases: `google/gemini-flash-latest`, `google/gemini-flash-lite-latest`, `google/gemini-pro-latest`, `google/gemma-latest`, `deepseek/deepseek-latest`, `deepseek/deepseek-flash-latest`, `anthropic/claude-opus-latest`, `anthropic/claude-sonnet-latest`, `anthropic/claude-haiku-latest`, `openai/gpt-latest`, `openai/gpt-mini-latest`, `openai/gpt-nano-latest`, `qwen/qwen-max-latest`, `qwen/qwen-plus-latest`, `qwen/qwen-flash-latest`, `z-ai/glm-latest`, `z-ai/glm-flash-latest`, `moonshotai/kimi-latest` and `x-ai/grok-latest`. An alias can move to a newer model without notice, which may change output style, price, or supported parameters. Pin a concrete id for workloads that need stable behavior. A `models` fallback list you send yourself takes precedence. ## Try it ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text, response } = await generateText({ model: anyrouter("anthropic/claude-sonnet-latest"), prompt: "Summarize this diff in three bullets.", }) console.log(text, response.modelId) ``` _generateText with a latest alias._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-sonnet-latest" ``` _A coding agent through the anyr CLI._ - [Release note](https://anyrouter.dev/blog/releases/2026-09-30-latest-aliases) — the canonical launch note. - [Docs](https://anyrouter.dev/docs/features/latest-model-aliases) — how aliases resolve. - [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) and [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=google/gemini-flash-latest) --- # Latest 别名:指定模型家族,始终获得可用模型 > 模型会下线或故障。-latest 别名会调用家族中当前可用的最新模型,跳过不可用的,并按实际作答的模型计费。 - Date: September 30, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/latest-model-aliases ## 固定的模型 ID 会失效 如果代码里固定了 `google/gemini-3.5-flash`,每次发布更新的 Flash 模型都要改代码,而且该模型下线或故障的那天就会出错。 latest 别名指向一个模型家族。发送 `google/gemini-flash-latest`,AnyRouter 会调用当前能处理请求的最新 Gemini Flash 模型;如果它不可用,会自动尝试家族中下一个最新的模型。 ## 你看到什么、付多少钱 响应中的 `model` 字段是实际作答的具体模型,例如 `google/gemini-3.8-flash`,因此日志和评测保持真实。计费按该模型的价格。 共有 19 个别名: `google/gemini-flash-latest`, `google/gemini-flash-lite-latest`, `google/gemini-pro-latest`, `google/gemma-latest`, `deepseek/deepseek-latest`, `deepseek/deepseek-flash-latest`, `anthropic/claude-opus-latest`, `anthropic/claude-sonnet-latest`, `anthropic/claude-haiku-latest`, `openai/gpt-latest`, `openai/gpt-mini-latest`, `openai/gpt-nano-latest`, `qwen/qwen-max-latest`, `qwen/qwen-plus-latest`, `qwen/qwen-flash-latest`, `z-ai/glm-latest`, `z-ai/glm-flash-latest`, `moonshotai/kimi-latest` 和 `x-ai/grok-latest`. 别名可能在不通知的情况下指向更新的模型,这可能改变输出风格、价格或支持的参数。需要稳定行为的场景请固定具体 ID。你自己发送的 `models` 回退列表优先。 ## 试一试 ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text, response } = await generateText({ model: anyrouter("anthropic/claude-sonnet-latest"), prompt: "用三个要点总结这次 diff。", }) console.log(text, response.modelId) ``` _使用 latest 别名调用 generateText。_ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-sonnet-latest" ``` _通过 anyr CLI 使用编码代理。_ - [发布说明 — 正式上线说明。](https://anyrouter.dev/blog/releases/2026-09-30-latest-aliases) - [文档 — 别名如何解析。](https://anyrouter.dev/docs/features/latest-model-aliases) - [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) 和 [coding agents](https://anyrouter.dev/use-cases/coding-agents). 没有终端?打开 Playground 发送第一条消息。 [在 Playground 中试用](https://anyrouter.dev/playground?model=google/gemini-flash-latest) --- # Alias latest: gọi tên một họ model, luôn có model đang chạy > Model có thể bị gỡ hoặc gặp sự cố. Alias -latest gọi model mới nhất đang khả dụng trong họ, bỏ qua model đã chết và tính phí theo model đã trả lời. - Date: September 30, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/latest-model-aliases ## ID cố định sẽ hỏng Nếu code ghim `google/gemini-3.5-flash`, bạn phải sửa mỗi khi có bản Flash mới hơn, và nó sẽ hỏng ngay ngày model đó bị gỡ hoặc gặp sự cố. Alias latest gọi tên một họ model. Gửi `google/gemini-flash-latest` và AnyRouter sẽ gọi model Gemini Flash mới nhất có thể xử lý yêu cầu của bạn ngay lúc đó. Nếu nó không khả dụng, AnyRouter tự động thử model mới nhất kế tiếp trong họ. ## Bạn thấy gì và trả bao nhiêu Trường `model` trong phản hồi là model cụ thể đã trả lời, ví dụ `google/gemini-3.8-flash`, nên log và đánh giá luôn trung thực. Thanh toán theo giá của model đó. Có 19 alias: `google/gemini-flash-latest`, `google/gemini-flash-lite-latest`, `google/gemini-pro-latest`, `google/gemma-latest`, `deepseek/deepseek-latest`, `deepseek/deepseek-flash-latest`, `anthropic/claude-opus-latest`, `anthropic/claude-sonnet-latest`, `anthropic/claude-haiku-latest`, `openai/gpt-latest`, `openai/gpt-mini-latest`, `openai/gpt-nano-latest`, `qwen/qwen-max-latest`, `qwen/qwen-plus-latest`, `qwen/qwen-flash-latest`, `z-ai/glm-latest`, `z-ai/glm-flash-latest`, `moonshotai/kimi-latest` và `x-ai/grok-latest`. Alias có thể chuyển sang model mới hơn mà không báo trước, điều này có thể đổi phong cách đầu ra, giá hoặc tham số được hỗ trợ. Hãy ghim ID cụ thể cho workload cần hành vi ổn định. Danh sách `models` dự phòng do bạn tự gửi được ưu tiên. ## Thử ngay ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text, response } = await generateText({ model: anyrouter("anthropic/claude-sonnet-latest"), prompt: "Tóm tắt diff này trong ba gạch đầu dòng.", }) console.log(text, response.modelId) ``` _generateText với alias latest._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-sonnet-latest" ``` _Một coding agent qua anyr CLI._ - [Ghi chú phát hành — bản thông báo chính thức.](https://anyrouter.dev/blog/releases/2026-09-30-latest-aliases) - [Tài liệu — cách alias được phân giải.](https://anyrouter.dev/docs/features/latest-model-aliases) - [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) và [coding agents](https://anyrouter.dev/use-cases/coding-agents). Không có terminal? Mở playground và gửi tin nhắn đầu tiên. [Thử trong playground](https://anyrouter.dev/playground?model=google/gemini-flash-latest) --- # anyr decision puts structured decisions in your terminal > Run TypeSafe Jev, Fastino GLiNER2.5-Decide, or the anyrouter/decision preset with one native CLI command instead of forcing decision models through a chat agent. - Date: September 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/anyr-decision-cli ## A decision is not a chat completion The [Decisions family](https://anyrouter.dev/apps/decisions) evaluates application `state` against typed `noul`, `choice`, and `score` questions. That contract is available through `POST /api/v1/decisions`; it is not an OpenAI messages payload. Use [`typesafe/jev`](https://anyrouter.dev/model/typesafe/jev), [`fastino/gliner2.5-multi-v1`](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1), or [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision) for auto-routing across the decision models your keys can reach. Model pages now lead with the native command and raw request samples instead of chat-agent launchers. ## One command from the CLI Install `anyr`, sign in, then choose an exact model: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model typesafe/jev ``` _Run Jev through the native Decisions client._ The command uses the same Decisions endpoint and structured response as the API, so the result is typed answers rather than generated chat text. ## The SDK surface follows the API For application code, the model page also shows a raw `fetch` sample with `state` and `questions`. Chat SDK samples are intentionally omitted because they call the wrong endpoint for this model family. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "typesafe/jev", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?", }, }, }), }) console.log(await res.json()) ``` _POST a Decisions request from TypeScript._ Read the [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) or open the [full Decisions app](https://anyrouter.dev/apps/decisions). Release details: [Decisions family + anyr decision](https://anyrouter.dev/blog/releases/2026-09-25). --- # anyr decision:在终端运行结构化决策 > 用一条原生 CLI 命令运行 TypeSafe Jev、Fastino GLiNER2.5-Decide 或 anyrouter/decision,不再把决策模型塞进聊天代理。 - Date: September 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/anyr-decision-cli ## 决策不是聊天补全 [Decisions 模型家族](https://anyrouter.dev/apps/decisions)会根据应用 `state` 回答类型化的 `noul`、`choice` 和 `score` 问题。这个契约使用 `POST /api/v1/decisions`,不是 OpenAI messages 请求。 可以直接选择 [`typesafe/jev`](https://anyrouter.dev/model/typesafe/jev)、[`fastino/gliner2.5-multi-v1`](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1),或用 [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision) 在当前密钥可用的决策模型之间自动路由。模型页现在优先展示原生命令和真实请求示例。 ## 一条 CLI 命令 ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model typesafe/jev ``` _通过原生 Decisions 客户端运行 Jev。_ 结果与 API 一样是带类型的答案,而不是生成的聊天文本。 ## SDK 示例遵循 API 契约 模型页也提供带 `state` 和 `questions` 的原生 `fetch` 示例。聊天 SDK 会调用错误端点,因此这里不再展示。 ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "typesafe/jev", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?", }, }, }), }) console.log(await res.json()) ``` _从 TypeScript 发送 Decisions 请求。_ 查看 [Decisions API 文档](https://anyrouter.dev/docs/api-reference/systemone)或打开[完整 Decisions 应用](https://anyrouter.dev/apps/decisions)。发布说明:[Decisions family + anyr decision](https://anyrouter.dev/blog/releases/2026-09-25)。 --- # anyr decision đưa quyết định có cấu trúc vào terminal > Chạy TypeSafe Jev, Fastino GLiNER2.5-Decide hoặc anyrouter/decision bằng một lệnh CLI native, không ép mô hình quyết định vào trợ lý chat. - Date: September 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/anyr-decision-cli ## Quyết định không phải chat completion [Họ Decisions](https://anyrouter.dev/apps/decisions) đánh giá `state` của ứng dụng theo các câu hỏi có kiểu `noul`, `choice` và `score`. Hợp đồng này dùng `POST /api/v1/decisions`, không phải payload messages của OpenAI. Chọn [`typesafe/jev`](https://anyrouter.dev/model/typesafe/jev), [`fastino/gliner2.5-multi-v1`](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1), hoặc [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision) để tự động định tuyến qua các mô hình quyết định mà khóa của bạn có thể dùng. Trang mô hình nay ưu tiên lệnh native và request thật. ## Một lệnh CLI ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model typesafe/jev ``` _Chạy Jev bằng client Decisions native._ Kết quả có cấu trúc giống API, không phải văn bản chat được sinh ra. ## SDK bám theo API Trang mô hình cũng hiển thị mẫu `fetch` native với `state` và `questions`. Các mẫu chat SDK bị bỏ vì chúng gọi sai endpoint cho họ mô hình này. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "typesafe/jev", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?", }, }, }), }) console.log(await res.json()) ``` _Gửi Decisions request từ TypeScript._ Đọc [tài liệu Decisions API](https://anyrouter.dev/docs/api-reference/systemone) hoặc mở [ứng dụng Decisions đầy đủ](https://anyrouter.dev/apps/decisions). Chi tiết phát hành: [Decisions family + anyr decision](https://anyrouter.dev/blog/releases/2026-09-25). --- # Jev Decisions is now on its model page > Jev turns application state and typed questions into structured answers with probabilities. Try the new model-page demo, the full Decisions app, or the playground. - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/jev-decisions ## Structured decisions, not chat text [Jev](https://anyrouter.dev/model/typesafe/jev) is AnyRouter's TypeSafe decision model. Send application `state` plus typed `noul`, `choice`, and `score` questions to `POST /api/v1/decisions`; the response is structured answers with probabilities instead of generated chat text. The [Jev model page](https://anyrouter.dev/model/typesafe/jev) now includes the same compact one-box Decisions demo as the [full Decisions app](https://anyrouter.dev/apps/decisions). You can inspect the request and response in place, then use the direct CTA when you want the model selected in the [playground](https://anyrouter.dev/playground?model=typesafe/jev). ![Jev Decisions one-box demo embedded on the typesafe/jev model page, with the direct Try in playground and Full app links.](https://anyrouter.dev/screenshots/jev-decisions-model-page-2026-09.png) _The Decisions model-page card keeps the embedded one-box demo and adds a direct path to the same model in the playground._ ## Three ways to try it - [Model page](https://anyrouter.dev/model/typesafe/jev) — read the model details and run the compact embedded demo. - [Decisions app](https://anyrouter.dev/apps/decisions) — open the full mini-app for the same request/response workflow. - [Playground](https://anyrouter.dev/playground?model=typesafe/jev) — start with `typesafe/jev` already selected. The model-page CTA selects Jev in the playground; it does not add a second Decisions demo. [Try in playground](https://anyrouter.dev/playground?model=typesafe/jev) --- # Jev Decisions 已上线模型页 > Jev 把应用状态和类型化问题转换为带概率的结构化答案。现在可以在模型页、完整 Decisions 应用和 playground 里试用。 - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/jev-decisions ## 结构化决策,而不是聊天文本 [Jev](https://anyrouter.dev/model/typesafe/jev) 是 AnyRouter 的 TypeSafe 决策模型。向 `POST /api/v1/decisions` 发送应用 `state` 和类型化的 `noul`、`choice`、`score` 问题,响应会返回带概率的结构化答案,而不是生成的聊天文本。 [Jev 模型页](https://anyrouter.dev/model/typesafe/jev) 现在嵌入与[完整 Decisions 应用](https://anyrouter.dev/apps/decisions)相同的紧凑 one-box 演示。你也可以直接进入已选中 Jev 的 [playground](https://anyrouter.dev/playground?model=typesafe/jev)。 ![typesafe/jev 模型页上的 Jev Decisions one-box 演示,以及 Try in playground 和 Full app 链接。](https://anyrouter.dev/screenshots/jev-decisions-model-page-2026-09.png) _模型页保留一个嵌入的 one-box 演示,并增加直接进入 playground 的路径。_ ## 三种试用方式 - [模型页](https://anyrouter.dev/model/typesafe/jev):查看模型信息并试用嵌入式演示。 - [Decisions 应用](https://anyrouter.dev/apps/decisions):打开完整的 mini-app。 - [Playground](https://anyrouter.dev/playground?model=typesafe/jev):打开时已选中 `typesafe/jev`。 --- # Jev Decisions đã có trên trang model > Jev biến trạng thái ứng dụng và câu hỏi có kiểu thành câu trả lời có cấu trúc kèm xác suất. Hãy thử trên trang model, app Decisions hoặc playground. - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/jev-decisions ## Quyết định có cấu trúc, không phải chat text [Jev](https://anyrouter.dev/model/typesafe/jev) là model quyết định TypeSafe của AnyRouter. Gửi `state` ứng dụng cùng câu hỏi `noul`, `choice` và `score` có kiểu tới `POST /api/v1/decisions`; phản hồi là câu trả lời có cấu trúc kèm xác suất, không phải chat text do model sinh ra. [Trang model Jev](https://anyrouter.dev/model/typesafe/jev) nay nhúng bản demo one-box gọn giống [app Decisions](https://anyrouter.dev/apps/decisions). Bạn cũng có thể mở thẳng [playground](https://anyrouter.dev/playground?model=typesafe/jev) với Jev đã được chọn. ![Bản demo Jev Decisions one-box trên trang model typesafe/jev, với liên kết Try in playground và Full app.](https://anyrouter.dev/screenshots/jev-decisions-model-page-2026-09.png) _Trang model giữ một bản demo one-box nhúng và thêm đường dẫn trực tiếp tới playground._ ## Ba cách thử - [Trang model](https://anyrouter.dev/model/typesafe/jev): đọc chi tiết và thử bản demo nhúng. - [App Decisions](https://anyrouter.dev/apps/decisions): mở mini-app đầy đủ. - [Playground](https://anyrouter.dev/playground?model=typesafe/jev): mở với `typesafe/jev` đã chọn. --- # Space Bunny Alpha is free on AnyRouter > The anonymous stealth preview is live with a 1M-token context, adjustable reasoning, multimodal input, and $0/$0 catalog routes while it is cloaked. - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/space-bunny-alpha ## A free stealth preview [`stealth/space-bunny-alpha`](https://anyrouter.dev/model/stealth/space-bunny-alpha) is the anonymous frontier-class preview now listed on AnyRouter. The catalog description says it has fast inference, strong coding capabilities, and native text, image, and video input with text output. It always uses reasoning with adjustable effort and has a 1M-token context window. The current catalog routes are $0 input / $0 output while the model is cloaked, with platform hops through OpenRouter, Nous, and OpenCode Zen plus BYOK mirrors. This is a preview fact, not a promise that a cloaked model's availability or price will stay unchanged. ## Try the model - [Release note](https://anyrouter.dev/blog/releases/2026-09-24) — the canonical launch note. - [Model page](https://anyrouter.dev/model/stealth/space-bunny-alpha) — the live catalog id and current routes. - [Playground](https://anyrouter.dev/playground?model=stealth/space-bunny-alpha) — open with `stealth/space-bunny-alpha` selected. For code, use the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk); for an agent, see the [coding-agent playbook](https://anyrouter.dev/use-cases/coding-agents). Space Bunny Alpha is a stealth preview. Use the live model page and release note for the current route status. [View model page](https://anyrouter.dev/model/stealth/space-bunny-alpha) --- # Space Bunny Alpha 已在 AnyRouter 免费提供 > 这个匿名 stealth 预览模型已上线,拥有 1M token 上下文、可调 reasoning、多模态输入,以及 cloaked 期间 $0/$0 的目录路由。 - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/space-bunny-alpha ## 免费的 stealth 预览模型 [`stealth/space-bunny-alpha`](https://anyrouter.dev/model/stealth/space-bunny-alpha) 是现在列在 AnyRouter 的匿名 frontier-class 预览模型。目录说明显示它来自 OpenRouter stealth slot,支持快速推理、较强的 coding 能力,以及原生 text、image、video 输入和 text 输出。 它始终使用 reasoning,并支持调节 effort;上下文窗口为 1M token。模型 cloaked 期间,当前目录路由的输入/输出价格为 $0/$0,平台 hop 包括 OpenRouter、Nous 和 OpenCode Zen,同时提供 BYOK 镜像。 ## 立即试用 - [发布说明](https://anyrouter.dev/blog/releases/2026-09-24)。 - [模型页](https://anyrouter.dev/model/stealth/space-bunny-alpha)。 - [Playground](https://anyrouter.dev/playground?model=stealth/space-bunny-alpha)。 代码可使用 [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) 或 [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk);agent 用法见 [coding-agent 指南](https://anyrouter.dev/use-cases/coding-agents)。 --- # Space Bunny Alpha đã miễn phí trên AnyRouter > Bản preview stealth ẩn danh đã ra mắt với context 1M token, reasoning có thể điều chỉnh, đầu vào đa phương tiện và route catalog $0/$0 khi còn cloaked. - Date: September 24, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/space-bunny-alpha ## Một bản preview stealth miễn phí [`stealth/space-bunny-alpha`](https://anyrouter.dev/model/stealth/space-bunny-alpha) là bản preview frontier-class ẩn danh hiện đã có trên AnyRouter. Mô tả catalog nói model đến từ stealth slot của OpenRouter, có inference nhanh, năng lực coding mạnh và nhận text, image, video natively; đầu ra là text. Model luôn dùng reasoning với effort có thể điều chỉnh và có context 1M token. Khi còn cloaked, route catalog hiện tại là $0 input / $0 output, qua các platform hop OpenRouter, Nous và OpenCode Zen, kèm BYOK mirror. ## Thử model - [Release note](https://anyrouter.dev/blog/releases/2026-09-24). - [Model page](https://anyrouter.dev/model/stealth/space-bunny-alpha). - [Playground](https://anyrouter.dev/playground?model=stealth/space-bunny-alpha). Với code, dùng [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) hoặc [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk); với agent, xem [coding-agent playbook](https://anyrouter.dev/use-cases/coding-agents). --- # A shared key pool, and a free-token pool on the other side > AnyRouter started as one URL in front of many models. The part that actually matters is the pool: people donate spare provider keys, the gateway routes around them, and everyone else draws a free-token pool instead of hunting for a working key. - Date: September 9, 2026 - Category: product - HTML: https://anyrouter.dev/blog/intro ## The idea, without the pitch deck I got tired of wiring a new SDK every time a model was worth trying. Each provider has its own key, its own 429, its own way of saying no. You either collect keys like baseball cards or you pick one vendor and hope they stay up. AnyRouter is the boring fix: one OpenAI- and Anthropic-compatible URL. Point Claude Code, Cursor, the AI SDK, or a raw curl at [anyrouter.dev](https://anyrouter.dev) and pick a model id. Failover is the gateway's job. You should not see the hops. That is table stakes. The interesting part is what sits behind the URL. ## Spare keys sitting idle A lot of us already pay for a provider plan — Gemini, a Z.ai coding sub, a Moonshot key, an NVIDIA NIM trial — and then barely touch the quota. That headroom expires. Meanwhile someone else is stuck on a 429. The shared pool is the swap. You add a key under BYOK, flip Donate to pool, and confirm once that other people's requests may go through it. The gateway picks a donated key, sends the call upstream, and you earn pending credits from the traffic — capped at $1 per key per UTC day. That dollar is a donor cap, not a plan price. Details and the click-by-click: [Donate an idle provider key](https://anyrouter.dev/blog/shared-key-pool) and the donate page at [anyrouter.dev/donate](https://anyrouter.dev/donate). ## What users get: a free-token pool On the other side of those donated keys is the reason the product exists: a pool of tokens people can actually spend without shopping for a working key first. Sign in, take a key from the dashboard, and route. Pool-backed models are the ones the donated keys feed. Reciprocity still applies — to keep drawing from the pool you keep at least one donated key of your own healthy. That gate is live; it is not a slogan. If you would rather not donate, paid Go is the other door. Live numbers live on [Pricing](https://anyrouter.dev/pricing), not in a blog post that will rot. Older cards that say $1 Go are wrong. The donor $1/day cap is not Go. Credits, invoices, and plan balances: the dashboard. Canonical plan copy: [docs — pricing](https://anyrouter.dev/docs/features/pricing). ## How a request actually moves One contract in. Ranked upstreams. If the first key 429s or 401s, the next one runs. The client sees one response. ```mermaid flowchart LR C["Your client"] -->|"one base URL"| GW["AnyRouter"] GW --> P["Shared key pool"] P --> D1["Donated key A"] P --> D2["Donated key B"] D1 --> T["Tokens back to the pool"] D2 --> T T --> C ``` _Donated keys in; free-token pool out. The client never picks a donor._ _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ ## What we are not claiming - No invented MAU, token, or uptime numbers in this post. If a figure is not on pricing, donate, or the dashboard, it does not belong here. - Checkout is Polar card. No Alipay, no WeChat. - Donating a key is not a ToS blessing from the upstream. That part is on you. ## If you want to try it Three honest paths: 1. Sign in at [anyrouter.dev](https://anyrouter.dev) and grab a key. 2. Donate a spare provider key at [anyrouter.dev/donate](https://anyrouter.dev/donate) — that is also how you unlock Go without a card. Walkthrough: [Donate a key for Go](https://anyrouter.dev/blog/donate-a-key-for-go). 3. Or pay on [Pricing](https://anyrouter.dev/pricing) and spend credits. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"google/gemini-3.5-flash","messages":[{"role":"user","content":"Hi"}]}' ``` _Same contract as every other post — anyrouter.dev only._ --- # 共享 key 池,另一头是给用户的免费 token 池 > AnyRouter 一开始只是「一个 URL 打到很多模型」。真正要紧的是池子:有人把闲置的供应商 key 捐进来,网关在这些 key 之间调度,其他人不用自己去找一把还能用的 key,就能从免费 token 池里取用量。 - Date: September 9, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/intro ## 想法本身,不配简报 我懒得每换一个值得试的模型就接一套新 SDK。每家供应商一把 key、一种 429、一种拒绝方式。你要么把 key 当棒球卡攒,要么押一家供应商,盼着它别挂。 AnyRouter 是那个无聊的修法:一个兼容 OpenAI 和 Anthropic 的 URL。把 Claude Code、Cursor、AI SDK 或裸 curl 指到 [anyrouter.dev](https://anyrouter.dev),选一个 model id。失败切换是网关的事。你不该看见那些跳。 这些只是入场条件。有意思的是 URL 后面坐着什么。 ## 闲着的 key 很多人已经在付供应商的账——Gemini、Z.ai 的编程订阅、Moonshot、NVIDIA NIM 试用——配额却几乎不用。额度到期作废。另一边有人卡在 429。 共享池就是这场交换。你在 BYOK 里加上 key,打开 Donate to pool,确认一次别人的请求可能打到这把 key。网关挑一把捐来的 key,把调用打到上游,流量给你记 pending 额度——每把 key 每个 UTC 日上限 $1。这个 $1 是捐赠上限,不是套餐价。 逐步说明:[把闲置供应商 key 捐进池](https://anyrouter.dev/blog/zh/shared-key-pool),捐赠页 [anyrouter.dev/donate](https://anyrouter.dev/donate)。 ## 用户拿到的:免费 token 池 那些捐进来的 key 的另一头,才是这产品存在的理由:一池别人真能花的 token,不用先满世界找还能用的 key。 登录,从控制台拿一把 AnyRouter key,再路由。带 -pool 的模型就是捐赠 key 在喂的。互惠仍然有效——要从池子里取,你自己至少得留一把健康的捐赠 key。这道闸是活的,不是口号。 不想捐,就走付费 Go。活数字在 [定价](https://anyrouter.dev/pricing),不写在这篇会过期的博客里。旧卡片写 $1 Go 的,是错的。捐赠的每天 $1 上限也不是 Go。 额度、账单、套餐余额:控制台。套餐原文:[文档 · 定价](https://anyrouter.dev/docs/features/pricing)。 ## 请求实际怎么走 一个约定进去。按序尝试上游。第一把 key 429 或 401,就换下一把。客户端只看见一个响应。 ```mermaid flowchart LR C["Your client"] -->|"one base URL"| GW["AnyRouter"] GW --> P["Shared key pool"] P --> D1["Donated key A"] P --> D2["Donated key B"] D1 --> T["Tokens back to the pool"] D2 --> T T --> C ``` _捐进来的 key;出去的是免费 token 池。客户端不挑捐赠者。_ _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ ## 这篇不编什么 - 没有编造的 MAU、token 或可用性数字。定价页、捐赠页、控制台上看不到的数字,这里也不该出现。 - 结账只走 Polar 卡。没有支付宝,也没有微信。 - 捐 key 不等于上游 ToS 允许你分享。那部分你自己负责。 ## 想试的话 三条老实路: 1. 到 [anyrouter.dev](https://anyrouter.dev) 登录,拿一把 key。 2. 在 [anyrouter.dev/donate](https://anyrouter.dev/donate) 捐一把闲置供应商 key——这也是不绑卡开通 Go 的办法。流程:[捐一把 key 换 Go](https://anyrouter.dev/blog/zh/donate-a-key-for-go)。 3. 或者直接在 [定价](https://anyrouter.dev/pricing) 付费,花额度。 ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"google/gemini-3.5-flash","messages":[{"role":"user","content":"Hi"}]}' ``` _和别的文章同一套约定——只用 anyrouter.dev。_ --- # Một pool key dùng chung, và một pool token miễn phí phía bên kia > AnyRouter bắt đầu như một URL đứng trước nhiều model. Phần quan trọng thật sự là cái pool: người ta góp key nhà cung cấp đang dư, gateway điều phối quanh chúng, và người khác lấy token từ pool miễn phí thay vì tự đi tìm một key còn chạy được. - Date: September 9, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/intro ## Ý tưởng, không có slide bán hàng Tôi chán phải gắn SDK mới mỗi lần có model đáng thử. Mỗi nhà cung cấp một key, một kiểu 429, một cách nói không. Hoặc bạn sưu tầm key như thẻ bài, hoặc chọn một hãng rồi cầu họ đừng sập. AnyRouter là cách sửa nhàm chán: một URL tương thích OpenAI và Anthropic. Chỉ Claude Code, Cursor, AI SDK hoặc curl trần vào [anyrouter.dev](https://anyrouter.dev) rồi chọn model id. Failover là việc của gateway. Bạn không cần thấy các bước nhảy. Đó là mặt bằng. Phần thú vị nằm sau URL. ## Key để không Nhiều người đã trả tiền gói nhà cung cấp — Gemini, sub coding Z.ai, Moonshot, dùng thử NVIDIA NIM — rồi gần như không đụng hạn mức. Phần dư hết hạn. Trong lúc đó người khác kẹt 429. Pool dùng chung là cuộc đổi. Bạn thêm key trong BYOK, bật Donate to pool, xác nhận một lần rằng request của người khác có thể đi qua key đó. Gateway chọn một key đã góp, gửi call lên upstream, và bạn nhận credit đang chờ từ lưu lượng đó — trần $1 mỗi key mỗi ngày UTC. Một đô đó là trần cho người góp, không phải giá gói. Chi tiết từng bước: [Góp key nhà cung cấp đang nhàn](https://anyrouter.dev/blog/vi/shared-key-pool) và trang góp [anyrouter.dev/donate](https://anyrouter.dev/donate). ## Phía người dùng: pool token miễn phí Phía bên kia những key được góp mới là lý do sản phẩm tồn tại: một pool token người ta thật sự tiêu được, không phải đi săn key còn sống trước. Đăng nhập, lấy key trên dashboard, rồi route. Model gắn pool là những model do key góp nuôi. Có đi có lại vẫn áp dụng — muốn lấy từ pool thì bạn giữ ít nhất một key đã góp còn khỏe. Cổng đó đang chạy, không phải khẩu hiệu. Không muốn góp thì Go trả phí là cửa còn lại. Số liệu sống nằm ở [Bảng giá](https://anyrouter.dev/pricing), không nằm trong bài blog sẽ cũ. Card cũ viết $1 Go là sai. Trần $1/ngày của người góp không phải Go. Credit, hóa đơn, số dư gói: dashboard. Copy gói chuẩn: [docs — pricing](https://anyrouter.dev/docs/features/pricing). ## Request thực sự đi thế nào Một contract vào. Upstream xếp hạng. Key đầu 429 hoặc 401 thì key kế chạy. Client thấy một response. ```mermaid flowchart LR C["Your client"] -->|"one base URL"| GW["AnyRouter"] GW --> P["Shared key pool"] P --> D1["Donated key A"] P --> D2["Donated key B"] D1 --> T["Tokens back to the pool"] D2 --> T T --> C ``` _Key góp vào; pool token miễn phí ra. Client không chọn người góp._ _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ ## Bài này không bịa gì - Không bịa MAU, token, hay uptime. Số không có trên pricing, donate, hay dashboard thì không có chỗ ở đây. - Thanh toán Polar bằng thẻ. Không Alipay, không WeChat. - Góp key không phải giấy phép ToS từ upstream. Phần đó thuộc về bạn. ## Nếu muốn thử Ba đường thẳng: 1. Đăng nhập [anyrouter.dev](https://anyrouter.dev) và lấy một key. 2. Góp một key nhà cung cấp dư tại [anyrouter.dev/donate](https://anyrouter.dev/donate) — cũng là cách mở Go không cần thẻ. Hướng dẫn: [Góp key để lấy Go](https://anyrouter.dev/blog/vi/donate-a-key-for-go). 3. Hoặc trả trên [Bảng giá](https://anyrouter.dev/pricing) rồi tiêu credit. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"google/gemini-3.5-flash","messages":[{"role":"user","content":"Hi"}]}' ``` _Cùng contract với mọi bài khác — chỉ anyrouter.dev._ --- # AnyRouter vs OpenRouter: a sourced comparison and migration guide > Fees, BYOK, free-model limits and plans for AnyRouter and OpenRouter, each OpenRouter figure linked to its source and dated. Plus the base URL and key swap to move over. - Date: October 16, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/anyrouter-vs-openrouter ## What they have in common Both put one OpenAI-compatible API in front of many providers, so changing models is a string change. OpenRouter says it is a [drop-in replacement for OpenAI](https://openrouter.ai/docs/faq) and offers [hundreds of models](https://openrouter.ai/docs/quickstart) behind one endpoint. AnyRouter's catalog is live at [anyrouter.dev/models](https://anyrouter.dev/models), with prices per 1M tokens. OpenRouter figures on this page were read from the linked pages on November 16, 2026. Where we could not source a claim about OpenRouter, we left it out. ## Side by side | | AnyRouter | OpenRouter | | --- | --- | --- | | Buying credits | The card processor's 5% + $0.50 is added at checkout. AnyRouter keeps none of it. ([source](https://anyrouter.dev/docs/features/credits)) | 5.5% ($0.80 minimum) fee when you purchase credits. Crypto is 5%. ([source](https://openrouter.ai/docs/faq)) | | Your own provider keys (BYOK) | No AnyRouter fee, at any volume. ([source](https://anyrouter.dev/docs/features/byok)) | No fee up to $25,000 a month of list-price inference on pay-as-you-go, then 5% of what the same model would cost on OpenRouter. ([source](https://openrouter.ai/docs/guides/overview/auth/byok)) | | Free models | Free models need Go or higher: no daily cap, 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Go is $2 a month, or free with one donated working provider key. The Free plan is a 5-request trial on free and decision models. ([source](https://anyrouter.dev/docs/features/free-tier)) | `:free` models: 20 requests per minute. 50 a day with under $10 of credits bought, 1,000 a day after $10. ([source](https://openrouter.ai/docs/api-reference/limits)) | | Plans | Free, Go ($2/mo, $2.63 charged, $4 credits), Pro, Pro+ and Max. ([source](https://anyrouter.dev/pricing)) | Free, Standard (pay-as-you-go), Business (pay-as-you-go) and Enterprise. No monthly subscription price is listed, with no minimums and no lock-in. ([source](https://openrouter.ai/pricing)) | | API compatibility | OpenAI-compatible at https://anyrouter.dev/api/v1. ([source](https://anyrouter.dev/docs/getting-started/quickstart)) | Described as a drop-in replacement for OpenAI. ([source](https://openrouter.ai/docs/faq)) | The two fee rows are close in size on a card purchase, so the fee is not a reason to pick either. The difference is who keeps it: on AnyRouter the processor takes it and we take nothing, on OpenRouter it is OpenRouter's fee. The BYOK row only matters if you spend heavily through your own keys. ## When OpenRouter is the better fit - You need a model that only one catalog lists. Check both lists for the exact ids you use before moving. - You are happy buying credits from one vendor and do not use your own provider keys or coding agents. - You already run on it and nothing in the table above is a problem for you. When AnyRouter fits better: you want free models without a daily cap, you route through your own keys, or you run Claude Code or Codex and want one command to set it up. ## Migrate: change the base URL and key For an OpenAI-compatible client, two values change. Everything else, including streaming and error handling, stays as it is. | Setting | OpenRouter | AnyRouter | | --- | --- | --- | | Base URL | `https://openrouter.ai/api/v1` | `https://anyrouter.dev/api/v1` | | API key | OpenRouter key | Your key, starting with `sk-ar-` | | Model | `provider/model` | `provider/model` from the AnyRouter catalog | ### Python ```python import os from openai import OpenAI # before: base_url="https://openrouter.ai/api/v1", api_key=OPENROUTER_API_KEY client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key=os.environ["ANYROUTER_API_KEY"], # sk-ar-... ) resp = client.chat.completions.create( model="anyrouter/free", messages=[{"role": "user", "content": "Say hello in one sentence."}], ) print(resp.choices[0].message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Say hello in one sentence."}] }' ``` ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` 1. Create a key in the [dashboard](https://anyrouter.dev/dashboard/keys) and store it as `ANYROUTER_API_KEY`. 2. Swap the base URL and key in your client config. 3. List the models you call with `GET https://anyrouter.dev/api/v1/models` and confirm each id exists. A few ids differ between catalogs, and an unknown id returns 404. 4. Keep your `provider` preferences (`only`, `ignore`, `order`, `sort`, `max_price`, `allow_fallbacks`) and your `HTTP-Referer` and `X-Title` headers. AnyRouter reads them. 5. Send one request and check it in your [request logs](https://anyrouter.dev/dashboard/logs). If your app signs users in with OpenRouter's OAuth PKCE flow, the same flow works here. Swap the host in the `/auth` URL and in the key exchange. The full steps, including price caps and fallbacks, are in the [migration guide](https://anyrouter.dev/docs/guides/migrate-from-openrouter). Try it first: a 5-request trial on free models, no card. [Create a key](https://anyrouter.dev/sign-up) --- # AnyRouter 对比 OpenRouter:带来源的对比和迁移指南 > AnyRouter 和 OpenRouter 的费用、BYOK、免费模型限制和套餐对比,每个 OpenRouter 数字都附来源链接和日期。另有迁移所需的 base URL 和 key 替换步骤。 - Date: October 16, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/anyrouter-vs-openrouter ## 两者的共同点 两者都在许多供应商前面提供一个兼容 OpenAI 的 API,所以换模型只是改一个字符串。OpenRouter 称自己是 [OpenAI 的直接替代](https://openrouter.ai/docs/faq),并在一个端点后提供[数百个模型](https://openrouter.ai/docs/quickstart)。AnyRouter 的目录在 [anyrouter.dev/models](https://anyrouter.dev/models) 实时更新,价格按每 1M token 计。 本页的 OpenRouter 数字都是在 2026 年 10 月 16 日 从链接页面读取的。凡是无法找到来源的 OpenRouter 说法,我们都没有写。 ## 并排对比 | | AnyRouter | OpenRouter | | --- | --- | --- | | 购买额度 | 结账时加收银行卡处理商的 5% + $0.50。AnyRouter 一分不留([额度文档](https://anyrouter.dev/docs/features/credits))。 | Standard 收 5.5% 手续费,最低 $0.80;Business 收 8%([FAQ](https://openrouter.ai/docs/faq)、[定价](https://openrouter.ai/pricing))。 | | 自带供应商 key(BYOK) | 任何用量都不收费([BYOK 文档](https://anyrouter.dev/docs/features/byok))。 | 每月标价推理用量 $25,000 以内不收费,超出部分收 5%([BYOK 文档](https://openrouter.ai/docs/guides/overview/auth/byok))。 | | 免费模型 | 免费模型需要 Go 或更高套餐:没有每日上限,Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次。Go 每月 $2,捐一把能用的供应商 key 则免费([免费层](https://anyrouter.dev/docs/features/free-tier))。 | `:free` 模型:每分钟 20 次请求;每天 50 次,购买过 $10 额度后每天 1,000 次([限制](https://openrouter.ai/docs/api-reference/limits))。 | | 套餐 | Free、Go($2/月,实收 $2.63,含 $4 额度)、Pro、Pro+ 和 Max。见[定价](https://anyrouter.dev/pricing)。 | Standard 和 Business 按量付费,Free 不收费,另有按合同的 Enterprise。定价页没有列出任何一个的月费([定价](https://openrouter.ai/pricing))。 | 刷卡购买时两行手续费的大小接近,所以手续费不是选择任何一方的理由。区别在于谁拿走它:在 AnyRouter,处理商收走,我们不收;在 OpenRouter,那是 OpenRouter 的费用。BYOK 这一行只有在你通过自己的 key 大量消费时才有意义。 ## 什么时候 OpenRouter 更合适 - 你需要某个只有一边目录里有的模型。迁移前请在两边的列表里核对你用到的确切 id。 - 你乐于向一个供应商购买额度,不使用自己的供应商 key,也不用编码代理。 - 你已经在用它,上表里没有任何一项对你构成问题。 AnyRouter 更合适的情况:你想要没有每日上限的免费模型,你通过自己的 key 路由,或者你运行 Claude Code 或 Codex,并希望用一条命令完成设置。 ## 迁移:改 base URL 和 key 对兼容 OpenAI 的客户端,只需改两个值。其余一切,包括流式输出和错误处理,都保持不变。 | 设置 | OpenRouter | AnyRouter | | --- | --- | --- | | Base URL | `https://openrouter.ai/api/v1` | `https://anyrouter.dev/api/v1` | | API key | OpenRouter key | 你的 key,以 `sk-ar-` 开头 | | 模型 | `provider/model` | AnyRouter 目录中的 `provider/model` | ### Python ```python import os from openai import OpenAI # before: base_url="https://openrouter.ai/api/v1", api_key=OPENROUTER_API_KEY client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key=os.environ["ANYROUTER_API_KEY"], # sk-ar-... ) resp = client.chat.completions.create( model="anyrouter/free", messages=[{"role": "user", "content": "Say hello in one sentence."}], ) print(resp.choices[0].message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Say hello in one sentence."}] }' ``` ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` 1. 在[控制台](https://anyrouter.dev/dashboard/keys)创建 key,并保存为 `ANYROUTER_API_KEY`。 2. 在客户端配置里替换 base URL 和 key。 3. 用 `GET https://anyrouter.dev/api/v1/models` 列出你调用的模型,确认每个 id 都存在。有些 id 在两个目录之间不同,未知 id 会返回 404。 4. 保留你的 `provider` 偏好(`only`、`ignore`、`order`、`sort`、`max_price`、`allow_fallbacks`)以及 `HTTP-Referer` 和 `X-Title` 请求头。AnyRouter 会读取它们。 5. 发一个请求,在[请求日志](https://anyrouter.dev/dashboard/logs)里确认。 如果你的应用用 OpenRouter 的 OAuth PKCE 流程让用户登录,同样的流程在这里也适用。替换 `/auth` URL 和密钥交换中的主机即可。完整步骤,包括价格上限和回退,见[迁移指南](https://anyrouter.dev/docs/guides/migrate-from-openrouter)。 先在免费模型上试:一个 key,不需要绑卡。 [创建 key](https://anyrouter.dev/sign-up) --- # AnyRouter vs OpenRouter: so sánh có nguồn và hướng dẫn chuyển đổi > Phí, BYOK, giới hạn model miễn phí và các gói của AnyRouter và OpenRouter, mỗi con số của OpenRouter đều có liên kết nguồn và ngày đọc. Kèm cách đổi base URL và key để chuyển sang. - Date: October 16, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/anyrouter-vs-openrouter ## Điểm chung Cả hai đặt một API tương thích OpenAI phía trước nhiều nhà cung cấp, nên đổi model chỉ là đổi một chuỗi. OpenRouter nói họ là [bản thay thế trực tiếp cho OpenAI](https://openrouter.ai/docs/faq) và cung cấp [hàng trăm model](https://openrouter.ai/docs/quickstart) sau một endpoint. Catalog của AnyRouter có sẵn ở [anyrouter.dev/models](https://anyrouter.dev/models), với giá trên mỗi 1M token. Các con số của OpenRouter trên trang này được đọc từ các trang đã liên kết vào 16 tháng 10, 2026. Với những điều về OpenRouter mà chúng tôi không tìm được nguồn, chúng tôi bỏ ra ngoài. ## So sánh song song | | AnyRouter | OpenRouter | | --- | --- | --- | | Mua credit | Phí 5% + $0.50 của bên xử lý thẻ được cộng vào lúc thanh toán. AnyRouter không giữ phần nào ([tài liệu credits](https://anyrouter.dev/docs/features/credits)). | Phí 5.5% ở gói Standard, tối thiểu $0.80; 8% ở gói Business ([FAQ](https://openrouter.ai/docs/faq), [bảng giá](https://openrouter.ai/pricing)). | | Key nhà cung cấp của riêng bạn (BYOK) | Không phí, ở mọi mức dùng ([tài liệu BYOK](https://anyrouter.dev/docs/features/byok)). | Không phí tới $25,000 mỗi tháng suy luận tính theo giá niêm yết, sau đó 5% ([tài liệu BYOK](https://openrouter.ai/docs/guides/overview/auth/byok)). | | Model miễn phí | Model miễn phí cần Go trở lên: không giới hạn theo ngày, 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max. Go là $2/tháng, hoặc miễn phí khi góp một key nhà cung cấp còn chạy ([gói miễn phí](https://anyrouter.dev/docs/features/free-tier)). | Các model `:free`: 20 request mỗi phút; 50 mỗi ngày, hoặc 1,000 mỗi ngày khi bạn đã mua $10 credit ([giới hạn](https://openrouter.ai/docs/api-reference/limits)). | | Gói | Free, Go ($2/tháng, tính $2.63, $4 credit), Pro, Pro+ và Max. Xem [bảng giá](https://anyrouter.dev/pricing). | Standard và Business là trả theo mức dùng, Free không thu tiền, cộng Enterprise theo hợp đồng. Trang giá không ghi giá hằng tháng cho gói nào ([bảng giá](https://openrouter.ai/pricing)). | Hai hàng về phí có mức gần nhau khi mua bằng thẻ, nên phí không phải lý do để chọn bên nào. Khác biệt là ai giữ khoản phí đó: ở AnyRouter bên xử lý thanh toán thu và chúng tôi không thu gì, ở OpenRouter đó là phí của OpenRouter. Hàng BYOK chỉ quan trọng nếu bạn chi nhiều qua key của riêng mình. ## Khi nào OpenRouter phù hợp hơn - Bạn cần một model chỉ có ở một catalog. Hãy kiểm tra cả hai danh sách với đúng các id bạn dùng trước khi chuyển. - Bạn hài lòng với việc mua credit từ một nhà cung cấp và không dùng key nhà cung cấp riêng hay coding agent. - Bạn đã chạy trên đó và không có gì trong bảng trên là vấn đề với bạn. Khi nào AnyRouter phù hợp hơn: bạn muốn model miễn phí không giới hạn theo ngày, bạn định tuyến qua key của riêng mình, hoặc bạn chạy Claude Code hay Codex và muốn một lệnh để cài đặt. ## Chuyển đổi: đổi base URL và key Với client tương thích OpenAI, hai giá trị thay đổi. Mọi thứ khác, gồm cả streaming và xử lý lỗi, giữ nguyên. | Thiết lập | OpenRouter | AnyRouter | | --- | --- | --- | | Base URL | `https://openrouter.ai/api/v1` | `https://anyrouter.dev/api/v1` | | API key | Key OpenRouter | Key của bạn, bắt đầu bằng `sk-ar-` | | Model | `provider/model` | `provider/model` từ catalog AnyRouter | ### Python ```python import os from openai import OpenAI # before: base_url="https://openrouter.ai/api/v1", api_key=OPENROUTER_API_KEY client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key=os.environ["ANYROUTER_API_KEY"], # sk-ar-... ) resp = client.chat.completions.create( model="anyrouter/free", messages=[{"role": "user", "content": "Say hello in one sentence."}], ) print(resp.choices[0].message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Say hello in one sentence."}] }' ``` ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr claude --model anyrouter/free ``` 1. Tạo key trong [dashboard](https://anyrouter.dev/dashboard/keys) và lưu thành `ANYROUTER_API_KEY`. 2. Đổi base URL và key trong cấu hình client. 3. Liệt kê các model bạn gọi bằng `GET https://anyrouter.dev/api/v1/models` và xác nhận từng id tồn tại. Một vài id khác nhau giữa các catalog, và id không biết trả về 404. 4. Giữ các tùy chọn `provider` (`only`, `ignore`, `order`, `sort`, `max_price`, `allow_fallbacks`) và các header `HTTP-Referer` và `X-Title`. AnyRouter đọc chúng. 5. Gửi một request và kiểm tra nó trong [request logs](https://anyrouter.dev/dashboard/logs). Nếu ứng dụng của bạn đăng nhập người dùng bằng luồng OAuth PKCE của OpenRouter, cùng luồng đó hoạt động ở đây. Đổi host trong URL `/auth` và trong bước đổi key. Các bước đầy đủ, gồm giới hạn giá và fallback, có trong [hướng dẫn chuyển đổi](https://anyrouter.dev/docs/guides/migrate-from-openrouter). Thử trước: 5 request dùng thử trên model miễn phí, không cần thẻ. [Tạo key](https://anyrouter.dev/sign-up) --- # 在 anyrouter.dev 上跑 Claude Code(BYOK、捐 key、anyr claude) > 官方站是 anyrouter.dev。文档 anyrouter.dev/docs,控制台 dash.anyrouter.dev。Free 没有每月赠送额度。Go 是 $2/月(Polar 卡上扣 $2.63)→ $4 额度。curl cli.sh,然后 anyr claude。ANTHROPIC_BASE_URL=https://anyrouter.dev/api。没有支付宝,也没有微信。 - Date: September 2, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/anyrouter-zhongzhuan ## 官方站是 anyrouter.dev 官方站是 [anyrouter.dev](https://anyrouter.dev)。文档 [anyrouter.dev/docs](https://anyrouter.dev/docs),控制台 [dash.anyrouter.dev](https://dash.anyrouter.dev)。 搜「AnyRouter 中转」时,先认这个域名。下面是接到 anyrouter.dev 的步骤。不要把 `ANTHROPIC_BASE_URL` 指到别的中转地址。 ## 1. 注册,拿 sk-ar- key 打开 [anyrouter.dev](https://anyrouter.dev),注册,在[控制台](https://dash.anyrouter.dev/keys)建一把 key,前缀是 `sk-ar-`。 ## 2. 额度:没有 $1 Go,也没有支付宝 - Free:能 BYOK、能充值。没有每月赠送额度。`anyrouter/free` / `:free` 需要 Go 或更高套餐(Free 调用返回 403),不扣额度,没有每日上限。付费模型没额度会 402。 - Go:**$2/月**(Polar 卡上扣 **$2.63**)→ 每月 **$4** 额度。旧文写 $1 Go 的,作废。 - 不想绑卡:捐一把能用的 BYOK key(DeepSeek、Z.ai GLM、Moonshot Kimi)进共享池,自动开通 Go。流程:[捐一把 key 换 Go](https://anyrouter.dev/blog/zh/donate-a-key-for-go)。 - 结账只走 Polar。**没有支付宝,也没有微信。** 价格表:[anyrouter.dev/docs/features/pricing](https://anyrouter.dev/docs/features/pricing)。 ## 3. 装 CLI,跑 Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude ``` 或指定模型:`anyr claude --model z-ai/glm-5.2`。 说明:[Claude Code on anyrouter.dev](https://anyrouter.dev/blog/claude-code-anyrouter-dev) 和 [CLI](https://anyrouter.dev/cli)。 ## 4. 非要手写环境变量 Claude Code 读这两个。Base URL 没有 `/v1`(它自己会拼 `/v1/messages`): ```bash export ANTHROPIC_BASE_URL=https://anyrouter.dev/api export ANTHROPIC_API_KEY=sk-ar-your-key claude ``` OpenAI 兼容口是 `https://anyrouter.dev/api/v1`。两边都是 anyrouter.dev。 ## 5. 常见翻车 - 教程让你每天签到、换一个中转 URL → 那不是这个产品。用 [anyrouter.dev](https://anyrouter.dev)。 - `ANTHROPIC_BASE_URL` 不是 `https://anyrouter.dev/api` → 改成这一行。 - 429 `rate_limit_exceeded` → 超过每分钟限额(免费模型按账户计:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次),按 `Retry-After` 等待后重试。 - 想找 $1 套餐 → 没有。Go 是 $2 → $4。 - 想付支付宝 / 微信 → 没有。Polar 卡,或捐 key。 Go 限额:**60 次/分钟**,滚动 5 小时 **3000** 次。 --- # Claude Code on anyrouter.dev > Claude Code on anyrouter.dev. cli.sh then anyr claude. ANTHROPIC_BASE_URL=https://anyrouter.dev/api. Free has no monthly credits; Go is $2/mo ($2.63 charged) → $4. - Date: September 1, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/claude-code-anyrouter-dev ## Point Claude Code at anyrouter.dev Claude Code on this product is [anyrouter.dev](https://anyrouter.dev). The Anthropic-compatible base URL is `https://anyrouter.dev/api` (no `/v1` on that env var — Claude Code appends `/v1/messages`). The OpenAI-compatible API is `https://anyrouter.dev/api/v1`. ## Fast path: cli.sh + anyr claude ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude ``` Full reference: [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Manual env (only if you skip anyr) ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude ``` _Claude Code on anyrouter.dev._ Create the key in the [dashboard](https://dash.anyrouter.dev/keys) first — every AnyRouter key starts with `sk-ar-`. ## BYOK and anyr Attach your own provider keys under [Dashboard → BYOK](https://dash.anyrouter.dev/byok). BYOK traffic has no AnyRouter markup. `anyr claude` still talks to `https://anyrouter.dev/api`. To get Go without a card, [donate an eligible BYOK key](/blog/donate-a-key-for-go). ## Free has no monthly credits The **Free** plan includes **no monthly credits**. Free callers get a 5-request lifetime trial on `anyrouter/free` and `:free` models; after that they need Go or higher, with no daily cap. Paid models return 402 without credits or a subscription. **Go** is **$2/mo** (Polar charges **$2.63**) → **$4** credits. Or [donate an eligible BYOK key](/blog/donate-a-key-for-go). Go rate limits: **60 req/min** and **3,000 req per rolling 5 hours**. Older posts that say $1 Go are wrong — see [Free vs Go](/blog/anyrouter-pricing-free-vs-go). --- # 在 anyrouter.dev 上用 Claude Code > Claude Code 走 anyrouter.dev。cli.sh 然后 anyr claude。ANTHROPIC_BASE_URL=https://anyrouter.dev/api。Free 没有月度额度;Go 是 $2/月(实收 $2.63)→ $4。 - Date: September 1, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/claude-code-anyrouter-dev ## 把 Claude Code 指到 anyrouter.dev 这个产品上的 Claude Code 就是 [anyrouter.dev](https://anyrouter.dev)。 兼容 Anthropic 的 base URL 是 `https://anyrouter.dev/api`(这个环境变量不要带 `/v1`——Claude Code 自己会拼 `/v1/messages`)。兼容 OpenAI 的 API 是 `https://anyrouter.dev/api/v1`。 ## 快路:cli.sh + anyr claude ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude ``` 完整参考:[anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code)。 ## 手动环境变量(只有跳过 anyr 才需要) ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude ``` _Claude Code 走 anyrouter.dev。_ 先在[控制台](https://dash.anyrouter.dev/keys)创建 key——每把 AnyRouter key 都以 `sk-ar-` 开头。 ## BYOK 和 anyr 在 [控制台 → BYOK](https://dash.anyrouter.dev/byok) 挂上自己的供应商 key。BYOK 流量没有 AnyRouter 加价。`anyr claude` 仍然打到 `https://anyrouter.dev/api`。 不想绑卡开通 Go,就[捐一把符合条件的 BYOK key](/blog/zh/donate-a-key-for-go)。 ## Free 没有月度额度 **Free** 套餐**不含月度额度**。`anyrouter/free` 和 `:free` 需要 Go 或更高套餐:不扣额度,**没有每日上限**,只按账户限制每分钟请求数(Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次)。付费模型没额度会返回 402。 **Go** 是 **$2/月**(Polar 收 **$2.63**)→ **$4** 额度。或者[捐一把符合条件的 BYOK key](/blog/zh/donate-a-key-for-go)。 Go 限速:**每分钟 60 次**、**滚动 5 小时 3,000 次**。旧文写 $1 Go 的是错的——见 [Free 对 Go](/blog/zh/anyrouter-pricing-free-vs-go)。 --- # Claude Code trên anyrouter.dev > Claude Code trên anyrouter.dev. cli.sh rồi anyr claude. ANTHROPIC_BASE_URL=https://anyrouter.dev/api. Free không có credit tháng; Go là $2/tháng (trừ $2.63) → $4. - Date: September 1, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/claude-code-anyrouter-dev ## Chỉ Claude Code vào anyrouter.dev Claude Code trên sản phẩm này là [anyrouter.dev](https://anyrouter.dev). Base URL tương thích Anthropic là `https://anyrouter.dev/api` (không `/v1` trên biến môi trường đó — Claude Code tự nối `/v1/messages`). API tương thích OpenAI là `https://anyrouter.dev/api/v1`. ## Đường nhanh: cli.sh + anyr claude ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude ``` Tham chiếu đầy đủ: [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Env thủ công (chỉ khi bỏ qua anyr) ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-key" claude ``` _Claude Code trên anyrouter.dev._ Tạo key trong [dashboard](https://dash.anyrouter.dev/keys) trước — mọi key AnyRouter bắt đầu bằng `sk-ar-`. ## BYOK và anyr Gắn key nhà cung cấp của bạn dưới [Dashboard → BYOK](https://dash.anyrouter.dev/byok). Lưu lượng BYOK không có markup AnyRouter. `anyr claude` vẫn nói chuyện với `https://anyrouter.dev/api`. Muốn Go không cần thẻ, [góp một key BYOK đủ điều kiện](/blog/vi/donate-a-key-for-go). ## Free không có credit tháng Gói **Free** **không gồm credit tháng**. `anyrouter/free` và `:free` cần Go trở lên: không tốn credit, không có trần theo ngày, chỉ giới hạn theo phút mỗi tài khoản (150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max). Model trả phí 402 nếu chưa có credit hoặc gói. **Go** là **$2/tháng** (Polar trừ **$2.63**) → **$4** credit. Hoặc [góp một key BYOK đủ điều kiện](/blog/vi/donate-a-key-for-go). Hạn mức Go: **60 req/phút** và **3.000 req mỗi 5 giờ lăn**. Bài cũ nói $1 Go là sai — xem [Free và Go](/blog/vi/anyrouter-pricing-free-vs-go). --- # Donate a key for Go — no card > Two ways to Go: pay $2/mo (card charged $2.63, $4 credits) or donate one eligible BYOK key (DeepSeek, Z.ai GLM, Moonshot Kimi). No Alipay or WeChat. Donor cut 5%/8%, capped at $1 per key per UTC day — that $1 is the donor cap, not the Go price. - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/donate-a-key-for-go ## Two ways to Go 1. Pay **$2/mo**. Polar charges **$2.63** on the card (tax may add on top) → **$4** monthly credits. 2. Donate one **eligible, working** BYOK key (DeepSeek, Z.ai GLM, Moonshot Kimi) to the [shared pool](https://anyrouter.dev/donate). No card. Checkout is Polar. There is **no Alipay or WeChat**. A live donated key auto-grants Go for as long as it stays active. Flip the key off or let it fail health checks and donation-backed Go goes away. ## Which keys count Common eligible BYOK keys: **DeepSeek**, **Z.ai GLM**, and **Moonshot Kimi**. Eligibility means AnyRouter can route that provider — it is not a claim that the provider's Terms of Service allow sharing your key. You are responsible for that. Add the key under [Dashboard → BYOK](https://dash.anyrouter.dev/byok), then toggle **Donate to pool**. A never-proven or paused key does not buy Go. See the live list and flow at [/donate](https://anyrouter.dev/donate). ## Donor cut is not the Go price Donors earn **5% on Go** (including donation-backed Go) and **8% on Pro / Pro+ / Max**, as a share of the notional token cost of pool traffic on that key. That reward is **capped at $1 per key per UTC day**. This **$1 is the donor cap**, not the Go subscription price. Go is $2/mo → $4 credits. Older posts that say $1 Go are wrong. Claim pending credits anytime, or turn on auto-claim. You keep first call on your own key; the pool only uses spare capacity. --- # 捐一把 key 换 Go,不用绑卡 > 开通 Go 有两条路:付 $2/月(卡上扣 $2.63,$4 额度),或捐一把可用的 BYOK key(DeepSeek、Z.ai GLM、Moonshot Kimi)。没有支付宝,也没有微信。捐赠分成 5%/8%,每把 key 每个 UTC 日上限 $1——这个 $1 是捐赠上限,不是 Go 价格。 - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/donate-a-key-for-go ## 开通 Go 的两条路 1. 付费 **$2/月**。Polar 卡上扣 **$2.63**(税另算)→ 每月 **$4** 额度。 2. 向[共享池](https://anyrouter.dev/donate)捐一把**符合条件、能用的** BYOK key(DeepSeek、Z.ai GLM、Moonshot Kimi)。不用绑卡。 结账只走 Polar 卡。**没有支付宝,也没有微信。** 一把有效的捐赠 key 会自动开通 Go;关掉捐赠或健康检查失败,捐赠版 Go 就会收回。 ## 哪些 key 算数 常见可捐的 BYOK:**DeepSeek**、**Z.ai GLM**、**Moonshot Kimi**。「可捐」只表示 AnyRouter 能把流量打到这家上游,**不是**说供应商 ToS 允许你分享 key。ToS 你自己负责。 在 [控制台 → BYOK](https://dash.anyrouter.dev/byok) 加上 key,再打开 **Donate to pool**。从未验证或已暂停的 key 换不来 Go。完整流程见 [/donate](https://anyrouter.dev/donate)。 ## 捐赠分成不是 Go 价格 池子每用你的捐赠 key 打一笔请求,会按该请求的名义 token 成本给你记一笔待领取额度:**Go(含捐赠 Go)5%**,**Pro / Pro+ / Max 8%**。 分成 **每把 key 每个 UTC 日上限 $1**。这个 **$1 是捐赠上限,不是 Go 订阅价**。Go 是 $2/月 → $4 额度。旧文写 $1 Go 的,作废。 待领取额度随时可以 claim,也可以开 auto-claim。你自己的请求优先;池子只用空闲配额。 --- # Góp một key để lấy Go — không cần thẻ > Hai cách mở Go: trả $2/tháng (thẻ bị trừ $2.63, $4 credit) hoặc góp một key BYOK đủ điều kiện (DeepSeek, Z.ai GLM, Moonshot Kimi). Không Alipay, không WeChat. Chia cho người góp 5%/8%, trần $1 mỗi key mỗi ngày UTC — $1 đó là trần thưởng, không phải giá Go. - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/donate-a-key-for-go ## Hai cách mở Go 1. Trả **$2/tháng**. Polar trừ **$2.63** trên thẻ (thuế có thể cộng thêm) → **$4** credit mỗi tháng. 2. Góp một key BYOK **đủ điều kiện, đang chạy** (DeepSeek, Z.ai GLM, Moonshot Kimi) vào [pool dùng chung](https://anyrouter.dev/donate). Không cần thẻ. Thanh toán đi qua Polar. **Không có Alipay hay WeChat.** Một key góp còn sống tự mở Go khi key còn active. Tắt donate hoặc để key fail health check thì Go từ donate mất. ## Key nào được tính BYOK thường gặp: **DeepSeek**, **Z.ai GLM**, và **Moonshot Kimi**. Đủ điều kiện nghĩa là AnyRouter route được nhà cung cấp đó — không phải tuyên bố ToS của họ cho phép bạn chia key. Phần đó thuộc về bạn. Thêm key tại [Dashboard → BYOK](https://dash.anyrouter.dev/byok), rồi bật **Donate to pool**. Key chưa chứng minh hoặc đang pause không đổi được Go. Danh sách và luồng sống tại [/donate](https://anyrouter.dev/donate). ## Phần chia cho người góp không phải giá Go Người góp nhận **5% trên Go** (kể cả Go từ donate) và **8% trên Pro / Pro+ / Max**, theo chi phí token danh nghĩa của traffic pool đi qua key đó. Thưởng đó **trần $1 mỗi key mỗi ngày UTC**. **$1 này là trần cho người góp**, không phải giá gói Go. Go là $2/tháng → $4 credit. Bài cũ viết $1 Go là sai. Claim credit đang chờ bất cứ lúc nào, hoặc bật auto-claim. Bạn vẫn được ưu tiên trên key của mình; pool chỉ dùng phần dư. --- # AnyRouter pricing: Free vs Go (the $1 posts are wrong) > Older pages still say $1 Go — wrong. Free has no monthly credits; anyrouter/free has no daily cap. Go is $2/mo ($2.63 charged) → $4. Pro $10 ($11.05) → $20; Pro+ $45 ($47.89) → $100; Max $100 ($105.79) → $300. - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/anyrouter-pricing-free-vs-go ## The live numbers Canonical plan table: [anyrouter.dev/docs/features/pricing](https://anyrouter.dev/docs/features/pricing). This post is only the honesty pass for people still seeing $1 Go in old cards and posts. | | Free | Go | | --- | --- | --- | | Price | $0 | $2/mo ($2.63 charged on Polar) | | Monthly credits | None | $4 | | Free-tier models (`anyrouter/free`, `:free`) | Not included (needs Go) | 150 req/min per account (60 from a donated key), no daily cap | | Paid-model rate limit | 600 rpm | 60 rpm | | 5-hour window | No extra window | 3,000 req / rolling 5h | | Unlock without a card | n/a | Donate an eligible BYOK key | ## Free has no credits Sign up is free. You can BYOK (never charged by AnyRouter) and buy pay-as-you-go credits. The Free plan does **not** include a monthly credit grant. Free models (`anyrouter/free`, `:free`) need Go or higher; on Free they return 403 `free_tier_requires_subscription`. Paid models return 402 `insufficient_balance` without credits or a subscription. A missing key is still a **401**. There is no daily cap on free-tier models. The limit is per account, per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max (429 with `Retry-After`). ## Go is $2 → $4, not $1 Go nets **$2/mo**. Polar charges **$2.63** on a domestic card so their 5% + $0.50 fee comes out of the markup, not your plan credit. Tax, where it applies, is extra. You get **$4** in credits each month. Usage on Go is capped at **60 req/min** and **3,000 req per rolling 5 hours**. Pro, Pro+, and Max lift the per-minute cap and drop the 5-hour window. **Older $1 Go is wrong.** Some listed posts still use a `$1` slug from when the entry plan was a dollar. The live price is $2 → $4. The **$1 per key per UTC day** figure on donate posts is the **donor reward cap**, not Go. ## Paid ladder | Plan | Net / mo | Polar charge | Monthly credits | | --- | --- | --- | --- | | Go | $2 | $2.63 | $4 | | Pro | $10 | $11.05 | $20 | | Pro+ | $45 | $47.89 | $100 | | Max | $100 | $105.79 | $300 | Subscribe on Polar, or donate a key and skip the card. No Alipay / WeChat. [See /pricing](https://anyrouter.dev/pricing) --- # AnyRouter 定价:Free 对 Go(写 $1 Go 的帖子是错的) > 旧页还写 $1 Go——错。Free 没有月度额度;anyrouter/free 和 `:free` 模型需要 Go 及以上(Free 只有 5 次终身试用请求),没有每日上限。Go 是 $2/月(实收 $2.63)→ $4。Pro $10($11.05)→ $20;Pro+ $45($47.89)→ $100;Max $100($105.79)→ $300。 - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/anyrouter-pricing-free-vs-go ## 活数字 套餐原文:[anyrouter.dev/docs/features/pricing](https://anyrouter.dev/docs/features/pricing)。这篇只是给还在旧卡片、旧文里看见 $1 Go 的人做一次诚实更正。 | | Free | Go | | --- | --- | --- | | 价格 | $0 | $2/月(Polar 实收 $2.63) | | 月度额度 | 没有 | $4 | | 免费档模型(`anyrouter/free`、`:free`) | 不可用(需要 Go) | 可用,无每日上限,每个账户每分钟 150 次(捐 key 开通为 60 次) | | 付费模型限速 | 600 rpm | 60 rpm | | 5 小时窗口 | 没有额外窗口 | 滚动 5 小时 3,000 次请求 | | 不绑卡开通 | 不适用 | 捐一把符合条件的 BYOK key | ## Free 没有额度 注册免费。可以 BYOK(AnyRouter 从不向你收平台费),也可以买按量额度。Free 套餐**不含**月度额度赠送。免费模型(`anyrouter/free`、`:free`)需要 Go 或更高套餐;Free 套餐调用会返回 403 `free_tier_requires_subscription`。付费模型没额度会返回 402 `insufficient_balance`。 缺 key 仍是 **401**。免费档模型没有每日上限,只按账户限制每分钟请求数:Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次;超过会返回 **429 `rate_limit_exceeded`** 和 `Retry-After`。Go 开通免费模型,还附带每月付费模型额度和共享 key 池的使用权。 ## Go 是 $2 → $4,不是 $1 Go 净价 **$2/月**。Polar 在境内卡上收 **$2.63**,他们的 5% + $0.50 手续费从加价里出,不从你的套餐额度里扣。税另算。每月拿到 **$4** 额度。 Go 用量上限是 **每分钟 60 次**、**滚动 5 小时 3,000 次**。Pro、Pro+、Max 提高每分钟上限,并去掉 5 小时窗口。 **旧文写 $1 Go 是错的。** 有些列表帖还用当时入门价一美元的 `$1` slug。现价是 $2 → $4。捐赠帖里的 **每把 key 每个 UTC 日 $1** 是 **捐赠奖励上限**,不是 Go。 ## 付费阶梯 | 套餐 | 净价 / 月 | Polar 实收 | 月度额度 | | --- | --- | --- | --- | | Go | $2 | $2.63 | $4 | | Pro | $10 | $11.05 | $20 | | Pro+ | $45 | $47.89 | $100 | | Max | $100 | $105.79 | $300 | 在 Polar 订阅,或捐一把 key 跳过绑卡。没有支付宝 / 微信。 [看 /pricing](https://anyrouter.dev/pricing) --- # Giá AnyRouter: Free và Go (bài viết $1 Go là sai) > Trang cũ vẫn nói $1 Go — sai. Free không có credit tháng; anyrouter/free cần Go trở lên (Free chỉ có 5 yêu cầu dùng thử một lần), không trần theo ngày. Go là $2/tháng (trừ $2.63) → $4. Pro $10 ($11.05) → $20; Pro+ $45 ($47.89) → $100; Max $100 ($105.79) → $300. - Date: September 1, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/anyrouter-pricing-free-vs-go ## Số đang sống Bảng gói chuẩn: [anyrouter.dev/docs/features/pricing](https://anyrouter.dev/docs/features/pricing). Bài này chỉ là lần nói thẳng với người vẫn thấy $1 Go trên thẻ và bài cũ. | | Free | Go | | --- | --- | --- | | Giá | $0 | $2/tháng (Polar trừ $2.63) | | Credit tháng | Không | $4 | | Model bậc miễn phí (`anyrouter/free`, `:free`) | Không có (cần Go) | 150 req/phút mỗi tài khoản (60 nếu từ key góp), không trần ngày | | Hạn mức model trả phí | 600 rpm | 60 rpm | | Cửa sổ 5 giờ | Không cửa sổ thêm | 3.000 req / 5 giờ lăn | | Mở không cần thẻ | n/a | Góp một key BYOK đủ điều kiện | ## Free không có credit Đăng ký miễn phí. Bạn có thể BYOK (AnyRouter không thu markup) và mua credit trả theo lượng. Gói Free **không** gồm credit tháng. Model miễn phí (`anyrouter/free`, `:free`) cần Go trở lên; trên Free chúng trả 403 `free_tier_requires_subscription`. Model trả phí 402 nếu chưa có credit hoặc gói. Thiếu key vẫn là **401**. Model bậc miễn phí không có trần ngày, chỉ giới hạn theo phút, tính theo tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max; vượt thì trả **429 `rate_limit_exceeded`** kèm `Retry-After`. Go mở model miễn phí, kèm credit hằng tháng cho model trả phí và quyền dùng pool dùng chung. ## Go là $2 → $4, không phải $1 Go ròng **$2/tháng**. Polar trừ **$2.63** trên thẻ nội địa để phí 5% + $0.50 của họ lấy từ phần markup, không từ credit gói. Thuế, nơi áp dụng, cộng thêm. Bạn nhận **$4** credit mỗi tháng. Dùng trên Go trần **60 req/phút** và **3.000 req mỗi 5 giờ lăn**. Pro, Pro+ và Max nâng trần phút và bỏ cửa sổ 5 giờ. **$1 Go cũ là sai.** Một số bài list vẫn dùng slug `$1` từ lúc gói vào cửa là một đô. Giá sống là $2 → $4. Con số **$1 mỗi key mỗi ngày UTC** trên bài donate là **trần thưởng người góp**, không phải Go. ## Bậc trả phí | Gói | Ròng / tháng | Polar trừ | Credit tháng | | --- | --- | --- | --- | | Go | $2 | $2.63 | $4 | | Pro | $10 | $11.05 | $20 | | Pro+ | $45 | $47.89 | $100 | | Max | $100 | $105.79 | $300 | Đăng ký trên Polar, hoặc góp một key và bỏ qua thẻ. Không Alipay / WeChat. [Xem /pricing](https://anyrouter.dev/pricing) --- # Ox Alpha is now GLM-5.3-Flash > The Ox Alpha preview is GLM-5.3-Flash: native multimodal, 1M context, MIT-licensed 320B-A18B. Same AnyRouter routes, new catalog id z-ai/glm-5.3-flash. - Date: August 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/glm-5-3-flash ## Ox Alpha, named The model AnyRouter listed as [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha) is [GLM-5.3-Flash](https://z.ai/blog/glm-5.3-flash). Same routes, new public name, official launch. Call [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash). The old id stays for history, ranking, and leaderboard — it is just unlisted from `GET /api/v1/models` and the /models picker. GLM-5.3-Flash is a native multimodal model from Z.ai. It is suited for efficient coding and long-horizon agent tasks. Its hybrid sparse and linear attention architecture maintains accurate long-context behavior while reducing compute overhead. 320B-A18B, MIT License, 1M-token context. Z.ai ran the Ox Alpha preview entirely on Chinese AI chips. Leading capabilities at a highly competitive price. Catalog host routes keep the copied Ox Alpha $0/$0 rates — [docs.z.ai](https://docs.z.ai/guides/llm/glm-5.3-flash) publishes Coding Plan points, not a $/1M API list we can copy. [Release note](https://anyrouter.dev/blog/releases/2026-08-26-glm-5-3-flash). - [Announcement](https://z.ai/blog/glm-5.3-flash) - [Weights](https://huggingface.co/zai-org/GLM-5.3-Flash) (`zai-org/GLM-5.3-Flash`) - [API docs](https://docs.z.ai/guides/llm/glm-5.3-flash) (wire id `glm-5.3-flash`) - [Coding Plan](https://z.ai/subscribe) · [ZCode](https://zcode.z.ai/en) · [Chat](https://chat.z.ai) · [AutoClaw](https://autoclaw.z.ai) ## Z.ai evaluation (their numbers) ![Z.ai LLM Performance Evaluation bar chart comparing GLM-5.3-Flash with GLM-5.2, DeepSeek-V4-Vision-Exp, Claude Opus 4.8, GPT-5.6 Terra, and Gemini 3.7 Flash across six benchmarks.](https://anyrouter.dev/screenshots/glm-5.3-flash-llm-performance-eval-2026-08.png) _Z.ai “LLM Performance Evaluation.” GLM-5.3-Flash vs GLM-5.2 / DeepSeek-V4-Vision-Exp / Claude Opus 4.8 / GPT-5.6 Terra / Gemini 3.7 Flash._ | Benchmark | GLM-5.3-Flash | GLM-5.2 | DeepSeek-V4-Vision-Exp | Claude Opus 4.8 | GPT-5.6 Terra | Gemini 3.7 Flash | | --- | --- | --- | --- | --- | --- | --- | | Terminal Bench 2.1 | 84.3 | 81.0 | 83.9 | 85.0 | 87.4 | 85.8 | | DeepSWE v1.1 | 63.4 | 46.2 | 59.3 | 58.0 | 69.6 | 65.3 | | Agents' Last Exam | 26.3 | 20.4 | 27.3 | 27.0 | 28.0 | — | | AutomationBench v1.0.6 | 48.8 | 26.2 | 38.8 | 41.0 | 37.2 | 52.3 | | HLE w/ Tools | 55.3 | 54.7 | 55.1 | 57.9 | — | — | | GDPVal-AA v2 | 1773 | 1504 | 1675 | 1582 | 1571 | 1527 | **DeepSWE v1.1 — Flash vs GLM-5.2** - GLM-5.3-Flash: 63.4 - GLM-5.2: 46.2 **AutomationBench v1.0.6 — Flash vs GLM-5.2** - GLM-5.3-Flash: 48.8 - GLM-5.2: 26.2 ![Z.ai Code Bench v1.0 agentic coding performance by effort level. GLM-5.3-Flash purple line versus GLM-5.3, GLM-5.2, Claude Fable 5, and Claude Opus 4.8.](https://anyrouter.dev/screenshots/glm-5.3-flash-agentic-coding-effort-2026-08.png) _Z.ai Code Bench v1.0 (Claude Code 2.1.207). GLM-5.3-Flash Low / High / Max vs GLM-5.3, GLM-5.2, Claude Fable 5, and Claude Opus 4.8. Max accuracy is similar to Claude Opus 4.8; a clear step up from GLM-5.2._ ## Call it Point the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) at AnyRouter. Switch `--model` from `stealth/ox-alpha` to `z-ai/glm-5.3-flash`. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "z-ai/glm-5.3-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "z-ai/glm-5.3-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "z-ai/glm-5.3-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flash) --- # Ox Alpha 现在叫 GLM-5.3-Flash > Ox Alpha 预览就是 GLM-5.3-Flash:原生多模态、1M 上下文、MIT 许可的 320B-A18B。同一套 AnyRouter 路由,新目录 id 是 z-ai/glm-5.3-flash。 - Date: August 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/glm-5-3-flash ## Ox Alpha,有了正式名 AnyRouter 曾列为 [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha) 的模型,就是 [GLM-5.3-Flash](https://z.ai/blog/glm-5.3-flash)。同一套路由,公开名换了,正式上线。请调 [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash)。旧 id 留给历史、排名和榜单——只是从 `GET /api/v1/models` 和 /models 选择器里下架。 GLM-5.3-Flash 是 Z.ai 的原生多模态模型。适合高效写代码和长程 agent 任务。混合稀疏与线性注意力架构,在压低计算开销的同时保住长上下文表现。320B-A18B,MIT License,1M token 上下文。Z.ai 整段 Ox Alpha 预览都跑在中国 AI 芯片上。 能力靠前,价格很能打。目录托管路由沿用拷过来的 Ox Alpha $0/$0 费率——[docs.z.ai](https://docs.z.ai/guides/llm/glm-5.3-flash) 发的是 Coding Plan 点数,不是我们能照抄的 $/1M API 价目。[发布说明](https://anyrouter.dev/blog/releases/2026-08-26-glm-5-3-flash)。 - [公告](https://z.ai/blog/glm-5.3-flash) - [权重](https://huggingface.co/zai-org/GLM-5.3-Flash)(`zai-org/GLM-5.3-Flash`) - [API 文档](https://docs.z.ai/guides/llm/glm-5.3-flash)(线上 id `glm-5.3-flash`) - [Coding Plan](https://z.ai/subscribe) · [ZCode](https://zcode.z.ai/en) · [Chat](https://chat.z.ai) · [AutoClaw](https://autoclaw.z.ai) ## Z.ai 评测(他们的数字) ![Z.ai LLM Performance Evaluation 柱状图:GLM-5.3-Flash 与 GLM-5.2、DeepSeek-V4-Vision-Exp、Claude Opus 4.8、GPT-5.6 Terra、Gemini 3.7 Flash 在六项基准上的对比。](https://anyrouter.dev/screenshots/glm-5.3-flash-llm-performance-eval-2026-08.png) _Z.ai「LLM Performance Evaluation」。GLM-5.3-Flash 对 GLM-5.2 / DeepSeek-V4-Vision-Exp / Claude Opus 4.8 / GPT-5.6 Terra / Gemini 3.7 Flash。_ | 基准 | GLM-5.3-Flash | GLM-5.2 | DeepSeek-V4-Vision-Exp | Claude Opus 4.8 | GPT-5.6 Terra | Gemini 3.7 Flash | | --- | --- | --- | --- | --- | --- | --- | | Terminal Bench 2.1 | 84.3 | 81.0 | 83.9 | 85.0 | 87.4 | 85.8 | | DeepSWE v1.1 | 63.4 | 46.2 | 59.3 | 58.0 | 69.6 | 65.3 | | Agents' Last Exam | 26.3 | 20.4 | 27.3 | 27.0 | 28.0 | — | | AutomationBench v1.0.6 | 48.8 | 26.2 | 38.8 | 41.0 | 37.2 | 52.3 | | HLE w/ Tools | 55.3 | 54.7 | 55.1 | 57.9 | — | — | | GDPVal-AA v2 | 1773 | 1504 | 1675 | 1582 | 1571 | 1527 | **DeepSWE v1.1 — Flash 对 GLM-5.2** - GLM-5.3-Flash: 63.4 - GLM-5.2: 46.2 **AutomationBench v1.0.6 — Flash 对 GLM-5.2** - GLM-5.3-Flash: 48.8 - GLM-5.2: 26.2 ![Z.ai Code Bench v1.0 按努力档的 agentic coding。GLM-5.3-Flash 紫线对比 GLM-5.3、GLM-5.2、Claude Fable 5 和 Claude Opus 4.8。](https://anyrouter.dev/screenshots/glm-5.3-flash-agentic-coding-effort-2026-08.png) _Z.ai Code Bench v1.0(Claude Code 2.1.207)。GLM-5.3-Flash Low / High / Max 对 GLM-5.3、GLM-5.2、Claude Fable 5 和 Claude Opus 4.8。Max 准确率和 Claude Opus 4.8 接近;相对 GLM-5.2 明显上一档。_ ## 怎么调 把 [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) 或 [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) 指到 AnyRouter。把 `--model` 从 `stealth/ox-alpha` 换成 `z-ai/glm-5.3-flash`。 在 [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) 里试。`createAnyRouter()` 会读 `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _用目录 id 调 generateText。_ 已经在用 OpenAI SDK?[OpenAI SDK 手册](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "z-ai/glm-5.3-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flash","messages":[{"role":"user","content":"Hello"}]}' ``` 或者用 `anyr` CLI 拉起编程 agent: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "z-ai/glm-5.3-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "z-ai/glm-5.3-flash" ``` 更多:[AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [编程 agent](https://anyrouter.dev/use-cases/coding-agents)。 不想开终端?打开 playground 发第一条消息。 [在 playground 试](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flash) --- # Ox Alpha giờ là GLM-5.3-Flash > Bản xem trước Ox Alpha chính là GLM-5.3-Flash: đa phương tiện gốc, ngữ cảnh 1M, 320B-A18B giấy phép MIT. Cùng route AnyRouter, catalog id mới z-ai/glm-5.3-flash. - Date: August 26, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/glm-5-3-flash ## Ox Alpha, có tên Model AnyRouter từng liệt kê là [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha) là [GLM-5.3-Flash](https://z.ai/blog/glm-5.3-flash). Cùng route, tên công khai mới, ra mắt chính thức. Gọi [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash). Id cũ giữ cho lịch sử, xếp hạng và bảng xếp hạng — chỉ bị gỡ khỏi `GET /api/v1/models` và bộ chọn /models. GLM-5.3-Flash là model đa phương tiện gốc của Z.ai. Phù hợp coding hiệu quả và tác vụ agent dài hơi. Kiến trúc attention lai thưa và tuyến tính giữ hành vi ngữ cảnh dài chính xác trong khi giảm chi phí tính. 320B-A18B, MIT License, ngữ cảnh 1M token. Z.ai chạy toàn bộ preview Ox Alpha trên chip AI Trung Quốc. Năng lực dẫn đầu với giá cạnh tranh. Route host catalog giữ mức $0/$0 copy từ Ox Alpha — [docs.z.ai](https://docs.z.ai/guides/llm/glm-5.3-flash) công bố điểm Coding Plan, không phải bảng API $/1M để copy. [Ghi chú phát hành](https://anyrouter.dev/blog/releases/2026-08-26-glm-5-3-flash). - [Thông báo](https://z.ai/blog/glm-5.3-flash) - [Weights](https://huggingface.co/zai-org/GLM-5.3-Flash) (`zai-org/GLM-5.3-Flash`) - [Tài liệu API](https://docs.z.ai/guides/llm/glm-5.3-flash) (wire id `glm-5.3-flash`) - [Coding Plan](https://z.ai/subscribe) · [ZCode](https://zcode.z.ai/en) · [Chat](https://chat.z.ai) · [AutoClaw](https://autoclaw.z.ai) ## Đánh giá Z.ai (số của họ) ![Biểu đồ cột Z.ai LLM Performance Evaluation so GLM-5.3-Flash với GLM-5.2, DeepSeek-V4-Vision-Exp, Claude Opus 4.8, GPT-5.6 Terra và Gemini 3.7 Flash trên sáu benchmark.](https://anyrouter.dev/screenshots/glm-5.3-flash-llm-performance-eval-2026-08.png) _Z.ai “LLM Performance Evaluation.” GLM-5.3-Flash so với GLM-5.2 / DeepSeek-V4-Vision-Exp / Claude Opus 4.8 / GPT-5.6 Terra / Gemini 3.7 Flash._ | Benchmark | GLM-5.3-Flash | GLM-5.2 | DeepSeek-V4-Vision-Exp | Claude Opus 4.8 | GPT-5.6 Terra | Gemini 3.7 Flash | | --- | --- | --- | --- | --- | --- | --- | | Terminal Bench 2.1 | 84.3 | 81.0 | 83.9 | 85.0 | 87.4 | 85.8 | | DeepSWE v1.1 | 63.4 | 46.2 | 59.3 | 58.0 | 69.6 | 65.3 | | Agents' Last Exam | 26.3 | 20.4 | 27.3 | 27.0 | 28.0 | — | | AutomationBench v1.0.6 | 48.8 | 26.2 | 38.8 | 41.0 | 37.2 | 52.3 | | HLE w/ Tools | 55.3 | 54.7 | 55.1 | 57.9 | — | — | | GDPVal-AA v2 | 1773 | 1504 | 1675 | 1582 | 1571 | 1527 | **DeepSWE v1.1 — Flash so GLM-5.2** - GLM-5.3-Flash: 63.4 - GLM-5.2: 46.2 **AutomationBench v1.0.6 — Flash so GLM-5.2** - GLM-5.3-Flash: 48.8 - GLM-5.2: 26.2 ![Z.ai Code Bench v1.0 hiệu năng coding agentic theo mức effort. Đường tím GLM-5.3-Flash so với GLM-5.3, GLM-5.2, Claude Fable 5 và Claude Opus 4.8.](https://anyrouter.dev/screenshots/glm-5.3-flash-agentic-coding-effort-2026-08.png) _Z.ai Code Bench v1.0 (Claude Code 2.1.207). GLM-5.3-Flash Low / High / Max so với GLM-5.3, GLM-5.2, Claude Fable 5 và Claude Opus 4.8. Độ chính xác Max gần Claude Opus 4.8; bước rõ so với GLM-5.2._ ## Gọi nó Chỉ [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) hoặc [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) vào AnyRouter. Đổi `--model` từ `stealth/ox-alpha` sang `z-ai/glm-5.3-flash`. Thử trong [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` đọc `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText với catalog id._ Đã dùng OpenAI SDK? [Playbook OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "z-ai/glm-5.3-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Hoặc khởi chạy coding agent qua CLI `anyr`: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "z-ai/glm-5.3-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "z-ai/glm-5.3-flash" ``` Thêm: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). Không terminal? Mở playground và gửi tin nhắn đầu. [Thử trong playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flash) --- # Qwen3.8-27B and DeepSeek V4 Flash, 50% off > Half off through 1 Sep. Same API, same model ids — just a friendlier bill. - Date: August 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/qwen3-8-27b-50-percent-off ## 50% off through 1 Sep Sale through 1 Sep — [Qwen3.8-27B](https://anyrouter.dev/model/qwen/qwen3.8-27b) and [DeepSeek-V4-Flash](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) at half list. After that, billing goes back to list. Same ids, same API. | Model | List (in / out per 1M) | Sale through 1 Sep | | --- | --- | --- | | [`qwen/qwen3.8-27b`](https://anyrouter.dev/model/qwen/qwen3.8-27b) | $0.30 / $3.25 | $0.15 / $1.625 | | [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) | $0.14 / $0.28 | $0.07 / $0.14 | Qwen3.8-27B: 262K context, thinking, tools — the 27B you leave on for coding. DeepSeek-V4-Flash: 500K context, zippy chat. [Release note](https://anyrouter.dev/blog/releases/2026-08-20-qwen3-8-27b-sale). ## Call them Point the [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) at AnyRouter, or use the [AI SDK](https://anyrouter.dev/use-cases/ai-sdk). Same model string either way — you're already on sale rates. ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-27b", messages: [{ role: "user", content: "Summarize this diff in three bullets." }], }) console.log(res.choices[0]?.message.content) ``` ### AI SDK ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-27b"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` Coding agent: `anyr login` then `anyr claude --model "qwen/qwen3.8-27b"` ([setup](https://anyrouter.dev/use-cases/coding-agents)). No code: [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b). --- # Qwen3.8-27B 和 DeepSeek V4 Flash,五折 > 五折到 9 月 1 日。同一套 API、同一套 model id——账单更友好。 - Date: August 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/qwen3-8-27b-50-percent-off ## 五折到 9 月 1 日 促销到 9 月 1 日——[Qwen3.8-27B](https://anyrouter.dev/model/qwen/qwen3.8-27b) 和 [DeepSeek-V4-Flash](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) 半价。之后回到标价。id 不变,API 不变。 | 模型 | 标价(入 / 出 per 1M) | 促销到 9 月 1 日 | | --- | --- | --- | | [`qwen/qwen3.8-27b`](https://anyrouter.dev/model/qwen/qwen3.8-27b) | $0.30 / $3.25 | $0.15 / $1.625 | | [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) | $0.14 / $0.28 | $0.07 / $0.14 | Qwen3.8-27B:262K 上下文、思考、工具——适合一直开着写代码的 27B。DeepSeek-V4-Flash:500K 上下文,聊天很快。[发布说明](https://anyrouter.dev/blog/releases/2026-08-20-qwen3-8-27b-sale)。 ## 怎么调 把 [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) 指到 AnyRouter,或用 [AI SDK](https://anyrouter.dev/use-cases/ai-sdk)。两边同一条 model 字符串——已经是促销价。 ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-27b", messages: [{ role: "user", content: "Summarize this diff in three bullets." }], }) console.log(res.choices[0]?.message.content) ``` ### AI SDK ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-27b"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` 编程 agent:`anyr login` 然后 `anyr claude --model "qwen/qwen3.8-27b"`([setup](https://anyrouter.dev/use-cases/coding-agents))。不写代码:[playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b)。 --- # Qwen3.8-27B và DeepSeek V4 Flash, giảm 50% > Nửa giá đến 1 tháng 9. Cùng API, cùng model id — hóa đơn dễ chịu hơn. - Date: August 20, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/qwen3-8-27b-50-percent-off ## Giảm 50% đến 1 tháng 9 Sale đến 1 tháng 9 — [Qwen3.8-27B](https://anyrouter.dev/model/qwen/qwen3.8-27b) và [DeepSeek-V4-Flash](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) nửa list. Sau đó billing về list. Cùng id, cùng API. | Model | List (in / out per 1M) | Sale đến 1 tháng 9 | | --- | --- | --- | | [`qwen/qwen3.8-27b`](https://anyrouter.dev/model/qwen/qwen3.8-27b) | $0.30 / $3.25 | $0.15 / $1.625 | | [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) | $0.14 / $0.28 | $0.07 / $0.14 | Qwen3.8-27B: ngữ cảnh 262K, thinking, tools — 27B để mở suốt lúc coding. DeepSeek-V4-Flash: ngữ cảnh 500K, chat nhanh. [Ghi chú phát hành](https://anyrouter.dev/blog/releases/2026-08-20-qwen3-8-27b-sale). ## Gọi chúng Chỉ [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) vào AnyRouter, hoặc dùng [AI SDK](https://anyrouter.dev/use-cases/ai-sdk). Cùng chuỗi model — bạn đã ở giá sale. ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-27b", messages: [{ role: "user", content: "Summarize this diff in three bullets." }], }) console.log(res.choices[0]?.message.content) ``` ### AI SDK ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-27b"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` Coding agent: `anyr login` rồi `anyr claude --model "qwen/qwen3.8-27b"` ([setup](https://anyrouter.dev/use-cases/coding-agents)). Không code: [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b). --- # Use OpenCode with AnyRouter — CLI launcher or opencode.json > Point the OpenCode coding agent at AnyRouter in one command, or add a custom Chat Completions provider in opencode.json. One sk-ar- key reaches every catalog model, with unified billing and request logs. - Date: August 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/opencode-anyrouter ## What this is OpenCode is an open-source coding agent for the terminal (and a desktop/IDE app). By default it talks to whatever providers you /connect — OpenCode Zen, OpenAI, Anthropic, and so on. Point it at AnyRouter instead and every session shares one sk-ar- key, one bill, and one request log with Claude Code, Codex, and the rest of your stack. OpenCode speaks OpenAI Chat Completions. AnyRouter serves that dialect at https://anyrouter.dev/api/v1, so this is a config-only change: no OpenCode fork, no rebuild. OpenCode the agent is not OpenCode Zen. Zen is a model API you can attach as BYOK. This guide is about driving the OpenCode TUI through AnyRouter. [Full setup guide](https://anyrouter.dev/docs/guides/opencode) ## Fastest path: the anyr CLI Install OpenCode first (`curl -fsSL https://opencode.ai/install | bash`, or `npm install -g opencode-ai`). Then one command logs you in and launches OpenCode with AnyRouter already selected: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode anyr opencode --model "anthropic/claude-sonnet-4-6" anyr opencode --model "z-ai/glm-5.2" anyr opencode --dry-run ``` _Launch OpenCode through AnyRouter._ ![AnyRouter CLI launcher with the OpenCode target selected](https://anyrouter.dev/img/docs/guides/opencode/cli-launch.png) _The CLI target list includes OpenCode. The first run signs you in; later runs reuse ~/.anyrouter/config.yaml._ The launcher does not write OpenCode's config files. It injects a session-only AnyRouter provider (correct base URL plus catalog context/output limits) and sets OPENAI_API_KEY so the key interpolates at runtime. Quit OpenCode and your global opencode.json is unchanged. The same stored key also powers `anyr claude` and `anyr codex`. Anything after `--` forwards to OpenCode verbatim (`anyr opencode -- --help`). ## Persistent config: opencode.json When you want a bare `opencode` command to use AnyRouter every time, register it as a custom `@ai-sdk/openai-compatible` provider. Export the key in your shell, then add this to `~/.config/opencode/opencode.json` (every project) or `./opencode.json` (this repo): ```json { "$schema": "https://opencode.ai/config.json", "provider": { "anyrouter": { "npm": "@ai-sdk/openai-compatible", "name": "AnyRouter", "options": { "baseURL": "https://anyrouter.dev/api/v1", "apiKey": "{env:ANYROUTER_API_KEY}" }, "models": { "anthropic/claude-sonnet-4-6": { "name": "Claude Sonnet 4.6", "limit": { "context": 200000, "output": 65536 } }, "z-ai/glm-5.2": { "name": "GLM-5.2", "limit": { "context": 1000000, "output": 65536 } } } } }, "model": "anyrouter/anthropic/claude-sonnet-4-6" } ``` _Custom AnyRouter provider. apiKey is the env var name, not the secret._ - Create the key in the dashboard — every inference key starts with sk-ar-. - export ANYROUTER_API_KEY before launching. `{env:ANYROUTER_API_KEY}` is the variable name, never paste the secret into the JSON. - Model map keys must be exact AnyRouter ids. OpenCode's default is `anyrouter/`. - If you set `limit`, OpenCode 1.18+ requires both `context` and `output`. Omit `limit` entirely if you do not know the windows. ![opencode.json with the AnyRouter custom provider](https://anyrouter.dev/img/docs/guides/opencode/json-provider.png) _A persistent provider block so `opencode` talks to AnyRouter without the CLI wrapper._ Then run `opencode`, open `/models`, and pick an `anyrouter/…` id. ![OpenCode TUI with an AnyRouter model selected](https://anyrouter.dev/img/docs/guides/opencode/tui-session.png) _The TUI labels the provider AnyRouter. Switch models with /models._ ## Verify it billed through AnyRouter Send any prompt, then open request logs. The row should show the model id, tokens, cost, and latency within a second or two. ![AnyRouter request logs showing an OpenCode session](https://anyrouter.dev/img/docs/guides/opencode/request-logs.png) _If the row is there, OpenCode is routing through AnyRouter — not Zen or a leftover OpenAI key._ - 401 — the process does not have a live sk-ar- key. In persistent config, `echo $ANYROUTER_API_KEY`. With the CLI, `anyr config get`. - Model not found — the map key must match a Chat Completions catalog id, not a Zen or Anthropic-native alias. - Wrong provider answering — a /connect login for Zen can win when you launch `opencode` directly. Pick `anyrouter/…` in /models, or use `anyr opencode`. ## Where to go from here Canonical CLI flags live at [anyrouter.dev/docs/cli/opencode](https://anyrouter.dev/docs/cli/opencode). The narrative walkthrough is [anyrouter.dev/docs/guides/opencode](https://anyrouter.dev/docs/guides/opencode). To add AnyRouter tools (credits, catalog, keys) inside the same chat, use the MCP recipe at [anyrouter.dev/docs/mcp/opencode](https://anyrouter.dev/docs/mcp/opencode). The same AnyRouter key also launches Claude Code and Codex. One profile, every agent. Launch OpenCode through AnyRouter — one key, the catalog, request logs. [Open the CLI](https://anyrouter.dev/cli) --- # 用 AnyRouter 跑 OpenCode — CLI 启动器或 opencode.json > 一条命令把 OpenCode 编程 agent 指到 AnyRouter,或在 opencode.json 里加一个自定义 Chat Completions 供应商。一把 sk-ar- key 打到目录里每个模型,账单和请求日志统一。 - Date: August 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/opencode-anyrouter ## 这是什么 OpenCode 是开源的终端编程 agent(也有桌面 / IDE 应用)。默认它跟你 /connect 的供应商说话——OpenCode Zen、OpenAI、Anthropic 等等。改指 AnyRouter 之后,每次会话和 Claude Code、Codex、以及你栈里其余部分共用一把 sk-ar- key、一张账单、一份请求日志。 OpenCode 讲 OpenAI Chat Completions。AnyRouter 在 https://anyrouter.dev/api/v1 提供这套方言,所以这是纯配置改动:不用 fork OpenCode,也不用重编。 Agent 叫 OpenCode,不是 OpenCode Zen。Zen 是可以当 BYOK 挂上的模型 API。这篇讲的是用 AnyRouter 驱动 OpenCode TUI。 [完整安装指南](https://anyrouter.dev/docs/guides/opencode) ## 最快路径:anyr CLI 先装 OpenCode(`curl -fsSL https://opencode.ai/install | bash`,或 `npm install -g opencode-ai`)。然后一条命令登录并启动已选好 AnyRouter 的 OpenCode: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode anyr opencode --model "anthropic/claude-sonnet-4-6" anyr opencode --model "z-ai/glm-5.2" anyr opencode --dry-run ``` _通过 AnyRouter 启动 OpenCode。_ ![AnyRouter CLI 启动器,已选中 OpenCode 目标](https://anyrouter.dev/img/docs/guides/opencode/cli-launch.png) _CLI 目标列表里有 OpenCode。第一次运行会登录;之后复用 ~/.anyrouter/config.yaml。_ 启动器不写 OpenCode 的配置文件。它注入一个仅本次会话的 AnyRouter 供应商(正确的 base URL 加上目录的上下文 / 输出上限),并设置 OPENAI_API_KEY,好在运行时插值 key。退出 OpenCode 后,全局 opencode.json 不变。同一把存好的 key 也驱动 `anyr claude` 和 `anyr codex`。 `--` 后面的一切原样转给 OpenCode(`anyr opencode -- --help`)。 ## 持久配置:opencode.json 想让裸 `opencode` 命令每次都走 AnyRouter,就把它注册成自定义 `@ai-sdk/openai-compatible` 供应商。在 shell 里导出 key,再加到 `~/.config/opencode/opencode.json`(所有项目)或 `./opencode.json`(这个仓库): ```json { "$schema": "https://opencode.ai/config.json", "provider": { "anyrouter": { "npm": "@ai-sdk/openai-compatible", "name": "AnyRouter", "options": { "baseURL": "https://anyrouter.dev/api/v1", "apiKey": "{env:ANYROUTER_API_KEY}" }, "models": { "anthropic/claude-sonnet-4-6": { "name": "Claude Sonnet 4.6", "limit": { "context": 200000, "output": 65536 } }, "z-ai/glm-5.2": { "name": "GLM-5.2", "limit": { "context": 1000000, "output": 65536 } } } } }, "model": "anyrouter/anthropic/claude-sonnet-4-6" } ``` _自定义 AnyRouter 供应商。apiKey 是环境变量名,不是密钥本身。_ - 在控制台创建 key——每把推理 key 都以 sk-ar- 开头。 - 启动前 export ANYROUTER_API_KEY。`{env:ANYROUTER_API_KEY}` 是变量名,永远不要把密钥贴进 JSON。 - 模型映射的 key 必须是精确的 AnyRouter id。OpenCode 默认是 `anyrouter/`。 - 如果设了 `limit`,OpenCode 1.18+ 要求同时有 `context` 和 `output`。不知道窗口就整段省略 `limit`。 ![带 AnyRouter 自定义供应商的 opencode.json](https://anyrouter.dev/img/docs/guides/opencode/json-provider.png) _持久供应商块,让 `opencode` 不用 CLI 包装也能跟 AnyRouter 说话。_ 然后跑 `opencode`,打开 `/models`,选一个 `anyrouter/…` id。 ![OpenCode TUI,已选中 AnyRouter 模型](https://anyrouter.dev/img/docs/guides/opencode/tui-session.png) _TUI 把供应商标成 AnyRouter。用 /models 换模型。_ ## 确认账单走了 AnyRouter 发任意一条提示,再打开请求日志。一两秒内那一行应显示 model id、token、费用和延迟。 ![AnyRouter 请求日志里的一次 OpenCode 会话](https://anyrouter.dev/img/docs/guides/opencode/request-logs.png) _有这一行,说明 OpenCode 走的是 AnyRouter——不是 Zen,也不是残留的 OpenAI key。_ - 401 — 进程没有活的 sk-ar- key。持久配置里 `echo $ANYROUTER_API_KEY`。CLI 则 `anyr config get`。 - Model not found — 映射 key 必须匹配 Chat Completions 目录 id,不是 Zen 或 Anthropic 原生别名。 - 答的是别的供应商 — 直接启动 `opencode` 时,Zen 的 /connect 登录可能抢先。在 /models 里选 `anyrouter/…`,或用 `anyr opencode`。 ## 接下来去哪 CLI 参数原文在 [anyrouter.dev/docs/cli/opencode](https://anyrouter.dev/docs/cli/opencode)。叙事走读在 [anyrouter.dev/docs/guides/opencode](https://anyrouter.dev/docs/guides/opencode)。要在同一场对话里加 AnyRouter 工具(额度、目录、key),用 [anyrouter.dev/docs/mcp/opencode](https://anyrouter.dev/docs/mcp/opencode) 的 MCP 配方。 同一把 AnyRouter key 也能拉起 Claude Code 和 Codex。一个配置,每个 agent。 通过 AnyRouter 启动 OpenCode——一把 key、整份目录、请求日志。 [打开 CLI](https://anyrouter.dev/cli) --- # Dùng OpenCode với AnyRouter — CLI launcher hoặc opencode.json > Chỉ coding agent OpenCode vào AnyRouter bằng một lệnh, hoặc thêm nhà cung cấp Chat Completions tùy chỉnh trong opencode.json. Một key sk-ar- tới mọi model catalog, billing và nhật ký request thống nhất. - Date: August 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/opencode-anyrouter ## Đây là gì OpenCode là coding agent mã nguồn mở cho terminal (và app desktop/IDE). Mặc định nó nói với nhà cung cấp bạn /connect — OpenCode Zen, OpenAI, Anthropic, v.v. Chỉ vào AnyRouter thì mọi phiên chia một key sk-ar-, một hóa đơn, và một nhật ký request với Claude Code, Codex, và phần còn lại của stack. OpenCode nói OpenAI Chat Completions. AnyRouter phục vụ phương ngữ đó tại https://anyrouter.dev/api/v1, nên đây chỉ là đổi cấu hình: không fork OpenCode, không rebuild. OpenCode agent không phải OpenCode Zen. Zen là API model bạn gắn như BYOK. Hướng dẫn này là lái OpenCode TUI qua AnyRouter. [Hướng dẫn cài đầy đủ](https://anyrouter.dev/docs/guides/opencode) ## Đường nhanh nhất: CLI anyr Cài OpenCode trước (`curl -fsSL https://opencode.ai/install | bash`, hoặc `npm install -g opencode-ai`). Rồi một lệnh đăng nhập và mở OpenCode đã chọn AnyRouter: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode anyr opencode --model "anthropic/claude-sonnet-4-6" anyr opencode --model "z-ai/glm-5.2" anyr opencode --dry-run ``` _Khởi chạy OpenCode qua AnyRouter._ ![CLI launcher AnyRouter với mục tiêu OpenCode được chọn](https://anyrouter.dev/img/docs/guides/opencode/cli-launch.png) _Danh sách mục tiêu CLI gồm OpenCode. Lần đầu đăng nhập; lần sau dùng lại ~/.anyrouter/config.yaml._ Launcher không ghi file cấu hình của OpenCode. Nó tiêm một nhà cung cấp AnyRouter chỉ trong phiên (base URL đúng cộng giới hạn context/output catalog) và đặt OPENAI_API_KEY để key nội suy lúc chạy. Thoát OpenCode thì opencode.json toàn cục không đổi. Cùng key đã lưu cũng chạy `anyr claude` và `anyr codex`. Mọi thứ sau `--` chuyển nguyên văn cho OpenCode (`anyr opencode -- --help`). ## Cấu hình bền: opencode.json Khi muốn lệnh `opencode` trần dùng AnyRouter mọi lúc, đăng ký nó như nhà cung cấp `@ai-sdk/openai-compatible` tùy chỉnh. Export key trong shell, rồi thêm vào `~/.config/opencode/opencode.json` (mọi dự án) hoặc `./opencode.json` (repo này): ```json { "$schema": "https://opencode.ai/config.json", "provider": { "anyrouter": { "npm": "@ai-sdk/openai-compatible", "name": "AnyRouter", "options": { "baseURL": "https://anyrouter.dev/api/v1", "apiKey": "{env:ANYROUTER_API_KEY}" }, "models": { "anthropic/claude-sonnet-4-6": { "name": "Claude Sonnet 4.6", "limit": { "context": 200000, "output": 65536 } }, "z-ai/glm-5.2": { "name": "GLM-5.2", "limit": { "context": 1000000, "output": 65536 } } } } }, "model": "anyrouter/anthropic/claude-sonnet-4-6" } ``` _Nhà cung cấp AnyRouter tùy chỉnh. apiKey là tên biến môi trường, không phải bí mật._ - Tạo key trong dashboard — mọi inference key bắt đầu bằng sk-ar-. - export ANYROUTER_API_KEY trước khi chạy. `{env:ANYROUTER_API_KEY}` là tên biến, đừng dán bí mật vào JSON. - Key trong map model phải là id AnyRouter chính xác. Mặc định OpenCode là `anyrouter/`. - Nếu đặt `limit`, OpenCode 1.18+ đòi cả `context` và `output`. Bỏ hẳn `limit` nếu không biết cửa sổ. ![opencode.json với nhà cung cấp AnyRouter tùy chỉnh](https://anyrouter.dev/img/docs/guides/opencode/json-provider.png) _Khối nhà cung cấp bền để `opencode` nói với AnyRouter không cần wrapper CLI._ Rồi chạy `opencode`, mở `/models`, chọn một id `anyrouter/…`. ![OpenCode TUI với model AnyRouter được chọn](https://anyrouter.dev/img/docs/guides/opencode/tui-session.png) _TUI gắn nhãn nhà cung cấp AnyRouter. Đổi model bằng /models._ ## Xác nhận đã billing qua AnyRouter Gửi bất kỳ prompt nào, rồi mở nhật ký request. Hàng nên hiện model id, token, chi phí và latency trong một hoặc hai giây. ![Nhật ký request AnyRouter hiện phiên OpenCode](https://anyrouter.dev/img/docs/guides/opencode/request-logs.png) _Có hàng đó thì OpenCode đang route qua AnyRouter — không phải Zen hay key OpenAI sót lại._ - 401 — process không có key sk-ar- sống. Trong cấu hình bền, `echo $ANYROUTER_API_KEY`. Với CLI, `anyr config get`. - Model not found — key map phải khớp catalog id Chat Completions, không phải alias Zen hay Anthropic gốc. - Nhà cung cấp sai đang trả lời — login /connect cho Zen có thể thắng khi bạn chạy `opencode` trực tiếp. Chọn `anyrouter/…` trong /models, hoặc dùng `anyr opencode`. ## Đi tiếp từ đây Cờ CLI chuẩn ở [anyrouter.dev/docs/cli/opencode](https://anyrouter.dev/docs/cli/opencode). Walkthrough kể chuyện ở [anyrouter.dev/docs/guides/opencode](https://anyrouter.dev/docs/guides/opencode). Để thêm công cụ AnyRouter (credit, catalog, key) trong cùng chat, dùng công thức MCP tại [anyrouter.dev/docs/mcp/opencode](https://anyrouter.dev/docs/mcp/opencode). Cùng key AnyRouter cũng khởi chạy Claude Code và Codex. Một profile, mọi agent. Khởi chạy OpenCode qua AnyRouter — một key, catalog, nhật ký request. [Mở CLI](https://anyrouter.dev/cli) --- # CLI update: multiple accounts, terminal key management, and agents that delegate > The AnyRouter CLI now handles several accounts side by side, manages API keys without the dashboard, runs plan-then-implement pipelines across two models, and lets coding agents hand tasks to each other — one hop, one key. - Date: August 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/cli-accounts-and-delegation ## One CLI, several accounts Work and personal. A client's gateway and your own. The CLI now treats accounts as a first-class thing: ```bash anyr account add work # sign in to a second account anyr account use work # switch the default anyr whoami # who am I right now? ANYROUTER_PROFILE=ci anyr claude # pin an account per shell or CI job ``` Each account keeps its own key, base URL, and defaults in `~/.anyrouter/config.yaml`. `--profile` wins for one command, `ANYROUTER_PROFILE` for a shell, `account use` persistently. `anyr whoami` always tells you which one is active and where its key lives — masked, never the secret. `anyr logout` now removes everything the login stored — from the config file — while keeping the account's settings, so signing back in is one step. ## API keys without leaving the terminal Browser sign-in now also stores a scoped management credential, so key management works right where you are: ```bash anyr keys list # * marks the key in use anyr keys create laptop # minted and offered for storage in one step anyr keys use # pick a key, switch to it anyr keys revoke # gone (asks first) ``` The management credential can list, create, and revoke keys — and nothing else. It can't run inference, it's never printed by any command, and `anyr logout` deletes it. The dashboard keys page is still one bare `anyr keys` away. ## Plan with a strong model, implement with a fast one `anyr task` runs a two-phase pipeline: a planning model writes a numbered plan, an implementation model executes exactly that plan. Both phases stream, and a token summary prints at the end. ```bash anyr task "refactor this CSV parser to stream" \ --plan-model openai/gpt-5.2 \ --do-model z-ai/glm-4.7-flash ``` Pairing an expensive planner with a cheap implementer gets you most of the quality at a fraction of the cost — and `--json` makes the whole thing scriptable. ## Agents that delegate to each other Because one key drives every coding agent, agents can now hand work to each other: ```bash anyr delegate --to codex "add unit tests for src/utils/slug.ts" anyr delegate --to claude "explain this stack trace" --model deepseek/deepseek-v3 ``` The target agent runs headlessly (`claude -p`, `codex exec`, `opencode run`) through the gateway with your stored key, streams its output, and exits with its own exit code. Agent sessions that already run through AnyRouter get the same capability as a `delegate_task` tool call, bridged to the CLI — the delegated agent's output comes back into the conversation. Guardrails are built in: delegation is capped at **one hop** — a delegated agent can never delegate again — so two agents can't ping-pong tasks (and spend) between each other. Terminal runs confirm before spending; scripts opt in with `--yes`. ## Try it Everything above ships in the current `anyr` CLI — no new install, no migration, and every command you already use behaves exactly as before. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr auth login ``` Docs: [accounts & keys](https://anyrouter.dev/docs/cli/accounts-and-keys), [anyr task](https://anyrouter.dev/docs/cli/task), [delegation](https://anyrouter.dev/docs/cli/delegate). --- # CLI 更新:多账号、终端管 key、agent 互相委派 > AnyRouter CLI 现在可以并排管理多个账号,不进 dashboard 也能管 API key,用两个模型跑「先计划再实现」流水线,并让 coding agent 互相交活——一跳、一把 key。 - Date: August 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/cli-accounts-and-delegation ## 一个 CLI,多个账号 工作号和私人号。客户的网关和你自己的。CLI 现在把账号当一等公民: ```bash anyr account add work # sign in to a second account anyr account use work # switch the default anyr whoami # who am I right now? ANYROUTER_PROFILE=ci anyr claude # pin an account per shell or CI job ``` 每个账号在 `~/.anyrouter/config.yaml` 里各自保存 key、base URL 和默认值。一条命令用 `--profile` 覆盖,一个 shell 用 `ANYROUTER_PROFILE`,`account use` 则持久切换。`anyr whoami` 总会告诉你当前是哪个账号、key 在哪——已打码,从不打印密钥。 `anyr logout` 现在清掉登录写入的一切——配置文件里的内容——但保留该账号的设置,再登只需一步。 ## 不用离开终端也能管 API key 浏览器登录现在还会存一份有范围的管理凭证,所以 key 管理就在你站着的地方: ```bash anyr keys list # * marks the key in use anyr keys create laptop # minted and offered for storage in one step anyr keys use # pick a key, switch to it anyr keys revoke # gone (asks first) ``` 管理凭证只能列出、创建和吊销 key——别的不行。它不能跑推理,任何命令都不会打印它,`anyr logout` 会删掉它。dashboard 的 keys 页仍然只差一条裸的 `anyr keys`。 ## 用强模型做计划,用快模型落地 `anyr task` 跑两阶段流水线:规划模型写出编号计划,实现模型严格按该计划执行。两阶段都流式输出,结束时打印 token 摘要。 ```bash anyr task "refactor this CSV parser to stream" \ --plan-model openai/gpt-5.2 \ --do-model z-ai/glm-4.7-flash ``` 把贵的规划器和便宜的实现器配对,能用一小部分成本拿到大部分质量——`--json` 让整条流水线可脚本化。 ## Agent 互相委派 因为一把 key 驱动每个 coding agent,agent 现在可以把活交给彼此: ```bash anyr delegate --to codex "add unit tests for src/utils/slug.ts" anyr delegate --to claude "explain this stack trace" --model deepseek/deepseek-v3 ``` 目标 agent 无头运行(`claude -p`、`codex exec`、`opencode run`),经网关用你存好的 key,流式输出,并以自己的退出码退出。已经走 AnyRouter 的 agent 会话以 `delegate_task` 工具调用拿到同一能力,桥接到 CLI——被委派 agent 的输出回到对话里。 护栏内置:委派上限是 **一跳**——被委派的 agent 不能再委派——所以两个 agent 不能互相打乒乓球(也花不掉双倍)。终端运行会先确认再花钱;脚本用 `--yes` 选择加入。 ## 试试看 以上都已随当前 `anyr` CLI 发布——不用新安装、不用迁移,你已经在用的每条命令行为不变。 ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr auth login ``` 文档:[accounts & keys](https://anyrouter.dev/docs/cli/accounts-and-keys)、[anyr task](https://anyrouter.dev/docs/cli/task)、[delegation](https://anyrouter.dev/docs/cli/delegate)。 --- # Cập nhật CLI: nhiều tài khoản, quản lý key trên terminal, và agent ủy thác > CLI AnyRouter giờ giữ vài tài khoản cạnh nhau, quản lý API key không cần dashboard, chạy pipeline lập kế hoạch rồi implement trên hai mô hình, và để coding agent giao việc cho nhau — một hop, một key. - Date: August 16, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/cli-accounts-and-delegation ## Một CLI, nhiều tài khoản Công việc và cá nhân. Gateway của khách và của bạn. CLI giờ coi tài khoản là thực thể hạng nhất: ```bash anyr account add work # sign in to a second account anyr account use work # switch the default anyr whoami # who am I right now? ANYROUTER_PROFILE=ci anyr claude # pin an account per shell or CI job ``` Mỗi tài khoản giữ key, base URL và mặc định riêng trong `~/.anyrouter/config.yaml`. `--profile` thắng cho một lệnh, `ANYROUTER_PROFILE` cho một shell, `account use` thì bền. `anyr whoami` luôn nói tài khoản nào đang active và key nằm đâu — đã che, không bao giờ in secret. `anyr logout` giờ xóa hết thứ login đã lưu — khỏi file config — nhưng giữ setting của tài khoản, nên đăng nhập lại chỉ một bước. ## API key mà không rời terminal Đăng nhập trình duyệt giờ cũng lưu credential quản lý có scope, nên quản lý key ngay chỗ bạn đang đứng: ```bash anyr keys list # * marks the key in use anyr keys create laptop # minted and offered for storage in one step anyr keys use # pick a key, switch to it anyr keys revoke # gone (asks first) ``` Credential quản lý chỉ list, tạo, và thu hồi key — không gì khác. Nó không chạy inference, không lệnh nào in nó, và `anyr logout` xóa nó. Trang keys trên dashboard vẫn cách một lệnh trần `anyr keys`. ## Lập kế hoạch bằng mô hình mạnh, implement bằng mô hình nhanh `anyr task` chạy pipeline hai pha: mô hình lập kế hoạch viết plan đánh số, mô hình implement thực thi đúng plan đó. Cả hai pha stream, và tóm tắt token in ở cuối. ```bash anyr task "refactor this CSV parser to stream" \ --plan-model openai/gpt-5.2 \ --do-model z-ai/glm-4.7-flash ``` Ghép planner đắt với implementer rẻ lấy gần hết chất lượng với một phần chi phí — và `--json` làm cả pipeline script được. ## Agent ủy thác cho nhau Vì một key chạy mọi coding agent, agent giờ giao việc cho nhau được: ```bash anyr delegate --to codex "add unit tests for src/utils/slug.ts" anyr delegate --to claude "explain this stack trace" --model deepseek/deepseek-v3 ``` Agent đích chạy headless (`claude -p`, `codex exec`, `opencode run`) qua gateway với key đã lưu, stream output, và thoát với exit code của chính nó. Session agent đã đi qua AnyRouter có cùng khả năng dưới dạng tool call `delegate_task`, cầu sang CLI — output của agent được ủy thác quay lại cuộc hội thoại. Guardrail có sẵn: ủy thác trần **một hop** — agent đã được ủy thác không được ủy thác tiếp — nên hai agent không ping-pong task (và spend) cho nhau. Chạy trên terminal xác nhận trước khi tiêu; script opt-in bằng `--yes`. ## Thử ngay Mọi thứ trên đã nằm trong `anyr` CLI hiện tại — không cài mới, không migration, và mọi lệnh bạn đã dùng vẫn hành xử như cũ. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr auth login ``` Docs: [accounts & keys](https://anyrouter.dev/docs/cli/accounts-and-keys), [anyr task](https://anyrouter.dev/docs/cli/task), [delegation](https://anyrouter.dev/docs/cli/delegate). --- # What is AnyRouter? A plain-English guide to AI model routing > An AI model router lets you call many LLMs through one API. Here's what AnyRouter is, why it exists, and whether it's useful for your next project. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/what-is-anyrouter ## The problem: every AI provider has its own API OpenAI, Anthropic, Google, and the other AI providers each ship their own SDK, their own base URL, their own auth scheme, and their own error format. If your app uses models from more than one provider, you end up writing and maintaining a separate integration for each one. An AI model router sits in the middle. You send one request and the router forwards it to the right provider, translating formats and handling failures so your code doesn't have to. ## What AnyRouter does AnyRouter is an AI API gateway that exposes a single OpenAI-compatible endpoint (`/v1/chat/completions`) in front of models from many providers. You point your existing client at AnyRouter's base URL, pass a model id like `anthropic/claude-sonnet-4-5` or `google/gemini-2.5-pro`, and the gateway routes the request. It supports Bring Your Own Key (BYOK) — you can attach your own provider keys and route through them at no platform markup — as well as a shared-key pool option. It also handles failover: if one upstream returns a 429, 401, or 5xx, the gateway tries the next available upstream automatically. Your client only ever sees the final successful response. ## Who it's for - Developers building apps that use multiple AI models - Teams that want one billing point and one audit trail - Students and researchers looking for free or low-cost model access - CLI users who want to switch models without changing config files ## How to try it Sign up at anyrouter.dev, create an API key, and make a request: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hello"}]}' ``` The `anyrouter/free` model tier is available at no cost and is a good first test. If you outgrow it, the Go plan is $2/mo with a $4 credit included. ## Monitoring your usage Track requests, tokens, and costs per model at chmonitor.dev. It shows per-model breakdowns so you can see which models you're actually using and where your spend goes. One API, many models, one dashboard. Sign up free at anyrouter.dev. [Get started](https://anyrouter.dev/dashboard) --- # AnyRouter 是什么?用人话讲 AI 模型路由 > AI 模型路由器让你用一个 API 调用很多 LLM。下面讲 AnyRouter 是什么、为什么存在、对你下一个项目有没有用。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/what-is-anyrouter ## 问题:每家 AI 供应商都有自己的 API OpenAI、Anthropic、Google 和其他供应商各自一套 SDK、一套 base URL、一套鉴权、一套错误格式。应用用超过一家的模型,就要为每一家写、再维护一套集成。 AI 模型路由器坐在中间。你发一笔请求,路由器转到对应供应商,翻译格式、处理失败,你的代码不用管。 ## AnyRouter 做什么 AnyRouter 是一个 AI API 网关,在多家供应商的模型前面暴露一个兼容 OpenAI 的端点(`/v1/chat/completions`)。把现有客户端指到 AnyRouter 的 base URL,传入 `anthropic/claude-sonnet-4-5` 或 `google/gemini-2.5-pro` 这样的 model id,网关负责路由。 支持 Bring Your Own Key(BYOK)——挂上自己的供应商 key,走这些 key 时没有平台加价——以及共享 key 池选项。 还有故障切换:一家上游返回 429、401 或 5xx,网关自动试下一把可用上游。客户端只看见最后一次成功的响应。 ## 给谁用 - 要在应用里用多个 AI 模型的开发者 - 想要一个账单入口、一条审计轨迹的团队 - 想找免费或低成本模型访问的学生和研究人员 - 不想改配置文件就能换模型的 CLI 用户 ## 怎么试 在 anyrouter.dev 注册,创建一把 API key,发一笔请求: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hello"}]}' ``` `anyrouter/free` 档免费可用,适合第一次试。用不够再上 Go:每月 $2,含 $4 额度。 ## 看用量 在 chmonitor.dev 按模型跟踪请求、token 和费用。能看到你真正在用哪些模型、钱花到哪。 一个 API,很多模型,一块仪表盘。在 anyrouter.dev 免费注册。 [开始使用](https://anyrouter.dev/dashboard) --- # AnyRouter là gì? Giải thích routing model AI bằng tiếng thường > Router model AI cho phép gọi nhiều LLM qua một API. Đây là AnyRouter là gì, vì sao tồn tại, và có ích cho dự án tiếp theo của bạn không. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/what-is-anyrouter ## Vấn đề: mỗi nhà cung cấp AI một API riêng OpenAI, Anthropic, Google và các nhà cung cấp khác mỗi bên một SDK, một base URL, một cách auth, một định dạng lỗi. App dùng model từ hơn một nhà thì bạn phải viết và nuôi một tích hợp riêng cho từng nhà. Router model AI ngồi giữa. Bạn gửi một request, router chuyển tới đúng nhà cung cấp, dịch format và xử lý lỗi để code của bạn khỏi phải làm. ## AnyRouter làm gì AnyRouter là cổng API AI, mở một endpoint tương thích OpenAI (`/v1/chat/completions`) trước model của nhiều nhà cung cấp. Chỉ client sẵn có vào base URL của AnyRouter, truyền model id như `anthropic/claude-sonnet-4-5` hoặc `google/gemini-2.5-pro`, gateway route request. Hỗ trợ Bring Your Own Key (BYOK) — gắn key nhà cung cấp của bạn và route qua chúng, không markup nền tảng — cùng tùy chọn pool key dùng chung. Cũng failover: một upstream trả 429, 401, hoặc 5xx thì gateway tự thử upstream còn trống tiếp theo. Client chỉ thấy response thành công cuối cùng. ## Dành cho ai - Lập trình viên xây app dùng nhiều model AI - Nhóm muốn một điểm thanh toán và một audit trail - Sinh viên và nhà nghiên cứu cần truy cập model miễn phí hoặc rẻ - Người dùng CLI muốn đổi model mà không sửa file cấu hình ## Cách thử Đăng ký tại anyrouter.dev, tạo API key, rồi gửi một request: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hello"}]}' ``` Bậc `anyrouter/free` không mất phí, hợp để thử lần đầu. Hết chỗ thì gói Go là $2/tháng, kèm $4 credit. ## Theo dõi mức dùng Theo dõi request, token và chi phí theo model tại chmonitor.dev. Có breakdown từng model để thấy bạn đang dùng model nào và tiền đi đâu. Một API, nhiều model, một dashboard. Đăng ký miễn phí tại anyrouter.dev. [Bắt đầu](https://anyrouter.dev/dashboard) --- # HTTP 429 and 503 errors when calling AI APIs: what they mean and how to fix them > If you've hit a 429 Too Many Requests or 503 Service Unavailable on AnyRouter or another AI gateway, the cause is almost always rate limiting or upstream overload. Here are the practical fixes. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/anyrouter-429-error-fix ## What the status codes mean HTTP 429 (Too Many Requests) means you've exceeded a rate limit. The server is healthy but asking you to slow down. HTTP 503 (Service Unavailable) means the upstream provider is temporarily overloaded or down — the issue is on their side, not yours. Both are recoverable with the right strategy. Neither means your code is wrong. ## Why AI APIs hit rate limits Providers enforce rate limits to protect their infrastructure. The limits are usually based on one or more of: requests per minute (RPM), tokens per minute (TPM), requests per day (RPD), or concurrent connections. Free-tier models tend to have the tightest limits. Paid models have higher caps but still enforce them. A gateway like AnyRouter adds another layer of rate limiting on top of the upstream provider's limits. ## Practical fixes - Add exponential backoff on 429s. Wait 1s before the first retry, 2s before the second, 4s before the third, and so on up to a reasonable max (60s). - Respect the Retry-After header if the API provides one — it tells you exactly how long to wait. - Reduce request frequency. Batch requests, switch to a faster model for non-critical tasks, or spread load across multiple API keys if allowed. - Check whether the error is a 429 (your fault) or a 503 (upstream's fault). 503s usually resolve within minutes; 429s require you to change your request rate. - Monitor usage in your dashboard so you can see when you're approaching limits before you hit them. ## How AnyRouter handles this AnyRouter automatically fails over to an alternative upstream when one returns a 429, 401, or 5xx. The retry happens server-side, so your client only sees the final successful response — no special error handling needed on your side. If you're using the shared-key pool, rate limits are distributed across multiple provider keys, which raises the effective limit compared to a single key. ## Monitoring and observability Track your request patterns, error rates, and model-level latency at chmonitor.dev. Seeing which models are returning errors helps you decide whether to switch models, increase limits, or adjust your request pattern. Route through AnyRouter with automatic failover and monitor everything at chmonitor.dev. [Sign up free](https://anyrouter.dev/dashboard) --- # 调用 AI API 时的 HTTP 429 和 503:含义和怎么修 > 如果你在 AnyRouter 或其他 AI 网关上碰到 429 Too Many Requests 或 503 Service Unavailable,原因几乎总是限流或上游过载。下面是能落地的修法。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/anyrouter-429-error-fix ## 状态码是什么意思 HTTP 429(Too Many Requests)表示你超过了限流。服务器是健康的,只是让你慢一点。HTTP 503(Service Unavailable)表示上游供应商暂时过载或宕机——问题在他们那边,不在你这边。 两者都能用对策略恢复。都不等于你的代码写错了。 ## 为什么 AI API 会撞限流 供应商设限流是为了保护基础设施。上限通常基于一项或多项:每分钟请求数(RPM)、每分钟 token(TPM)、每天请求数(RPD),或并发连接。 免费档模型往往限制最紧。付费模型上限更高,但仍会执行。像 AnyRouter 这样的网关会在上游供应商限制之上再加一层限流。 ## 能落地的修法 - 对 429 加指数退避。第一次重试前等 1s,第二次 2s,第三次 4s,以此类推直到合理上限(60s)。 - 如果 API 提供 Retry-After 头,就按它等——它会告诉你该等多久。 - 降低请求频率。批量请求、非关键任务换更快模型,或在允许时把负载摊到多把 API key。 - 分清是 429(你这边)还是 503(上游)。503 通常几分钟内恢复;429 需要你改请求速率。 - 在控制台盯用量,好在撞上限之前看见自己正在接近。 ## AnyRouter 怎么处理 当一侧返回 429、401 或 5xx 时,AnyRouter 会自动切到备用上游。重试在服务端发生,客户端只看见最终成功的响应——你这边不必写特殊错误处理。 如果走共享 key 池,限流摊在多把供应商 key 上,有效上限比单 key 更高。 ## 监控与可观测性 在 chmonitor.dev 跟踪请求模式、错误率和模型级延迟。看见哪些模型在报错,有助于决定换模型、提限额,还是改请求节奏。 经 AnyRouter 路由并自动故障切换,在 chmonitor.dev 监控一切。 [免费注册](https://anyrouter.dev/dashboard) --- # Lỗi HTTP 429 và 503 khi gọi AI API: nghĩa là gì và sửa thế nào > Nếu bạn gặp 429 Too Many Requests hoặc 503 Service Unavailable trên AnyRouter hay gateway AI khác, nguyên nhân gần như luôn là rate limit hoặc upstream quá tải. Đây là cách xử lý thực tế. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/anyrouter-429-error-fix ## Mã trạng thái nghĩa là gì HTTP 429 (Too Many Requests) nghĩa là bạn vượt rate limit. Server vẫn khỏe, chỉ bảo bạn chậm lại. HTTP 503 (Service Unavailable) nghĩa là nhà cung cấp upstream tạm quá tải hoặc sập — vấn đề phía họ, không phải bạn. Cả hai đều phục hồi được nếu chiến lược đúng. Không cái nào nghĩa là code sai. ## Vì sao AI API dính rate limit Nhà cung cấp siết rate limit để bảo vệ hạ tầng. Giới hạn thường dựa trên một hoặc vài thứ: requests per minute (RPM), tokens per minute (TPM), requests per day (RPD), hoặc kết nối đồng thời. Model tầng miễn phí thường hạn chặt nhất. Model trả phí có trần cao hơn nhưng vẫn siết. Gateway như AnyRouter thêm một lớp rate limit trên hạn của nhà cung cấp upstream. ## Cách xử lý thực tế - Thêm exponential backoff khi 429. Đợi 1s trước lần retry đầu, 2s lần hai, 4s lần ba, và tiếp đến trần hợp lý (60s). - Tôn trọng header Retry-After nếu API gửi — nó nói đúng phải đợi bao lâu. - Giảm tần suất request. Gom batch, đổi model nhanh hơn cho việc không tới hạn, hoặc trải tải trên nhiều API key nếu được phép. - Phân biệt 429 (phía bạn) và 503 (phía upstream). 503 thường hết trong vài phút; 429 đòi bạn đổi tốc độ request. - Theo dõi usage trên dashboard để thấy khi đang sát hạn trước khi đụng. ## AnyRouter xử lý thế nào AnyRouter tự failover sang upstream khác khi một bên trả 429, 401, hoặc 5xx. Retry chạy phía server, client chỉ thấy response thành công cuối — không cần xử lý lỗi đặc biệt phía bạn. Nếu dùng pool key dùng chung, rate limit trải trên nhiều key nhà cung cấp, nên hạn hiệu dụng cao hơn một key đơn. ## Giám sát và quan sát Theo dõi mẫu request, tỷ lệ lỗi, và latency từng model tại chmonitor.dev. Thấy model nào đang trả lỗi giúp quyết định đổi model, tăng hạn, hay chỉnh mẫu request. Route qua AnyRouter với failover tự động và giám sát mọi thứ tại chmonitor.dev. [Đăng ký miễn phí](https://anyrouter.dev/dashboard) --- # How to use AnyRouter with Claude Code (Anthropic's CLI coding tool) > Point Claude Code at AnyRouter by setting two environment variables. Here's the setup, what changes, and what to do when things go wrong. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/anyrouter-claude-code-setup ## What Claude Code is Claude Code is Anthropic's official CLI tool for coding tasks. It reads your project files, runs terminal commands, and calls the Anthropic API to generate responses. By default, it connects directly to api.anthropic.com. You can point it at any Anthropic-compatible API endpoint instead, including AnyRouter. ## Setup Two environment variables control where Claude Code sends requests: ```bash export ANTHROPIC_API_KEY="sk-ar-v1-placeholder" export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" claude ``` That's it. Claude Code will send all its API requests through AnyRouter using the same Messages API format it uses with Anthropic directly. ## What changes - All requests go through AnyRouter's routing layer - You can access models available on AnyRouter by passing --model, e.g. claude --model claude-sonnet-4-5 - Usage is tracked in your AnyRouter dashboard - If one provider is down, AnyRouter can fail over to an alternative upstream ## Common issues - 401 Unauthorized — your API key is invalid or expired. Generate a new one from the AnyRouter dashboard. - 404 or model not found — the model name may differ between Anthropic and AnyRouter. Check the AnyRouter model list. - 429 rate limit — see our guide on fixing 429 errors. You can also try a different model tier (Haiku instead of Sonnet) which often has higher limits. ## Alternative: the anyr CLI wrapper If you'd rather not manage env vars manually, the anyr CLI handles login and config: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" ``` This sets the correct environment variables and launches Claude Code for you. ## Monitoring your usage Track how many Claude Code requests you're making, which models you're using, and how much you're spending at chmonitor.dev. Route Claude Code through AnyRouter — one key, every model, full audit log. [Sign up free](https://anyrouter.dev/dashboard) --- # 如何把 Claude Code(Anthropic 官方 CLI 编程工具)接到 AnyRouter > 设两个环境变量,就能把 Claude Code 指到 AnyRouter。下面是配置、会变什么、以及出问题时怎么处理。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/anyrouter-claude-code-setup ## Claude Code 是什么 Claude Code 是 Anthropic 官方的编程 CLI。它会读项目文件、跑终端命令,并调用 Anthropic API 生成回复。默认连的是 api.anthropic.com。 你也可以把它指到任意兼容 Anthropic 的 API 端点,包括 AnyRouter。 ## 配置 两个环境变量决定 Claude Code 把请求发到哪里: ```bash export ANTHROPIC_API_KEY="sk-ar-v1-placeholder" export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" claude ``` 就这样。Claude Code 会用它直连 Anthropic 时同一套 Messages API 格式,把全部 API 请求经 AnyRouter 发出。 ## 会变什么 - 所有请求都走 AnyRouter 的路由层 - 可以用 --model 访问 AnyRouter 上的模型,例如 claude --model claude-sonnet-4-5 - 用量会记在 AnyRouter 控制台 - 某一家上游挂了,AnyRouter 可以切到备用上游 ## 常见问题 - 401 Unauthorized — API key 无效或过期。到 AnyRouter 控制台再生成一把。 - 404 或 model not found — Anthropic 和 AnyRouter 上的模型名可能不同。去看 AnyRouter 的模型列表。 - 429 限流 — 看我们的 429 排障指南。也可以换更轻的档(Haiku 而不是 Sonnet),额度往往更高。 ## 另一种做法:anyr CLI 包装 不想自己管环境变量,可以用 anyr CLI 处理登录和配置: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" ``` 它会设好环境变量并替你启动 Claude Code。 ## 看用量 在 chmonitor.dev 看你发了多少 Claude Code 请求、用了哪些模型、花了多少。 把 Claude Code 接到 AnyRouter — 一把 key、所有模型、完整审计日志。 [免费注册](https://anyrouter.dev/dashboard) --- # Cách dùng AnyRouter với Claude Code (CLI coding của Anthropic) > Chỉ Claude Code vào AnyRouter bằng hai biến môi trường. Đây là cách cài, những gì đổi, và xử lý khi hỏng. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/anyrouter-claude-code-setup ## Claude Code là gì Claude Code là CLI chính thức của Anthropic cho việc coding. Nó đọc file dự án, chạy lệnh terminal, và gọi Anthropic API để sinh phản hồi. Mặc định nó nối thẳng api.anthropic.com. Bạn có thể chỉ nó vào bất kỳ endpoint tương thích Anthropic nào, kể cả AnyRouter. ## Cài đặt Hai biến môi trường quyết định Claude Code gửi request đi đâu: ```bash export ANTHROPIC_API_KEY="sk-ar-v1-placeholder" export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" claude ``` Xong. Claude Code sẽ gửi mọi API request qua AnyRouter, dùng cùng định dạng Messages API như khi nói chuyện trực tiếp với Anthropic. ## Những gì thay đổi - Mọi request đi qua lớp routing của AnyRouter - Bạn truy cập model trên AnyRouter bằng --model, ví dụ claude --model claude-sonnet-4-5 - Usage được ghi trên dashboard AnyRouter - Một nhà cung cấp sập thì AnyRouter có thể failover sang upstream khác ## Lỗi thường gặp - 401 Unauthorized — API key sai hoặc hết hạn. Tạo key mới trên dashboard AnyRouter. - 404 hoặc model not found — tên model có thể khác giữa Anthropic và AnyRouter. Kiểm tra danh sách model AnyRouter. - 429 rate limit — xem hướng dẫn sửa 429. Bạn cũng có thể thử tier khác (Haiku thay Sonnet), thường có hạn mức cao hơn. ## Cách khác: wrapper anyr CLI Nếu không muốn tự quản env, anyr CLI lo login và config: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" ``` Nó set đúng biến môi trường rồi mở Claude Code giúp bạn. ## Theo dõi usage Theo dõi bao nhiêu request Claude Code, model nào, và chi phí tại chmonitor.dev. Route Claude Code qua AnyRouter — một key, mọi model, nhật ký đầy đủ. [Đăng ký miễn phí](https://anyrouter.dev/dashboard) --- # Nex-N2-Pro: a free AI model and how to access it via API > Nex-N2-Pro is a free chat model listed under nex-agi on OpenRouter and other model aggregators. Here's what to know before you build with it. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/nex-n2-pro-free-ai-model ## What Nex-N2-Pro is Nex-N2-Pro is a chat/completion model published by nex-agi. It appears on AI model aggregator platforms under the id `nex-agi/nex-n2-pro`, and is listed as free to use on OpenRouter with the model id `nex-agi/nex-n2-pro:free`. It accepts requests in the standard OpenAI-compatible chat completions format, so it works with existing tools, SDKs, and code samples without modification. ## How to access it The simplest way is through OpenRouter: ```bash curl https://openrouter.ai/api/v1/chat/completions \ -H "Authorization: Bearer YOUR_OPENROUTER_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"nex-agi/nex-n2-pro:free","messages":[{"role":"user","content":"Hello"}]}' ``` The `:free` suffix is OpenRouter's convention for free-tier models — keep it in the model id. You can also check whether AnyRouter includes Nex-N2-Pro in its catalog. If it does, you can route to it through AnyRouter's unified endpoint alongside paid models. ## What to expect - Free-tier models have lower rate limits than paid models. Expect to wait between requests. - Availability can change — models are added and removed from free tiers without much notice. - Free models are best for testing and prototyping, not production workloads. - Performance varies: latency may be higher and output quality may differ from paid models in the same family. ## Testing before committing Before building anything substantial on Nex-N2-Pro, test it with a few representative prompts. Free models can differ significantly from their paid counterparts in capability and reliability. ## Monitoring free-tier usage If you're using AnyRouter to route to Nex-N2-Pro, track your usage and fallback events at chmonitor.dev. Seeing when a free model becomes unavailable helps you decide whether to add a paid fallback. Access free models through AnyRouter's unified endpoint. Monitor availability at chmonitor.dev. [Get started](https://anyrouter.dev/dashboard) --- # Nex-N2-Pro:一个免费 AI 模型,以及如何用 API 调用它 > Nex-N2-Pro 是 nex-agi 名下的免费对话模型,出现在 OpenRouter 和其他聚合器上。动手前先看这些。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/nex-n2-pro-free-ai-model ## Nex-N2-Pro 是什么 Nex-N2-Pro 是 nex-agi 发布的对话/补全模型。聚合平台上的 id 是 `nex-agi/nex-n2-pro`,在 OpenRouter 上标为免费,模型 id 为 `nex-agi/nex-n2-pro:free`。 它接受标准 OpenAI 兼容的 chat completions 请求,现有工具、SDK 和示例代码不用改就能用。 ## 怎么调用 最简单是走 OpenRouter: ```bash curl https://openrouter.ai/api/v1/chat/completions \ -H "Authorization: Bearer YOUR_OPENROUTER_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"nex-agi/nex-n2-pro:free","messages":[{"role":"user","content":"Hello"}]}' ``` `:free` 后缀是 OpenRouter 对免费档模型的约定 — 写在 model id 里。 也可以看 AnyRouter 目录里有没有 Nex-N2-Pro。有的话,可以经 AnyRouter 的统一端点,和付费模型一起路由。 ## 预期 - 免费档限流比付费模型更紧。请求之间要准备等待。 - 可用性会变 — 免费档会加模型也会下架,通知很少。 - 免费模型适合测试和原型,不适合生产负载。 - 表现会漂:延迟可能更高,质量也可能和同系列付费模型不同。 ## 先测再押 在 Nex-N2-Pro 上做正经东西之前,先用几条有代表性的 prompt 测一遍。免费模型和付费对照在能力和稳定性上可能差很多。 ## 监控免费档用量 如果经 AnyRouter 路由到 Nex-N2-Pro,在 chmonitor.dev 看用量和回退事件。看见免费模型何时不可用,有助于决定要不要加付费回退。 经 AnyRouter 统一端点访问免费模型。可用性在 chmonitor.dev 监控。 [开始使用](https://anyrouter.dev/dashboard) --- # Nex-N2-Pro: model AI miễn phí và cách gọi qua API > Nex-N2-Pro là model chat miễn phí của nex-agi trên OpenRouter và các aggregator khác. Đây là những gì cần biết trước khi build. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/nex-n2-pro-free-ai-model ## Nex-N2-Pro là gì Nex-N2-Pro là model chat/completion do nex-agi phát hành. Nó xuất hiện trên các aggregator với id `nex-agi/nex-n2-pro`, và được liệt kê miễn phí trên OpenRouter với model id `nex-agi/nex-n2-pro:free`. Nó nhận request theo định dạng chat completions tương thích OpenAI, nên tool, SDK và sample hiện có dùng được không cần sửa. ## Cách truy cập Cách đơn giản nhất là qua OpenRouter: ```bash curl https://openrouter.ai/api/v1/chat/completions \ -H "Authorization: Bearer YOUR_OPENROUTER_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"nex-agi/nex-n2-pro:free","messages":[{"role":"user","content":"Hello"}]}' ``` Hậu tố `:free` là quy ước của OpenRouter cho model tầng miễn phí — giữ nó trong model id. Bạn cũng có thể kiểm tra AnyRouter có Nex-N2-Pro trong catalog không. Nếu có, route qua endpoint thống nhất của AnyRouter cùng các model trả phí. ## Nên kỳ vọng gì - Model tầng miễn phí có rate limit thấp hơn model trả phí. Hãy chờ giữa các request. - Tính sẵn sàng có thể đổi — model được thêm và gỡ khỏi tầng miễn phí mà ít thông báo. - Model miễn phí hợp để test và prototype, không phải tải production. - Hiệu năng dao động: latency có thể cao hơn và chất lượng output có thể khác model trả phí cùng họ. ## Test trước khi gắn chặt Trước khi xây bất cứ thứ gì lớn trên Nex-N2-Pro, hãy thử vài prompt đại diện. Model miễn phí có thể khác hẳn bản trả phí về khả năng và độ tin cậy. ## Theo dõi usage tầng miễn phí Nếu dùng AnyRouter để route tới Nex-N2-Pro, theo dõi usage và sự kiện fallback tại chmonitor.dev. Thấy khi nào model miễn phí biến mất giúp bạn quyết định có thêm fallback trả phí không. Truy cập model miễn phí qua endpoint thống nhất của AnyRouter. Theo dõi sẵn sàng tại chmonitor.dev. [Bắt đầu](https://anyrouter.dev/dashboard) --- # Using AnyRouter from Linux, WSL, or a headless server > AnyRouter works from any machine that can make HTTPS requests — Linux servers, WSL, CI pipelines, and remote dev boxes. Here's the setup and the gotchas. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/anyrouter-linux-do-setup ## What you need AnyRouter's API is just HTTPS. Any environment that can run curl or a Python/Node.js script can use it — no special client, no OS-specific binaries, no root access. You need: - An AnyRouter account and API key (free to create at anyrouter.dev) - curl, Python, Node.js, or any HTTP client - Outbound HTTPS access to anyrouter.dev ## Quick test from the terminal Verify connectivity with a single curl command: ```bash curl -s https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Say hi"}]}' ``` If you get a JSON response with choices, you're connected. A 401 means the key is wrong; a network timeout means outbound HTTPS is blocked. ## Common environment gotchas - HTTPS proxy — if you're behind a corporate proxy, set HTTPS_PROXY so curl and your SDK can reach anyrouter.dev. - Firewall rules — confirm outbound 443 is open on headless servers and CI runners. - TLS certificates — some minimal Docker images don't ship CA certs. Install ca-certificates if you see SSL errors. - Clock skew — if your server clock is off by more than a few minutes, TLS handshakes can fail. Sync with NTP. ## Using from scripts and CI Store your key as an environment variable. Don't hardcode it in scripts that go into version control: ```bash export ANYROUTER_API_KEY="sk-ar-v1-..." # Then in Python: # base_url="https://anyrouter.dev/api/v1" # Or Node.js: # baseURL: "https://anyrouter.dev/api/v1" ``` CI platforms (GitHub Actions, GitLab CI, etc.) all support encrypted secrets — store the key there and reference it as an env var in your workflow. ## AnyRouter status and reliability For the current status of anyrouter.dev, check the system status page or try the health endpoint. If you're seeing intermittent failures, the fallover routing usually resolves them without code changes. Track request-level health, latency, and error rates per model at chmonitor.dev. Works from Linux, WSL, CI, or any HTTPS-capable environment. Sign up free. [Get started](https://anyrouter.dev/dashboard) --- # 在 Linux、WSL 或无头服务器上用 AnyRouter > 只要能发 HTTPS 请求的机器都能用 AnyRouter — Linux 服务器、WSL、CI、远程开发机。下面是配置和坑。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/anyrouter-linux-do-setup ## 你需要什么 AnyRouter 的 API 就是 HTTPS。能跑 curl 或 Python/Node.js 脚本的环境都能用 — 没有专用客户端,没有按 OS 分发的二进制,也不要 root。 你需要: - AnyRouter 账号和 API key(在 anyrouter.dev 免费创建) - curl、Python、Node.js,或任意 HTTP 客户端 - 能出站访问 anyrouter.dev 的 HTTPS ## 终端快速探测 一条 curl 验证连通: ```bash curl -s https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Say hi"}]}' ``` 如果返回带 choices 的 JSON,就通了。401 说明 key 不对;网络超时说明出站 HTTPS 被拦。 ## 环境常见坑 - HTTPS 代理 — 公司代理后面,设 HTTPS_PROXY,让 curl 和 SDK 能到 anyrouter.dev。 - 防火墙 — 无头服务器和 CI runner 确认出站 443 开着。 - TLS 证书 — 有的精简 Docker 镜像不带 CA。出现 SSL 错误就装 ca-certificates。 - 时钟偏差 — 服务器时间差几分钟以上,TLS 握手会失败。用 NTP 对时。 ## 脚本和 CI 把 key 放环境变量。不要写死进会进版本库的脚本: ```bash export ANYROUTER_API_KEY="sk-ar-v1-..." # Then in Python: # base_url="https://anyrouter.dev/api/v1" # Or Node.js: # baseURL: "https://anyrouter.dev/api/v1" ``` CI 平台(GitHub Actions、GitLab CI 等)都支持加密 secrets — 把 key 放那里,在 workflow 里当环境变量引用。 ## 状态和可靠性 anyrouter.dev 的当前状态看系统状态页,或打健康检查端点。间歇失败时,故障切换路由通常不用改代码就能扛过去。 按模型看请求级健康、延迟和错误率:chmonitor.dev。 Linux、WSL、CI,或任何能 HTTPS 的环境都能用。免费注册。 [开始使用](https://anyrouter.dev/dashboard) --- # Dùng AnyRouter từ Linux, WSL, hoặc máy không màn hình > AnyRouter chạy trên mọi máy gửi được HTTPS — server Linux, WSL, CI, hộp dev từ xa. Đây là cài đặt và những chỗ dễ vấp. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/anyrouter-linux-do-setup ## Bạn cần gì API AnyRouter chỉ là HTTPS. Môi trường chạy được curl hoặc script Python/Node.js là dùng được — không client đặc biệt, không binary theo OS, không cần root. Bạn cần: - Tài khoản AnyRouter và API key (tạo miễn phí tại anyrouter.dev) - curl, Python, Node.js, hoặc bất kỳ HTTP client nào - HTTPS ra ngoài tới anyrouter.dev ## Thử nhanh từ terminal Kiểm tra kết nối bằng một lệnh curl: ```bash curl -s https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Say hi"}]}' ``` Nếu nhận JSON có choices thì đã nối. 401 nghĩa là key sai; timeout mạng nghĩa là HTTPS ra ngoài bị chặn. ## Cạm bẫy môi trường thường gặp - HTTPS proxy — sau proxy công ty, set HTTPS_PROXY để curl và SDK tới được anyrouter.dev. - Firewall — xác nhận cổng 443 ra ngoài mở trên server headless và CI runner. - Chứng chỉ TLS — một số image Docker tối giản không có CA. Cài ca-certificates nếu thấy lỗi SSL. - Lệch đồng hồ — lệch quá vài phút thì TLS handshake có thể fail. Đồng bộ NTP. ## Dùng trong script và CI Giữ key trong biến môi trường. Đừng hardcode vào script sẽ vào git: ```bash export ANYROUTER_API_KEY="sk-ar-v1-..." # Then in Python: # base_url="https://anyrouter.dev/api/v1" # Or Node.js: # baseURL: "https://anyrouter.dev/api/v1" ``` Nền tảng CI (GitHub Actions, GitLab CI, v.v.) đều hỗ trợ secret mã hóa — lưu key ở đó và tham chiếu như env trong workflow. ## Trạng thái và độ tin cậy AnyRouter Trạng thái hiện tại của anyrouter.dev: trang system status hoặc health endpoint. Thấy lỗi lúc được lúc không thì routing failover thường xử lý mà không cần sửa code. Theo dõi sức khỏe từng request, latency, và tỷ lệ lỗi theo model tại chmonitor.dev. Chạy từ Linux, WSL, CI, hoặc mọi môi trường HTTPS. Đăng ký miễn phí. [Bắt đầu](https://anyrouter.dev/dashboard) --- # AnyRouter API documentation: base URL, model ids, and request format > The AnyRouter API is OpenAI-compatible. Here's the base URL, model id format, authentication, and a working request example. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/anyrouter-api-docs-primer ## Base URL The AnyRouter API endpoint is: ```text https://anyrouter.dev/api/v1 ``` All standard OpenAI-compatible routes are under this prefix: `/v1/chat/completions`, `/v1/embeddings`, `/v1/models`, etc. ## Authentication Pass your API key in the standard Authorization header: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` Keys start with `sk-ar-v1-`. Create one from the AnyRouter dashboard. ## Model id format Model ids follow the `provider/model` convention: - anthropic/claude-sonnet-4-5 - openai/gpt-5.5 - google/gemini-2.5-pro - z-ai/glm-5.2 - anyrouter/free (shared pool free tier) The provider prefix tells AnyRouter which upstream to route to. Omitting the prefix or using an unrecognized id returns a 404. ## Request format The request body follows the OpenAI Chat Completions schema. The most common fields: | Field | Type | Required | Notes | | --- | --- | --- | --- | | model | string | Yes | provider/model id | | messages | array | Yes | Conversation history | | temperature | number | No | 0–2, default 1 | | max_tokens | integer | No | Max completion tokens | | stream | boolean | No | Set true for SSE streaming | | tools | array | No | Function/tool definitions | ## Streaming responses Set `stream: true` to receive Server-Sent Events. AnyRouter forwards the upstream provider's streaming format directly. Handle the SSE stream the same way you would with the provider's native API. ## Error responses AnyRouter returns standard HTTP status codes: - 200 — success - 400 — malformed request body - 401 — invalid or missing API key - 404 — model not found or provider not configured - 429 — rate limit exceeded (see the 429 guide) - 500/502/503 — upstream provider error or gateway issue ## Where to go from here The full interactive API reference with every endpoint and schema is at anyrouter.dev/docs. For monitoring and debugging, use chmonitor.dev to inspect per-request traces including upstream, latency, tokens, and cost. OpenAI-compatible API. Try 5 requests free, no card required. [Get your API key](https://anyrouter.dev/dashboard) --- # AnyRouter API 文档:base URL、模型 id、请求格式 > AnyRouter API 兼容 OpenAI。这里是 base URL、模型 id 格式、鉴权,以及一条能跑的请求示例。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/anyrouter-api-docs-primer ## Base URL AnyRouter API 端点是: ```text https://anyrouter.dev/api/v1 ``` 标准 OpenAI 兼容路由都在这个前缀下:`/v1/chat/completions`、`/v1/embeddings`、`/v1/models` 等。 ## 鉴权 用标准 Authorization 头传 API key: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` Key 以 `sk-ar-v1-` 开头。到 AnyRouter 控制台创建。 ## 模型 id 格式 模型 id 遵循 `provider/model` 约定: - anthropic/claude-sonnet-4-5 - openai/gpt-5.5 - google/gemini-2.5-pro - z-ai/glm-5.2 - anyrouter/free (共享池免费档) provider 前缀告诉 AnyRouter 打哪家上游。省略前缀或用不认识的 id 会 404。 ## 请求格式 请求体遵循 OpenAI Chat Completions schema。最常见字段: | 字段 | 类型 | 必填 | 说明 | | --- | --- | --- | --- | | model | string | 是 | provider/model id | | messages | array | 是 | 对话历史 | | temperature | number | 否 | 0–2,默认 1 | | max_tokens | integer | 否 | 最大补全 token 数 | | stream | boolean | 否 | true 则 SSE 流式 | | tools | array | 否 | 函数/工具定义 | ## 流式响应 设 `stream: true` 接收 Server-Sent Events。AnyRouter 原样转发上游的流式格式。按你处理该供应商原生 API 的方式处理 SSE。 ## 错误响应 AnyRouter 返回标准 HTTP 状态码: - 200 — 成功 - 400 — 请求体格式错误 - 401 — API key 无效或缺失 - 404 — 找不到模型或未配置该供应商 - 429 — 超过限流(见 429 指南) - 500/502/503 — 上游错误或网关问题 ## 接下来看哪里 完整交互式 API 参考(每个端点和 schema)在 anyrouter.dev/docs。监控和排障用 chmonitor.dev 看每条请求的上游、延迟、token 和费用。 兼容 OpenAI 的 API,免费试用 5 次请求,不绑卡。 [获取 API key](https://anyrouter.dev/dashboard) --- # Tài liệu API AnyRouter: base URL, model id, và định dạng request > API AnyRouter tương thích OpenAI. Đây là base URL, định dạng model id, xác thực, và một request chạy được. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/anyrouter-api-docs-primer ## Base URL Endpoint API AnyRouter là: ```text https://anyrouter.dev/api/v1 ``` Mọi route chuẩn tương thích OpenAI nằm dưới prefix này: `/v1/chat/completions`, `/v1/embeddings`, `/v1/models`, v.v. ## Xác thực Truyền API key trong header Authorization chuẩn: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-placeholder" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/free","messages":[{"role":"user","content":"Hi"}]}' ``` Key bắt đầu bằng `sk-ar-v1-`. Tạo trên dashboard AnyRouter. ## Định dạng model id Model id theo quy ước `provider/model`: - anthropic/claude-sonnet-4-5 - openai/gpt-5.5 - google/gemini-2.5-pro - z-ai/glm-5.2 - anyrouter/free (tầng miễn phí pool dùng chung) Prefix nhà cung cấp nói AnyRouter route lên upstream nào. Bỏ prefix hoặc dùng id không nhận ra thì 404. ## Định dạng request Body theo schema OpenAI Chat Completions. Các trường phổ biến nhất: | Trường | Kiểu | Bắt buộc | Ghi chú | | --- | --- | --- | --- | | model | string | Có | provider/model id | | messages | array | Có | Lịch sử hội thoại | | temperature | number | Không | 0–2, mặc định 1 | | max_tokens | integer | Không | Số token hoàn thành tối đa | | stream | boolean | Không | true để SSE streaming | | tools | array | Không | Định nghĩa function/tool | ## Phản hồi streaming Set `stream: true` để nhận Server-Sent Events. AnyRouter chuyển nguyên định dạng streaming của upstream. Xử lý SSE giống API gốc của nhà cung cấp. ## Phản hồi lỗi AnyRouter trả mã HTTP chuẩn: - 200 — thành công - 400 — body request sai dạng - 401 — API key sai hoặc thiếu - 404 — không tìm thấy model hoặc chưa cấu hình nhà cung cấp - 429 — vượt rate limit (xem hướng dẫn 429) - 500/502/503 — lỗi upstream hoặc gateway ## Đi tiếp từ đây Tham chiếu API tương tác đầy đủ với mọi endpoint và schema ở anyrouter.dev/docs. Để giám sát và debug, dùng chmonitor.dev xem trace từng request: upstream, latency, token, và chi phí. API tương thích OpenAI. Thử 5 request miễn phí, không cần thẻ. [Lấy API key](https://anyrouter.dev/dashboard) --- # Bring your CommandCode credential to AnyRouter > The CLI now reads your local CommandCode auth file and uploads it as a BYOK key — one command, no copy-paste. - Date: August 4, 2026 - Category: product - HTML: https://anyrouter.dev/blog/commandcode-byok ## One more provider, one more credential CommandCode is a coding agent that stores its auth locally in ~/.commandcode/auth.json. You can now add that credential to AnyRouter as a BYOK key — the same Bring Your Own Key model that already covers 60+ providers here — and route your own CommandCode-backed traffic through the same OpenAI-compatible endpoint you use for everything else. The CLI reads the file directly, shows you exactly what it found, and uploads it only when you confirm. No copy-paste, no clipboard dance, no manual JSON parsing. ## Find it, review it On the machine where CommandCode is installed: ```bash anyr byok locate commandcode ``` That scans the standard CommandCode auth location (~/.commandcode/auth.json), prints a masked (last-4) preview, and makes zero network calls. If the file is missing or unreadable, it tells you exactly where it looked so you can troubleshoot. ## Add it — nothing happens without --yes To actually upload it as a BYOK key: ```bash anyr byok add commandcode --yes ``` Run it without --yes first and it's a dry run: same file, same masked preview, a plain description of exactly what will happen (the value gets encrypted and stored under a CommandCode key, your own future requests route through it, billed to your own CommandCode account) — and nothing is sent anywhere. Add --yes once you've read that and you're sure. It behaves like any other BYOK key from there: encrypted at rest, routes your own requests through your own credential, and AnyRouter never charges credits for BYOK traffic. ## Auto-skip if already synced If you've already uploaded your CommandCode credential, the CLI detects it and skips the upload silently: ```text A CommandCode BYOK key already exists (id: byok_abc123). Skipping upload. ``` No duplicate keys, no error, no manual cleanup. Re-run without --yes for a dry run, or use the dashboard to manage your existing key. ## Pool donation Adding a key never donates it. Donating it to the shared pool takes two explicit flags together: ```bash anyr byok add commandcode --yes --donate --donate-yes ``` --donate alone shows you the donor consent text and stops there — you have to also pass --donate-yes to actually confirm it and donate. The same toggle is available from the dashboard at any time, with the same consent screen, and you can withdraw a donated key whenever you want. ## One honest caveat CommandCode's auth file contains a long-lived API key (not a short-lived OAuth token), so your uploaded copy won't expire on its own. But if you re-authenticate with `cmd login`, the new key won't sync to AnyRouter automatically — you'll need to re-run the add command to pick up the fresh credential. We'd rather tell you that up front than have it surprise you mid-session. --- # 把 CommandCode 凭据带到 AnyRouter > CLI 现在会读本机 CommandCode 鉴权文件并上传成 BYOK key — 一条命令,不用复制粘贴。 - Date: August 4, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/commandcode-byok ## 多一家供应商,多一份凭据 CommandCode 是编程 agent,鉴权存在 ~/.commandcode/auth.json。你现在可以把这份凭据加成 AnyRouter 的 BYOK key — 和这里已经覆盖 60+ 家供应商的同一套 Bring Your Own Key — 再用你平时用的那个 OpenAI 兼容端点,路由走 CommandCode 的流量。 CLI 直接读文件,把找到的内容原样给你看,只有你确认才会上传。没有复制粘贴,没有剪贴板,也不用手拆 JSON。 ## 先找到,再核对 在装了 CommandCode 的机器上: ```bash anyr byok locate commandcode ``` 它扫描标准 CommandCode 鉴权路径(~/.commandcode/auth.json),打印打码(后 4 位)预览,零网络请求。文件缺失或读不了,会告诉你它看了哪里,方便排障。 ## 加上去 — 没有 --yes 什么都不会发生 真的要上传成 BYOK key: ```bash anyr byok add commandcode --yes ``` 先不带 --yes 跑是 dry run:同一文件、同一打码预览、一段白话说明接下来会发生什么(值会加密存成 CommandCode key,你之后的请求走它,账单记在你自己的 CommandCode 账号)— 哪里都不会发出去。看完确认了再加 --yes。 之后和其他 BYOK key 一样:静态加密,用你自己的凭据路由你自己的请求,AnyRouter 不对 BYOK 流量扣额度。 ## 已经同步过就自动跳过 如果已经上传过 CommandCode 凭据,CLI 会发现并静默跳过: ```text A CommandCode BYOK key already exists (id: byok_abc123). Skipping upload. ``` 不会重复 key,不会报错,不用手清。不带 --yes 再跑一次是 dry run,或到控制台管理已有 key。 ## 捐进池 加 key 永远不会自动捐赠。捐进共享池需要两个显式 flag 一起: ```bash anyr byok add commandcode --yes --donate --donate-yes ``` 只加 --donate 会显示捐赠同意文案然后停下 — 还要再传 --donate-yes 才真正确认并捐赠。控制台随时有同一开关、同一同意页,随时可以撤回已捐的 key。 ## 一句老实话 CommandCode 的鉴权文件里是长期 API key(不是短命 OAuth token),所以上传的副本不会自己过期。但如果你用 `cmd login` 重新登录,新 key 不会自动同步到 AnyRouter — 要再跑一遍 add 才能拿到新凭据。 宁可事先说清楚,也不要让你在会话中途踩坑。 --- # Mang credential CommandCode sang AnyRouter > CLI giờ đọc file auth CommandCode trên máy và upload thành BYOK key — một lệnh, không copy-paste. - Date: August 4, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/commandcode-byok ## Thêm một nhà cung cấp, thêm một credential CommandCode là coding agent lưu auth cục bộ trong ~/.commandcode/auth.json. Bạn giờ có thể thêm credential đó vào AnyRouter như BYOK key — cùng mô hình Bring Your Own Key đã phủ 60+ nhà cung cấp ở đây — rồi route traffic do CommandCode nuôi qua cùng endpoint tương thích OpenAI bạn dùng cho mọi thứ khác. CLI đọc file trực tiếp, hiện đúng những gì nó tìm thấy, và chỉ upload khi bạn xác nhận. Không copy-paste, không clipboard, không tự parse JSON. ## Tìm rồi xem lại Trên máy đã cài CommandCode: ```bash anyr byok locate commandcode ``` Nó quét vị trí auth chuẩn của CommandCode (~/.commandcode/auth.json), in preview đã che (4 ký tự cuối), và không gọi mạng. File thiếu hoặc không đọc được thì nó nói đúng chỗ đã nhìn để bạn gỡ. ## Thêm — không có --yes thì không có gì xảy ra Để thật sự upload thành BYOK key: ```bash anyr byok add commandcode --yes ``` Chạy không --yes trước là dry run: cùng file, cùng preview che, mô tả thẳng những gì sẽ xảy ra (giá trị được mã hóa và lưu dưới key CommandCode, request tương lai của bạn đi qua nó, tính vào tài khoản CommandCode của bạn) — và không gửi đi đâu. Thêm --yes khi đã đọc và chắc. Từ đó nó như mọi BYOK key khác: mã hóa lúc nghỉ, route request của bạn qua credential của bạn, và AnyRouter không trừ credit cho traffic BYOK. ## Tự bỏ qua nếu đã đồng bộ Nếu bạn đã upload credential CommandCode, CLI phát hiện và bỏ qua lặng lẽ: ```text A CommandCode BYOK key already exists (id: byok_abc123). Skipping upload. ``` Không key trùng, không lỗi, không dọn tay. Chạy lại không --yes để dry run, hoặc dùng dashboard quản lý key hiện có. ## Góp vào pool Thêm key không bao giờ tự góp. Góp vào pool dùng chung cần hai flag tường minh cùng lúc: ```bash anyr byok add commandcode --yes --donate --donate-yes ``` --donate một mình hiện văn bản đồng ý của người góp rồi dừng — bạn phải thêm --donate-yes mới xác nhận và góp. Cùng toggle trên dashboard bất cứ lúc nào, cùng màn đồng ý, và bạn rút key đã góp khi muốn. ## Một lưu ý thẳng File auth CommandCode chứa API key sống lâu (không phải OAuth token ngắn hạn), nên bản đã upload không tự hết hạn. Nhưng nếu bạn xác thực lại bằng `cmd login`, key mới không tự sync sang AnyRouter — bạn cần chạy lại lệnh add để lấy credential mới. Chúng tôi nói trước còn hơn để nó bất ngờ giữa session. --- # Run Claude Code on AnyRouter — wrapper script or CLI > Route Claude Code through AnyRouter in two ways: a wrapper that installs itself and maps Opus, Sonnet, and Haiku to one catalog model (override with --model), or the anyr CLI launcher. One key, unified billing, audit logs. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/claude-code-anyrouter ## Wrapper script (ar_claude) One command downloads the wrapper, installs it to `~/.local/bin/ar_claude`, marks it executable, and runs Claude Code: ### macOS / Linux ```bash export ANYROUTER_API_KEY="sk-ar-..." curl -sL https://anyrouter.dev/ar_claude.sh | bash -s -- "explain this project" ``` ### Windows ```powershell $env:ANYROUTER_API_KEY = "sk-ar-..." irm https://anyrouter.dev/ar_claude.ps1 -OutFile "$env:USERPROFILE\.local\bin\ar_claude.ps1" & "$env:USERPROFILE\.local\bin\ar_claude.ps1" "explain this project" ``` Scripts: Unix at /ar_claude.sh, Windows at [View PowerShell script](https://anyrouter.dev/ar_claude.ps1) After install, pick any catalog model. Opus, Sonnet, and Haiku aliases all point at that same id: ```bash export ANYROUTER_API_KEY="sk-ar-..." ar_claude --model poolside/laguna-s-2.1 "Explain the architecture of this project" ar_claude --model z-ai/glm-4.7 "Review this PR" ``` ![ar_claude wrapper script running in a terminal](https://anyrouter.dev/screenshots/ar_claude-wrapper-demo.jpeg) _Running ar_claude in the terminal — every Claude Code request routes through AnyRouter._ ## CLI launcher Alternatively, the CLI handles login and config in one command: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" anyr claude --dry-run ``` Full reference at [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Where to go from here The same patterns work for Codex, Cursor, and every OpenAI-compatible agent. One key covers every tool you run. More at [anyrouter.dev/docs](https://anyrouter.dev/docs). --- # 在 AnyRouter 上跑 Claude Code — wrapper 脚本或 CLI > 两条路把 Claude Code 接到 AnyRouter:一个会自己安装的 wrapper,把 Opus、Sonnet、Haiku 都映射到同一条目录模型(用 --model 覆盖);或 anyr CLI 启动器。一把 key,统一账单,审计日志。 - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/claude-code-anyrouter ## Wrapper 脚本(ar_claude) 一条命令下载 wrapper,装到 `~/.local/bin/ar_claude`,设可执行,再跑 Claude Code: ### macOS / Linux ```bash export ANYROUTER_API_KEY="sk-ar-..." curl -sL https://anyrouter.dev/ar_claude.sh | bash -s -- "explain this project" ``` ### Windows ```powershell $env:ANYROUTER_API_KEY = "sk-ar-..." irm https://anyrouter.dev/ar_claude.ps1 -OutFile "$env:USERPROFILE\.local\bin\ar_claude.ps1" & "$env:USERPROFILE\.local\bin\ar_claude.ps1" "explain this project" ``` 脚本:Unix 在 /ar_claude.sh,Windows 在 [查看 PowerShell 脚本](https://anyrouter.dev/ar_claude.ps1) 装好后选任意目录模型。Opus、Sonnet、Haiku 别名都指向同一个 id: ```bash export ANYROUTER_API_KEY="sk-ar-..." ar_claude --model poolside/laguna-s-2.1 "Explain the architecture of this project" ar_claude --model z-ai/glm-4.7 "Review this PR" ``` ![终端里运行 ar_claude wrapper 脚本](https://anyrouter.dev/screenshots/ar_claude-wrapper-demo.jpeg) _在终端跑 ar_claude — 每一次 Claude Code 请求都经 AnyRouter 路由。_ ## CLI 启动器 或者用 CLI 一条命令处理登录和配置: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" anyr claude --dry-run ``` 完整参考:[anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code)。 ## 接下来 同一套模式也适用于 Codex、Cursor,以及所有兼容 OpenAI 的 agent。一把 key 覆盖你跑的每个工具。 更多:[anyrouter.dev/docs](https://anyrouter.dev/docs)。 --- # Chạy Claude Code trên AnyRouter — wrapper hoặc CLI > Route Claude Code qua AnyRouter theo hai cách: wrapper tự cài và map Opus, Sonnet, Haiku vào một model catalog (ghi đè bằng --model), hoặc launcher anyr CLI. Một key, billing thống nhất, nhật ký. - Date: August 5, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/claude-code-anyrouter ## Script wrapper (ar_claude) Một lệnh tải wrapper, cài vào `~/.local/bin/ar_claude`, đánh dấu executable, rồi chạy Claude Code: ### macOS / Linux ```bash export ANYROUTER_API_KEY="sk-ar-..." curl -sL https://anyrouter.dev/ar_claude.sh | bash -s -- "explain this project" ``` ### Windows ```powershell $env:ANYROUTER_API_KEY = "sk-ar-..." irm https://anyrouter.dev/ar_claude.ps1 -OutFile "$env:USERPROFILE\.local\bin\ar_claude.ps1" & "$env:USERPROFILE\.local\bin\ar_claude.ps1" "explain this project" ``` Script: Unix tại /ar_claude.sh, Windows tại [Xem script PowerShell](https://anyrouter.dev/ar_claude.ps1) Sau khi cài, chọn bất kỳ model catalog. Alias Opus, Sonnet, và Haiku đều trỏ cùng id đó: ```bash export ANYROUTER_API_KEY="sk-ar-..." ar_claude --model poolside/laguna-s-2.1 "Explain the architecture of this project" ar_claude --model z-ai/glm-4.7 "Review this PR" ``` ![script wrapper ar_claude chạy trong terminal](https://anyrouter.dev/screenshots/ar_claude-wrapper-demo.jpeg) _Chạy ar_claude trong terminal — mọi request Claude Code đi qua AnyRouter._ ## Launcher CLI Hoặc CLI lo login và config trong một lệnh: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude anyr claude --model "z-ai/glm-4.7" anyr claude --dry-run ``` Tham chiếu đầy đủ tại [anyrouter.dev/docs/cli/claude-code](https://anyrouter.dev/docs/cli/claude-code). ## Đi tiếp từ đây Cùng pattern cho Codex, Cursor, và mọi agent tương thích OpenAI. Một key phủ mọi tool bạn chạy. Thêm tại [anyrouter.dev/docs](https://anyrouter.dev/docs). --- # Bring your Antigravity credential to AnyRouter > A CLI that finds your local Antigravity credential, shows you exactly what it found, and uploads it as a BYOK key — with pool donation as a separate, explicit opt-in. - Date: July 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/antigravity-byok ## One more provider behind one API Antigravity is Google's agentic IDE. If you have it installed, you can now add its local credential to AnyRouter as a BYOK key — the same Bring Your Own Key model that already covers 60+ providers here — and route your own Antigravity-backed traffic through the same OpenAI-compatible endpoint you use for everything else. Antigravity's local credential format isn't publicly documented, so this isn't a one-click OAuth handoff. A small CLI does the finding and shows you exactly what it found before anything moves; you decide whether to proceed. ## Find it, review it On the machine where Antigravity is installed: ```bash anyr byok locate antigravity ``` Antigravity keeps its token in your operating system's secure keyring — Apple Keychain on macOS, Secret Service on Linux, so that's where the CLI looks first (macOS and Linux today; other platforms fall back to the file scan), falling back to a scan of the usual per-OS config folders. It reports each candidate with where it came from (`keyring` or `file: …`) and a masked preview of the value (only the last four characters shown). Nothing is written or modified, there are no network calls, and it never waits on a system pop-up — if your keyring is locked it says so and moves on to the file scan. A plain "nothing found here" is a normal outcome, not an error. ## Add it — nothing happens without --yes To actually upload it as a BYOK key: ```bash anyr byok add antigravity --yes ``` Run it without --yes first and it's a dry run: same source, same masked preview, a plain description of exactly what will happen (the value gets encrypted and stored under an Antigravity (Google) key, your own future requests route through it, billed to your own Google account) — and nothing is sent anywhere. Add --yes once you've read that and you're sure. It behaves like any other BYOK key from there: encrypted at rest, routes your own requests through your own credential, and AnyRouter never charges credits for BYOK traffic. ## When the token expires Antigravity's credential is a short-lived OAuth access token, not a durable API key. Antigravity quietly refreshes its own local copy in the background; the copy AnyRouter holds doesn't share in that refresh, so a key that works today stops working later. To refresh it, re-run the add with `--replace`, which swaps the value in place and keeps the key ID, label, priority and pool-donation state: ```bash anyr byok add antigravity --yes --replace ``` Refreshing has to happen on your machine: AnyRouter holds the access token, not the token that can mint a new one, so there is nothing we could use to renew it for you. Automatic rotation (`anyr byok rotate`) is tracked in #3767 and has not shipped yet. ## Pool donation is a separate decision Adding a key never donates it. Donating it to the shared pool — so it can also serve other users' requests, earning you a share of the notional cost back — takes two explicit flags together: ```bash anyr byok add antigravity --yes --donate --donate-yes ``` --donate alone shows you the donor consent text and stops there — you have to also pass --donate-yes to actually confirm it and donate. The same toggle is available from the dashboard at any time, with the same consent screen, and you can withdraw a donated key whenever you want. --- # 把 Antigravity 凭据带到 AnyRouter > 一个 CLI:找到本机 Antigravity 凭据,原样给你看,再上传成 BYOK key — 捐进池是另一次、显式的选择。 - Date: July 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/antigravity-byok ## 多一家供应商,同一套 API Antigravity 是 Google 的 agentic IDE。装了它,就可以把本机凭据加成 AnyRouter 的 BYOK key — 和这里已经覆盖 60+ 家供应商的同一套 Bring Your Own Key — 再用你平时用的那个 OpenAI 兼容端点,路由走 Antigravity 的流量。 Antigravity 本机凭据格式没有公开文档,所以这不是一键 OAuth。一个小 CLI 负责找,并在任何东西被移动之前把找到的内容给你看;要不要继续由你决定。 ## 先找到,再核对 在装了 Antigravity 的机器上: ```bash anyr byok locate antigravity ``` 它会扫几个按 OS 分的常见配置目录 — 无网络请求,不写不改任何东西 — 然后要么列出候选文件并给出打码预览(只显示后四位),要么一句「这里没找到」,如果你的安装把东西放在别处。 ## 加上去 — 没有 --yes 什么都不会发生 真的要上传成 BYOK key: ```bash anyr byok add antigravity --yes ``` 先不带 --yes 跑是 dry run:同一文件、同一打码预览、一段白话说明接下来会发生什么(值会加密存成 Antigravity (Google) key,你之后的请求走它,账单记在你自己的 Google 账号)— 哪里都不会发出去。看完确认了再加 --yes。 之后和其他 BYOK key 一样:静态加密,用你自己的凭据路由你自己的请求,AnyRouter 不对 BYOK 流量扣额度。 ## 捐进池是另一次决定 加 key 永远不会自动捐赠。捐进共享池 — 让它也能服务别人的请求,按名义成本分你一份 — 需要两个显式 flag 一起: ```bash anyr byok add antigravity --yes --donate --donate-yes ``` 只加 --donate 会显示捐赠同意文案然后停下 — 还要再传 --donate-yes 才真正确认并捐赠。控制台随时有同一开关、同一同意页,随时可以撤回已捐的 key。 ## 一句老实话 如果 Antigravity 本机发的是短命 OAuth access token 而不是长期 API key,AnyRouter 里存的那份过期就会停。Antigravity 会在后台刷新自己的本机副本;AnyRouter 存的那份不参与这次刷新。如果打你的 Antigravity key 开始失败,最可能就是这个原因 — 再跑 `anyr byok add antigravity` 换成新值。 宁可事先说清楚,也不要让你在会话中途踩坑。 --- # Mang credential Antigravity sang AnyRouter > CLI tìm credential Antigravity trên máy, hiện đúng những gì tìm thấy, rồi upload thành BYOK key — góp pool là lựa chọn riêng, tường minh. - Date: July 25, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/antigravity-byok ## Thêm một nhà cung cấp sau một API Antigravity là IDE agentic của Google. Nếu đã cài, bạn giờ có thể thêm credential cục bộ vào AnyRouter như BYOK key — cùng mô hình Bring Your Own Key đã phủ 60+ nhà cung cấp ở đây — rồi route traffic do Antigravity nuôi qua cùng endpoint tương thích OpenAI bạn dùng cho mọi thứ khác. Định dạng credential cục bộ của Antigravity không được tài liệu hóa công khai, nên đây không phải OAuth một cú nhấp. CLI nhỏ lo việc tìm và hiện đúng những gì tìm thấy trước khi bất cứ thứ gì được chuyển; bạn quyết định có tiếp không. ## Tìm rồi xem lại Trên máy đã cài Antigravity: ```bash anyr byok locate antigravity ``` Nó quét vài thư mục config theo OS hợp lý — không gọi mạng, không ghi hay sửa gì — rồi hoặc liệt kê file ứng viên kèm preview che (chỉ bốn ký tự cuối), hoặc một câu "không thấy gì ở đây" nếu bản cài của bạn để chỗ khác. ## Thêm — không có --yes thì không có gì xảy ra Để thật sự upload thành BYOK key: ```bash anyr byok add antigravity --yes ``` Chạy không --yes trước là dry run: cùng file, cùng preview che, mô tả thẳng những gì sẽ xảy ra (giá trị được mã hóa và lưu dưới key Antigravity (Google), request tương lai của bạn đi qua nó, tính vào tài khoản Google của bạn) — và không gửi đi đâu. Thêm --yes khi đã đọc và chắc. Từ đó nó như mọi BYOK key khác: mã hóa lúc nghỉ, route request của bạn qua credential của bạn, và AnyRouter không trừ credit cho traffic BYOK. ## Góp pool là quyết định riêng Thêm key không bao giờ tự góp. Góp vào pool dùng chung — để nó cũng phục vụ request người khác, bạn nhận một phần chi phí danh nghĩa — cần hai flag tường minh cùng lúc: ```bash anyr byok add antigravity --yes --donate --donate-yes ``` --donate một mình hiện văn bản đồng ý của người góp rồi dừng — bạn phải thêm --donate-yes mới xác nhận và góp. Cùng toggle trên dashboard bất cứ lúc nào, cùng màn đồng ý, và bạn rút key đã góp khi muốn. ## Một lưu ý thẳng Nếu Antigravity cấp cục bộ là OAuth access token ngắn hạn chứ không phải API key sống lâu, bản lưu trên AnyRouter sẽ ngừng chạy khi hết hạn. Antigravity tự làm mới bản cục bộ nền; bản AnyRouter không tham gia vòng refresh đó. Nếu request qua key Antigravity bắt đầu fail, đó là lý do dễ gặp nhất — chạy lại `anyr byok add antigravity` để thay bằng giá trị mới. Chúng tôi nói trước còn hơn để nó bất ngờ giữa session. --- # Sign in with AnyRouter: let users bring their own LLM account > If your app needs an LLM API to run, you have two bad options: ship your own keys and eat every user's inference bill, or make each user paste in a raw provider key. "Sign in with AnyRouter" is the third option — users sign in with their AnyRouter account, and their own balance powers the inference. You get a temporary, inference-only key per user and never handle model billing. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/sign-in-with-anyrouter ## Why your app shouldn't own the inference bill Almost every app being built today wants an LLM somewhere in it: a chat box, a summarize button, an agent that does the work. But the moment you add one, you inherit a billing problem. If you ship your own provider keys, every request your users make lands on your invoice — a single enthusiastic user can run up a bill that dwarfs whatever they pay you, and you're now in the business of metering, rate-limiting, and fraud-watching inference you never wanted to run. The usual escape hatch is to make each user paste in a raw OpenAI or Anthropic key. That works, but it's a terrible experience: your users now manage secrets they don't understand, you store long-lived credentials that can do far more than call a model, and you're one logging mistake away from leaking them. Neither option is what you actually want, which is simply: let the user pay for their own inference, and never touch their keys. That is exactly what "Sign in with AnyRouter" gives you. AnyRouter is the foundation your app builds around — a gateway that already has the user's account, their credits or free tier, and every model in one catalog. Add a sign-in button, the user approves once, and your app receives a temporary, inference-only key scoped to that single user. Every request it makes is billed to their account, not yours. You ship the product; AnyRouter handles the model billing, the provider failover, and the audit log. ## How the flow works It's a standard OAuth 2.1 authorization-code flow with PKCE. Your app is a public client — there is no client secret to protect, so the whole thing works from a browser-only frontend. The user is bounced to AnyRouter's consent screen, approves an inference-only scope, and your callback exchanges the returned code for a short-lived `sk-ar-v1-*` key. ```mermaid sequenceDiagram participant App as Your app participant AR as AnyRouter participant User App->>AR: (once) POST /oauth/register {app_type:"signin"} AR-->>App: client_id (public, safe to embed) User->>App: clicks "Sign in with AnyRouter" App->>AR: GET /oauth/authorize?client_id&redirect_uri&code_challenge AR->>User: consent screen — your app name + inference scope User->>AR: Approve AR-->>App: redirect_uri?code=... App->>AR: POST /oauth/token {code, code_verifier} AR-->>App: access_token = sk-ar-v1-* (expires in 30d) App->>AR: POST /chat/completions (Bearer sk-ar-v1-*) Note over AR: billed to the user's account ``` _One-time registration, then per-user sign-in that mints a key billed to the user._ Every endpoint below lives under `https://anyrouter.dev/api/v1/mcp/oauth/*` — the same unified OAuth gateway AnyRouter uses for MCP and enterprise managed access. You register once, then run the authorize/token pair per user. ## Step 1 — Register your app once Registration is open: you don't need an AnyRouter account to register an app, and there's no client secret. Send your app's name, its exact redirect URIs (https only, localhost allowed for development), and `app_type: "signin"`. ```bash curl https://anyrouter.dev/api/v1/mcp/oauth/register \ -H "Content-Type: application/json" \ -d '{ "client_name": "My AI App", "redirect_uris": ["https://myapp.example/callback"], "app_type": "signin", "origin_url": "https://myapp.example" }' ``` _POST /api/v1/mcp/oauth/register — returns a public client_id._ The response contains your `client_id`. It's public — embed it in frontend code without worry. Signin apps land flagged for a light admin review and show up in the AnyRouter admin console; that's how abusive apps get suspended, and it never blocks your users from signing in. ## Step 2 — Send the user to consent On the button click, generate a PKCE verifier and its S256 challenge in the browser, stash them (plus a `state` value for CSRF protection), and redirect to the authorize endpoint. ```html ``` _The sign-in button — PKCE challenge + redirect to /oauth/authorize._ The user lands on AnyRouter's consent screen — Clerk-gated, so they sign in to their own AnyRouter account if they aren't already — sees your app's name and the exact scopes requested, and approves. AnyRouter then 302s back to your `redirect_uri` with `?code=…&state=…`. ## Step 3 — Exchange the code for a key On your callback page, verify the `state` matches what you stored, then POST the code and the PKCE verifier to the token endpoint. It accepts both form-encoded and JSON bodies. ```js const params = new URLSearchParams(location.search) if (params.get("state") !== sessionStorage.getItem("ar_state")) { throw new Error("State mismatch — restart sign-in") } const res = await fetch("https://anyrouter.dev/api/v1/mcp/oauth/token", { method: "POST", headers: { "Content-Type": "application/json" }, body: JSON.stringify({ grant_type: "authorization_code", code: params.get("code"), redirect_uri: "https://myapp.example/callback", client_id: "your_client_id", code_verifier: sessionStorage.getItem("ar_verifier"), }), }) const token = await res.json() // { // "access_token": "sk-ar-v1-...", // "token_type": "Bearer", // "scope": "inference read:profile", // "expires_in": 2592000 // } saveTokenForThisUser(token.access_token) ``` _POST /api/v1/mcp/oauth/token — returns the user's inference key._ Store one token per user. That `sk-ar-v1-*` value is an ordinary AnyRouter key from your app's point of view — but it can only run inference, it's scoped to this one user, and it expires (30 days by default). ## Step 4 — Run inference as the user Use the token exactly like any AnyRouter API key. Every request is metered against the signed-in user's balance — their credits, or their free tier if they're on it. You never see a model bill. ```js const res = await fetch("https://anyrouter.dev/api/v1/chat/completions", { method: "POST", headers: { Authorization: `Bearer ${token}`, "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/gemini-3.5-flash", messages: [{ role: "user", content: "Hello from my app!" }], }), }) ``` _POST /api/v1/chat/completions — billed to the signed-in user._ Because it's a real AnyRouter key, you get the whole gateway for free: any model in the catalog by id, automatic failover when a provider is rate-limited, and the OpenAI, Anthropic, and Responses dialects all served from the same endpoint. And to render a "Signed in as …" badge, the `read:profile` scope lets you call `GET /api/v1/me` for the user's display name, avatar, and plan. ## What the user sees and controls The consent screen is deliberately narrow. A sign-in token carries exactly two scopes and nothing else — requesting more has no effect, AnyRouter clamps it back to these two: | Scope | What it allows | | --- | --- | | inference | Call /chat/completions, /messages, /responses, /embeddings — billed to the user | | read:profile | GET /api/v1/me — display name, avatar, plan | What a sign-in token can **not** do is the important part: it can't create or revoke API keys, read the user's usage or billing, change any account setting, or inherit their admin powers. There is no management access of any kind — the worst a compromised token can do is spend a bounded amount of the user's own inference budget before it expires. Users stay in control on the other side. From **Dashboard → Connected apps** they can revoke your app at any time, which invalidates every token you've been issued for that user. Both expiry and revocation surface the same way to your code — a `401`. There are no refresh tokens in v1: treat any `401` as "re-authenticate" and silently re-run the authorize flow. If the user is still signed in to AnyRouter, they're bounced through consent and back with a fresh token in seconds. ## Build on the foundation, not around it The whole point is that inference stops being your problem. You don't provision keys, you don't front the model bill, you don't store anyone's provider secrets, and you don't build a metering system. Your users bring an account they already have; AnyRouter handles the money and the models. Your app just calls an endpoint. Full endpoint reference, scopes, and the browser snippets end to end. [Read the Sign in with AnyRouter guide](/docs/guides/sign-in-with-anyrouter) --- # Sign in with AnyRouter:让用户带上自己的 LLM 账户 > 如果应用要跑 LLM API,你只有两个糟糕选项:自己出 key、吃下每个用户的推理账单,或让每人粘贴一把裸的供应商 key。"Sign in with AnyRouter" 是第三条路——用户用自己的 AnyRouter 账户登录,用他们自己的余额跑推理。你拿到一把临时、仅推理、按用户隔离的 key,从不经手模型账单。 - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/sign-in-with-anyrouter ## 为什么应用不该扛推理账单 今天几乎每个在做的应用都想在某处接 LLM:聊天框、摘要按钮、干活的 agent。但一加上,你就继承了账单问题。如果你自己发供应商 key,用户的每次请求都落在你的发票上——一个热情用户就能把账单撑得比他们付给你的还大,于是你开始计量、限流、防欺诈,跑你本不想跑的推理。 常见逃生口是让每人粘贴一把裸的 OpenAI 或 Anthropic key。能用,但体验很差:用户要管他们不懂的密钥,你要存能做远超调模型的长期凭证,一次日志失误就会泄露。两者都不是你真正想要的:让用户付自己的推理,并且永远别碰他们的 key。 这正是 "Sign in with AnyRouter" 给你的。AnyRouter 是应用围绕搭建的地基——网关已经有用户账户、他们的额度或免费档,以及一份目录里的全部模型。加一个登录按钮,用户批准一次,应用就收到一把临时、仅推理、绑定该用户的 key。之后每次请求记在他们账户上,不是你的。你交付产品;AnyRouter 处理模型账单、供应商故障切换和审计日志。 ## 流程怎么走 这是带 PKCE 的标准 OAuth 2.1 authorization-code 流程。你的应用是 public client——没有要保护的 client secret,所以纯浏览器前端也能跑。用户被跳到 AnyRouter 同意页,批准仅推理范围,你的回调用返回的 code 换一把短命 `sk-ar-v1-*` key。 ```mermaid sequenceDiagram participant App as Your app participant AR as AnyRouter participant User App->>AR: (once) POST /oauth/register {app_type:"signin"} AR-->>App: client_id (public, safe to embed) User->>App: clicks "Sign in with AnyRouter" App->>AR: GET /oauth/authorize?client_id&redirect_uri&code_challenge AR->>User: consent screen — your app name + inference scope User->>AR: Approve AR-->>App: redirect_uri?code=... App->>AR: POST /oauth/token {code, code_verifier} AR-->>App: access_token = sk-ar-v1-* (expires in 30d) App->>AR: POST /chat/completions (Bearer sk-ar-v1-*) Note over AR: billed to the user's account ``` _一次性注册,然后按用户登录,铸造记到该用户账上的 key。_ 下面每个端点都在 `https://anyrouter.dev/api/v1/mcp/oauth/*` 下——与 AnyRouter 给 MCP 和企业托管访问用的同一套统一 OAuth 网关。注册一次,再对每个用户跑 authorize/token。 ## 第 1 步 — 注册应用一次 注册是开放的:注册应用不需要 AnyRouter 账户,也没有 client secret。发送应用名、精确的 redirect URI(仅 https,开发可用 localhost),以及 `app_type: "signin"`。 ```bash curl https://anyrouter.dev/api/v1/mcp/oauth/register \ -H "Content-Type: application/json" \ -d '{ "client_name": "My AI App", "redirect_uris": ["https://myapp.example/callback"], "app_type": "signin", "origin_url": "https://myapp.example" }' ``` _POST /api/v1/mcp/oauth/register — 返回公开的 client_id。_ 响应里有你的 `client_id`。它是公开的——可以放心嵌进前端。Signin 应用会打上轻量管理审核标记,并出现在 AnyRouter 管理控制台;滥用应用由此被暂停,且从不挡住用户登录。 ## 第 2 步 — 把用户送到同意页 点击按钮时,在浏览器里生成 PKCE verifier 和 S256 challenge,存起来(外加防 CSRF 的 `state`),再跳到 authorize 端点。 ```html ``` _登录按钮 — PKCE challenge + 跳转到 /oauth/authorize。_ 用户落到 AnyRouter 同意页——有 Clerk 门禁,未登录会先登自己的 AnyRouter 账户——看到你的应用名和精确请求的 scope,然后批准。AnyRouter 再 302 回你的 `redirect_uri`,带 `?code=…&state=…`。 ## 第 3 步 — 用 code 换 key 在回调页核对 `state` 与你存的一致,再把 code 和 PKCE verifier POST 到 token 端点。它同时接受 form-encoded 和 JSON。 ```js const params = new URLSearchParams(location.search) if (params.get("state") !== sessionStorage.getItem("ar_state")) { throw new Error("State mismatch — restart sign-in") } const res = await fetch("https://anyrouter.dev/api/v1/mcp/oauth/token", { method: "POST", headers: { "Content-Type": "application/json" }, body: JSON.stringify({ grant_type: "authorization_code", code: params.get("code"), redirect_uri: "https://myapp.example/callback", client_id: "your_client_id", code_verifier: sessionStorage.getItem("ar_verifier"), }), }) const token = await res.json() // { // "access_token": "sk-ar-v1-...", // "token_type": "Bearer", // "scope": "inference read:profile", // "expires_in": 2592000 // } saveTokenForThisUser(token.access_token) ``` _POST /api/v1/mcp/oauth/token — 返回该用户的推理 key。_ 每个用户存一把 token。从应用角度看,那把 `sk-ar-v1-*` 就是普通 AnyRouter key——但它只能跑推理、只绑定这个用户,并且会过期(默认 30 天)。 ## 第 4 步 — 以该用户身份跑推理 把 token 当任意 AnyRouter API key 用。每次请求都按已登录用户的余额计量——他们的额度,或他们所在的免费档。你看不到模型账单。 ```js const res = await fetch("https://anyrouter.dev/api/v1/chat/completions", { method: "POST", headers: { Authorization: `Bearer ${token}`, "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/gemini-3.5-flash", messages: [{ role: "user", content: "Hello from my app!" }], }), }) ``` _POST /api/v1/chat/completions — 记到已登录用户。_ 因为它是真正的 AnyRouter key,你白得整套网关:目录里任意模型按 id、供应商被限流时自动故障切换,以及同一端点上的 OpenAI、Anthropic、Responses 方言。要渲染 "Signed in as …" 徽章,`read:profile` scope 允许调用 `GET /api/v1/me` 取显示名、头像和套餐。 ## 用户看到和控制什么 同意页故意很窄。登录 token 只带两个 scope,再无其他——多要无效,AnyRouter 会夹回这两个: | Scope | 允许什么 | | --- | --- | | inference | 调用 /chat/completions、/messages、/responses、/embeddings — 记到用户 | | read:profile | GET /api/v1/me — 显示名、头像、套餐 | 登录 token **不能**做的事才是重点:不能创建或吊销 API key,不能读用量或账单,不能改任何账户设置,也不能继承管理员权限。没有任何管理访问——一把被盗 token 最坏也只是在过期前花掉该用户自己有上限的推理预算。 用户在另一头仍掌控。从 **Dashboard → Connected apps** 随时可撤销你的应用,这会使你为该用户拿到的每把 token 失效。过期和撤销对你的代码表现一样——`401`。v1 没有 refresh token:把任何 `401` 当作「重新认证」,静默再跑一遍 authorize。若用户仍登录着 AnyRouter,几秒内就会过同意页并带回新 token。 ## 建在地基上,不要绕开它 重点是推理不再是你的问题。你不配 key,不垫模型账单,不存任何人的供应商密钥,也不做计量系统。用户带上已有账户;AnyRouter 处理钱和模型。你的应用只调用一个端点。 完整端点参考、scope,以及从头到尾的浏览器片段。 [阅读 Sign in with AnyRouter 指南](/docs/guides/sign-in-with-anyrouter) --- # Sign in with AnyRouter: để người dùng mang tài khoản LLM của họ > Nếu app cần LLM API để chạy, bạn có hai lựa chọn tệ: tự ship key rồi gánh hóa đơn inference của mọi user, hoặc bắt từng người dán key nhà cung cấp thô. "Sign in with AnyRouter" là lựa chọn thứ ba — họ đăng nhập bằng tài khoản AnyRouter, số dư của họ nuôi inference. Bạn nhận key tạm, chỉ inference, theo từng user, và không đụng billing model. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/sign-in-with-anyrouter ## Vì sao app không nên sở hữu hóa đơn inference Gần như mọi app đang dựng đều muốn LLM ở đâu đó: hộp chat, nút tóm tắt, agent làm việc. Nhưng vừa thêm là bạn thừa kế bài toán billing. Nếu ship key nhà cung cấp của mình, mọi request user gửi nằm trên hóa đơn bạn — một user hăng có thể chạy bill lớn hơn số họ trả bạn, và bạn thành người đo, rate-limit, và canh gian lận inference mà bạn chẳng muốn chạy. Lối thoát thường gặp là bắt từng user dán key OpenAI hoặc Anthropic thô. Chạy được, nhưng trải nghiệm tệ: họ quản secret không hiểu, bạn lưu credential sống lâu làm được nhiều hơn gọi model, và một lỗi log là lộ. Không lựa chọn nào là thứ bạn muốn: để user trả inference của họ, và đừng đụng key của họ. Đó đúng là thứ "Sign in with AnyRouter" cho bạn. AnyRouter là nền app dựng quanh — gateway đã có tài khoản user, credit hoặc free tier, và mọi model trong một catalog. Thêm nút đăng nhập, user duyệt một lần, app nhận key tạm, chỉ inference, scoped đúng user đó. Mọi request tính vào tài khoản họ, không phải bạn. Bạn ship sản phẩm; AnyRouter lo billing model, failover nhà cung cấp, và audit log. ## Luồng chạy thế nào Đây là OAuth 2.1 authorization-code chuẩn với PKCE. App của bạn là public client — không có client secret phải giữ, nên chạy được từ frontend chỉ trình duyệt. User được đẩy tới màn consent AnyRouter, duyệt scope chỉ inference, callback đổi code lấy key `sk-ar-v1-*` sống ngắn. ```mermaid sequenceDiagram participant App as Your app participant AR as AnyRouter participant User App->>AR: (once) POST /oauth/register {app_type:"signin"} AR-->>App: client_id (public, safe to embed) User->>App: clicks "Sign in with AnyRouter" App->>AR: GET /oauth/authorize?client_id&redirect_uri&code_challenge AR->>User: consent screen — your app name + inference scope User->>AR: Approve AR-->>App: redirect_uri?code=... App->>AR: POST /oauth/token {code, code_verifier} AR-->>App: access_token = sk-ar-v1-* (expires in 30d) App->>AR: POST /chat/completions (Bearer sk-ar-v1-*) Note over AR: billed to the user's account ``` _Đăng ký một lần, rồi mỗi user đăng nhập để mint key tính vào tài khoản họ._ Mọi endpoint dưới đây nằm dưới `https://anyrouter.dev/api/v1/mcp/oauth/*` — cùng gateway OAuth thống nhất AnyRouter dùng cho MCP và managed access enterprise. Đăng ký một lần, rồi chạy cặp authorize/token mỗi user. ## Bước 1 — Đăng ký app một lần Đăng ký mở: không cần tài khoản AnyRouter để đăng ký app, không client secret. Gửi tên app, redirect URI chính xác (chỉ https, localhost được lúc dev), và `app_type: "signin"`. ```bash curl https://anyrouter.dev/api/v1/mcp/oauth/register \ -H "Content-Type: application/json" \ -d '{ "client_name": "My AI App", "redirect_uris": ["https://myapp.example/callback"], "app_type": "signin", "origin_url": "https://myapp.example" }' ``` _POST /api/v1/mcp/oauth/register — trả về client_id công khai._ Response chứa `client_id`. Nó công khai — nhúng vào frontend không lo. App signin vào flagged cho review admin nhẹ và hiện trong admin console AnyRouter; đó là cách app lạm dụng bị suspend, và không chặn user đăng nhập. ## Bước 2 — Đưa user tới consent Khi bấm nút, sinh PKCE verifier và challenge S256 trong trình duyệt, cất chúng (cộng `state` chống CSRF), rồi redirect tới authorize endpoint. ```html ``` _Nút đăng nhập — PKCE challenge + redirect tới /oauth/authorize._ User tới màn consent AnyRouter — có Clerk, nên họ đăng nhập tài khoản AnyRouter nếu chưa — thấy tên app và đúng scope được xin, rồi duyệt. AnyRouter 302 về `redirect_uri` với `?code=…&state=…`. ## Bước 3 — Đổi code lấy key Trên trang callback, kiểm `state` khớp thứ bạn lưu, rồi POST code và PKCE verifier tới token endpoint. Nó nhận cả form-encoded và JSON. ```js const params = new URLSearchParams(location.search) if (params.get("state") !== sessionStorage.getItem("ar_state")) { throw new Error("State mismatch — restart sign-in") } const res = await fetch("https://anyrouter.dev/api/v1/mcp/oauth/token", { method: "POST", headers: { "Content-Type": "application/json" }, body: JSON.stringify({ grant_type: "authorization_code", code: params.get("code"), redirect_uri: "https://myapp.example/callback", client_id: "your_client_id", code_verifier: sessionStorage.getItem("ar_verifier"), }), }) const token = await res.json() // { // "access_token": "sk-ar-v1-...", // "token_type": "Bearer", // "scope": "inference read:profile", // "expires_in": 2592000 // } saveTokenForThisUser(token.access_token) ``` _POST /api/v1/mcp/oauth/token — trả key inference của user._ Lưu một token mỗi user. Giá trị `sk-ar-v1-*` đó là key AnyRouter thường từ góc app — nhưng chỉ chạy inference, scoped đúng user này, và hết hạn (mặc định 30 ngày). ## Bước 4 — Chạy inference như user Dùng token đúng như mọi API key AnyRouter. Mọi request đo theo số dư user đã đăng nhập — credit của họ, hoặc free tier nếu họ đang ở đó. Bạn không thấy hóa đơn model. ```js const res = await fetch("https://anyrouter.dev/api/v1/chat/completions", { method: "POST", headers: { Authorization: `Bearer ${token}`, "Content-Type": "application/json", }, body: JSON.stringify({ model: "google/gemini-3.5-flash", messages: [{ role: "user", content: "Hello from my app!" }], }), }) ``` _POST /api/v1/chat/completions — tính vào user đã đăng nhập._ Vì đây là key AnyRouter thật, bạn nhận cả gateway miễn phí: mọi model trong catalog theo id, failover tự động khi nhà cung cấp bị rate-limit, và dialect OpenAI, Anthropic, Responses cùng một endpoint. Để hiện badge "Signed in as …", scope `read:profile` cho gọi `GET /api/v1/me` lấy display name, avatar, và gói. ## User thấy và kiểm soát gì Màn consent cố ý hẹp. Token sign-in mang đúng hai scope, không gì khác — xin thêm không có hiệu lực, AnyRouter kẹp lại hai cái này: | Scope | Cho phép gì | | --- | --- | | inference | Gọi /chat/completions, /messages, /responses, /embeddings — tính vào user | | read:profile | GET /api/v1/me — display name, avatar, gói | Phần quan trọng là token sign-in **không** làm được gì: không tạo hay thu hồi API key, không đọc usage hay billing, không đổi setting tài khoản, không thừa quyền admin. Không có quyền quản trị nào — tệ nhất token bị lộ chỉ tiêu một ngân sách inference có trần của chính user trước khi hết hạn. User vẫn kiểm soát phía kia. Từ **Dashboard → Connected apps** họ thu hồi app bất cứ lúc nào, vô hiệu mọi token bạn đã nhận cho user đó. Cả hết hạn và thu hồi hiện cùng cách với code bạn — `401`. Không refresh token ở v1: coi mọi `401` là "đăng nhập lại" và chạy lại luồng authorize im lặng. Nếu user vẫn đăng nhập AnyRouter, họ đi qua consent rồi về với token mới trong vài giây. ## Dựng trên nền, không vòng quanh nó Điểm chính: inference thôi là bài của bạn. Bạn không cấp key, không ứng hóa đơn model, không lưu secret nhà cung cấp của ai, không dựng hệ đo. User mang tài khoản họ đã có; AnyRouter lo tiền và model. App chỉ gọi endpoint. Tham chiếu endpoint đầy đủ, scope, và snippet trình duyệt từ đầu đến cuối. [Đọc hướng dẫn Sign in with AnyRouter](/docs/guides/sign-in-with-anyrouter) --- # Run the Claude Agent SDK on any model > The Claude Agent SDK reads ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY, the same two variables Claude Code uses. Point them at AnyRouter and every catalog model is available to query() behind the Anthropic /messages dialect — in TypeScript or Python. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/claude-agent-sdk-any-model ## Two variables, any model The Claude Agent SDK runs on the same client as Claude Code, so it reads the same connection variables — ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY. Point them at AnyRouter with an sk-ar-v1 key and query() reaches every model in the catalog behind the Anthropic /messages dialect. Model ids are provider/model strings, so switching models is one option value. ### TypeScript ```bash npm install @anthropic-ai/claude-agent-sdk ``` ```ts import { query } from "@anthropic-ai/claude-agent-sdk" for await (const message of query({ prompt: "List the files here and summarize the project.", options: { // any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model: "z-ai/glm-5.2", env: { ...process.env, ANTHROPIC_BASE_URL: process.env.ANTHROPIC_BASE_URL ?? "https://anyrouter.dev/api", ANTHROPIC_API_KEY: process.env.ANTHROPIC_API_KEY ?? "sk-ar-v1-placeholder", }, }, })) { if (message.type === "result") console.log(message.result) } ``` ### Python ```bash pip install claude-agent-sdk ``` ```python import asyncio, os from claude_agent_sdk import query, ClaudeAgentOptions, ResultMessage os.environ.setdefault("ANTHROPIC_BASE_URL", "https://anyrouter.dev/api") os.environ.setdefault("ANTHROPIC_API_KEY", "sk-ar-v1-placeholder") async def main(): options = ClaudeAgentOptions( # any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model="z-ai/glm-5.2", ) async for message in query(prompt="List the files here and summarize the project.", options=options): if isinstance(message, ResultMessage): print(message.result) asyncio.run(main()) ``` ## Claude Code works the same way The Agent SDK and the Claude Code CLI share a client, so the same two variables point the CLI at AnyRouter too — no plugin, no fork. For the terminal walkthrough, see /blog/claude-code-through-one-gateway. Get an sk-ar-v1 key and run the Agent SDK on any model in the catalog. [Create a key](https://dash.anyrouter.dev/keys) --- # 在任意模型上跑 Claude Agent SDK > Claude Agent SDK 读 ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY,和 Claude Code 用的是同一对变量。把它们指到 AnyRouter,目录里每个模型都能经 Anthropic /messages 方言给 query() 用 — TypeScript 或 Python。 - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/claude-agent-sdk-any-model ## 两个变量,任意模型 Claude Agent SDK 和 Claude Code 共用同一套客户端,所以读同一对连接变量 — ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY。把它们指到 AnyRouter,配一把 sk-ar-v1 key,query() 就能经 Anthropic /messages 方言打到目录里每个模型。模型 id 是 provider/model 字符串,换模型只改一个 option。 ### TypeScript ```bash npm install @anthropic-ai/claude-agent-sdk ``` ```ts import { query } from "@anthropic-ai/claude-agent-sdk" for await (const message of query({ prompt: "List the files here and summarize the project.", options: { // any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model: "z-ai/glm-5.2", env: { ...process.env, ANTHROPIC_BASE_URL: process.env.ANTHROPIC_BASE_URL ?? "https://anyrouter.dev/api", ANTHROPIC_API_KEY: process.env.ANTHROPIC_API_KEY ?? "sk-ar-v1-placeholder", }, }, })) { if (message.type === "result") console.log(message.result) } ``` ### Python ```bash pip install claude-agent-sdk ``` ```python import asyncio, os from claude_agent_sdk import query, ClaudeAgentOptions, ResultMessage os.environ.setdefault("ANTHROPIC_BASE_URL", "https://anyrouter.dev/api") os.environ.setdefault("ANTHROPIC_API_KEY", "sk-ar-v1-placeholder") async def main(): options = ClaudeAgentOptions( # any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model="z-ai/glm-5.2", ) async for message in query(prompt="List the files here and summarize the project.", options=options): if isinstance(message, ResultMessage): print(message.result) asyncio.run(main()) ``` ## Claude Code 同一套做法 Agent SDK 和 Claude Code CLI 共用客户端,所以同一对变量也能把 CLI 指到 AnyRouter — 不用插件,不用 fork。终端走读见 /blog/claude-code-through-one-gateway。 拿一把 sk-ar-v1 key,在目录里任意模型上跑 Agent SDK。 [创建 key](https://dash.anyrouter.dev/keys) --- # Chạy Claude Agent SDK trên bất kỳ model nào > Claude Agent SDK đọc ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY, cùng hai biến Claude Code dùng. Chỉ chúng vào AnyRouter thì mọi model catalog sẵn cho query() sau dialect Anthropic /messages — TypeScript hoặc Python. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/claude-agent-sdk-any-model ## Hai biến, mọi model Claude Agent SDK chạy trên cùng client với Claude Code, nên đọc cùng biến kết nối — ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY. Chỉ chúng vào AnyRouter với key sk-ar-v1 thì query() tới mọi model trong catalog sau dialect Anthropic /messages. Model id là chuỗi provider/model, đổi model là một giá trị option. ### TypeScript ```bash npm install @anthropic-ai/claude-agent-sdk ``` ```ts import { query } from "@anthropic-ai/claude-agent-sdk" for await (const message of query({ prompt: "List the files here and summarize the project.", options: { // any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model: "z-ai/glm-5.2", env: { ...process.env, ANTHROPIC_BASE_URL: process.env.ANTHROPIC_BASE_URL ?? "https://anyrouter.dev/api", ANTHROPIC_API_KEY: process.env.ANTHROPIC_API_KEY ?? "sk-ar-v1-placeholder", }, }, })) { if (message.type === "result") console.log(message.result) } ``` ### Python ```bash pip install claude-agent-sdk ``` ```python import asyncio, os from claude_agent_sdk import query, ClaudeAgentOptions, ResultMessage os.environ.setdefault("ANTHROPIC_BASE_URL", "https://anyrouter.dev/api") os.environ.setdefault("ANTHROPIC_API_KEY", "sk-ar-v1-placeholder") async def main(): options = ClaudeAgentOptions( # any catalog id: "openai/gpt-5.5", "z-ai/glm-5.2", "anthropic/claude-opus-4-8" model="z-ai/glm-5.2", ) async for message in query(prompt="List the files here and summarize the project.", options=options): if isinstance(message, ResultMessage): print(message.result) asyncio.run(main()) ``` ## Claude Code cũng vậy Agent SDK và Claude Code CLI chia sẻ client, nên cùng hai biến cũng chỉ CLI vào AnyRouter — không plugin, không fork. Walkthrough terminal: /blog/claude-code-through-one-gateway. Lấy key sk-ar-v1 và chạy Agent SDK trên mọi model trong catalog. [Tạo key](https://dash.anyrouter.dev/keys) --- # Use AnyRouter with the Vercel AI SDK > @anyr/ai-sdk-provider wraps the AnyRouter gateway as a standard Vercel AI SDK provider. Call createAnyRouter(), pass a provider/model id, and generateText, streamText, and generateObject work unchanged — switching models is a one-string edit. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/ai-sdk-anyrouter ## Install and create the provider The provider is a thin wrapper over the AnyRouter API that implements the AI SDK's provider interface. Install it alongside the AI SDK itself, then call createAnyRouter() — it reads ANYROUTER_API_KEY from the environment when you omit the key. ```bash npm install @anyr/ai-sdk-provider ai zod ``` ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-4.7-flash"), prompt: "What is AnyRouter?", }) console.log(text) ``` _createAnyRouter() reads ANYROUTER_API_KEY when the key is omitted._ ## Stream, and swap the model id Every AI SDK function takes the same model factory, so streamText is the same call with a different helper. And because model ids are plain provider/model strings, changing which model runs is a one-string edit — no new client, no new key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { streamText } from "ai" const anyrouter = createAnyRouter() const { textStream } = await streamText({ // swap freely: "anthropic/claude-opus-4-5" or the free tier "anyrouter/free" model: anyrouter("z-ai/glm-4.7-flash"), prompt: "Write a haiku about the ocean.", }) for await (const chunk of textStream) { process.stdout.write(chunk) } ``` | Model id | What it routes to | | --- | --- | | z-ai/glm-4.7-flash | Z.AI GLM-4.7 Flash | | anthropic/claude-opus-4-5 | Anthropic Claude Opus 4.5 | | anyrouter/free | The free tier — no credits spent | ## Structured output with generateObject generateObject works the same way — pass a zod schema and the provider returns a typed object. This holds across models, so you can move a structured-output task to a cheaper or a stronger model without touching the schema. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateObject } from "ai" import { z } from "zod" const anyrouter = createAnyRouter() const { object } = await generateObject({ model: anyrouter("z-ai/glm-4.7-flash"), schema: z.object({ title: z.string(), summary: z.string(), tags: z.array(z.string()), }), prompt: "Summarise the latest AI news in a structured format.", }) console.log(object.title, object.tags) ``` ## Not on the AI SDK? Use @anyr/sdk If your app doesn't use the Vercel AI SDK, the plain TypeScript SDK talks to the same gateway with the same key. It exposes an OpenAI-shaped client — chat, embeddings, the Responses API, and the Anthropic Messages API — with typed requests and responses. ```ts import { AnyRouter } from "@anyr/sdk" // Reads ANYROUTER_API_KEY when omitted. const client = new AnyRouter() const completion = await client.chat.completions.create({ model: "z-ai/glm-4.7-flash", messages: [{ role: "user", content: "Hello!" }], }) console.log(completion.choices[0].message.content) ``` Both packages read ANYROUTER_API_KEY — create one to get started. [Create a key](https://dash.anyrouter.dev/keys) --- # 用 Vercel AI SDK 接 AnyRouter > @anyr/ai-sdk-provider 把 AnyRouter 网关包成标准 Vercel AI SDK provider。调用 createAnyRouter(),传入 provider/model id,generateText、streamText、generateObject 不用改 — 换模型只改一个字符串。 - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/ai-sdk-anyrouter ## 安装并创建 provider 这个 provider 是 AnyRouter API 上的薄封装,实现 AI SDK 的 provider 接口。和 AI SDK 一起安装,然后调用 createAnyRouter() — 省略 key 时它从环境读 ANYROUTER_API_KEY。 ```bash npm install @anyr/ai-sdk-provider ai zod ``` ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-4.7-flash"), prompt: "What is AnyRouter?", }) console.log(text) ``` _省略 key 时 createAnyRouter() 读 ANYROUTER_API_KEY。_ ## 流式,以及换模型 id 每个 AI SDK 函数吃同一套 model factory,所以 streamText 只是换 helper 的同一调用。模型 id 是普通 provider/model 字符串,换跑哪个模型只改一个字符串 — 不用新客户端,不用新 key。 ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { streamText } from "ai" const anyrouter = createAnyRouter() const { textStream } = await streamText({ // swap freely: "anthropic/claude-opus-4-5" or the free tier "anyrouter/free" model: anyrouter("z-ai/glm-4.7-flash"), prompt: "Write a haiku about the ocean.", }) for await (const chunk of textStream) { process.stdout.write(chunk) } ``` | 模型 id | 路由到 | | --- | --- | | z-ai/glm-4.7-flash | Z.AI GLM-4.7 Flash | | anthropic/claude-opus-4-5 | Anthropic Claude Opus 4.5 | | anyrouter/free | 免费档 — 不花额度 | ## 用 generateObject 做结构化输出 generateObject 同样 — 传 zod schema,provider 返回带类型的对象。跨模型都成立,所以你可以把结构化任务挪到更便宜或更强的模型,schema 不用动。 ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateObject } from "ai" import { z } from "zod" const anyrouter = createAnyRouter() const { object } = await generateObject({ model: anyrouter("z-ai/glm-4.7-flash"), schema: z.object({ title: z.string(), summary: z.string(), tags: z.array(z.string()), }), prompt: "Summarise the latest AI news in a structured format.", }) console.log(object.title, object.tags) ``` ## 不用 AI SDK?用 @anyr/sdk 如果应用不用 Vercel AI SDK,纯 TypeScript SDK 用同一把 key 打同一网关。它暴露 OpenAI 形状的客户端 — chat、embeddings、Responses API、Anthropic Messages API — 请求和响应都有类型。 ```ts import { AnyRouter } from "@anyr/sdk" // Reads ANYROUTER_API_KEY when omitted. const client = new AnyRouter() const completion = await client.chat.completions.create({ model: "z-ai/glm-4.7-flash", messages: [{ role: "user", content: "Hello!" }], }) console.log(completion.choices[0].message.content) ``` 两个包都读 ANYROUTER_API_KEY — 创建一把就能开始。 [创建 key](https://dash.anyrouter.dev/keys) --- # Dùng AnyRouter với Vercel AI SDK > @anyr/ai-sdk-provider bọc gateway AnyRouter thành provider Vercel AI SDK chuẩn. Gọi createAnyRouter(), truyền provider/model id, generateText, streamText, và generateObject chạy không đổi — đổi model là sửa một chuỗi. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/ai-sdk-anyrouter ## Cài và tạo provider Provider là lớp mỏng trên API AnyRouter, triển khai interface provider của AI SDK. Cài cùng AI SDK, rồi gọi createAnyRouter() — nó đọc ANYROUTER_API_KEY từ môi trường khi bạn bỏ key. ```bash npm install @anyr/ai-sdk-provider ai zod ``` ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-4.7-flash"), prompt: "What is AnyRouter?", }) console.log(text) ``` _createAnyRouter() đọc ANYROUTER_API_KEY khi bỏ key._ ## Stream, và đổi model id Mọi hàm AI SDK nhận cùng factory model, nên streamText là cùng lời gọi với helper khác. Và vì model id là chuỗi provider/model thường, đổi model chạy là sửa một chuỗi — không client mới, không key mới. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { streamText } from "ai" const anyrouter = createAnyRouter() const { textStream } = await streamText({ // swap freely: "anthropic/claude-opus-4-5" or the free tier "anyrouter/free" model: anyrouter("z-ai/glm-4.7-flash"), prompt: "Write a haiku about the ocean.", }) for await (const chunk of textStream) { process.stdout.write(chunk) } ``` | Model id | Route tới | | --- | --- | | z-ai/glm-4.7-flash | Z.AI GLM-4.7 Flash | | anthropic/claude-opus-4-5 | Anthropic Claude Opus 4.5 | | anyrouter/free | Tầng miễn phí — không tốn credit | ## Output có cấu trúc với generateObject generateObject cũng vậy — truyền schema zod và provider trả object có kiểu. Điều này giữ giữa các model, nên bạn chuyển tác vụ structured-output sang model rẻ hơn hoặc mạnh hơn mà không đụng schema. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateObject } from "ai" import { z } from "zod" const anyrouter = createAnyRouter() const { object } = await generateObject({ model: anyrouter("z-ai/glm-4.7-flash"), schema: z.object({ title: z.string(), summary: z.string(), tags: z.array(z.string()), }), prompt: "Summarise the latest AI news in a structured format.", }) console.log(object.title, object.tags) ``` ## Không dùng AI SDK? Dùng @anyr/sdk Nếu app không dùng Vercel AI SDK, SDK TypeScript thuần nói chuyện với cùng gateway bằng cùng key. Nó lộ client dạng OpenAI — chat, embeddings, Responses API, và Anthropic Messages API — với request và response có kiểu. ```ts import { AnyRouter } from "@anyr/sdk" // Reads ANYROUTER_API_KEY when omitted. const client = new AnyRouter() const completion = await client.chat.completions.create({ model: "z-ai/glm-4.7-flash", messages: [{ role: "user", content: "Hello!" }], }) console.log(completion.choices[0].message.content) ``` Cả hai package đọc ANYROUTER_API_KEY — tạo một key để bắt đầu. [Tạo key](https://dash.anyrouter.dev/keys) --- # Get a free NVIDIA API key and route it through one URL > NVIDIA hands out a free API key with credits and no card required. Attach it to AnyRouter as BYOK and every NVIDIA-hosted model runs through one OpenAI-compatible endpoint — at $0 markup. Here's the five-minute setup. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/nvidia-free-key-setup ## What you're building NVIDIA's build.nvidia.com gives every developer a free API key with a pool of inference credits and a generous per-minute rate limit — no credit card. That key reaches NVIDIA-hosted models like the Nemotron family through an OpenAI-compatible API. Instead of wiring that key into each tool by hand, you attach it once to AnyRouter as a BYOK key. From then on you call any NVIDIA-served model with a single AnyRouter key, through one endpoint, with logs, analytics, and failover on top. BYOK is $0 markup — you pay nothing beyond what NVIDIA's free tier already covers. Total setup: about five minutes. ## 1. Get a free key from NVIDIA Sign in at build.nvidia.com — joining the NVIDIA Developer Program is free and needs no credit card. Open Settings → API Keys (or click Get API Key on any model in the catalog) and click Generate API Key. NVIDIA mints a personal key prefixed `nvapi-` that works across the whole model catalog. The full key is shown only once, so copy it immediately. At the time of writing the free tier ships with 1,000 inference credits (higher on request) and a 40 requests-per-minute limit — check the dashboard for the current numbers, as NVIDIA adjusts them. Grab your free nvapi- key from NVIDIA's developer console. [Open build.nvidia.com](https://build.nvidia.com/settings/api-keys) ## 2. Add it as a BYOK key in AnyRouter In the dashboard, open BYOK & Key Balancing at /byok, choose NVIDIA as the provider, paste your `nvapi-` key, and save. Keys are encrypted at rest and write-only in the UI — after saving you only ever see a masked identifier, never the raw key again. Attach your nvapi- key in a couple of clicks. [Connect a key](https://dash.anyrouter.dev/byok) ## 3. Call an NVIDIA model through one endpoint Mint an AnyRouter key at /keys (it starts with `sk-ar-`). That's the only key your code holds — AnyRouter maps the request onto your NVIDIA token behind the scenes, so your app never touches the `nvapi-` key directly. Point any OpenAI-compatible client at `https://anyrouter.dev/api/v1` and pick a NVIDIA-hosted model: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "nvidia/nemotron-3-super-120b-a12b", "messages": [{ "role": "user", "content": "Say hi in one line." }] }' ``` Because it's OpenAI-compatible, the official OpenAI SDK works unchanged — just swap the base URL and key: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-...", # your AnyRouter key ) resp = client.chat.completions.create( model="nvidia/nemotron-3-super-120b-a12b", messages=[{"role": "user", "content": "Say hi in one line."}], ) print(resp.choices[0].message.content) ``` ## 4. Point your existing tools at it Anything that reads a base URL from the environment picks this up with one line. AnyRouter accepts both the OpenAI and Anthropic variable names, so the same endpoint drives Codex, Claude Code, Cursor, or your own agent loop: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-..." # Anthropic-style clients (e.g. Claude Code) use the same gateway: export ANTHROPIC_BASE_URL="https://anyrouter.dev/api/v1" export ANTHROPIC_API_KEY="sk-ar-..." ``` No code changes — the tool talks to AnyRouter, AnyRouter talks to NVIDIA on your free key. ## 5. Optional: donate the key, earn credits back Your NVIDIA quota is mostly idle. Flip the Donate to pool toggle on the key and every request the shared pool routes through it adds up to 8% of that request's notional cost to a pending balance you can claim as credits (5% on Go, 8% on Pro/Max) — and donating one working key unlocks the Go plan for free, for as long as it stays active. You keep first call on your own key; the pool only ever borrows spare capacity, and you can opt out instantly. See how donating an idle key earns credits back. [Read the pool walkthrough](/blog/shared-key-pool) --- # 领一把免费 NVIDIA API key,再用一个 URL 转发 > NVIDIA 发免费 API key,带额度,不用绑卡。把它作为 BYOK 接到 AnyRouter,NVIDIA 托管的模型都走同一个兼容 OpenAI 的端点——加价 $0。下面是大约五分钟的流程。 - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/nvidia-free-key-setup ## 你在搭什么 NVIDIA 的 build.nvidia.com 给每位开发者一把免费 API key:一池推理额度,每分钟限额也比较松——不用信用卡。这把 key 通过兼容 OpenAI 的 API 打到 Nemotron 等 NVIDIA 托管模型。 不必把 key 手工塞进每个工具:在 AnyRouter 上作为 BYOK 加一次。之后用一把 AnyRouter key、一个端点调用任何 NVIDIA 提供的模型,日志、分析和故障切换都带上。BYOK 加价 $0——NVIDIA 免费档已经覆盖的部分,你不再另付。全程大约五分钟。 ## 1. 从 NVIDIA 拿免费 key 登录 build.nvidia.com——加入 NVIDIA Developer Program 免费且不用卡。打开 Settings → API Keys(或在目录里点某模型的 Get API Key),再点 Generate API Key。 NVIDIA 会发一把以 `nvapi-` 开头、整份目录通用的个人 key。完整 key 只显示一次,立刻复制。写作时免费档带 1,000 推理额度(可申请更高)和每分钟 40 次请求——以控制台当前数字为准,NVIDIA 会调。 从 NVIDIA 开发者控制台拿免费 nvapi- key。 [打开 build.nvidia.com](https://build.nvidia.com/settings/api-keys) ## 2. 在 AnyRouter 加成 BYOK 在控制台打开 /byok 的 BYOK & Key Balancing,供应商选 NVIDIA,粘贴 `nvapi-` key,保存。key 静态加密,界面只写不读——保存后只看到掩码标识,再也看不到明文。 几下点击接上 nvapi- key。 [连接一把 key](https://dash.anyrouter.dev/byok) ## 3. 用一个端点打 NVIDIA 模型 在 /keys 开一把 AnyRouter key(以 `sk-ar-` 开头)。代码里只留这一把——AnyRouter 在背后映射到你的 NVIDIA token,应用从不直接碰 `nvapi-`。把兼容 OpenAI 的客户端指到 `https://anyrouter.dev/api/v1`,选一个 NVIDIA 托管模型: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "nvidia/nemotron-3-super-120b-a12b", "messages": [{ "role": "user", "content": "Say hi in one line." }] }' ``` 因为兼容 OpenAI,官方 SDK 不用改——只换 base URL 和 key: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-...", # your AnyRouter key ) resp = client.chat.completions.create( model="nvidia/nemotron-3-super-120b-a12b", messages=[{"role": "user", "content": "Say hi in one line."}], ) print(resp.choices[0].message.content) ``` ## 4. 把现有工具指过来 任何从环境变量读 base URL 的工具,一行就能接上。AnyRouter 同时认 OpenAI 和 Anthropic 变量名,所以同一个端点能驱动 Codex、Claude Code、Cursor 或你自己的 agent 循环: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-..." # Anthropic-style clients (e.g. Claude Code) use the same gateway: export ANTHROPIC_BASE_URL="https://anyrouter.dev/api/v1" export ANTHROPIC_API_KEY="sk-ar-..." ``` 不用改代码——工具跟 AnyRouter 说话,AnyRouter 用你的免费 key 跟 NVIDIA 说话。 ## 5. 可选:捐 key,把额度赚回来 NVIDIA 配额多半闲着。打开 Donate to pool:共享池经这把 key 走的每次请求,会把该请求名义成本的最多 8% 记到可兑换额度(Go 5%,Pro/Max 8%)——捐一把还能用的 key,只要它保持活跃,就能免费开通 Go。你自己的调用优先;池子只借闲余容量,随时可退出。 看闲置 key 如何把额度赚回来。 [读共享池说明](/blog/zh/shared-key-pool) --- # Lấy NVIDIA API key miễn phí rồi route qua một URL > NVIDIA phát API key miễn phí kèm credit, không cần thẻ. Gắn vào AnyRouter như BYOK thì mọi model NVIDIA host chạy qua một endpoint tương thích OpenAI — markup $0. Setup khoảng năm phút. - Date: July 19, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/nvidia-free-key-setup ## Bạn đang dựng gì build.nvidia.com của NVIDIA cho mỗi developer một API key miễn phí: pool credit inference và rate limit theo phút khá rộng — không thẻ. Key đó tới các model NVIDIA host như họ Nemotron qua API tương thích OpenAI. Đừng nhét key vào từng tool tay: gắn một lần vào AnyRouter như BYOK. Sau đó gọi mọi model NVIDIA bằng một key AnyRouter, một endpoint, kèm log, analytics và failover. BYOK markup $0 — bạn không trả thêm ngoài miễn phí NVIDIA đã cover. Tổng setup: khoảng năm phút. ## 1. Lấy key miễn phí từ NVIDIA Đăng nhập build.nvidia.com — NVIDIA Developer Program miễn phí, không thẻ. Mở Settings → API Keys (hoặc Get API Key trên model trong catalog) rồi Generate API Key. NVIDIA mint key cá nhân tiền tố `nvapi-` dùng cho cả catalog. Key đầy đủ chỉ hiện một lần, copy ngay. Lúc viết, free tier có 1,000 inference credit (xin thêm được) và 40 request/phút — xem dashboard vì NVIDIA điều chỉnh. Lấy nvapi- miễn phí từ console NVIDIA. [Mở build.nvidia.com](https://build.nvidia.com/settings/api-keys) ## 2. Thêm BYOK trên AnyRouter Trong dashboard, mở BYOK & Key Balancing tại /byok, chọn NVIDIA, dán `nvapi-`, lưu. Key mã hóa lúc nghỉ, UI chỉ ghi — sau khi lưu bạn chỉ thấy identifier đã che, không còn raw key. Gắn nvapi- trong vài click. [Kết nối key](https://dash.anyrouter.dev/byok) ## 3. Gọi model NVIDIA qua một endpoint Mint key AnyRouter tại /keys (bắt đầu `sk-ar-`). Đó là key duy nhất code giữ — AnyRouter map request sang NVIDIA token phía sau, app không đụng `nvapi-`. Chỉ client tương thích OpenAI vào `https://anyrouter.dev/api/v1` và chọn model NVIDIA host: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "nvidia/nemotron-3-super-120b-a12b", "messages": [{ "role": "user", "content": "Say hi in one line." }] }' ``` Vì tương thích OpenAI, SDK chính thức không đổi — chỉ đổi base URL và key: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-...", # your AnyRouter key ) resp = client.chat.completions.create( model="nvidia/nemotron-3-super-120b-a12b", messages=[{"role": "user", "content": "Say hi in one line."}], ) print(resp.choices[0].message.content) ``` ## 4. Chỉ tool sẵn có vào đó Thứ gì đọc base URL từ môi trường chỉ cần một dòng. AnyRouter nhận cả tên biến OpenAI và Anthropic, nên cùng endpoint chạy Codex, Claude Code, Cursor, hoặc loop agent của bạn: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-..." # Anthropic-style clients (e.g. Claude Code) use the same gateway: export ANTHROPIC_BASE_URL="https://anyrouter.dev/api/v1" export ANTHROPIC_API_KEY="sk-ar-..." ``` Không đổi code — tool nói với AnyRouter, AnyRouter nói với NVIDIA bằng key miễn phí của bạn. ## 5. Tùy chọn: góp key, nhận credit lại Quota NVIDIA thường để không. Bật Donate to pool: mỗi request pool đi qua key cộng tối đa 8% chi phí danh nghĩa vào số dư chờ đổi credit (5% trên Go, 8% trên Pro/Max) — góp một key còn chạy cũng mở Go miễn phí khi key còn active. Bạn giữ quyền gọi trước; pool chỉ mượn dung lượng dư, tắt ngay được. Xem góp key nhàn kiếm credit thế nào. [Đọc walkthrough pool](/blog/vi/shared-key-pool) --- # Run Hermes Agent on AnyRouter > Install the official AnyRouter plugin for Hermes Agent, add one key, and pick from tool-capable models — including the anyrouter/hermes meta-model with automatic fallback. - Date: November 9, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/hermes-agent-anyrouter ## What you'll set up [Hermes Agent](https://hermes-agent.nousresearch.com) is Nous Research's terminal coding agent. The official AnyRouter provider plugin — listed on the [Hermes plugin marketplace](https://hermes-agent.nousresearch.com/marketplace/anyrouter) — connects it to any AnyRouter model with one key. The `/model` picker lists only routes that can call tools, read live from the model catalog, so the agent loop does not break on a model that cannot use tools. `anyrouter/hermes` is AnyRouter's own routing meta-model, not a Nous model: it sends each request to the best available tool-calling model and falls back automatically. It bills at the underlying model's rate. ## 1. Install the plugin From a terminal, install the plugin from the marketplace catalog: ```bash hermes plugins install anyrouter hermes plugins list ``` `hermes plugins list` should show `anyrouter` enabled. Prefer clicking? The [marketplace listing](https://hermes-agent.nousresearch.com/marketplace/anyrouter) has an Install in Hermes button, and the [plugin source](https://github.com/AnyRouterHQ/hermes-provider-anyrouter) is on GitHub. ## 2. Add your key Get a key at [anyrouter.dev](https://anyrouter.dev) — it starts with `sk-ar-`. Add it to `~/.hermes/.env`: ```bash ANYROUTER_API_KEY=sk-ar-your-anyrouter-key ``` The same key also works against the OpenAI-compatible endpoint `https://anyrouter.dev/api/v1`, so you can drive Hermes from any other OpenAI client too. ## 3. Pick a model Pick interactively with `hermes model` and choose `anyrouter`, or set it per run: ```bash hermes --provider anyrouter -m anyrouter/hermes ``` | Model | Notes | | --- | --- | | `anyrouter/hermes` | Best tool-calling models, with automatic fallback. The agentic default. | | `anyrouter/auto` | Top platform models. Tools optional — not for agent loops. | | `anyrouter/latest` | Latest stable chat model. | | `moonshotai/kimi-k3` | 1M context, agentic. | | `deepseek/deepseek-v4-flash` | Fast, reasoning-capable. | The picker reads the live model list, so new tool-capable routes show up without updating the plugin. Switch mid-session with `/model` — this resets the prompt cache. ## 4. Check it works `hermes plugins list` shows `anyrouter` enabled, and your next `hermes chat` message appears in your [request logs](https://anyrouter.dev/dashboard/logs). If the picker is empty, the key is missing or wrong — re-check `ANYROUTER_API_KEY` in `~/.hermes/.env`. ## Optional settings Set these in `~/.hermes/.env`: - `ANYROUTER_BASE_URL` — override `https://anyrouter.dev/api/v1` (proxy or relay). The picker then stops filtering by tool support. - `ANYROUTER_APP_ATTRIBUTION=1` — credit Hermes traffic in the public app rankings. Off by default. - Hermes forwards a `provider_routing` block as `extra_body.provider` — `sort: price | throughput | latency`, plus `only` / `ignore` / `data_collection: deny`. See [Provider Routing](https://anyrouter.dev/docs/guides/provider-routing). - See the [Hermes Agent guide](https://anyrouter.dev/docs/guides/hermes-agent) for MCP setup, troubleshooting, and the full `provider_routing` reference. Everything on this page, as a checklist: the Hermes Agent use case. [Open the use case](https://anyrouter.dev/use-cases/hermes-agent) --- # 在 AnyRouter 上运行 Hermes Agent > 安装 AnyRouter 官方的 Hermes Agent 插件,加一把 key,就能从支持工具调用的模型里挑选——包括自动回退的 anyrouter/hermes 元模型。 - Date: November 9, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/hermes-agent-anyrouter ## 你将搭建什么 [Hermes Agent](https://hermes-agent.nousresearch.com) 是 Nous Research 的终端编程智能体。[Hermes 插件市场](https://hermes-agent.nousresearch.com/marketplace/anyrouter)上列出的 AnyRouter 官方 provider 插件,用一把 key 就能把它接到任意 AnyRouter 模型。 `/model` 选择器只列出支持工具调用的路由,数据实时读自模型目录,因此 agent 循环不会断在一个不能用工具的模型上。`anyrouter/hermes` 是 AnyRouter 自有的路由元模型,不是 Nous 的模型:它把每个请求发给当下最好的工具调用模型并自动回退。计费按底层模型的费率。 ## 1. 安装插件 在终端里从市场目录安装插件: ```bash hermes plugins install anyrouter hermes plugins list ``` `hermes plugins list` 应能看到 `anyrouter` 已启用。想点按钮?[市场页面](https://hermes-agent.nousresearch.com/marketplace/anyrouter)有 Install in Hermes,[插件源码](https://github.com/AnyRouterHQ/hermes-provider-anyrouter)在 GitHub 上。 ## 2. 添加你的 key 在 [anyrouter.dev](https://anyrouter.dev) 开一把 key——以 `sk-ar-` 开头。写入 `~/.hermes/.env`: ```bash ANYROUTER_API_KEY=sk-ar-your-anyrouter-key ``` 同一把 key 也能直接用于 OpenAI 兼容端点 `https://anyrouter.dev/api/v1`,所以你也可以用任意 OpenAI 客户端驱动 Hermes。 ## 3. 选择模型 用 `hermes model` 交互式选择 `anyrouter`,或按单次运行指定: ```bash hermes --provider anyrouter -m anyrouter/hermes ``` | 模型 | 说明 | | --- | --- | | `anyrouter/hermes` | 最强的工具调用模型,自动回退。智能体默认之选。 | | `anyrouter/auto` | 平台热门模型。工具可选——不适合 agent 循环。 | | `anyrouter/latest` | 最新稳定版聊天模型。 | | `moonshotai/kimi-k3` | 100 万上下文,agentic。 | | `deepseek/deepseek-v4-flash` | 快,支持推理。 | 选择器实时读取模型列表,新的工具调用路由不需要更新插件就会出现。会话中用 `/model` 切换——这会重置 prompt cache。 ## 4. 检查是否可用 `hermes plugins list` 显示 `anyrouter` 已启用,你下一条 `hermes chat` 消息会出现在 [请求日志](https://anyrouter.dev/dashboard/logs)里。如果选择器是空的,说明 key 缺失或错误——重新检查 `~/.hermes/.env` 里的 `ANYROUTER_API_KEY`。 ## 可选设置 在 `~/.hermes/.env` 里设置: - `ANYROUTER_BASE_URL`——覆盖 `https://anyrouter.dev/api/v1`(代理或中继)。设置后选择器不再按工具支持过滤。 - `ANYROUTER_APP_ATTRIBUTION=1`——在公开应用排行榜里给 Hermes 流量记功。默认关闭。 - Hermes 会把 `provider_routing` 块作为 `extra_body.provider` 转发——`sort: price | throughput | latency`,以及 `only` / `ignore` / `data_collection: deny`。见 [Provider Routing](https://anyrouter.dev/docs/guides/provider-routing)。 - MCP 配置、故障排查和完整的 `provider_routing` 参考,见 [Hermes Agent 指南](https://anyrouter.dev/docs/guides/hermes-agent)。 本页全部内容,清单形式:Hermes Agent 用例页。 [打开用例页](https://anyrouter.dev/use-cases/hermes-agent) --- # Chạy Hermes Agent trên AnyRouter > Cài plugin AnyRouter chính thức cho Hermes Agent, thêm một key, và chọn từ các model gọi tool được — gồm meta-model anyrouter/hermes với fallback tự động. - Date: November 9, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/hermes-agent-anyrouter ## Bạn sắp dựng gì [Hermes Agent](https://hermes-agent.nousresearch.com) là terminal coding agent của Nous Research. Plugin provider AnyRouter chính thức — được liệt kê trên [Hermes plugin marketplace](https://hermes-agent.nousresearch.com/marketplace/anyrouter) — kết nối nó với mọi model AnyRouter chỉ bằng một key. Picker `/model` chỉ liệt kê các route gọi được tool, đọc trực tiếp từ model catalog, nên vòng agent không gãy trên một model không dùng được tool. `anyrouter/hermes` là meta-model định tuyến của riêng AnyRouter, không phải model của Nous: mỗi request được gửi tới model tool-calling tốt nhất còn khả dụng và fallback tự động. Tính phí theo rate của model bên dưới. ## 1. Cài plugin Từ terminal, cài plugin từ marketplace catalog: ```bash hermes plugins install anyrouter hermes plugins list ``` `hermes plugins list` sẽ thấy `anyrouter` đã bật. Thích bấm? [Listing trên marketplace](https://hermes-agent.nousresearch.com/marketplace/anyrouter) có nút Install in Hermes, và [mã nguồn plugin](https://github.com/AnyRouterHQ/hermes-provider-anyrouter) nằm trên GitHub. ## 2. Thêm key Lấy key tại [anyrouter.dev](https://anyrouter.dev) — bắt đầu `sk-ar-`. Thêm vào `~/.hermes/.env`: ```bash ANYROUTER_API_KEY=sk-ar-your-anyrouter-key ``` Cùng key này cũng chạy được với endpoint tương thích OpenAI `https://anyrouter.dev/api/v1`, nên bạn có thể điều khiển Hermes từ bất kỳ client OpenAI nào khác. ## 3. Chọn model Chọn tương tác bằng `hermes model` và chọn `anyrouter`, hoặc đặt theo từng lần chạy: ```bash hermes --provider anyrouter -m anyrouter/hermes ``` | Model | Ghi chú | | --- | --- | | `anyrouter/hermes` | Model tool-calling mạnh nhất, fallback tự động. Mặc định cho agentic. | | `anyrouter/auto` | Top platform model. Tool tùy chọn — không hợp vòng agent. | | `anyrouter/latest` | Chat model stable mới nhất. | | `moonshotai/kimi-k3` | Context 1M, agentic. | | `deepseek/deepseek-v4-flash` | Nhanh, hỗ trợ reasoning. | Picker đọc danh sách model trực tiếp, nên route tool-capable mới xuất hiện mà không cần cập nhật plugin. Đổi giữa phiên bằng `/model` — thao tác này reset prompt cache. ## 4. Kiểm tra chạy đúng `hermes plugins list` thấy `anyrouter` bật, và tin nhắn `hermes chat` tiếp theo sẽ xuất hiện trong [request logs](https://anyrouter.dev/dashboard/logs). Nếu picker trống, key thiếu hoặc sai — kiểm tra lại `ANYROUTER_API_KEY` trong `~/.hermes/.env`. ## Tùy chọn thêm Đặt trong `~/.hermes/.env`: - `ANYROUTER_BASE_URL` — ghi đè `https://anyrouter.dev/api/v1` (proxy hoặc relay). Picker sẽ thôi lọc theo tool support. - `ANYROUTER_APP_ATTRIBUTION=1` — ghi công traffic Hermes trong public app rankings. Tắt mặc định. - Hermes chuyển block `provider_routing` thành `extra_body.provider` — `sort: price | throughput | latency`, kèm `only` / `ignore` / `data_collection: deny`. Xem [Provider Routing](https://anyrouter.dev/docs/guides/provider-routing). - Xem [hướng dẫn Hermes Agent](https://anyrouter.dev/docs/guides/hermes-agent) cho phần setup MCP, troubleshooting và tham chiếu `provider_routing` đầy đủ. Toàn bộ nội dung trang này, dạng checklist: trang use case Hermes Agent. [Mở use case](https://anyrouter.dev/use-cases/hermes-agent) --- # Point Claude Code at a custom base URL > Claude Code reads ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY, so pointing it at AnyRouter takes two environment variables — no plugin, no fork. You get every model in the catalog behind the same key, automatic failover when a provider is rate-limited, and one audit log shared with Codex, Cursor, and every other agent you run. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/claude-code-through-one-gateway ## How do I point Claude Code at a custom base URL? Claude Code reads two environment variables for its provider connection: ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY. Set them to AnyRouter's endpoint and an AnyRouter key, and every request Claude Code makes — the main session, subagents, background tasks — routes through your account instead of directly to Anthropic. ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — manual setup, two environment variables._ This works because Claude Code speaks the Anthropic /messages dialect, and AnyRouter serves that same dialect for every model in the catalog — the client has no way to tell the request left Anthropic's own infrastructure. ## The anyr CLI sets it up for you If you'd rather not manage environment variables by hand, the anyr launcher handles login, key storage, and the environment in one command: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Pin a specific model for this session anyr claude --model "z-ai/glm-5.2" # Preview the environment without launching anyr claude --dry-run ``` Config is saved to ~/.anyrouter/config.yaml and reused next time — by claude, and by every other launcher the CLI ships (codex, cursor). Everything after -- forwards to Claude Code itself, so existing flags still work (anyr claude -- --resume). ## Run Codex and Cursor on the same key Claude Code isn't the only agent worth routing this way. Codex and Cursor speak the OpenAI dialect instead of Anthropic's, and AnyRouter serves both dialects from the same account — so one key covers every agent you run, not just one. | Agent | Protocol | Environment variables | | --- | --- | --- | | Claude Code | Anthropic /messages | ANTHROPIC_BASE_URL, ANTHROPIC_API_KEY | | Codex | OpenAI /chat/completions | OPENAI_BASE_URL, OPENAI_API_KEY | | OpenCode | OpenAI /chat/completions | anyr opencode, or opencode.json provider | | Cursor | OpenAI-compatible custom model | Base URL + key pasted into settings | Whichever combination you run, requests from every tool land in the same balance, the same per-request audit log, and the same rate limits — no separate account per agent. ## Swap the model Claude Code uses without leaving your terminal Model ids on AnyRouter are provider/model strings, so changing what Claude Code runs on for a given task is a flag, not a rewrite. Route cheap, fast edits one way and a hard refactor another, in the same session. - Route on your own keys at $0 markup — anyrouter/coding sends requests to the coding-capable subset of your configured BYOK keys. - Pin a specific model for a hard problem — anyr claude --model "anthropic/claude-opus-4-8". - Preview a model's behavior before wiring it in — try it live in /playground first. ![AnyRouter model detail page showing a single model's specs and pricing](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Every catalog model has its own page — check specs before pointing an agent at it._ ## Where to go from here For the broader picture on routing any OpenAI- or Anthropic-compatible tool through one account — including the app-attribution headers that make each tool show up separately in your usage analytics — see /blog/coding-agents-one-gateway. To route on provider keys you already pay for, see /blog/byok-bring-your-own-keys. - Full CLI reference and flags — /cli. - Endpoint and header reference — /docs. - Try any model live before wiring it in — /playground. Point Claude Code at AnyRouter and get every model behind one key. [Set it up free](https://anyrouter.dev/dashboard) --- # 把 Claude Code 指到自定义 base URL > Claude Code 读 ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY,指到 AnyRouter 只要两个环境变量——不用插件、不用 fork。同一把 key 后面是整份目录,供应商限流时自动切换,审计日志和 Codex、Cursor 及其他 agent 共用。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/claude-code-through-one-gateway ## 怎么把 Claude Code 指到自定义 base URL? Claude Code 用两个环境变量接供应商:ANTHROPIC_BASE_URL 和 ANTHROPIC_API_KEY。设成 AnyRouter 端点和 AnyRouter key 后,主会话、子 agent、后台任务都走你的账户,而不是直连 Anthropic。 ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — 手动配置,两个环境变量。_ 这能通是因为 Claude Code 说 Anthropic /messages 方言,AnyRouter 对目录里每个模型都提供同一方言——客户端看不出请求已经离开 Anthropic 自己的基础设施。 ## anyr CLI 帮你配好 不想手管环境变量,用 anyr 启动器一条命令处理登录、存 key 和环境: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Pin a specific model for this session anyr claude --model "z-ai/glm-5.2" # Preview the environment without launching anyr claude --dry-run ``` 配置写到 ~/.anyrouter/config.yaml,下次 claude 以及 CLI 带的其他启动器(codex、cursor)都会复用。`--` 后面原样转给 Claude Code,现有 flag 仍可用(anyr claude -- --resume)。 ## 同一把 key 跑 Codex 和 Cursor 值得这样转发的不只 Claude Code。Codex 和 Cursor 说 OpenAI 方言,AnyRouter 同一账户两种方言都提供——一把 key 覆盖你跑的每个 agent。 | Agent | 协议 | 环境变量 | | --- | --- | --- | | Claude Code | Anthropic /messages | ANTHROPIC_BASE_URL, ANTHROPIC_API_KEY | | Codex | OpenAI /chat/completions | OPENAI_BASE_URL, OPENAI_API_KEY | | OpenCode | OpenAI /chat/completions | anyr opencode, or opencode.json provider | | Cursor | OpenAI-compatible custom model | Base URL + key pasted into settings | 无论组合如何,每个工具的请求都进同一余额、同一请求级审计日志、同一限流——不用每个 agent 单独开户。 ## 不离开终端就能换 Claude Code 用的模型 AnyRouter 上的 model id 是 provider/model 字符串,换任务用的模型是一个 flag,不是重写。便宜快改走一条路,难重构走另一条,同一会话里即可。 - 用自己的 key 走加价 $0——anyrouter/coding 把请求打到已配置 BYOK 里能写代码的那一批。 - 难题钉死模型——anyr claude --model "anthropic/claude-opus-4-8"。 - 接线前先看行为——在 /playground 现场试。 ![AnyRouter 模型详情页,展示单个模型的规格和定价](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _目录里每个模型都有自己的页——把 agent 指过去之前先看规格。_ ## 接下来看哪里 把兼容 OpenAI 或 Anthropic 的工具都转到一个账户——包括让各工具在用量分析里分开出现的 app-attribution 头——见 /blog/zh/coding-agents-one-gateway。用已经在付的供应商 key 转发,见 /blog/zh/byok-bring-your-own-keys。 - 完整 CLI 参考和 flag —— /cli。 - 端点和请求头参考 —— /docs。 - 接线前现场试模型 —— /playground。 把 Claude Code 指到 AnyRouter,一把 key 后面是全部模型。 [免费配置](https://anyrouter.dev/dashboard) --- # Chỉ Claude Code vào custom base URL > Claude Code đọc ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY, nên chỉ vào AnyRouter chỉ cần hai biến môi trường — không plugin, không fork. Cùng một key phía sau là cả catalog, failover khi nhà cung cấp bị rate-limit, và một audit log chung với Codex, Cursor và mọi agent khác. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/claude-code-through-one-gateway ## Làm sao chỉ Claude Code vào custom base URL? Claude Code đọc hai biến môi trường cho kết nối nhà cung cấp: ANTHROPIC_BASE_URL và ANTHROPIC_API_KEY. Đặt chúng thành endpoint AnyRouter và key AnyRouter, mọi request Claude Code tạo — phiên chính, subagent, tác vụ nền — đi qua tài khoản của bạn thay vì thẳng Anthropic. ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — setup tay, hai biến môi trường._ Việc này chạy vì Claude Code nói phương ngữ Anthropic /messages, và AnyRouter phục vụ cùng phương ngữ cho mọi model trong catalog — client không biết request đã rời hạ tầng của Anthropic. ## anyr CLI setup giúp bạn Không muốn tự quản biến môi trường, launcher anyr xử lý login, lưu key và môi trường một lệnh: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Pin a specific model for this session anyr claude --model "z-ai/glm-5.2" # Preview the environment without launching anyr claude --dry-run ``` Config lưu vào ~/.anyrouter/config.yaml và dùng lại — bởi claude, và mọi launcher khác CLI mang theo (codex, cursor). Mọi thứ sau -- chuyển thẳng cho Claude Code, flag cũ vẫn chạy (anyr claude -- --resume). ## Chạy Codex và Cursor trên cùng key Không chỉ Claude Code đáng route kiểu này. Codex và Cursor nói phương ngữ OpenAI, AnyRouter phục vụ cả hai từ cùng tài khoản — một key cho mọi agent bạn chạy. | Agent | Giao thức | Biến môi trường | | --- | --- | --- | | Claude Code | Anthropic /messages | ANTHROPIC_BASE_URL, ANTHROPIC_API_KEY | | Codex | OpenAI /chat/completions | OPENAI_BASE_URL, OPENAI_API_KEY | | OpenCode | OpenAI /chat/completions | anyr opencode, or opencode.json provider | | Cursor | OpenAI-compatible custom model | Base URL + key pasted into settings | Dù combo nào, request từ mọi tool vào cùng số dư, cùng audit log từng request, cùng rate limit — không tài khoản riêng từng agent. ## Đổi model Claude Code dùng mà không rời terminal Model id trên AnyRouter là chuỗi provider/model, nên đổi thứ Claude Code chạy cho một task là một flag, không phải viết lại. Sửa rẻ/nhanh một đường, refactor khó một đường, cùng phiên. - Route trên key của bạn markup $0 — anyrouter/coding gửi tới subset coding trong BYOK đã cấu hình. - Ghim model cho bài khó — anyr claude --model "anthropic/claude-opus-4-8". - Xem hành vi model trước khi nối — thử live ở /playground. ![Trang chi tiết model AnyRouter hiện spec và giá một model](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Mỗi model catalog có trang riêng — kiểm spec trước khi chỉ agent vào._ ## Đi tiếp từ đây Bức tranh rộng hơn khi route mọi tool tương thích OpenAI hoặc Anthropic qua một tài khoản — gồm header app-attribution để từng tool hiện riêng trong analytics — xem /blog/vi/coding-agents-one-gateway. Route trên key nhà cung cấp bạn đã trả, xem /blog/vi/byok-bring-your-own-keys. - Tham chiếu CLI đầy đủ và flag — /cli. - Endpoint và header — /docs. - Thử model live trước khi nối — /playground. Chỉ Claude Code vào AnyRouter, mọi model sau một key. [Setup miễn phí](https://anyrouter.dev/dashboard) --- # Use the OpenAI SDK with any model > The official openai package for Python and TypeScript doesn't have to mean OpenAI models. Override base_url and api_key, keep every other call the same, and address hundreds of models across many providers as provider/model strings — including OpenAI's own. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/openai-sdk-any-model ## Can I use the OpenAI SDK with models that aren't OpenAI's? Yes. The openai package, in Python or JS/TS, only needs two things overridden to talk to a different backend: base_url and api_key. Everything else — client.chat.completions.create, the streaming shape, the message format — is the same call whether the model behind it is GPT, Claude, Gemini, or something else entirely. AnyRouter implements that same OpenAI-compatible contract in front of hundreds of models across many providers, so the SDK you already have installed becomes a universal client instead of an OpenAI-only one. ## One client, either language Only two values change — the base URL and the key. Model choice moves into the model string itself: ### Python ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Explain base_url in one sentence"}], ) print(resp.choices[0].message.content) ``` ### TypeScript ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "google/gemini-2.5-pro", messages: [{ role: "user", content: "Explain base_url in one sentence" }], }) console.log(resp.choices[0].message.content) ``` Both snippets are the unmodified openai and openai-node packages — nothing installed beyond what an OpenAI integration already needs. ## Streaming and tool calls carry over unchanged Because the contract is the standard Chat Completions API, the parts of your code that already handle it don't need touching. Set stream=True and read deltas exactly as you would against OpenAI directly; function/tool-calling definitions pass through the same way. - Streaming — stream=True (Python) or stream: true (TypeScript), same delta shape. - Tool calling — the same tools array and tool_choice parameter. - Other dialects on the same key — /messages for Anthropic-style clients, /responses for the newer Responses API. ## Change the model, not the code Because every model is addressed as a provider/model string, switching what a request runs on is a config value: | Model id | Owner | | --- | --- | | openai/gpt-5.5 | OpenAI | | anthropic/claude-opus-4-8 | Anthropic | | google/gemini-2.5-pro | Google | | z-ai/glm-5.2 | Z.ai | ![AnyRouter model page listing a model's provider, context length, and pricing](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Every model id resolves to its own page with specs and upstream provider._ ## No lock-in either direction Since this is the real OpenAI API contract and not a proprietary wrapper, the same code points straight back at api.openai.com if you ever want to leave — nothing about the call shape is AnyRouter-specific. For the full catalog and failover behavior behind the endpoint, see /blog/one-api-every-llm. Keep the OpenAI SDK, reach hundreds of models across many providers. [Get a key free](https://anyrouter.dev/dashboard) --- # 用 OpenAI SDK 打任意模型 > 官方 openai 包(Python 和 TypeScript)不必只打 OpenAI 模型。覆盖 base_url 和 api_key,其余调用不变,用 provider/model 字符串寻址多家供应商的数百个模型——包括 OpenAI 自己的。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/openai-sdk-any-model ## OpenAI SDK 能打不是 OpenAI 的模型吗? 能。openai 包在 Python 或 JS/TS 里只要覆盖两件事就能换后端:base_url 和 api_key。其余——client.chat.completions.create、流式形状、消息格式——无论后面是 GPT、Claude、Gemini 还是别的,都是同一调用。 AnyRouter 在多家供应商的数百个模型前面实现同一套兼容 OpenAI 的契约,所以你已经装好的 SDK 变成通用客户端,而不只是 OpenAI。 ## 一个客户端,两种语言 只改两个值——base URL 和 key。模型选择进 model 字符串: ### Python ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Explain base_url in one sentence"}], ) print(resp.choices[0].message.content) ``` ### TypeScript ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "google/gemini-2.5-pro", messages: [{ role: "user", content: "Explain base_url in one sentence" }], }) console.log(resp.choices[0].message.content) ``` 两段都是未改过的 openai 和 openai-node——除了 OpenAI 集成本来就要装的东西,没有别的。 ## 流式和工具调用原样带过来 契约是标准 Chat Completions API,你已经处理这部分的代码不用动。设 stream=True,按打 OpenAI 的方式读 delta;函数/工具定义同样透传。 - 流式 —— stream=True(Python)或 stream: true(TypeScript),同一 delta 形状。 - 工具调用 —— 同一 tools 数组和 tool_choice 参数。 - 同一把 key 上的其他方言 —— Anthropic 风格客户端用 /messages,较新的 Responses API 用 /responses。 ## 改模型,不改代码 每个模型都是 provider/model 字符串,换跑什么是配置值: | Model id | Owner | | --- | --- | | openai/gpt-5.5 | OpenAI | | anthropic/claude-opus-4-8 | Anthropic | | google/gemini-2.5-pro | Google | | z-ai/glm-5.2 | Z.ai | ![AnyRouter 模型页列出供应商、上下文长度和定价](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _每个 model id 解析到自己的页,带规格和上游供应商。_ ## 两个方向都不锁死 这是真正的 OpenAI API 契约,不是私有封装,同一段代码随时可以指回 api.openai.com——调用形状没有任何 AnyRouter 特有部分。端点后面的完整目录和故障切换见 /blog/zh/one-api-every-llm。 留下 OpenAI SDK,打到多家供应商的数百个模型。 [免费拿一把 key](https://anyrouter.dev/dashboard) --- # Dùng OpenAI SDK với mọi model > Gói openai chính thức cho Python và TypeScript không bắt buộc model OpenAI. Ghi đè base_url và api_key, giữ mọi lời gọi khác, địa chỉ hàng trăm model trên nhiều nhà cung cấp bằng chuỗi provider/model — kể cả của OpenAI. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/openai-sdk-any-model ## OpenAI SDK dùng được model không phải của OpenAI? Được. Gói openai, Python hay JS/TS, chỉ cần ghi đè hai thứ để nói với backend khác: base_url và api_key. Phần còn lại — client.chat.completions.create, hình dạng stream, format message — cùng một lời gọi dù phía sau là GPT, Claude, Gemini, hay thứ khác. AnyRouter hiện cùng hợp đồng tương thích OpenAI trước hàng trăm model trên nhiều nhà cung cấp, nên SDK bạn đã cài thành client phổ quát, không chỉ OpenAI. ## Một client, hai ngôn ngữ Chỉ hai giá trị đổi — base URL và key. Chọn model nằm trong chuỗi model: ### Python ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Explain base_url in one sentence"}], ) print(resp.choices[0].message.content) ``` ### TypeScript ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "google/gemini-2.5-pro", messages: [{ role: "user", content: "Explain base_url in one sentence" }], }) console.log(resp.choices[0].message.content) ``` Cả hai snippet là gói openai và openai-node không sửa — không cài gì ngoài thứ tích hợp OpenAI đã cần. ## Stream và tool call giữ nguyên Vì hợp đồng là Chat Completions API chuẩn, phần code đã xử lý không cần đụng. Đặt stream=True và đọc delta như đánh OpenAI trực tiếp; định nghĩa function/tool đi xuyên cùng cách. - Streaming — stream=True (Python) hoặc stream: true (TypeScript), cùng hình delta. - Tool calling — cùng mảng tools và tham số tool_choice. - Phương ngữ khác trên cùng key — /messages cho client kiểu Anthropic, /responses cho Responses API mới hơn. ## Đổi model, không đổi code Mọi model địa chỉ bằng chuỗi provider/model, đổi thứ request chạy là giá trị config: | Model id | Owner | | --- | --- | | openai/gpt-5.5 | OpenAI | | anthropic/claude-opus-4-8 | Anthropic | | google/gemini-2.5-pro | Google | | z-ai/glm-5.2 | Z.ai | ![Trang model AnyRouter liệt kê nhà cung cấp, context length và giá](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Mỗi model id resolve tới trang riêng với spec và upstream._ ## Không lock-in hai hướng Đây là hợp đồng OpenAI API thật, không wrapper độc quyền, cùng code chỉ thẳng về api.openai.com nếu muốn rời — hình lời gọi không đặc thù AnyRouter. Catalog đầy đủ và failover sau endpoint: /blog/vi/one-api-every-llm. Giữ OpenAI SDK, tới hàng trăm model trên nhiều nhà cung cấp. [Lấy key miễn phí](https://anyrouter.dev/dashboard) --- # Cheapest LLM API: how to actually shop for cost per token > The cheapest LLM API isn't the one with the lowest sticker price — it's the one with no markup added on top of it, a free tier that covers real usage, and a path to route on provider keys you already pay for. Here's how to actually compare cost instead of a headline number. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/cheapest-llm-api ## What actually makes an LLM API 'cheapest'? Comparing LLM APIs on price usually means comparing the provider's own per-token rate. That's only one input. The number that lands on your invoice is the provider's rate, plus whatever the gateway in front of it adds, minus whatever you get for free before any of that even applies. - The provider's list price — set by OpenAI, Anthropic, Google, and so on; a gateway doesn't control this. - The markup a gateway adds on top of that price for pay-as-you-go traffic. - Whether a free tier or Go credit covers your usage before markup applies at all. - Whether you can route the same request on a key you already pay the provider for directly. Everything below comes down to which of those four levers you can actually pull. ## Zero markup: route on a key you already have The biggest lever is the second one — markup — and the way to remove it entirely is BYOK. Attach a provider key you already pay for and AnyRouter charges nothing on top: no per-request fee, no surcharge, no minimum, across 60+ supported providers. You pay the provider's own rate, full stop. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/byok", "messages": [{ "role": "user", "content": "Hello" }] }' ``` _anyrouter/byok routes to any model your own keys can reach, at $0 markup._ If a BYOK key runs dry mid-project, the request can fall through to pay-as-you-go credits automatically — a burned key stops the work from failing, it just stops that particular call from being free. ## Start at $0 before you start paying anything Before markup even enters the picture, there's a free tier: anyrouter/free routes to healthy free-tier capacity on Go and up, with no daily limit and no credit spend. The only cap is per account, per minute: 150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max. Go ($2/mo) also adds credit for paid models. Pro ($10/mo), Pro+ ($45/mo), and Max ($100/mo) raise the rolling rate-limit window as usage grows. | Plan | Price | What it covers | | --- | --- | --- | | Free plan | $0 | BYOK and pay-as-you-go credits; a 5-request lifetime trial on free models, which then need Go | | Go | $2/mo | $4 monthly credit for paid models + shared-Pool access | | Pro | $10/mo | $20 monthly credit + higher rolling rate limits | | Pro+ | $45/mo | $100 monthly credit + highest rolling rate limits | | Max | $100/mo | $300 monthly credit + highest rolling rate limits | Whichever plan you're on, BYOK traffic never touches these credits — it's a separate, always-free path. ## Donate idle quota, earn credits back There's a fourth lever most people miss: if a provider key isn't using its full rate limit, donate the spare capacity to the shared pool. Every request the pool routes through your key returns 8% of that request's notional token cost to your AnyRouter balance, and donating one working key also makes Go free — you skip the $2/mo entirely. ![AnyRouter shared key pool dashboard showing donated keys and credits earned](https://anyrouter.dev/screenshots/shared-key-pool-with-bg.png) _Donated keys route spare capacity to other users and pay 8% back automatically._ Read the full mechanics at /blog/shared-key-pool, or go straight to /donate to add a key. ## Compare live, not from a blog post Per-token prices change as providers update their rates, so the honest way to shop is current numbers on /models rather than a figure printed here. What doesn't change is the structure: no markup on BYOK, a free tier with no daily cap, and a $2/mo Go plan if you want paid-model credit. - Browse current per-model pricing — /models. - Try a model before committing — /playground. - Connect a key you already pay for — /byok. Route on your own keys at $0 markup, or call anyrouter/free on Go and higher. [Set it up free](https://anyrouter.dev/dashboard) --- # 最便宜的 LLM API:怎么真正按 token 成本比价 > 最便宜的 LLM API 不是标价最低的那家——而是上面不加价、免费档能覆盖真实用量、还能用你已经在付的供应商 key 转发。下面讲怎么比成本,而不是比一个标题数字。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/cheapest-llm-api ## 什么才让 LLM API「最便宜」? 按价格比 LLM API,通常是在比供应商自己的每 token 价。那只是一个输入。落到账单上的数字是供应商价,加上前面网关加的,再减去在那之前免费拿到的。 - 供应商标价——OpenAI、Anthropic、Google 等定的;网关管不了。 - 网关在按量流量上加的加价。 - 免费档或 Go 额度是否在加价生效前就盖住用量。 - 同一请求能否走你已经直接付给供应商的 key。 下面都落在这四根杠杆你实际能扳哪几根。 ## 零加价:走你已经有的 key 最大杠杆是第二根——加价——整根拔掉的办法是 BYOK。接上你已经在付的供应商 key,AnyRouter 上面一分不加:没有按次费、没有附加费、没有起步量,覆盖 60+ 家支持的供应商。你付供应商自己的价,到此为止。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/byok", "messages": [{ "role": "user", "content": "Hello" }] }' ``` _anyrouter/byok 打到你自己的 key 能到的任何模型,加价 $0。_ 如果 BYOK key 做到一半耗尽,请求可以自动落到按量额度——烧掉的 key 不会让工作失败,只是那一次不再免费。 ## 开始付钱之前先停在 $0 加价还没上场时,有免费档:anyrouter/free 在 Go 及以上套餐转到健康的免费档容量,没有每日上限,不花额度(Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次,按账户计)。Pro($10/月)、Pro+($45/月)、Max($100/月)随用量抬滚动限流窗口。 | 套餐 | 价格 | 覆盖什么 | | --- | --- | --- | | Free plan | $0 | BYOK 和按量付费额度;免费模型有 5 次终身试用请求,之后需要 Go | | Go | $2/mo | $4 monthly credit + free models, no daily limit | | Pro | $10/mo | $20 monthly credit + higher rolling rate limits | | Pro+ | $45/mo | $100 monthly credit + highest rolling rate limits | | Max | $100/mo | $300 monthly credit + highest rolling rate limits | 无论哪档,BYOK 流量从不碰这些额度——那是另一条永远免费的路。 ## 捐闲置配额,把额度赚回来 多数人漏掉第四根杠杆:供应商 key 没用满限流时,把闲余捐进共享池。池子经你的 key 走的每次请求,把该请求名义 token 成本的 8% 记回 AnyRouter 余额;捐一把还能用的 key 也让 Go 免费——跳过每月 $2。 ![AnyRouter 共享 key 池控制台,显示捐出的 key 和赚到的额度](https://anyrouter.dev/screenshots/shared-key-pool-with-bg.png) _捐出的 key 把闲余容量转给其他人,并自动返还 8%。_ 完整机制见 /blog/zh/shared-key-pool,或直接去 /donate 加一把 key。 ## 现场比价,别信一篇博客里的数字 每 token 价会随供应商调价而变,诚实的买法是看 /models 上的当前数字,而不是印在这里的数字。不变的是结构:BYOK 不加价、免费档从 Go 起可用(Free 有 5 次试用请求)、需要付费模型的额度就走入门套餐 Go。 - 浏览当前每模型定价 —— /models。 - 承诺前先试模型 —— /playground。 - 接上你已经在付的 key —— /byok。 用自己的 key 走加价 $0,或直接用 anyrouter/free,Free 套餐也可以。 [免费配置](https://anyrouter.dev/dashboard) --- # LLM API rẻ nhất: so chi phí từng token cho đúng > LLM API rẻ nhất không phải cái dán giá thấp nhất — mà là cái không cộng markup, free tier cover được lượng dùng thật, và có đường route trên key nhà cung cấp bạn đã trả. Đây là cách so chi phí, không so số headline. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/cheapest-llm-api ## Cái gì khiến LLM API 'rẻ nhất'? So LLM API theo giá thường là so đơn giá từng token của nhà cung cấp. Đó chỉ một đầu vào. Số lên hóa đơn là giá nhà cung cấp, cộng thứ gateway phía trước thêm, trừ thứ bạn nhận miễn phí trước khi markup áp. - Giá niêm yết nhà cung cấp — OpenAI, Anthropic, Google, v.v.; gateway không kiểm soát. - Markup gateway cộng lên traffic trả theo lượng dùng. - Free tier hoặc credit Go có cover lượng dùng trước khi markup áp hay không. - Cùng request có route trên key bạn đã trả thẳng nhà cung cấp hay không. Phần dưới gom về bốn đòn bẩy bạn thật sự kéo được. ## Markup zero: route trên key bạn đã có Đòn lớn nhất là cái thứ hai — markup — và cách gỡ hết là BYOK. Gắn key nhà cung cấp bạn đã trả, AnyRouter không cộng gì: không phí từng request, không phụ phí, không minimum, trên 60+ nhà cung cấp hỗ trợ. Bạn trả đúng giá nhà cung cấp, hết. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/byok", "messages": [{ "role": "user", "content": "Hello" }] }' ``` _anyrouter/byok route tới mọi model key của bạn với tới, markup $0._ Nếu BYOK cạn giữa dự án, request có thể rơi xuống credit trả theo lượng dùng tự động — key cháy không làm việc thất bại, chỉ lần đó không còn miễn phí. ## Ở $0 trước khi trả bất cứ gì Trước khi markup vào cuộc, có free tier: anyrouter/free route tới dung lượng free-tier khỏe trên Go trở lên, không trần theo ngày (150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản), không tiêu credit. Pro ($10/tháng), Pro+ ($45/tháng), Max ($100/tháng) nâng cửa sổ rate-limit lăn khi lượng dùng lớn. | Gói | Giá | Cover gì | | --- | --- | --- | | Free plan | $0 | BYOK và credit trả theo lượng; model miễn phí cần Go; model trả phí trả 402 cho tới khi có credit | | Go | $2/mo | $4 credit mỗi tháng cho model trả phí; model miễn phí 150 req/phút mỗi tài khoản | | Pro | $10/mo | $20 monthly credit + higher rolling rate limits | | Pro+ | $45/mo | $100 monthly credit + highest rolling rate limits | | Max | $100/mo | $300 monthly credit + highest rolling rate limits | Dù gói nào, traffic BYOK không đụng credit này — đó là đường luôn miễn phí, tách biệt. ## Góp quota nhàn, nhận credit lại Đòn thứ tư nhiều người bỏ: nếu key nhà cung cấp chưa dùng hết rate limit, góp dung lượng dư vào pool dùng chung. Mỗi request pool đi qua key trả 8% chi phí token danh nghĩa về số dư AnyRouter, và góp một key còn chạy cũng làm Go miễn phí — bỏ hẳn $2/tháng. ![Dashboard pool key dùng chung AnyRouter hiện key đã góp và credit kiếm được](https://anyrouter.dev/screenshots/shared-key-pool-with-bg.png) _Key góp route dung lượng dư cho người khác và tự trả 8%._ Cơ chế đầy đủ tại /blog/vi/shared-key-pool, hoặc thẳng /donate để thêm key. ## So live, đừng so số in blog Giá từng token đổi khi nhà cung cấp cập nhật, nên cách mua trung thực là số hiện tại trên /models chứ không phải con số in ở đây. Cái không đổi là cấu trúc: không markup trên BYOK, free tier từ gói Go trở lên (Free có 5 yêu cầu dùng thử), và gói Go trả phí nếu cần nhiều hơn. - Xem giá từng model hiện tại — /models. - Thử model trước khi cam kết — /playground. - Nối key bạn đã trả — /byok. Route trên key của bạn markup $0, hoặc mở anyrouter/free trên Go. [Setup miễn phí](https://anyrouter.dev/dashboard) --- # Free LLM API access for students and side projects > You don't need a company card to build with real models. Between a no-spend free tier, a $2/mo plan if you outgrow it, and routing on free-tier keys you may already have from providers like Google AI Studio, there's a durable way to stay at $0 while a class project or side hustle is still finding its shape. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/free-llm-api-for-students ## What should a free LLM API actually give a student project? A student budget usually means no company card and no appetite for a trial that quietly expires. What matters is three things: models good enough to actually ship something with, a standard API so the code isn't thrown away later, and a way to stay at $0 that doesn't have a hard deadline. AnyRouter covers all three the same way it does for any account — the free path isn't a stripped-down mode, it's the same OpenAI-compatible endpoint and the same catalog, just with free models instead of a card. ## Start with anyrouter/free — Go and up, no credit spend anyrouter/free routes to healthy free-tier capacity on Go and higher, with no daily limit and no credit required. A Go plan is free when you donate one working key, and the Free plan gets a 5-request lifetime trial. It's the fastest way to wire a class project or prototype to a real model before deciding whether it's worth paying for tokens. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{ "role": "user", "content": "Summarize this in one sentence" }] }' ``` _The free tier is a normal chat completions call — point the model id at anyrouter/free._ Because it's the same endpoint as every paid model, nothing about this code changes later if the project outgrows the free models. ## When the free tier is not enough A side project that starts getting real use will outgrow free models alone. Go is $2/mo — a $4 credit added to your balance automatically (roughly 16M tokens on fast models) on top of the free-tier models. If usage keeps growing from there, Pro ($10/mo), Pro+ ($45/mo), and Max ($100/mo) raise the rolling rate-limit window. | Plan | Price | What changes | | --- | --- | --- | | Free plan | $0 | BYOK and pay-as-you-go credits; a 5-request lifetime trial on free models, which then need Go | | Go | $2/mo | $4 monthly credit for paid models | | Pro | $10/mo | + $20 credit, higher rolling rate limits | | Pro+ | $45/mo | + $100 credit, highest rolling rate limits | | Max | $100/mo | + $300 credit, highest rolling rate limits | ## Already have a free provider account? Route it instead of paying twice Students often already hold free-tier keys from a class assignment or a personal project — Google AI Studio's Gemini free tier is a common one. BYOK lets you attach that key and route through it at $0 markup, so a key you're not fully using pays for itself instead of sitting idle. Go further and donate the spare capacity on that key to the shared pool: every request the pool serves through it adds up to 8% of the request's cost to a pending balance you can claim as credits, and donating one working key also makes the $2/mo Go plan free for as long as it stays active. ![AnyRouter free models tier shown in the dashboard](https://anyrouter.dev/screenshots/free-models-with-bg.png) _The free tier and BYOK sit side by side in the same dashboard as paid usage._ ## Build on the endpoint you'll still be using later The point of using a standard, OpenAI-compatible endpoint from day one is that a class project, hackathon entry, or early side hustle doesn't need a rewrite if it turns into something real — the same base URL and key that served free-tier requests scale to a catalog of hundreds of models without touching the client code. - Start with anyrouter/free on Go (free with one donated key), no daily limit. - Attach a free-tier provider key you already have — /byok. - Read the endpoint reference before you build — /docs. A free LLM API that doesn't need a rewrite when your project grows. [Set it up free](https://anyrouter.dev/dashboard) --- # 给学生和 side project 的免费 LLM API > 用真模型做东西不必先有公司卡。在不花 credit 的免费档、$2/月(用量涨了再升)以及把你可能已有的供应商免费档 key(例如 Google AI Studio)接进来之间,有一条能在课堂项目或副业还在成形时把花费留在 $0 的路。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/free-llm-api-for-students ## 给学生项目的免费 LLM API 到底该给什么? 学生预算通常意味着没有公司卡,也不想要悄悄过期的试用。要紧的是三件事:模型好到真能做出东西、标准 API 让代码以后不用扔、以及一条没有硬截止日期的 $0 路径。 AnyRouter 对每个账号都用同样方式覆盖这三点——免费路径不是阉割模式,是同一套兼容 OpenAI 的端点和同一份目录,只是用免费档而不是卡来把门。 ## 从 anyrouter/free 开始 — Go 及以上,不花 credit anyrouter/free 在 Go 及以上套餐路由到健康的免费档容量,没有每日上限,不需要 credit(Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次,按账户计)。这是把课堂项目或原型接到真模型上最快的办法,再决定值不值得为 token 付钱。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{ "role": "user", "content": "Summarize this in one sentence" }] }' ``` _The free tier is a normal chat completions call — point the model id at anyrouter/free._ 因为它和每个付费模型是同一个端点,项目以后要换成付费模型时,这段代码不用改。 ## 需要付费模型时 开始有真实用量的 side project 迟早要用付费模型。Go 是 $2/月——自动往余额加 $4 credit(在快模型上大约 16M token)用于付费模型,免费档模型不需要它。用量再涨,Pro($10/月)、Pro+($45/月)和 Max($100/月)会提高滚动限流窗口。 | 套餐 | 价格 | 变化 | | --- | --- | --- | | Free plan | $0 | BYOK 和按量付费额度;免费模型有 5 次终身试用请求,之后需要 Go;付费模型返回 402 | | Go | $2/mo | $4 credit 用于付费模型;anyrouter/free 同样可用 | | Pro | $10/mo | + $20 credit,更高滚动限流 | | Pro+ | $45/mo | + $100 credit,最高滚动限流 | | Max | $100/mo | + $300 credit,最高滚动限流 | ## 已经有免费供应商账号?接进来,别付两遍 学生常常已经有课堂作业或个人项目留下的免费档 key——Google AI Studio 的 Gemini 免费档很常见。BYOK 让你挂上那把 key,以 $0 加价经它路由,闲着的额度自己养活自己。 再进一步,把那把 key 上的闲置容量捐进共享池:池子经它发出的每次请求,最多把该请求成本的 8% 加进你可领取的待入账余额;捐一把还能用的 key,也会在它保持活跃期间让 $2/月的 Go 套餐免费。 ![AnyRouter free models tier shown in the dashboard](https://anyrouter.dev/screenshots/free-models-with-bg.png) _免费档和 BYOK 与付费用量并排出现在同一个 dashboard。_ ## 从第一天就建在你以后还会用的端点上 从第一天用标准、兼容 OpenAI 的端点,是为了课堂项目、黑客马拉松作品或早期副业变成真东西时不必重写——服务免费档请求的同一 base URL 和 key,可以扩到数百个模型的目录,不用动客户端代码。 - 从 anyrouter/free 开始——Go 及以上可用(捐一把 key 即得 Go),没有每日上限;需要付费模型再上 Go($2/月,或捐一把 key)。 - 挂上你已有的免费档供应商 key — /byok。 - 动手前先读端点参考 — /docs。 一份项目长大时不必重写的免费 LLM API。 [免费配好](https://anyrouter.dev/dashboard) --- # API LLM miễn phí cho sinh viên và side project > Bạn không cần thẻ công ty để dựng với mô hình thật. Giữa free tier không tiêu credit, gói $2/tháng nếu vượt, và route trên key free-tier bạn có thể đã có từ nhà như Google AI Studio, có cách bền để ở $0 trong lúc bài lớp hoặc side hustle còn đang định hình. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/free-llm-api-for-students ## API LLM miễn phí thực sự nên cho dự án sinh viên gì? Ngân sách sinh viên thường nghĩa không thẻ công ty và không muốn trial lặng lẽ hết hạn. Ba thứ quan trọng: mô hình đủ tốt để ship thứ gì đó, API chuẩn nên code không bị vứt sau, và cách ở $0 không có deadline cứng. AnyRouter phủ cả ba giống mọi tài khoản — đường miễn phí không phải chế độ cắt xén, cùng endpoint tương thích OpenAI và cùng catalog, chỉ gate bằng giới hạn theo phút thay vì thẻ. ## Bắt đầu với anyrouter/free — từ gói Go, không tiêu credit anyrouter/free route tới capacity free-tier khỏe trên Go trở lên, không trần theo ngày (chỉ giới hạn theo phút mỗi tài khoản: 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max) và không cần credit. Đó là cách nhanh nhất nối bài lớp hoặc prototype vào mô hình thật trước khi quyết có đáng trả token. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{ "role": "user", "content": "Summarize this in one sentence" }] }' ``` _The free tier is a normal chat completions call — point the model id at anyrouter/free._ Vì cùng endpoint với mọi mô hình trả phí, không gì trong code này đổi sau nếu dự án chuyển sang model trả phí. ## Khi cần model trả phí Side project bắt đầu có người dùng thật thường cần model mạnh hơn mô hình miễn phí. Go là $2/tháng — credit $4 cộng vào số dư tự động (khoảng 16M token trên mô hình nhanh) để gọi model trả phí; mô hình free-tier dùng được từ gói Go trở lên (Free có 5 yêu cầu dùng thử). Usage tiếp tục tăng thì Pro ($10/tháng), Pro+ ($45/tháng), và Max ($100/tháng) nâng cửa sổ rate-limit rolling. | Gói | Giá | Thay đổi gì | | --- | --- | --- | | Free plan | $0 | BYOK và credit trả theo lượng; model miễn phí cần Go; model trả phí trả 402 cho tới khi có credit | | Go | $2/mo | Model miễn phí 150 req/phút mỗi tài khoản + credit $4/tháng cho model trả phí | | Pro | $10/mo | + credit $20, rate limit rolling cao hơn | | Pro+ | $45/mo | + credit $100, rate limit rolling cao nhất | | Max | $100/mo | + credit $300, rate limit rolling cao nhất | ## Đã có tài khoản nhà cung cấp miễn phí? Route nó thay vì trả hai lần Sinh viên thường đã giữ key free-tier từ bài lớp hoặc dự án cá nhân — Gemini free tier của Google AI Studio là một ví dụ phổ biến. BYOK cho gắn key đó và route qua với markup $0, nên key bạn chưa dùng hết tự trả cho mình thay vì nằm idle. Đi xa hơn và góp capacity dư trên key đó vào pool dùng chung: mỗi request pool phục vụ qua nó cộng tối đa 8% chi phí request vào số dư đang chờ bạn claim thành credit, và góp một key còn chạy cũng làm gói Go $2/tháng miễn phí chừng nào key còn active. ![AnyRouter free models tier shown in the dashboard](https://anyrouter.dev/screenshots/free-models-with-bg.png) _Free tier và BYOK nằm cạnh nhau trên cùng dashboard với usage trả phí._ ## Dựng trên endpoint bạn vẫn sẽ dùng sau này Điểm của endpoint chuẩn tương thích OpenAI từ ngày một là bài lớp, hackathon, hoặc side hustle sớm không cần viết lại nếu nó thành thứ thật — cùng base URL và key phục vụ request free-tier scale tới catalog hàng trăm mô hình mà không đụng client code. - Bắt đầu miễn phí với anyrouter/free trên gói Free; thêm Go ($2/tháng hoặc góp key) khi cần credit cho model trả phí. - Gắn key nhà cung cấp free-tier bạn đã có — /byok. - Đọc tham chiếu endpoint trước khi dựng — /docs. API LLM miễn phí không cần viết lại khi dự án lớn. [Thiết lập miễn phí](https://anyrouter.dev/dashboard) --- # MCP servers for AI agents: what they are and how to connect one > An MCP server lets an AI agent call a workspace's tools — keys, credits, models, status — over one standard interface instead of custom glue code per service. Here's what MCP is and how to connect AnyRouter's managed MCP server to Claude Desktop, Claude Code, Cursor, or your own agent. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/mcp-servers-for-ai-agents ## What is an MCP server? The Model Context Protocol (MCP) is a standard that lets an AI agent call external tools and resources over one common interface, instead of every agent needing hand-written glue code for every service it talks to. A client — Claude Desktop, Claude Code, Cursor, OpenCode, or a custom agent — connects to an MCP server and gets back a catalog of callable tools, each with a name, a description, and a schema. The agent decides when to call one; the server does the work and returns a result. AnyRouter runs one such server that exposes your workspace — models, keys, presets, credits, conversations, and system status — as JSON-RPC tools. Instead of scripting a call to check your balance or list models, your assistant calls a tool directly over one stable endpoint: ```bash https://anyrouter.dev/api/v1/mcp ``` _The single endpoint any MCP client connects to._ It speaks JSON-RPC 2.0 over the Streamable HTTP transport, so any standard MCP client points at it without custom code. ## What tools can an agent call? The server surfaces a small, scoped tool catalog — enough for an agent to manage the workspace on your behalf without ever seeing your account password or full API surface: | Tool | Purpose | Scope | | --- | --- | --- | | list_models | Search the model catalog | None | | get_credits | Balance and lifetime usage | read:credits | | list_keys / create_key / revoke_key | Manage LLM API keys | read/write:llm-keys | | list_presets | List workspace presets | read:presets | | list_conversations | Search workspace conversations | read:llm-keys | | get_system_status | Health snapshot across API, providers, smoke tests | None | There's no chat tool in the catalog on purpose — inference stays on the Chat Completions, Messages, or Responses endpoints, so an agent calling MCP tools and an agent calling the model share the same account without the MCP layer sitting in the token path. ## Connect a client in one step Point your MCP client at the endpoint and authenticate once. Most desktop clients read a small JSON config block; the shape below works for Claude Desktop-style clients that support the Streamable HTTP transport: ```json { "mcpServers": { "anyrouter": { "url": "https://anyrouter.dev/api/v1/mcp", "headers": { "Authorization": "Bearer ak_your_management_key" } } } } ``` _Example MCP client config pointing at AnyRouter._ Authentication is an OAuth 2.1 bearer token, or a static key: an LLM key (`sk-ar-v1-…`, which grants `list_models` only) or a management key (`ak_…`) carrying whatever scopes the tools you call require. Full client-by-client setup for Claude Desktop, Claude Code, Cursor, and OpenCode lives at /docs/api-reference/mcp. ## Managed access, not per-client config files On the OAuth consent screen, the user picks one scope bundle — Read-only, Standard, or Full — and can downgrade from what a client requests; a tool call outside the granted bundle returns a permission-denied error instead of silently succeeding. The dashboard's MCP Gateway tab is where this is managed day to day: connect clients, see which tools are exposed to which client, and read the same audit trail you already use for inference — so adding or revoking a tool doesn't mean re-editing every client's config file by hand. ![AnyRouter dashboard playground showing a chat session tied to the same workspace an MCP client can manage.](https://anyrouter.dev/screenshots/playground-dark-with-bg.png) _The same workspace — keys, credits, models — that MCP tools read and write._ ## MCP manages the workspace; inference still goes through the API An agent that has connected to the MCP server for account management still calls the model through the standard, OpenAI-compatible surface — same key, same base URL: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _Standard OpenAI SDK call — unrelated to the MCP connection, same account._ That separation is deliberate: MCP tools are for managing the workspace an agent operates in, not for routing tokens through an extra hop. Connect the AnyRouter MCP server to Claude Desktop, Cursor, or Claude Code — free. [Get a key free](https://anyrouter.dev/dashboard) --- # 给 AI agent 用的 MCP 服务器:是什么、怎么连 > MCP 服务器让 AI agent 经一套标准接口调用工作区工具——key、额度、模型、状态——而不是每个服务手写胶水。MCP 是什么,以及如何把 AnyRouter 托管的 MCP 服务器接到 Claude Desktop、Claude Code、Cursor 或你自己的 agent。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/mcp-servers-for-ai-agents ## 什么是 MCP 服务器? Model Context Protocol(MCP)是一套标准,让 AI agent 经同一接口调用外部工具和资源,而不是每个 agent 为每个服务手写胶水。客户端——Claude Desktop、Claude Code、Cursor、OpenCode,或自定义 agent——连上 MCP 服务器,拿到可调用工具目录,每项有名称、描述和 schema。Agent 决定何时调用;服务器做事并返回结果。 AnyRouter 跑这样一台服务器,把工作区——模型、key、预设、额度、会话、系统状态——暴露成 JSON-RPC 工具。不必脚本查余额或列模型,助手经一个稳定端点直接调工具: ```bash https://anyrouter.dev/api/v1/mcp ``` _任何 MCP 客户端都连这个端点。_ 它在 Streamable HTTP 传输上说 JSON-RPC 2.0,标准 MCP 客户端指过去即可,不用定制代码。 ## Agent 能调哪些工具? 服务器露出一份小而有范围的工具目录——够 agent 代管工作区,又看不到账户密码或整套 API: | Tool | 用途 | Scope | | --- | --- | --- | | list_models | 搜索模型目录 | None | | get_credits | 余额和累计用量 | read:credits | | list_keys / create_key / revoke_key | 管理 LLM API key | read/write:llm-keys | | list_presets | 列出工作区预设 | read:presets | | list_conversations | 搜索工作区会话 | read:llm-keys | | get_system_status | API、供应商、冒烟测试的健康快照 | None | 目录里故意没有 chat 工具——推理走 Chat Completions、Messages 或 Responses,所以调 MCP 的 agent 和调模型的 agent 共用同一账户,MCP 层不坐在 token 路径上。 ## 一步接上客户端 把 MCP 客户端指到端点,鉴权一次。多数桌面客户端读一小块 JSON;下面形状适用于支持 Streamable HTTP 的 Claude Desktop 风格客户端: ```json { "mcpServers": { "anyrouter": { "url": "https://anyrouter.dev/api/v1/mcp", "headers": { "Authorization": "Bearer ak_your_management_key" } } } } ``` _指向 AnyRouter 的 MCP 客户端配置示例。_ 鉴权是 OAuth 2.1 bearer token,或一把静态 key:LLM key(`sk-ar-v1-…`,只给 `list_models`)或带所需 scope 的管理 key(`ak_…`)。Claude Desktop、Claude Code、Cursor 和 OpenCode 的逐客户端设置在 /docs/api-reference/mcp。 ## 托管访问,不是每个客户端一份配置文件 OAuth 同意屏上用户选一包 scope——只读、标准或完整——并可以从客户端请求的范围降级;超出已授权包的工具调用返回 permission-denied,而不是默默成功。控制台 MCP Gateway 页是日常管理处:接客户端、看哪些工具暴露给哪个客户端,读你已经用于推理的同一审计轨迹——加或撤工具不必手改每个客户端配置文件。 ![AnyRouter 控制台 playground,聊天会话绑在 MCP 客户端也能管理的同一工作区。](https://anyrouter.dev/screenshots/playground-dark-with-bg.png) _同一工作区——key、额度、模型——MCP 工具读写的就是这些。_ ## MCP 管工作区;推理仍走 API 为管账户而连上 MCP 服务器的 agent,仍通过标准、兼容 OpenAI 的表面调模型——同一把 key、同一个 base URL: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _标准 OpenAI SDK 调用——与 MCP 连接无关,同一账户。_ 这种拆分是故意的:MCP 工具用来管理 agent 所在工作区,不是给 token 再加一跳。 把 AnyRouter MCP 服务器接到 Claude Desktop、Cursor 或 Claude Code——免费。 [免费拿一把 key](https://anyrouter.dev/dashboard) --- # MCP server cho AI agent: chúng là gì và cách kết nối một cái > MCP server cho AI agent gọi tool của workspace — key, credit, model, trạng thái — trên một giao diện chuẩn thay vì glue code tùy biến mỗi dịch vụ. MCP là gì và cách nối MCP server được quản lý của AnyRouter vào Claude Desktop, Claude Code, Cursor, hoặc agent của bạn. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/mcp-servers-for-ai-agents ## MCP server là gì? Model Context Protocol (MCP) là chuẩn để AI agent gọi tool và resource bên ngoài trên một giao diện chung, thay vì mỗi agent tự viết glue cho mỗi dịch vụ. Client — Claude Desktop, Claude Code, Cursor, OpenCode, hoặc agent tùy chỉnh — kết nối MCP server và nhận catalog tool gọi được, mỗi cái có tên, mô tả, và schema. Agent quyết định khi nào gọi; server làm việc và trả kết quả. AnyRouter chạy một server như vậy, lộ workspace — model, key, preset, credit, hội thoại, và trạng thái hệ thống — thành tool JSON-RPC. Thay vì script kiểm số dư hay liệt kê model, assistant gọi tool trực tiếp trên một endpoint ổn định: ```bash https://anyrouter.dev/api/v1/mcp ``` _Endpoint duy nhất mọi MCP client kết nối._ Nó nói JSON-RPC 2.0 trên transport Streamable HTTP, nên MCP client chuẩn chỉ vào đó, không cần code tùy biến. ## Agent gọi được những tool nào? Server lộ catalog tool nhỏ, có scope — đủ để agent quản workspace thay bạn mà không thấy mật khẩu tài khoản hay toàn bộ bề mặt API: | Tool | Mục đích | Scope | | --- | --- | --- | | list_models | Tìm catalog model | None | | get_credits | Số dư và usage trọn đời | read:credits | | list_keys / create_key / revoke_key | Quản key LLM API | read/write:llm-keys | | list_presets | Liệt kê preset workspace | read:presets | | list_conversations | Tìm hội thoại workspace | read:llm-keys | | get_system_status | Snapshot sức khỏe API, nhà cung cấp, smoke test | None | Không có chat tool trong catalog là cố ý — inference ở Chat Completions, Messages, hoặc Responses, nên agent gọi MCP và agent gọi model chia cùng tài khoản mà MCP không nằm trên đường token. ## Kết nối client một bước Chỉ MCP client vào endpoint và xác thực một lần. Hầu hết client desktop đọc một khối JSON nhỏ; hình dưới chạy với client kiểu Claude Desktop hỗ trợ Streamable HTTP: ```json { "mcpServers": { "anyrouter": { "url": "https://anyrouter.dev/api/v1/mcp", "headers": { "Authorization": "Bearer ak_your_management_key" } } } } ``` _Ví dụ config MCP client chỉ vào AnyRouter._ Xác thực là OAuth 2.1 bearer token, hoặc key tĩnh: LLM key (`sk-ar-v1-…`, chỉ cấp `list_models`) hoặc management key (`ak_…`) mang scope mà tool bạn gọi cần. Setup từng client cho Claude Desktop, Claude Code, Cursor và OpenCode nằm ở /docs/api-reference/mcp. ## Truy cập được quản lý, không phải file config từng client Trên màn hình OAuth consent, user chọn một gói scope — Read-only, Standard, hoặc Full — và có thể hạ thấp hơn client yêu cầu; lời gọi tool ngoài gói đã cấp trả lỗi permission-denied thay vì thành công im lặng. Tab MCP Gateway trên dashboard là nơi quản lý hàng ngày: kết nối client, xem tool nào lộ cho client nào, và đọc cùng audit trail bạn đã dùng cho inference — thêm hoặc thu hồi tool không nghĩa là sửa tay mọi file config client. ![Playground dashboard AnyRouter hiện phiên chat gắn cùng workspace mà MCP client quản lý được.](https://anyrouter.dev/screenshots/playground-dark-with-bg.png) _Cùng workspace — key, credit, model — mà MCP tool đọc và ghi._ ## MCP quản workspace; inference vẫn đi qua API Agent đã nối MCP server để quản tài khoản vẫn gọi model qua bề mặt chuẩn tương thích OpenAI — cùng key, cùng base URL: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _Lời gọi OpenAI SDK chuẩn — không liên quan kết nối MCP, cùng tài khoản._ Tách biệt đó là cố ý: MCP tool để quản workspace agent vận hành, không để route token thêm một hop. Nối AnyRouter MCP server với Claude Desktop, Cursor, hoặc Claude Code — miễn phí. [Lấy key miễn phí](https://anyrouter.dev/dashboard) --- # Calling providers directly vs. routing through one gateway > Call OpenAI, Anthropic, and every other provider directly and you manage a key, an SDK, and an audit trail per provider. Route the same calls through one gateway and you manage one of each — at the cost of an extra hop. Here's the honest trade-off on auth, SDKs, failover, billing, audit logs, and switching cost. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/direct-provider-vs-gateway ## Two ways to call an LLM There are two honest ways to reach a model API: call the provider directly with their SDK and their key, or route the request through a gateway that sits in front of many providers behind one contract. Neither is wrong — they trade off differently depending on how many providers you actually use and what you need beyond a single request-response. Direct calls are simpler when you only ever use one provider. A gateway earns its keep once you're juggling more than one — different SDKs, different keys, different dashboards for cost and latency. ## Direct vs. gateway, side by side | Dimension | Direct to each provider | Through one gateway | | --- | --- | --- | | Auth | One API key per provider, managed separately | One key (`sk-ar-v1-…`) for every provider | | SDKs | Each provider's own SDK and request dialect | One OpenAI-compatible endpoint (plus /messages and /responses) | | Failover | You write retry/fallback logic yourself, per SDK | Automatic failover to a healthy upstream is built into routing | | Billing | A separate invoice and balance per provider account | One balance across providers — or $0-markup BYOK on keys you already pay for | | Audit log | Scattered across each provider's own dashboard, if one exists | One per-request log — cost, latency, tokens — across every provider | | Switching cost | Re-integrate a new SDK, auth scheme, and error handling | Edit a `provider/model` id string; same key, same endpoint | ## What you keep either way The comparison above only holds if the gateway doesn't trade one lock-in for another. AnyRouter's contract is the standard OpenAI-compatible surface, so the client code you write is the same code you'd write calling a provider directly — just pointed at one URL instead of many: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _One client, any of hundreds of models across many providers._ Nothing about that call is proprietary to AnyRouter — the same client library talks to any OpenAI-compatible endpoint, including the provider's own. ## When calling direct still makes sense If a project talks to exactly one provider and never needs failover, a per-provider audit log, or a shared balance across models, calling that provider directly is simpler — one fewer hop, one fewer account to reason about. The gateway earns its complexity back the moment a second provider, a fallback path, or a single cost view across models enters the picture. ![AnyRouter data overview dashboard showing usage aggregated across providers in one view.](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _One audit log across every provider, instead of one per provider dashboard._ Keep calling providers directly, or route them through one key and one audit log. [Get a key free](https://anyrouter.dev/dashboard) --- # 直连供应商 vs. 经一个网关路由 > 直接打 OpenAI、Anthropic 和每个其他供应商,你就要为每个供应商管一把 key、一套 SDK、一份审计轨迹。把同样的调用经一个网关走,每样只管一份——代价是多一跳。下面是 auth、SDK、failover、账单、审计日志和切换成本的老实权衡。 - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/direct-provider-vs-gateway ## 两种调用 LLM 的方式 到达模型 API 有两种老实办法:用供应商自己的 SDK 和 key 直连,或把请求经一个网关,前面是多家供应商、后面是一份契约。两种都不错——权衡取决于你实际用几家,以及单次请求-响应之外还需要什么。 只用一家时直连更简单。一旦你在同时应付多家——不同 SDK、不同 key、不同的成本和延迟看板——网关才值这个复杂度。 ## 直连 vs. 网关,并排看 | 维度 | 直连每家供应商 | 经一个网关 | | --- | --- | --- | | Auth | 每家一把 API key,分开管 | 一把 key(`sk-ar-v1-…`)打到每家 | | SDK | 每家自己的 SDK 和请求方言 | 一个兼容 OpenAI 的端点(外加 /messages 和 /responses) | | Failover | 你自己按 SDK 写重试/回退 | 路由内置自动切到健康上游 | | 账单 | 每个供应商账号单独发票和余额 | 跨供应商一份余额——或对你已在付的 key 做 $0 加价 BYOK | | 审计日志 | 散落在各家自己的看板(如果有) | 一份按请求日志——成本、延迟、token——覆盖每家 | | 切换成本 | 重新接入新 SDK、鉴权方案和错误处理 | 改一个 `provider/model` id 字符串;同一把 key,同一个端点 | ## 无论哪条路你都保留的东西 上面的对比只有在网关没有用另一种锁定换掉原来的锁定时才成立。AnyRouter 的契约是标准兼容 OpenAI 的表面,所以你写的客户端代码就是直连供应商时会写的同一份——只是指向一个 URL 而不是很多: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _One client, any of hundreds of models across many providers._ 这次调用没有任何 AnyRouter 专有部分——同一套客户端库也能打任何兼容 OpenAI 的端点,包括供应商自己的。 ## 什么时候直连仍然合理 如果项目只对接恰好一家供应商,也不需要 failover、按供应商的审计日志,或跨模型的共享余额,直连更简单——少一跳,少一个账号要推理。一旦第二家供应商、一条回退路径、或跨模型的单一成本视图出现,网关的复杂度就开始回本。 ![AnyRouter data overview dashboard showing usage aggregated across providers in one view.](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _一份覆盖每家供应商的审计日志,而不是每家看板一份。_ 继续直连供应商,或经一把 key 和一份审计日志路由它们。 [免费拿一把 key](https://anyrouter.dev/dashboard) --- # Gọi nhà cung cấp trực tiếp vs. route qua một gateway > Gọi OpenAI, Anthropic và mọi nhà cung cấp khác trực tiếp thì bạn quản lý một key, một SDK, và một audit trail mỗi nhà. Route cùng những call đó qua một gateway thì bạn quản lý mỗi thứ một cái — đổi lấy một hop thêm. Đây là đánh đổi thẳng thắn về auth, SDK, failover, billing, audit log, và chi phí chuyển. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/direct-provider-vs-gateway ## Hai cách gọi LLM Có hai cách thẳng thắn để tới API mô hình: gọi nhà cung cấp trực tiếp với SDK và key của họ, hoặc route request qua gateway đứng trước nhiều nhà cung cấp sau một contract. Không cách nào sai — chúng đổi khác nhau tùy bạn thực sự dùng bao nhiêu nhà và bạn cần gì ngoài một request-response đơn. Gọi trực tiếp đơn giản hơn khi bạn chỉ dùng một nhà. Gateway đáng công khi bạn đang juggling hơn một — SDK khác, key khác, dashboard khác cho cost và latency. ## Trực tiếp vs. gateway, cạnh nhau | Chiều | Trực tiếp từng nhà cung cấp | Qua một gateway | | --- | --- | --- | | Auth | Một API key mỗi nhà, quản lý riêng | Một key (`sk-ar-v1-…`) cho mọi nhà | | SDK | SDK và dialect request của từng nhà | Một endpoint tương thích OpenAI (cộng /messages và /responses) | | Failover | Bạn tự viết retry/fallback, theo từng SDK | Failover tự động sang upstream khỏe nằm trong routing | | Billing | Hóa đơn và số dư riêng mỗi tài khoản nhà cung cấp | Một số dư xuyên nhà — hoặc BYOK markup $0 trên key bạn đã trả | | Audit log | Rải trên dashboard từng nhà, nếu có | Một log mỗi request — cost, latency, token — xuyên mọi nhà | | Chi phí chuyển | Tích hợp lại SDK mới, scheme auth, và xử lý lỗi | Sửa chuỗi id `provider/model`; cùng key, cùng endpoint | ## Thứ bạn giữ dù chọn cách nào So sánh trên chỉ đứng nếu gateway không đổi một lock-in lấy lock-in khác. Contract của AnyRouter là bề mặt chuẩn tương thích OpenAI, nên client code bạn viết là cùng code bạn sẽ viết khi gọi nhà cung cấp trực tiếp — chỉ trỏ một URL thay vì nhiều: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _One client, any of hundreds of models across many providers._ Không gì trong call đó độc quyền AnyRouter — cùng thư viện client nói chuyện với mọi endpoint tương thích OpenAI, kể cả của nhà cung cấp. ## Khi gọi trực tiếp vẫn hợp lý Nếu dự án chỉ nói với đúng một nhà và không cần failover, audit log theo nhà, hay số dư chung xuyên mô hình, gọi nhà đó trực tiếp đơn giản hơn — ít một hop, ít một tài khoản phải nghĩ. Gateway lấy lại độ phức tạp ngay khi nhà thứ hai, đường fallback, hoặc một view cost xuyên mô hình xuất hiện. ![AnyRouter data overview dashboard showing usage aggregated across providers in one view.](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _Một audit log xuyên mọi nhà, thay vì một log mỗi dashboard nhà cung cấp._ Tiếp tục gọi nhà cung cấp trực tiếp, hoặc route chúng qua một key và một audit log. [Lấy key miễn phí](https://anyrouter.dev/dashboard) --- # An LLM API without vendor lock-in > Vendor lock-in with an LLM API usually isn't the model — it's the proprietary client shape you built against. Standing on the standard OpenAI-compatible surface (plus Anthropic /messages and OpenAI /responses) keeps the exit door open: the same code you write also works pointed straight at the origin provider. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/llm-api-without-vendor-lock-in ## What lock-in actually looks like with an LLM API Lock-in with an LLM integration rarely shows up as a contract clause — it shows up as code. Build directly against one provider's SDK and its request shape, its streaming format, its tool-call schema, and its error codes end up threaded through your app. Moving to a second provider later means rewriting all of it, not just changing a config value. A routing layer can make this worse or better depending on what it stands on. If the layer invents its own proprietary request format, you've just moved the lock-in one level up — now you depend on the router's dialect instead of a provider's. If it implements the *standard* dialects instead, the code you write is portable by construction. ## Standing on the standard, not a proprietary layer AnyRouter implements the request shapes that already exist rather than inventing a new one: OpenAI's Chat Completions, Anthropic's Messages, and OpenAI's newer Responses API, all on one endpoint. Whichever SDK your codebase already speaks keeps working unchanged. | Dialect | Endpoint | For | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Drop-in for OpenAI's chat SDK | | Anthropic messages | /api/v1/messages | Drop-in for Claude clients | | OpenAI Responses | /api/v1/responses | The newer OpenAI Responses surface | | Embeddings | /api/v1/embeddings | OpenAI-style vector embeddings | Because these are public standards rather than a house format, the same client code that talks to AnyRouter also talks to the origin API — nothing about your integration is AnyRouter-specific. ## A two-line swap, and a two-line swap back Pointing an existing OpenAI client at AnyRouter changes the base URL and the key — nothing else: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", messages=[{"role": "user", "content": "Hello"}], ) ``` _Swap in: same OpenAI SDK, two changed values._ Reversing it is the same two lines in the other direction. That symmetry is the actual test for lock-in: if leaving costs the same two-line diff as arriving did, you were never locked in. ## Model choice becomes a config value Model ids are `provider/model` strings across hundreds of models from many providers, so switching models is editing a string, not re-integrating a new SDK, a new auth scheme, and a new error-handling path. `anthropic/claude-opus-4-8` today, `google/gemini-2.5-pro` tomorrow — same client, same key, same endpoint. ![AnyRouter model detail page showing a single model addressable as a provider/model string.](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Swapping models is a string change, not a rewrite._ ## Owning your keys keeps the exit open too The deepest form of lock-in is a billing relationship you can't leave. $0-markup BYOK avoids that: attach your own provider keys and AnyRouter charges nothing on top — no per-request fee, no surcharge, you pay only the provider. That means the underlying provider relationship is still yours, not intermediated. - Standard dialects only — Chat Completions, Messages, Responses, Embeddings — no proprietary request format to depend on. - Model ids are config values (`provider/model`), not SDK integrations. - $0-markup BYOK keeps the provider billing relationship yours. - The same client code works pointed at the origin provider — the swap back is as cheap as the swap in. Route on the standard API surface — no proprietary dialect, no lock-in. [Get a key free](https://anyrouter.dev/dashboard) --- # 一份没有供应商锁定的 LLM API > LLM API 的锁定通常不是模型本身——而是你对着写的那套专有客户端形状。站在标准兼容 OpenAI 的表面上(外加 Anthropic /messages 和 OpenAI /responses),出口一直开着:你写的同一份代码,直接指向源供应商也能跑。 - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/llm-api-without-vendor-lock-in ## LLM API 的锁定实际长什么样 LLM 集成里的锁定很少以合同条款出现——它以代码出现。直接对着一家供应商的 SDK 写,它的请求形状、流式格式、工具调用 schema 和错误码会穿进整个应用。以后换第二家意味着整段重写,而不只是改一个配置值。 一层路由会让这更好或更糟,取决于它站在什么上面。如果这层发明自己的专有请求格式,你只是把锁定上移一层——现在你依赖路由器的方言而不是供应商的。如果它实现的是*标准*方言,你写的代码天生可移植。 ## 站在标准上,而不是专有层 AnyRouter 实现已经存在的请求形状,而不是发明新的:OpenAI 的 Chat Completions、Anthropic 的 Messages,以及较新的 OpenAI Responses API,都在同一个端点上。代码库已经会说的那种 SDK 原样继续工作。 | 方言 | 端点 | 用途 | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | OpenAI chat SDK 的即插替换 | | Anthropic messages | /api/v1/messages | Claude 客户端的即插替换 | | OpenAI Responses | /api/v1/responses | 较新的 OpenAI Responses 表面 | | Embeddings | /api/v1/embeddings | OpenAI 风格的向量嵌入 | 因为这些是公开标准而不是自家格式,打 AnyRouter 的同一份客户端代码也能打源 API——你的集成没有任何 AnyRouter 专有部分。 ## 两行切进去,两行切回来 把现成的 OpenAI 客户端指到 AnyRouter,只改 base URL 和 key——别的不动: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", messages=[{"role": "user", "content": "Hello"}], ) ``` _Swap in: same OpenAI SDK, two changed values._ 反过来是同一两行的反方向。这种对称才是锁定的真正测试:离开的 diff 和进来一样只要两行,你就从未被锁住。 ## 选模型变成一个配置值 模型 id 是覆盖多家供应商数百个模型的 `provider/model` 字符串,所以换模型是改字符串,不是重新接入新 SDK、新鉴权方案和新的错误处理路径。今天 `anthropic/claude-opus-4-8`,明天 `google/gemini-2.5-pro`——同一客户端、同一把 key、同一个端点。 ![AnyRouter model detail page showing a single model addressable as a provider/model string.](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _换模型是改字符串,不是重写。_ ## 自己握着 key,出口也开着 最深的锁定是一份你走不掉的账单关系。$0 加价 BYOK 避开它:挂上你自己的供应商 key,AnyRouter 上面不加一分——没有按请求费、没有附加费,你只付给供应商。底层供应商关系仍是你的,没有被中间化。 - 只用标准方言 — Chat Completions、Messages、Responses、Embeddings — 没有专有请求格式可依赖。 - 模型 id 是配置值(`provider/model`),不是 SDK 集成。 - $0 加价 BYOK 让供应商账单关系仍是你的。 - 同一份客户端代码指向源供应商也能跑——切出去和切进来一样便宜。 在标准 API 表面上路由——没有专有方言,没有锁定。 [免费拿一把 key](https://anyrouter.dev/dashboard) --- # API LLM không bị vendor lock-in > Lock-in với API LLM thường không phải mô hình — mà là hình dạng client độc quyền bạn đã dựng. Đứng trên bề mặt chuẩn tương thích OpenAI (cộng Anthropic /messages và OpenAI /responses) giữ cửa thoát mở: cùng code bạn viết cũng chạy khi trỏ thẳng vào nhà cung cấp gốc. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/llm-api-without-vendor-lock-in ## Lock-in với API LLM thực sự trông thế nào Lock-in khi tích hợp LLM hiếm khi hiện thành điều khoản hợp đồng — nó hiện thành code. Dựng trực tiếp trên SDK một nhà thì hình dạng request, format stream, schema tool-call, và mã lỗi xuyên suốt app. Chuyển sang nhà thứ hai sau nghĩa là viết lại hết, không chỉ đổi một giá trị config. Lớp routing có thể làm tệ hơn hoặc tốt hơn tùy nó đứng trên gì. Nếu lớp đó bịa format request độc quyền, bạn vừa đẩy lock-in lên một tầng — giờ bạn phụ thuộc dialect của router thay vì của nhà. Nếu nó implement *các dialect chuẩn*, code bạn viết portable theo thiết kế. ## Đứng trên chuẩn, không phải lớp độc quyền AnyRouter implement các hình dạng request đã tồn tại thay vì bịa cái mới: Chat Completions của OpenAI, Messages của Anthropic, và Responses API mới hơn của OpenAI, tất cả trên một endpoint. SDK nào codebase bạn đã nói vẫn chạy không đổi. | Dialect | Endpoint | Dùng cho | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Drop-in cho chat SDK của OpenAI | | Anthropic messages | /api/v1/messages | Drop-in cho client Claude | | OpenAI Responses | /api/v1/responses | Bề mặt Responses mới hơn của OpenAI | | Embeddings | /api/v1/embeddings | Vector embedding kiểu OpenAI | Vì đây là chuẩn công khai chứ không phải format nhà, cùng client code nói chuyện với AnyRouter cũng nói chuyện với API gốc — không gì trong tích hợp của bạn đặc thù AnyRouter. ## Đổi hai dòng, và đổi hai dòng ngược lại Trỏ client OpenAI sẵn có vào AnyRouter chỉ đổi base URL và key — không gì khác: ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", ) resp = client.chat.completions.create( model="openai/gpt-5.5", messages=[{"role": "user", "content": "Hello"}], ) ``` _Swap in: same OpenAI SDK, two changed values._ Đảo ngược là cùng hai dòng chiều kia. Đối xứng đó mới là bài kiểm lock-in thật: nếu rời đi tốn cùng diff hai dòng như lúc đến, bạn chưa từng bị khóa. ## Chọn mô hình thành giá trị config Id mô hình là chuỗi `provider/model` trên hàng trăm mô hình từ nhiều nhà, nên đổi mô hình là sửa chuỗi, không phải tích hợp lại SDK mới, scheme auth mới, và đường xử lý lỗi mới. `anthropic/claude-opus-4-8` hôm nay, `google/gemini-2.5-pro` ngày mai — cùng client, cùng key, cùng endpoint. ![AnyRouter model detail page showing a single model addressable as a provider/model string.](https://anyrouter.dev/screenshots/model-hy3-with-bg.png) _Đổi mô hình là đổi chuỗi, không phải viết lại._ ## Giữ key của bạn cũng giữ cửa thoát mở Hình lock-in sâu nhất là quan hệ billing bạn không rời được. BYOK markup $0 tránh điều đó: gắn key nhà cung cấp của bạn và AnyRouter không cộng gì trên — không phí mỗi request, không surcharge, bạn chỉ trả nhà cung cấp. Nghĩa là quan hệ nhà cung cấp bên dưới vẫn là của bạn, không bị xen giữa. - Chỉ dialect chuẩn — Chat Completions, Messages, Responses, Embeddings — không format request độc quyền để phụ thuộc. - Id mô hình là giá trị config (`provider/model`), không phải tích hợp SDK. - BYOK markup $0 giữ quan hệ billing nhà cung cấp là của bạn. - Cùng client code chạy khi trỏ vào nhà gốc — swap ra rẻ như swap vào. Route trên bề mặt API chuẩn — không dialect độc quyền, không lock-in. [Lấy key miễn phí](https://anyrouter.dev/dashboard) --- # How automatic failover works in an LLM gateway > A single provider call has a single point of failure: one rate limit, one outage, one bad deploy on their end, and your request fails. Here's the actual mechanism AnyRouter uses to route around that — circuit breakers, escalating cooldowns, and a fallback chain — and why the extra hop barely registers next to model generation time. - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/llm-gateway-latency-and-failover ## One provider is a single point of failure Call a provider's API directly and you've made a bet: that their endpoint stays up, that you're under their rate limit, and that nothing on their side degrades mid-request. Most of the time that bet pays off. When it doesn't, the failure is yours to handle — retry logic, a second SDK, a second key, code that only gets exercised during an incident. A gateway exists to make that bet unnecessary. `provider/model` strings like `z-ai/glm-5.2` or `openai/gpt-4o-mini` resolve to a list of upstream candidates, not one fixed destination, and the router picks among them per request based on live health. ## The fallback chain Every request goes through the same selection sequence before a single byte reaches an upstream: 1. Select a primary candidate via the routing strategy 2. Load every configured upstream for that model 3. Apply request-level provider preferences, BYOK eligibility, and provider compliance policy 4. Remove any backend currently in cooldown 5. Return an ordered list — primary, then fallback 1, fallback 2, ... 6. If every candidate is cooled down, return the full list anyway — degraded service beats none The routing strategy that produces the primary candidate is configurable per request: | Strategy | Behavior | | --- | --- | | latency | Fastest upstream first | | cost | Cheapest upstream first | | weighted_round_robin | Distribute by configured weights | | priority | Try upstreams in a fixed priority order | | random | Crypto-secure random pick | | ab_test | Deterministic userId hash → variant | _Figure 1: Routing strategies that pick the primary candidate._ If the primary candidate's request fails, the executor doesn't surface the error — it moves to the next candidate in the list and tries again, transparently to the caller.[^1] When the request carries your own provider keys, the order between your keys, the shared pool and credits follows its own rules.[^2] [^1]: Strategies, provider preferences and per-request overrides: [Smart Routing](https://anyrouter.dev/docs/features/routing). [^2]: [How AnyRouter chooses a credential](https://anyrouter.dev/docs/features/credential-selection). ## Circuit breakers stop hammering a broken upstream Retrying a dead endpoint on every request wastes time and can make an incident worse. Each upstream backend has its own circuit breaker with fixed thresholds: | Setting | Value | | --- | --- | | Failure threshold | 5 failures | | Recovery timeout | 60s | | Half-open max calls | 3 | | Success threshold to close | 2 | | Max retries | 2 | | Retry delay | 1s (exponential backoff) | _Figure 2: Circuit breaker settings, one breaker per upstream backend._ Once a backend trips the breaker, it's skipped outright — no wasted round trip, no added latency for the caller — until the recovery timeout passes and the breaker allows a small number of half-open probe calls through. ## Cooldowns escalate so healthy upstreams don't get starved A circuit breaker is per-backend and short-lived. Underneath it, a KV-backed cooldown store tracks failure patterns over a rolling window — 3 failures inside a 60s observation window trips a cooldown — and each repeat offense doubles the penalty, starting at a 60s base and capping at 10 minutes: **Cooldown duration by escalation tier** - Tier 1: 60s seconds - Tier 2: 120s seconds - Tier 3: 240s seconds - Tier 4: 480s seconds - Tier 5+ (cap): 600s seconds _Figure 3: Each repeat offense doubles the cooldown, from a 60s base up to the 10-minute cap._ Cooled-down backends are filtered out of the candidate list before routing even runs, so a flapping upstream doesn't get a steady trickle of production traffic while it recovers. In simplified form, the dispatch loop looks like this: ```typescript const candidates = await getFallbackChain(modelId, requestOptions) // primary + fallbacks, cooled-down backends already removed for (const backend of candidates) { if (circuitBreaker.isOpen(backend)) continue try { const response = await dispatch(backend, requestBody) circuitBreaker.recordSuccess(backend) return response } catch (err) { circuitBreaker.recordFailure(backend) cooldownStore.recordFailure(backend) // may trigger escalating cooldown // fall through to the next candidate } } throw new AllUpstreamsFailedError(modelId) ``` _Simplified — see packages/server-core/src/utils/upstream/executor.ts for the real implementation._ ## Why the extra hop is cheap The honest answer here isn't a benchmark number — it's the shape of the two operations being compared. Selecting a candidate is a routing decision plus a cache read; generating a response is a model doing inference for as long as it takes to produce the output, one token at a time. Whatever the routing overhead is, it's happening once per request, while token generation happens for the entire duration of the response. It also isn't paid for twice. The gateway doesn't buffer the upstream's response before returning it — chat completions, Anthropic messages, and Responses API streams are all piped through as server-sent events, translated dialect-to-dialect chunk by chunk, not accumulated into memory and replayed. Time-to-first-token is dominated by the upstream model, not by the routing layer in front of it. ![AnyRouter live network stats showing aggregate tokens and requests processed through the gateway](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _This is the traffic the fallback chain has to hold up under — every request routed, none of it buffered client-side._ ## What this buys you - A model id keeps working through a provider outage — the request moves to the next configured upstream automatically - A struggling upstream stops receiving traffic within one failure window, not after a human notices - Recovery is gradual — half-open probe calls, not a full traffic dump the moment a backend looks healthy again - None of this requires retry logic in your client — it's the same request, same key, same response shape either way Route through hundreds of models across many providers with automatic failover built in. [Open the dashboard](https://anyrouter.dev/dashboard) --- # LLM 网关里的自动 failover 怎么工作 > 一次直连供应商调用只有一个失败点:一次限流、一次宕机、他们那边一次糟糕的发布,你的请求就失败。下面是 AnyRouter 实际用来绕开的机制——断路器、逐级冷却、以及回退链——以及为什么多出来的那一跳,相对模型生成时间几乎感觉不到。 - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/llm-gateway-latency-and-failover ## 一家供应商就是一个单点故障 直接打供应商 API 就是在打赌:他们的端点还在、你还在限流之下、他们那边不会在请求中途变差。多数时候这场赌赢。输的时候,失败归你处理——重试逻辑、第二套 SDK、第二把 key,只有事故时才会被练到的代码。 网关存在就是为了让这场赌没必要。`provider/model` 字符串如 `z-ai/glm-5.2` 或 `openai/gpt-4o-mini` 解析成一份上游候选列表,而不是一个固定目的地,路由器按实时健康度每次请求从中挑选。 ## 回退链 每个请求在一个字节到达上游之前,都走同一段选择序列: 1. 按路由策略选出主候选 2. 加载该模型配置的每一个上游 3. 套用请求级供应商偏好、BYOK 资格和供应商合规策略 4. 去掉当前在冷却中的后端 5. 返回有序列表 — 主选,然后 fallback 1、fallback 2、… 6. 如果每个候选都在冷却,仍然返回完整列表 — 降级服务好过没有 产生主候选的路由策略可按请求配置: | 策略 | 行为 | | --- | --- | | latency | 最快上游优先 | | cost | 最便宜上游优先 | | weighted_round_robin | 按配置权重分配 | | priority | 按固定优先级尝试上游 | | random | 加密安全的随机挑选 | | ab_test | 确定性 userId 哈希 → 变体 | 如果主候选的请求失败,执行器不会把错误抛给调用方——它移到列表里的下一个候选再试,对调用方透明。 ## 断路器停止锤打坏掉的上游 每个请求都去重试死掉的端点既浪费时间,也可能把事故搞得更糟。每个上游后端有自己的断路器,阈值固定: | Setting | Value | | --- | --- | | Failure threshold | 5 failures | | Recovery timeout | 60s | | Half-open max calls | 3 | | Success threshold to close | 2 | | Max retries | 2 | | Retry delay | 1s (exponential backoff) | 后端一旦跳闸,会被直接跳过——没有浪费的往返,也不给调用方加延迟——直到恢复超时过去,断路器放一小批半开探测调用通过。 ## 冷却逐级加码,健康上游才不会饿死 断路器是按后端的、短命的。它下面,一份 KV 支撑的冷却存储在滚动窗口里跟踪失败模式——60 秒观察窗口内 3 次失败就触发冷却——每次再犯把惩罚翻倍,从 60 秒起步,封顶 10 分钟: **Cooldown duration by escalation tier** - Tier 1: 60s seconds - Tier 2: 120s seconds - Tier 3: 240s seconds - Tier 4: 480s seconds - Tier 5+ (cap): 600s seconds 已冷却的后端在路由跑之前就被滤出候选列表,所以抖动的上游恢复时不会持续漏进生产流量。简化后,调度循环像这样: ```typescript const candidates = await getFallbackChain(modelId, requestOptions) // primary + fallbacks, cooled-down backends already removed for (const backend of candidates) { if (circuitBreaker.isOpen(backend)) continue try { const response = await dispatch(backend, requestBody) circuitBreaker.recordSuccess(backend) return response } catch (err) { circuitBreaker.recordFailure(backend) cooldownStore.recordFailure(backend) // may trigger escalating cooldown // fall through to the next candidate } } throw new AllUpstreamsFailedError(modelId) ``` _Simplified — see packages/server-core/src/utils/upstream/executor.ts for the real implementation._ ## 为什么多出来的那一跳便宜 这里的老实答案不是一个基准数字——而是被比较的两种操作的形状。选候选是一次路由决策加一次缓存读取;生成响应是模型按输出所需时间做推理,一个 token 一个 token。无论路由开销是多少,它每请求只发生一次,而 token 生成贯穿整个响应时长。 它也不会付两遍。网关不会在返回前把上游响应缓冲完——chat completions、Anthropic messages 和 Responses API 流都以 server-sent events 管道穿过,按块做方言到方言的翻译,而不是攒进内存再重放。首 token 时间由上游模型主导,不是前面的路由层。 ![AnyRouter live network stats showing aggregate tokens and requests processed through the gateway](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _这就是回退链必须扛住的流量——每个请求都被路由,没有一份在客户端缓冲。_ ## 这给你买到什么 - 供应商宕机时模型 id 仍然可用——请求自动转到下一个已配置上游 - 挣扎中的上游在一个失败窗口内停止收流量,而不是等人注意到 - 恢复是渐进的——半开探测调用,不是后端看起来健康的瞬间把流量全倒回去 - 这些都不要求客户端写重试逻辑——同样的请求、同一把 key、同一种响应形状 经多家供应商的数百个模型路由,自动 failover 内置。 [打开 dashboard](https://anyrouter.dev/dashboard) --- # Failover tự động trong LLM gateway hoạt động thế nào > Một call nhà cung cấp đơn có một điểm thất bại: một rate limit, một outage, một deploy xấu phía họ, và request của bạn fail. Đây là cơ chế AnyRouter thực sự dùng để đi vòng — circuit breaker, cooldown leo thang, và chuỗi fallback — và vì sao hop thêm gần như không đáng kể so với thời gian generate của mô hình. - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/llm-gateway-latency-and-failover ## Một nhà cung cấp là một điểm thất bại đơn Gọi API nhà cung cấp trực tiếp là một cược: endpoint họ còn lên, bạn còn dưới rate limit, và phía họ không suy giữa request. Phần lớn lúc cược thắng. Khi không, failure là việc của bạn — logic retry, SDK thứ hai, key thứ hai, code chỉ được tập khi sự cố. Gateway tồn tại để cược đó không cần. Chuỗi `provider/model` như `z-ai/glm-5.2` hoặc `openai/gpt-4o-mini` resolve thành danh sách ứng viên upstream, không phải một đích cố định, và router chọn giữa chúng mỗi request dựa trên health sống. ## Chuỗi fallback Mọi request đi cùng chuỗi chọn trước khi một byte tới upstream: 1. Chọn ứng viên chính qua chiến lược routing 2. Load mọi upstream đã cấu hình cho mô hình đó 3. Áp preference nhà cung cấp cấp request, đủ điều kiện BYOK, và chính sách tuân thủ nhà cung cấp 4. Gỡ backend đang cooldown 5. Trả danh sách có thứ tự — chính, rồi fallback 1, fallback 2, ... 6. Nếu mọi ứng viên đều cooldown, vẫn trả full list — dịch vụ suy còn hơn không Chiến lược routing tạo ứng viên chính cấu hình được theo request: | Chiến lược | Hành vi | | --- | --- | | latency | Upstream nhanh nhất trước | | cost | Upstream rẻ nhất trước | | weighted_round_robin | Phân phối theo trọng số đã cấu hình | | priority | Thử upstream theo thứ tự ưu tiên cố định | | random | Chọn ngẫu nhiên crypto-secure | | ab_test | Hash userId xác định → variant | Nếu request của ứng viên chính fail, executor không đẩy lỗi ra — nó chuyển ứng viên kế trong list và thử lại, trong suốt với caller. ## Circuit breaker ngừng đập vào upstream hỏng Retry endpoint chết trên mọi request phí thời gian và có thể làm sự cố tệ hơn. Mỗi backend upstream có circuit breaker riêng với ngưỡng cố định: | Setting | Value | | --- | --- | | Failure threshold | 5 failures | | Recovery timeout | 60s | | Half-open max calls | 3 | | Success threshold to close | 2 | | Max retries | 2 | | Retry delay | 1s (exponential backoff) | Backend trip breaker thì bị bỏ hẳn — không round trip phí, không cộng latency cho caller — đến khi recovery timeout qua và breaker cho một số nhỏ call probe half-open đi. ## Cooldown leo thang để upstream khỏe không bị đói Circuit breaker là theo backend và sống ngắn. Bên dưới, store cooldown trên KV theo dõi mẫu failure trên cửa sổ rolling — 3 failure trong cửa sổ quan sát 60s trip cooldown — và mỗi lần tái phạm nhân đôi phạt, bắt đầu từ base 60s, trần 10 phút: **Cooldown duration by escalation tier** - Tier 1: 60s seconds - Tier 2: 120s seconds - Tier 3: 240s seconds - Tier 4: 480s seconds - Tier 5+ (cap): 600s seconds Backend cooldown bị lọc khỏi list ứng viên trước khi routing chạy, nên upstream flap không nhận nhỏ giọt traffic production lúc hồi. Dạng đơn giản, vòng dispatch như sau: ```typescript const candidates = await getFallbackChain(modelId, requestOptions) // primary + fallbacks, cooled-down backends already removed for (const backend of candidates) { if (circuitBreaker.isOpen(backend)) continue try { const response = await dispatch(backend, requestBody) circuitBreaker.recordSuccess(backend) return response } catch (err) { circuitBreaker.recordFailure(backend) cooldownStore.recordFailure(backend) // may trigger escalating cooldown // fall through to the next candidate } } throw new AllUpstreamsFailedError(modelId) ``` _Simplified — see packages/server-core/src/utils/upstream/executor.ts for the real implementation._ ## Vì sao hop thêm rẻ Câu trả lời thẳng ở đây không phải số benchmark — mà là hình dạng hai thao tác đang so. Chọn ứng viên là quyết định routing cộng đọc cache; generate response là mô hình inference suốt thời gian tạo output, từng token. Dù overhead routing là gì, nó xảy ra một lần mỗi request, trong khi generate token diễn ra suốt thời gian response. Nó cũng không bị trả hai lần. Gateway không buffer response upstream trước khi trả — chat completions, Anthropic messages, và stream Responses API đều được pipe qua như server-sent events, dịch dialect-to-dialect từng chunk, không gom vào memory rồi phát lại. Time-to-first-token do mô hình upstream chi phối, không phải lớp routing phía trước. ![AnyRouter live network stats showing aggregate tokens and requests processed through the gateway](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _Đây là traffic chuỗi fallback phải chịu — mọi request được route, không cái nào buffer phía client._ ## Điều này mua cho bạn gì - Id mô hình vẫn chạy khi nhà cung cấp outage — request tự chuyển sang upstream đã cấu hình kế - Upstream đang vật lộn ngừng nhận traffic trong một cửa sổ failure, không phải sau khi người nhận ra - Hồi phục từ từ — call probe half-open, không đổ full traffic ngay lúc backend trông khỏe lại - Không cái nào đòi logic retry trong client — cùng request, cùng key, cùng hình response dù thế nào Route qua hàng trăm mô hình trên nhiều nhà với failover tự động có sẵn. [Mở dashboard](https://anyrouter.dev/dashboard) --- # Building an LLM gateway on Cloudflare Workers > AnyRouter runs as a set of Cloudflare Workers, not a long-running server. That constrains the design in specific ways — a 128MB memory ceiling that rules out buffering responses, a 3MiB script cap that forced a multi-Worker split, and a hard rule that every upstream call goes through Cloudflare's AI Gateway. Here's what that architecture actually looks like. - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/building-an-llm-gateway-on-cloudflare-workers ## Why Workers instead of a server A Cloudflare Worker is an isolate, not a process — it starts on the request, handles it, and doesn't sit around holding memory or connections between calls. There's no server to keep warm, no fleet to scale, no region to pick; the same script runs at every Cloudflare edge location. For a gateway whose entire job is 'take a request, pick an upstream, stream the response back,' that request-scoped model is a good fit — but it also means every architectural decision has to respect isolate limits that a conventional server wouldn't have. Two of those limits shape almost everything downstream: a 128MB memory ceiling per isolate, and a 3MiB compressed script-size cap per Worker. ## Stream, never buffer The 128MB ceiling makes one common server pattern actively dangerous: reading an entire upstream response into memory before forwarding it. An LLM completion can be arbitrarily long, and `await response.text()` on an unbounded stream has no ceiling of its own — it grows until the isolate runs out of memory. | Anti-pattern | Why it breaks | Correct pattern | | --- | --- | --- | | `await response.text()` on unbounded upstream data | Memory exhaustion against the 128MB isolate limit | Stream: `return new Response(readableStream, { headers })` | | Module-level mutable state for request data | Cross-request leakage between isolates handling different users | Per-request state on `c.set(...)` or closures | | Floating promises for background work | Dropped results, swallowed errors after the response returns | `c.executionCtx.waitUntil(promise)` | In practice this means chat completions, Anthropic messages, and the Responses API all return a native `Response` wrapping the upstream's server-sent-event stream, piped through a format translator chunk by chunk rather than accumulated and replayed: ```typescript export default (async (c) => { const upstream = await fetch(upstreamUrl, { method: "POST", body, headers }) // Never buffer: pipe the upstream stream straight through, // translating SSE dialect chunk-by-chunk as it passes. return new Response(upstream.body.pipeThrough(dialectTranslator), { status: upstream.status, headers: { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" }, }) }) satisfies HonoHandler ``` _Streaming pattern used across the executor's chat/messages/responses paths._ ## The 3MiB cap forced a multi-Worker split A single Worker outgrew Cloudflare's 3MiB compressed script-size cap once the routing engine, the model catalog, Durable Objects, MCP server, OAuth, and the full Hono API surface all lived in one script. The fix was a hub-and-spoke split: one web Worker owns the zone-wide route and either forwards a request to a dedicated spoke over a service binding, or serves the page itself. | Worker | Host | Owns | | --- | --- | --- | | anyrouter (web hub) | anyrouter.dev (apex) | SSR landing pages; routes and forwards everything else | | anyrouter-api | service binding only | Hono app, executor, catalog, Durable Objects | | anyrouter-dashboard | dash.anyrouter.dev | Dashboard app | | anyrouter-admin | admin.anyrouter.dev | Admin app | | anyrouter-mcp | service binding only | MCP server (JSON-RPC + OAuth) | | anyrouter-flow | cron + service binding | Workflows and scheduled jobs | Because each spoke proxies its own same-origin `/api/*` calls to `anyrouter-api` over a service binding, the browser never makes a cross-origin request — no CORS configuration needed, and no extra public surface exposed per Worker. ## Every upstream goes through the AI Gateway Dispatch to the actual model provider happens through exactly one of three transport shapes, all funneled through Cloudflare's AI Gateway rather than calling a provider's API directly: | Transport | Reaches | How | | --- | --- | --- | | Workers AI binding | First-party and partner-hosted Workers AI catalog models | `c.env.AI.run(model, body, { gateway: { id }, returnRawResponse: true })` | | Unified AI Gateway REST | CF unified-billing catalog, third-party models | One API token, `cf-aig-gateway-id` header, usage bills via Unified Billing | | Per-provider AI Gateway REST | BYOK and direct providers (OpenAI, Anthropic, xAI, Groq, DeepInfra, ...) | `cf-aig-authorization` header plus the provider's own key in `Authorization` | That split is invisible to the end user — every backend shares the same 'Cloudflare AI Gateway' badge in the UI regardless of which transport actually served it. The rule behind it is stricter than it sounds: every upstream must route through `gateway.ai.cloudflare.com`, with exactly one documented exception for a first-party backend that has no HTTP origin to proxy in the first place (it reaches a user's own device over an outbound WebSocket instead). ## Security primitives the edge gives you for free Running on Workers also means the platform's crypto primitives are the default, not an add-on dependency: - `crypto.getRandomValues()` or `crypto.randomUUID()` — never `Math.random()` for tokens or ids - `crypto.subtle` for all cryptographic operations, including per-row encryption at rest - `crypto.subtle.timingSafeEqual` for secret comparison, so key checks aren't timing-attackable - Secrets live in `wrangler secret put`, never hardcoded in source or committed config Explicit error handling matters more than it would in a framework with a global exception page, too — `passThroughOnException()` is avoided deliberately, because it hides real bugs behind a silent fallback instead of surfacing them to Hono's error handler where they can be logged and fixed. ## What the edge trades away None of this is free. Every limit above is a constraint the architecture works around, not one it eliminates — the 3MiB cap means new features have to think about which Worker they belong in, and the streaming-only rule means there's no shortcut for post-processing a full response before it reaches the client. What it buys back is a script that runs identically at every edge location with no server fleet behind it to operate. ![AnyRouter live network stats dashboard showing aggregate request and token volume](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _The same Worker split serves this traffic — no dedicated servers behind it._ See the full request lifecycle, model catalog, and live routing in your own account. [Open the dashboard](https://anyrouter.dev/dashboard) --- # 在 Cloudflare Workers 上做 LLM 网关 > AnyRouter 跑在一组 Cloudflare Worker 上,不是常驻服务器。这套设计被具体限制卡住:128MB 内存上限禁止缓冲整段响应,3MiB 脚本上限逼出多 Worker 拆分,以及硬规则——每条上游调用都必须走 Cloudflare AI Gateway。下面是这套架构实际长什么样。 - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/zh/building-an-llm-gateway-on-cloudflare-workers ## 为什么用 Worker 而不是一台服务器 Cloudflare Worker 是 isolate,不是进程——请求来了才启动,处理完不在调用之间占内存或连接。没有要保活的服务器,没有要扩的集群,也没有要选的区域;同一份脚本在每个 Cloudflare 边缘节点跑。对网关这种「接请求、挑上游、把响应流回去」的活,按请求作用域的模型很合适——但也意味着每条架构决策都得尊重 isolate 限制,传统服务器没有这些上限。 其中两条几乎决定了后面所有事:每个 isolate 128MB 内存上限,以及每个 Worker 3MiB 压缩脚本上限。 ## 只流式,不缓冲 128MB 上限让一种常见服务器写法变得危险:先把整段上游响应读进内存再转发。LLM 补全可以任意长,对无界流做 `await response.text()` 自己没有上限——会一直涨到 isolate 内存耗尽。 | 反模式 | 为什么会炸 | 正确写法 | | --- | --- | --- | | 对无界上游数据 `await response.text()` | 顶满 128MB isolate 内存 | 流式:`return new Response(readableStream, { headers })` | | 用模块级可变状态存请求数据 | 不同用户的 isolate 之间串数据 | 请求级状态放在 `c.set(...)` 或闭包里 | | 后台工作用漂浮的 Promise | 响应返回后结果丢失、错误被吞 | `c.executionCtx.waitUntil(promise)` | 实践里,chat completions、Anthropic messages 和 Responses API 都返回原生 `Response`,包住上游的 SSE 流,按块做格式转换,而不是攒完再回放: ```typescript export default (async (c) => { const upstream = await fetch(upstreamUrl, { method: "POST", body, headers }) // Never buffer: pipe the upstream stream straight through, // translating SSE dialect chunk-by-chunk as it passes. return new Response(upstream.body.pipeThrough(dialectTranslator), { status: upstream.status, headers: { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" }, }) }) satisfies HonoHandler ``` _Streaming pattern used across the executor's chat/messages/responses paths._ ## 3MiB 上限逼出多 Worker 拆分 路由引擎、模型目录、Durable Objects、MCP 服务、OAuth 和整套 Hono API 挤在一份脚本里时,单个 Worker 会超过 Cloudflare 3MiB 压缩脚本上限。解法是中心加辐条:一个 web Worker 管整区路由,要么经 service binding 转给专用辐条,要么自己出页面。 | Worker | Host | Owns | | --- | --- | --- | | anyrouter (web hub) | anyrouter.dev (apex) | SSR landing pages; routes and forwards everything else | | anyrouter-api | service binding only | Hono app, executor, catalog, Durable Objects | | anyrouter-dashboard | dash.anyrouter.dev | Dashboard app | | anyrouter-admin | admin.anyrouter.dev | Admin app | | anyrouter-mcp | service binding only | MCP server (JSON-RPC + OAuth) | | anyrouter-flow | cron + service binding | Workflows and scheduled jobs | 每个辐条把自己同源的 `/api/*` 经 service binding 代理到 `anyrouter-api`,浏览器从不跨域请求——不需要 CORS,也不会给每个 Worker 多开一块公网面。 ## 每条上游都走 AI Gateway 真正打到模型供应商时,只走三种传输形态之一,全部经 Cloudflare AI Gateway,而不是直连供应商 API: | Transport | Reaches | How | | --- | --- | --- | | Workers AI binding | First-party and partner-hosted Workers AI catalog models | `c.env.AI.run(model, body, { gateway: { id }, returnRawResponse: true })` | | Unified AI Gateway REST | CF unified-billing catalog, third-party models | One API token, `cf-aig-gateway-id` header, usage bills via Unified Billing | | Per-provider AI Gateway REST | BYOK and direct providers (OpenAI, Anthropic, xAI, Groq, DeepInfra, ...) | `cf-aig-authorization` header plus the provider's own key in `Authorization` | 这层拆分对终端用户不可见——不管实际用了哪种传输,界面上都是同一枚「Cloudflare AI Gateway」徽章。背后的规则比听起来更严:每条上游都必须走 `gateway.ai.cloudflare.com`,文档里只有一个例外:第一方后端根本没有可代理的 HTTP origin(它用出站 WebSocket 打到用户自己的设备)。 ## 边缘平台白送的安全原语 跑在 Workers 上,平台的加密原语就是默认能力,不是额外依赖: - `crypto.getRandomValues()` or `crypto.randomUUID()` — never `Math.random()` for tokens or ids - `crypto.subtle` for all cryptographic operations, including per-row encryption at rest - `crypto.subtle.timingSafeEqual` for secret comparison, so key checks aren't timing-attackable - Secrets live in `wrangler secret put`, never hardcoded in source or committed config 显式错误处理也比有全局异常页的框架更重要——故意不用 `passThroughOnException()`,因为它会把真 bug 藏在静默回退后面,而不是交给 Hono 的错误处理器去记日志、修掉。 ## 边缘换走了什么 这些都不是免费的。上面每条上限都是架构在绕开的约束,不是被消掉的约束——3MiB 上限意味着新功能得想清楚属于哪个 Worker,只流式意味着没法在到达客户端之前对完整响应做捷径后处理。换回来的是:同一份脚本在每个边缘节点同样跑,后面没有一队服务器要运维。 ![AnyRouter live network stats dashboard showing aggregate request and token volume](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _The same Worker split serves this traffic — no dedicated servers behind it._ 在自己的账号里看完整请求生命周期、模型目录和实时路由。 [打开控制台](https://anyrouter.dev/dashboard) --- # Xây LLM gateway trên Cloudflare Workers > AnyRouter chạy trên một cụm Cloudflare Worker, không phải server sống lâu. Thiết kế bị ràng buộc cụ thể: trần 128MB RAM cấm buffer cả response, trần script 3MiB buộc tách nhiều Worker, và quy tắc cứng — mọi cuộc gọi upstream đều đi qua Cloudflare AI Gateway. Đây là kiến trúc thực tế. - Date: July 12, 2026 - Category: engineering - HTML: https://anyrouter.dev/blog/vi/building-an-llm-gateway-on-cloudflare-workers ## Vì sao Worker thay vì một server Cloudflare Worker là isolate, không phải process — khởi động theo request, xử lý xong rồi không giữ RAM hay connection giữa các lần gọi. Không server cần hâm nóng, không fleet cần scale, không region cần chọn; cùng một script chạy ở mọi edge Cloudflare. Với gateway mà việc chỉ là «nhận request, chọn upstream, stream response về», mô hình theo request rất hợp — nhưng mọi quyết định kiến trúc phải tôn trọng giới hạn isolate mà server thường không có. Hai giới hạn định hình hầu hết phần còn lại: trần 128MB RAM mỗi isolate, và trần script nén 3MiB mỗi Worker. ## Stream, đừng bao giờ buffer Trần 128MB biến một pattern server phổ biến thành nguy hiểm: đọc hết response upstream vào RAM rồi mới forward. Completion LLM có thể dài vô hạn, và `await response.text()` trên stream không biên không có trần riêng — nó phình đến khi isolate hết bộ nhớ. | Anti-pattern | Why it breaks | Correct pattern | | --- | --- | --- | | `await response.text()` on unbounded upstream data | Memory exhaustion against the 128MB isolate limit | Stream: `return new Response(readableStream, { headers })` | | Module-level mutable state for request data | Cross-request leakage between isolates handling different users | Per-request state on `c.set(...)` or closures | | Floating promises for background work | Dropped results, swallowed errors after the response returns | `c.executionCtx.waitUntil(promise)` | Thực tế, chat completions, Anthropic messages và Responses API đều trả `Response` gốc bọc SSE của upstream, dịch dialect từng chunk thay vì gom rồi phát lại: ```typescript export default (async (c) => { const upstream = await fetch(upstreamUrl, { method: "POST", body, headers }) // Never buffer: pipe the upstream stream straight through, // translating SSE dialect chunk-by-chunk as it passes. return new Response(upstream.body.pipeThrough(dialectTranslator), { status: upstream.status, headers: { "Content-Type": "text/event-stream", "Cache-Control": "no-cache" }, }) }) satisfies HonoHandler ``` _Streaming pattern used across the executor's chat/messages/responses paths._ ## Trần 3MiB buộc tách nhiều Worker Một Worker đơn vượt trần script nén 3MiB của Cloudflare khi engine routing, catalog, Durable Objects, MCP, OAuth và cả bề mặt Hono API nằm chung một script. Cách xử lý là hub-and-spoke: một web Worker giữ route toàn zone, rồi forward sang spoke qua service binding, hoặc tự serve trang. | Worker | Host | Owns | | --- | --- | --- | | anyrouter (web hub) | anyrouter.dev (apex) | SSR landing pages; routes and forwards everything else | | anyrouter-api | service binding only | Hono app, executor, catalog, Durable Objects | | anyrouter-dashboard | dash.anyrouter.dev | Dashboard app | | anyrouter-admin | admin.anyrouter.dev | Admin app | | anyrouter-mcp | service binding only | MCP server (JSON-RPC + OAuth) | | anyrouter-flow | cron + service binding | Workflows and scheduled jobs | Mỗi spoke proxy `/api/*` cùng origin sang `anyrouter-api` qua service binding, nên trình duyệt không bao giờ cross-origin — không cần CORS, cũng không mở thêm bề mặt public cho từng Worker. ## Mọi upstream đi qua AI Gateway Dispatch tới nhà cung cấp mô hình thật sự đi đúng một trong ba hình transport, tất cả đổ vào Cloudflare AI Gateway chứ không gọi API nhà cung cấp trực tiếp: | Transport | Reaches | How | | --- | --- | --- | | Workers AI binding | First-party and partner-hosted Workers AI catalog models | `c.env.AI.run(model, body, { gateway: { id }, returnRawResponse: true })` | | Unified AI Gateway REST | CF unified-billing catalog, third-party models | One API token, `cf-aig-gateway-id` header, usage bills via Unified Billing | | Per-provider AI Gateway REST | BYOK and direct providers (OpenAI, Anthropic, xAI, Groq, DeepInfra, ...) | `cf-aig-authorization` header plus the provider's own key in `Authorization` | Tách này vô hình với người dùng cuối — mọi backend dùng cùng huy hiệu «Cloudflare AI Gateway» dù transport nào phục vụ. Quy tắc phía sau chặt hơn nghe: mọi upstream phải đi `gateway.ai.cloudflare.com`, đúng một ngoại lệ đã ghi: backend first-party không có HTTP origin để proxy (nó tới thiết bị của user qua WebSocket outbound). ## Primitive bảo mật mà edge cho sẵn Chạy trên Workers cũng nghĩa là primitive crypto của nền tảng là mặc định, không phải dependency thêm: - `crypto.getRandomValues()` or `crypto.randomUUID()` — never `Math.random()` for tokens or ids - `crypto.subtle` for all cryptographic operations, including per-row encryption at rest - `crypto.subtle.timingSafeEqual` for secret comparison, so key checks aren't timing-attackable - Secrets live in `wrangler secret put`, never hardcoded in source or committed config Xử lý lỗi tường minh cũng quan trọng hơn framework có trang exception toàn cục — cố ý tránh `passThroughOnException()`, vì nó giấu bug thật sau fallback im lặng thay vì đưa lên error handler của Hono để log và sửa. ## Edge đánh đổi gì Không thứ nào miễn phí. Mọi giới hạn trên là ràng buộc kiến trúc phải vòng, không phải đã xóa — trần 3MiB nghĩa là tính năng mới phải nghĩ thuộc Worker nào, và quy tắc chỉ-stream nghĩa là không có lối tắt post-process cả response trước khi tới client. Đổi lại là script chạy giống nhau ở mọi edge, không có fleet server phía sau. ![AnyRouter live network stats dashboard showing aggregate request and token volume](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _The same Worker split serves this traffic — no dedicated servers behind it._ Xem vòng đời request, catalog và routing live trong tài khoản của bạn. [Mở dashboard](https://anyrouter.dev/dashboard) --- # What developers actually route through AnyRouter > The catalog has hundreds of models across many providers, but that's not what traffic looks like. A handful of models absorb almost all of the free-tier volume, model counts skew hard toward a few owner organizations, and most requests never mention a provider name at all — they arrive tagged by which coding agent sent them. Here's the shape of the catalog and the shape of what people actually call. - Date: July 12, 2026 - Category: data - HTML: https://anyrouter.dev/blog/what-developers-actually-route ## The catalog is wide, not deep ![The AnyRouter leaderboard: top 30 models by Artificial Analysis intelligence index, with reasoning and math comparisons.](https://anyrouter.dev/screenshots/leaderboard-with-bg.png) _The live leaderboard ranks the catalog by published benchmark scores — useful for picking a model, not a claim about our own traffic._ AnyRouter's catalog covers hundreds of models across many providers, addressed by a single `provider/model` string — `anthropic/claude-opus-4-8`, `z-ai/glm-5.2`, `google/gemini-2.5-pro`. Models are organized by the organization that owns them, not by which upstream serves them, and that ownership is lopsided: a handful of labs account for most of the catalog, and a long tail of smaller labs each contribute a model or two. | Owner | Models in catalog | | --- | --- | | openai | 32 | | qwen | 16 | | meta | 16 | | google | 14 | | anthropic | 12 | | x-ai | 11 | | venice | 8 | | wafer | 7 | | deepseek | 7 | | nvidia | 6 | That split matters because a model can also come in two SKU classes on the Cloudflare side alone — hosted first-party (`@cf/owner/model`) or partner-hosted (`owner/model`, no `@cf` prefix) — before you even get to a third-party upstream like DeepInfra or a direct provider API. Breadth in the catalog doesn't mean breadth in what gets called. ## What people actually call for free Calling any model is one request against a single, OpenAI-compatible endpoint: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-5.2", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Same endpoint, same key, any model in the catalog._ But traffic through the free routes — no credit charged, not a BYOK call — doesn't spread evenly across the catalog. Two models account for the overwhelming majority of free requests, all-time through July 11, 2026: **Free-served requests by model** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## Two shapes of usage, not one Request count alone hides what's actually happening. GLM-5.2 leads on requests and dwarfs everything else on tokens served — north of 200M free tokens — which is the signature of a model running real, sustained work, not one-off tests. gpt-4o-mini leads on requests too, but with a fraction of the tokens per call: it's the classifier-and-glue model, cheap enough to sit inside a loop where each call is a sentence or two. Those are two different jobs wearing the same 'free model' label, and the request count on its own doesn't tell you which one a given model is doing — the tokens-per-request ratio does. ## Coding agents show up as attribution, not as a model name A meaningful share of production traffic doesn't come from a developer typing a prompt — it comes from a coding agent making the call on their behalf. Claude Code, Codex, and Cursor all speak different dialects against the same catalog: | Dialect | Endpoint | Used by | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Codex, Cursor, any OpenAI-compatible client | | Anthropic messages | /api/v1/messages | Claude Code and other Claude-native clients | | OpenAI Responses | /api/v1/responses | Newer OpenAI-compatible agent tooling | Because every dialect terminates at the same catalog, a request from Claude Code and a request typed by hand can resolve to the same model — the only difference visible in usage analytics is the app attribution header the client sent, not a separate code path. ## The free tier is funded, not subsidized from one balance sheet The free capacity behind those request counts isn't purchased in bulk — it's a shared key pool. Members donate spare quota from a provider's own free tier, quotas sum into one pool, and donors earn a share back plus a free plan tier. The more capacity gets donated, the more the free-tier numbers above can grow without a paywall behind them. ![AnyRouter free models catalog page listing models callable at $0](https://anyrouter.dev/screenshots/free-models-with-bg.png) _Every model in the free-tier table above is callable right now at anyrouter.dev/free._ ## Reading the shape correctly - A wide catalog and a concentrated traffic pattern aren't a contradiction — reach and popularity are different things - Request count and token count together identify what job a model is actually doing, not just how often it's called - Model ownership in the catalog skews toward a handful of labs, but the smaller entries still get called — just less often - Free-tier volume scales with donated capacity, not with a fixed budget See live catalog, traffic, and per-model usage in your own account. [Open the dashboard](https://anyrouter.dev/dashboard) --- # 开发者真正经 AnyRouter 打出去的流量长什么样 > 目录有数百个模型、多家供应商,但流量不是这样铺开的。少数模型吃掉几乎全部免费档请求,模型数量也偏向少数 owner 组织,而且多数请求根本不带供应商名——它们按哪个 coding agent 发来打标。下面是目录的形状,以及人们真正调用的形状。 - Date: July 12, 2026 - Category: data - HTML: https://anyrouter.dev/blog/zh/what-developers-actually-route ## 目录宽,不深 ![The AnyRouter leaderboard: top 30 models by Artificial Analysis intelligence index, with reasoning and math comparisons.](https://anyrouter.dev/screenshots/leaderboard-with-bg.png) _The live leaderboard ranks the catalog by published benchmark scores — useful for picking a model, not a claim about our own traffic._ AnyRouter 的目录覆盖数百个模型、多家供应商,用一条 `provider/model` 字符串寻址——`anthropic/claude-opus-4-8`、`z-ai/glm-5.2`、`google/gemini-2.5-pro`。模型按拥有组织分组,不按哪家上游在伺候,而且所有权是偏的:少数实验室占了目录的大部分,长尾小实验室各贡献一两个模型。 | Owner | Models in catalog | | --- | --- | | openai | 32 | | qwen | 16 | | meta | 16 | | google | 14 | | anthropic | 12 | | x-ai | 11 | | venice | 8 | | wafer | 7 | | deepseek | 7 | | nvidia | 6 | 这层拆分要紧,因为同一模型在 Cloudflare 一侧还可以有两种 SKU——第一方托管(`@cf/owner/model`)或合作方托管(`owner/model`,没有 `@cf` 前缀)——还没算 DeepInfra 这类第三方上游或直连供应商 API。目录宽,不代表被调用的也宽。 ## 人们免费时真正打的是什么 调任何模型都是对同一个 OpenAI 兼容端点的一次请求: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-5.2", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Same endpoint, same key, any model in the catalog._ 但免费路由上的流量——不扣额度、也不是 BYOK——不会在目录上均匀铺开。截至 2026 年 7 月 11 日的全时段,两个模型吃掉了绝大多数免费请求: **Free-served requests by model** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## 两种用法,不是一种 只看请求数会盖住真正在发生的事。GLM-5.2 请求领先,免费 token 更是碾压——超过 2 亿免费 token——这是在跑持续、真活,不是随手试一下。gpt-4o-mini 请求也多,但每次 token 少得多:它是分类和胶水模型,便宜到可以塞进循环,每次就一两句。 这是两份不同的工作,却共用「免费模型」标签。单看请求数分不清某个模型在干哪份活——每次请求的 token 比能分清。 ## Coding agent 以归因出现,不是模型名 相当一部分生产流量不是开发者亲手打提示——是 coding agent 代打。Claude Code、Codex 和 Cursor 对着同一份目录说不同方言: | Dialect | Endpoint | Used by | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Codex, Cursor, any OpenAI-compatible client | | Anthropic messages | /api/v1/messages | Claude Code and other Claude-native clients | | OpenAI Responses | /api/v1/responses | Newer OpenAI-compatible agent tooling | 因为所有方言都落到同一份目录,Claude Code 的请求和手打的请求可以解析到同一个模型——用量分析里能看见的差别只是客户端发来的 app 归因头,不是另一条代码路径。 ## 免费档靠捐赠撑,不是一张资产负债表补贴 这些请求数背后的免费容量不是批量买来的——是共享 key 池。成员把供应商免费档里闲着的额度捐进来,额度合成一池,捐赠者拿回一份分成,并拿到免费档。捐进来的容量越多,上面的免费档数字就能涨,而不必在后面加付费墙。 ![AnyRouter free models catalog page listing models callable at $0](https://anyrouter.dev/screenshots/free-models-with-bg.png) _Every model in the free-tier table above is callable right now at anyrouter.dev/free._ ## 怎么读这张形状 - 目录宽和流量集中并不矛盾——覆盖面和热度是两回事 - 请求数和 token 数合在一起,才能看出模型在干什么活,而不只是被叫了几次 - 目录所有权偏向少数实验室,但小条目仍会被调用——只是更少 - 免费档体量随捐赠容量涨,不是固定预算 在自己的账号里看实时目录、流量和按模型用量。 [打开控制台](https://anyrouter.dev/dashboard) --- # Developer thực sự route gì qua AnyRouter > Catalog có hàng trăm mô hình trên nhiều nhà cung cấp, nhưng traffic không trải đều. Một nắm mô hình nuốt gần hết volume free-tier, số mô hình lệch về vài tổ chức owner, và hầu hết request chẳng nêu tên nhà cung cấp — chúng được gắn theo coding agent nào gửi. Đây là hình dạng catalog và hình dạng những gì người ta thực sự gọi. - Date: July 12, 2026 - Category: data - HTML: https://anyrouter.dev/blog/vi/what-developers-actually-route ## Catalog rộng, không sâu ![The AnyRouter leaderboard: top 30 models by Artificial Analysis intelligence index, with reasoning and math comparisons.](https://anyrouter.dev/screenshots/leaderboard-with-bg.png) _The live leaderboard ranks the catalog by published benchmark scores — useful for picking a model, not a claim about our own traffic._ Catalog AnyRouter phủ hàng trăm mô hình trên nhiều nhà cung cấp, địa chỉ bằng một chuỗi `provider/model` — `anthropic/claude-opus-4-8`, `z-ai/glm-5.2`, `google/gemini-2.5-pro`. Mô hình nhóm theo tổ chức sở hữu, không theo upstream nào phục vụ, và quyền sở hữu lệch: vài lab chiếm phần lớn catalog, đuôi dài các lab nhỏ mỗi bên một hai mô hình. | Owner | Models in catalog | | --- | --- | | openai | 32 | | qwen | 16 | | meta | 16 | | google | 14 | | anthropic | 12 | | x-ai | 11 | | venice | 8 | | wafer | 7 | | deepseek | 7 | | nvidia | 6 | Tách này quan trọng vì một mô hình còn có hai lớp SKU chỉ riêng phía Cloudflare — hosted first-party (`@cf/owner/model`) hoặc partner-hosted (`owner/model`, không tiền tố `@cf`) — trước khi tới upstream bên thứ ba như DeepInfra hay API nhà cung cấp trực tiếp. Catalog rộng không nghĩa là thứ được gọi cũng rộng. ## Người ta thực sự gọi gì khi miễn phí Gọi bất kỳ mô hình nào là một request tới một endpoint tương thích OpenAI: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{"model": "z-ai/glm-5.2", "messages": [{"role": "user", "content": "Hello"}]}' ``` _Same endpoint, same key, any model in the catalog._ Nhưng traffic trên route miễn phí — không trừ credit, không phải BYOK — không trải đều catalog. Hai mô hình chiếm tuyệt đại đa số request miễn phí, all-time đến 11 tháng 7, 2026: **Free-served requests by model** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## Hai hình usage, không phải một Chỉ đếm request che mất chuyện đang xảy ra. GLM-5.2 dẫn request và át hẳn phần còn lại về token — hơn 200M token miễn phí — dấu hiệu mô hình chạy việc thật, bền, không phải test một phát. gpt-4o-mini cũng dẫn request nhưng token mỗi lần chỉ một phần nhỏ: đó là mô hình classifier-and-glue, rẻ đủ để nằm trong vòng lặp mỗi lần một hai câu. Đó là hai việc khác nhau đội cùng nhãn «mô hình miễn phí», và số request một mình không nói mô hình đang làm việc nào — tỷ lệ token-per-request mới nói. ## Coding agent hiện như attribution, không phải tên mô hình Một phần đáng kể traffic production không đến từ developer gõ prompt — đến từ coding agent gọi hộ. Claude Code, Codex và Cursor nói các dialect khác trên cùng catalog: | Dialect | Endpoint | Used by | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Codex, Cursor, any OpenAI-compatible client | | Anthropic messages | /api/v1/messages | Claude Code and other Claude-native clients | | OpenAI Responses | /api/v1/responses | Newer OpenAI-compatible agent tooling | Vì mọi dialect kết thúc ở cùng catalog, request từ Claude Code và request gõ tay có thể resolve cùng mô hình — khác biệt duy nhất trong analytics usage là header attribution app mà client gửi, không phải code path riêng. ## Free tier được tài trợ, không trợ giá từ một bảng cân đối Dung lượng miễn phí sau những số request đó không mua sỉ — đó là shared key pool. Thành viên donate quota thừa từ free tier của nhà cung cấp, quota cộng thành một pool, donor nhận lại một phần cộng free plan. Càng nhiều dung lượng được donate, các số free-tier ở trên càng có thể lớn mà không cần paywall phía sau. ![AnyRouter free models catalog page listing models callable at $0](https://anyrouter.dev/screenshots/free-models-with-bg.png) _Every model in the free-tier table above is callable right now at anyrouter.dev/free._ ## Đọc hình dạng cho đúng - Catalog rộng và traffic tập trung không mâu thuẫn — coverage và popularity là hai chuyện - Request count và token count cùng nhau chỉ ra mô hình đang làm việc gì, không chỉ bị gọi bao nhiêu lần - Ownership trong catalog lệch về vài lab, nhưng mục nhỏ vẫn được gọi — chỉ ít hơn - Volume free-tier scale theo dung lượng được donate, không theo ngân sách cố định Xem catalog live, traffic và usage theo mô hình trong tài khoản của bạn. [Mở dashboard](https://anyrouter.dev/dashboard) --- # One API for every LLM > One OpenAI-compatible endpoint reaches every model in the catalog — hundreds of models addressed as provider/model, with automatic failover across upstreams, routing presets, and streaming. Point your existing client at AnyRouter and change a model with a string, not a rewrite. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/one-api-every-llm ## What does 'one API for every LLM' mean? AnyRouter puts a single OpenAI-compatible API in front of every model it serves — hundreds of them today. You send the same request shape you already send to OpenAI, and the model id decides which provider actually runs it. There's no per-provider SDK, no second auth scheme, no bespoke error handling: one base URL, one key, every model. The same surface also speaks the other common dialects. Chat lives at /chat/completions (OpenAI-style), Claude clients can hit /messages (Anthropic-style), the newer OpenAI Responses API is at /responses, and embeddings at /embeddings. Same account, same key, same audit log across all of them. ## Model ids are just provider/model strings Every model is addressed as `provider/model`, so switching models is a config value rather than an integration project. Point the standard OpenAI SDK at AnyRouter and iterate over the whole catalog with one client: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro", "z-ai/glm-5.2"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Say hello"}], stream=True, ) for chunk in resp: print(chunk.choices[0].delta.content or "", end="") ``` _One client, one base URL — every model is a string._ Streaming works exactly as it does with OpenAI — pass `stream=True` and read deltas. Because the contract is the standard API, there's no lock-in: the same code points straight back at any provider if you ever leave. ## What happens when an upstream fails? A model id can be served by more than one upstream provider. When the primary is rate-limited, erroring, or down, AnyRouter fails over to the next healthy upstream for that model automatically — a single 429 no longer stalls an agent mid-task. You can also steer that choice yourself with provider preferences and saved routing presets, so a request can prefer cheaper capacity, pin a specific provider, or fall back through a chosen order. - Automatic failover — multiple upstreams per model, unhealthy ones quarantined. - Provider preferences — prefer, pin, or order the upstreams a request may use. - Routing presets — save a routing policy once and reuse it by name. - Streaming and tools — SSE deltas and function calling pass through unchanged. ## Where to start Browse the full catalog on /models, try any model live in the /playground, and read the endpoint reference in /docs. If you route on keys you already pay for, see BYOK below — those calls carry $0 markup. - Bring your own provider keys at $0 markup — /blog/byok-bring-your-own-keys. - Point Claude Code, Codex, or Cursor at the same endpoint — /blog/coding-agents-one-gateway. - Keep your OpenAI SDK and just swap the base URL — /blog/openai-api-alternative. One OpenAI-compatible API in front of hundreds of models, with automatic failover and streaming. [Set it up free](https://anyrouter.dev/dashboard) --- # 一个 API 打到每个 LLM > 一个兼容 OpenAI 的端点打到目录里每个模型——数百个模型用 provider/model 寻址,上游自动失败切换、路由预设和流式。把现有客户端指到 AnyRouter,换模型改字符串,不用重写。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/one-api-every-llm ## 「一个 API 打到每个 LLM」是什么意思? AnyRouter 在它服务的每个模型前面放一个兼容 OpenAI 的 API——今天数百个。你发的还是发给 OpenAI 的那套请求形状,model id 决定哪家供应商真正跑。没有按供应商的 SDK,没有第二套鉴权,没有定制错误处理:一个 base URL,一把 key,每个模型。 同一表面也说其他常见方言。Chat 在 /chat/completions(OpenAI 风格),Claude 客户端可以打 /messages(Anthropic 风格),较新的 OpenAI Responses API 在 /responses,embeddings 在 /embeddings。同一账号、同一把 key、同一份审计日志。 ## Model id 就是 provider/model 字符串 每个模型用 `provider/model` 寻址,换模型是改配置值,不是一个集成项目。把标准 OpenAI SDK 指到 AnyRouter,一个客户端就能扫完整份目录: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro", "z-ai/glm-5.2"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Say hello"}], stream=True, ) for chunk in resp: print(chunk.choices[0].delta.content or "", end="") ``` _One client, one base URL — every model is a string._ 流式和 OpenAI 一样——传 `stream=True` 读 delta。因为契约是标准 API,没有锁定:同一份代码随时可以指回任何供应商。 ## 上游挂了会怎样? 一个 model id 可以由多家上游供应商伺候。主路上限流、报错或宕机时,AnyRouter 自动切到该模型下一个健康上游——一次 429 不再把 agent 卡在半路。你也可以用供应商偏好和保存的路由预设自己掌舵,让请求偏向更便宜的容量、钉死某家,或按选定顺序回退。 - 自动失败切换——每个模型多家上游,不健康的隔离。 - 供应商偏好——偏好、钉死或排序请求可用的上游。 - 路由预设——路由策略存一次,按名复用。 - 流式和工具——SSE delta 和 function calling 原样穿过。 ## 从哪开始 在 /models 浏览完整目录,在 /playground 现场试任何模型,端点说明在 /docs。如果走你已经在付的 key,看下面的 BYOK——那些调用 $0 加价。 - 自带供应商 key,$0 加价 — /blog/zh/byok-bring-your-own-keys。 - 把 Claude Code、Codex 或 Cursor 指到同一端点 — /blog/zh/coding-agents-one-gateway。 - 继续用 OpenAI SDK,只换 base URL — /blog/zh/openai-api-alternative。 一个兼容 OpenAI 的 API 罩住数百个模型,带自动失败切换和流式。 [免费开通](https://anyrouter.dev/dashboard) --- # Một API cho mọi LLM > Một endpoint tương thích OpenAI tới mọi mô hình trong catalog — hàng trăm mô hình địa chỉ provider/model, failover tự động giữa upstream, preset routing và streaming. Chỉ client sẵn có vào AnyRouter và đổi mô hình bằng một chuỗi, không viết lại. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/one-api-every-llm ## «Một API cho mọi LLM» nghĩa là gì? AnyRouter đặt một API tương thích OpenAI trước mọi mô hình nó phục vụ — hôm nay là hàng trăm. Bạn gửi cùng hình request đã gửi OpenAI, và model id quyết định nhà cung cấp nào thực sự chạy. Không SDK theo nhà cung cấp, không scheme auth thứ hai, không xử lý lỗi riêng: một base URL, một key, mọi mô hình. Cùng bề mặt cũng nói các dialect phổ biến khác. Chat ở /chat/completions (kiểu OpenAI), client Claude có thể đánh /messages (kiểu Anthropic), Responses API mới hơn của OpenAI ở /responses, embeddings ở /embeddings. Cùng tài khoản, cùng key, cùng audit log. ## Model id chỉ là chuỗi provider/model Mọi mô hình địa chỉ `provider/model`, nên đổi mô hình là giá trị config chứ không phải dự án tích hợp. Chỉ SDK OpenAI chuẩn vào AnyRouter và duyệt cả catalog bằng một client: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro", "z-ai/glm-5.2"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Say hello"}], stream=True, ) for chunk in resp: print(chunk.choices[0].delta.content or "", end="") ``` _One client, one base URL — every model is a string._ Streaming y như OpenAI — truyền `stream=True` và đọc delta. Vì hợp đồng là API chuẩn, không lock-in: cùng code chỉ thẳng lại bất kỳ nhà cung cấp nếu bạn rời đi. ## Khi upstream fail thì sao? Một model id có thể được phục vụ bởi hơn một nhà cung cấp upstream. Khi primary bị rate-limit, lỗi, hoặc down, AnyRouter failover sang upstream khỏe tiếp theo của mô hình đó — một 429 không còn kẹt agent giữa việc. Bạn cũng có thể tự lái bằng provider preferences và routing preset đã lưu, để request ưu tiên dung lượng rẻ hơn, pin một nhà cung cấp, hoặc fallback theo thứ tự chọn. - Failover tự động — nhiều upstream mỗi mô hình, cái không khỏe bị cách ly. - Provider preferences — prefer, pin, hoặc sắp thứ tự upstream request được dùng. - Routing presets — lưu chính sách routing một lần và tái dùng theo tên. - Streaming và tools — SSE delta và function calling đi xuyên không đổi. ## Bắt đầu từ đâu Duyệt catalog đầy đủ trên /models, thử mô hình live ở /playground, đọc tham chiếu endpoint trong /docs. Nếu route trên key bạn đã trả, xem BYOK bên dưới — những cuộc gọi đó $0 markup. - Mang key nhà cung cấp của bạn với $0 markup — /blog/vi/byok-bring-your-own-keys. - Chỉ Claude Code, Codex, hoặc Cursor vào cùng endpoint — /blog/vi/coding-agents-one-gateway. - Giữ OpenAI SDK, chỉ đổi base URL — /blog/vi/openai-api-alternative. Một API tương thích OpenAI trước hàng trăm mô hình, failover tự động và streaming. [Thiết lập miễn phí](https://anyrouter.dev/dashboard) --- # BYOK: bring your own keys to every provider > Attach the OpenAI, Anthropic, Google, and 60+ other provider keys you already pay for, route them through one OpenAI-compatible URL at $0 markup, cap spend per key, and — if you donate idle quota to the shared pool — earn up to 8% back and unlock Go for free while a donated key stays active. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/byok-bring-your-own-keys ## What is BYOK on AnyRouter? Bring Your Own Key (BYOK) lets you attach your own upstream provider keys to your AnyRouter account. When a request matches a model one of your keys can serve, AnyRouter forwards the call on your key and you pay the provider directly at their list price. You keep every AnyRouter feature — one unified API, logs, analytics, presets, routing, app attribution — on top of accounts you already have. AnyRouter exposes BYOK for more than 60 providers: OpenAI, Anthropic, Google AI Studio, Groq, NVIDIA NIM, Z.ai, Ollama Cloud, and enterprise endpoints like Azure OpenAI, Bedrock, and Vertex AI. The full provider-by-provider setup guide lives at /docs/features/byok-providers. ## Does AnyRouter charge markup on BYOK? No. AnyRouter charges nothing for BYOK traffic — no per-request fee, no surcharge, no minimum. Requests served through your own provider keys never deduct AnyRouter credits, on any plan. You only ever pay your provider. If every BYOK key for a provider is exhausted, requests can optionally fall through to pay-as-you-go credits so work keeps flowing. - $0 markup on your own keys — you pay the provider, nothing to AnyRouter. - Keep your own rate limits — you route on your account's quota, not a shared pool. - Automatic failover — add more than one key per provider and a burned key (401/429) is quarantined while the next takes over. - Load-balancing strategies — Fallback, Round Robin, Weighted, or Random per provider. - Per-key budgets — cap monthly spend on any key so a runaway loop can't drain a provider account. ## Route across your whole key pool Once you've added keys, three built-in ids route across all of them without naming a specific model — and because they only ever use your own keys, they never spend AnyRouter credits: | Model id | Routes to | | --- | --- | | anyrouter/byok | Every model your configured keys can reach | | anyrouter/coding | The coding-capable subset | | anyrouter/agent | The tool / function-calling subset, built for agents | ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` ## Donate idle keys, earn credits, go free Most provider quota sits idle most of the time. Flip the donate toggle on an eligible BYOK key and every request the shared pool routes through it adds up to 8% of that request's notional token cost to a pending balance you can claim anytime. Donating one working key also auto-grants the Go plan for free, for as long as that key stays active — so you skip the $2/mo. You keep first call on your own key; the pool only ever uses spare capacity, and you can opt out instantly. - Earn up to 8% back on every token a donated key serves — 5% on Go, 8% on Pro/Max, capped at $1 per key per UTC day. - Eligibility is about routing, not ToS — the toggle appears once AnyRouter can route to that provider. You're responsible for confirming your provider's terms permit sharing the key. - Explicit, recorded consent — nothing is enrolled automatically. - 429 auto-pause and instant opt-out from the dashboard. See the pool in numbers at /pool, donate at /donate, and read the reward mechanics in /blog/shared-key-pool. ## How are my keys protected? BYOK keys are sensitive credentials and AnyRouter treats them that way. They're encrypted at rest with a per-row salt, so a leak of one key's ciphertext never weakens another. They're write-only in the UI — after save only an alias and a masked identifier are shown. They're stripped from request and response logs, validated live on save (then the validation response is discarded), and only ever sent to the upstream provider they're scoped to. Route the provider keys you already pay for through one API at $0 markup. [Connect a key](https://anyrouter.dev/byok) --- # BYOK:把你自己的 key 接到每家供应商 > 挂上你已经在付的 OpenAI、Anthropic、Google 和 60+ 其他供应商 key,经一个兼容 OpenAI 的 URL 路由,$0 加价,按 key 封顶花费——如果把闲置额度捐进共享池,最多拿回 8%,并且只要捐出的 key 还活着,就能免费开通 Go。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/byok-bring-your-own-keys ## AnyRouter 上的 BYOK 是什么? Bring Your Own Key(BYOK)让你把自有上游供应商 key 挂到 AnyRouter 账号。请求匹配到你某把 key 能伺候的模型时,AnyRouter 用你的 key 转发,你按供应商牌价直接付给他们。AnyRouter 的功能你都还在——统一 API、日志、分析、预设、路由、app 归因——叠在你已有的账号上。 AnyRouter 为 60 多家供应商开放 BYOK:OpenAI、Anthropic、Google AI Studio、Groq、NVIDIA NIM、Z.ai、Ollama Cloud,以及 Azure OpenAI、Bedrock、Vertex AI 这类企业端点。按供应商的完整设置指南在 /docs/features/byok-providers。 ## AnyRouter 对 BYOK 收加价吗? 不收。AnyRouter 对 BYOK 流量一分不收——没有按请求费、没有附加费、没有最低消费。经你自己供应商 key 伺候的请求从不扣 AnyRouter 额度,任何套餐都一样。你只付给供应商。若某供应商的每把 BYOK key 都耗尽,请求可以可选落到按量额度,活继续跑。 - 自有 key $0 加价——你付给供应商,不付给 AnyRouter。 - 保留自己的限流——走你账号的配额,不是共享池。 - 自动失败切换——每家供应商加不止一把 key,烧掉的 key(401/429)被隔离,下一把接上。 - 负载策略——每家供应商可选 Fallback、Round Robin、Weighted 或 Random。 - 按 key 预算——给任何一把 key 设月度封顶,跑飞的循环掏不空供应商账号。 ## 在整池 key 上路由 加完 key 后,三个内置 id 可以不点名具体模型就在全部 key 上路由——而且它们只用你自己的 key,从不花 AnyRouter 额度: | Model id | Routes to | | --- | --- | | anyrouter/byok | Every model your configured keys can reach | | anyrouter/coding | The coding-capable subset | | anyrouter/agent | The tool / function-calling subset, built for agents | ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` ## 捐闲置 key,赚额度,免费用 Go 多数供应商额度大部分时间闲着。给符合条件的 BYOK key 打开捐赠开关,共享池经它打出去的每次请求,都会把该次名义 token 成本最多 8% 记到随时可领的 pending 余额。捐一把还能用的 key 也会在 key 保持活跃期间自动免费开通 Go——所以你跳过每月 $2。你自己的 key 仍优先接你的调用;池子只用多余容量,随时可以立刻退出。 - 捐出的 key 每服务一枚 token 最多拿回 8%——Go 上 5%,Pro/Max 上 8%,每把 key 每个 UTC 日上限 $1。这个 $1 是捐赠上限,不是 Go 价格。 - 资格看路由,不看 ToS——AnyRouter 能打到那家供应商时开关才出现。供应商条款是否允许分享 key,由你确认。 - 明确、有记录的同意——不会自动报名。 - 429 自动暂停,控制台立刻退出。 池子数字看 /pool,捐赠看 /donate,分成机制读 /blog/shared-key-pool。 ## 我的 key 怎么保护? BYOK key 是敏感凭证,AnyRouter 也当敏感凭证处理。静态加密带每行盐,一把 key 的密文泄漏不会削弱另一把。界面只写不读——保存后只显示别名和打码标识。它们从请求和响应日志里剥掉,保存时现场校验(然后丢掉校验响应),并且只发给它们作用域对应的上游供应商。 把你已经在付的供应商 key 经一个 API 路由,$0 加价。 [接一把 key](https://anyrouter.dev/byok) --- # BYOK: mang key của bạn tới mọi nhà cung cấp > Gắn key OpenAI, Anthropic, Google và 60+ nhà cung cấp khác bạn đã trả, route qua một URL tương thích OpenAI với $0 markup, trần chi tiêu mỗi key, và — nếu donate quota nhàn rỗi vào shared pool — nhận lại tới 8% và mở Go miễn phí khi key được donate còn hoạt động. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/byok-bring-your-own-keys ## BYOK trên AnyRouter là gì? Bring Your Own Key (BYOK) cho phép gắn key nhà cung cấp upstream của bạn vào tài khoản AnyRouter. Khi request khớp mô hình một trong các key của bạn phục vụ được, AnyRouter forward cuộc gọi trên key của bạn và bạn trả nhà cung cấp trực tiếp theo giá niêm yết. Bạn giữ mọi tính năng AnyRouter — một API thống nhất, log, analytics, preset, routing, app attribution — trên các tài khoản bạn đã có. AnyRouter mở BYOK cho hơn 60 nhà cung cấp: OpenAI, Anthropic, Google AI Studio, Groq, NVIDIA NIM, Z.ai, Ollama Cloud, và endpoint doanh nghiệp như Azure OpenAI, Bedrock, Vertex AI. Hướng dẫn setup từng nhà cung cấp nằm ở /docs/features/byok-providers. ## AnyRouter có thu markup trên BYOK không? Không. AnyRouter không thu gì trên traffic BYOK — không phí mỗi request, không surcharge, không minimum. Request phục vụ qua key nhà cung cấp của bạn không bao giờ trừ credit AnyRouter, trên mọi plan. Bạn chỉ trả nhà cung cấp. Nếu mọi key BYOK của một nhà cung cấp cạn, request có thể tùy chọn rơi xuống credit pay-as-you-go để việc tiếp tục chạy. - $0 markup trên key của bạn — bạn trả nhà cung cấp, không trả AnyRouter. - Giữ rate limit của bạn — bạn route trên quota tài khoản, không shared pool. - Failover tự động — thêm hơn một key mỗi nhà cung cấp và key cháy (401/429) bị cách ly trong khi key tiếp theo nhận. - Chiến lược cân tải — Fallback, Round Robin, Weighted, hoặc Random mỗi nhà cung cấp. - Ngân sách mỗi key — trần chi tiêu tháng trên bất kỳ key nào để vòng lặp chạy loạn không rút cạn tài khoản nhà cung cấp. ## Route trên cả pool key của bạn Sau khi thêm key, ba id built-in route trên tất cả mà không gọi tên mô hình cụ thể — và vì chúng chỉ dùng key của bạn, chúng không bao giờ tiêu credit AnyRouter: | Model id | Routes to | | --- | --- | | anyrouter/byok | Every model your configured keys can reach | | anyrouter/coding | The coding-capable subset | | anyrouter/agent | The tool / function-calling subset, built for agents | ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` ## Donate key nhàn rỗi, nhận credit, Go miễn phí Hầu hết quota nhà cung cấp nằm không hầu hết thời gian. Bật donate trên key BYOK đủ điều kiện và mỗi request shared pool route qua nó cộng tới 8% chi phí token danh nghĩa của request đó vào số dư pending bạn claim bất cứ lúc nào. Donate một key còn chạy cũng tự cấp plan Go miễn phí, miễn key còn active — nên bạn bỏ qua $2/tháng. Bạn vẫn được gọi trước trên key của mình; pool chỉ dùng dung lượng thừa, và bạn opt-out ngay lập tức. - Nhận lại tới 8% trên mỗi token key được donate phục vụ — 5% trên Go, 8% trên Pro/Max, trần $1 mỗi key mỗi ngày UTC. $1 đó là trần donate, không phải giá Go. - Eligibility là về routing, không ToS — toggle hiện khi AnyRouter route được tới nhà cung cấp đó. Bạn chịu trách nhiệm xác nhận điều khoản nhà cung cấp cho phép chia sẻ key. - Đồng ý tường minh, được ghi — không tự enroll. - Tự pause khi 429 và opt-out tức thì từ dashboard. Xem pool bằng số ở /pool, donate ở /donate, và cơ chế thưởng trong /blog/shared-key-pool. ## Key của tôi được bảo vệ thế nào? Key BYOK là credential nhạy cảm và AnyRouter đối xử như vậy. Chúng được mã hóa at rest với salt mỗi hàng, nên rò ciphertext một key không làm yếu key khác. Chúng write-only trên UI — sau khi lưu chỉ hiện alias và định danh đã mask. Chúng bị tước khỏi log request và response, validate live lúc lưu (rồi bỏ response validate), và chỉ gửi tới nhà cung cấp upstream mà chúng được scope. Route key nhà cung cấp bạn đã trả qua một API với $0 markup. [Kết nối một key](https://anyrouter.dev/byok) --- # Run coding agents through one gateway > Point Claude Code, Codex, OpenCode, Cursor, or any OpenAI-compatible tool at AnyRouter and get one key for every model, unified billing, per-request audit logs, and app attribution. Two environment variables — or one npx command with the anyr CLI launcher. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/coding-agents-one-gateway ## Why route coding agents through a gateway? Claude Code, Codex, OpenCode, Cursor, and their cousins all let you override the base URL and key. Point them at AnyRouter and every request from every tool lands on one account: one key for every model, one balance, one audit log with cost, latency, and token counts per request — and the freedom to pick a different model per tool without touching provider SDKs. Two things make this clean. Claude Code speaks the Anthropic dialect (/messages), Codex and Cursor speak the OpenAI dialect (/chat/completions), and AnyRouter serves both from the same endpoint. And app attribution headers let each tool show up separately in your usage analytics. ## How do I point Claude Code at a custom base URL? Claude Code reads two environment variables. Set them to AnyRouter and every request routes through your account: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — manual configuration._ Codex and any OpenAI-compatible tool read the OpenAI pair instead: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-your-anyrouter-key" codex "Refactor this function to use async/await" ``` _Codex / Cursor / any OpenAI-compatible client._ For Cursor, paste the same base URL (`https://anyrouter.dev/api/v1`) and an `sk-ar-` key into its OpenAI-compatible custom-model settings — no other change needed. ## The anyr CLI launcher does it for you If you'd rather not manage environment variables, the `anyr` launcher handles login, key storage, and the environment in one command — and the same stored key powers every launcher: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Same for Codex and OpenCode — reuses the stored key anyr codex anyr opencode # Pin a model, set reasoning depth, or preview the env anyr claude --model "z-ai/glm-5.2" anyr opencode --model "anthropic/claude-sonnet-4-6" anyr claude --dry-run ``` Config is saved to `~/.anyrouter/config.yaml` and reused next time. Everything after `--` forwards to the underlying tool verbatim (e.g. `anyr claude -- --resume`). ## Attribute each tool's usage Send app-attribution headers and each tool earns its own row in your analytics and the public rankings. `HTTP-Referer` is the primary identifier; the optional `X-AnyRouter-*` headers set the display name, platform, version, and marketplace category (coding tools fit `cli-agent` or `ide-extension`). ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-your-key" \ -H "HTTP-Referer: https://myagent.dev" \ -H "X-AnyRouter-Title: My Coding Agent" \ -H "X-AnyRouter-Source: cli" \ -H "X-AnyRouter-Categories: cli-agent" \ -H "Content-Type: application/json" \ -d '{ "model": "anthropic/claude-opus-4-8", "messages": [{"role":"user","content":"hi"}] }' ``` Full setup guides live at /cli and /docs. To route on keys you already pay for, pair this with BYOK — /blog/byok-bring-your-own-keys. One key for Claude Code, Codex, OpenCode, and Cursor — unified billing and audit logs. [Set up the CLI](https://anyrouter.dev/cli) --- # 让 coding agent 走同一个网关 > 把 Claude Code、Codex、OpenCode、Cursor 或任何兼容 OpenAI 的工具指到 AnyRouter,一把 key 打到每个模型,统一账单、按请求审计日志和 app 归因。两个环境变量——或者一条 npx 命令配 anyr CLI launcher。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/coding-agents-one-gateway ## 为什么让 coding agent 走网关? Claude Code、Codex、OpenCode、Cursor 和同类工具都允许覆盖 base URL 和 key。指到 AnyRouter,每个工具的每次请求都落到一个账号:一把 key 打到每个模型,一份余额,一份带每次请求成本、延迟和 token 数的审计日志——还可以按工具换模型,不用碰供应商 SDK。 两件事让这干净。Claude Code 说 Anthropic 方言(/messages),Codex 和 Cursor 说 OpenAI 方言(/chat/completions),AnyRouter 从同一端点伺候两者。App 归因头让每个工具在用量分析里单独成行。 ## 怎么把 Claude Code 指到自定义 base URL? Claude Code 读两个环境变量。设成 AnyRouter,每次请求都经你的账号走: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — manual configuration._ Codex 和任何兼容 OpenAI 的工具读 OpenAI 那一对: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-your-anyrouter-key" codex "Refactor this function to use async/await" ``` _Codex / Cursor / any OpenAI-compatible client._ Cursor 把同一 base URL(`https://anyrouter.dev/api/v1`)和一把 `sk-ar-` key 贴进兼容 OpenAI 的自定义模型设置——不用改别的。 ## anyr CLI launcher 替你做 不想管环境变量的话,`anyr` launcher 一条命令处理登录、存 key 和环境——同一把存好的 key 驱动每个 launcher: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Same for Codex and OpenCode — reuses the stored key anyr codex anyr opencode # Pin a model, set reasoning depth, or preview the env anyr claude --model "z-ai/glm-5.2" anyr opencode --model "anthropic/claude-sonnet-4-6" anyr claude --dry-run ``` 配置存到 `~/.anyrouter/config.yaml`,下次复用。`--` 后面原样转给底层工具(例如 `anyr claude -- --resume`)。 ## 给每个工具的用量归因 发 app 归因头,每个工具在分析和公开排名里各占一行。`HTTP-Referer` 是主标识;可选的 `X-AnyRouter-*` 头设显示名、平台、版本和市场类目(编程工具适合 `cli-agent` 或 `ide-extension`)。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-your-key" \ -H "HTTP-Referer: https://myagent.dev" \ -H "X-AnyRouter-Title: My Coding Agent" \ -H "X-AnyRouter-Source: cli" \ -H "X-AnyRouter-Categories: cli-agent" \ -H "Content-Type: application/json" \ -d '{ "model": "anthropic/claude-opus-4-8", "messages": [{"role":"user","content":"hi"}] }' ``` 完整设置指南在 /cli 和 /docs。要用你已经在付的 key 路由,搭配 BYOK — /blog/zh/byok-bring-your-own-keys。 一把 key 给 Claude Code、Codex、OpenCode 和 Cursor——统一账单和审计日志。 [设置 CLI](https://anyrouter.dev/cli) --- # Chạy coding agent qua một gateway > Chỉ Claude Code, Codex, OpenCode, Cursor, hoặc bất kỳ công cụ tương thích OpenAI vào AnyRouter và có một key cho mọi mô hình, billing thống nhất, audit log mỗi request, và app attribution. Hai biến môi trường — hoặc một lệnh npx với anyr CLI launcher. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/coding-agents-one-gateway ## Vì sao route coding agent qua gateway? Claude Code, Codex, OpenCode, Cursor và họ hàng đều cho override base URL và key. Chỉ chúng vào AnyRouter thì mọi request từ mọi công cụ đổ vào một tài khoản: một key cho mọi mô hình, một số dư, một audit log với cost, latency và token mỗi request — và tự do chọn mô hình khác mỗi công cụ mà không đụng SDK nhà cung cấp. Hai điều làm việc này sạch. Claude Code nói dialect Anthropic (/messages), Codex và Cursor nói dialect OpenAI (/chat/completions), và AnyRouter phục vụ cả hai từ cùng endpoint. Header app attribution để mỗi công cụ hiện riêng trong analytics usage. ## Làm sao chỉ Claude Code vào custom base URL? Claude Code đọc hai biến môi trường. Đặt chúng thành AnyRouter thì mọi request đi qua tài khoản của bạn: ```bash export ANTHROPIC_BASE_URL="https://anyrouter.dev/api" export ANTHROPIC_API_KEY="sk-ar-your-anyrouter-key" claude ``` _Claude Code — manual configuration._ Codex và mọi công cụ tương thích OpenAI đọc cặp OpenAI: ```bash export OPENAI_BASE_URL="https://anyrouter.dev/api/v1" export OPENAI_API_KEY="sk-ar-your-anyrouter-key" codex "Refactor this function to use async/await" ``` _Codex / Cursor / any OpenAI-compatible client._ Với Cursor, dán cùng base URL (`https://anyrouter.dev/api/v1`) và một key `sk-ar-` vào setting custom-model tương thích OpenAI — không cần đổi gì khác. ## anyr CLI launcher làm hộ Nếu không muốn quản biến môi trường, launcher `anyr` xử lý login, lưu key và môi trường trong một lệnh — cùng key đã lưu chạy mọi launcher: ```bash # Install the native CLI (no Node required) curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login # Launch Claude Code through AnyRouter anyr claude # Same for Codex and OpenCode — reuses the stored key anyr codex anyr opencode # Pin a model, set reasoning depth, or preview the env anyr claude --model "z-ai/glm-5.2" anyr opencode --model "anthropic/claude-sonnet-4-6" anyr claude --dry-run ``` Config lưu vào `~/.anyrouter/config.yaml` và tái dùng lần sau. Mọi thứ sau `--` forward nguyên văn tới công cụ bên dưới (ví dụ `anyr claude -- --resume`). ## Gán usage từng công cụ Gửi header app-attribution và mỗi công cụ có hàng riêng trên analytics và bảng xếp hạng công khai. `HTTP-Referer` là định danh chính; header tùy chọn `X-AnyRouter-*` đặt tên hiển thị, nền tảng, phiên bản và category marketplace (công cụ coding hợp `cli-agent` hoặc `ide-extension`). ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-your-key" \ -H "HTTP-Referer: https://myagent.dev" \ -H "X-AnyRouter-Title: My Coding Agent" \ -H "X-AnyRouter-Source: cli" \ -H "X-AnyRouter-Categories: cli-agent" \ -H "Content-Type: application/json" \ -d '{ "model": "anthropic/claude-opus-4-8", "messages": [{"role":"user","content":"hi"}] }' ``` Hướng dẫn đầy đủ ở /cli và /docs. Để route trên key bạn đã trả, ghép với BYOK — /blog/vi/byok-bring-your-own-keys. Một key cho Claude Code, Codex, OpenCode và Cursor — billing thống nhất và audit log. [Thiết lập CLI](https://anyrouter.dev/cli) --- # An MCP gateway with managed server access > AnyRouter runs a Model Context Protocol server that exposes your workspace — models, keys, presets, credits, and status — as JSON-RPC tools, with OAuth 2.1 auth and a dashboard MCP Gateway for managed access. One endpoint any MCP client can connect to. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/mcp-gateway-managed-servers ## What is the AnyRouter MCP server? AnyRouter runs a Model Context Protocol (MCP) server that turns your workspace into JSON-RPC tools any MCP-capable client can call — Claude Desktop, Claude Code, Cursor, OpenCode, or your own agents. Instead of hand-wiring a script to check your balance or list models, your assistant calls a tool over one stable endpoint: ```bash https://anyrouter.dev/api/v1/mcp ``` _The single endpoint any MCP client connects to._ It speaks JSON-RPC 2.0 over the Streamable HTTP transport, so any standard MCP client points at it with no custom code. ## What tools does it expose? The server surfaces your workspace as a small, scoped tool catalog — read your credits, manage keys, inspect presets and conversations, and check system health, straight from your assistant: | Tool | Purpose | Scope | | --- | --- | --- | | list_models | Search the model catalog | None | | get_credits | Balance and lifetime usage | read:credits | | list_keys / create_key / revoke_key | Manage LLM API keys | read/write:llm-keys | | list_presets | List workspace presets | read:presets | | list_conversations | Search workspace conversations | read:llm-keys | | get_system_status | Health snapshot across API, providers, smoke tests | None | The MCP server does not expose a chat tool — clients call the Chat Completions, Messages, or Responses endpoints directly for inference. Administrators see additional admin tools, hidden from everyone else. ## How does auth and managed access work? Clients authenticate with an OAuth 2.1 bearer token, or a static key: an LLM key (`sk-ar-v1-…`, which grants `list_models` only) or a management key (`ak_…`) carrying the scopes the tools you call require. On the OAuth consent screen the user picks one bundle — Read-only, Standard, or Full — and can downgrade from what a client requests; a tool needing a scope outside the granted bundle returns permission denied. The dashboard MCP Gateway tab is where you manage this: connect clients, control which tools are exposed and to whom, and watch the same identity and audit trail you already use for inference. Adding a tool doesn't mean re-editing every client's config. ## Connect in one line Point your MCP client at the endpoint and authenticate once. Step-by-step client setup for Claude Desktop, Claude Code, Cursor, and OpenCode lives at /docs/api-reference/mcp. Connect the AnyRouter MCP server to Claude Desktop, Cursor, or Claude Code — free. [Set up MCP](https://anyrouter.dev/docs/api-reference/mcp) --- # 带托管服务访问的 MCP 网关 > AnyRouter 跑一个 Model Context Protocol 服务器,把工作区——模型、key、预设、额度、状态——暴露成 JSON-RPC 工具,带 OAuth 2.1 鉴权,以及控制台 MCP Gateway 做托管访问。任何 MCP 客户端都能连的一个端点。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/mcp-gateway-managed-servers ## AnyRouter MCP 服务器是什么? AnyRouter 跑一个 Model Context Protocol(MCP)服务器,把工作区变成任何能 MCP 的客户端都能调的 JSON-RPC 工具——Claude Desktop、Claude Code、Cursor、OpenCode,或你自己的 agent。不必手写脚本查余额或列模型,助手经一个稳定端点调工具: ```bash https://anyrouter.dev/api/v1/mcp ``` _任何 MCP 客户端都连这个端点。_ 它在 Streamable HTTP 传输上说 JSON-RPC 2.0,标准 MCP 客户端指过去即可,不用定制代码。 ## 它暴露哪些工具? 服务器把工作区收成一份小而有范围的工具目录——读额度、管 key、看预设和会话、查系统健康,直接从助手里: | Tool | 用途 | Scope | | --- | --- | --- | | list_models | 搜索模型目录 | None | | get_credits | 余额和累计用量 | read:credits | | list_keys / create_key / revoke_key | 管理 LLM API key | read/write:llm-keys | | list_presets | 列出工作区预设 | read:presets | | list_conversations | 搜索工作区会话 | read:llm-keys | | get_system_status | API、供应商、冒烟测试的健康快照 | None | MCP 服务器不暴露 chat 工具——客户端对 Chat Completions、Messages 或 Responses 端点直接做推理。管理员能看见额外的管理工具,其他人看不见。 ## 鉴权和托管访问怎么走? 客户端用 OAuth 2.1 bearer token 鉴权,或一把静态 key:LLM key(`sk-ar-v1-…`,只给 `list_models`)或带所需 scope 的管理 key(`ak_…`)。OAuth 同意屏上用户选一包——只读、标准或完整——并可以从客户端请求的范围降级;工具需要的 scope 不在已授权包里就返回 permission denied。 控制台 MCP Gateway 页就是管这些的地方:接客户端、控制暴露哪些工具给谁,以及沿用你已经用于推理的同一身份和审计轨迹。加一个工具不必重编每个客户端的配置。 ## 一行连上 把 MCP 客户端指到端点,鉴权一次。Claude Desktop、Claude Code、Cursor 和 OpenCode 的逐步设置在 /docs/api-reference/mcp。 把 AnyRouter MCP 服务器接到 Claude Desktop、Cursor 或 Claude Code——免费。 [设置 MCP](https://anyrouter.dev/docs/api-reference/mcp) --- # MCP gateway với truy cập server được quản lý > AnyRouter chạy một Model Context Protocol server, lộ workspace — mô hình, key, preset, credit và trạng thái — thành công cụ JSON-RPC, auth OAuth 2.1, và MCP Gateway trên dashboard cho truy cập được quản lý. Một endpoint mọi MCP client có thể kết nối. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/mcp-gateway-managed-servers ## AnyRouter MCP server là gì? AnyRouter chạy một Model Context Protocol (MCP) server biến workspace thành công cụ JSON-RPC mà mọi client MCP đều gọi được — Claude Desktop, Claude Code, Cursor, OpenCode, hoặc agent của bạn. Thay vì tự viết script kiểm số dư hay liệt kê mô hình, assistant gọi một tool trên một endpoint ổn định: ```bash https://anyrouter.dev/api/v1/mcp ``` _Endpoint duy nhất mọi MCP client kết nối._ Nó nói JSON-RPC 2.0 trên transport Streamable HTTP, nên MCP client chuẩn chỉ vào đó, không cần code tùy biến. ## Nó lộ những tool nào? Server đưa workspace thành catalog tool nhỏ, có scope — đọc credit, quản key, xem preset và hội thoại, kiểm sức khỏe hệ thống, thẳng từ assistant: | Tool | Mục đích | Scope | | --- | --- | --- | | list_models | Tìm catalog model | None | | get_credits | Số dư và usage trọn đời | read:credits | | list_keys / create_key / revoke_key | Quản key LLM API | read/write:llm-keys | | list_presets | Liệt kê preset workspace | read:presets | | list_conversations | Tìm hội thoại workspace | read:llm-keys | | get_system_status | Snapshot sức khỏe API, nhà cung cấp, smoke test | None | MCP server không lộ chat tool — client gọi Chat Completions, Messages, hoặc Responses trực tiếp cho inference. Admin thấy thêm admin tool, ẩn với mọi người khác. ## Auth và truy cập được quản lý hoạt động thế nào? Client xác thực bằng OAuth 2.1 bearer token, hoặc key tĩnh: LLM key (`sk-ar-v1-…`, chỉ cấp `list_models`) hoặc management key (`ak_…`) mang scope mà tool bạn gọi cần. Trên màn hình OAuth consent, user chọn một gói — Read-only, Standard, hoặc Full — và có thể hạ thấp hơn client yêu cầu; tool cần scope ngoài gói đã cấp trả permission denied. Tab MCP Gateway trên dashboard là nơi quản lý: kết nối client, kiểm soát tool nào lộ cho ai, và theo dõi cùng identity cùng audit trail bạn đã dùng cho inference. Thêm một tool không nghĩa là sửa lại config mọi client. ## Kết nối một dòng Chỉ MCP client vào endpoint và xác thực một lần. Setup từng bước cho Claude Desktop, Claude Code, Cursor và OpenCode nằm ở /docs/api-reference/mcp. Kết nối AnyRouter MCP server với Claude Desktop, Cursor, hoặc Claude Code — miễn phí. [Thiết lập MCP](https://anyrouter.dev/docs/api-reference/mcp) --- # A unified AI API: one endpoint, every provider dialect > OpenAI ships /chat/completions, Anthropic ships /messages, OpenAI's newer surface is /responses. A unified AI API speaks all of them at one URL, so the client library you already use keeps working — you swap the base URL, not the code. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/unified-ai-api-one-endpoint ## Unify the contract, not just the routing Routing many models behind one endpoint solves half the fragmentation problem. The other half is dialect: OpenAI's SDK expects /chat/completions, Anthropic's SDK expects /messages, and OpenAI's newer Responses API expects /responses. A unified AI API implements all three request shapes on one surface, so whichever SDK your codebase already speaks keeps working unchanged. | Dialect | Endpoint | For | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Drop-in for OpenAI's chat SDK | | Anthropic messages | /api/v1/messages | Drop-in for Claude clients | | OpenAI Responses | /api/v1/responses | The newer OpenAI Responses surface | | Embeddings | /api/v1/embeddings | OpenAI-style vector embeddings | ## The same model, two dialects Because the contract is the standard API, you keep the client library you have and just point it at AnyRouter. An OpenAI client: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _OpenAI SDK — swap the base URL, keep the code._ …or an Anthropic client, against the same account and key: ```python from anthropic import Anthropic client = Anthropic(base_url="https://anyrouter.dev/api", api_key="sk-ar-v1-...") msg = client.messages.create( model="anthropic/claude-opus-4-8", max_tokens=256, messages=[{"role": "user", "content": "Hello"}], ) ``` _Anthropic SDK — same key, the /messages surface._ ## No SDK lock-in A unifying layer is only safe if leaving it is easy. Every surface here is a public standard, not a proprietary protocol — the same code points straight back at OpenAI or Anthropic if you ever move on. Model ids become `provider/model` strings, so choosing a model is a config value, and you get one key, one bill, and one audit log across every dialect. This is the contract side of the story. For the routing side — automatic failover and provider preferences across hundreds of models — see /blog/one-api-every-llm. One endpoint that speaks OpenAI chat, Anthropic /messages, and the Responses API. [See the unified API](https://anyrouter.dev/unify-api) --- # 统一 AI API:一个端点,每家供应商的方言 > OpenAI 出 /chat/completions,Anthropic 出 /messages,OpenAI 较新的表面是 /responses。统一 AI API 在一个 URL 上说完这些,你已有的客户端库继续工作——换 base URL,不换代码。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/unified-ai-api-one-endpoint ## 统一契约,不只是统一路由 把很多模型接到一个端点只解决碎片化的一半。另一半是方言:OpenAI SDK 要 /chat/completions,Anthropic SDK 要 /messages,OpenAI 较新的 Responses API 要 /responses。统一 AI API 在一个表面上实现三种请求形状,所以代码库已经会说的 SDK 不用改。 | Dialect | Endpoint | For | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Drop-in for OpenAI's chat SDK | | Anthropic messages | /api/v1/messages | Drop-in for Claude clients | | OpenAI Responses | /api/v1/responses | The newer OpenAI Responses surface | | Embeddings | /api/v1/embeddings | OpenAI-style vector embeddings | ## 同一个模型,两种方言 因为契约是标准 API,你留着手里的客户端库,只把它指到 AnyRouter。OpenAI 客户端: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _OpenAI SDK — swap the base URL, keep the code._ ……或 Anthropic 客户端,对着同一账号和 key: ```python from anthropic import Anthropic client = Anthropic(base_url="https://anyrouter.dev/api", api_key="sk-ar-v1-...") msg = client.messages.create( model="anthropic/claude-opus-4-8", max_tokens=256, messages=[{"role": "user", "content": "Hello"}], ) ``` _Anthropic SDK — same key, the /messages surface._ ## 没有 SDK 锁定 统一层只有在离开它很容易时才安全。这里每个表面都是公开标准,不是私有协议——同一份代码随时可以指回 OpenAI 或 Anthropic。Model id 变成 `provider/model` 字符串,选模型是配置值,你在每种方言上拿到一把 key、一张账单、一份审计日志。 这是契约这一面。路由那一面——数百个模型上的自动失败切换和供应商偏好——见 /blog/zh/one-api-every-llm。 一个端点说 OpenAI chat、Anthropic /messages 和 Responses API。 [看统一 API](https://anyrouter.dev/unify-api) --- # Unified AI API: một endpoint, mọi dialect nhà cung cấp > OpenAI ship /chat/completions, Anthropic ship /messages, bề mặt mới hơn của OpenAI là /responses. Unified AI API nói cả ba tại một URL, nên thư viện client bạn đã dùng vẫn chạy — bạn đổi base URL, không đổi code. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/unified-ai-api-one-endpoint ## Thống nhất hợp đồng, không chỉ routing Route nhiều mô hình sau một endpoint giải quyết nửa bài toán phân mảnh. Nửa còn lại là dialect: SDK OpenAI cần /chat/completions, SDK Anthropic cần /messages, Responses API mới hơn của OpenAI cần /responses. Unified AI API triển khai cả ba hình request trên một bề mặt, nên SDK codebase đã nói vẫn chạy không đổi. | Dialect | Endpoint | For | | --- | --- | --- | | OpenAI chat | /api/v1/chat/completions | Drop-in for OpenAI's chat SDK | | Anthropic messages | /api/v1/messages | Drop-in for Claude clients | | OpenAI Responses | /api/v1/responses | The newer OpenAI Responses surface | | Embeddings | /api/v1/embeddings | OpenAI-style vector embeddings | ## Cùng một mô hình, hai dialect Vì hợp đồng là API chuẩn, bạn giữ thư viện client sẵn có và chỉ chỉ nó vào AnyRouter. Một client OpenAI: ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _OpenAI SDK — swap the base URL, keep the code._ …hoặc client Anthropic, cùng tài khoản và key: ```python from anthropic import Anthropic client = Anthropic(base_url="https://anyrouter.dev/api", api_key="sk-ar-v1-...") msg = client.messages.create( model="anthropic/claude-opus-4-8", max_tokens=256, messages=[{"role": "user", "content": "Hello"}], ) ``` _Anthropic SDK — same key, the /messages surface._ ## Không lock-in SDK Lớp thống nhất chỉ an toàn nếu rời đi dễ. Mọi bề mặt ở đây là chuẩn công khai, không protocol độc quyền — cùng code chỉ thẳng lại OpenAI hoặc Anthropic nếu bạn chuyển. Model id thành chuỗi `provider/model`, chọn mô hình là giá trị config, và bạn có một key, một hóa đơn, một audit log trên mọi dialect. Đây là mặt hợp đồng. Mặt routing — failover tự động và provider preferences trên hàng trăm mô hình — xem /blog/vi/one-api-every-llm. Một endpoint nói OpenAI chat, Anthropic /messages, và Responses API. [Xem unified API](https://anyrouter.dev/unify-api) --- # An OpenAI API alternative that keeps your OpenAI code > Looking for an OpenAI-compatible API alternative? Keep your OpenAI SDK and code — swap one base URL and get every provider (including OpenAI itself), automatic failover, and $0-markup BYOK on the keys you already pay for. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/openai-api-alternative ## Keep the SDK, change the base URL The cheapest migration is the one that touches almost no code. AnyRouter is OpenAI-compatible, so an existing OpenAI integration moves over by changing two values — the base URL and the key — and nothing else. Streaming, tools, and the SDK all stay the same; model ids become `provider/model` strings. ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", # your AnyRouter key ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _Python — the only lines that change are base_url and api_key._ ```javascript import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "openai/gpt-5.5", messages: [{ role: "user", content: "Hello" }], }) ``` _JavaScript / TypeScript — same idea._ ## Why route through AnyRouter instead of straight to OpenAI? Calling OpenAI directly is one provider and one point of failure. Routing the same OpenAI-shaped requests through AnyRouter keeps OpenAI available and adds everyone else behind the same contract: - Every provider, including OpenAI — reach hundreds of models by changing a string, not a client. - Automatic failover — when an upstream is rate-limited or down, the request rolls to a healthy one. - $0-markup BYOK — attach your own OpenAI (and 60+ other) keys and pay only the provider. - One balance, one audit log — cost, latency, and tokens per request across every provider. - No lock-in — it's the standard OpenAI API; point back to api.openai.com anytime. ## Also speaks Anthropic and Responses If parts of your stack use Claude clients or OpenAI's newer Responses API, the same account serves /messages and /responses too — see /blog/unified-ai-api-one-endpoint. And to route coding agents like Claude Code or Codex through the same key, see /blog/coding-agents-one-gateway. Keep your OpenAI code — swap the base URL and reach every provider with failover. [Get a key free](https://anyrouter.dev/dashboard) --- # 一套保住 OpenAI 代码的 OpenAI API 替代 > 在找兼容 OpenAI 的 API 替代?留下 OpenAI SDK 和代码——换一个 base URL,打到每家供应商(包括 OpenAI 自己),自动故障切换,以及你已付费的 key 上 $0 markup 的 BYOK。 - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/openai-api-alternative ## 留下 SDK,改 base URL 最便宜的迁移几乎不动代码。AnyRouter 兼容 OpenAI,现有 OpenAI 集成只改两个值——base URL 和 key。流式、工具和 SDK 都不变;model id 变成 `provider/model` 字符串。 ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", # your AnyRouter key ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _Python——只有 base_url 和 api_key 会变。_ ```javascript import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "openai/gpt-5.5", messages: [{ role: "user", content: "Hello" }], }) ``` _JavaScript / TypeScript——同一思路。_ ## 为什么经 AnyRouter 而不是直打 OpenAI? 直打 OpenAI 是一家供应商、一个故障点。把同一形状的 OpenAI 请求经 AnyRouter 路由,OpenAI 仍在,其余供应商也在同一契约后面: - 每家供应商,包括 OpenAI——改一个字符串打到数百个模型,不用换客户端。 - 自动故障切换——上游限流或宕机,请求滚到健康的那家。 - $0 markup BYOK——挂上你自己的 OpenAI(以及 60+ 家)key,只付给供应商。 - 一个余额、一份审计日志——每个请求的费用、延迟和 token,跨所有供应商。 - 不锁死——这是标准 OpenAI API;随时指回 api.openai.com。 ## 也说 Anthropic 和 Responses 栈里若有 Claude 客户端或 OpenAI 较新的 Responses API,同一账户也服务 /messages 和 /responses——见 /blog/zh/unified-ai-api-one-endpoint。要把 Claude Code 或 Codex 这类编程 agent 走同一把 key,见 /blog/zh/coding-agents-one-gateway。 留下 OpenAI 代码——换 base URL,带故障切换打到每家供应商。 [免费拿一把 key](https://anyrouter.dev/dashboard) --- # Thay thế OpenAI API mà giữ nguyên code OpenAI > Tìm API thay thế tương thích OpenAI? Giữ SDK và code OpenAI — đổi một base URL, tới mọi nhà cung cấp (kể cả OpenAI), failover tự động, và BYOK markup $0 trên key bạn đã trả. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/openai-api-alternative ## Giữ SDK, đổi base URL Migration rẻ nhất là gần như không đụng code. AnyRouter tương thích OpenAI, nên tích hợp OpenAI sẵn có chuyển bằng hai giá trị — base URL và key — không gì khác. Streaming, tool, và SDK giữ nguyên; model id thành chuỗi `provider/model`. ```python from openai import OpenAI client = OpenAI( base_url="https://anyrouter.dev/api/v1", # was https://api.openai.com/v1 api_key="sk-ar-v1-...", # your AnyRouter key ) resp = client.chat.completions.create( model="openai/gpt-5.5", # or anthropic/claude-opus-4-8, google/gemini-2.5-pro messages=[{"role": "user", "content": "Hello"}], ) ``` _Python — chỉ đổi base_url và api_key._ ```javascript import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const resp = await client.chat.completions.create({ model: "openai/gpt-5.5", messages: [{ role: "user", content: "Hello" }], }) ``` _JavaScript / TypeScript — cùng ý._ ## Vì sao route qua AnyRouter thay vì thẳng OpenAI? Gọi OpenAI trực tiếp là một nhà cung cấp và một điểm hỏng. Route cùng request hình OpenAI qua AnyRouter vẫn giữ OpenAI và thêm mọi nhà khác sau cùng hợp đồng: - Mọi nhà cung cấp, kể cả OpenAI — tới hàng trăm model bằng đổi chuỗi, không đổi client. - Failover tự động — upstream bị rate-limit hoặc down thì request lăn sang cái khỏe. - BYOK markup $0 — gắn key OpenAI (và 60+ nhà khác) của bạn, chỉ trả nhà cung cấp. - Một số dư, một audit log — chi phí, latency, và token mỗi request trên mọi nhà. - Không lock-in — đây là OpenAI API chuẩn; bất cứ lúc nào chỉ lại api.openai.com. ## Cũng nói Anthropic và Responses Nếu phần stack dùng client Claude hoặc Responses API mới hơn của OpenAI, cùng tài khoản phục vụ /messages và /responses — xem /blog/vi/unified-ai-api-one-endpoint. Để route coding agent như Claude Code hoặc Codex qua cùng key, xem /blog/vi/coding-agents-one-gateway. Giữ code OpenAI — đổi base URL và tới mọi nhà cung cấp kèm failover. [Lấy key miễn phí](https://anyrouter.dev/dashboard) --- # OpenRouter alternatives 2026: how AnyRouter differs > OpenRouter alternatives 2026, without invented rankings: AnyRouter is one OpenRouter alternative with $0-markup BYOK, a donated shared pool, a $2/mo Go plan, Cloudflare-edge routing, on-device models via local relay, a built-in MCP server, and open pricing config. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/openrouter-alternative-anyrouter ## The shared idea, and where gateways differ People searching OpenRouter alternatives 2026 are usually comparing gateways, not ranking them. Every model-routing gateway — OpenRouter, AnyRouter, and others — shares one idea: a single OpenAI-compatible API in front of many providers, so you swap a model with a string instead of an integration. On that core, they're interchangeable, and AnyRouter is a genuine drop-in for OpenRouter-style usage (it even reads the OpenRouter `X-Title` header as a fallback so migrating apps keep their attribution). The differences show up on your invoice and in your codebase. Below is only what's verifiable about AnyRouter's side; we won't put words in OpenRouter's mouth on specifics that change over time. ## Where AnyRouter is different - $0-markup BYOK. Route on your own provider keys (60+ providers) and AnyRouter charges nothing — no per-request fee, no surcharge. You pay only the provider. - A donated shared pool. Members donate spare provider quota; every token the pool serves through your key adds up to 8% (tiered by plan) to a pending balance you can claim, and donating one key also grants the Go plan for free for as long as it stays active. - A $2/mo Go plan. $2 buys a $4 monthly credit for paid models — or donate a key and pay nothing. Free models need Go or higher. - Cloudflare-edge routing. AnyRouter runs on Cloudflare Workers, routing every provider through Cloudflare's AI Gateway at the edge. - On-device models via local relay. A first-party relay can serve models running on your own paired hardware — including Apple's on-device Foundation Model. - A built-in MCP server. Your workspace (models, keys, credits, status) is exposed as MCP tools with OAuth, so assistants manage AnyRouter directly. - Open pricing config. Model prices live in a version-controlled config in the repo, not a private table. ## Migrating is a two-line change Because AnyRouter speaks the same OpenAI-compatible contract, switching is usually just the base URL and the key; model ids become `provider/model`. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _Point your existing client at AnyRouter._ For the deeper dives: $0-markup BYOK in [BYOK](/blog/byok-bring-your-own-keys), the pool economics in [shared key pool](/blog/shared-key-pool), the $2 Go plan in [starter plan](/blog/starter-plan-one-dollar), and on-device inference in [local relay](/blog/apple-foundation-models-on-device). The shorter comparison checklist is [OpenRouter alternative](/blog/openrouter-alternative). A drop-in, OpenAI-compatible gateway with $0-markup BYOK and a donated free pool. [Try it free](https://anyrouter.dev/dashboard) --- # OpenRouter alternatives 2026:AnyRouter 差在哪 > OpenRouter alternatives 2026,没有编造排名:AnyRouter 是一种 OpenRouter 替代——$0 加价 BYOK、捐赠共享池、$2/月 Go、Cloudflare 边缘路由、经 local relay 的端侧模型、内置 MCP,以及开放定价配置。 - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/openrouter-alternative-anyrouter ## 共同想法,以及网关差在哪 搜 OpenRouter alternatives 2026 的人通常在比网关,不是在排榜。每个模型路由网关——OpenRouter、AnyRouter 以及其他——共用一个想法:一个兼容 OpenAI 的 API 挡在许多供应商前面,换模型改字符串而不是改集成。在这个内核上它们可互换,AnyRouter 对 OpenRouter 风格用法是真正的 drop-in(它甚至把 OpenRouter 的 `X-Title` 头当后备读,迁移应用仍能保留归属)。 差别出现在账单和代码库。下面只写 AnyRouter 一侧可核验的事实;不会替 OpenRouter 说会随时间变的细节。 ## AnyRouter 哪里不同 - $0 加价 BYOK。用你自己的供应商 key(60+ 家)路由,AnyRouter 不收费——没有按请求费,没有附加费。你只付给供应商。 - 捐赠共享池。成员捐出多余供应商额度;池经你的 key 发出的每个 token,按计划分层最多加 8% 到可领取的待入账余额;捐一把 key 还在它保持活跃期间免费赠送 Go 计划。 - $2/月 Go 计划。$2 买 $4 月度额度加免费模型访问——或捐一把 key,一分不付。 - Cloudflare 边缘路由。AnyRouter 跑在 Cloudflare Workers 上,经边缘的 Cloudflare AI Gateway 路由每家供应商。 - 经 local relay 的端侧模型。第一方 relay 可以服务跑在你已配对硬件上的模型——包括 Apple 端侧 Foundation Model。 - 内置 MCP 服务器。工作区(模型、key、额度、状态)以带 OAuth 的 MCP 工具暴露,助手直接管理 AnyRouter。 - 开放定价配置。模型价格活在仓库里受版本控制的配置中,不是私有表。 ## 迁移通常改两行 AnyRouter 说同一套兼容 OpenAI 的契约,切换通常只是 base URL 和 key;model id 变成 `provider/model`。 ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _把现有客户端指到 AnyRouter。_ 更深的部分:$0 加价 BYOK 见 [BYOK](/blog/zh/byok-bring-your-own-keys),池的经济见 [shared key pool](/blog/zh/shared-key-pool),$2 Go 计划见 [starter plan](/blog/zh/starter-plan-one-dollar),端侧推理见 [local relay](/blog/zh/apple-foundation-models-on-device)。更短的对照:[OpenRouter 替代](/blog/zh/openrouter-alternative)。 可替换的兼容 OpenAI 网关,带 $0 加价 BYOK 和捐赠免费池。 [免费试试](https://anyrouter.dev/dashboard) --- # OpenRouter alternatives 2026: AnyRouter khác chỗ nào > OpenRouter alternatives 2026, không xếp hạng bịa: AnyRouter là một thay thế OpenRouter với BYOK markup $0, pool dùng chung được góp, gói Go $2/tháng, routing cạnh Cloudflare, model trên máy qua local relay, MCP server sẵn, và config giá mở. - Date: July 12, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/openrouter-alternative-anyrouter ## Ý tưởng chung, và chỗ gateway khác nhau Người tìm OpenRouter alternatives 2026 thường đang so gateway, không xếp hạng. Mọi gateway route model — OpenRouter, AnyRouter, và khác — chung một ý: một API tương thích OpenAI trước nhiều nhà cung cấp, nên bạn đổi model bằng chuỗi thay vì một tích hợp. Ở lõi đó chúng thay thế được nhau, và AnyRouter là drop-in thật cho usage kiểu OpenRouter (nó còn đọc header OpenRouter `X-Title` làm fallback để app chuyển giữ attribution). Khác biệt hiện trên hóa đơn và codebase. Dưới đây chỉ những gì kiểm chứng được về phía AnyRouter; chúng tôi không gán lời cho OpenRouter về chi tiết đổi theo thời gian. ## AnyRouter khác ở đâu - BYOK markup $0. Route trên key nhà cung cấp của bạn (60+ nhà) và AnyRouter không thu gì — không phí từng request, không phụ phí. Bạn chỉ trả nhà cung cấp. - Pool dùng chung được góp. Thành viên góp hạn mức nhà cung cấp dư; mỗi token pool phục vụ qua key của bạn cộng tối đa 8% (theo bậc gói) vào số dư đang chờ bạn claim, và góp một key còn cấp gói Go miễn phí miễn key còn active. - Gói Go $2/tháng. $2 mua $4 credit tháng cho model trả phí (model miễn phí cần Go trở lên) — hoặc góp một key và không trả gì. - Routing cạnh Cloudflare. AnyRouter chạy trên Cloudflare Workers, route mọi nhà cung cấp qua Cloudflare AI Gateway ở cạnh. - Model trên máy qua local relay. Relay first-party phục vụ model chạy trên phần cứng bạn đã ghép — kể cả Foundation Model trên máy của Apple. - MCP server sẵn. Workspace (model, key, credit, trạng thái) lộ thành MCP tool với OAuth, nên assistant quản AnyRouter trực tiếp. - Config giá mở. Giá model nằm trong config được kiểm soát phiên bản trong repo, không phải bảng riêng. ## Chuyển thường chỉ hai dòng AnyRouter nói cùng hợp đồng tương thích OpenAI, nên chuyển thường chỉ base URL và key; model id thành `provider/model`. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", messages=[{"role": "user", "content": "Hello"}], ) ``` _Chỉ client sẵn có vào AnyRouter._ Đi sâu: BYOK markup $0 ở [BYOK](/blog/vi/byok-bring-your-own-keys), kinh tế pool ở [shared key pool](/blog/vi/shared-key-pool), gói Go $2 ở [starter plan](/blog/vi/starter-plan-one-dollar), inference trên máy ở [local relay](/blog/vi/apple-foundation-models-on-device). Checklist ngắn: [thay thế OpenRouter](/blog/vi/openrouter-alternative). Gateway thả vào, tương thích OpenAI, BYOK markup $0 và pool miễn phí được góp. [Thử miễn phí](https://anyrouter.dev/dashboard) --- # The top website for free LLM models — and how they're actually free > AnyRouter serves a real free LLM API across hundreds of catalog models. Here's what people actually route to for free, and the three honest mechanisms that make it free: the anyrouter/free tier, the donated shared pool, and self-hosted on-device models. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/top-free-models-api ## What people actually run for free We pulled real usage from the gateway — every generation served for free from launch through July 11, 2026 — and ranked the underlying models. The shape is lopsided: two models carry most of the free traffic while a long tail each sees a handful of calls. **Most-used free models** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 GLM-5.2 dominates by both requests and tokens (north of 200M free tokens served) because it's a strong, fast coding model with enough free capacity to run real work on. gpt-4o-mini is the opposite: many tiny requests, the classifier-and-glue model inside loops. The full breakdown is in /blog/most-used-free-models. ## How is any of this free? Three mechanisms "Free" here isn't a marketing asterisk — it's three concrete routes, each with clear limits: 1. The anyrouter/free tier — a rotating router over whatever free capacity is healthy. Works on Go and higher; no daily limit, no credit spent. The Free plan gets a 5-request lifetime trial. 2. The donated shared pool — members donate spare provider quota; those keys pool together and members draw on the sum. BYOK traffic never deducts credits, and donors earn 8% back. 3. Self-hosted on-device models — a first-party local relay serves models running on your own paired hardware, including Apple's on-device Foundation Model, at no provider cost. Each is honest about its ceiling: the free tier needs Go and is rate limited per account (150 a minute on Go (60 from a donated key), 400 on Pro, Pro+ and Max), the pool depends on donated headroom (and requires you to donate to draw on it on the Free plan), and on-device inference needs your own hardware. ## Start with free models Read /free for the anyrouter/free tier (Go and higher, no daily cap), browse the catalog on /models, and donate an idle key at /donate to unlock the pool and earn credits back. - The $2 Go plan (or free with a donated key): $4 monthly credit for paid models — /blog/free-models-one-dollar. - How the donated pool pays donors back — /blog/shared-key-pool. - On-device inference through the gateway — /blog/apple-foundation-models-on-device. A real free LLM API — the free tier, the donated pool, and on-device models in one place. [Try free models](https://anyrouter.dev/free) --- # 免费 LLM 模型的首选站点——以及它们究竟如何免费 > AnyRouter 在数百个目录模型上提供真正的免费 LLM API。下面是人们实际免费路由到的模型,以及让它免费的三种诚实机制:anyrouter/free、捐赠共享池,以及自托管的端侧模型。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/top-free-models-api ## 人们真正免费跑的是什么 我们从网关拉了真实用量——从上线到 2026 年 7 月 11 日每一笔免费 generation——再按底层模型排名。形状很偏:两个模型扛走大部分免费流量,长尾各自只有少量调用。 **最常用的免费模型** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 GLM-5.2 在请求和 token 上都领先(免费 token 超过 2 亿)——它是强而快的编程模型,免费容量够做真活。gpt-4o-mini 相反:大量很小的请求,循环里的分类和胶水模型。完整拆解见 /blog/zh/most-used-free-models。 ## 这凭什么免费?三种机制 这里的「免费」不是营销星号——三条具体路径,各有清楚上限: 1. anyrouter/free 档 — 在健康的免费容量上轮转路由。Go 及以上套餐可用,没有每日上限,不花额度;Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次,按账户计。 2. 捐赠共享池 — 成员捐出闲置供应商配额;这些 key 合在一起,成员从总和里取。BYOK 流量从不扣额度,捐赠者拿回 8%。 3. 自托管端侧模型 — 第一方本地中继服务跑在你已配对硬件上的模型,包括 Apple 端侧 Foundation Model,无供应商费用。 各自对天花板是诚实的:免费档只有每分钟限速,池子取决于捐赠余量(Free 套餐上要先捐才能取),端侧推理需要你自己的硬件。 ## 从免费模型开始 读 /free 了解 anyrouter/free 档(Go 及以上可用,无每日上限),在 /models 浏览目录,在 /donate 捐一把闲置 key 以解锁池子并拿回额度。 - 关于免费模型和 $2 Go 套餐分别买什么的说明 — /blog/zh/free-models-one-dollar。 - 捐赠池如何回馈捐赠者 — /blog/zh/shared-key-pool。 - 经网关的端侧推理 — /blog/zh/apple-foundation-models-on-device。 真正的免费 LLM API——免费档、捐赠池、端侧模型,一处。 [试用免费模型](https://anyrouter.dev/free) --- # Trang hàng đầu cho mô hình LLM miễn phí — và chúng miễn phí thế nào > AnyRouter phục vụ API LLM miễn phí thật trên hàng trăm mô hình catalog. Đây là thứ người ta thật sự route miễn phí, và ba cơ chế trung thực làm nó miễn phí: tầng ngày anyrouter/free, pool dùng chung từ key góp, và mô hình on-device tự host. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/top-free-models-api ## Người ta thật sự chạy miễn phí cái gì Chúng tôi lấy usage thật từ gateway — mọi generation phục vụ miễn phí từ lúc ra mắt đến 11 tháng 7, 2026 — rồi xếp mô hình nền. Hình lệch: hai mô hình gánh phần lớn traffic miễn phí, đuôi dài mỗi cái vài call. **Mô hình miễn phí dùng nhiều nhất** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 GLM-5.2 dẫn cả request và token (hơn 200M token miễn phí đã phục vụ) vì đây là mô hình coding mạnh, nhanh, đủ capacity miễn phí để làm việc thật. gpt-4o-mini ngược lại: nhiều request nhỏ, mô hình phân loại-và-dán trong vòng lặp. Phân tích đủ ở /blog/vi/most-used-free-models. ## Sao lại miễn phí? Ba cơ chế "Miễn phí" ở đây không phải dấu sao marketing — ba đường cụ thể, mỗi cái có trần rõ: 1. Tầng anyrouter/free — router xoay trên capacity miễn phí còn khỏe. Dùng được từ gói Go trở lên; không trần theo ngày, giới hạn 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản, không tiêu credit. 2. Pool dùng chung từ key góp — thành viên góp quota nhà cung cấp dư; những key đó gom lại và thành viên lấy từ tổng. Traffic BYOK không trừ credit, người góp nhận 8% lại. 3. Mô hình on-device tự host — local relay first-party phục vụ mô hình chạy trên phần cứng đã ghép của bạn, gồm Foundation Model on-device của Apple, không phí nhà cung cấp. Mỗi cái thành thật về trần: tầng ngày có cap request, pool phụ thuộc headroom góp (và trên gói Free bạn phải góp mới lấy được), inference on-device cần phần cứng của bạn. ## Bắt đầu với mô hình miễn phí Đọc /free cho tầng anyrouter/free (Go trở lên, 60–400 req/phút mỗi tài khoản, theo gói), duyệt catalog trên /models, góp key nhàn tại /donate để mở pool và nhận credit lại. - Bài về gói $2 (hoặc miễn phí) mở free tier — /blog/vi/free-models-one-dollar. - Pool góp trả người góp thế nào — /blog/vi/shared-key-pool. - Inference on-device qua gateway — /blog/vi/apple-foundation-models-on-device. API LLM miễn phí thật — free tier, pool góp, và mô hình on-device một chỗ. [Thử mô hình miễn phí](https://anyrouter.dev/free) --- # Free models, just $2 a month > AnyRouter's Go plan is $2/mo: a $4 monthly credit for paid models. Free models need Go or higher. You can also donate a provider key so Go costs nothing, or run models on your own device via local relay. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/free-models-one-dollar ## What $2/mo gets you Go is AnyRouter's lightweight paid plan and the cheapest way to get included credit for paid models. For $2/mo you get a $4 credit added to your balance every month (~16M tokens on fast models), issued automatically, plus shared-pool access. Free models through anyrouter/free work on Go and higher with no daily cap and no spend. The Free plan gets a 5-request lifetime trial. No expiring trial, no feature to unlock later — the $2 buys the monthly credit and shared-pool access, and both renew each month. Usage on Go is capped per rolling 5-hour window; Pro ($10/mo), Pro+ ($45/mo), and Max ($100/mo) lift that. ## Free, three ways You don't have to pay the $2 to get real free inference. There are three routes, each honest about its limits: 1. Donate a provider key → Go free. Donate one working key to the shared pool and your Go plan is free for as long as it stays active — you skip the $2 and earn 5% back (8% if you're on Pro/Max) on every token the pool routes through your key, claimable anytime. 2. The anyrouter/free tier. A rotating router over healthy free capacity, on Go and higher, no daily limit, no credit spent. 3. Self-hosted on-device models. A first-party local relay serves models running on your own paired hardware — including Apple's on-device Foundation Model — at no provider cost. ## Which should I pick? | You want | Do this | | --- | --- | | Included credit for paid models, minimal effort | Subscribe to Go for $2/mo | | Go without paying, and credits back | Donate an idle key at /donate | | Just to try free models now | Call anyrouter/free on Go or higher (no daily cap) | | Zero provider cost on your own hardware | Use the on-device local relay | Whichever you pick, BYOK and the shared pool are always free to use — requests on your own keys never deduct credits, on any plan. ## Get started See plan details on /pricing, see the free models at /free, or donate a key at /donate to skip the $2 entirely. For the full Go breakdown see /blog/starter-plan-one-dollar, and for how the free catalog works see /blog/top-free-models-api. Free models for $2/mo — or free if you donate one working provider key. [See pricing](https://anyrouter.dev/pricing) --- # 免费模型,每月只需 $2 > AnyRouter 的 Go 套餐是 $2/月:每月 $4 额度,免费模型需要 Go 及以上。也可以三条路完全免费——捐一把供应商 key 则 Go 不花钱、用 anyrouter/free,或通过 local relay 在自己的设备上跑模型。 - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/free-models-one-dollar ## $2/月能拿到什么 Go 是 AnyRouter 的轻量付费套餐,也是拿到付费模型额度的最便宜方式。$2/月会每月自动往余额加 $4 额度(在快模型上大约 1600 万 token),免费档模型(anyrouter/free)需要 Go 及以上,不扣额度;Free 套餐有 5 次终身试用请求。 没有过期试用,也没有以后才解锁的功能——$2 买的是付费模型的额度,每月续。Go 用量按滚动 5 小时窗口封顶;Pro($10/月)、Pro+($45/月)、Max($100/月)会放宽。 ## 免费的三条路 不一定要付 $2 才能真正免费推理。三条路,每条都把限制说清楚: 1. 捐一把供应商 key → Go 免费。向共享池捐一把还能用的 key,只要它保持活跃,Go 就不收费——你跳过 $2,池子每经你的 key 打一笔请求,你拿 5% 回馈(Pro/Max 是 8%),随时可领取。 2. anyrouter/free。轮询健康免费容量的路由,Go 及以上套餐可用,没有每日上限,不扣额度(Go 每分钟 150 次(捐 key 开通的 Go 为 60 次),Pro、Pro+ 和 Max 为 400 次,按账户计)。 3. 自托管设备上模型。第一方 local relay 服务你自己配对硬件上的模型——包括 Apple 设备端 Foundation Model——没有供应商费用。 ## 该选哪条? | 你想要 | 这样做 | | --- | --- | | 包含额度 + 免费档,尽量省事 | 订阅 Go,$2/月 | | 免费档但不付钱,还能拿回额度 | 到 /donate 捐一把闲置 key | | 现在就试免费模型 | 在 Go 及以上调用 anyrouter/free(没有每日上限) | | 自己硬件上零供应商成本 | 用设备端 local relay | 无论选哪条,BYOK 和共享池始终免费用——走自己的 key 从不扣额度,任何套餐都一样。 ## 开始用 套餐细节见 /pricing,免费模型见 /free,捐 key 跳过 $2 见 /donate。Go 的完整拆解见 /blog/starter-plan-one-dollar,免费目录怎么工作见 /blog/top-free-models-api。 免费模型 $2/月——或者捐一把还能用的供应商 key 就完全免费。 [看定价](https://anyrouter.dev/pricing) --- # Mô hình miễn phí, chỉ $2 mỗi tháng > Gói Go của AnyRouter là $2/tháng: $4 credit hàng tháng dùng cho model trả phí. Hoặc miễn phí theo ba cách — góp một key nhà cung cấp thì Go không mất tiền, gọi anyrouter/free (cần Go trở lên), hoặc chạy mô hình trên máy mình qua local relay. - Date: July 12, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/free-models-one-dollar ## $2/tháng bạn nhận gì Go là gói trả phí nhẹ của AnyRouter và cách rẻ nhất để có credit cho model trả phí; mô hình miễn phí cần Go trở lên. $2/tháng bạn được cộng $4 credit vào số dư mỗi tháng (khoảng 16M token trên mô hình nhanh), cấp tự động, còn anyrouter/free gọi được từ gói Go, không tốn credit. Gói Free có 5 yêu cầu dùng thử một lần. Không trial hết hạn, không tính năng khóa lại sau — $2 mua credit hằng tháng cho model trả phí và quyền dùng pool dùng chung, gia hạn mỗi tháng. Dùng trên Go bị trần theo cửa sổ 5 giờ lăn; Pro ($10/tháng), Pro+ ($45/tháng) và Max ($100/tháng) nới trần đó. ## Miễn phí, ba cách Bạn không bắt buộc trả $2 để có inference miễn phí thật. Có ba đường, mỗi đường nói thẳng giới hạn: 1. Góp một key nhà cung cấp → Go miễn phí. Góp một key còn dùng được vào pool chung thì gói Go miễn phí miễn là key còn hoạt động — bạn bỏ qua $2 và nhận 5% (8% nếu Pro/Max) trên mỗi token pool đi qua key của bạn, claim bất cứ lúc nào. 2. anyrouter/free. Router xoay vòng trên dung lượng miễn phí khỏe, dùng được từ gói Go trở lên, không trần theo ngày (150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản), không trừ credit. 3. Mô hình trên máy mình. Local relay bên thứ nhất phục vụ mô hình chạy trên phần cứng đã ghép — kể cả Foundation Model trên thiết bị của Apple — không phí nhà cung cấp. ## Nên chọn cái nào? | Bạn muốn | Làm thế này | | --- | --- | | Credit cho model trả phí, ít công sức | Đăng ký Go $2/tháng | | Tầng miễn phí không trả tiền, và credit hoàn lại | Góp key nhàn rỗi tại /donate | | Thử mô hình miễn phí ngay | Mở Go (hoặc góp một key), rồi gọi anyrouter/free (150 req/phút mỗi tài khoản trên Go) | | Không phí nhà cung cấp trên máy mình | Dùng local relay trên thiết bị | Dù chọn gì, BYOK và pool chung luôn miễn phí — request trên key của bạn không trừ credit, ở mọi gói. ## Bắt đầu Chi tiết gói trên /pricing, mở mô hình miễn phí tại /free, hoặc góp key tại /donate để bỏ qua $2. Phân tích Go đầy đủ: /blog/starter-plan-one-dollar; catalog miễn phí: /blog/top-free-models-api. Mô hình miễn phí $2/tháng — hoặc miễn phí nếu bạn góp một key nhà cung cấp còn dùng được. [Xem giá](https://anyrouter.dev/pricing) --- # The most-used free models on AnyRouter so far > We pulled real usage from the gateway: which free models people actually route to. GLM-5.2 runs away with it, gpt-4o-mini is the workhorse behind it, and anyrouter/free quietly serves the long tail. Numbers below, straight from production. - Date: July 11, 2026 - Category: data - HTML: https://anyrouter.dev/blog/most-used-free-models ## What counts as a free model AnyRouter has a set of models you can call for $0 — no credit spent, no BYOK key required. They fall into three buckets: the anyrouter/free virtual model (a rotating router over whatever free capacity is healthy), models a provider gives away on a genuine free tier that we pool and serve at cost-zero, and the shared key pool where members donate spare provider quota so everyone can draw on the sum. This post looks at real traffic through those free routes. We took every generation the gateway recorded from launch through July 11, 2026, kept only the requests we actually served for free (no credit charged, not a bring-your-own-key call), and ranked the underlying models by request volume. No estimates, no projections — just the counts. ## The ranking Here are the ten most-used free models by number of free-served requests, all-time, as of July 11, 2026: | # | Model | Free requests | Tokens served | | --- | --- | --- | --- | | 1 | z-ai/glm-5.2 | 1,890 | 203.7M | | 2 | openai/gpt-4o-mini | 1,303 | 1.1M | | 3 | anyrouter/free | 449 | 10.8M | | 4 | z-ai/glm-5.1 | 138 | 4.0M | | 5 | google/gemma-4-31b | 66 | 66.9K | | 6 | openai/gpt-oss-120b | 11 | 1.7K | | 7 | openai/gpt-4o | 11 | 39.6K | | 8 | xiaomi/mimo-v2.5 | 7 | 154.2K | | 9 | tencent/Hy3 | 7 | 904 | | 10 | meta/llama-3.3-70b-instruct | 5 | 216 | The shape is lopsided, and that's the interesting part. Two models — GLM-5.2 and gpt-4o-mini — account for the overwhelming majority of free traffic, while a long tail of capable models each sees a handful of calls. Reach isn't the same as popularity: a model has to be both free and worth reaching for. **Free-served requests by model** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## Why GLM-5.2 wins GLM-5.2 isn't just the most-used free model — by tokens served it dwarfs everything else, north of 200M free tokens. It's a strong, fast, long-context coding and reasoning model, and enough of that capacity is available at $0 (through provider free tiers and the shared pool) that people run real workloads on it, not just test prompts. High request count and high tokens-per-request is the signature of a model doing actual work. gpt-4o-mini tells the opposite story: lots of requests, very few tokens each. It's the classifier-and-glue model — cheap enough to sit inside a loop, small enough that each call is a sentence or two. Different job, still free, still heavily used. And anyrouter/free sitting at #3 is the point of the free tier working as designed: people who don't want to think about which model, just call anyrouter/free and let the router pick healthy free capacity for them. ## Where the free capacity comes from None of this runs on our balance sheet alone. The free models above are funded by a shared key pool: members sign up for a provider's free tier, donate that key, and the quotas add up into one pool everyone can call. Donors earn 8% back and get Go for free. Here's the shape of it: _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ That's why the free tier can serve hundreds of thousands of requests without a paywall behind it — the capacity is contributed, not purchased. The more people donate spare quota, the more free capacity there is for everyone. ## The network in numbers The public data page tracks all of this live — aggregate tokens, requests, and the top models by consumption, with no per-user data exposed: ![AnyRouter live network stats: 1.78B tokens and 43K requests in 30 days, with GLM-5.2 leading the token-burn leaderboard](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _Live aggregate network stats at anyrouter.dev/data/overview — July 2026 snapshot._ ## Try the free models Every model in the table is callable right now on Go or higher with no spend: - Just want it to work — call anyrouter/free on Go or higher and let the router pick free capacity (no daily limit). - Want a specific model — call it by id (e.g. z-ai/glm-5.2); free routes are used first where available. - See the free catalog — /free lists every model you can run at $0. - Grow the pool — /donate lets you contribute a spare key, earn 8% back, and go free on Go. Watch the pool grow in real time — live donation and usage analytics. [Open pool analytics](/data/pool) --- # 目前 AnyRouter 上用得最多的免费模型 > 我们从网关拉了真实用量:大家实际打到哪些免费模型。GLM-5.2 遥遥领先,gpt-4o-mini 是紧随其后的干活模型,anyrouter/free 默默扛着长尾。下面的数字直接来自生产。 - Date: July 11, 2026 - Category: data - HTML: https://anyrouter.dev/blog/zh/most-used-free-models ## 什么算免费模型 AnyRouter 有一批 $0 可调用的模型——不扣额度,也不需要 BYOK key。分三类:anyrouter/free 虚拟模型(在健康免费容量上轮询的路由;Go 及以上可用,没有每日上限)、供应商真免费档我们按零成本汇集再发出去的模型,以及成员捐出闲置配额、大家一起抽的共享 key 池。 这篇文章看的是这些免费路由上的真实流量。我们取了上线到 2026 年 7 月 11 日网关记录的每一次生成,只留下真正免费服务的请求(没扣额度、不是自带 key),再按底层模型请求量排序。没有估算,没有预测——就是计数。 ## 排名 截至 2026 年 7 月 11 日,按免费服务请求数,历史上用得最多的十个免费模型: | # | 模型 | 免费请求 | 服务 token | | --- | --- | --- | --- | | 1 | z-ai/glm-5.2 | 1,890 | 203.7M | | 2 | openai/gpt-4o-mini | 1,303 | 1.1M | | 3 | anyrouter/free | 449 | 10.8M | | 4 | z-ai/glm-5.1 | 138 | 4.0M | | 5 | google/gemma-4-31b | 66 | 66.9K | | 6 | openai/gpt-oss-120b | 11 | 1.7K | | 7 | openai/gpt-4o | 11 | 39.6K | | 8 | xiaomi/mimo-v2.5 | 7 | 154.2K | | 9 | tencent/Hy3 | 7 | 904 | | 10 | meta/llama-3.3-70b-instruct | 5 | 216 | 分布很偏,这也正是有意思的地方。两个模型——GLM-5.2 和 gpt-4o-mini——占了免费流量的绝大多数,一长串能干的模型各自只有零星调用。能打到不等于受欢迎:模型既要免费,也要值得伸手去调。 **按模型统计的免费服务请求** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## 为什么 GLM-5.2 赢 GLM-5.2 不只是请求最多——按服务 token 它碾压其他所有,免费 token 超过 2 亿。它是强、快、长上下文的编程和推理模型,而且有足够容量以 $0 提供(供应商免费档和共享池),大家拿它跑真工作负载,而不只是试 prompt。请求多、每次 token 也多,是模型在干活的特征。 gpt-4o-mini 是相反的故事:请求很多,每次 token 很少。它是分类和胶水模型——便宜到能塞进循环,小到每次就是一两句话。不同的活,仍然免费,仍然用得很猛。 anyrouter/free 排第三,说明免费档按设计在工作:不想想该用哪个模型的人,直接调 anyrouter/free,让路由挑健康的免费容量。 ## 免费容量从哪来 这些并不只靠我们自己的账本。上面的免费模型由共享 key 池供能:成员注册供应商免费档、捐出那把 key,配额加总成一个大家都能打的池。捐赠者拿 8% 回馈,Go 免费。形状是这样: _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ 所以免费档能服务几十万次请求而不在后面挂付费墙——容量是贡献来的,不是买来的。捐闲置配额的人越多,大家能用的免费容量越多。 ## 网络上的数字 公开数据页实时跟踪这些——聚合 token、请求、按消耗排的热门模型,不暴露任何单用户数据: ![AnyRouter 实时网络统计:30 天 17.8 亿 token、4.3 万请求,GLM-5.2 领跑 token 消耗榜](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _anyrouter.dev/data/overview 的实时聚合网络统计——2026 年 7 月快照。_ ## 试试免费模型 表里每个模型现在就能调,登录账号、不花钱: - 只想能用——直接调 anyrouter/free,让路由挑免费容量(Go 及以上,没有每日上限)。 - 想指定模型——用 id 调(例如 z-ai/glm-5.2);有免费路由会先走免费。 - 看免费目录——/free 列出所有 $0 可跑的模型。 - 把池做大——/donate 捐一把闲置 key,拿 8% 回馈,Go 免费。 实时看池子长大——捐赠和用量分析。 [打开池分析](/data/pool) --- # Các mô hình miễn phí được dùng nhiều nhất trên AnyRouter đến nay > Chúng tôi lấy usage thật từ gateway: mô hình miễn phí nào người ta thực sự route tới. GLM-5.2 bỏ xa, gpt-4o-mini là ngựa thồ phía sau, anyrouter/free âm thầm phục vụ đuôi dài. Số liệu bên dưới, thẳng từ production. - Date: July 11, 2026 - Category: data - HTML: https://anyrouter.dev/blog/vi/most-used-free-models ## Cái gì được tính là mô hình miễn phí AnyRouter có một tập mô hình gọi với $0 — không trừ credit, không cần key BYOK sau khi đã mở. Chúng rơi vào ba nhóm: mô hình ảo anyrouter/free (router xoay vòng trên dung lượng miễn phí còn khỏe; dùng được từ gói Go trở lên, giới hạn 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản), mô hình nhà cung cấp thật sự tặng trên free tier mà chúng tôi gom và phục vụ chi phí-zero, và pool key chung nơi thành viên góp quota thừa để mọi người rút tổng. Bài này nhìn traffic thật qua những route miễn phí đó. Chúng tôi lấy mọi generation gateway ghi từ lúc ra mắt đến 11 tháng 7 năm 2026, chỉ giữ request thực sự phục vụ miễn phí (không trừ credit, không phải gọi bring-your-own-key), rồi xếp mô hình nền theo khối lượng request. Không ước lượng, không dự phóng — chỉ đếm. ## Bảng xếp hạng Mười mô hình miễn phí dùng nhiều nhất theo số request phục vụ miễn phí, toàn thời gian, tính đến 11 tháng 7 năm 2026: | # | Mô hình | Request miễn phí | Token phục vụ | | --- | --- | --- | --- | | 1 | z-ai/glm-5.2 | 1,890 | 203.7M | | 2 | openai/gpt-4o-mini | 1,303 | 1.1M | | 3 | anyrouter/free | 449 | 10.8M | | 4 | z-ai/glm-5.1 | 138 | 4.0M | | 5 | google/gemma-4-31b | 66 | 66.9K | | 6 | openai/gpt-oss-120b | 11 | 1.7K | | 7 | openai/gpt-4o | 11 | 39.6K | | 8 | xiaomi/mimo-v2.5 | 7 | 154.2K | | 9 | tencent/Hy3 | 7 | 904 | | 10 | meta/llama-3.3-70b-instruct | 5 | 216 | Hình dạng lệch hẳn, và đó mới thú vị. Hai mô hình — GLM-5.2 và gpt-4o-mini — chiếm phần lớn traffic miễn phí, trong khi đuôi dài các mô hình đủ mạnh mỗi cái chỉ vài lần gọi. Với tới được không phải là phổ biến: mô hình phải vừa miễn phí vừa đáng với tới. **Request phục vụ miễn phí theo mô hình** - z-ai/glm-5.2: 1,890 - openai/gpt-4o-mini: 1,303 - anyrouter/free: 449 - z-ai/glm-5.1: 138 - google/gemma-4-31b: 66 - openai/gpt-oss-120b: 11 ## Vì sao GLM-5.2 thắng GLM-5.2 không chỉ là mô hình miễn phí dùng nhiều nhất — theo token phục vụ nó át hết phần còn lại, hơn 200M token miễn phí. Đây là mô hình coding và reasoning mạnh, nhanh, ngữ cảnh dài, và đủ dung lượng $0 (qua free tier nhà cung cấp và pool chung) để người ta chạy workload thật, không chỉ prompt thử. Request nhiều cộng token-mỗi-request cao là dấu hiệu mô hình đang làm việc thật. gpt-4o-mini kể chuyện ngược: nhiều request, rất ít token mỗi lần. Nó là mô hình phân loại-và-keo — đủ rẻ để ngồi trong vòng lặp, đủ nhỏ mỗi lần chỉ một hai câu. Việc khác, vẫn miễn phí, vẫn dùng nặng. Và anyrouter/free đứng #3 là điểm của tầng miễn phí đúng thiết kế: người không muốn nghĩ mô hình nào, cứ gọi anyrouter/free và để router chọn dung lượng miễn phí khỏe. ## Dung lượng miễn phí đến từ đâu Không thứ nào chạy chỉ trên bảng cân đối của chúng tôi. Các mô hình miễn phí trên được tài trợ bởi pool key chung: thành viên đăng ký free tier nhà cung cấp, góp key đó, quota cộng lại thành một pool mọi người gọi được. Người góp nhận 8% và được Go miễn phí. Hình dạng như sau: _(Interactive embed `pool-diagram` — see the [HTML version](https://anyrouter.dev/blog).)_ Đó là vì sao tầng miễn phí phục vụ hàng trăm nghìn request mà không có paywall phía sau — dung lượng được góp, không phải mua. Càng nhiều người góp quota thừa, càng nhiều dung lượng miễn phí cho mọi người. ## Mạng bằng số Trang dữ liệu công khai theo dõi tất cả này live — token tổng, request, và mô hình top theo tiêu thụ, không lộ dữ liệu từng người: ![Thống kê mạng live AnyRouter: 1,78B token và 43K request trong 30 ngày, GLM-5.2 dẫn bảng đốt token](https://anyrouter.dev/screenshots/data-overview-2026-07.png) _Thống kê mạng tổng hợp live tại anyrouter.dev/data/overview — snapshot tháng 7 năm 2026._ ## Thử mô hình miễn phí Mọi mô hình trong bảng gọi được ngay từ gói Go trở lên và không chi tiền: - Chỉ muốn nó chạy — gọi anyrouter/free trên Go trở lên và để router chọn dung lượng miễn phí (150 request/phút mỗi tài khoản trên Go). - Muốn mô hình cụ thể — gọi theo id (ví dụ z-ai/glm-5.2); route miễn phí được dùng trước khi có. - Xem catalog miễn phí — /free liệt kê mọi mô hình chạy với $0. - Làm pool lớn hơn — /donate góp key thừa, nhận 8%, Go miễn phí. Xem pool lớn lên theo thời gian thực — phân tích donation và usage live. [Mở analytics pool](/data/pool) --- # Apple's on-device Foundation Model, now on the AnyRouter API > Run Apple Intelligence's on-device Foundation Model on your own Mac and call it through the same AnyRouter API you use for everything else. Your prompts stay on your hardware, you pay nothing for tokens, and there's no vendor account to manage. - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/apple-foundation-models-on-device ## A model that runs on your Mac Apple ships an on-device Foundation Model as part of Apple Intelligence — a small language model that runs entirely on the local hardware, with no data leaving the device. It's now in the AnyRouter catalog as apple/foundation-model, reachable through the exact same OpenAI-compatible API you already use for every other model. The shape is different from every other model we host, and it's worth being precise about it: AnyRouter does not run this model for you. Your own Mac does. AnyRouter is the connection between the public API and the model server running on your machine — nothing more. That's what makes it $0 and what keeps your prompts on your own hardware. ## How the relay works Apple's model has no public endpoint — it runs on a machine with no server address for us to call. So instead of AnyRouter reaching out to a provider, your Mac reaches out to AnyRouter. The anyr CLI opens an outbound WebSocket to AnyRouter and holds it open. When a request comes in for apple/foundation-model, AnyRouter pushes it down that connection to your Mac, your local model server answers, and the response streams back up the same connection to whoever made the call. ```mermaid sequenceDiagram participant C as API caller participant GW as AnyRouter participant M as Your Mac (anyr relay) participant FM as On-device model M->>GW: open outbound WebSocket, stay connected C->>GW: POST /v1/chat/completions (apple/foundation-model) GW->>M: push request down the socket M->>FM: run on-device FM-->>M: tokens M-->>GW: stream response back up GW-->>C: streamed response ``` _Your Mac dials out and holds the connection; AnyRouter pushes each request down it and streams the answer back._ Because the origin is a device you own and control, this is the one place in AnyRouter where a request doesn't route through the usual gateway path — there's simply nothing on the public internet to route to. The model server on your Mac is the origin. ## Set it up in two steps You need a Mac that supports Apple Intelligence and a local server exposing the on-device model over an OpenAI-compatible endpoint (Apple's fm serve, listening on 127.0.0.1:1976). Once that's running, one command connects it to your AnyRouter account: ```bash # 1. Start Apple's on-device model server on your Mac fm serve # 2. Connect it to AnyRouter (auto-detects fm serve on port 1976) anyr relay start ``` relay start pairs the machine on first run — it uses an existing AnyRouter API key if it finds one, or walks you through a browser login otherwise — then holds the connection open and reconnects on its own if your network drops. Leave it running and your Mac is on call to serve requests for apple/foundation-model. ## Call it like any other model With the relay connected, apple/foundation-model behaves like every other id in the catalog. Point a standard chat-completions request at it: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "apple/foundation-model", "messages": [{ "role": "user", "content": "Summarize this in one sentence." }] }' ``` Or pick apple/foundation-model from the model dropdown in the Playground at playground.anyrouter.dev and chat with it in the browser. Streaming works the same way it does for any other model. If no paired device is online when the request lands, the call fails fast so a fallback model can answer instead — nothing hangs waiting on an offline Mac. ## What to expect Two honest caveats. First, the on-device model is small and built for on-device work — Apple caps its context window at 4,096 tokens, shared across your system instructions, any tool schemas, and the conversation. It's a genuine framework limit, not a setting we can raise. Treat it as a fast local model for focused tasks, not a long-context workhorse. Second, throughput depends entirely on your Mac — the model runs on your silicon, so your hardware sets the pace. We're not going to quote latency numbers here, because the only ones that matter are the ones you measure on your own machine. - Private by design. Prompts and completions run on your device and are never sent to a third-party model vendor. - $0 per token. You supply the hardware, so there's nothing to bill — input and output are both priced at zero. - No vendor account. There's no API key to obtain from Apple; the model is part of Apple Intelligence on your Mac. ## Share spare capacity, optionally If your Mac has idle time, you can let it serve requests for other AnyRouter users the same way donated provider keys back the shared key pool. Add --pool when you connect: ```bash anyr relay start --pool ``` Pool routing only ever falls back to a donor device when the requester's own machine is offline, and it's opt-in per device — leave the flag off and your Mac only ever answers your own requests. For the mechanics of the shared pool and how donors earn credits, see /blog/shared-key-pool. --- # Apple 设备端 Foundation Model,现已接入 AnyRouter API > 在自己的 Mac 上跑 Apple Intelligence 的设备端 Foundation Model,用你平时打其他模型的同一套 AnyRouter API 来调。Prompt 留在本机,token 不花钱,也没有供应商账号要管。 - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/apple-foundation-models-on-device ## 跑在你 Mac 上的模型 Apple 随 Apple Intelligence 附带设备端 Foundation Model——一个完全在本机硬件上跑、数据不离设备的小语言模型。它现在在 AnyRouter 目录里叫 apple/foundation-model,走你已经在用的同一套 OpenAI 兼容 API。 形态和我们托管的其他模型都不同,值得说清楚:AnyRouter 并不替你跑这个模型。是你自己的 Mac 在跑。AnyRouter 只是公共 API 和你机器上模型服务之间的连接。这就是为什么是 $0,也是为什么 prompt 留在你自己的硬件上。 ## relay 怎么工作 Apple 的模型没有公开端点——它跑在一台没有可供我们调用的服务器地址的机器上。所以不是 AnyRouter 去打供应商,而是你的 Mac 主动连上 AnyRouter。anyr CLI 打开一条出站 WebSocket 并保持连接。当请求打到 apple/foundation-model,AnyRouter 沿这条连接推到你的 Mac,本机模型服务作答,响应沿同一连接流回调用方。 ```mermaid sequenceDiagram participant C as API caller participant GW as AnyRouter participant M as Your Mac (anyr relay) participant FM as On-device model M->>GW: open outbound WebSocket, stay connected C->>GW: POST /v1/chat/completions (apple/foundation-model) GW->>M: push request down the socket M->>FM: run on-device FM-->>M: tokens M-->>GW: stream response back up GW-->>C: streamed response ``` _你的 Mac 主动拨出并保持连接;AnyRouter 把每个请求推下去,再把答案流回来。_ 因为源是你拥有和控制的设备,这是 AnyRouter 里请求不走常规网关路径的唯一地方——公网上根本没有可路由的目标。你 Mac 上的模型服务就是源。 ## 两步配好 你需要一台支持 Apple Intelligence 的 Mac,以及把设备端模型暴露成 OpenAI 兼容端点的本机服务(Apple 的 fm serve,监听 127.0.0.1:1976)。跑起来之后,一条命令接到 AnyRouter 账号: ```bash # 1. Start Apple's on-device model server on your Mac fm serve # 2. Connect it to AnyRouter (auto-detects fm serve on port 1976) anyr relay start ``` relay start 第一次运行会配对机器——找到已有 AnyRouter API key 就用,否则带你走浏览器登录——然后保持连接,网络掉了自己重连。让它跑着,你的 Mac 就能响应 apple/foundation-model 的请求。 ## 像其他模型一样调用 relay 连上后,apple/foundation-model 和其他目录 id 一样。对它发标准 chat-completions 请求: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "apple/foundation-model", "messages": [{ "role": "user", "content": "Summarize this in one sentence." }] }' ``` 或者在 playground.anyrouter.dev 的模型下拉里选 apple/foundation-model,在浏览器里聊。流式和其他模型一样。请求落地时如果没有在线配对设备,调用会快速失败,好让回退模型接上——不会挂着等一台离线的 Mac。 ## 预期如何 两点要说清楚。第一,设备端模型小,为设备端工作而建——Apple 把上下文窗口封在 4,096 token,系统指令、工具 schema 和对话共享。这是框架硬限制,不是我们能调高的设置。把它当聚焦任务的快速本机模型,不是长上下文主力。 第二,吞吐完全取决于你的 Mac——模型跑在你的硅上,硬件定节奏。我们不会在这里报延迟数字,因为唯一有意义的是你在自己机器上量出来的。 - 设计上就是私密。Prompt 和补全在你的设备上跑,从不发给第三方模型供应商。 - 每 token $0。硬件是你提供的,没有可计费项——输入输出都标价为零。 - 没有供应商账号。不用向 Apple 申请 API key;模型就是 Mac 上 Apple Intelligence 的一部分。 ## 可选:分享闲置容量 如果 Mac 有空闲时间,可以像捐供应商 key 撑共享池那样,让它为其他 AnyRouter 用户服务。连接时加上 --pool: ```bash anyr relay start --pool ``` 池路由只在请求方自己的机器离线时才回退到捐赠设备,并且按设备选择加入——不加这个 flag,你的 Mac 只回答你自己的请求。共享池机制和捐赠者如何拿额度,见 /blog/shared-key-pool。 --- # Foundation Model trên thiết bị của Apple, nay trên API AnyRouter > Chạy Foundation Model trên thiết bị của Apple Intelligence trên Mac của bạn và gọi nó qua cùng API AnyRouter bạn dùng cho mọi thứ khác. Prompt ở lại trên phần cứng, bạn không trả token, không có tài khoản nhà cung cấp phải quản lý. - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/apple-foundation-models-on-device ## Một mô hình chạy trên Mac của bạn Apple kèm Foundation Model trên thiết bị trong Apple Intelligence — mô hình ngôn ngữ nhỏ chạy hoàn toàn trên phần cứng local, không dữ liệu rời máy. Nó nay nằm trong catalog AnyRouter là apple/foundation-model, tới được qua đúng API tương thích OpenAI bạn đã dùng cho mọi mô hình khác. Hình dạng khác mọi mô hình chúng tôi host, và nên nói chính xác: AnyRouter không chạy mô hình này cho bạn. Mac của bạn chạy. AnyRouter chỉ là kết nối giữa API công cộng và model server trên máy bạn. Đó là vì sao $0 và vì sao prompt ở lại trên phần cứng của bạn. ## Relay hoạt động thế nào Mô hình của Apple không có endpoint công cộng — nó chạy trên máy không có địa chỉ server để chúng tôi gọi. Vậy thay vì AnyRouter với tới nhà cung cấp, Mac của bạn với tới AnyRouter. CLI anyr mở WebSocket outbound tới AnyRouter và giữ mở. Khi request tới apple/foundation-model, AnyRouter đẩy xuống kết nối đó tới Mac, model server local trả lời, và response stream ngược lên cùng kết nối tới người gọi. ```mermaid sequenceDiagram participant C as API caller participant GW as AnyRouter participant M as Your Mac (anyr relay) participant FM as On-device model M->>GW: open outbound WebSocket, stay connected C->>GW: POST /v1/chat/completions (apple/foundation-model) GW->>M: push request down the socket M->>FM: run on-device FM-->>M: tokens M-->>GW: stream response back up GW-->>C: streamed response ``` _Mac của bạn quay ra và giữ kết nối; AnyRouter đẩy mỗi request xuống và stream câu trả lời về._ Vì origin là thiết bị bạn sở hữu và kiểm soát, đây là chỗ duy nhất trong AnyRouter request không đi đường gateway thường — đơn giản không có gì trên internet công cộng để route tới. Model server trên Mac là origin. ## Cài trong hai bước Bạn cần Mac hỗ trợ Apple Intelligence và server local phơi mô hình trên thiết bị qua endpoint tương thích OpenAI (fm serve của Apple, lắng nghe 127.0.0.1:1976). Khi đã chạy, một lệnh nối nó vào tài khoản AnyRouter: ```bash # 1. Start Apple's on-device model server on your Mac fm serve # 2. Connect it to AnyRouter (auto-detects fm serve on port 1976) anyr relay start ``` relay start ghép máy lần chạy đầu — dùng API key AnyRouter sẵn có nếu tìm thấy, hoặc dẫn bạn đăng nhập trình duyệt — rồi giữ kết nối mở và tự kết nối lại nếu mạng rớt. Để chạy thì Mac sẵn sàng phục vụ request apple/foundation-model. ## Gọi như mọi mô hình khác Khi relay đã nối, apple/foundation-model hành xử như mọi id khác trong catalog. Gửi request chat-completions chuẩn: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "apple/foundation-model", "messages": [{ "role": "user", "content": "Summarize this in one sentence." }] }' ``` Hoặc chọn apple/foundation-model trong dropdown mô hình ở Playground playground.anyrouter.dev và chat trên trình duyệt. Streaming giống mọi mô hình khác. Nếu không có thiết bị đã ghép online khi request tới, cuộc gọi fail nhanh để mô hình fallback trả lời — không treo chờ Mac offline. ## Nên kỳ vọng gì Hai lưu ý thẳng. Thứ nhất, mô hình trên thiết bị nhỏ và làm việc trên thiết bị — Apple trần cửa sổ ngữ cảnh 4.096 token, chia cho system instruction, schema tool, và hội thoại. Đó là giới hạn framework thật, không phải setting chúng tôi nâng được. Coi nó là mô hình local nhanh cho việc tập trung, không phải ngựa thồ ngữ cảnh dài. Thứ hai, thông lượng hoàn toàn phụ thuộc Mac — mô hình chạy trên silicon của bạn, phần cứng đặt nhịp. Chúng tôi không trích số latency ở đây, vì chỉ số đo trên máy bạn mới quan trọng. - Riêng tư theo thiết kế. Prompt và completion chạy trên thiết bị, không gửi tới nhà cung cấp mô hình bên thứ ba. - $0 mỗi token. Bạn cung cấp phần cứng nên không có gì để tính — input và output đều giá zero. - Không tài khoản nhà cung cấp. Không API key phải xin Apple; mô hình là phần của Apple Intelligence trên Mac. ## Chia dung lượng thừa, tùy chọn Nếu Mac có thời gian nhàn, bạn có thể để nó phục vụ request cho người dùng AnyRouter khác giống cách key nhà cung cấp được góp vào pool. Thêm --pool khi kết nối: ```bash anyr relay start --pool ``` Route pool chỉ fallback sang thiết bị người góp khi máy của người gọi offline, và opt-in theo thiết bị — tắt flag thì Mac chỉ trả lời request của bạn. Cơ chế pool chung và cách người góp nhận credit: /blog/shared-key-pool. --- # Go on AnyRouter for $2 — or free if you donate a key > Go is now $2/mo: a $4 monthly credit plus shared-pool access (free models need Go or higher), with no surprise charges. Donate one working provider key to the shared pool instead, and Go costs nothing at all. - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/starter-plan-one-dollar ## Go, for $2 a month Go is AnyRouter's entry plan, and it's $2 a month. For that, you get a $4 credit added to your balance every month — enough to route real traffic across the catalog — plus shared-pool access. Free models through anyrouter/free work on Go and higher, with no daily cap. That's it: no trial that expires, no feature you have to unlock later. $2/mo buys the monthly credit and shared-pool access together, and both renew automatically each month. ## Or skip the $2 entirely There's a second way onto Go that costs nothing: donate at least one working provider key to the shared pool. AnyRouter's shared pool works like this — members donate spare capacity from provider keys they already have, those keys' quotas pool together, and everyone with pool access can route requests through the combined pool. Donate a key that's actually working (a free-tier key you're not fully using is enough) and your Go plan is free for as long as it stays active in the pool. You don't pay the $2, and you keep first call on your own key — the pool only uses spare capacity. ## Donors also earn credits back Donating isn't just a way to waive the $2. Every request the pool routes through your donated key adds a share of that request's notional token cost to a pending balance — 5% on Go or with no plan (8% if you're on Pro or Max), capped at $1 per key per UTC day. Claim it into spendable balance whenever you like, or turn on auto-claim to sweep it in automatically. Donate a key with real headroom and the credits can add up to more than the $2/mo you're saving. You stay in control the entire time: donation is opt-in per key, withdrawable instantly from the dashboard, and your key never leaves your account — the pool only ever calls it on your behalf. ## Get started Two ways onto Go, pick whichever fits: subscribe for $2/mo on the Pricing page, or donate a provider key and skip the $2 while earning credits back on its pool usage. - Subscribe for $2/mo — see plan details on /pricing. - Donate a key instead — visit /donate to share an idle key and go free. - Try free models first — /free explains anyrouter/free and why it has no daily limit. - See the pool in numbers — /pool has live donation analytics. --- # AnyRouter 的 Go:$2,或捐一把 key 就免费 > Go 现在是 $2/月:每月 $4 额度,免费模型需要 Go 及以上,没有卡上意外。也可以向共享池捐一把还能用的供应商 key,Go 完全不花钱。 - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/starter-plan-one-dollar ## Go,每月 $2 Go 是 AnyRouter 的入门套餐,现在是每月 $2。你每月余额会加上 $4 额度——够在目录上跑真实流量——anyrouter/free 的免费模型需要 Go 及以上,不扣钱,也没有每日上限。 就这些:没有过期试用,没有以后才解锁的功能。$2/月买的是每月付费模型额度和共享 key 池的使用权,额度每月自动续。 这篇的英文 slug 仍是 starter-plan-one-dollar:那是 Go 曾经标 $1 时留下的地址。现价是 $2/月,不是 $1。捐赠分成每把 key 每个 UTC 日上限 $1——那个 $1 是捐赠上限,不是 Go 价。 ## 或者完全跳过 $2 还有第二条路进 Go,不花钱:向共享池至少捐一把还能用的供应商 key。共享池是这样——成员把已有供应商 key 的闲置容量捐进来,配额合在一起,有池权限的人都能经合并后的池打请求。 捐一把确实还能用的 key(没用满的免费档 key 就够)只要它在池里保持活跃,Go 就免费。你不付 $2,自己的 key 仍优先给你用——池子只用空闲容量。 ## 捐赠者还能拿回额度 捐赠不只是免掉 $2。池子每经你捐的 key 打一笔请求,会把该请求名义 token 成本的一部分记入待领取余额——Go 或无套餐 5%(Pro 或 Max 8%),每把 key 每个 UTC 日上限 $1。随时 claim 成可花余额,或开 auto-claim 自动扫入。捐一把真有余量的 key,拿回的额度可以超过你省下的 $2/月。 全程你说了算:按 key 选择加入,控制台立刻可撤回,key 从不离开你的账号——池子只代表你去调用。 ## 开始用 进 Go 两条路,选适合的:在定价页订 $2/月,或捐一把供应商 key,跳过 $2 同时拿池用量的额度回馈。 - 订 $2/月——套餐细节在 /pricing。 - 改捐一把 key——去 /donate 分享闲置 key,Go 免费。 - 先试免费模型——/free 说明 anyrouter/free 需要 Go 及以上、没有每日上限。 - 看池子的数字——/pool 有实时捐赠分析。 --- # Go trên AnyRouter $2 — hoặc miễn phí nếu góp một key > Go hiện $2/tháng: $4 credit hàng tháng dùng cho model trả phí, không bất ngờ trên thẻ. Mô hình miễn phí thì ai cũng gọi được, kể cả gói Free. Thay vào đó góp một key nhà cung cấp còn dùng được vào pool chung thì Go không tốn gì. - Date: July 11, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/starter-plan-one-dollar ## Go, $2 một tháng Go là gói vào cửa của AnyRouter, và là $2 một tháng. Bạn được cộng $4 credit vào số dư mỗi tháng — đủ để route traffic thật trên catalog — còn mô hình miễn phí qua anyrouter/free dùng được từ gói Go, không trần theo ngày. Hết: không trial hết hạn, không tính năng phải mở sau. $2/tháng mua credit hằng tháng cho model trả phí và quyền dùng pool dùng chung, gia hạn tự động mỗi tháng. Slug tiếng Anh vẫn là starter-plan-one-dollar: đó là URL từ thời Go từng niêm yết $1. Giá hiện tại là $2/tháng, không phải $1. Trần chia donation là $1 mỗi key mỗi ngày UTC — $1 đó là trần thưởng, không phải giá Go. ## Hoặc bỏ qua hẳn $2 Có cách thứ hai vào Go không tốn tiền: góp ít nhất một key nhà cung cấp còn dùng được vào pool chung. Pool chung của AnyRouter hoạt động thế này — thành viên góp dung lượng thừa từ key họ đã có, quota các key đó cộng lại, và ai có quyền pool đều route qua pool gộp. Góp một key thực sự còn chạy (key free-tier chưa dùng hết là đủ) thì gói Go miễn phí miễn là nó còn active trong pool. Bạn không trả $2, và vẫn được gọi trước trên key của mình — pool chỉ dùng dung lượng thừa. ## Người góp cũng nhận credit lại Góp không chỉ để miễn $2. Mỗi request pool đi qua key đã góp cộng một phần chi phí token danh nghĩa vào số dư pending — 5% trên Go hoặc không gói (8% nếu Pro hoặc Max), trần $1 mỗi key mỗi ngày UTC. Claim vào số dư tiêu được khi muốn, hoặc bật auto-claim để quét tự động. Góp key có headroom thật thì credit có thể cộng nhiều hơn $2/tháng bạn đang tiết kiệm. Bạn kiểm soát suốt: donation opt-in từng key, rút ngay từ dashboard, key không rời tài khoản — pool chỉ gọi thay bạn. ## Bắt đầu Hai cách vào Go, chọn cái hợp: đăng ký $2/tháng trên trang Pricing, hoặc góp key nhà cung cấp, bỏ $2 và nhận credit trên usage pool. - Đăng ký $2/tháng — chi tiết gói trên /pricing. - Góp key thay thế — vào /donate chia key nhàn và Go miễn phí. - Thử mô hình miễn phí trước — /free giải thích anyrouter/free: cần Go trở lên, giới hạn 150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản. - Xem pool bằng số — /pool có analytics donation live. --- # Donate a key to unblock the Pool of free tokens > The Pool runs on provider keys that AnyRouter users donate. Donate one key you do not fully use: Pool callers get free models at $0, you earn 5% or 8% back in credits, and one active key makes the Go plan free. - Date: June 29, 2026 - Category: product - HTML: https://anyrouter.dev/blog/shared-key-pool ## What the Pool is The Pool is a set of provider keys that AnyRouter users donate. When you call a model a donated key can serve, AnyRouter can send the request through that key. Free models served this way cost you $0. Every donated key adds capacity. More keys mean more free tokens for everyone who uses the Pool. Donate a key to unblock the Pool of free tokens. [Donate a key](https://anyrouter.dev/pool) Not sure which key to give? [Donate keys](https://anyrouter.dev/use-cases/donate-keys) lists good candidates, and [the Pool page](https://anyrouter.dev/pool) shows which providers it takes. ## What you get back - The Go plan for free, for as long as at least one donated key stays active. A paused key does not count. - Credits for every request your key serves: 5% of its catalog cost, or 8% on Pro and above. Each key earns at most $1 per UTC day. - Credits wait in a pending balance. Claim them on the BYOK page, or turn on auto-claim for a daily sweep. To use the Pool for chat models, you need a paid plan (Go or above) or one active donated key. A donated key covers both. Decision models are open to every signed-in user. ## How a request reaches a donated key You do not pick the Pool. AnyRouter adds donated keys to the route for models they can serve. For a free model the Pool goes first. For a paid model your own key goes first, then the Pool. AnyRouter picks the least recently used key and never sends your request to your own key. ```mermaid sequenceDiagram participant C as Caller participant A as AnyRouter participant K as Donated key participant D as Donor C->>A: Call a model A->>K: Least recently used key K-->>A: Answer and token usage A-->>C: Streamed answer A->>D: Credits, pending ``` _One Pool request. The donor earns credits after the answer streams back._ Donors see totals only: requests, tokens and credits earned. They never see prompts, answers or who sent them. ## Your key stays yours - Nothing joins the Pool on its own. Donating needs a one-time consent, and AnyRouter tests the key first. - Read your provider's terms before you donate. AnyRouter checks that it can route to the provider, not that the provider allows sharing. - The key pauses after three auth failures, an out-of-credit reply, a provider key limit, or the $1 daily cap. A 429 or a 5xx only pauses that one model on that key, and AnyRouter retries it after a backoff. - Turn donation off at any time and the key leaves the Pool. - The Pool does not lift rate limits. Callers keep the limits of their own plan. ## Donate in a minute 1. Open [the Pool page](https://anyrouter.dev/pool) and add a key, or pick a key you already added on the BYOK page. 2. Accept the one-time consent. 3. AnyRouter tests the key. When the test passes, the key serves the Pool and starts to earn. Donate a key to unblock the Pool of free tokens. [Donate a key](https://anyrouter.dev/pool) See [Donate keys](https://anyrouter.dev/use-cases/donate-keys) for which keys help the Pool most. --- # 捐一把 key,解锁 Pool 的免费 token > Pool 由 AnyRouter 用户捐出的供应商 key 组成。捐一把你用不完的 key:通过 Pool 调用的人以 $0 使用免费模型,你拿回 5% 或 8% 的额度,而且只要有一把 key 在用,Go 套餐就免费。 - Date: June 29, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/shared-key-pool ## Pool 是什么 Pool 是 AnyRouter 用户捐出的一组供应商 key。当你调用某个捐出的 key 能服务的模型时,AnyRouter 可以通过这把 key 发送请求。经 Pool 服务的免费模型,对你收费 $0。 每捐一把 key 就多一份容量。key 越多,所有 Pool 用户能用的免费 token 就越多。 捐一把 key,解锁 Pool 的免费 token。 [捐一把 key](https://anyrouter.dev/pool) 不确定捐哪把 key?[捐 key](https://anyrouter.dev/use-cases/donate-keys) 列出了合适的选择,[Pool 页面](https://anyrouter.dev/pool) 列出了 Pool 接受的供应商。 ## 你能拿回什么 - 只要至少有一把捐出的 key 处于活跃状态,Go 套餐就免费。暂停的 key 不算。 - 你的 key 每服务一个请求就得到额度:按目录价格的 5%,Pro 及以上套餐为 8%。每把 key 每个 UTC 日最多 $1。 - 额度先进入待领取余额。可以在 BYOK 页面领取,也可以打开 auto-claim 每天自动领取。 要在聊天模型上使用 Pool,你需要付费套餐(Go 及以上)或一把活跃的捐出 key。一把捐出的 key 两者都满足。决策模型对所有已登录用户开放。 ## 请求怎样到达捐出的 key 你不用手动选择 Pool。AnyRouter 会把捐出的 key 加入它们能服务的模型的路由。免费模型先走 Pool。付费模型先走你自己的 key,再走 Pool。 AnyRouter 选择最久未使用的 key,并且绝不会把你的请求发到你自己的 key。 ```mermaid sequenceDiagram participant C as 调用者 participant A as AnyRouter participant K as 捐出的 key participant D as 捐赠者 C->>A: 调用模型 A->>K: 最久未使用的 key K-->>A: 答案和 token 用量 A-->>C: 流式答案 A->>D: 额度,待领取 ``` _一次 Pool 请求。答案流式返回后,捐赠者获得额度。_ 捐赠者只能看到总数:请求数、token 数和获得的额度。他们看不到 prompt、答案,也看不到是谁发送的。 ## key 仍然归你 - 不会有 key 自动加入 Pool。捐出需要一次性同意,AnyRouter 也会先测试这把 key。 - 捐出前请阅读供应商的条款。AnyRouter 只检查能否路由到该供应商,不检查供应商是否允许共享 key。 - 出现三次认证失败、余额不足的回复、供应商 key 限额,或达到每日 $1 上限时,key 会暂停。429 或 5xx 只会暂停这把 key 上的这个模型,AnyRouter 会在退避一段时间后重试。 - 随时可以关闭捐赠,key 会离开 Pool。 - Pool 不会放宽速率限制。调用者仍按自己套餐的限制。 ## 一分钟捐出 key 1. 打开 [Pool 页面](https://anyrouter.dev/pool) 添加 key,或在 BYOK 页面选择已添加的 key。 2. 接受一次性同意。 3. AnyRouter 测试这把 key。测试通过后,key 开始服务 Pool 并获得额度。 捐一把 key,解锁 Pool 的免费 token。 [捐一把 key](https://anyrouter.dev/pool) 查看 [捐 key](https://anyrouter.dev/use-cases/donate-keys),了解哪些 key 对 Pool 帮助最大。 --- # Góp một key để mở khóa Pool token miễn phí > Pool chạy bằng các key nhà cung cấp do người dùng AnyRouter góp. Góp một key bạn dùng không hết: người gọi qua Pool dùng model miễn phí với giá $0, bạn nhận lại 5% hoặc 8% bằng credit, và một key đang hoạt động cho bạn gói Go miễn phí. - Date: June 29, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/shared-key-pool ## Pool là gì Pool là tập hợp các key nhà cung cấp do người dùng AnyRouter góp. Khi bạn gọi một model mà key được góp có thể phục vụ, AnyRouter có thể gửi request qua key đó. Model miễn phí đi qua Pool có giá $0 với bạn. Mỗi key được góp thêm dung lượng. Càng nhiều key thì càng nhiều token miễn phí cho mọi người dùng Pool. Góp một key để mở khóa Pool token miễn phí. [Góp một key](https://anyrouter.dev/pool) Chưa biết nên góp key nào? [Góp key](https://anyrouter.dev/use-cases/donate-keys) liệt kê các lựa chọn tốt, và [trang Pool](https://anyrouter.dev/pool) cho biết Pool nhận nhà cung cấp nào. ## Bạn nhận lại gì - Gói Go miễn phí, chừng nào còn ít nhất một key được góp đang hoạt động. Key bị tạm dừng không được tính. - Credit cho mỗi request key của bạn phục vụ: 5% chi phí theo bảng giá, hoặc 8% từ gói Pro trở lên. Mỗi key nhận tối đa $1 mỗi ngày UTC. - Credit nằm trong số dư chờ. Claim trên trang BYOK, hoặc bật auto-claim để gom tự động mỗi ngày. Để dùng Pool cho các model chat, bạn cần gói trả phí (Go trở lên) hoặc một key được góp đang hoạt động. Một key được góp đáp ứng cả hai. Các model decision mở cho mọi người dùng đã đăng nhập. ## Request đi tới key được góp như thế nào Bạn không cần chọn Pool. AnyRouter thêm các key được góp vào tuyến cho những model chúng phục vụ được. Với model miễn phí, Pool được thử trước. Với model trả phí, key của bạn được thử trước, rồi tới Pool. AnyRouter chọn key lâu chưa dùng nhất và không bao giờ gửi request của bạn tới chính key của bạn. ```mermaid sequenceDiagram participant C as Người gọi participant A as AnyRouter participant K as Key được góp participant D as Người góp C->>A: Gọi một model A->>K: Key lâu chưa dùng nhất K-->>A: Câu trả lời và số token A-->>C: Câu trả lời dạng stream A->>D: Credit, đang chờ ``` _Một request qua Pool. Người góp nhận credit sau khi câu trả lời được stream về._ Người góp chỉ thấy tổng số: request, token và credit đã nhận. Họ không bao giờ thấy prompt, câu trả lời hay ai đã gửi. ## Key vẫn là của bạn - Không key nào tự vào Pool. Góp key cần đồng ý một lần, và AnyRouter kiểm tra key trước. - Đọc điều khoản của nhà cung cấp trước khi góp. AnyRouter chỉ kiểm tra là có thể định tuyến tới nhà cung cấp, không kiểm tra nhà cung cấp có cho chia sẻ key hay không. - Key bị tạm dừng sau ba lỗi xác thực, một phản hồi hết credit, giới hạn key của nhà cung cấp, hoặc khi chạm trần $1 mỗi ngày. Lỗi 429 hay 5xx chỉ tạm dừng riêng model đó trên key đó, và AnyRouter thử lại sau một khoảng chờ. - Tắt góp key bất cứ lúc nào và key rời khỏi Pool. - Pool không nâng giới hạn tốc độ. Người gọi giữ giới hạn của gói mình. ## Góp key trong một phút 1. Mở [trang Pool](https://anyrouter.dev/pool) và thêm một key, hoặc chọn một key đã thêm trên trang BYOK. 2. Chấp nhận lời đồng ý một lần. 3. AnyRouter kiểm tra key. Khi kiểm tra đạt, key phục vụ Pool và bắt đầu nhận credit. Góp một key để mở khóa Pool token miễn phí. [Góp một key](https://anyrouter.dev/pool) Xem [Góp key](https://anyrouter.dev/use-cases/donate-keys) để biết key nào giúp Pool nhiều nhất. --- # Bring your own keys — every provider behind one API > Connect the provider keys and subscriptions you already pay for, route them through one OpenAI-compatible URL with automatic failover, and — soon — earn credits back by donating idle quota to the shared pool. - Date: June 28, 2026 - Category: product - HTML: https://anyrouter.dev/blog/bring-your-own-keys ## Use the keys you already pay for Bring Your Own Key (BYOK) lets you attach your own upstream provider keys — OpenAI, Anthropic, Google, and dozens more — to your AnyRouter account. When a request matches a model one of your keys can serve, AnyRouter forwards the call on your key. You keep every AnyRouter feature — one unified API, logs, analytics, presets, routing, app attribution — and pay the provider directly at their list price. If you already hold provider accounts with credits, negotiated rates, preview access, or a flat-rate coding subscription, BYOK is the simplest way to put all of them behind a single OpenAI- and Anthropic-compatible endpoint. Point your existing client at the AnyRouter base URL, keep your model ids, and your own keys do the work. ## What you get BYOK turns a pile of separate provider accounts into one resilient endpoint: - No markup on your own keys. AnyRouter charges nothing for BYOK traffic — no per-request fee, no surcharge, no minimum. You only ever pay your provider. - Keep your own rate limits. You route on your account's quota, not a shared pool — so your limits are exactly what your provider gives you. - Automatic failover. Add more than one key per provider and AnyRouter spreads traffic across them, quarantining a key that returns 401 or 429 and moving to the next — a single burned key stops being a single point of failure. - Load-balancing strategies. Choose Fallback (priority order), Round Robin, Weighted, or Random for each provider's key pool. - Falls back to credits. If every BYOK key for a provider is exhausted, requests can fall through to pay-as-you-go credits — so work keeps flowing. ## Providers you can connect AnyRouter exposes BYOK for more than 60 providers. A few of the most common, with the key format each expects: | Provider | Key format | Notes | | --- | --- | --- | | OpenAI | sk-… | Optional org/project headers via the Base URL field | | Anthropic | sk-ant-… | Claude models | | Google AI Studio (Gemini) | AIzaSy… | Free tier available for Gemini Flash and Pro | | Groq | gsk_… | Fast inference | | OpenRouter | sk-or-… | Pin AnyRouter catalog models to your OpenRouter key via presets | | NVIDIA NIM | nvapi-… | NVIDIA API catalog | | Z.ai | API key | Standard or GLM Coding Plan endpoint | | Ollama Cloud | API key | Hosted open models | Enterprise endpoints like Azure OpenAI, Amazon Bedrock, and Vertex AI accept structured credentials — the dialog shows the expected format when you pick the provider. The full provider-by-provider setup guide, including where to generate each key, lives at /docs/features/byok-providers. ## Add a key in under a minute Adding a key is a paste-and-save flow on the BYOK page: 1. Open the BYOK page at /byok (or Dashboard → BYOK) and click Add key on the provider you want. 2. Paste your provider API key. The value is write-only — once saved, AnyRouter never displays it again. 3. Optionally give it an alias, set a priority and weight for load balancing, or scope it to specific AnyRouter keys. 4. Click Save. AnyRouter runs one live validation call against the provider; if the key is rejected, the error is surfaced and nothing is stored. ## Route across your whole pool Once you've added one or more keys, three built-in model ids route across all of them without naming a specific model — AnyRouter picks the strongest available model and falls back through the rest if a provider is busy: | Model id | Routes to | | --- | --- | | anyrouter/byok | Every model your configured keys can reach | | anyrouter/coding | The coding-capable subset | | anyrouter/agent | The tool / function-calling subset, built for agents | Use them anywhere you'd use a normal model id. Add a key for a new provider and its models join the pool automatically — no config change: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` Because these only ever use your own keys, they never spend AnyRouter credits. Call one with no matching key and you get a clear error telling you to add a key — never a silent charge to paid capacity. ## Donate idle keys, earn credits back Most provider quota sits idle most of the time. The donate-to-pool program lets you put that idle capacity to work: flip a single toggle on an eligible BYOK key, and every request AnyRouter routes through it adds up to 8% of the request's token cost to a pending balance you can claim as credits. - Earn up to 8% back. Each token served through your donated key adds up to 8% of its notional cost to your pending balance — 5% on Go, 8% on Pro/Max, capped at $1 per key per UTC day. - Eligibility is about routing, not ToS. The toggle appears once AnyRouter has somewhere to route that provider's traffic — that's not a claim its Terms of Service permit sharing your key. You're responsible for confirming that yourself. - Explicit consent. Donating requires a one-time, recorded acknowledgement that your key may serve other users' requests — nothing happens automatically. - Opt out instantly. Toggle off in the dashboard and your key leaves the pool immediately, with no pending requests. The pool is live today across every eligible provider — add a key and flip the toggle to start donating, or see the details at /pool. ## Built to protect your keys BYOK keys are sensitive credentials, and AnyRouter treats them that way: - Encrypted at rest with a per-row salt — a leak of one key's ciphertext never weakens any other. - Write-only in the UI — after save, only the alias and a masked identifier are shown; the full value can't be retrieved. - Never logged — provider keys are stripped from request and response logs, keeping only the alias and provider so you can tell which credential served a request. - Validated live on save, then the validation response is discarded. - No third-party sharing — your key is only ever sent to the upstream provider it's scoped to. ## Get started Open /byok to connect your first provider key, then point any OpenAI- or Anthropic-compatible client at https://anyrouter.dev/api/v1 and start routing on your own accounts at no extra cost. For the full feature reference, see /docs/features/byok. For step-by-step instructions on generating a key from each provider, see /docs/features/byok-providers. --- # 自带 Key——所有供应商,一个 API > 把你已经在付的供应商 key 和订阅接进来,经一个 OpenAI 兼容 URL 自动失败切换,并且——很快——把闲置配额捐进共享池还能拿回额度。 - Date: June 28, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/bring-your-own-keys ## 用你已经在付的 key Bring Your Own Key(BYOK)让你把上游供应商 key——OpenAI、Anthropic、Google 以及几十家——挂到 AnyRouter 账号。请求匹配到某把 key 能服务的模型时,AnyRouter 用你的 key 转发。你保留所有 AnyRouter 能力——统一 API、日志、分析、预设、路由、应用归因——并按供应商标价直接付给他们。 如果你已经有带额度、议价、预览权限或包月编程订阅的供应商账号,BYOK 是把它们全部放到一个兼容 OpenAI 和 Anthropic 的端点后面的最简单办法。把现有客户端指到 AnyRouter base URL,保留 model id,由你自己的 key 干活。 ## 你能得到什么 BYOK 把一堆分开的供应商账号变成一个有韧性的端点: - 自己的 key 不加价。AnyRouter 对 BYOK 流量不收费——没有按请求费、没有附加费、没有最低消费。你只付给供应商。 - 保留自己的速率限制。走的是你账号的配额,不是共享池——限制就是供应商给你的那些。 - 自动失败切换。同一供应商加多把 key,AnyRouter 在它们之间分流量,401 或 429 的 key 隔离,切到下一把——一把烧掉的 key 不再是单点故障。 - 负载均衡策略。每个供应商的 key 池可选 Fallback(优先级)、Round Robin、Weighted 或 Random。 - 回退到额度。某供应商所有 BYOK key 都耗尽时,请求可以落到按量额度——活继续流。 ## 能接的供应商 AnyRouter 为 60 多家供应商开放 BYOK。常见几家,以及各自期望的 key 格式: | 供应商 | Key 格式 | 说明 | | --- | --- | --- | | OpenAI | sk-… | 可选 org/project header,经 Base URL 字段 | | Anthropic | sk-ant-… | Claude 模型 | | Google AI Studio (Gemini) | AIzaSy… | Gemini Flash 和 Pro 有免费档 | | Groq | gsk_… | 快速推理 | | OpenRouter | sk-or-… | 用预设把 AnyRouter 目录模型钉到你的 OpenRouter key | | NVIDIA NIM | nvapi-… | NVIDIA API catalog | | Z.ai | API key | 标准或 GLM Coding Plan 端点 | | Ollama Cloud | API key | 托管开源模型 | Azure OpenAI、Amazon Bedrock、Vertex AI 这类企业端点接受结构化凭证——选供应商时对话框会显示期望格式。按供应商的完整配置指南(含去哪生成 key)在 /docs/features/byok-providers。 ## 不到一分钟加一把 key 在 BYOK 页是粘贴并保存: 1. 打开 /byok(或控制台 → BYOK),在目标供应商上点 Add key。 2. 粘贴供应商 API key。该值只写不读——保存后 AnyRouter 再也不会显示。 3. 可选别名、负载均衡优先级和权重,或限定到特定 AnyRouter key。 4. 点 Save。AnyRouter 对供应商做一次实况校验;被拒则报错且不入库。 ## 在整个池上路由 加了一把或多把 key 之后,三个内置 model id 会在它们全部之间路由,不用点名某个模型——AnyRouter 挑当时最强的可用模型,某家忙了就回退: | Model id | 路由到 | | --- | --- | | anyrouter/byok | 你配置的 key 能打到的每个模型 | | anyrouter/coding | 擅长编程的子集 | | anyrouter/agent | 工具 / function-calling 子集,为 agent 准备 | 用在任何普通 model id 能用的地方。给新供应商加一把 key,它的模型自动进池——不用改配置: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` 这些永远只用你自己的 key,从不花 AnyRouter 额度。没有匹配 key 时会得到明确错误让你加 key——绝不会悄悄扣付费容量。 ## 捐闲置 key,拿回额度 多数供应商配额大部分时间闲着。donate-to-pool 让闲置容量干活:在符合条件的 BYOK key 上拨一下开关,AnyRouter 每经它打一笔请求,就把该请求 token 成本最多 8% 记入可领取的待领取余额。 - 最多拿回 8%。经捐赠 key 服务的每个 token,把名义成本最多 8% 加到待领取余额——Go 5%,Pro/Max 8%,每把 key 每个 UTC 日上限 $1。 - 能不能捐看的是路由,不是 ToS。开关出现只表示 AnyRouter 有地方把该供应商流量打出去——不是声称其服务条款允许你分享 key。ToS 你自己确认。 - 明确同意。捐赠需要一次性、有记录的确认:你的 key 可能服务别人的请求——不会自动发生。 - 立刻退出。控制台关掉,key 马上离池,没有挂起的请求。 池子今天在所有符合条件的供应商上已上线——加一把 key、拨开关开始捐,或看 /pool 的细节。 ## 为保护你的 key 而建 BYOK key 是敏感凭证,AnyRouter 按这个标准对待: - 静态加密,每行一把盐——一把 key 的密文泄露不会削弱其他。 - 界面只写——保存后只显示别名和掩码标识;完整值取不回来。 - 从不记日志——请求和响应日志剥掉供应商 key,只留别名和供应商,好分辨哪张凭证服务了请求。 - 保存时实况校验,然后丢掉校验响应。 - 不与第三方共享——key 只发往它所属的上游供应商。 ## 开始用 打开 /byok 接第一把供应商 key,再把任何兼容 OpenAI 或 Anthropic 的客户端指到 https://anyrouter.dev/api/v1,用自己的账号路由、不加额外费用。 完整功能说明见 /docs/features/byok。从各家生成 key 的逐步说明见 /docs/features/byok-providers。 --- # Mang key của bạn — mọi nhà cung cấp sau một API > Nối các key và gói nhà cung cấp bạn đã trả, route qua một URL tương thích OpenAI với failover tự động, và — sắp tới — nhận credit lại khi góp quota nhàn vào pool chung. - Date: June 28, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/bring-your-own-keys ## Dùng key bạn đã trả Bring Your Own Key (BYOK) cho phép gắn key nhà cung cấp upstream của bạn — OpenAI, Anthropic, Google, và hàng chục nhà nữa — vào tài khoản AnyRouter. Khi request khớp mô hình một key của bạn phục vụ được, AnyRouter chuyển cuộc gọi trên key đó. Bạn giữ mọi tính năng AnyRouter — một API thống nhất, log, analytics, preset, routing, gắn attribution app — và trả nhà cung cấp trực tiếp theo giá niêm yết. Nếu đã có tài khoản nhà cung cấp với credit, giá thương lượng, quyền preview, hoặc gói coding flat-rate, BYOK là cách đơn giản nhất để đặt tất cả sau một endpoint tương thích OpenAI và Anthropic. Chỉ client hiện có vào base URL AnyRouter, giữ model id, key của bạn làm việc. ## Bạn nhận gì BYOK biến đống tài khoản nhà cung cấp rời thành một endpoint bền: - Không markup trên key của bạn. AnyRouter không tính phí traffic BYOK — không phí mỗi request, không phụ phí, không tối thiểu. Bạn chỉ trả nhà cung cấp. - Giữ rate limit của bạn. Bạn route trên quota tài khoản, không phải pool chung — limit đúng những gì nhà cung cấp cho. - Failover tự động. Thêm hơn một key mỗi nhà cung cấp thì AnyRouter trải traffic, cách ly key trả 401 hoặc 429 và chuyển key tiếp — một key cháy không còn điểm chết đơn. - Chiến lược cân tải. Chọn Fallback (thứ tự ưu tiên), Round Robin, Weighted, hoặc Random cho pool key mỗi nhà cung cấp. - Fallback sang credit. Nếu mọi key BYOK của một nhà cung cấp cạn, request có thể rơi xuống credit trả theo用量 — việc vẫn chảy. ## Nhà cung cấp bạn nối được AnyRouter mở BYOK cho hơn 60 nhà cung cấp. Một số phổ biến, kèm định dạng key mỗi bên kỳ vọng: | Nhà cung cấp | Định dạng key | Ghi chú | | --- | --- | --- | | OpenAI | sk-… | Header org/project tùy chọn qua trường Base URL | | Anthropic | sk-ant-… | Mô hình Claude | | Google AI Studio (Gemini) | AIzaSy… | Free tier cho Gemini Flash và Pro | | Groq | gsk_… | Inference nhanh | | OpenRouter | sk-or-… | Ghim mô hình catalog AnyRouter vào key OpenRouter qua preset | | NVIDIA NIM | nvapi-… | NVIDIA API catalog | | Z.ai | API key | Endpoint chuẩn hoặc GLM Coding Plan | | Ollama Cloud | API key | Mô hình mở hosted | Endpoint doanh nghiệp như Azure OpenAI, Amazon Bedrock, và Vertex AI nhận credential có cấu trúc — dialog hiện định dạng khi bạn chọn nhà cung cấp. Hướng dẫn từng nhà, gồm nơi tạo key, ở /docs/features/byok-providers. ## Thêm key dưới một phút Thêm key là dán-và-lưu trên trang BYOK: 1. Mở trang BYOK tại /byok (hoặc Dashboard → BYOK) và bấm Add key trên nhà cung cấp bạn muốn. 2. Dán API key nhà cung cấp. Giá trị chỉ ghi — sau khi lưu, AnyRouter không hiện lại. 3. Tùy chọn alias, ưu tiên và trọng số cân tải, hoặc giới hạn cho key AnyRouter cụ thể. 4. Bấm Save. AnyRouter chạy một cuộc gọi xác thực live; nếu key bị từ chối, lỗi hiện và không lưu gì. ## Route trên toàn pool Khi đã thêm một hoặc nhiều key, ba model id dựng sẵn route trên tất cả mà không cần tên mô hình cụ thể — AnyRouter chọn mô hình mạnh nhất sẵn có và fallback phần còn lại nếu nhà cung cấp bận: | Model id | Route tới | | --- | --- | | anyrouter/byok | Mọi mô hình key đã cấu hình với tới được | | anyrouter/coding | Tập con biết coding | | anyrouter/agent | Tập con tool / function-calling, cho agent | Dùng bất cứ nơi nào bạn dùng model id thường. Thêm key nhà cung cấp mới thì mô hình của họ vào pool tự động — không đổi config: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/coding", "messages": [{ "role": "user", "content": "Refactor this function" }] }' ``` Vì chúng chỉ dùng key của bạn, chúng không tiêu credit AnyRouter. Gọi một cái mà không có key khớp thì bạn nhận lỗi rõ bảo thêm key — không bao giờ trừ lặng vào dung lượng trả phí. ## Góp key nhàn, nhận credit lại Phần lớn quota nhà cung cấp nằm nhàn hầu hết thời gian. Chương trình donate-to-pool để dung lượng đó làm việc: bật một công tắc trên key BYOK đủ điều kiện, và mỗi request AnyRouter route qua nó cộng tới 8% chi phí token vào số dư pending bạn claim thành credit. - Nhận tới 8%. Mỗi token phục vụ qua key đã góp cộng tới 8% chi phí danh nghĩa vào số dư pending — 5% trên Go, 8% trên Pro/Max, trần $1 mỗi key mỗi ngày UTC. - Đủ điều kiện là chuyện routing, không phải ToS. Công tắc hiện khi AnyRouter có chỗ route traffic nhà cung cấp đó — không phải tuyên bố Điều khoản cho phép chia key. Bạn tự chịu trách nhiệm xác nhận. - Đồng ý rõ. Góp cần xác nhận một lần, được ghi lại, rằng key có thể phục vụ request người khác — không tự xảy ra. - Tắt ngay. Tắt trên dashboard thì key rời pool lập tức, không request treo. Pool đang live trên mọi nhà cung cấp đủ điều kiện — thêm key và bật công tắc để bắt đầu góp, hoặc xem chi tiết tại /pool. ## Xây để bảo vệ key của bạn Key BYOK là credential nhạy cảm, AnyRouter đối xử như vậy: - Mã hóa at rest với muối từng hàng — rò ciphertext một key không làm yếu key khác. - Chỉ ghi trên UI — sau lưu chỉ hiện alias và định danh che; giá trị đầy đủ không lấy lại được. - Không bao giờ log — key nhà cung cấp bị lột khỏi log request và response, chỉ giữ alias và nhà cung cấp để biết credential nào phục vụ request. - Xác thực live lúc lưu, rồi bỏ response xác thực. - Không chia bên thứ ba — key chỉ gửi tới nhà cung cấp upstream nó thuộc về. ## Bắt đầu Mở /byok để nối key nhà cung cấp đầu tiên, rồi chỉ mọi client tương thích OpenAI hoặc Anthropic vào https://anyrouter.dev/api/v1 và bắt đầu route trên tài khoản của bạn không phí thêm. Tham chiếu tính năng đầy đủ: /docs/features/byok. Hướng dẫn từng bước tạo key từng nhà: /docs/features/byok-providers. --- # A clearer way to pay: Free, Standard, and pay-as-you-go > We split billing into a simple subscription tier and separate pay-as-you-go credits, so you always know what you're paying for and what each request costs. - Date: June 22, 2026 - Category: product - HTML: https://anyrouter.dev/blog/billing-redesign ## Subscription and credits, kept separate Billing now has two independent parts. Your plan is a subscription — start on Free, or move to Standard when you want higher limits and more models. Usage beyond your plan runs on pay-as-you-go credits, which live in their own balance. A new Payment methods tab keeps your card and billing details in one place, so changing a plan or topping up credits never means hunting through settings. ## Two kinds of credit, in plain terms Credits come in two buckets. Credits issued with your plan each month are spent first, so you always use what you've already paid for before anything else. Top-up credits you buy on top of that never expire — they wait until you need them. Bring-your-own-key traffic stays free of platform credits, as always. When you route through your own provider keys, you pay your provider and nothing comes out of either bucket. ## Transparency and control Every request shows a clear mapping from tokens to credits, so the price is never a mystery. You can see exactly what a model costs before and after you use it. Auto-charge is opt-in and comes with a spend cap you set, so a busy week can't surprise you. There's no lock-in either — change plans or cancel anytime, and your top-up credits stay yours. ## Get started Open Billing to see your plan, your two credit balances, and your payment methods side by side. Stay on Free, upgrade to Standard, or add pay-as-you-go credits whenever you need a little more headroom. --- # 更清楚的付费方式:Free、Standard,以及按量 > 我们把计费拆成简单的订阅档和独立的按量额度,这样你始终知道在付什么、每次请求花多少。 - Date: June 22, 2026 - Category: product - HTML: https://anyrouter.dev/blog/zh/billing-redesign ## 订阅和额度分开 计费现在有两个独立部分。套餐是订阅——从 Free 开始,想要更高限额和更多模型再升 Standard。超出套餐的用量走按量额度,额度在单独的余额里。 新的 Payment methods 页把卡和账单信息放在一处,改套餐或充额度不用再翻设置。 ## 两种额度,说人话 额度分两桶。套餐每月发放的额度先花,所以你总是先用已经付过的。另外买的充值额度不过期——等到你需要再用。 自带 key 的流量照旧不花平台额度。走自己的供应商 key 时,你付给供应商,两桶都不扣。 ## 透明和可控 每次请求都把 token 映射到额度,价格不再是谜。用前用后都能看到一个模型到底多少钱。 自动扣款是选择加入,并带你设的花费上限,忙一周也不会吓一跳。也没有锁死——随时改套餐或取消,充值额度仍是你的。 ## 开始用 打开 Billing,套餐、两桶额度余额和支付方式并排可见。留在 Free、升到 Standard,或需要多一点余量时加上按量额度。 --- # Cách trả tiền rõ hơn: Free, Standard, và trả theo mức dùng > Chúng tôi tách billing thành tầng đăng ký đơn giản và credit trả theo mức dùng riêng, để bạn luôn biết đang trả gì và mỗi request tốn bao nhiêu. - Date: June 22, 2026 - Category: product - HTML: https://anyrouter.dev/blog/vi/billing-redesign ## Đăng ký và credit, giữ tách Billing giờ có hai phần độc lập. Gói là đăng ký — bắt đầu Free, hoặc lên Standard khi muốn hạn mức cao hơn và nhiều mô hình hơn. Dùng vượt gói chạy trên credit trả theo mức dùng, nằm ở số dư riêng. Tab Payment methods mới giữ thẻ và chi tiết billing một chỗ, nên đổi gói hoặc nạp credit không phải lần trong settings. ## Hai loại credit, nói thường Credit nằm hai thùng. Credit phát cùng gói mỗi tháng tiêu trước, nên bạn luôn dùng cái đã trả trước khi đụng thứ khác. Credit nạp thêm mua thêm không hết hạn — chúng đợi đến khi bạn cần. Traffic bring-your-own-key vẫn không đụng credit nền tảng, như trước. Khi route qua key nhà cung cấp của bạn, bạn trả nhà cung cấp và không thùng nào bị trừ. ## Minh bạch và kiểm soát Mỗi request hiện ánh xạ rõ từ token sang credit, nên giá không còn bí ẩn. Bạn thấy chính xác mô hình tốn bao nhiêu trước và sau khi dùng. Auto-charge là opt-in và kèm trần chi bạn đặt, nên một tuần bận không bất ngờ. Cũng không khóa — đổi gói hoặc hủy bất cứ lúc nào, credit nạp vẫn của bạn. ## Bắt đầu Mở Billing để thấy gói, hai số dư credit, và phương thức thanh toán cạnh nhau. Ở lại Free, nâng Standard, hoặc thêm credit trả theo mức dùng khi cần thêm headroom. --- # Free LLM API: hundreds of models with a real free tier > You don't need a credit card to start building with large language models. A free LLM API should give you real models, an OpenAI-compatible endpoint, and a way to keep costs at zero as you grow — here's how that works in practice. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/free-llm-api ## What 'free' usually means — and what it should mean Search for a free LLM API and you mostly find two things: a trial balance that expires in a week, or a single tiny model with no path to anything bigger. Neither lets you actually build. A free tier worth using has three properties: real models you'd ship with, a standard API so your code isn't throwaway, and a way to keep the cost at zero as usage grows instead of a cliff at the end of a trial. ## Three durable ways to stay at zero The most reliable approach combines a hosted free tier with your own provider quota. You can mix all three: 1. A free model tier — route to free-tier models on Go and higher (Free gets a 5-request trial) with no daily cap and no spend required. 2. Go credit — Go ($2 a month, or free when you donate one working provider key) adds $4 of credit every month, usable across the whole catalog. 3. Bring your own keys — if you already pay a provider directly, route on your own keys through the gateway at $0 markup and pay only what the provider charges. The third point is the one people miss: many providers (for example Google AI Studio for Gemini) have generous free tiers of their own. Routing those keys through a gateway gives you unified billing, logs, and failover on top of a free upstream. ## One endpoint, OpenAI-compatible A free API is only useful if it's easy to call. An OpenAI-compatible endpoint means any existing client works — you just set the base URL and a key. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Hello from a free LLM API"}] }' ``` _A free call with curl — pick a free-tier model id._ Swap `anyrouter/free` for any `provider/model` id in the catalog when you want a bigger model — your Go credit or your own keys cover those, and nothing in your code changes. AnyRouter gives you a free LLM API: a free model tier, $4 of monthly credit on Go, and $0-markup BYOK behind one OpenAI-compatible endpoint. [Set it up free](https://anyrouter.dev/dashboard) --- # 免费 LLM API:数百个模型,真正的免费档 > 开始用大语言模型不必先绑卡。一个像样的免费 LLM API 该给你真模型、兼容 OpenAI 的端点,以及用量涨了还能把成本留在零的办法——下面讲实际怎么做。 - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/free-llm-api ## 「免费」通常指什么——以及它该指什么 搜免费 LLM API,多半只看到两样:一周就过期的试用余额,或一个没法再长大的小模型。两者都没法真正做产品。 值得用的免费档有三点:你会拿去上线的真模型、标准 API 所以代码不是一次性的、用量涨了仍能把成本留在零,而不是试用结束掉下悬崖。 ## 把成本留在零的三条耐久路 最稳的做法是托管免费档加上你自己的供应商配额。三条可以一起用: 1. 免费模型档——打免费档模型,Go 及以上可用(Free 有 5 次试用请求),没有每日上限,不扣钱。 2. Go 额度——Go(每月 $2,捐一把能用的供应商 key 则免费)每月送 $4 额度,可花在整个目录。 3. 自带 key——如果你已经直接付给某家供应商,经网关用自己的 key 路由、网关 $0 加价,只付供应商收的那部分。 第三点常被漏掉:很多供应商(例如 Google AI Studio 的 Gemini)自己就有大方的免费档。把那些 key 接到网关,等于在免费上游之上再加统一账单、日志和失败切换。 ## 一个端点,兼容 OpenAI 免费 API 只有好调才有用。兼容 OpenAI 的端点意味着现有客户端都能用——设 base URL 和一把 key。 ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Hello from a free LLM API"}] }' ``` _用 curl 打一次免费调用——选一个免费档 model id。_ 想用更大的模型,把 `anyrouter/free` 换成数百个 `provider/model` id 里的任意一个——Go 额度或你自己的 key 覆盖它们,代码不用改。 AnyRouter 给你一个免费 LLM API:免费模型档、Go 每月 $4 额度,以及 $0 加价的 BYOK,都在一个兼容 OpenAI 的端点后面。 [免费配起来](https://anyrouter.dev/dashboard) --- # API LLM miễn phí: hàng trăm mô hình với free tier thật > Bạn không cần thẻ để bắt đầu dựng với mô hình ngôn ngữ lớn. Một API LLM miễn phí nên cho mô hình thật, endpoint tương thích OpenAI, và cách giữ chi phí ở zero khi lớn — đây là cách nó chạy trên thực tế. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/free-llm-api ## 'Miễn phí' thường nghĩa gì — và nên nghĩa gì Tìm API LLM miễn phí bạn chủ yếu thấy hai thứ: số dư trial hết hạn trong một tuần, hoặc một mô hình nhỏ không đường tới thứ lớn hơn. Không cái nào cho bạn thực sự dựng. Free tier đáng dùng có ba tính chất: mô hình thật bạn sẽ ship, API chuẩn nên code không phải đồ bỏ, và cách giữ chi phí ở zero khi usage lớn thay vì vách đá cuối trial. ## Ba cách bền để ở zero Cách tin cậy nhất kết hợp free tier hosted với quota nhà cung cấp của bạn. Bạn có thể trộn cả ba: 1. Tầng mô hình miễn phí — route tới mô hình free-tier trên Go trở lên, không trần theo ngày (150 yêu cầu/phút trên Go (60 nếu Go từ key góp), 400 trên Pro, Pro+ và Max, tính theo tài khoản), không trừ credit. 2. Credit Go — Go ($2/tháng, hoặc miễn phí khi bạn góp một key nhà cung cấp còn chạy) thêm $4 credit mỗi tháng, dùng được trên toàn catalog. 3. Mang key của bạn — nếu đã trả nhà cung cấp trực tiếp, route trên key của bạn qua gateway markup $0 và chỉ trả đúng nhà cung cấp tính. Điểm thứ ba người ta hay bỏ: nhiều nhà cung cấp (ví dụ Google AI Studio cho Gemini) có free tier rộng của riêng họ. Route những key đó qua gateway cho billing thống nhất, log, và failover trên một upstream miễn phí. ## Một endpoint, tương thích OpenAI API miễn phí chỉ hữu ích nếu dễ gọi. Endpoint tương thích OpenAI nghĩa là mọi client sẵn có chạy — bạn chỉ đặt base URL và một key. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer sk-ar-v1-..." \ -H "Content-Type: application/json" \ -d '{ "model": "anyrouter/free", "messages": [{"role": "user", "content": "Hello from a free LLM API"}] }' ``` _Một cuộc gọi miễn phí bằng curl — chọn model id free-tier._ Đổi `anyrouter/free` sang bất kỳ id `provider/model` nào trong catalog khi muốn mô hình lớn hơn — credit Go hoặc key của bạn lo phần đó, không gì trong code đổi. AnyRouter cho bạn API LLM miễn phí: tầng mô hình miễn phí, $4 credit mỗi tháng trên Go, và BYOK markup $0 sau một endpoint tương thích OpenAI. [Cài miễn phí](https://anyrouter.dev/dashboard) --- # Is there an unlimited free LLM API? An honest answer > Truly unlimited and truly free can't both be true forever — someone pays for the GPUs. But you can get very close: free tiers, your own provider quota at $0 markup, and a shared key pool. Here's how each one works. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/unlimited-free-llm-api ## Why 'unlimited free' has a catch Every token costs a provider real GPU time, so any offer that's both unlimited and free is, somewhere, subsidised — usually by rate limits, a queue, a trial clock, or ads. The honest goal isn't a mythical infinite free plan; it's stacking the legitimate free capacity that already exists so you rarely hit a wall. ## How close you can actually get Three mechanisms, combined, cover most real workloads at zero or near-zero cost: | Mechanism | How 'unlimited' it is | The honest limit | | --- | --- | --- | | Free model tier | Free on Go and up | 60–400 req/min per account by plan | | Your own provider free tiers (BYOK) | As large as the provider gives you | The provider's own quota — at $0 gateway markup | | Shared key pool | Grows with the community | You must donate spare quota to draw from it | Bring-your-own-keys is the closest thing to 'unlimited free' that's also sustainable: if a provider hands you a generous free tier, routing it through a gateway adds failover, logs, and unified billing without adding any markup. You get the provider's full free quota, just better organised. ## Stack them behind one API Because it's all one OpenAI-compatible endpoint, you can start on the free tier, add your own free-tier provider keys, and let traffic fall back across them automatically — no code change as you scale your free capacity. Get as close to unlimited-free as it gets: free tier + $0-markup BYOK + a shared key pool, behind one API. [Set it up free](https://anyrouter.dev/dashboard) --- # 有没有无限免费的 LLM API?诚实回答 > 真正无限和真正免费不可能永远同时成立——GPU 总有人付钱。但你可以非常接近:免费档、你自己的供应商配额加 $0 加价,以及共享 key 池。下面是每一条怎么工作。 - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/unlimited-free-llm-api ## 为什么「无限免费」总有陷阱 每个 token 都花供应商真实 GPU 时间,所以任何既无限又免费的报价,在某处都是补贴——通常靠限流、排队、试用倒计时或广告。诚实目标不是神话里的无限免费套餐;而是把已经存在的合法免费容量叠起来,让你很少撞墙。 ## 实际上能接近到什么程度 三种机制合在一起,能以零或接近零成本覆盖大多数真实工作负载: | 机制 | 有多「无限」 | 诚实上限 | | --- | --- | --- | | 免费模型档 | Go 及以上每天都免费 | 按套餐每个账户每分钟 60–400 次,无每日上限 | | 你自己的供应商免费档(BYOK) | 有供应商给多少就多大 | 供应商自己的配额——网关加价 $0 | | 共享 key 池 | 随社区增长 | 必须捐出闲置配额才能从池里取 | 自带 key 是最接近「无限免费」又可持续的做法:如果供应商给你慷慨的免费档,经网关路由会加上故障切换、日志和统一账单,而不加任何加价。你拿到供应商完整的免费配额,只是组织得更好。 ## 叠到一个 API 后面 因为全是一个兼容 OpenAI 的端点,你可以从免费档开始,再加入自己的免费档供应商 key,让流量在它们之间自动回退——扩大免费容量时不用改代码。 尽可能接近无限免费:免费档 + $0 加价 BYOK + 共享 key 池,一个 API 后面。 [免费开始](https://anyrouter.dev/dashboard) --- # Có API LLM miễn phí không giới hạn không? Trả lời thành thật > Thật sự không giới hạn và thật sự miễn phí không thể cùng đúng mãi — ai đó trả GPU. Nhưng bạn có thể rất gần: free tier, quota nhà cung cấp của bạn markup $0, và pool key dùng chung. Đây là từng cái chạy thế nào. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/unlimited-free-llm-api ## Vì sao «unlimited free» luôn có móc Mỗi token tốn nhà cung cấp thời GPU thật, nên mọi lời hứa vừa unlimited vừa miễn phí, ở đâu đó, đang được trợ giá — thường bằng rate limit, hàng đợi, đồng hồ trial, hoặc quảng cáo. Mục tiêu thành thật không phải gói miễn phí vô hạn thần thoại; là xếp chồng capacity miễn phí hợp lệ đã có để bạn hiếm khi đụng tường. ## Bạn thật sự có thể gần tới đâu Ba cơ chế, kết hợp, phủ hầu hết workload thật với chi phí zero hoặc gần zero: | Cơ chế | «Unlimited» tới đâu | Trần thành thật | | --- | --- | --- | | Tầng mô hình miễn phí | Miễn phí từ gói Go trở lên | Không trần ngày, 60–400 req/phút mỗi tài khoản, theo gói | | Free tier nhà cung cấp của bạn (BYOK) | Lớn bằng nhà cung cấp cho bạn | Đúng quota của nhà cung cấp — markup gateway $0 | | Pool key dùng chung | Lớn theo cộng đồng | Bạn phải góp quota dư mới lấy được | Bring-your-own-keys là thứ gần «unlimited free» mà vẫn bền: nếu nhà cung cấp cho free tier rộng, route qua gateway thêm failover, log, và billing thống nhất mà không thêm markup. Bạn nhận đủ quota miễn phí của nhà cung cấp, chỉ tổ chức hơn. ## Xếp chúng sau một API Vì tất cả là một endpoint tương thích OpenAI, bạn bắt đầu trên free tier, thêm key free-tier nhà cung cấp của bạn, rồi để traffic failover giữa chúng tự động — không đổi code khi mở rộng capacity miễn phí. Gần unlimited-free nhất có thể: free tier + BYOK markup $0 + pool key dùng chung, sau một API. [Cài miễn phí](https://anyrouter.dev/dashboard) --- # Unify every LLM API behind one endpoint > OpenAI, Anthropic, Google, and a dozen others each ship a different SDK, auth scheme, and error shape. Unifying them behind one OpenAI-compatible API turns model choice into a config value instead of an integration project. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/unify-llm-api ## The fragmentation tax Most teams end up talking to several model providers — a cheap model for bulk jobs, a strong one for hard prompts, a fast one for latency-sensitive paths. Each provider brings its own SDK, base URL, auth header, request body, streaming format, and error codes. That surface area is a tax you pay on every new model and every upgrade. - A new SDK and auth flow per provider you add. - No single place to see spend, latency, or error rates across vendors. - Swapping a model for cost or quality means touching code and redeploying. - An outage at one provider becomes an outage for your product. ## What 'unify' actually buys you Unifying means one OpenAI-compatible contract in front of every provider. Model ids become `provider/model` strings, so switching a model is a config value — not an integration. You also get one key, one bill, and one audit log across all of them, plus automatic failover when an upstream is down. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Hello"}], ) ``` _One client, one base URL — every model is just a string._ ## No lock-in either A unifying layer is only safe if leaving it is easy. Because the contract is the standard OpenAI API, the same code points straight back at any provider — there's no proprietary SDK to rip out later. Unify OpenAI, Anthropic, Google and 25+ more providers behind one OpenAI-compatible API. [Set it up free](https://anyrouter.dev/dashboard) --- # 把每家 LLM API 统一到一个端点后面 > OpenAI、Anthropic、Google 以及十多家各自出一套 SDK、鉴权和错误形状。把它们统一到一个兼容 OpenAI 的 API 后面,选模型就变成配置值,而不是一次集成项目。 - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/unify-llm-api ## 碎片化税 大多数团队最后会对接好几家模型供应商——便宜的做批量、强的做难 prompt、快的走延迟敏感路径。每家自带 SDK、base URL、鉴权头、请求体、流式格式和错误码。这块表面积是你每加一个新模型、每次升级都要交的税。 - 每加一家供应商就要一套新 SDK 和鉴权流程。 - 没有一个地方看跨厂商的花费、延迟或错误率。 - 为了成本或质量换模型意味着改代码并重新部署。 - 一家供应商宕机,就变成你产品宕机。 ## 「统一」实际买到什么 统一意味着在每家供应商前面放一份兼容 OpenAI 的契约。模型 id 变成 `provider/model` 字符串,换模型是配置值——不是一次集成。你还得到一把 key、一张账单、一份跨全部供应商的审计日志,以及上游挂掉时的自动故障切换。 ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Hello"}], ) ``` _一个客户端,一个 base URL——每个模型只是一个字符串。_ ## 也不会锁死 统一层只有在离开它很容易时才安全。因为契约是标准 OpenAI API,同一份代码可以直接指回任意供应商——没有以后要撕掉的专有 SDK。 把 OpenAI、Anthropic、Google 以及多家供应商统一到一个兼容 OpenAI 的 API 后面。 [免费开始](https://anyrouter.dev/dashboard) --- # Thống nhất mọi LLM API sau một endpoint > OpenAI, Anthropic, Google, và hàng tá hãng khác mỗi nhà một SDK, auth, và hình lỗi khác. Thống nhất chúng sau một API tương thích OpenAI biến chọn model thành giá trị config, không phải dự án tích hợp. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/unify-llm-api ## Thuế phân mảnh Hầu hết team cuối cùng nói chuyện với vài nhà cung cấp model — model rẻ cho việc hàng loạt, model mạnh cho prompt khó, model nhanh cho đường nhạy latency. Mỗi nhà mang SDK, base URL, header auth, body request, format stream, và mã lỗi riêng. Diện tích đó là thuế bạn trả mỗi model mới và mỗi lần nâng. - SDK mới và luồng auth mỗi nhà cung cấp bạn thêm. - Không một chỗ xem spend, latency, hay tỷ lệ lỗi xuyên vendor. - Đổi model vì giá hay chất lượng nghĩa là đụng code và redeploy. - Outage một nhà cung cấp thành outage sản phẩm của bạn. ## «Unify» thật sự mua được gì Thống nhất nghĩa là một hợp đồng tương thích OpenAI trước mọi nhà cung cấp. Model id thành chuỗi `provider/model`, nên đổi model là giá trị config — không phải tích hợp. Bạn cũng có một key, một hóa đơn, một audit log trên tất cả, cộng failover tự động khi upstream chết. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro"]: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": "Hello"}], ) ``` _Một client, một base URL — mọi model chỉ là chuỗi._ ## Cũng không lock-in Lớp thống nhất chỉ an toàn nếu rời đi dễ. Vì hợp đồng là API OpenAI chuẩn, cùng code chỉ thẳng lại bất kỳ nhà cung cấp — không SDK độc quyền phải xé sau này. Thống nhất OpenAI, Anthropic, Google và nhiều nhà cung cấp khác sau một API tương thích OpenAI. [Cài miễn phí](https://anyrouter.dev/dashboard) --- # Unify your MCP tools behind one free gateway > As you add MCP servers — for search, code, data, your own internal tools — each client needs its own config and credentials. A unified MCP gateway puts them behind one endpoint with one auth flow, and connecting to AnyRouter's is free. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/unify-mcp-gateway-free ## MCP sprawl is the new integration sprawl The Model Context Protocol made it easy to give an assistant tools — and that's exactly why config sprawls. Every MCP server you add means another entry, another token, and another thing to keep in sync across Claude Desktop, Cursor, Claude Code, and your own agents. A gateway solves this the same way a model router does: it puts many servers behind one stable endpoint with a single auth flow, so adding a tool doesn't mean re-editing every client. ## What a unified MCP gateway gives you - One endpoint and one OAuth flow for every client — Claude Desktop, Cursor, Claude Code, OpenCode, and custom agents. - AnyRouter's own MCP server is free to connect — list models, manage keys, check credits, and more, straight from your assistant. - Managed access, so you control which tools are exposed and to whom. - The same identity and audit trail you already use for inference. Because it speaks standard MCP over JSON-RPC, any MCP-capable client can point at it without custom code. ## Connect in one line Point your client at the AnyRouter MCP endpoint and authenticate once: ```bash https://anyrouter.dev/api/v1/mcp ``` _The MCP server endpoint any MCP client can connect to._ Connect the AnyRouter MCP gateway to Claude Desktop, Cursor, or Claude Code — free. [Set up MCP](https://anyrouter.dev/docs/mcp) --- # 把 MCP 工具统一到一个免费网关后面 > 当你不断加 MCP 服务器——搜索、代码、数据、自己的内部工具——每个客户端都要自己的配置和凭证。统一 MCP 网关把它们放在一个端点、一套鉴权后面,连上 AnyRouter 的网关是免费的。 - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/zh/unify-mcp-gateway-free ## MCP 蔓延就是新的集成蔓延 Model Context Protocol 让给助手配工具很容易——正因为如此配置才会蔓延。每加一台 MCP 服务器就多一条条目、多一把 token,还要在 Claude Desktop、Cursor、Claude Code 和你自己的 agent 之间保持同步。 网关用模型路由器同一套办法解决:把许多服务器放在一个稳定端点和单一鉴权流程后面,加工具不必再改每个客户端。 ## 统一 MCP 网关给你什么 - 每个客户端一个端点、一套 OAuth——Claude Desktop、Cursor、Claude Code、OpenCode,以及自写 agent。 - AnyRouter 自己的 MCP 服务器免费连接——列模型、管 key、查额度等等,直接从助手里做。 - 托管访问,由你控制暴露哪些工具、给谁。 - 与推理共用的同一套身份和审计轨迹。 因为它在 JSON-RPC 上说标准 MCP,任何能 MCP 的客户端都能指向它,不必写定制代码。 ## 一行连上 把客户端指向 AnyRouter MCP 端点,鉴权一次: ```bash https://anyrouter.dev/api/v1/mcp ``` _任何 MCP 客户端都能连接的 MCP 服务器端点。_ 把 AnyRouter MCP 网关接到 Claude Desktop、Cursor 或 Claude Code——免费。 [配置 MCP](https://anyrouter.dev/docs/mcp) --- # Thống nhất công cụ MCP sau một gateway miễn phí > Khi bạn thêm MCP server — tìm kiếm, code, data, công cụ nội bộ — mỗi client cần config và credential riêng. MCP gateway thống nhất đặt chúng sau một endpoint với một luồng auth, và kết nối tới gateway của AnyRouter thì miễn phí. - Date: June 29, 2026 - Category: guides - HTML: https://anyrouter.dev/blog/vi/unify-mcp-gateway-free ## MCP sprawl là integration sprawl kiểu mới Model Context Protocol làm việc dễ: cho assistant công cụ — và đúng vì thế config lan. Mỗi MCP server bạn thêm nghĩa là một entry nữa, một token nữa, và một thứ phải đồng bộ trên Claude Desktop, Cursor, Claude Code, và agent của bạn. Gateway giải bài này như model router: đặt nhiều server sau một endpoint ổn định với một luồng auth, nên thêm công cụ không nghĩa là sửa lại mọi client. ## MCP gateway thống nhất cho bạn gì - Một endpoint và một luồng OAuth cho mọi client — Claude Desktop, Cursor, Claude Code, OpenCode, và agent tự viết. - MCP server của chính AnyRouter kết nối miễn phí — liệt kê model, quản key, kiểm credit, và hơn nữa, thẳng từ assistant. - Managed access, bạn kiểm công cụ nào lộ ra và cho ai. - Cùng identity và audit trail bạn đã dùng cho inference. Vì nó nói MCP chuẩn trên JSON-RPC, mọi client hiểu MCP có thể chỉ vào mà không cần code tùy biến. ## Kết nối một dòng Chỉ client vào endpoint MCP AnyRouter và xác thực một lần: ```bash https://anyrouter.dev/api/v1/mcp ``` _Endpoint MCP server mà mọi client MCP có thể kết nối._ Nối MCP gateway AnyRouter vào Claude Desktop, Cursor, hoặc Claude Code — miễn phí. [Cài MCP](https://anyrouter.dev/docs/mcp) --- # OpenRouter alternative: what to compare before you switch > Looking for an OpenRouter alternative? Compare markup, bring-your-own-keys, billing, and lock-in — then see where AnyRouter lands. No invented benchmarks. - Date: June 29, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/openrouter-alternative ## Should you switch? Yes — if you want one OpenAI-compatible API, bring-your-own keys at $0 markup, and a $2 Go plan that credits $4 each month, AnyRouter is an OpenRouter alternative worth pointing at. Stay where you are if a single-provider SDK is enough for you, or if you need image or video generation: AnyRouter is text and embeddings only. The rest of this page is a checklist and an honest table of AnyRouter facts. It does not invent OpenRouter metrics, rankings, traffic, or benchmarks. ## What to compare in a routing gateway Once you've decided to route through a gateway instead of wiring each provider by hand, an OpenRouter alternative is mostly a billing and lock-in choice: whether there's markup on credits, whether you can route on your own provider keys, how billing and logs are presented, and how hard it is to leave. - Markup — does the gateway add a fee on top of provider pricing? - Bring your own keys — can you route on keys you already pay for, and at what cost? - Billing & logs — one balance and one audit trail, or several? - Lock-in — is the API a standard you can point elsewhere, or proprietary? ## Where AnyRouter lands | Dimension | AnyRouter | Typical routing gateway | | --- | --- | --- | | API surface | OpenAI-compatible — drop-in for existing code | Often OpenAI-shaped; check whether leaving is a config change or a rewrite | | Catalog | Hundreds of models across many providers | Varies — compare live catalogs, not a screenshot | | Credits / Go | $2/month Go → $4 monthly credit; new Free has no signup credit | Often a credit pack, a markup, or both — numbers differ by vendor | | Bring your own keys | Yes — route on your keys at $0 markup | May be missing, capped, or billed as a cut | | Shared pool / donate | Donate a key for Go and the shared pool | Not always offered | | Billing | One balance, unified usage, real-time pricing | One invoice or several — check before you switch | | Observability | Per-request audit log + analytics dashboard | Varies | | Routing | Automatic failover across upstreams | Often present; confirm retry and fallback behavior | | Lock-in | None — it's the standard API; point back anytime | Proprietary extras can make leaving harder | The AnyRouter column is product fact only. The third column is generic — not OpenRouter's numbers. For a 2026-dated checklist see [OpenRouter alternatives 2026](/blog/openrouter-alternative-anyrouter); the docs side-by-side is [AnyRouter vs OpenRouter](https://anyrouter.dev/docs/guides/anyrouter-vs-openrouter). ## When not to use AnyRouter An honest alternative page should say when to stay put. - You only call one provider and the first-party SDK is simpler than a gateway. - You need image or video generation — AnyRouter is text and embeddings only. - You need a product feature we do not ship; do not assume parity from a table. - You are happy with your current gateway's billing and have no reason to move. ## Migrating is a two-line change Because AnyRouter speaks the OpenAI API, switching is usually just the base URL and the key. Model ids become `provider/model`, and everything else — streaming, tools, the SDK — stays the same. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", # or openai/gpt-5.5, google/gemini-2.5-pro, ... messages=[{"role": "user", "content": "Hello"}], ) ``` _Point your existing OpenAI client at AnyRouter and pick any model._ AnyRouter is a drop-in, OpenAI-compatible gateway. BYOK is $0 markup; Go is $2/month for $4 credit. [Set it up](https://anyrouter.dev/dashboard) --- # OpenRouter 替代:换网关前该比什么 > 在找 OpenRouter 替代?比加价、自带 key、账单和锁定——再看 AnyRouter 落在哪。没有编造的榜单。 - Date: June 29, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/zh/openrouter-alternative ## 该不该换? 该——若你要一个兼容 OpenAI 的 API、自带 key $0 加价、以及 $2 Go 计划每月 $4 额度,AnyRouter 值得指向。若一家供应商的 SDK 就够,或你需要图/视频生成,就留下:AnyRouter 只做文本和 embeddings。 下文是清单和 AnyRouter 事实表。不编造 OpenRouter 的指标、排名、流量或榜单。 ## 路由网关该比什么 一旦决定经网关路由而不是手接每家供应商,OpenRouter 替代主要是账单和锁定的选择:额度上有没有加价、能不能用你已付费的供应商 key 路由、账单和日志怎么呈现、离开有多难。 - 加价 — 网关有没有在供应商定价上再收费? - 自带 key — 能不能用你已付费的 key 路由,成本多少? - 账单和日志 — 一个余额、一条审计轨迹,还是好几份? - 锁定 — API 是能指到别处的标准,还是私有的? ## AnyRouter 落在哪 | 维度 | AnyRouter | 典型路由网关 | | --- | --- | --- | | API 表面 | 兼容 OpenAI — 现有代码可直接换 | 多为 OpenAI 形态;确认离开是改配置还是重写 | | 目录 | 数百个模型、多家供应商 | 各不相同 — 比线上目录,不要比截图 | | 额度 / Go | $2/月 Go → 每月 $4 额度;新 Free 没有注册额度 | 常见额度包或加价,数字因厂商而异 | | 自带 key | 可以 — 用你的 key 路由,$0 加价 | 可能没有、有上限、或抽成 | | 共享池 / 捐 key | 捐一把 key 换 Go 和共享池 | 不一定提供 | | 账单 | 一个余额、统一用量、实时定价 | 一张账单或多张 — 换之前核对 | | 可观测性 | 逐请求审计日志 + 分析控制台 | 各不相同 | | 路由 | 跨上游自动故障切换 | 常见;确认重试和回退 | | 锁定 | 没有 — 标准 API;随时指回去 | 私有附加能力会让离开更难 | AnyRouter 这一列只写产品事实。第三列是泛称——不是 OpenRouter 的数字。2026 清单见 [OpenRouter alternatives 2026](/blog/zh/openrouter-alternative-anyrouter);文档对照见 [AnyRouter vs OpenRouter](https://anyrouter.dev/docs/guides/anyrouter-vs-openrouter)。 ## 什么时候不该用 AnyRouter 诚实的替代页应该写清何时留下。 - 你只调一家供应商,官方 SDK 比网关更简单。 - 你需要图或视频生成 — AnyRouter 只做文本和 embeddings。 - 你需要我们没做的功能;不要从表里臆测对等。 - 你满意现有网关账单,没有理由换。 ## 迁移通常改两行 AnyRouter 说 OpenAI API,切换通常只是 base URL 和 key。Model id 变成 `provider/model`,其余——流式、工具、SDK——不变。 ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", # or openai/gpt-5.5, google/gemini-2.5-pro, ... messages=[{"role": "user", "content": "Hello"}], ) ``` _把现有 OpenAI 客户端指到 AnyRouter,选任意模型。_ AnyRouter 是可替换的兼容 OpenAI 网关。BYOK $0 加价;Go $2/月换 $4 额度。 [去设置](https://anyrouter.dev/dashboard) --- # Thay thế OpenRouter: so gì trước khi chuyển > Đang tìm thay thế OpenRouter? So markup, bring-your-own-keys, billing, và lock-in — rồi xem AnyRouter đứng ở đâu. Không bịa benchmark. - Date: June 29, 2026 - Category: comparisons - HTML: https://anyrouter.dev/blog/vi/openrouter-alternative ## Có nên chuyển? Có — nếu bạn muốn một API tương thích OpenAI, bring-your-own keys markup $0, và gói Go $2 kèm $4 credit mỗi tháng, AnyRouter là một thay thế OpenRouter đáng trỏ tới. Ở lại nếu SDK một nhà là đủ, hoặc nếu bạn cần tạo ảnh/video: AnyRouter chỉ text và embeddings. Phần còn lại là checklist và bảng sự kiện AnyRouter. Không bịa metric, xếp hạng, traffic, hay benchmark của OpenRouter. ## So gì trên gateway routing Khi đã quyết định route qua gateway thay vì tự nối từng nhà, một thay thế OpenRouter chủ yếu là lựa chọn billing và lock-in: có markup trên credit không, có route trên key nhà cung cấp của bạn không, billing và log trình bày thế nào, và rời đi khó ra sao. - Markup — gateway có cộng phí trên giá nhà cung cấp không? - Bring your own keys — có route trên key bạn đã trả không, giá bao nhiêu? - Billing & logs — một số dư và một audit trail, hay nhiều cái? - Lock-in — API là chuẩn chỉ đi nơi khác được, hay độc quyền? ## AnyRouter đứng ở đâu | Chiều | AnyRouter | Gateway routing điển hình | | --- | --- | --- | | Bề mặt API | Tương thích OpenAI — thả vào code sẵn có | Thường dạng OpenAI; kiểm tra rời đi là đổi config hay viết lại | | Catalog | Hàng trăm model trên nhiều nhà cung cấp | Khác nhau — so catalog live, không phải screenshot | | Credit / Go | Go $2/tháng → $4 credit mỗi tháng; Free mới không có credit đăng ký | Thường gói credit, markup, hoặc cả hai — số khác theo vendor | | Bring your own keys | Có — route trên key của bạn, markup $0 | Có thể thiếu, bị cap, hoặc bị cắt phí | | Shared pool / donate | Donate key để lấy Go và shared pool | Không phải lúc nào cũng có | | Billing | Một số dư, usage thống nhất, giá thời gian thực | Một hóa đơn hoặc nhiều — kiểm tra trước khi chuyển | | Observability | Audit log từng request + dashboard analytics | Khác nhau | | Routing | Failover tự động giữa upstream | Thường có; xác nhận retry và fallback | | Lock-in | Không — API chuẩn; chỉ lại bất cứ lúc nào | Tính năng độc quyền có thể làm rời đi khó hơn | Cột AnyRouter chỉ sự kiện sản phẩm. Cột thứ ba là generic — không phải số của OpenRouter. Checklist 2026: [OpenRouter alternatives 2026](/blog/vi/openrouter-alternative-anyrouter); so sánh docs: [AnyRouter vs OpenRouter](https://anyrouter.dev/docs/guides/anyrouter-vs-openrouter). ## Khi nào không dùng AnyRouter Trang thay thế trung thực phải nói khi nào nên ở lại. - Bạn chỉ gọi một nhà và SDK gốc đơn giản hơn gateway. - Bạn cần tạo ảnh hoặc video — AnyRouter chỉ text và embeddings. - Bạn cần tính năng chúng tôi không ship; đừng suy ra parity từ bảng. - Bạn hài lòng billing gateway hiện tại và không có lý do chuyển. ## Chuyển thường chỉ hai dòng AnyRouter nói OpenAI API, nên chuyển thường chỉ base URL và key. Model id thành `provider/model`, phần còn lại — streaming, tool, SDK — giữ nguyên. ```python from openai import OpenAI client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...") resp = client.chat.completions.create( model="anthropic/claude-opus-4-8", # or openai/gpt-5.5, google/gemini-2.5-pro, ... messages=[{"role": "user", "content": "Hello"}], ) ``` _Chỉ client OpenAI sẵn có vào AnyRouter và chọn bất kỳ model._ AnyRouter là gateway thả vào, tương thích OpenAI. BYOK markup $0; Go $2/tháng cho $4 credit. [Thiết lập](https://anyrouter.dev/dashboard) --- # Liquid d1.2 and d1.2 Ultra > Liquid AI's omnimodal decision models join the catalog through your own Liquid key: d1.2 for everyday decisions, d1.2 Ultra for harder ones. - Date: 2026-11-17 - HTML: https://anyrouter.dev/blog/releases/2026-11-17-d1-2 ## Models - `liquid/d1.2` (Liquid d1.2) - `liquid/d1.2-ultra` (Liquid d1.2 Ultra) ## Notes Liquid d1.2 and d1.2 Ultra return calibrated answers instead of generated text. Send a state and typed questions in one Decisions call and get classification, routing, scoring and extraction results with zero generated tokens. Switch between them by changing the `model` field — d1.2 is the faster default, d1.2 Ultra is for harder decisions. ![Liquid AI's diagram of d1.2 tasks: text, image and audio in; spans, boxes and decisions out. Image: Liquid AI.](https://aypchzzf9pftwuto.public.blob.vercel-storage.com/d1.2-tasks-FcIxTaCiOFKLdZ9Xo5e39irR884IwE.png) The new answer types read a value from an input, find every passage of a kind, locate objects in a picture, estimate a number with a range, and pick every option that applies. On AnyRouter these arrive through the Decisions endpoint with zero generated tokens, so a routing or extraction step does not pay for a chat-style answer. ![Liquid AI's chart of Artificial Analysis Decision Index results for d1.2 and d1.2 Ultra. Image: Liquid AI; results are the vendor's published claims.](https://aypchzzf9pftwuto.public.blob.vercel-storage.com/d1.2-aa-decision-index-j0zAY6749oGT6DAW1gHLxtRHJpfHkj.png) ```bash curl -s https://anyrouter.dev/api/v1/decisions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"liquid/d1.2","state":"Order #42 shipped late.","questions":[{"name":"urgent","type":"noul","instructions":"Is this urgent?"}]}' ``` _Decisions request._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model liquid/d1.2 \ --state 'Order #42 shipped late.' \ --questions '{"urgent":{"type":"noul","instructions":"Is this urgent?"}}' ``` _Coding agent / CLI._ Liquid bills input tokens only: $0.02 per million for d1.2 and $0.042 for d1.2 Ultra; output is free. AnyRouter does not charge for BYOK inference. Learn more in [Liquid's launch post](https://www.liquid.ai/blog/d1-2), the [d1.2 docs](https://docs.liquid.ai/lfm/models/d1), and the [Decision Index results](https://artificialanalysis.ai/decision-models/d1-2-ultra). Try them on [d1.2](https://anyrouter.dev/model/liquid/d1.2) and [d1.2 Ultra](https://anyrouter.dev/model/liquid/d1.2-ultra). AnyRouter forwards text state, model and questions to the Decisions endpoint today; Liquid's own image and audio input is documented at the links above. --- # Sage S2.1 Flash > Shanghai AI Laboratory's scientific multimodal model joins the catalog through your own Intern TokenPlan key. - Date: 2026-11-17 - HTML: https://anyrouter.dev/blog/releases/2026-11-17-sage-s2-1-flash ## Models - `intern/sage-s2.1-flash` (Sage S2.1 Flash) ## Notes Sage S2.1 Flash is a scientific multimodal model built for iterative research. It combines scientific data understanding with information retrieval, coding and tool use, and reads text and images with a 512K-token context window. ![Vendor benchmark grid comparing Sage S2.1 Flash with five other models on 15 tests. Results are Shanghai AI Laboratory's published claims.](https://anyrouter.dev/img/models/intern/sage-s2.1-flash/benchmark-1.webp) Through Sage SciPerception, the open-weight model reads more than ten scientific input types, including molecular graphs, crystal structures and protein structures. The hosted Intern API takes text and images; the other scientific inputs use the open-weight projectors. ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "intern/sage-s2.1-flash", "messages": [{"role": "user", "content": "Summarize this paper and list three follow-up experiments."}] }' ``` _curl._ ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("intern/sage-s2.1-flash"), prompt: "Summarize this paper." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "intern/sage-s2.1-flash" ``` _Coding agent._ This is a BYOK route: add your Intern TokenPlan key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and your own Intern account is billed. Intern publishes rates in Ink Points with no USD conversion, so AnyRouter shows no list price. Read the [model card](https://huggingface.co/internlm/Sage-S2.1-Flash) and the [launch post](https://x.com/AtriaASI/status/2122319410623029578) for the full claims. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents) and [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Hy4 flash > Tencent's everyday productivity model joins the catalog through your own key at several providers. - Date: 2026-11-16 - HTML: https://anyrouter.dev/blog/releases/2026-11-16-hy4-flash ## Models - `tencent/hy4-flash` (Hy4 flash) ## Notes [Hy4 flash](https://anyrouter.dev/model/tencent/hy4-flash) accepts text and images and produces text, with a 1M-token context window. Tencent designed it for document understanding, coding assistance and routine agent workflows. Bring your own key from a supported provider (including AIHubMix, OpenRouter, Infron, Nous Portal, ZenMux, Novita, Qiniu, OpenCode Zen Go and Kenari). AIHubMix lists $0.081 per million input tokens, $0.324 per million output tokens and $0.00324 per million cached input tokens. AnyRouter does not charge for BYOK inference. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("tencent/hy4-flash"), prompt: "Summarize this document." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "tencent/hy4-flash" ``` _Coding agent._ Try it in the [playground](https://anyrouter.dev/chat?model=tencent%2Fhy4-flash). Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). [Tencent's launch](https://hy.tencent.ai/research/hy4-flash) describes its intended uses and limitations. --- # ERNIE Light DT 1.0 > Baidu's lightweight 1M-context ERNIE Light DT 1.0 joins the catalog through your own provider key. - Date: 2026-11-15 - HTML: https://anyrouter.dev/blog/releases/2026-11-15-ernie-light-dt-1-0 ## Models - `baidu/ernie-light-dt-1.0` (ERNIE Light DT 1.0) — Baidu's lightweight long-context text model with sparse attention and a switchable thinking mode. 1,024,000-token context, up to 131,072 output tokens, tool calling and structured output. Reach it through your own OpenRouter, Nous Portal or NanoGPT key. ## Notes [`baidu/ernie-light-dt-1.0`](https://anyrouter.dev/model/baidu/ernie-light-dt-1.0) is Baidu's lightweight long-context text model. It uses Baidu Sparse Attention and feedback-based history compression to cut KV cache cost, and has a switchable thinking mode. Context is 1,024,000 tokens with up to 131,072 output tokens, and it supports tool calling and structured output. Reach it through your own OpenRouter, Nous Portal or NanoGPT key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("baidu/ernie-light-dt-1.0"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "baidu/ernie-light-dt-1.0" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # LFM3 1.7B > Liquid AI's 1.7B open-weight agent model with a 256K context joins the catalog through your own provider key. - Date: 2026-11-15 - HTML: https://anyrouter.dev/blog/releases/2026-11-15-lfm-3-1-7b ## Models - `liquid/lfm-3-1.7b` (LFM3 1.7B) — Liquid AI's 1.73B text model for local agents, tool calling and structured outputs. 256K context, reasons before it answers, and fits in about 1 GB at 4-bit. Liquid says it beats LFM2.5-2.6B with 35% fewer parameters. Reach it through your own OpenRouter, Nous Portal, Infron or NanoGPT key. ## Notes [`liquid/lfm-3-1.7b`](https://anyrouter.dev/model/liquid/lfm-3-1.7b) is Liquid AI's 1.73B-parameter text model for local agents, tool calling and structured outputs. It has a 256K-token context window and reasons before it answers. Liquid says it outperforms LFM2.5-2.6B while using 35% fewer parameters. It is not recommended for agentic coding or complex multi-step reasoning. Reach it through your own OpenRouter, Nous Portal, Infron or NanoGPT key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("liquid/lfm-3-1.7b"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "liquid/lfm-3-1.7b" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # LFM3-VL 2B > Liquid AI's 1.9B vision-language model with video input joins the catalog through your own Infron key. - Date: 2026-11-15 - HTML: https://anyrouter.dev/blog/releases/2026-11-15-lfm3-vl-2b ## Models - `liquid/lfm3-vl-2b` (LFM3-VL 2B) — Liquid AI's 1.92B vision-language model for on-device visual understanding. Text, image and video input, 128K context, reasons step by step. Reach it through your own Infron key. ## Notes [`liquid/lfm3-vl-2b`](https://anyrouter.dev/model/liquid/lfm3-vl-2b) is Liquid AI's 1.92B-parameter vision-language model. It takes text, images and video as input (the first LFM vision model to accept video), reasons step by step before it answers, and has a 128K-token context window. Liquid recommends it for questions about video, documents, charts and app screens, not for coding. Reach it through your own Infron key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("liquid/lfm3-vl-2b"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "liquid/lfm3-vl-2b" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Ripple 65B Preview > Ricursive Intelligence's open-weight 65B coding model joins the catalog through your own provider key. - Date: 2026-11-15 - HTML: https://anyrouter.dev/blog/releases/2026-11-15-ripple-65b-preview ## Models - `ricursive/ripple-65b-preview` (Ripple 65B Preview) — Ricursive's first open-weight model: a 65B dense transformer under Apache 2.0 with native tool calling and a 1M-token context. Post-trained mainly for agentic coding. The vendor reports 80.52 on Terminal-Bench 2.1. Reach it through your own OpenRouter, GMI Cloud, NanoGPT or Eden AI key. ## Notes [`ricursive/ripple-65b-preview`](https://anyrouter.dev/model/ricursive/ripple-65b-preview) is Ricursive Intelligence's first open-weight model: a 65B-parameter dense transformer under Apache 2.0, with native tool calling and a 1M-token context window. The Preview was post-trained mainly for agentic coding, and the vendor reports 80.52 on Terminal-Bench 2.1 (self-reported). Reach it through your own OpenRouter, Nous Portal, GMI Cloud, NanoGPT or Eden AI key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("ricursive/ripple-65b-preview"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "ricursive/ripple-65b-preview" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Qwen4 Max through QwenCloud Token Plan > Qwen4 Max now has a QwenCloud Token Plan route. Add your Token Plan key and call qwen/qwen4-max with no markup. - Date: 2026-11-14 - HTML: https://anyrouter.dev/blog/releases/2026-11-14-qwen4-max-qwencloud-token-plan ## Models - `qwen/qwen4-max` (Qwen4 Max) — New BYOK route through QwenCloud Token Plan. Your plan bills you; AnyRouter adds no charge. ## Notes Add a [QwenCloud Token Plan](https://anyrouter.dev/docs/features/byok-providers/qwencloud-token-plan) key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) to reach [`qwen/qwen4-max`](https://anyrouter.dev/model/qwen/qwen4-max). Token Plan keys start with `sk-sp-`, and the plan is bought for Singapore. QwenCloud bills you through your plan. AnyRouter adds no markup and charges no credits for these requests. ![The QwenCloud Token Plan dialog with the key hidden as dots and the result Key works, 3 of 3 models.](https://anyrouter.dev/screenshots/qwencloud-token-plan-add-key-dialog-2026-11.jpg) ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen4-max"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen4-max" ``` _Coding agent._ ```text Claude Code v2.1.325 qwen/qwen4-max with low effort · API Usage Billing ~/my-app ❯ Hello, what model are you? ● I’m the AI assistant in this session, currently running as Qwen4-Max (qwen/qwen4-max). ✻ Worked for 9s · done 10:36 PM ``` _A real Claude Code session on qwen/qwen4-max_ QwenCloud allows Token Plan only for interactive use in coding and agent tools, by the person who bought it. Do not use it for scripts, application backends or batch calls, and do not share the key. For that reason a Token Plan key can never be donated to the pool. Qwen4 Max is a preview that QwenCloud ends on November 25, 2026. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). Step by step with screenshots: [How to use QwenCloud Token Plan on AnyRouter](https://anyrouter.dev/blog/qwencloud-token-plan-byok). --- # Qwen4 Max through Token Harbor > Qwen4 Max now has a Token Harbor route. Add your Token Harbor key and call qwen/qwen4-max with no markup. - Date: 2026-11-14 - HTML: https://anyrouter.dev/blog/releases/2026-11-14-qwen4-max-token-harbor ## Models - `qwen/qwen4-max` (Qwen4 Max) — New BYOK route through Token Harbor, listed at $2 / $6 per 1M. Token Harbor bills you; AnyRouter adds no charge. ## Notes Add a [Token Harbor](https://anyrouter.dev/docs/features/byok-providers/tokenharbor) key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) to reach [`qwen/qwen4-max`](https://anyrouter.dev/model/qwen/qwen4-max), the preview of Alibaba's Qwen4 family. Token Harbor lists it at $2 per 1M input and $6 per 1M output and bills you directly. AnyRouter charges nothing for a BYOK route. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen4-max"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "qwen/qwen4-max" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # SubQ Snap 1.2 on AnyRouter credits > SubQ Snap 1.2 no longer needs your own SubQ key. Call it with your AnyRouter key at $0.04 / 1M input, output not billed. - Date: 2026-11-14 - HTML: https://anyrouter.dev/blog/releases/2026-11-14-subq-snap-1-2-credits ## Models - `subquadratic/subq-snap-1.2` (SubQ Snap 1.2) — New AnyRouter route next to the BYOK one: $0.04 / 1M input from credits, output not billed. Your own SubQ key still works with no markup. ## Notes [`subquadratic/subq-snap-1.2`](https://anyrouter.dev/model/subquadratic/subq-snap-1.2) now has an AnyRouter route next to the BYOK one. Call it with your AnyRouter key and pay from credits: $0.04 per 1M input tokens, output not billed. Your own SubQ key still works, and AnyRouter adds no markup to it. ```bash curl https://anyrouter.dev/api/v1/decisions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "subquadratic/subq-snap-1.2", "state": { "text": "The invoice is 45 days past due." }, "questions": { "escalate": { "type": "noul", "instructions": "Should this invoice go to collections?" } } }' ``` _One request, one yes/no question._ ```bash anyr decision --model subquadratic/subq-snap-1.2 ``` _Run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone). --- # SubQ Snap 1.2 > Subquadratic's long-context decision model joins the catalog: 384K context, $0.04 / 1M input, and a tie for first on the Artificial Analysis Decision Index. - Date: 2026-11-12 - HTML: https://anyrouter.dev/blog/releases/2026-11-12-subq-snap-1-2 ## Models - `subquadratic/subq-snap-1.2` (SubQ Snap 1.2) — Long-context decision model: 384K context, text and image input, $0.04 / 1M input and free output, tied for first on the Artificial Analysis Decision Index at 73. BYOK through SubQ's API; 100M free tokens to start. ## Notes [`subquadratic/subq-snap-1.2`](https://anyrouter.dev/model/subquadratic/subq-snap-1.2) is Subquadratic's long-context decision model. It scores a state and typed questions over text and images, with a 384K-token context, and returns a calibrated probability for every answer. It ties for first on the Artificial Analysis Decision Index at 73, scores 69.05 on the open-source Hugging Face Decision Index, and keeps the same answer when the options are reordered. It is **BYOK** through SubQ's API at $0.04 per 1M input tokens with free output; new accounts get 100M free tokens. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: { text: "The invoice is 45 days past due and the customer has paid every previous invoice on time.", }, model: "subquadratic/subq-snap-1.2", questions: { escalate: { type: "noul", instructions: "Should this invoice be escalated to collections?", }, }, }), }) console.log(await res.json()) ``` _One request, one yes/no question._ ```bash anyr decision --model subquadratic/subq-snap-1.2 ``` _Run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [SubQ models docs](https://docs.subq.ai/using-the-api/models/). --- # ERNIE 5.5 Flash Preview > Baidu's ERNIE 5.5 Flash Preview joins the catalog through your own OpenRouter key. - Date: 2026-11-11 - HTML: https://anyrouter.dev/blog/releases/2026-11-11 ## Models - `baidu/ernie-5.5-flash-preview` (ERNIE 5.5 Flash Preview) — Latest model in Baidu's ERNIE family, with gains in coding, agentic tasks, knowledge work and deep research. 280B total and 14B active parameters, 1M-token context (up to 921,600 output tokens), tool calling, structured outputs and reasoning effort. $0.28 / $1.13 per 1M list, cache reads $0.028. Reach it through your own OpenRouter key. ## Notes [`baidu/ernie-5.5-flash-preview`](https://anyrouter.dev/model/baidu/ernie-5.5-flash-preview) is the latest model in Baidu's ERNIE family, with gains in coding, agentic tasks, knowledge work and deep research. It is a mixture-of-experts model with 280B total and 14B active parameters and a 1M-token context window. It supports tools, structured outputs and reasoning effort, and lists at $0.28 / $1.13 per 1M tokens on OpenRouter. It is served through your own OpenRouter key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("baidu/ernie-5.5-flash-preview"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "baidu/ernie-5.5-flash-preview" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Gemini Decision 1 > Google's first decision model joins the catalog through your own OpenRouter or Vercel key. - Date: 2026-11-11 - HTML: https://anyrouter.dev/blog/releases/2026-11-11-gemini-decision-1 ## Models - `google/gemini-decision-1` (Gemini Decision 1) — Google's first decision model: 262,144 context, up to 1,000 yes/no, choice or score questions in one pass across text, image, audio, video and PDF. $0.10 / 1M input and $0 output. BYOK through OpenRouter or Vercel; AnyRouter adds no charge. ## Notes [`google/gemini-decision-1`](https://anyrouter.dev/model/google/gemini-decision-1) is Google's first decision model, built for the Gemini Decisions API. Send one multimodal input (text, images, audio, video, or a PDF) with up to 1,000 typed questions to `POST /api/v1/decisions` and get a calibrated probability for every answer in a single pass, not generated chat text. It has a 262,144-token context window and returns in 150-250 ms. Google lists it at $0.10 per 1M input tokens and $0 for output. It is **BYOK** through OpenRouter or Vercel AI Gateway, and AnyRouter adds no charge. Decision models are free on Go and up. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: { text: "The build failed on a missing dependency.", log: "npm ERR! Cannot find module 'left-pad'", }, model: "google/gemini-decision-1", questions: { should_retry: { type: "noul", instructions: "Should the build be retried after installing dependencies?", }, }, }), }) console.log(await res.json()) ``` _One request, one yes/no question._ ```bash anyr decision --model google/gemini-decision-1 ``` _Run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [Gemini Decisions docs](https://aistudio.google.com/docs/decisions-api). --- # Nex-N2.6 > Nex-AGI's open-weight multimodal agentic model joins the catalog through your own OpenRouter key. - Date: 2026-11-11 - HTML: https://anyrouter.dev/blog/releases/2026-11-11-nex-n2-6 ## Models - `nex-agi/nex-n2.6` (Nex-N2.6) — Nex-AGI's open-weight agentic model, built on GLM-5.3-Flash with about 321B parameters. Computer use, coding and long-horizon tool tasks, text and image input, 262K context, tool calling and reasoning effort. The vendor reports 100% valid tool selection over 956 contexts, 83.0 on OSWorld and 84.1 on Terminal-Bench 2.1. Reach it through your own OpenRouter key. ## Notes [`nex-agi/nex-n2.6`](https://anyrouter.dev/model/nex-agi/nex-n2.6) is Nex-AGI's open-weight multimodal agentic model, built on GLM-5.3-Flash with about 321B parameters. It is designed for computer use, coding and long-horizon tool tasks. It takes text and image input with a 262K context window, supports tool calling and reasoning effort low, high or max. The vendor reports 100% valid tool selection in its 956-context evaluation, 83.0 on OSWorld and 84.1 on Terminal-Bench 2.1, with reasoning repetition down from 16.0% to 1.6%. It is served through your own OpenRouter key. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("nex-agi/nex-n2.6"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "nex-agi/nex-n2.6" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Gemini 4 Carbon, Muse Ember, Claude Fable 5.2 and Drex Max > Google's Gemini 4 Carbon is generally available at $2 / $10 per 1M tokens, Meta's smallest Muse model joins the catalog (and is what stealth/crouton-alpha turned out to be), Anthropic's Claude Fable 5.2 lands at $8 / $40 per 1M tokens, and Nace AI's Drex Max v1.1 and Drex Max Finance cover multimodal decisions. - Date: 2026-11-10 - HTML: https://anyrouter.dev/blog/releases/2026-11-10 ## Models - `google/gemini-4-carbon` (Gemini 4 Carbon) — Google's strongest model, built for long-horizon agentic work: complex multi-step coding and debugging, knowledge work, scientific research and cybersecurity. Introductory price $2 / $10 per 1M tokens (the same as Gemini 4 Argon), 1,048,576-token context, text, image and video in, text out. Reach it through your own key on OpenRouter, Vercel AI Gateway, Nous Portal or AIHubMix. - `meta/muse-ember` (Muse Ember) — Meta's smallest Muse, built for scalable agentic execution: tool calls, coding subtasks, routing and long documents, 1M context, text/image/audio/video in, text out. $0.10 / $0.50 per 1M list. This is the reveal of the stealth/crouton-alpha preview. - `anthropic/claude-fable-5-2` (Claude Fable 5.2) — Frontier model for demanding technical work, 20% below Fable 5.1 at $8 / $40 per 1M, cache reads $0.20, 1M context, 128K max output, always-on adaptive thinking (default high effort). Alternatives: anthropic-byok, Bedrock, Vertex and Foundry BYOK, OpenRouter BYOK. - `nace-ai/drex-max-v1.1` (Drex Max v1.1) — Nace AI's largest multimodal decision model and successor to Drex Max: application state (text or JSON) plus up to 8 images in, calibrated probabilities for noul / choice / score questions out, System One shape. Call POST /api/v1/decisions. - `nace-ai/drex-max-finance` (Drex Max Finance) — Nace AI's multimodal decision model for finance: same System One shape as Drex Max, tuned for invoice handling, fraud, credit and filing checks, images in, calibrated probabilities out. Call POST /api/v1/decisions. ## Notes Google made [`google/gemini-4-carbon`](https://anyrouter.dev/model/google/gemini-4-carbon) generally available on 2026-11-10 ([launch post](https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-carbon-now-available/)). It is Google's strongest model, built for long-horizon agentic work such as multi-step coding and debugging, knowledge work, scientific research and cybersecurity, and it uses more tokens than Gemini 4 Argon to reason deeply and verify its work. The introductory price is $2 / $10 per 1M tokens, the same as Argon, with a 1,048,576-token context window. It is served through your own key on OpenRouter, Vercel AI Gateway, Nous Portal and AIHubMix. Meta released [`meta/muse-ember`](https://anyrouter.dev/model/meta/muse-ember), the smallest model in the Muse family, designed for scalable agentic execution: tool calls, coding subtasks, routing and processing large collections of images, files, audio and video, with a 1M-token context. Stealth watchers will recognize it: [`stealth/crouton-alpha`](https://anyrouter.dev/model/stealth/crouton-alpha) was an early version of Muse Ember, and that listing is stopped — requests are routed to Muse Ember from now on. Anthropic shipped [`anthropic/claude-fable-5-2`](https://anyrouter.dev/model/anthropic/claude-fable-5-2) on 2026-11-09: $8 / $40 per 1M tokens (20% below Fable 5.1), cache reads at $0.20, 1M-token context, 128K max output and adaptive thinking on by default at high effort. Available BYOK through Anthropic, Amazon Bedrock, Google Vertex AI, Microsoft Foundry and OpenRouter. [`nace-ai/drex-max-v1.1`](https://anyrouter.dev/model/nace-ai/drex-max-v1.1) is the successor to Drex Max for image-capable decision work and [`nace-ai/drex-max-finance`](https://anyrouter.dev/model/nace-ai/drex-max-finance) is tuned for finance — invoice, fraud, credit and filing checks. Both return calibrated probabilities, not text: POST /api/v1/decisions with typed questions (noul / choice / score) and read the probabilities straight into your workflow. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-fable-5-2"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-fable-5-2" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [decisions](https://anyrouter.dev/docs/api-reference/systemone). --- # Ollama models over Relay > Qwen 2.5 Coder 0.5B and Mistral 7B Instruct v0.3 join the catalog as on-device listings served by your own Ollama over AnyRouter Relay at $0 — and the existing Qwen 2.5 Coder 32B gains the same Ollama hop. - Date: 2026-11-09 - HTML: https://anyrouter.dev/blog/releases/2026-11-09 ## Models - `qwen/qwen2.5-coder-0.5b-instruct` (Qwen 2.5 Coder 0.5B) — Qwen2.5-Coder-0.5B-Instruct via your own Ollama, relayed at $0 / $0, 32K context, text in/out, code generation and fixing with function calling. - `mistral/mistral-7b-instruct-v0.3` (Mistral 7B Instruct v0.3) — Mistral-7B-Instruct-v0.3 via your own Ollama, relayed at $0 / $0, 32K context, text in/out with function calling. - `qwen/qwen2.5-coder-32b-instruct` (Qwen 2.5 Coder 32B) — Existing listing gains an Ollama relay hop, so a paired machine serving qwen2.5-coder:32b answers at $0 / $0 alongside the BYOK routes. ## Notes [`qwen/qwen2.5-coder-0.5b-instruct`](https://anyrouter.dev/model/qwen/qwen2.5-coder-0.5b-instruct) is Qwen2.5-Coder-0.5B-Instruct served from your own machine: run Ollama, start `anyr relay`, and the same `POST /api/v1/chat/completions` endpoint serves it at $0 in and out with a 32K-token context, tuned for code generation, reasoning and fixing with function calling. [`mistral/mistral-7b-instruct-v0.3`](https://anyrouter.dev/model/mistral/mistral-7b-instruct-v0.3) is Mistral-7B-Instruct-v0.3 the same way, also 32K and $0 with function calling. The existing [`qwen/qwen2.5-coder-32b-instruct`](https://anyrouter.dev/model/qwen/qwen2.5-coder-32b-instruct) keeps its BYOK routes and gains an Ollama relay hop, so a paired machine serving `qwen2.5-coder:32b` answers it too. No server-side compute and no vendor key: your machine runs the weights and the request travels down the relay's outbound WebSocket. Callers without a paired device get the relay's 503, and devices that opt in can donate idle capacity through the shared pool. ```bash anyr relay start --detach anyr relay status ``` _Serve your local Ollama through Relay._ ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen2.5-coder-0.5b-instruct"), prompt: "Write a quick sort function.", }) console.log(text) ``` _AI SDK (after anyr relay start)._ ```bash anyr claude --model "qwen/qwen2.5-coder-0.5b-instruct" ``` _Run it in the terminal with your coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # BGE-Large, EmbeddingGemma 2, Gemini 4 Hydrogen and 9 more added > 12 models from 10 providers joined the catalog the week of 2026-11-09. - Date: 2026-11-09 - HTML: https://anyrouter.dev/blog/releases/2026-11-09-catalog ## Models - `baai/bge-large` (BGE-Large) — 512 context · Free - `google/embeddinggemma-2` (EmbeddingGemma 2) — 8K context · Free - `google/gemini-4-hydrogen` (Gemini 4 Hydrogen) — 1M context · $1.5 / $7.5 per 1M - `ibm-granite/granite-embedding` (Granite Embedding) — Free - `kt/midm-k-3.0-pro` (Mi:dm K 3.0 Pro) — 262K context · $0.2 / $0.8 per 1M - `mixedbread-ai/mxbai-embed-large` (MX-BAI Embed Large) — 512 context · Free - `motif-technologies/motif-3` (Motif 3) — 262K context · $0.3 / $1.2 per 1M - `nomic-ai/nomic-embed-text` (Nomic Embed Text) — 8K context · Free - `perplexity/pplx-decider-flash-v1.3` (PPLX Decider Flash v1.3 (4B)) — 262K context · $0.01 / $0 per 1M - `perplexity/pplx-decider-v1.3` (PPLX Decider v1.3 (27B)) — 262K context · $0.02 / $0 per 1M - `sentence-transformers/all-minilm` (All MiniLM) — 256 context · Free - `snowflakeai/snowflake-arctic-embed` (Snowflake Arctic Embed) — Free --- # Ampersand v0.1 > humans&'s collaborator model joins the catalog — trained from GLM 5.3 to track what each person wants, flag conflicts, and share context in group chats, with a 1M-token context — BYOK through Vercel AI Gateway. - Date: 2026-11-08 - HTML: https://anyrouter.dev/blog/releases/2026-11-08 ## Models - `humansand/ampersand-v0.1` (Ampersand v0.1) — Collaborator model (GLM 5.3 fine-tuned, 744B MoE, ~40B active), text in/out, reasoning and tool use, 1M context, $1.00 / $5.20 per 1M (list). BYOK via Vercel AI Gateway, free there through Nov 13. - `tencent/hy4` (Hy4) — Tencent Hunyuan Hy4, now also reachable through apmix.ai on a free tier (wire `hy4-free`), text in/out, 1M context, reasoning; free against the 4M new-account tokens. - `parallel/decisions-fast` (Decisions Fast) — Web-grounded Decisions model (noul / choice / score with citations), 32K context, $0 / $0 via OpenRouter's free tier. BYOK via OpenRouter. ## Notes [`humansand/ampersand-v0.1`](https://anyrouter.dev/model/humansand/ampersand-v0.1) is humans&'s first model, Ampersand v0.1: a collaborator model for group chats that tracks what each person wants, flags conflicts, shares context, and asks questions. It is trained from GLM 5.3 (744B mixture-of-experts, about 40B active parameters) with a 1M-token context window, takes text in and text out, and supports reasoning effort and client-side function tools. The vendor reports the strongest teamwork scores in its tests and strong multi-agent coding results. It is **BYOK-only** through Vercel AI Gateway. Add a Vercel AI Gateway key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); Vercel bills your own account and AnyRouter charges nothing. Ampersand lists at $1.00 per 1M input tokens and $5.20 per 1M output tokens at the owner, and Vercel offers it free through November 13. [`tencent/hy4`](https://anyrouter.dev/model/tencent/hy4) is Tencent Hunyuan's Hy4 reasoning model, also reachable on apmix.ai's free tier: 1M-token context, text in and text out, reasoning that thinks before it answers. It is apmix's only free model — every new account gets 4M free tokens spendable on Hy4, with no daily limit or expiry. It is **BYOK-only** through apmix: add an apmix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and AnyRouter charges nothing. The same key works on apmix's OpenAI-compatible and Anthropic-compatible endpoints. The free SKU ships as a route on `tencent/hy4`, not a separate model — filter to it with `?f=free` or `?zdr=true` on [/models](https://anyrouter.dev/models). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("tencent/hy4"), prompt: "Say hello in one line.", }) console.log(text) ``` _AI SDK._ ```bash anyr claude --model "tencent/hy4" ``` _Run it in the terminal with your coding agent._ The route is **BYOK-only** through Vercel AI Gateway. Add a Vercel key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); Vercel bills your own account and AnyRouter charges nothing. Ampersand lists at $1.00 per 1M input and $5.20 per 1M output at the owner, and Vercel is free through November 13. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("humansand/ampersand-v0.1"), prompt: "Summarize what each teammate wants and flag any conflicts.", }) console.log(text) ``` _AI SDK._ ```bash anyr claude --model "humansand/ampersand-v0.1" ``` _Run it in the terminal with your coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=humansand%2Fampersand-v0.1). [`parallel/decisions-fast`](https://anyrouter.dev/model/parallel/decisions-fast) is Parallel's web-grounded Decisions model: send `state` and up to 100 typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get structured answers with probabilities, per-question refusals, and request-level citations — after live web research, not generated chat text. Each question may use at most 32,000 tokens including the shared state, and all questions in a request share one retrieval. It is **BYOK-only** through OpenRouter (wire `parallel/decisions-fast:free`), free there at $0, so add an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and AnyRouter charges nothing. Decision models are free on every plan. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: { company: "Clay", website: "https://www.clay.com" }, model: "parallel/decisions-fast", questions: { has_cli: { type: "noul", instructions: "Does Clay offer an official command-line interface?" }, }, }), }) console.log(await res.json()) ``` _One request, one noul question._ ```bash anyr decision --model parallel/decisions-fast ``` _Run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [Parallel Decisions docs](https://docs.parallel.ai/decisions/decisions-quickstart). --- # Inkling 2 Small > Thinking Machines' second-generation open-weights model joins the catalog — 594B MoE, 17B active, vision input, up to 1M context — BYOK through Tinker's OpenAI-compatible API. - Date: 2026-11-07 - HTML: https://anyrouter.dev/blog/releases/2026-11-07-inkling-2-small ## Models - `thinkingmachines/inkling-2-small` (Inkling 2 Small) — MoE 594B/17B active, text and image in, reasoning and tool use, 1M context, $0.30 / $1.00 per 1M (list). BYOK via Tinker. ## Notes [`thinkingmachines/inkling-2-small`](https://anyrouter.dev/model/thinkingmachines/inkling-2-small) is Thinking Machines Lab's second-generation foundation model. It is a 594B-parameter mixture-of-experts model with 17B active parameters, a 1M-token context window, switchable reasoning effort and tool use — and image input (no audio) on top of text. On the Artificial Analysis Intelligence Index it scores 31, a large jump over previous generations, led by agentic coding, vision and knowledge work. Weights are not open yet: they sit under the Tinker Terms of Use with a full Apache 2.0 release pledged after safety testing. It is **BYOK-only** on Tinker's OpenAI-compatible API. Create a Tinker key and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Tinker lists it at $0.30 per 1M input tokens and $1.00 per 1M output tokens and bills you directly; AnyRouter charges nothing for a BYOK route. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("thinkingmachines/inkling-2-small"), prompt: "Draw a diagram of how a moat bridges a castle.", }) console.log(text) ``` _AI SDK._ ```bash anyr claude --model "thinkingmachines/inkling-2-small" ``` _Run it in the terminal with your coding agent._ The route is **BYOK-only**. Add a Tinker key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); Thinking Machines bills your own Tinker account and AnyRouter charges nothing. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=thinkingmachines%2Finkling-2-small). --- # Fastino GLiDE 27B > Fastino's largest GLiDE decision model joins the Decisions family, BYOK through Fastino's own API. - Date: 2026-11-05 - HTML: https://anyrouter.dev/blog/releases/2026-11-05-fastino-glide-27b ## Models - `fastino/glide-27b` (GLiDE 27B) — Decision model, BYOK-only via Fastino. ## Notes [`fastino/glide-27b`](https://anyrouter.dev/model/fastino/glide-27b) is the 27B model of Fastino's new GLiDE family. Send `state` (text, JSON or images) and typed `questions` to `POST /api/v1/decisions` and get a probability for every option back from one forward pass, with no generated tokens. It is **BYOK-only**: create a key at [agent.fastino.ai](https://agent.fastino.ai) and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Fastino lists it at $0.04 per 1M input tokens and $0 output, and bills you directly; AnyRouter adds no charge. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model fastino/glide-27b ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "I have been waiting three weeks for my order and nobody answers my emails.", model: "fastino/glide-27b", questions: { is_complaint: { type: "noul", instructions: "Is this message a complaint from the customer?", }, }, }), }) console.log(await res.json()) ``` _One request, one yes/no question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Granite 4.2 30B > Granite 4.2 30B, the flagship dense reasoning model in IBM's open-weight Granite 4.2 family, joins the catalog on one BYOK route. - Date: 2026-11-03 - HTML: https://anyrouter.dev/blog/releases/2026-11-03-granite-4-2-30b ## Models - `ibm-granite/granite-4.2-30b` (Granite 4.2 30B) — 30B dense reasoning model, 131K context, Apache 2.0, $0.16 / $0.65 per 1M (list). BYOK via Hugging Face. ## Notes [`ibm-granite/granite-4.2-30b`](https://anyrouter.dev/model/ibm-granite/granite-4.2-30b) is the largest model in IBM's Granite 4.2 family. It is a 30B dense transformer with built-in `` chain-of-thought and three modes: full thinking, low-effort and non-thinking. It calls tools, handles twelve tested languages and has a 131K-token context window, with open weights under Apache 2.0. [Granite 4.2 8B](https://anyrouter.dev/model/ibm-granite/granite-4.2-8b) is the smaller sibling. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("ibm-granite/granite-4.2-30b"), prompt: "Explain the difference between a mutex and a semaphore.", }) console.log(text) ``` _AI SDK._ ```bash anyr login ``` _Sign in with the AnyRouter CLI, then call the model._ The route is **BYOK-only**. Add a Hugging Face key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); Hugging Face bills you at its own rates and AnyRouter charges nothing for a BYOK route. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=ibm-granite/granite-4.2-30b). --- # Llamport: four OpenAI GPT models at 10% of the OpenAI price > Llamport is a new upstream on AnyRouter. It serves four OpenAI GPT models at 10% of the OpenAI API list price, on the AnyRouter platform key or with your own Llamport key. - Date: 2026-11-03 - HTML: https://anyrouter.dev/blog/releases/2026-11-03-llamport ## Models - `openai/gpt-5.6-luna` (GPT-5.6 Luna) — Now also served by Llamport. - `openai/gpt-6-luna` (GPT-6 Luna) — Now also served by Llamport. - `openai/gpt-6.1-sol` (GPT-6.1 Sol) — Now also served by Llamport. - `openai/gpt-6.1-terra` (GPT-6.1 Terra) — Now also served by Llamport. ## Notes [Llamport](https://llamport.com) is now an upstream on AnyRouter. It serves four OpenAI GPT models that are already in the catalog: [`openai/gpt-5.6-luna`](https://anyrouter.dev/model/openai/gpt-5.6-luna), [`openai/gpt-6-luna`](https://anyrouter.dev/model/openai/gpt-6-luna), [`openai/gpt-6.1-sol`](https://anyrouter.dev/model/openai/gpt-6.1-sol) and [`openai/gpt-6.1-terra`](https://anyrouter.dev/model/openai/gpt-6.1-terra). The model ids do not change. Llamport charges 10% of each model's OpenAI API list price. In the table the Llamport price comes first and the struck OpenAI price follows. | Model | Input / 1M | Output / 1M | | --- | --- | --- | | GPT-5.6 Luna | $0.02 ~~$0.20~~ | $0.12 ~~$1.20~~ | | GPT-6 Luna | $0.01 ~~$0.10~~ | $0.05 ~~$0.50~~ | | GPT-6.1 Sol | $0.20 ~~$2.00~~ | $1.00 ~~$10.00~~ | | GPT-6.1 Terra | $0.10 ~~$1.00~~ | $0.50 ~~$5.00~~ | Llamport works two ways on AnyRouter. - Platform key — pay with AnyRouter credits at the Llamport price above. These are paid models. Go and above use them from their balance (Go includes $4 of credit each month). A Free account can use them only while top-up credit remains. - BYOK — add your own Llamport `lp-` key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). The request goes out with your key, Llamport bills you, and AnyRouter charges nothing for the route. Every plan can use BYOK, including Free. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=openai/gpt-6.1-terra). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6.1-terra"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "openai/gpt-6.1-terra", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"openai/gpt-6.1-terra","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-6.1-terra" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=openai/gpt-6.1-terra) --- # Aion 3.0 Mini > Aion 3.0 Mini, Aion Labs' compact multi-model reasoning model built on the DeepSeek family, joins the catalog on five BYOK routes with a 131K-token context. - Date: 2026-11-02 - HTML: https://anyrouter.dev/blog/releases/2026-11-02-aion-3-0-mini ## Models - `aion-labs/aion-3.0-mini` (Aion 3.0 Mini) — Built on the DeepSeek family, 131K context, tool calls, reasoning effort none to max, $0.70 / $1.40 per 1M (list). BYOK via Aion Labs, Nous Portal, Infron, AI/ML API or OpenRouter. ## Notes [`aion-labs/aion-3.0-mini`](https://anyrouter.dev/model/aion-labs/aion-3.0-mini) is Aion Labs' compact reasoning model built on the DeepSeek family. Like the rest of the Aion line, several specialized models contribute to each answer, aimed at fiction writing. It has a 131,072-token context, up to 32,768 output tokens, tool calls and reasoning effort from `none` to `max`. [Aion 3.5](https://anyrouter.dev/model/aion-labs/aion-3.5) is the newer, larger model. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("aion-labs/aion-3.0-mini"), prompt: "Write the opening scene of a mystery set in a lighthouse, in 150 words.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "aion-labs/aion-3.0-mini" ``` _Coding agent._ All routes are **BYOK-only**. Add a key for Aion Labs, Nous Portal, Infron, AI/ML API or OpenRouter under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=aion-labs/aion-3.0-mini). --- # Aion 3.5 > Aion 3.5, Aion Labs' multi-model reasoning model for fiction writing, joins the catalog on five BYOK routes with a 262K-token context. - Date: 2026-11-02 - HTML: https://anyrouter.dev/blog/releases/2026-11-02-aion-3-5 ## Models - `aion-labs/aion-3.5` (Aion 3.5) — Built on the GLM family, 262K context, tool calls, reasoning effort low / high / max, $3 / $6 per 1M (list). BYOK via Aion Labs, Nous Portal, Infron, AI/ML API or OpenRouter. ## Notes [`aion-labs/aion-3.5`](https://anyrouter.dev/model/aion-labs/aion-3.5) is Aion Labs' reasoning model built on the GLM family. Several specialized models contribute to each answer, which Aion says gives stronger narrative structure, tension and conflict, so it suits fiction writing. It has a 262,144-token context, up to 32,768 output tokens, tool calls and reasoning effort `low`, `high` or `max`. [Aion 3.5 Mini](https://anyrouter.dev/model/aion-labs/aion-3.5-mini) is the cheaper sibling. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("aion-labs/aion-3.5"), prompt: "Write the opening scene of a mystery set in a lighthouse, in 150 words.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "aion-labs/aion-3.5" ``` _Coding agent._ All routes are **BYOK-only**. Add a key for Aion Labs, Nous Portal, Infron, AI/ML API or OpenRouter under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=aion-labs/aion-3.5). --- # Aion-2.0, Aion-3.0, Aion-RP 1.0 (8B) and 53 more added > 56 models from 18 providers joined the catalog the week of 2026-11-02. - Date: 2026-11-02 - HTML: https://anyrouter.dev/blog/releases/2026-11-02-catalog ## Models - `aion-labs/aion-2.0` (Aion-2.0) — 131K context · $0.889 / $1.78 per 1M - `aion-labs/aion-3.0` (Aion-3.0) — 131K context · $3.33 / $6.67 per 1M - `aion-labs/aion-rp-llama-3.1-8b` (Aion-RP 1.0 (8B)) — 33K context · $0.889 / $1.78 per 1M - `amazon/nova-2-lite-v1` (Nova 2 Lite) — 1M context · $0.567 / $4.72 per 1M - `amazon/nova-lite-v1` (Nova Lite 1.0) — 300K context · $0.066 / $0.264 per 1M - `amazon/nova-pro-v1` (Nova Pro 1.0) — 300K context · $0.888 / $3.55 per 1M - `bytedance-seed/seed-1.6` (Seed 1.6) — 262K context · $0.361 / $2.89 per 1M - `cohere/command-r-plus-08-2024` (Command R+ (08-2024)) — 128K context · $3.17 / $15.83 per 1M - `cohere/embed-5-fast` (Embed 5 Fast) — 128K context · $0.08 per 1M tokens - `cohere/embed-5-pro` (Embed 5 Pro) — 128K context · $0.12 per 1M tokens - `deepseek/deepseek-chat` (DeepSeek V3) — 164K context · $0.122 / $0.518 per 1M - `deepseek/deepseek-chat-v3.1` (DeepSeek V3.1) — 164K context · $0.222 / $0.778 per 1M - `deepseek/deepseek-v3.1-terminus` (DeepSeek V3.1 Terminus) — 164K context · $0.278 / $0.778 per 1M - `inception/mercury-2` (Mercury 2) — 128K context · $0.181 / $0.542 per 1M - `meta/llama-4-maverick` (Llama 4 Maverick) — 524K context · $0.178 / $0.567 per 1M - `microsoft/phi-4` (Phi 4) — 16K context · $0.078 / $0.156 per 1M - `minimax/minimax-m1` (MiniMax M1) — 1M context · $0.347 / $2.2 per 1M - `mistralai/codestral-2508` (Codestral 2508) — 256K context · $0.333 / $1 per 1M - `mistralai/ministral-14b-2512` (Ministral 3 14B 2512) — 262K context · $0.222 / $0.222 per 1M - `mistralai/ministral-3b-2512` (Ministral 3 3B 2512) — 131K context · $0.111 / $0.111 per 1M - `mistralai/ministral-8b-2512` (Ministral 3 8B 2512) — 262K context · $0.167 / $0.167 per 1M - `mistralai/mistral-large` (Mistral Large) — 128K context · $2.23 / $6.67 per 1M - `mistralai/mistral-medium-3` (Mistral Medium 3) — 131K context · $0.444 / $2.22 per 1M - `mistralai/mistral-medium-3.1` (Mistral Medium 3.1) — 131K context · $0.444 / $2.22 per 1M - `mistralai/mistral-nemo` (Mistral Nemo) — 131K context · $0.032 / $0.033 per 1M - `mistralai/mistral-saba` (Saba) — 33K context · $0.221 / $0.661 per 1M - `mistralai/mistral-small-24b-instruct-2501` (Mistral Small 3) — 33K context · $0.056 / $0.089 per 1M - `moonshotai/kimi-k2-thinking` (Kimi K2 Thinking) — 262K context · $0.339 / $1.44 per 1M - `morph/morph-v3-fast` (Morph V3 Fast) — 262K context · $0.578 / $0.867 per 1M - `morph/morph-v3-large` (Morph V3 Large) — 262K context · $0.85 / $1.79 per 1M - `openai/gpt-5-pro` (GPT-5 Pro) — 400K context · $15 / $120 per 1M - `openai/gpt-5.2-pro` (GPT-5.2 Pro) — 400K context · $21 / $168 per 1M - `openai/gpt-6-cyber` (GPT-6 Cyber) — 1.1M context · $20 / $100 per 1M - `openai/o3` (o3) — 200K context · $2 / $8 per 1M - `openai/o3-pro` (o3-pro) — 200K context · $20 / $80 per 1M - `openai/text-embedding-3-large` (text-embedding-3-large) — 8K context · $0.13 per 1M tokens - `openai/text-embedding-3-small` (text-embedding-3-small) — 8K context · $0.02 per 1M tokens - `perplexity/sonar` (Sonar) — 127K context · $0.487 / $4.88 per 1M - `perplexity/sonar-pro` (Sonar Pro) — 200K context · $3.56 / $17.81 per 1M - `qwen/qwen-2.5-7b-instruct` (Qwen2.5 7B Instruct) — 33K context · $0.048 / $0.119 per 1M - `qwen/qwen2.5-vl-72b-instruct` (Qwen2.5 VL 72B Instruct) — 128K context · $0.835 / $0.835 per 1M - `qwen/qwen3-235b-a22b-thinking-2507` (Qwen3 235B A22B Thinking 2507) — 128K context · $0.357 / $0.595 per 1M - `qwen/qwen3-30b-a3b-instruct-2507` (Qwen3 30B A3B Instruct 2507) — 262K context · $0.222 / $0.556 per 1M - `qwen/qwen3-coder` (Qwen3 Coder 480B A35B) — 262K context · $0.144 / $0.556 per 1M - `qwen/qwen3-coder-next` (Qwen3 Coder Next) — 262K context · $0.143 / $0.95 per 1M - `qwen/qwen3-next-80b-a3b-instruct` (Qwen3 Next 80B A3B Instruct) — 262K context · $0.108 / $0.867 per 1M - `qwen/qwen3-vl-235b-a22b-instruct` (Qwen3 VL 235B A22B Instruct) — 262K context · $0.222 / $0.978 per 1M - `qwen/qwen3-vl-30b-a3b-instruct` (Qwen3 VL 30B A3B Instruct) — 262K context · $0.142 / $0.567 per 1M - `qwen/qwen3.5-122b-a10b` (Qwen3.5-122B-A10B) — 262K context · $0.3 / $2.4 per 1M - `qwen/qwen3.5-35b-a3b` (Qwen3.5-35B-A3B) — 262K context · $0.225 / $1.8 per 1M - `stealth/frantic-ferret` (Frantic Ferret) — 1M context · $0 / $0 per 1M - `unbiased/pareto-26.9` (Pareto 26.9) — 262K context · $2.5 / $7.5 per 1M - `z-ai/glm-4.5-air` (GLM 4.5 Air) — 131K context · $0.122 / $0.672 per 1M - `z-ai/glm-4.5v` (GLM 4.5V) — 66K context · $0.567 / $1.7 per 1M - `z-ai/glm-5.3-flashx-legal` (GLM-5.3-FlashX-Legal) — 1M context · $0.37 / $1.25 per 1M - `z-ai/glm-5v-turbo` (GLM 5V Turbo) — 203K context · $1.2 / $4 per 1M ## Notes Two models joined the catalog on 3 and 4 November without a launch note of their own. Both run on your own provider key (BYOK). | Model | Context | Price per 1M (in / out) | Route | | --- | --- | --- | --- | | [`z-ai/glm-5.3-flashx-legal`](https://anyrouter.dev/model/z-ai/glm-5.3-flashx-legal) | 1M | $0.37 / $1.25 (list) | BYOK | | [`unbiased/pareto-26.9`](https://anyrouter.dev/model/unbiased/pareto-26.9) | 262K | $2.50 / $7.50 (list) | BYOK | **GLM-5.3-FlashX-Legal** is Z.ai's legal model, built on GLM-5.3-FlashX with legal-domain training. It targets legal research, contract review and drafting. It takes text, image and video input and has a 1M-token context, so a full contract bundle fits in one request. The list rate is $0.37 / $1.25 per 1M. **Pareto 26.9** is the September 2026 release of Unbiased's blended model. Each request goes to a mix of frontier and open models, and their outputs are blended into one answer. It now has its own pinned id. [Pareto 26.10](https://anyrouter.dev/model/unbiased/pareto-26.10) replaced it and is cheaper ($0.80 / $3.20 per 1M against $2.50 / $7.50), so use 26.9 only when you need to reproduce earlier results. On a BYOK route AnyRouter charges $0. The provider bills your own account at the list rate above. Add a key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Call any of them with the catalog id. In the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk), `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flashx-legal"), prompt: "List the risky clauses in this contract.", }) console.log(text) ``` _generateText with the catalog id._ ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flashx-legal","messages":[{"role":"user","content":"Hello"}]}' ``` ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flashx-legal" ``` Also new this week, each with its own note: [LongCat-2.5](https://anyrouter.dev/blog/releases/2026-11-02-longcat-2-5), [Aion 3.5](https://anyrouter.dev/blog/releases/2026-11-02-aion-3-5), [Aion 3.0 Mini](https://anyrouter.dev/blog/releases/2026-11-02-aion-3-0-mini), [Hy-MT2 1.8B](https://anyrouter.dev/blog/releases/2026-11-02-hy-mt2-1-8b), [Granite 4.2 30B](https://anyrouter.dev/blog/releases/2026-11-03-granite-4-2-30b) and [Llamport](https://anyrouter.dev/blog/releases/2026-11-03-llamport). More: [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flashx-legal) --- # Hy-MT2 1.8B > Hy-MT2 1.8B, the smallest model in Tencent's open-weight Hy-MT2 translation family, joins the catalog on two BYOK routes. - Date: 2026-11-02 - HTML: https://anyrouter.dev/blog/releases/2026-11-02-hy-mt2-1-8b ## Models - `tencent/hy-mt2-1.8b` (Hy-MT2 1.8B) — Translation among 33 languages, 8K context, Apache 2.0, $0.044 / $0.177 per 1M (list). BYOK via OpenRouter or AI/ML API. ## Notes [`tencent/hy-mt2-1.8b`](https://anyrouter.dev/model/tencent/hy-mt2-1.8b) is the smallest of Tencent's three Hy-MT2 translation models. It translates among 33 languages and follows translation instructions, with an 8,192-token context and open weights under Apache 2.0. Tencent reports it beats mainstream commercial translation APIs overall. [Hy-MT2 30B A3B](https://anyrouter.dev/model/tencent/hy-mt2-30b-a3b) is the larger model in the family. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("tencent/hy-mt2-1.8b"), prompt: "Translate into Vietnamese: The meeting moved to Thursday at 3 pm.", }) console.log(text) ``` _AI SDK._ ```bash anyr login ``` _Sign in with the AnyRouter CLI, then call the model._ All routes are **BYOK-only**. Add a key for OpenRouter or AI/ML API under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=tencent/hy-mt2-1.8b). --- # LongCat-2.5 > Meituan's LongCat-2.5, a natively multimodal agentic MoE with 1.6T total and about 48B active parameters and a 1M-token context, replaces the preview in the catalog. Free for a limited time, or BYOK. - Date: 2026-11-02 - HTML: https://anyrouter.dev/blog/releases/2026-11-02-longcat-2-5 ## Models - `meituan/longcat-2.5` (LongCat-2.5) — Meituan's 1.6T/48B agentic MoE, 1M context, image in, text out, free for a limited time or BYOK. ## Notes [`meituan/longcat-2.5`](https://anyrouter.dev/model/meituan/longcat-2.5) is Meituan's natively multimodal agentic model: a sparse mixture-of-experts with 1.6T total parameters and about 48B active, a 1M-token context window, and up to 262,144 output tokens. It reads text and images and answers in text. Meituan built it for long-horizon agentic work, agentic coding, and visual coding such as creative design and 3D tasks. It replaces `meituan/longcat-2.5-preview`; the old id still resolves here. LongCat's limited-time rate is $0.30 / 1M input, $0.006 cached read and $1.20 / 1M output. It is free on the platform route for a limited time (Go plan and up; the Free plan has its 5-request trial). When the free window closes, bring a `sk-...` key from [LongCat](https://longcat.chat/platform/api_keys) and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); BYOK bills your own key, so AnyRouter charges $0. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=meituan/longcat-2.5). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("meituan/longcat-2.5"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "meituan/longcat-2.5", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"meituan/longcat-2.5","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "meituan/longcat-2.5" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). BYOK only: create a LongCat API key, add it in Dashboard → BYOK, then send a first message in the playground. [Try in playground](https://anyrouter.dev/playground?model=meituan/longcat-2.5) --- # Mistral Large 3 > Mistral Large 3, Mistral's open-weight 675B mixture-of-experts model with image input and a 256K-token context, joins the catalog on four BYOK routes. - Date: 2026-10-31 - HTML: https://anyrouter.dev/blog/releases/2026-10-31-mistral-large-3 ## Models - `mistralai/mistral-large-3` (Mistral Large 3) — 675B MoE (41B active), 256K context, image input, Apache 2.0, $0.50 / $1.50 per 1M (list). BYOK via Token Harbor, OpenRouter, Nous Portal or Vercel. ## Notes [`mistralai/mistral-large-3`](https://anyrouter.dev/model/mistralai/mistral-large-3) is Mistral's open-weight multimodal mixture-of-experts model, the 2512 snapshot. It has 675B total and 41B active parameters, takes text and image input, supports tool calls and JSON output, and has a 256K-token context. It is released under Apache 2.0. [Mistral Large 4](https://anyrouter.dev/model/mistralai/mistral-large-4) is the newer, larger model. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("mistralai/mistral-large-3"), prompt: "Summarize the trade-offs of mixture-of-experts models in three bullets.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "mistralai/mistral-large-3" ``` _Coding agent._ All routes are **BYOK-only**. Add a key for Token Harbor, OpenRouter, Nous Portal or Vercel under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=mistralai/mistral-large-3). --- # Atria Dawn Preview > Atria Dawn Preview, the preview of Shanghai AI Laboratory's open-weight agentic model, joins the catalog through a free Infron BYOK route with a 256K-token context. - Date: 2026-10-30 - HTML: https://anyrouter.dev/blog/releases/2026-10-30-atria-dawn-preview ## Models - `atria-asi/atria-dawn-preview` (Atria Dawn Preview) — 744B-base MoE agentic model, 256K context, text input, MIT license. Free on Infron BYOK. ## Notes [`atria-asi/atria-dawn-preview`](https://anyrouter.dev/model/atria-asi/atria-dawn-preview) is the preview release of Atria Dawn, an agentic model from the Shanghai Artificial Intelligence Laboratory. It is built on the 744B-parameter GLM-5.2 mixture-of-experts base and released under the MIT license. It targets research and engineering work that needs tool use and multi-step completion. It accepts text only and has a 256K-token context. [Atria Dawn](https://anyrouter.dev/model/atria-asi/atria-dawn) is the full release. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("atria-asi/atria-dawn-preview"), prompt: "Plan an experiment to compare two retrieval strategies and list the steps.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "atria-asi/atria-dawn-preview" ``` _Coding agent._ This route is **BYOK-only**. Add an Infron key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Infron lists the `:free` SKU at $0 per million tokens; it needs a $5 balance that is never debited and shares 1000 requests a day across its free models. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=atria-asi/atria-dawn-preview). --- # Moondream 3 Preview > Moondream 3 Preview joins the catalog through BYOK: a 9B mixture-of-experts vision-language model with 2B active parameters and a 32K-token context window. - Date: 2026-10-30 - HTML: https://anyrouter.dev/blog/releases/2026-10-30-moondream3-preview ## Models - `moondream/moondream3-preview` (Moondream 3 Preview) — 9B MoE (2B active) vision-language model, 32K context, image input. BYOK. ## Notes [`moondream/moondream3-preview`](https://anyrouter.dev/model/moondream/moondream3-preview) is Moondream's vision-language model with a mixture-of-experts design (9B total, 2B active parameters). It takes text and image input and answers in text: visual question answering, captioning, OCR and visual reasoning, with a 32K-token context window. Moondream released it in September 2025; [Moondream 3.1](https://anyrouter.dev/model/moondream/moondream3.1-9b-a2b) is its successor. Hosts list it at $0.30 per million input tokens and $2.50 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("moondream/moondream3-preview"), messages: [ { role: "user", content: [ { type: "text", text: "What is in this image?" }, { type: "image", image: new URL("https://example.com/photo.jpg") }, ], }, ], }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "moondream/moondream3-preview" ``` _Coding agent._ Moondream 3 Preview is **BYOK-only**. Add a key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and your provider bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=moondream/moondream3-preview). --- # Ultramarine 1 Flash > Ultramarine 1 Flash joins the catalog through BYOK: Paper Instruments' multimodal model for finance, law and consulting work, with a 1M-token context window. - Date: 2026-10-30 - HTML: https://anyrouter.dev/blog/releases/2026-10-30-ultramarine-1-flash ## Models - `fireworks/ultramarine-1-flash` (Ultramarine 1 Flash) — Knowledge-work model on GLM 5.3 Flash, 1M context, image input. BYOK. ## Notes [`fireworks/ultramarine-1-flash`](https://anyrouter.dev/model/fireworks/ultramarine-1-flash) is Paper Instruments' multimodal model for knowledge work in enterprise operations, finance, law and consulting. It is built on GLM 5.3 Flash (320B total, 18B active MoE), has a 1,048,576-token context window, takes text and image input, and answers in text with reasoning and streaming. Function calling is not supported. The list rate is $0.225 per million input tokens and $0.75 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("fireworks/ultramarine-1-flash"), prompt: "Summarize the termination clauses in this contract.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "fireworks/ultramarine-1-flash" ``` _Coding agent._ Ultramarine 1 Flash is **BYOK-only**. Add a key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and your provider bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=fireworks/ultramarine-1-flash). --- # GPT-5.6 Terra Pro > GPT-5.6 Terra Pro joins the catalog through BYOK: GPT-5.6 Terra with reasoning mode set to pro for harder problems, 1.05M-token context, at $2 / $12 per million input / output tokens. - Date: 2026-10-29 - HTML: https://anyrouter.dev/blog/releases/2026-10-29-gpt-5-6-terra-pro ## Models - `openai/gpt-5.6-terra-pro` (GPT-5.6 Terra Pro) — GPT-5.6 Terra in pro reasoning mode, 1.05M context, image input. BYOK. ## Notes [`openai/gpt-5.6-terra-pro`](https://anyrouter.dev/model/openai/gpt-5.6-terra-pro) is [GPT-5.6 Terra](https://anyrouter.dev/model/openai/gpt-5.6-terra) served with reasoning mode set to pro, for higher-quality answers on complex tasks. It spends far more reasoning tokens than standard Terra, so use it where answer quality matters more than latency and cost. It has a 1,050,000-token context window and a 128,000-token maximum output, takes text and image input, and answers in text, with reasoning, streaming, and tool calling. Nous Portal lists it at $2 per million input tokens and $12 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-5.6-terra-pro"), prompt: "Find the race condition in this queue consumer and propose a fix.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-5.6-terra-pro" ``` _Coding agent._ GPT-5.6 Terra Pro is **BYOK-only**. Add an AI/ML API or Nous Portal key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and your provider bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=openai/gpt-5.6-terra-pro). --- # Particle-1 > Particle-1 joins the catalog through BYOK: Particle AI's token-efficient agentic coding model, post-trained on DeepSeek V4.1 Flash, with a 1M-token context window. - Date: 2026-10-29 - HTML: https://anyrouter.dev/blog/releases/2026-10-29-particle-1 ## Models - `particle-ai/particle-1` (Particle-1) — Agentic coding model on DeepSeek V4.1 Flash, 1M context, image input. BYOK. ## Notes [`particle-ai/particle-1`](https://anyrouter.dev/model/particle-ai/particle-1) is Particle AI's agentic coding model, post-trained on DeepSeek V4.1 Flash to spend fewer tokens on terminal workflows, codebase changes and data work. It has a 1,048,576-token context window and a 131,072-token maximum output, takes text and image input, and answers in text, with reasoning, streaming and tool calling. OpenRouter lists it at $0.25 per million input tokens and $1 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("particle-ai/particle-1"), prompt: "Find the failing test in this repo and fix it.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "particle-ai/particle-1" ``` _Coding agent._ Particle-1 is **BYOK-only**. Add an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and OpenRouter bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=particle-ai/particle-1). --- # BeatAPI, Token Harbor and River keys > Three new BYOK providers: BeatAPI, Token Harbor and River. Each adds routes to models already in the catalog, including DeepSeek V4.1 Flash. - Date: 2026-10-28 - HTML: https://anyrouter.dev/blog/releases/2026-10-28-beatapi-token-harbor-river-byok ## Notes You can now add a [BeatAPI](https://anyrouter.dev/docs/features/byok-providers/beatapi), [Token Harbor](https://anyrouter.dev/docs/features/byok-providers/tokenharbor) or [River](https://anyrouter.dev/docs/features/byok-providers/river) key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). AnyRouter charges nothing for a BYOK route; the provider bills you at its own rate. No new model ids: the keys add routes to models you already call, such as Claude, GPT-6, Grok, Kimi, GLM, Qwen, MiMo and DeepSeek. Two of them have free DeepSeek V4.1 Flash variants. BeatAPI's `deepseek-v4.1-flash-free` allows one successful request per minute until your first top-up, then up to ten. Token Harbor's `deepseek-v4.1-flash:free` draws on a rolling 7-day free allowance once you turn on free models in its dashboard. River serves DeepSeek V4.1 Flash, its 1017 snapshot, Kimi K3, GLM-5.3, Qwen3.8 27B and Nemotron 3.5 Super VL. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("deepseek/deepseek-v4.1-flash"), prompt: "Summarize the tradeoffs of optimistic locking in three bullet points.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "deepseek/deepseek-v4.1-flash" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Liquid d1 Ultra > Liquid AI's most capable hosted decision model joins the Decisions family, BYOK through Liquid's own API. - Date: 2026-10-28 - HTML: https://anyrouter.dev/blog/releases/2026-10-28-liquid-d1-ultra ## Models - `liquid/d1-ultra` (Liquid d1 Ultra) — Decision model, BYOK-only via Liquid. ## Notes [`liquid/d1-ultra`](https://anyrouter.dev/model/liquid/d1-ultra) is Liquid AI's most capable hosted decision model, for harder classification, routing and scoring. Send `state` and typed `questions` to `POST /api/v1/decisions` and get calibrated probabilities back in one call with zero generated tokens. It is **BYOK-only**: create a key at [console.liquid.ai](https://console.liquid.ai) and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Liquid lists it at $0.042 per 1M input tokens and bills you directly; AnyRouter adds no charge. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model liquid/d1-ultra ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "I have been waiting three weeks for my order and nobody answers my emails.", model: "liquid/d1-ultra", questions: { is_complaint: { type: "noul", instructions: "Is this message a complaint from the customer?", }, }, }), }) console.log(await res.json()) ``` _One request, one yes/no question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Ornith 1.5 122B > Ornith's open-weight Ornith 1.5 122B joins the catalog: a 122B mixture-of-experts model for coding and agents with a 262K-token context, free through the shared free tier. - Date: 2026-10-28 - HTML: https://anyrouter.dev/blog/releases/2026-10-28-ornith-1-5-122b ## Models - `ornith/ornith-1.5-122b` (Ornith 1.5 122B) — Open-weight MoE for coding and agents, 262K context, image input, reasoning and tool calling. Free. ## Notes [`ornith/ornith-1.5-122b`](https://anyrouter.dev/model/ornith/ornith-1.5-122b) is Ornith's 122B mixture-of-experts model, released under the MIT license. It takes text and image input, answers in text, and supports reasoning, streaming and tool calling over a 262,144-token context window. It is trained with a self-improvement loop that generates its own tasks, scaffolds and rollouts; Ornith reports 84.5 on SWE-bench Verified and 81.2 on Terminal-Bench 2.1. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("ornith/ornith-1.5-122b"), prompt: "Find the bug in this function.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "ornith/ornith-1.5-122b" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=ornith/ornith-1.5-122b). --- # Ternary Bonsai 2 9B > PrismML's Ternary Bonsai 2 9B joins the catalog through BYOK: a compact vision-language model with ternary weights and a 262K-token context, at $0.08 / $0.13 per million input / output tokens (list). - Date: 2026-10-28 - HTML: https://anyrouter.dev/blog/releases/2026-10-28-ternary-bonsai-2-9b ## Models - `prism-ml/ternary-bonsai-2-9b` (Ternary Bonsai 2 9B) — 262K-token context, image input, $0.08 / $0.13 per 1M (list). BYOK via OpenRouter. ## Notes [`prism-ml/ternary-bonsai-2-9b`](https://anyrouter.dev/model/prism-ml/ternary-bonsai-2-9b) is PrismML's compact open-weight model for conversation, reasoning and tool use. It is derived from Qwen3.5-9B with ternary weights, takes image input, and has a 262K-token context window. Weights are Apache 2.0. It is **BYOK-only**. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("prism-ml/ternary-bonsai-2-9b"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "prism-ml/ternary-bonsai-2-9b" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Decision 3.0 > vLLM Semantic Router's Decision 3.0 joins the Decisions family: six open-weight multimodal decision models from 0.6B to 27B, free on AnyRouter. - Date: 2026-10-28 - HTML: https://anyrouter.dev/blog/releases/2026-10-28-vllm-sr-decision-3 ## Models - `vllm-sr/d3-ultra` (d3-ultra) — 27B Decision 3.0 model for text, images and video. Tracks targets through video; also box, choice, noul and score. Free. - `vllm-sr/d3-flash` (d3-flash) — 9B Decision 3.0 model for text, images and video. Choice, noul, score and box. Free. - `vllm-sr/d3-mini` (d3-mini) — 4B Decision 3.0 model for text, images and video. Choice, noul and score. Free. - `vllm-sr/d3-nano` (d3-nano) — 2B Decision 3.0 model for text, images and video. Choice, noul and score. Free. - `vllm-sr/d3-lite` (d3-lite) — 0.8B Decision 3.0 model for text, images and video. Choice, noul and score. Free. - `vllm-sr/d3-edge` (d3-edge) — 0.6B Decision 3.0 model for text, images and video. Choice, noul and score. Free. ## Notes [Decision 3.0](https://decision.vllm-sr.ai/docs) is a family of Apache 2.0 decision models from vLLM Semantic Router. They write no text: send a `state`, optionally with images and videos, plus typed `questions` (choice, noul or score) to `POST /api/v1/decisions` and get a calibrated probability for each answer in one pass. [`vllm-sr/d3-ultra`](https://anyrouter.dev/model/vllm-sr/d3-ultra) (27B) also answers box questions and tracks a target through a video, and `vllm-sr/d3-flash` (9B) answers box questions too. `vllm-sr/d3-turbo` and `vllm-sr/d3` are aliases of d3-ultra. The service logs requests and may train on them, so these models are skipped when Always enforce ZDR is on. You can also bring your own key from the [Decision API](https://decision.vllm-sr.ai/#key). ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Refund request, order 12 days old, item unopened.", model: "vllm-sr/d3-flash", questions: { approve: { type: "noul", instructions: "Should this refund be approved?" }, }, }), }) console.log(await res.json()) ``` _One request, one noul question._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model vllm-sr/d3-flash ``` _Or run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # DeepSeek V3.2 Exp > DeepSeek's V3.2 Exp joins the catalog through BYOK: an experimental open-weight model that adds DeepSeek Sparse Attention for long-context efficiency. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-deepseek-v3-2-exp ## Models - `deepseek/deepseek-v3.2-exp` (DeepSeek V3.2 Exp) — Experimental MoE with DeepSeek Sparse Attention, MIT license, text input. BYOK. ## Notes [`deepseek/deepseek-v3.2-exp`](https://anyrouter.dev/model/deepseek/deepseek-v3.2-exp) is DeepSeek's experimental model built on V3.1-Terminus. It adds DeepSeek Sparse Attention to improve long-context training and inference efficiency, and DeepSeek reports benchmark results on par with V3.1-Terminus. It takes text, answers in text, and its weights are released under the MIT license. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("deepseek/deepseek-v3.2-exp"), prompt: "Summarize the key obligations in this contract excerpt.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "deepseek/deepseek-v3.2-exp" ``` _Coding agent._ DeepSeek V3.2 Exp is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=deepseek/deepseek-v3.2-exp). --- # GPT-6.1 Terra > OpenAI's GPT-6.1 Terra joins the catalog through BYOK: a fast model for visual reasoning and computer use with a 1.05M-token context, at $1 / $5 per million input / output tokens. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-gpt-6-1-terra ## Models - `openai/gpt-6.1-terra` (GPT-6.1 Terra) — Fast visual-reasoning and computer-use model, 1.05M context, image input, adjustable reasoning. BYOK. ## Notes [`openai/gpt-6.1-terra`](https://anyrouter.dev/model/openai/gpt-6.1-terra) is OpenAI's GPT-6.1 Terra, which OpenAI describes as a fast, efficient model for visual reasoning, precise computer use, and clear, natural writing. It has a 1,050,000-token context window and a 128,000-token maximum output, takes text and image input, and answers in text, with reasoning, streaming, and tool calling. OpenAI's list price is $1 per million input tokens and $5 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6.1-terra"), prompt: "Describe what is wrong with this checkout page layout.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-6.1-terra" ``` _Coding agent._ GPT-6.1 Terra is **BYOK-only**. Add an OpenAI key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and your provider bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=openai/gpt-6.1-terra). --- # GPT-6.1 Terra Pro > GPT-6.1 Terra Pro joins the catalog through BYOK: GPT-6.1 Terra with reasoning mode set to pro for harder problems, 1.05M-token context, at $1 / $5 per million input / output tokens. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-gpt-6-1-terra-pro ## Models - `openai/gpt-6.1-terra-pro` (GPT-6.1 Terra Pro) — GPT-6.1 Terra in pro reasoning mode, 1.05M context, image input. BYOK. ## Notes [`openai/gpt-6.1-terra-pro`](https://anyrouter.dev/model/openai/gpt-6.1-terra-pro) is [GPT-6.1 Terra](https://anyrouter.dev/model/openai/gpt-6.1-terra) served with reasoning mode set to pro, for higher-quality answers on complex tasks. It spends far more reasoning tokens than standard Terra, so use it where answer quality matters more than latency and cost. It has a 1,050,000-token context window and a 128,000-token maximum output, takes text and image input, and answers in text, with reasoning, streaming, and tool calling. The list price on the hosts that serve it is $1 per million input tokens and $5 per million output tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6.1-terra-pro"), prompt: "Find the race condition in this queue consumer and propose a fix.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-6.1-terra-pro" ``` _Coding agent._ GPT-6.1 Terra Pro is **BYOK-only**. Add an OpenRouter or Nous Portal key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and your provider bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=openai/gpt-6.1-terra-pro). --- # LingDT-3.0-flash > Ant Digital Technologies' LingDT-3.0-flash joins the catalog through BYOK: a 124B-parameter MoE model with about 5.1B activated per token and a 256K-token context. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-lingdt-3-0-flash ## Models - `antdigital/lingdt-3.0-flash` (LingDT-3.0-flash) — 124B MoE, 5.1B active, 256K context, text input. BYOK. ## Notes [`antdigital/lingdt-3.0-flash`](https://anyrouter.dev/model/antdigital/lingdt-3.0-flash) is a 124B-parameter mixture-of-experts model from Ant Digital Technologies, with about 5.1B parameters activated per token. Ant Digital describes it as designed around token efficiency and production-scale agentic inference. It has a 256K-token context window, takes text, and answers in text, with tool calling and streaming. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("antdigital/lingdt-3.0-flash"), prompt: "Break this refactor into steps and call the right tool for each.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "antdigital/lingdt-3.0-flash" ``` _Coding agent._ LingDT-3.0-flash is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=antdigital/lingdt-3.0-flash). --- # Qwen Flash > Alibaba's Qwen Flash joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen-flash ## Models - `qwen/qwen-flash` (Qwen Flash) — BYOK via Computrix. ## Notes [`qwen/qwen-flash`](https://anyrouter.dev/model/qwen/qwen-flash) Qwen Flash is Alibaba Cloud's fast Qwen3-series text model on Model Studio, with thinking and non-thinking modes in one model. It supports a 1M token context window and tiered pricing by input length. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen-flash"), prompt: "Summarize this change in one sentence.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen-flash" ``` _Coding agent._ Qwen Flash is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen-flash). --- # Qwen Plus > Alibaba's Qwen Plus joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen-plus ## Models - `qwen/qwen-plus` (Qwen Plus) — BYOK via Computrix. ## Notes [`qwen/qwen-plus`](https://anyrouter.dev/model/qwen/qwen-plus) Qwen Plus is Alibaba Cloud's balanced general-purpose Qwen text model on Model Studio. It covers text understanding, generation and reasoning at a moderate price, with tiered pricing by input length. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen-plus"), prompt: "Summarize this change in one sentence.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen-plus" ``` _Coding agent._ Qwen Plus is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen-plus). --- # Qwen3.5 Flash > Alibaba's Qwen3.5 Flash joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen3-5-flash ## Models - `qwen/qwen3.5-flash` (Qwen3.5 Flash) — Image input. BYOK via Computrix. ## Notes [`qwen/qwen3.5-flash`](https://anyrouter.dev/model/qwen/qwen3.5-flash) Qwen3.5 Flash is the fast, low-cost native vision-language model of Alibaba's Qwen3.5 series on Model Studio. It accepts text, image and video input and supports a 1M token context window. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.5-flash"), prompt: "Describe what is wrong with this checkout page layout.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3.5-flash" ``` _Coding agent._ Qwen3.5 Flash is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen3.5-flash). --- # Qwen3.6 Flash > Alibaba's Qwen3.6 Flash joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen3-6-flash ## Models - `qwen/qwen3.6-flash` (Qwen3.6 Flash) — Image input. BYOK via Computrix. ## Notes [`qwen/qwen3.6-flash`](https://anyrouter.dev/model/qwen/qwen3.6-flash) Qwen3.6 Flash is the fast, low-cost native vision-language model of Alibaba's Qwen3.6 series on Model Studio. It improves on Qwen3.5 Flash in agentic coding, math and code reasoning, spatial understanding and object localization. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.6-flash"), prompt: "Describe what is wrong with this checkout page layout.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3.6-flash" ``` _Coding agent._ Qwen3.6 Flash is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen3.6-flash). --- # Qwen3 Coder 480B A35B > Qwen's open-weight 480B coding model (35B active) joins the catalog through BYOK, with a 262K-token native context. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen3-coder-480b-a35b-instruct ## Models - `qwen/qwen3-coder-480b-a35b-instruct` (Qwen3 Coder 480B A35B) — Agentic coding MoE, 480B total, 35B active, 262K context. BYOK. ## Notes [`qwen/qwen3-coder-480b-a35b-instruct`](https://anyrouter.dev/model/qwen/qwen3-coder-480b-a35b-instruct) is Qwen's open-weight coding model, with 480B total and 35B active parameters. It is built for agentic coding, tool calling and repository-scale work. It is open weight under Apache-2.0, takes text and answers in text, with streaming and tool calling, and has a native 262,144-token context window. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3-coder-480b-a35b-instruct"), prompt: "Refactor this module to remove the circular import.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3-coder-480b-a35b-instruct" ``` _Coding agent._ Qwen3 Coder 480B A35B is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen3-coder-480b-a35b-instruct). --- # Qwen3 Coder Flash > Alibaba's Qwen3 Coder Flash joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen3-coder-flash ## Models - `qwen/qwen3-coder-flash` (Qwen3 Coder Flash) — BYOK via Computrix. ## Notes [`qwen/qwen3-coder-flash`](https://anyrouter.dev/model/qwen/qwen3-coder-flash) Qwen3 Coder Flash is the fast coding model of Alibaba's Qwen3-Coder family on Model Studio. It trades some depth for speed in code completion and agentic coding tools, with a 1M token context window. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3-coder-flash"), prompt: "Summarize this change in one sentence.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3-coder-flash" ``` _Coding agent._ Qwen3 Coder Flash is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen3-coder-flash). --- # Qwen3 VL Plus > Alibaba's Qwen3 VL Plus joins the catalog through BYOK, served with your own Computrix key. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-qwen3-vl-plus ## Models - `qwen/qwen3-vl-plus` (Qwen3 VL Plus) — Image input. BYOK via Computrix. ## Notes [`qwen/qwen3-vl-plus`](https://anyrouter.dev/model/qwen/qwen3-vl-plus) Qwen3 VL Plus is the higher-accuracy vision-language model of Alibaba's Qwen3-VL series on Model Studio. It reads images, charts and documents and answers in text, with a 256K token context window. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3-vl-plus"), prompt: "Describe what is wrong with this checkout page layout.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3-vl-plus" ``` _Coding agent._ Qwen3 VL Plus is **BYOK-only**. Add a Computrix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and Computrix bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [playground](https://anyrouter.dev/playground?model=qwen/qwen3-vl-plus). --- # Schematron V2 Small > inference.net's Schematron V2 Small joins the catalog through BYOK: a 3B model that turns messy HTML into schema-conforming JSON, with a 128K-token context, at $0.05 / $0.23 per million input / output tokens. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-schematron-v2-small ## Models - `inference-net/schematron-v2-small` (Schematron V2 Small) — 3B HTML-to-JSON extraction model, 128K context, strict JSON schema output. BYOK. ## Notes [`inference-net/schematron-v2-small`](https://anyrouter.dev/model/inference-net/schematron-v2-small) is inference.net's Schematron V2 Small, a 3B model trained to read raw HTML and return JSON that matches a schema you supply. It is the family's highest-quality option, approaching frontier-model accuracy on complex schemas and long pages. It has a 128K-token context and takes no instructions: the schema alone drives extraction, so describe ambiguous fields in the schema itself, keep temperature at 0, and strip scripts and boilerplate from the HTML first. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateObject } from "ai" import { z } from "zod" const anyrouter = createAnyRouter() const { object } = await generateObject({ model: anyrouter("inference-net/schematron-v2-small"), schema: z.object({ title: z.string(), price: z.number() }), prompt: html, // the cleaned page HTML temperature: 0, }) console.log(object) ``` _AI SDK._ ```bash anyr login ``` _Sign in with the AnyRouter CLI, then call the model._ Schematron V2 Small is **BYOK-only**. Add an inference.net key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and inference.net bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=inference-net/schematron-v2-small). --- # Schematron V2 Turbo > inference.net's Schematron V2 Turbo joins the catalog through BYOK: a 3B model that turns messy HTML into schema-conforming JSON, with a 128K-token context, at $0.03 / $0.15 per million input / output tokens. - Date: 2026-10-27 - HTML: https://anyrouter.dev/blog/releases/2026-10-27-schematron-v2-turbo ## Models - `inference-net/schematron-v2-turbo` (Schematron V2 Turbo) — 3B HTML-to-JSON extraction model, 128K context, strict JSON schema output. BYOK. ## Notes [`inference-net/schematron-v2-turbo`](https://anyrouter.dev/model/inference-net/schematron-v2-turbo) is inference.net's Schematron V2 Turbo, a 3B model trained to read raw HTML and return JSON that matches a schema you supply. It is the family's throughput- and cost-optimized option, faster than Schematron V2 Small. It has a 128K-token context and takes no instructions: the schema alone drives extraction, so describe ambiguous fields in the schema itself, keep temperature at 0, and strip scripts and boilerplate from the HTML first. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateObject } from "ai" import { z } from "zod" const anyrouter = createAnyRouter() const { object } = await generateObject({ model: anyrouter("inference-net/schematron-v2-turbo"), schema: z.object({ title: z.string(), price: z.number() }), prompt: html, // the cleaned page HTML temperature: 0, }) console.log(object) ``` _AI SDK._ ```bash anyr login ``` _Sign in with the AnyRouter CLI, then call the model._ Schematron V2 Turbo is **BYOK-only**. Add an inference.net key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route and inference.net bills you at its own rate. Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [playground](https://anyrouter.dev/playground?model=inference-net/schematron-v2-turbo). --- # GPT-6 Luna Decisions, Classify-1, Extract and 2 more added > 5 models from 3 providers joined the catalog the week of 2026-10-26. - Date: 2026-10-26 - HTML: https://anyrouter.dev/blog/releases/2026-10-26-catalog ## Models - `openai/gpt-6-luna-decisions` (GPT-6 Luna Decisions) — 1.1M context · $0.1 / $0 per 1M - `scaledown/classify-1` (Classify-1) — 1M context · $0.04 / $0 per 1M - `scaledown/extract` (Extract) — 1M context · $0.04 / $0 per 1M - `scaledown/summarize` (Summarize) — 1M context · $0.04 / $0 per 1M - `z-ai/glm-5-turbo` (GLM-5-Turbo) — 203K context · $1.2 / $4 per 1M --- # Three more free models > Inkling, Inkling Small and Gemma 4 31B now answer on the free tier with no key and no credit. - Date: 2026-10-26 - HTML: https://anyrouter.dev/blog/releases/2026-10-26-three-more-free-models ## Models - `thinkingmachines/inkling` (Inkling) — 1M context, text, image and audio input. Free. - `thinkingmachines/inkling-small` (Inkling Small) — 1M context, text, image and audio input. Free. - `google/gemma-4-31b` (Gemma 4 31B) — 262K context, text and image input. Free. ## Notes Three models that were reachable only with your own key are now free on AnyRouter: [`thinkingmachines/inkling`](https://anyrouter.dev/model/thinkingmachines/inkling) and [`thinkingmachines/inkling-small`](https://anyrouter.dev/model/thinkingmachines/inkling-small) (1M-token context, text, image and audio input), and [`google/gemma-4-31b`](https://anyrouter.dev/model/google/gemma-4-31b) (262K-token context, text and image input). Free routes share a throttled pool, so a busy hour can return 429; paid and BYOK routes stay as fallbacks. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("google/gemma-4-31b:free"), prompt: "Explain the difference between a mutex and a semaphore in two sentences.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "thinkingmachines/inkling-small:free" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Atria Dawn > Shanghai AI Laboratory's Atria Dawn joins the catalog: an open-weight agentic model on a 744B GLM-5.2 base with a 512K-token context, through BYOK. - Date: 2026-10-24 - HTML: https://anyrouter.dev/blog/releases/2026-10-24-atria-dawn ## Models - `atria-asi/atria-dawn` (Atria Dawn) — 744B-base MoE agentic model, 512K context, text input, MIT license. BYOK. ## Notes [`atria-asi/atria-dawn`](https://anyrouter.dev/model/atria-asi/atria-dawn) is an agentic model from the Shanghai Artificial Intelligence Laboratory, built on the 744B-parameter GLM-5.2 mixture-of-experts base and released under the MIT license. It targets research and engineering work that needs tool use and multi-step completion: deep research, building software and visualizations, office deliverables and security validation. It accepts text only and has a 512K-token context. On AnyRouter it runs through BYOK (Intern and ZenMux keys). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("atria-asi/atria-dawn"), prompt: "Plan an experiment to compare two retrieval strategies and list the steps.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "atria-asi/atria-dawn" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Kimi K3.1 Pro > Moonshot AI's Kimi K3.1 Pro joins the catalog: a 2.8T-parameter open-weight model with a 1M-token context and native vision, through BYOK. - Date: 2026-10-24 - HTML: https://anyrouter.dev/blog/releases/2026-10-24-kimi-k3-1-pro ## Models - `moonshotai/kimi-k3.1-pro` (Kimi K3.1 Pro) — 2.8T MoE (104B active), 1M context, vision, thinking always on. BYOK; weights due Nov 4. ## Notes [`moonshotai/kimi-k3.1-pro`](https://anyrouter.dev/model/moonshotai/kimi-k3.1-pro) is the first model in Moonshot AI's K3.1 series, a post-trained Kimi K3 (2.8T total, 104B active parameters) with a 1M-token context window and image input. Moonshot reports gains in game-engine coding, parametric 3D and CAD modeling, and financial research, with the claim-level hallucination rate on its Hard bench down from 23.4% to 8.3%. Thinking is always on; `reasoning_effort` takes low, high or max. Owner price: $2 input, $10 output, $0.20 cached per 1M tokens. On AnyRouter it runs through BYOK (Moonshot, Vercel AI Gateway, Requesty, AIHubMix keys); open weights are due by Nov 4, 2026. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("moonshotai/kimi-k3.1-pro"), prompt: "Refactor this module into smaller functions and explain the changes.", }) console.log(text) ``` _AI SDK._ ```bash anyr auth login curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"moonshotai/kimi-k3.1-pro","messages":[{"role":"user","content":"Write a unit test for a rate limiter."}]}' ``` _Sign in once with the anyr CLI, then call the endpoint._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [Claude Code](https://anyrouter.dev/use-cases/claude-code). --- # Kimi K3.1 Pro Highspeed > The high-speed variant of Kimi K3.1 Pro: the same model at about 2-3x the output speed, through BYOK. - Date: 2026-10-24 - HTML: https://anyrouter.dev/blog/releases/2026-10-24-kimi-k3-1-pro-highspeed ## Models - `moonshotai/kimi-k3.1-pro-highspeed` (Kimi K3.1 Pro Highspeed) — Same model as K3.1 Pro at 2-3x the speed and twice the owner price. BYOK. ## Notes [`moonshotai/kimi-k3.1-pro-highspeed`](https://anyrouter.dev/model/moonshotai/kimi-k3.1-pro-highspeed) is Moonshot AI's faster serving of [Kimi K3.1 Pro](https://anyrouter.dev/model/moonshotai/kimi-k3.1-pro): the same capabilities and 1M-token context at about 2-3x the output speed. Moonshot suggests it for code generation, code editing and programming agents. Owner price: $4 input, $20 output, $0.20 cached per 1M tokens, twice the standard K3.1 Pro rate. On AnyRouter it runs through BYOK (Moonshot, Vercel AI Gateway, Requesty, AIHubMix keys). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("moonshotai/kimi-k3.1-pro-highspeed"), prompt: "Refactor this module into smaller functions and explain the changes.", }) console.log(text) ``` _AI SDK._ ```bash anyr auth login curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"moonshotai/kimi-k3.1-pro-highspeed","messages":[{"role":"user","content":"Write a unit test for a rate limiter."}]}' ``` _Sign in once with the anyr CLI, then call the endpoint._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk), [Claude Code](https://anyrouter.dev/use-cases/claude-code). --- # Nemotron 3.5 Bolt E4B > NVIDIA's Nemotron 3.5 Bolt E4B joins the catalog: a small, fast model post-trained from Gemma 4 E4B for tool use and voice assistants. - Date: 2026-10-24 - HTML: https://anyrouter.dev/blog/releases/2026-10-24-nemotron-3-5-bolt-e4b ## Models - `nvidia/nemotron-3.5-bolt-e4b` (Nemotron 3.5 Bolt E4B) — 8B (4B effective), 64K context, text in and out, open weights. ## Notes [`nvidia/nemotron-3.5-bolt-e4b`](https://anyrouter.dev/model/nvidia/nemotron-3.5-bolt-e4b) is a small language model NVIDIA post-trained from Gemma 4 E4B (8B parameters, 4B effective). NVIDIA reports better multi-turn tool use, instruction following and input grounding than Gemma 4 E4B, with low memory use and low time to first token. Context is 64K tokens. It is a good fit for voice and device assistants, interactive personas and embedded interfaces. Weights are open under OpenMDW-1.1. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("nvidia/nemotron-3.5-bolt-e4b:free"), prompt: "Reply in one sentence: what can you help me with?", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "nvidia/nemotron-3.5-bolt-e4b:free" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Recursive Flint > Recursive's open-weight coding-agent MoE joins the catalog, free to call. - Date: 2026-10-22 - HTML: https://anyrouter.dev/blog/releases/2026-10-22-flint ## Models - `recursive/flint-v1.0` (Flint) — 40B MoE (2.5B active), 262K context, Apache-2.0. Free on the platform route; free variants may log prompts. ## Notes Flint is Recursive's open-weight mixture-of-experts model for coding agents: about 39.8B parameters with 2.5B active per token, a 262K token context, reasoning and multi-turn tool use. It is free on the platform route. Free variants may log prompts. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("recursive/flint-v1.0:free"), prompt: "Find the bug in this function." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "recursive/flint-v1.0:free" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Elorian Glimpse > Elorian's image and video reasoning model joins the catalog, BYOK through OpenRouter and Vercel. - Date: 2026-10-22 - HTML: https://anyrouter.dev/blog/releases/2026-10-22-glimpse ## Models - `elorian/glimpse` (Glimpse) — Visual reasoning over images and video, 220K to 262K context. BYOK-only. ## Notes Glimpse is Elorian's visual reasoning model. It takes text, image and video, tracks objects across motion and viewpoints, and answers in text. It is BYOK-only today: add your own OpenRouter or Vercel AI Gateway key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). List price is $0.60 input and $3.00 output per 1M tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("elorian/glimpse"), prompt: "Count the objects that move in this clip." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "elorian/glimpse" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Inception Mercury 3 > Inception's diffusion language model with a 1M context joins the catalog, BYOK through OpenRouter, Vercel and Venice. - Date: 2026-10-22 - HTML: https://anyrouter.dev/blog/releases/2026-10-22-mercury-3 ## Models - `inception/mercury-3` (Mercury 3) — Diffusion LLM, 1M context, tunable reasoning and tool calling. BYOK-only. ## Notes Mercury 3 is Inception's most capable diffusion language model, built for agentic workflows and real-time apps. It has a 1M token context, tunable reasoning, tool calling and structured output. It is BYOK-only today: add your own OpenRouter, Vercel AI Gateway or Venice key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the host bills you directly. List price is $0.10 input and $0.35 output per 1M tokens. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("inception/mercury-3"), prompt: "Summarize this log and list the failing steps." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "inception/mercury-3" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Nemotron 3.5 Embed 1B and 8B > NVIDIA's multimodal multilingual retrieval embedders join the catalog, free on the NIM developer tier. - Date: 2026-10-22 - HTML: https://anyrouter.dev/blog/releases/2026-10-22-nemotron-embed ## Models - `nvidia/nemotron-3.5-embed-1b` (Nemotron 3.5 Embed 1B) — 2048 dimensions, 32K context; shares the Nemotron 3 Embed 1B text space - `nvidia/nemotron-3.5-embed-8b` (Nemotron 3.5 Embed 8B) — 4096 dimensions, 32K context; the teacher for the 1B model ## Notes [`nvidia/nemotron-3.5-embed-1b`](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-1b) (2048 dimensions) and [`nvidia/nemotron-3.5-embed-8b`](https://anyrouter.dev/model/nvidia/nemotron-3.5-embed-8b) (4096 dimensions) are NVIDIA's Nemotron 3.5 Embed retrievers: multilingual, 32,768-token window, vectors that can be truncated and re-normalized. NVIDIA's card also covers document-page images; on AnyRouter's `/embeddings` the input is text. Platform NVIDIA NIM plus BYOK, $0 on the NIM developer tier. NVIDIA's hosted endpoint is intermittent for these two while it is new. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { embed } from "ai" const anyrouter = createAnyRouter() const { embedding } = await embed({ model: anyrouter.embeddingModel("nvidia/nemotron-3.5-embed-8b"), value: "How do I rotate an API key?", }) console.log(embedding.length) ``` _AI SDK._ ```bash anyr auth login curl https://anyrouter.dev/api/v1/embeddings \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"nvidia/nemotron-3.5-embed-8b","input":"How do I rotate an API key?"}' ``` _Sign in once with the anyr CLI, then call the endpoint._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # PPLX Decider Flash v1.2, pplx-embed v1 4B added > 2 models from 1 provider joined the catalog the week of 2026-10-19. - Date: 2026-10-19 - HTML: https://anyrouter.dev/blog/releases/2026-10-19-catalog ## Models - `perplexity/pplx-decider-flash-v1.2` (PPLX Decider Flash v1.2) — $0 / $0 per 1M - `perplexity/pplx-embed-v1-4b` (pplx-embed v1 4B) — 32K context · $0.03 per 1M tokens --- # MiniMax M3.1 Flash > MiniMax's multimodal agent and coding model joins the catalog, free on NVIDIA's developer tier. - Date: 2026-10-19 - HTML: https://anyrouter.dev/blog/releases/2026-10-19-minimax-m3-1-flash ## Models - `minimax/minimax-m3.1-flash` (MiniMax M3.1 Flash) — 1M context, text, image and video input, always-on reasoning. Free on NVIDIA's developer tier (rate limited), paid elsewhere. ## Notes Update 2026-10-25: the launch-week free offer has ended (OpenRouter, Kilo, Cline and OpenCode Go retired their free ids on 2026-10-22). It is free again through NVIDIA's own free endpoint, which is rate limited and has no published price. Call `minimax/minimax-m3.1-flash:free` with your AnyRouter key to use it. Every other route is paid, so add your own MiniMax, OpenRouter or Vercel key for steady use. MiniMax M3.1 Flash is built for agent work and coding. It has a 1M token context, takes text, image and video, and always reasons. List price is $0.15 input and $0.60 output per 1M tokens. With your own MiniMax key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok), you pay MiniMax directly at that price. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("minimax/minimax-m3.1-flash:free"), prompt: "Find the bug in this function." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "minimax/minimax-m3.1-flash:free" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # LFM 2.5 24B A2B > Liquid AI's open-weight reasoning MoE joins the catalog, BYOK through OpenRouter and Vercel. - Date: 2026-10-17 - HTML: https://anyrouter.dev/blog/releases/2026-10-17-lfm-2-5-24b ## Models - `liquid/lfm-2.5-24b-a2b` (LFM 2.5 24B A2B) — 24B MoE (2.45B active), 128K context, reasoning and tool calling. BYOK-only. ## Notes LFM2.5-24B-A2B is Liquid AI's largest LFM2.5 model: 24B parameters with about 2.45B active per token, a 128K context window, and a reasoning step before every answer. It targets fast agents, tool calling and structured output. It is BYOK-only today: add your own OpenRouter or Vercel AI Gateway key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the host bills you directly. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("liquid/lfm-2.5-24b-a2b"), prompt: "Plan the tool calls for a refund request." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "liquid/lfm-2.5-24b-a2b" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Xing4.0 29B A4B > China Telecom TeleAI's open-weight reasoning MoE joins the catalog, free to call. - Date: 2026-10-17 - HTML: https://anyrouter.dev/blog/releases/2026-10-17-xing4-0 ## Models - `xingchen-agi/xing4.0-29b-a4b` (Xing4.0 29B A4B) — 29B MoE (4B active), 262K context, Apache-2.0. Free on the platform route; free variants may log prompts. ## Notes Xing4.0-29B-A4B is an open-weight mixture-of-experts model from China Telecom's TeleAI (the Xing line, formerly TeleChat). It activates 4B of 29B parameters per token, has a 262K context window, and supports reasoning and tool calling. It is built for agentic coding and long-context work. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("xingchen-agi/xing4.0-29b-a4b:free"), prompt: "Plan a refactor of a 2k-line module." }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "xingchen-agi/xing4.0-29b-a4b:free" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Amos 1 > Scira's Amos 1 joins the Decisions family: four open-weight decision models, from a 0.5B CPU encoder to a 27B decoder, free on AnyRouter. - Date: 2026-10-13 - HTML: https://anyrouter.dev/blog/releases/2026-10-13-amos-1 ## Models - `scira/amos-1-large` (Amos 1 Large) — Free ($0). 27B, 128K context. The most capable. - `scira/amos-1-medium` (Amos 1 Medium) — Free ($0). 9B, 128K context. Fast and accurate. - `scira/amos-1-small` (Amos 1 Small) — Free ($0). 2B, 256K context. Sleeps when idle; first call can take ~2 min. - `scira/amos-1-mini` (Amos 1 Mini) — Free ($0). 0.5B encoder, 9K context. The fastest. ## Notes [Amos 1](https://amos.scira.ai) is a family of open-weight (Apache 2.0) decision models from Scira. They write no text: send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get a probability for each answer in one pass. Large leads Decision Bench at 94.9%. All four are **free**: no BYOK key needed, $0 per request. English only. Amos keeps every request to train future models, so do not send data you may not share. Because of that, **Always enforce ZDR** (Dashboard → Privacy) excludes them: with it on, the API answers 403 `zdr_required`; with it off (the default) they route normally, signed out too. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model scira/amos-1-large ``` _Run it with the native anyr command._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [Amos docs](https://amos.scira.ai/docs/). --- # Drex v2.0 > Nace AI's 35B mixture-of-experts decision model joins the catalog, with a platform route and BYOK. - Date: 2026-10-13 - HTML: https://anyrouter.dev/blog/releases/2026-10-13-drex-v2 ## Models - `nace-ai/drex-v2.0` (Drex v2.0) — 35B MoE (3B active), $0.06 / 1M input, output free. Platform route plus BYOK via Nace AI or OpenRouter. ## Notes Drex v2.0 is Nace AI's larger decision model and the successor to Drex v1.5. Send a state (text or JSON) and typed questions (yes/no, multiple choice or an ordinal score). It returns a calibrated probability for every option in one forward pass, with no text generation. It is TypeSafe System One compatible, so it suits routing, classification and policy checks that need a scored answer, not prose. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Refund request, order 12 days old, item unopened.", model: "nace-ai/drex-v2.0", questions: { approve: { type: "noul", instructions: "Should this refund be approved?" }, }, }), }) console.log(await res.json()) ``` _One request, one noul question._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model nace-ai/drex-v2.0 ``` _Or run it with the native anyr command._ Drex v1.5 also gains the platform route. More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Trinity Large Thinking, BGE Base EN v1.5, DeepSeek V4.1 Flash 1017 and 21 more added > 24 models from 17 providers joined the catalog the week of 2026-10-12. - Date: 2026-10-12 - HTML: https://anyrouter.dev/blog/releases/2026-10-12-catalog ## Models - `arcee-ai/trinity-large-thinking` (Trinity Large Thinking) — 262K context · $0.25 / $0.8 per 1M - `baai/bge-base-en-v1.5` (BGE Base EN v1.5) — 512 context · $0.005 per 1M tokens - `deepseek/deepseek-v4.1-flash-1017` (DeepSeek V4.1 Flash 1017) — 1M context · $0.075 / $0.3 per 1M - `intfloat/e5-base-v2` (E5 Base v2) — 512 context · $0.005 per 1M tokens - `meta/muse-spark-1.2-contributor` (Muse Spark 1.2 Contributor) — 1M context · $0.1 / $0.2 per 1M - `meta/muse-spark-1.3-contributor` (Muse Spark 1.3 Contributor) — 1M context · $0.1 / $0.2 per 1M - `meta/muse-spark-open` (Muse Spark Open) — 1M context · $1.25 / $4.25 per 1M - `meta/muse-wonder` (Muse Wonder) — 1M context · $4 / $20 per 1M - `nvidia/nemotron-3.5-super-vl-120b-a12b` (Nemotron 3.5 Super VL 120B A12B) — 1M context · Free - `openai/gpt-6-astra-pro` (GPT-6 Astra Pro) — 1.1M context · $10 / $50 per 1M - `openai/gpt-6-luna-pro` (GPT-6 Luna Pro) — 1.1M context · $0.1 / $0.5 per 1M - `openai/gpt-6-sol-pro` (GPT-6 Sol Pro) — 1.1M context · $2 / $10 per 1M - `openai/gpt-6.1-sol-pro` (GPT-6.1 Sol Pro) — 1.1M context · $2 / $10 per 1M - `openrouter/bodybuilder` (OpenRouter: Body Builder (beta)) — 128K context · $0 / $0 per 1M - `openrouter/pareto-code` (OpenRouter: Pareto Code Router) — 2M context · $0 / $0 per 1M - `perplexity/pplx-embed-v1-0.6b` (pplx-embed v1 0.6B) — 32K context · $0.004 per 1M tokens - `qwen/qwen3.8-max-prime` (Qwen3.8 Max Prime) — 1M context · $2 / $6 per 1M - `reflection/beam-1.0` (Beam 1.0) — 1M context · Free - `respan/span-01` (Span-01) — $0.02 / $0 per 1M - `sakana/fugu-ultra-v2` (Fugu Ultra v2) — 1M context · $5 / $30 per 1M - `sentence-transformers/all-minilm-l6-v2` (all-MiniLM-L6-v2) — 512 context · $0.005 per 1M tokens - `thenlper/gte-base` (GTE Base) — 512 context · $0.005 per 1M tokens - `xiaomi/mimo-v2.6-pro-ultraspeed` (MiMo-V2.6-Pro UltraSpeed) — 1M context · $4.35 / $8.7 per 1M - `z-ai/glm-4.5-flash` (GLM-4.5-Flash) — 128K context · $0 / $0 per 1M --- # Mistral Large 4, Ember-1, Granite 4.2 8B and Bonsai 2 27B > Four new chat models: Mistral's new frontier model, Fireworks' short-trace reasoning model on Kimi K3, IBM's mid-size Granite 4.2 reasoner, and PrismML's ternary 27B. All BYOK. - Date: 2026-10-11 - HTML: https://anyrouter.dev/blog/releases/2026-10-11 ## Models - `mistralai/mistral-large-4` (Mistral Large 4) — Up to 1M-token context, image input, $0.68 / $2.09 per 1M (list). BYOK via OpenRouter or Vercel. - `fireworks/ember-1` (Ember-1) — 1M-token context, image input, $3 / $15 per 1M (list). BYOK via OpenRouter or Vercel. - `ibm-granite/granite-4.2-8b` (Granite 4.2 8B) — 131K-token context, $0.06 / $0.25 per 1M (list). BYOK via DeepInfra, OpenRouter or Hugging Face. - `prism-ml/ternary-bonsai-2-27b` (Ternary Bonsai 2 27B) — 262K-token context, image input, $0.075 / $0.50 per 1M (list). BYOK via OpenRouter. ## Notes Four chat models joined the catalog today. Each one takes the standard `/chat/completions` request with tools and reasoning. - [`mistralai/mistral-large-4`](https://anyrouter.dev/model/mistralai/mistral-large-4): Mistral's frontier model for reasoning, coding and agents, with image input and up to a 1M-token window. - [`fireworks/ember-1`](https://anyrouter.dev/model/fireworks/ember-1): a Fireworks Research reasoning model built on Kimi K3, tuned for shorter reasoning traces. - [`ibm-granite/granite-4.2-8b`](https://anyrouter.dev/model/ibm-granite/granite-4.2-8b): IBM's dense 8B reasoner with full, low-effort and non-thinking modes. - [`prism-ml/ternary-bonsai-2-27b`](https://anyrouter.dev/model/prism-ml/ternary-bonsai-2-27b): a 27B model derived from Qwen3.8-27B with ternary weights, for cheap coding and math. All four are **BYOK-only**. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the provider bills you at its own rates and AnyRouter charges nothing for a BYOK route. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("mistralai/mistral-large-4"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "fireworks/ember-1" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # THX-01 > HAL-X's THX-01 joins the Decisions family: a 322M multilingual decision model with calibrated probabilities, free on AnyRouter. - Date: 2026-10-11 - HTML: https://anyrouter.dev/blog/releases/2026-10-11-thx-01 ## Models - `hal-x/thx-01` (THX-01) — Free ($0). Up to 1,024 tokens per question. Apache 2.0 weights. ## Notes [`hal-x/thx-01`](https://anyrouter.dev/model/hal-x/thx-01) is a 322M decision model from HAL-X AI. It is trained so that its probabilities are calibrated: a 0.8 means it is right about 80% of the time. It answers every question in one pass of about 10 ms, was post-trained in 18 languages, and supports 100+. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get a probability for each answer, not chat text. It is **free**: no BYOK key needed, $0 per request. The model reads up to 1,024 tokens per question and cuts longer state, so keep it short — tickets, messages, short records. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model hal-x/thx-01 ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "I was charged twice this month.", model: "hal-x/thx-01", questions: { category: { type: "choice", instructions: "What is this ticket about?", criteria: { billing: "billing issue", bug: "software bug" }, }, }, }), }) console.log(await res.json()) ``` _Route a support ticket._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [model card](https://huggingface.co/doofz/THX-01). --- # Five new Decisions models > Microsoft-Decision-1, Solar Decide Flash, PPLX Decider v1.1, Drex v1.5 and SubQ Snap Preview join the Decisions family: send state and typed questions, get probabilities back, not chat text. - Date: 2026-10-10 - HTML: https://anyrouter.dev/blog/releases/2026-10-10-decisions ## Models - `microsoft/microsoft-decision-1` (Microsoft-Decision-1) — 32,768-token context, $0.042 / 1M input, output free (OpenRouter list). BYOK via OpenRouter. - `upstage/solar-decide-flash` (Solar Decide Flash) — 524,288-token context, $0.05 / 1M input, output free (OpenRouter list). BYOK via OpenRouter. - `perplexity/pplx-decider-v1.1-27b` (PPLX Decider v1.1 (27B)) — 262,144-token context, text or image state, $0.02 / 1M input, output free. BYOK via Perplexity. - `nace-ai/drex-v1.5` (Drex v1.5) — 131,072-token context, $0.04 / 1M input, output free. BYOK via Nace AI or OpenRouter. - `subquadratic/subq-snap-preview` (SubQ Snap Preview) — Public preview. Text plus up to 4 images (PNG, JPEG, WebP). BYOK via SubQ. ## Notes Five decision models landed today. Each one speaks the same Decisions contract: send application `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get back a probability for each allowed answer — not generated chat text. - [`microsoft/microsoft-decision-1`](https://anyrouter.dev/model/microsoft/microsoft-decision-1) — a small Microsoft model for yes/no, multiple-choice and rating questions, plus rubric-based grading of AI responses and agent actions. 32,768-token context. - [`upstage/solar-decide-flash`](https://anyrouter.dev/model/upstage/solar-decide-flash) — the low-latency variant of Solar Decide, served on Solar Mini 4. 524,288-token context. - [`perplexity/pplx-decider-v1.1-27b`](https://anyrouter.dev/model/perplexity/pplx-decider-v1.1-27b) — a newer checkpoint of Perplexity's multimodal decision model, same contract as v1. `state` can carry base64 PNG/JPEG/WebP images. 262,144-token context. - [`nace-ai/drex-v1.5`](https://anyrouter.dev/model/nace-ai/drex-v1.5) — a small decision model from Nace AI on the same contract as TypeSafe's Jev. 131,072-token context. - [`subquadratic/subq-snap-preview`](https://anyrouter.dev/model/subquadratic/subq-snap-preview) — Subquadratic's decision model for routing, guardrails and triage, in public preview. Text plus up to 4 images. | Model | Input / 1M | Output / 1M | BYOK via | | --- | --- | --- | --- | | Microsoft-Decision-1 | $0.042 | $0 | OpenRouter | | Solar Decide Flash | $0.05 | $0 | OpenRouter | | PPLX Decider v1.1 (27B) | $0.02 | $0 | Perplexity | | Drex v1.5 | $0.04 | $0 | Nace AI, OpenRouter | | SubQ Snap Preview | — | — | SubQ | All five are **BYOK-only**. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. - Terminal — `anyr decision --model microsoft/microsoft-decision-1` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model microsoft/microsoft-decision-1 ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "microsoft/microsoft-decision-1", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?" }, }, }), }) console.log(await res.json()) ``` _One request, one noul question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # SubQ Preview > Subquadratic's long-context chat model, built on its sparse attention architecture for very large inputs. Early access, BYOK via SubQ. - Date: 2026-10-10 - HTML: https://anyrouter.dev/blog/releases/2026-10-10-subq-preview ## Models - `subquadratic/subq-preview` (SubQ Preview) — Early access. Text and file input, tools, structured outputs, reasoning_effort. BYOK via SubQ. ## Notes [`subquadratic/subq-preview`](https://anyrouter.dev/model/subquadratic/subq-preview) is Subquadratic's long-context chat model, built on its Subquadratic Sparse Attention (SSA) architecture for reasoning over very large inputs such as whole repositories, contract archives and filings. It takes text and files (documents), returns text, and supports function calling, JSON-schema structured outputs and a `reasoning_effort` control from none to max. Reasoning text is never returned; reasoning tokens bill as output. It is in early access, so availability and features may change. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=subquadratic/subq-preview). SubQ Preview is **BYOK-only** through a SubQ key. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("subquadratic/subq-preview"), prompt: "Summarize the main obligations in this contract.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "subquadratic/subq-preview", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"subquadratic/subq-preview","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "subquadratic/subq-preview" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "subquadratic/subq-preview" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "subquadratic/subq-preview" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=subquadratic/subq-preview) --- # Claude Haiku 5.5 completes the Claude 5.5 family > Anthropic's fastest, cheapest Claude 5.x model: 1M context, vision, tools, adaptive thinking always on. $0.10 / $0.50 per 1M list. BYOK. - Date: 2026-10-09 - HTML: https://anyrouter.dev/blog/releases/2026-10-09-claude-haiku-5-5 ## Models - `anthropic/claude-haiku-5-5` (Claude Haiku 5.5) — 1M-token context, 128k output, text and image input, $0.10 / $0.50 per 1M list. BYOK via Anthropic, OpenRouter or AIHubMix. ## Notes [`anthropic/claude-haiku-5-5`](https://anyrouter.dev/model/anthropic/claude-haiku-5-5) is live, and with it the Claude 5.5 family is complete on AnyRouter: [Opus 5.5](https://anyrouter.dev/model/anthropic/claude-opus-5-5), [Sonnet 5.5](https://anyrouter.dev/model/anthropic/claude-sonnet-5-5) and now Haiku 5.5. Haiku 5.5 is the fastest and most cost-efficient model in the Claude 5.x lineup. It has a 1M-token context window with up to 128k output tokens, takes text and images, supports tool use and function calling, and runs with adaptive thinking always on. Use it for rapid ideation, summarization and classification. The published list price is $0.10 per million input tokens and $0.50 per million output tokens. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=anthropic/claude-haiku-5-5). Haiku 5.5 is **BYOK-only**: add an Anthropic, OpenRouter or AIHubMix key. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-haiku-5-5"), prompt: "Classify these support tickets by urgency.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "anthropic/claude-haiku-5-5", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anthropic/claude-haiku-5-5","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-haiku-5-5" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "anthropic/claude-haiku-5-5" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "anthropic/claude-haiku-5-5" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=anthropic/claude-haiku-5-5) --- # Glyph Cluster (stealth) > A stealth reasoning model for coding and long-context work, 256k context, via Vercel AI Gateway BYOK. - Date: 2026-10-08 - HTML: https://anyrouter.dev/blog/releases/2026-10-08-glyph-cluster ## Models - `stealth/glyph-cluster` (Glyph Cluster) — 256,000-token context, text-only, tools. BYOK via Vercel AI Gateway. ## Notes [`stealth/glyph-cluster`](https://anyrouter.dev/model/stealth/glyph-cluster) is a stealth preview reasoning model built for coding and long-context workloads. Its provider has chosen to stay anonymous during the preview. It takes text only, supports function calling, and has a 256,000-token context window. It does not support structured outputs and has no zero data retention: prompts may be used for training. Vercel lists it free during the stealth period for Pro and Enterprise Vercel users. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=stealth/glyph-cluster). Glyph Cluster is **BYOK-only** through a Vercel AI Gateway key. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("stealth/glyph-cluster:free"), prompt: "Review this function and suggest a safer version.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "stealth/glyph-cluster:free", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"stealth/glyph-cluster","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "stealth/glyph-cluster:free" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "stealth/glyph-cluster:free" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "stealth/glyph-cluster:free" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=stealth/glyph-cluster) --- # Aion 3.5 Mini, Vietnamese Embedding, Quyet 1.0 Large and 7 more added > 10 models from 7 providers joined the catalog the week of 2026-10-05. - Date: 2026-10-05 - HTML: https://anyrouter.dev/blog/releases/2026-10-05-catalog ## Models - `aion-labs/aion-3.5-mini` (Aion 3.5 Mini) — 262K context · $0.7 / $1.4 per 1M - `aiteamvn/vietnamese-embedding` (Vietnamese Embedding) — 8K context · $0.01 per 1M tokens - `chinhnc/quyet-1.0-large` (Quyet 1.0 Large) — 10K context · $0.08 / $0 per 1M - `cohere/rerank-multilingual-v3.0` (Rerank Multilingual 3.0) — 4K context · $2 / $0 per 1M - `cohere/rerank-v3.5` (Rerank 3.5) — 4K context · $2 / $0 per 1M - `cohere/rerank-v4.0-fast` (Rerank 4.0 Fast) — 33K context · $2 / $0 per 1M - `cohere/rerank-v4.0-pro` (Rerank 4.0 Pro) — 33K context · $2.5 / $0 per 1M - `fpt-ai/saola-small-32b` (Saola Small 32B) — 32K context · $0.13 / $0.15 per 1M - `intfloat/multilingual-e5-large` (Multilingual E5 Large) — 512 context · $0.01 per 1M tokens - `qwen/qwen2.5-vl-7b-instruct` (Qwen2.5-VL 7B Instruct) — 33K context · $0.77 / $0.77 per 1M --- # Mistral Small 4 > Mistral's Apache 2.0 hybrid model, which folds its instruct, reasoning and coding lines into one. 256k context, image input, $0.15 / $0.60 per 1M. BYOK. - Date: 2026-10-04 - HTML: https://anyrouter.dev/blog/releases/2026-10-04 ## Models - `mistralai/mistral-small-4` (Mistral Small 4) — 262,144-token context, text and image input, $0.15 / $0.60 per 1M. BYOK via Mistral or OpenRouter. ## Notes [`mistralai/mistral-small-4`](https://anyrouter.dev/model/mistralai/mistral-small-4) is Mistral's current Small generation, shipped as version 26.03 under Apache 2.0. Mistral describes it as a hybrid instruct-and-reasoning mixture-of-experts model that collapses what were separate instruct, reasoning and coding lines into one. It takes text and images, returns text, and runs a 262,144-token context with a 209,715-token maximum output. Tool calling, `response_format` / structured outputs and `reasoning_effort` are all available. Mistral lists it at $0.15 per million input tokens and $0.60 per million output tokens. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=mistralai/mistral-small-4). This listing is **BYOK-only**. Add a Mistral key or an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the request goes out with your key, billed by that provider at the rates above. AnyRouter charges nothing for a BYOK route, and we have no platform-billed route for this model. Try it with the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("mistralai/mistral-small-4"), prompt: "Refactor this module and explain the trade-offs.", }) console.log(text) ``` _generateText against Mistral Small 4._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "mistralai/mistral-small-4" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Gemma 3n E2B, on your own phone > Google's Gemma 3n E2B, run on a phone you pair yourself and relayed to AnyRouter. $0 in and out — your hardware does the work. - Date: 2026-10-04 - HTML: https://anyrouter.dev/blog/releases/2026-10-04-gemma-3n-e2b ## Models - `google/gemma-3n-e2b` (Gemma 3n E2B) — 32,768-token context, text in and out, $0 / $0 per 1M. ## Notes [`google/gemma-3n-e2b`](https://anyrouter.dev/model/google/gemma-3n-e2b) runs Google's Gemma 3n E2B on a phone you pair yourself. The phone connects to AnyRouter over an outbound WebSocket, so there is no Google API key and no server-side compute. It is text in, text out, with a 32,768-token context window. Pricing is $0 per million input and output tokens, because you supply the hardware. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=google/gemma-3n-e2b). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("google/gemma-3n-e2b:free"), prompt: "Write a one-line commit message for this change.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "google/gemma-3n-e2b:free", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"google/gemma-3n-e2b","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "google/gemma-3n-e2b:free" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "google/gemma-3n-e2b:free" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "google/gemma-3n-e2b:free" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=google/gemma-3n-e2b) --- # Ling 3.1 Flash > inclusionAI's Ling 3.1 Flash joins the catalog: a hybrid reasoning mixture-of-experts model with 25B active of 560B total parameters, a 262,144-token context window, and tool calling, available through BYOK. - Date: 2026-10-03 - HTML: https://anyrouter.dev/blog/releases/2026-10-03 ## Models - `inclusionai/ling-3.1-flash` (Ling-3.1-flash) — Hybrid reasoning MoE, 25B active / 560B total, 262,144-token context, tool calling. ## Notes [`inclusionai/ling-3.1-flash`](https://anyrouter.dev/model/inclusionai/ling-3.1-flash) is inclusionAI's newest Flash model: a hybrid reasoning mixture-of-experts model with 25B active parameters out of 560B total. It takes text and returns text over a 262,144-token context window with up to 32,768 output tokens, and supports tool calling. It is available through BYOK keys (Novita or OpenRouter), both of which list it at $0. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=inclusionai/ling-3.1-flash). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("inclusionai/ling-3.1-flash"), prompt: "Summarize this changelog in three bullets.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "inclusionai/ling-3.1-flash" ``` _Coding agent._ --- # Apodex 1.1 Mini and Laya > Apodex 1.1 Mini, a free reasoning-first model for research and forecasting, and Laya, a free System One evaluation model from Convai Innovations. - Date: 2026-10-03 - HTML: https://anyrouter.dev/blog/releases/2026-10-03-apodex-laya ## Models - `apodex/apodex-1.1-mini` (Apodex 1.1 Mini) — 262,144-token context, 32,768 output, free via the platform pool with OpenRouter BYOK fallback. - `convaiinnovations/laya` (Laya) — Decision model, 8,192-token context, $0 list. BYOK via Vercel AI Gateway. ## Notes [`apodex/apodex-1.1-mini`](https://anyrouter.dev/model/apodex/apodex-1.1-mini) is a reasoning-first model from Apodex for complex, long-horizon research and forecasting. It works with files, data, code and tools to produce verifiable results; text in, text out. Context is 262,144 tokens with up to 32,768 output tokens. It is served free on the platform route, with OpenRouter BYOK as a fallback. [`convaiinnovations/laya`](https://anyrouter.dev/model/convaiinnovations/laya) is Convai Innovations' System One evaluation model: send state and typed questions (noul / choice / score) to `POST /api/v1/decisions` and get structured answers with probabilities in one forward pass. It has an 8,192-token context, is listed at $0, and is reached BYOK through a Vercel AI Gateway key. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=apodex/apodex-1.1-mini). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("apodex/apodex-1.1-mini"), prompt: "Forecast the main risks in this project plan.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "apodex/apodex-1.1-mini", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"apodex/apodex-1.1-mini","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "apodex/apodex-1.1-mini" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "apodex/apodex-1.1-mini" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "apodex/apodex-1.1-mini" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=apodex/apodex-1.1-mini) Laya uses the Decisions API instead of chat: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model convaiinnovations/laya ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "convaiinnovations/laya", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?" }, }, }), }) console.log(await res.json()) ``` _One request, one noul question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [Decisions API reference](https://anyrouter.dev/docs/api-reference/systemone) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Gemma 3 4B IT > Google's Gemma 3 4B IT joins the catalog: a 4B open-weight instruct model with text and image input, a 131,072-token context window, and multilingual coverage across 140+ languages, available through BYOK. - Date: 2026-10-03 - HTML: https://anyrouter.dev/blog/releases/2026-10-03-gemma ## Models - `google/gemma-3-4b-it` (Gemma 3 4B IT) — Open-weight 4B instruct, text + image in, 131,072-token context, 140+ languages. ## Notes [`google/gemma-3-4b-it`](https://anyrouter.dev/model/google/gemma-3-4b-it) is the smallest multimodal member of Google's Gemma 3 family: a 4B open-weight instruct model that takes text and image input and answers in text over a 131,072-token context window, with multilingual support in over 140 languages. It is available through BYOK keys (Hugging Face, OpenRouter, or Google AI Studio) — OpenRouter lists it at $0.05 / $0.10 per 1M tokens. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=google/gemma-3-4b-it). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("google/gemma-3-4b-it"), prompt: "Summarize this changelog in three bullets.", }) console.log(text) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "google/gemma-3-4b-it" ``` _Coding agent._ --- # Faster anyrouter/free > Gateway time on anyrouter/free dropped at the slow end, from about 5 seconds to 1.6 seconds. If the first upstream stays silent, anyrouter/free and anyrouter/auto start a second one and keep whichever sends a token first. - Date: 2026-10-03 - HTML: https://anyrouter.dev/blog/releases/2026-10-03-parallel-upstreams ## Notes `anyrouter/free` and `anyrouter/auto` are faster for two reasons. The gateway itself adds less time, and a silent upstream no longer holds the first token. On 2026-10-03 we timed 40 streaming calls to `anyrouter/free` with `Server-Timing`. The slowest gateway time fell from about 5.0 seconds to 1,631 ms at p95, and 357 ms at p50. Time to first token, which still includes the upstream, moved only at the tail. Forty calls is a direction, not a guarantee. | Time to first token | Before | After | | --- | --- | --- | | p50 | 1,333 ms | 1,355 ms | | p95 | 6,864 ms | 5,491 ms | If the first upstream sends no token for about 2.5 seconds, AnyRouter starts one other provider or model. The first real token wins, the other call is cancelled, and you pay only for the winner. That is streaming only, at most one extra call, and it is skipped for very long prompts. Healthy providers answer before the delay, so it did not fire in that sample. It is on by default. No code change. [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk): `createAnyRouter()` reads `ANYROUTER_API_KEY`. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { streamText } from "ai" const anyrouter = createAnyRouter() const result = streamText({ model: anyrouter("anyrouter/free"), prompt: "Summarize this diff in three bullets.", }) for await (const chunk of result.textStream) process.stdout.write(chunk) ``` _Stream anyrouter/free._ Same model from a coding agent ([playbook](https://anyrouter.dev/use-cases/coding-agents)): `anyr login`, then `anyr claude --model "anyrouter/free"` or `anyr opencode --model "anyrouter/auto"`. When a second upstream ran, the response includes `x-anyrouter-hedge`, for example `won=;delay=2500`. Turn it off under Routing in [Dashboard → Settings](https://anyrouter.dev/dashboard/settings), or send `{"parallelHedgeEnabled": false}` to `PUT /api/v1/user/preferences`. Requests then try one upstream at a time. If a `:free` model fails on every route, including donated keys, AnyRouter answers with `anyrouter/free` instead of an error. The response sets `x-anyrouter-fallback: anyrouter/free`, and `model` names the model that answered. More: [routing](https://anyrouter.dev/docs/features/routing) · [free tier](https://anyrouter.dev/docs/features/free-tier) · [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Stream a first message from anyrouter/free in the playground. [Try in playground](https://anyrouter.dev/playground?model=anyrouter/free) --- # Pareto 26.10 > Unbiased's newer composite model joins the catalog: 1,048,576-token context, text and image input, tool calling, and a 131,072-token maximum output at $0.80 / $3.20 per million input / output tokens. BYOK-only via OpenRouter. - Date: 2026-10-02 - HTML: https://anyrouter.dev/blog/releases/2026-10-02 ## Models - `unbiased/pareto-26.10` (Pareto 26.10) — Multimodal composite model for research, coding and agentic work. BYOK-only via OpenRouter. ## Notes [`unbiased/pareto-26.10`](https://anyrouter.dev/model/unbiased/pareto-26.10) is Unbiased's current composite model — it runs several language models and synthesizes one answer, so there is no single upstream you can compare it against. It takes text and images and returns text over a 1,048,576-token context window, with a 131,072-token maximum output, tool calling, and `max_tokens`, `temperature` and `top_p` control. OpenRouter lists it at $0.80 per million input tokens, $3.20 per million output tokens and $0.03 per million cached input tokens. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=unbiased/pareto-26.10). It lands a lot cheaper than the current [`unbiased/pareto`](https://anyrouter.dev/model/unbiased/pareto), which OpenRouter prices at $2.50 / $7.50 per million input / output tokens. That older row is a separate listing with a 262,144-token context, and it is currently disabled on our side — the Cloudflare route that carried it is off — so 26.10 is the one to reach for. It is **BYOK-only**, served through [OpenRouter](https://openrouter.ai/unbiased/pareto-26.10): add an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the request goes out with your key, billed by OpenRouter at the rates above. AnyRouter charges nothing for a BYOK route, and there is no platform-billed route for this listing yet. Try it with the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("unbiased/pareto-26.10"), prompt: "Review this module and list the three riskiest refactors.", }) console.log(text) ``` _generateText against the 1M context window._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "unbiased/pareto-26.10" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Fledge Alpha > Fledge Alpha joins the catalog as a free stealth preview: a 1,048,576-token context window, text and image input, tool calling, and reasoning effort on low / high / max — $0 / $0 through OpenCode Zen. - Date: 2026-10-02 - HTML: https://anyrouter.dev/blog/releases/2026-10-02-fledge-alpha ## Models - `stealth/fledge-alpha` (Fledge Alpha) — Free stealth preview. Text and image in, text out, tool calling, reasoning effort low / high / max, 1M-token context. ## Notes [`stealth/fledge-alpha`](https://anyrouter.dev/model/stealth/fledge-alpha) is a free-tier stealth preview that arrived on OpenCode Zen on 1 October 2026. It takes text and images and returns text over a 1,048,576-token context window, with a 131,072-token maximum output, tool calling, and reasoning you can set to `low`, `high`, or `max` — those three are the only efforts published for it. It is available through BYOK keys (Novita or OpenRouter), both of which list it at $0. It is deliberately undocumented: no lab, no specifications, and no benchmarks are published for the model, so treat it as an experiment rather than a model you can evaluate up front. The only route is OpenCode Zen's free pool (`fledge-alpha-free`), which is a shared, rate-limited pool — expect `FreeUsageLimitError` under load, and a BYOK mirror of the same wire if you hold your own OpenCode Zen key. It is not on OpenRouter or Nous, so there is no second route to fall back to yet. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=stealth/fledge-alpha). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { reasoning, text } = await generateText({ model: anyrouter("stealth/fledge-alpha"), prompt: "Explain what this regex does, then show an input it rejects.", reasoning: "high", }) console.log(reasoning, text) ``` _generateText with reasoning effort set._ The SDK's portable `reasoning` enum stops at `xhigh`, so `low` and `high` map straight across but `max` does not have a slot in it. Reach `max` through `extraBody`, which is merged into the request body last: ```ts const { text } = await generateText({ model: anyrouter("stealth/fledge-alpha"), prompt: "Review this diff and list the three riskiest changes.", providerOptions: { anyrouter: { extraBody: { reasoning_effort: "max" } }, }, }) console.log(text) ``` _reasoning_effort: max via extraBody._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "stealth/fledge-alpha", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"stealth/fledge-alpha","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "stealth/fledge-alpha" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "stealth/fledge-alpha" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "stealth/fledge-alpha" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=stealth/fledge-alpha) --- # PPLX Decider v1 (27B) > Perplexity's multimodal decision model joins the Decisions family: send state — text or images — and typed questions, get back a probability distribution over a fixed set of answers, not generated chat text. - Date: 2026-10-02 - HTML: https://anyrouter.dev/blog/releases/2026-10-02-pplx-decider ## Models - `perplexity/pplx-decider-v1-27b` (PPLX Decider v1 (27B)) — Decision model, 262,144-token context, $0.04/M input and $0 output. BYOK-only via Perplexity. ## Notes [`perplexity/pplx-decider-v1-27b`](https://anyrouter.dev/model/perplexity/pplx-decider-v1-27b) is Perplexity's decision model on its new Decisions API. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get back a probability distribution over a fixed set of answers — probabilities, not written text, so it generates no free-form output. Perplexity scores it at 85.71% across 11 decision benchmarks. It has a 262,144-token input limit, and `state` may be a string, an object, or an array of OpenAI-style `image_url` parts carrying base64 PNG/JPEG/WebP data URLs, so it scores images too. - Terminal — `anyr decision --model perplexity/pplx-decider-v1-27b` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. PPLX Decider v1 (27B) is **BYOK-only**, reached through Perplexity itself — the model is not listed on OpenRouter or any other aggregator we route. Add a Perplexity key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); AnyRouter charges nothing for a BYOK route, and Perplexity bills $0.04 per million input tokens with output tokens free. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model perplexity/pplx-decider-v1-27b ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "My checkout page shows a blank screen after I click Pay.", model: "perplexity/pplx-decider-v1-27b", questions: { team: { type: "choice", instructions: "Which team should own this ticket?", criteria: { account: "Login, permissions, or profile issues.", frontend: "Rendering, layout, or browser compatibility issues.", payments: "Checkout, billing, or payment processing issues.", }, }, }, }), }) console.log(await res.json()) ``` _One request, one choice question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Strands Decider 2B > Strands Labs' open-weight decision model joins the Decisions family: run `strands-decider serve` or Ollama (`strands-decider:2b`) on your own hardware and route POST /api/v1/decisions to it through AnyRouter. - Date: 2026-10-02 - HTML: https://anyrouter.dev/blog/releases/2026-10-02-strands-decider ## Models - `strandsagents/strands-decider-2b` (Strands Decider 2B) — Decision model, 4,096-token context, Apache-2.0 open weights. Serve on your own hardware — `strands-decider serve`, or Ollama (`strands-decider:2b`) over the AnyRouter relay. ## Notes [`strandsagents/strands-decider-2b`](https://anyrouter.dev/model/strandsagents/strands-decider-2b) is Strands Labs' small open-weight decision model ([`StrandsAgents/strands-decider-2B-hobson-v19`](https://huggingface.co/StrandsAgents/strands-decider-2B-hobson-v19), Apache-2.0). Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get back answers with calibrated probabilities — it returns decisions, not generated chat text, so it produces no free-form output. The published recipe serves a 4,096-token context window. - Terminal — `anyr decision --model strandsagents/strands-decider-2b` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. There is **no hosted API** — the weights run on your own hardware. Install the server (`pip install strands-decider`), start `strands-decider serve StrandsAgents/strands-decider-2B-hobson-v19 --port 8000`, and expose it at a reachable origin. Then add a Strands Decider key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok): the serve defines no auth, so the saved value rides along as a passthrough `Authorization` header the server ignores. AnyRouter charges nothing for a BYOK route, and the model itself is free — you pay only for your own compute. ```bash pip install strands-decider strands-decider serve StrandsAgents/strands-decider-2B-hobson-v19 --port 8000 curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model strandsagents/strands-decider-2b ``` _Serve the weights, then run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "My checkout page shows a blank screen after I click Pay.", model: "strandsagents/strands-decider-2b", questions: { team: { type: "choice", instructions: "Which team should own this ticket?", criteria: { account: "Login, permissions, or profile issues.", frontend: "Rendering, layout, or browser compatibility issues.", payments: "Checkout, billing, or payment processing issues.", }, }, }, }), }) console.log(await res.json()) ``` _One request, one choice question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Mercury Decide > Inception's decision model joins the Decisions family: send state and typed questions, get back a choice, a score or a yes/no answer with a calibrated probability — no generated tokens, no per-token price. - Date: 2026-10-01 - HTML: https://anyrouter.dev/blog/releases/2026-10-01-mercury-decide ## Models - `inception/mercury-decide` (Mercury Decide) — Decision model, 32,768-token context, $0 input and $0 output. BYOK-only via OpenRouter. ## Notes [`inception/mercury-decide`](https://anyrouter.dev/model/inception/mercury-decide) is Inception's structured decision model. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get back a choice, a score, or a yes/no answer — each with a calibrated probability read straight out of the model instead of written as text, so it generates no output tokens at all. It has a 32,768-token context window and answers up to 14 decisions per second, which is fast enough to score every incoming case and hand only the unsure ones to a person. - Terminal — `anyr decision --model inception/mercury-decide` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. Mercury Decide is **BYOK-only**, reached through OpenRouter. Add an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) — AnyRouter charges nothing for a BYOK route, and OpenRouter serves the model as a free tier at $0 per million input tokens and $0 per million output tokens. AnyRouter has no direct Inception route for it yet: Inception's own API covers chat, fill-in-the-middle and edit completions, not decisions. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model inception/mercury-decide ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "My checkout page shows a blank screen after I click Pay.", model: "inception/mercury-decide", questions: { team: { type: "choice", instructions: "Which team should own this ticket?", criteria: { account: "Login, permissions, or profile issues.", frontend: "Rendering, layout, or browser compatibility issues.", payments: "Checkout, billing, or payment processing issues.", }, }, }, }), }) console.log(await res.json()) ``` _One request, one choice question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # GPT-6.1 Sol > OpenAI's GPT-6.1 Sol joins the catalog BYOK-only through OpenAI — 1.05M-token context, 128K max output, image input, and adjustable reasoning at $2 / $10 per million input / output tokens. - Date: 2026-09-30 - HTML: https://anyrouter.dev/blog/releases/2026-09-30 ## Models - `openai/gpt-6.1-sol` (GPT-6.1 Sol) — Near-Astra performance for complex coding and agentic work at Sol pricing. BYOK-only via OpenAI. ## Notes [`openai/gpt-6.1-sol`](https://anyrouter.dev/model/openai/gpt-6.1-sol) is OpenAI's GPT-6.1 Sol, which OpenAI describes as near-Astra performance for complex work at a lower cost. It has a 1,050,000-token context window and a 128,000-token maximum output, takes text and image input, and answers in text, with reasoning, streaming, and tool calling. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=openai/gpt-6.1-sol). GPT-6.1 Sol is **BYOK-only**, served by [OpenAI](https://developers.openai.com/api/docs/models/gpt-6.1-sol). Add an OpenAI key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) — AnyRouter charges nothing for a BYOK route, and OpenAI bills you at its published rate of $2 per million input tokens, $10 per million output tokens, and $0.10 per million cached input tokens. Try it with the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6.1-sol"), prompt: "Review this module and list the three riskiest refactors.", }) console.log(text) ``` _generateText against the 1.05M context window._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "openai/gpt-6.1-sol" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Latest aliases: name a model family, always get a live model > Send google/gemini-flash-latest, anthropic/claude-sonnet-latest and 17 other -latest ids. AnyRouter calls the newest model in that family that is available right now, skips retired ones, and bills the model that answered. - Date: 2026-09-30 - HTML: https://anyrouter.dev/blog/releases/2026-09-30-latest-aliases ## Notes Models get retired or go down, and a pinned id breaks when they do. A `-latest` alias names a family instead. AnyRouter calls the newest model in that family that can serve your request right now, and if it is unavailable it moves on to the next newest one. The response `model` field tells you which concrete model answered (for example `google/gemini-3.8-flash`), and you are billed at that model's price. There are 19 aliases at launch: - Google — `google/gemini-flash-latest`, `google/gemini-flash-lite-latest`, `google/gemini-pro-latest`, `google/gemma-latest`. - DeepSeek — `deepseek/deepseek-latest`, `deepseek/deepseek-flash-latest`. - Anthropic — `anthropic/claude-opus-latest`, `anthropic/claude-sonnet-latest`, `anthropic/claude-haiku-latest`. - OpenAI — `openai/gpt-latest`, `openai/gpt-mini-latest`, `openai/gpt-nano-latest`. - Qwen — `qwen/qwen-max-latest`, `qwen/qwen-plus-latest`, `qwen/qwen-flash-latest`. - Z.ai — `z-ai/glm-latest`, `z-ai/glm-flash-latest`. - Moonshot AI — `moonshotai/kimi-latest`. xAI — `x-ai/grok-latest`. Aliases can move to a newer model without notice, which may change output style, pricing, or supported parameters. Pin a concrete id when you need stable behavior. If you send your own `models` fallback list, AnyRouter uses yours. See the [docs](https://anyrouter.dev/docs/features/latest-model-aliases). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=google/gemini-flash-latest). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text, response } = await generateText({ model: anyrouter("google/gemini-flash-latest"), prompt: "Summarize this diff in three bullets.", }) console.log(text) console.log(response.modelId) // the concrete model that answered ``` _generateText with a latest alias._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "anthropic/claude-sonnet-latest", messages: [{ role: "user", content: "Hello" }], }) console.log(res.model) // the concrete model that answered console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anthropic/claude-sonnet-latest","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-sonnet-latest" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "deepseek/deepseek-latest" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "openai/gpt-latest" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=google/gemini-flash-latest) --- # Liquid d1 > Liquid AI's first decision model joins the Decisions family: send state and typed questions, get calibrated probabilities back with zero generated tokens. Free on Liquid's API with your own Liquid key. - Date: 2026-09-30 - HTML: https://anyrouter.dev/blog/releases/2026-09-30-liquid-d1 ## Models - `liquid/d1` (Liquid d1) — Decision model, 32K context, free on Liquid's API. BYOK-only via Liquid. ## Notes [`liquid/d1`](https://anyrouter.dev/model/liquid/d1) is Liquid AI's first decision model. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get calibrated probabilities back in one call, with zero generated tokens — not chat text. It fits classification, ticket and model routing, scoring, moderation, guardrails and LLM-as-judge checks. - Terminal — `anyr decision --model liquid/d1` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. Liquid d1 is **BYOK-only**, served by Liquid's own API. Create a key at [console.liquid.ai](https://console.liquid.ai) (Dashboard → API Keys) and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) — AnyRouter charges nothing for a BYOK route, and Liquid serves the model as a free tier. Setup steps: [Liquid BYOK](https://anyrouter.dev/docs/features/byok-providers/liquid). ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model liquid/d1 ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "I have been waiting three weeks for my order and nobody answers my emails.", model: "liquid/d1", questions: { is_complaint: { type: "noul", instructions: "Is this message a complaint from the customer?", }, }, }), }) console.log(await res.json()) ``` _One request, one yes/no question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Xiaomi MiMo V2 and V2.6 > Four Xiaomi MiMo models: V2.6 Pro and V2.6 Flash (1M context, full-modality reasoning) plus V2 Pro and V2 Flash. BYOK via AIHubMix. - Date: 2026-09-30 - HTML: https://anyrouter.dev/blog/releases/2026-09-30-mimo ## Models - `xiaomi/mimo-v2.6-pro` (MiMo V2.6 Pro) — ~1M context, 131k output, $0.48 / $0.96 per 1M AIHubMix list. - `xiaomi/mimo-v2.6-flash` (MiMo V2.6 Flash) — ~1M context, 131k output, $0.155 / $0.31 per 1M list. - `xiaomi/mimo-v2-pro` (MiMo V2 Pro) — 1M context. Retired from the catalog 2026-10-22 when AIHubMix dropped the wire. - `xiaomi/mimo-v2-flash` (MiMo V2 Flash) — 1M context, 131k output, $0.1918 / $0.5754 per 1M list. ## Notes Four Xiaomi MiMo models are now in the catalog. - [`xiaomi/mimo-v2.6-pro`](https://anyrouter.dev/model/xiaomi/mimo-v2.6-pro) — Xiaomi's trillion-parameter, natively omni-modal flagship reasoning model for complex projects, long-horizon agent work, coding and research. 1M-token context, up to 131k output. Keeps the V2.5 API price. - [`xiaomi/mimo-v2.6-flash`](https://anyrouter.dev/model/xiaomi/mimo-v2.6-flash) — the full-modality reasoning model for high-frequency calls. Same 1M context and 131k output as V2.6 Pro at roughly a third of the input price. - [`xiaomi/mimo-v2-pro`](https://anyrouter.dev/model/xiaomi/mimo-v2-pro) — over 1T total parameters with 42B active and a 1M-token context, aimed at long-horizon planning, workflow orchestration and precise tool use. - [`xiaomi/mimo-v2-flash`](https://anyrouter.dev/model/xiaomi/mimo-v2-flash) — open-weight MoE (309B total, 15B active) for fast inference, coding and agents; hybrid attention plus multi-token prediction make generation 2.5–3.7x faster. | Model | Input / 1M (list) | Output / 1M (list) | | --- | --- | --- | | MiMo V2.6 Pro | $0.48 | $0.96 | | MiMo V2.6 Flash | $0.155 | $0.31 | | MiMo V2 Pro | $1.10 | $3.30 | | MiMo V2 Flash | $0.1918 | $0.5754 | - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=xiaomi/mimo-v2.6-flash). All four are **BYOK** through AIHubMix (V2.6 Flash also via Novita), which also lists free quota wires for them. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("xiaomi/mimo-v2.6-flash"), prompt: "Plan the steps to migrate this service to a new database.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "xiaomi/mimo-v2.6-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"xiaomi/mimo-v2.6-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "xiaomi/mimo-v2.6-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "xiaomi/mimo-v2.6-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "xiaomi/mimo-v2.6-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=xiaomi/mimo-v2.6-flash) --- # Solar Decide > Upstage's Solar Decide joins the Decisions family: send state and typed questions, get structured answers instead of chat text, with a 524,288-token context window at $0.05 per million input tokens. - Date: 2026-09-30 - HTML: https://anyrouter.dev/blog/releases/2026-09-30-solar-decide ## Models - `upstage/solar-decide` (Solar Decide) — Decision model on Solar Mini 4, 524K context, $0.05 / 1M input and $0 output. BYOK-only via OpenRouter. ## Notes [`upstage/solar-decide`](https://anyrouter.dev/model/upstage/solar-decide) is Upstage's structured decision model, served as a System One endpoint on Solar Mini 4. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions` and get answers back rather than generated chat text. It has a 524,288-token context window, so the state can carry a long document or a full ticket thread. - Terminal — `anyr decision --model upstage/solar-decide` ([Decisions app](https://anyrouter.dev/apps/decisions)). - App code — plain `fetch` to `/api/v1/decisions`, see the example below. Solar Decide is **BYOK-only**, reached through OpenRouter. Add an OpenRouter key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) — AnyRouter charges nothing for a BYOK route, and OpenRouter lists the model at $0.05 per million input tokens and $0 per million output tokens. AnyRouter has no direct Upstage route for it yet. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model upstage/solar-decide ``` _Run it with the native anyr command._ ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "My checkout page shows a blank screen after I click Pay.", model: "upstage/solar-decide", questions: { team: { type: "choice", instructions: "Which team should own this ticket?", criteria: { account: "Login, permissions, or profile issues.", frontend: "Rendering, layout, or browser compatibility issues.", payments: "Checkout, billing, or payment processing issues.", }, }, }, }), }) console.log(await res.json()) ``` _One request, one choice question._ More: [Decisions app](https://anyrouter.dev/apps/decisions) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Claude Sonnet 5.5 > Anthropic's Claude Sonnet 5.5 joins the catalog — the direct upgrade to Claude Sonnet 5, at the same $2 / $10 per million input / output tokens, with adaptive thinking on by default, 1M-token context, 128K max output, and vision input. - Date: 2026-09-29 - HTML: https://anyrouter.dev/blog/releases/2026-09-29 ## Models - `anthropic/claude-sonnet-5-5` (Claude Sonnet 5.5) — Best speed/intelligence mix in the Sonnet tier, successor to Claude Sonnet 5, BYOK-only. ## Notes [`anthropic/claude-sonnet-5-5`](https://anyrouter.dev/model/anthropic/claude-sonnet-5-5) is Anthropic's successor to Claude Sonnet 5 for well-scoped everyday work — building features, fixing bugs, drafting and review. It keeps Sonnet 5's $2 / $10 per million input / output rates and 1M-token context window, adds 128K max output, and runs adaptive thinking on by default at `high` effort. Bring your own Anthropic key, or route through OpenRouter or Cline BYOK — your key, your quota. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=anthropic/claude-sonnet-5-5). Moving from Claude Sonnet 5? Five behavior changes affect existing code — up-front thinking between tool calls, forced tool use, thinking blocks tied to the producing model, and text between tool calls arriving inside `thinking` blocks. Start with Anthropic's [migration guide](https://platform.claude.com/docs/en/models/sonnet-5-5/migration-guide). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-sonnet-5-5"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-sonnet-5-5" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # DeepInfra route for DeepSeek V4.1 Flash; Novita's V4 Flash route sunsets Oct 9 > deepseek/deepseek-v4.1-flash gains a DeepInfra BYOK route at $0.20 / $0.60 per million input / output tokens. Novita retires deepseek/deepseek-v4-flash at 16:00 UTC on Oct 9, 2026 — both Novita hops now carry the date and point at V4.1 Flash. - Date: 2026-09-29 - HTML: https://anyrouter.dev/blog/releases/2026-09-29-deepseek ## Models - `deepseek/deepseek-v4.1-flash` (DeepSeek V4.1 Flash) — New deepinfra-byok route; DeepInfra list $0.20 / $0.60 per 1M, billed $0 - `deepseek/deepseek-v4-flash` (DeepSeek V4 Flash) — Novita route retires Oct 9, 2026 — migrate to V4.1 Flash ## Notes [`deepseek/deepseek-v4.1-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) already ships as DeepSeek V4.1 Flash — 1M-token context, vision in, text out, controllable reasoning effort. It now also routes on `deepinfra-byok` as wire id `deepseek-ai/DeepSeek-V4.1-Flash`. DeepInfra publishes $0.20 per million input tokens, $0.60 per million output tokens, and $0.006 per million cached input tokens, currently shown at 30% off while a promotion runs. AnyRouter charges $0 on a BYOK route, so DeepInfra bills you at its own rate. The Direct DeepSeek, OpenRouter, Ollama, NVIDIA NIM, and AIHubMix hops stay; this is not a new listing id. One date to put on your calendar: Novita retires `deepseek/deepseek-v4-flash` at 16:00 UTC on **Oct 9, 2026**. Both Novita routes on [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) now carry that date on their cards, so you can see it before a request fails. The listing itself stays live — its other hosts keep serving — and Novita's own migration target is [DeepSeek V4.1 Flash](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash), the same product the DeepSeek API serves under the model name `deepseek-flash`. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playground](https://anyrouter.dev/playground?model=deepseek/deepseek-v4.1-flash)). - Bring your own key — [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). Both listings are **BYOK-only** — no platform route serves them today, so add a provider key and the request goes out with it. Try V4.1 Flash in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk); `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("deepseek/deepseek-v4.1-flash"), prompt: "Rank these three refactors by risk and say why.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "deepseek/deepseek-v4.1-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "deepseek/deepseek-v4.1-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "deepseek/deepseek-v4.1-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Step 5 Preview > StepFun's next-generation flagship base model joins the catalog BYOK-only on AIHubMix — 1M-token context, 64K max output, text/image/video input, and adjustable reasoning at $1.08 / $3.0888 per million input / output tokens. - Date: 2026-09-29 - HTML: https://anyrouter.dev/blog/releases/2026-09-29-step-5 ## Models - `stepfun/step-5-preview` (Step 5 Preview) — StepFun's flagship base model for real-world work, with a programming and professional-expertise focus. BYOK-only via AIHubMix. ## Notes [`stepfun/step-5-preview`](https://anyrouter.dev/model/stepfun/step-5-preview) is StepFun's next-generation flagship base model, built for real-world tasks with a focus on programming and professional expertise. It runs a 1,000,000-token context window with a 64,000-token maximum output, and takes text, image, and video as input while answering in text — so it is a long-context analyst and coding model, not an image or video generator. Reasoning effort is selectable across `low`, `medium`, and `high` (default `medium`), alongside streaming, tool calling, and structured outputs. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=stepfun/step-5-preview). Step 5 Preview is **BYOK-only**, served through [AIHubMix](https://aihubmix.com/model/step-5-preview). Add an AIHubMix key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the request goes out with your key — AnyRouter charges nothing for a BYOK route, and AIHubMix bills you at its published rate of $1.08 per million input tokens, $3.0888 per million output tokens, and $0.054 per million cached input tokens. There is no platform route yet: StepFun's earlier [Step 3.7 Flash](https://anyrouter.dev/model/stepfun-ai/step-3.7-flash) and [Step 3.5 Flash](https://anyrouter.dev/model/stepfun-ai/step-3.5-flash) rows already cover the BYOK options if you need those generations instead. Try it with the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("stepfun/step-5-preview"), prompt: "Review this module and list the three riskiest refactors.", }) console.log(text) ``` _generateText against the 1M context window._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "stepfun/step-5-preview" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). --- # Fugu Max, Solar Mini 4, Hy-MT2, Span-01 Lite and two embedding models > Six new BYOK listings: Sakana Fugu Max, Upstage Solar Mini 4, Tencent's Hy-MT2 translation model, Respan's Span-01 Lite classifier, Gemini Embedding 2 and Qwen3 Embedding 4B. - Date: 2026-09-28 - HTML: https://anyrouter.dev/blog/releases/2026-09-28 ## Models - `sakana/fugu-max` (Fugu Max) — 1M context, text, image and file input, $2 / $6 per 1M list. - `upstage/solar-mini4` (Solar Mini 4) — 524,288-token context, $0.05 / $0.20 per 1M list. - `tencent/hy-mt2-30b-a3b` (Hy-MT2 30B A3B) — Translation, 8,192-token context, $0.074 / $0.295 per 1M list. - `respan/span-01-lite` (Span-01 Lite) — Decision model (behavior scoring), $0 list. - `google/gemini-embedding-2` (Gemini Embedding 2) — 3,072 dimensions, 8,192-token input, $0.20 / 1M list. - `qwen/qwen3-embedding-4b` (Qwen3 Embedding 4B) — 2,560 dimensions, 32,768-token input, $0.02 / 1M list. ## Notes Six new models, all reached BYOK through OpenRouter (Fugu Max also through Vercel AI Gateway). - [`sakana/fugu-max`](https://anyrouter.dev/model/sakana/fugu-max) — the largest tier of Sakana AI's Fugu line. 1M-token context; text, images and files in, text out; tools and reasoning. - [`upstage/solar-mini4`](https://anyrouter.dev/model/upstage/solar-mini4) — Upstage's small, fast Solar 4 tier. Text-only, 524,288-token context. - [`tencent/hy-mt2-30b-a3b`](https://anyrouter.dev/model/tencent/hy-mt2-30b-a3b) — Tencent's translation model: a 30B MoE with 3B active, 8,192-token window. The first translation family in the catalog. - [`respan/span-01-lite`](https://anyrouter.dev/model/respan/span-01-lite) — Respan's free behavior-scoring classifier (4B). Send a conversation span and plain-language behavior definitions to `POST /api/v1/decisions` and get a present / absent / not_observable probability per behavior. - [`google/gemini-embedding-2`](https://anyrouter.dev/model/google/gemini-embedding-2) — Google's multimodal embedding model, 3,072 dimensions. On AnyRouter's `/embeddings` the input is text. - [`qwen/qwen3-embedding-4b`](https://anyrouter.dev/model/qwen/qwen3-embedding-4b) — the 4B Qwen3 embedding model: 2,560 dimensions, 32,768-token window, 100+ languages, Matryoshka truncation from 32 to 2,560. | Model | Input / 1M (list) | Output / 1M (list) | | --- | --- | --- | | Fugu Max | $2 | $6 | | Solar Mini 4 | $0.05 | $0.20 | | Hy-MT2 30B A3B | $0.074 | $0.295 | | Span-01 Lite | $0 | $0 | | Gemini Embedding 2 | $0.20 | — | | Qwen3 Embedding 4B | $0.02 | — | - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=sakana/fugu-max). Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("sakana/fugu-max"), prompt: "Read this report and list the three key findings.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "sakana/fugu-max", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"sakana/fugu-max","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "sakana/fugu-max" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "sakana/fugu-max" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "sakana/fugu-max" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=sakana/fugu-max) Embeddings use `/api/v1/embeddings`: ```bash curl https://anyrouter.dev/api/v1/embeddings \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"qwen/qwen3-embedding-4b","input":"AnyRouter routes many models"}' ``` _Embed text with Qwen3 Embedding 4B._ Span-01 Lite runs from the terminal with `anyr decision --model respan/span-01-lite` ([Decisions app](https://anyrouter.dev/apps/decisions)). --- # Clef, Gemini 4 Argon added > 2 models from 2 providers joined the catalog the week of 2026-09-28. - Date: 2026-09-28 - HTML: https://anyrouter.dev/blog/releases/2026-09-28-catalog ## Models - `cloudflare/clef` (Clef) — 66K context · $0.24 / $0 per 1M - `google/gemini-4-argon` (Gemini 4 Argon) — 1M context · $2 / $10 per 1M --- # GLM-5.3 Prime and GLM-5.3-FlashX > Two more GLM 5.3 tiers from Z.ai: Prime, the top reasoning tier ($2.80 / $8.80 list), and FlashX, the high-speed cut ($0.37 / $1.25 list). Both 1M context, BYOK. - Date: 2026-09-28 - HTML: https://anyrouter.dev/blog/releases/2026-09-28-glm-5-3 ## Models - `z-ai/glm-5.3-prime` (GLM 5.3 Prime) — 1M context, $2.80 / $8.80 per 1M list. BYOK via OpenRouter. - `z-ai/glm-5.3-flashx` (GLM-5.3-FlashX) — 1M context, 131k output, image and video input, $0.37 / $1.25 per 1M list. BYOK via AIHubMix. ## Notes The GLM 5.3 line gets two more tiers next to [`z-ai/glm-5.3`](https://anyrouter.dev/model/z-ai/glm-5.3) and [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash). - [`z-ai/glm-5.3-prime`](https://anyrouter.dev/model/z-ai/glm-5.3-prime) — the top reasoning tier, above Flash and FlashX. 1M-token context, function calling. - [`z-ai/glm-5.3-flashx`](https://anyrouter.dev/model/z-ai/glm-5.3-flashx) — the high-speed variant for coding agents, real-time interaction and long-running agent workflows. 1M-token context, up to 131k output, image and video input. | Model | Input / 1M (list) | Output / 1M (list) | BYOK via | | --- | --- | --- | --- | | GLM 5.3 Prime | $2.80 | $8.80 | OpenRouter | | GLM-5.3-FlashX | $0.37 | $1.25 | AIHubMix | - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flashx). Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flashx"), prompt: "Write a test for this function.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "z-ai/glm-5.3-flashx", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flashx","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flashx" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "z-ai/glm-5.3-flashx" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "z-ai/glm-5.3-flashx" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flashx) --- # BGE-M3, BGE Multilingual Gemma 2, Mistral Small 3.2 — now on OVHcloud AI Endpoints > Two BAAI multilingual embedding models and Mistral's current 24B instruction model join the catalog, both on a new BYOK provider: OVHcloud AI Endpoints. - Date: 2026-09-27 - HTML: https://anyrouter.dev/blog/releases/2026-09-27 ## Models - `baai/bge-m3` (BGE-M3) — Multilingual embedding model (100+ languages, 8K context) returning a 1,024-dimension vector. - `baai/bge-multilingual-gemma2` (BGE Multilingual Gemma 2) — Compact Gemma 2 based multilingual embedding model, 8K context, 3,584-dimension vector. - `mistralai/mistral-small-3.2-24b-instruct` (Mistral Small 3.2 24B Instruct) — 24B instruction model, 131K context, Apache-2.0. ## Notes [`baai/bge-m3`](https://anyrouter.dev/model/baai/bge-m3) and [`baai/bge-multilingual-gemma2`](https://anyrouter.dev/model/baai/bge-multilingual-gemma2) are multilingual text embedding models from BAAI, both with an 8,192-token input window. BGE-M3 is the larger one and covers dense, sparse, and multi-vector retrieval in a single model; the Gemma 2 variant is the compact one. Reach for either on semantic search, dedupe, and RAG retrieval — pick the vector width your index expects, 1,024 or 3,584 dimensions. [`mistralai/mistral-small-3.2-24b-instruct`](https://anyrouter.dev/model/mistralai/mistral-small-3.2-24b-instruct) is the current Mistral Small: 24B parameters, a 131K context window, better instruction following and function calling than 3.1, same Apache-2.0 license. The [3.1 row](https://anyrouter.dev/model/mistralai/mistral-small-3.1-24b-instruct) stays listed — start new work on 3.2. All three arrive on a new BYOK provider. [OVHcloud AI Endpoints](https://endpoints.ai.cloud.ovh.net/) is an OpenAI-compatible catalog on OVHcloud Public Cloud covering the Qwen 3.5 / 3.6 / 3.8 tiers, gpt-oss, Llama 3.3, Mistral, and these embedding models. Add an OVHcloud AI Endpoints token under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok) and the call is served with your key — AnyRouter charges nothing for a BYOK route, so OVHcloud bills you at their published per-token rate. Nine existing listings pick up an OVHcloud route too, including [`qwen/qwen3-embedding-8b`](https://anyrouter.dev/model/qwen/qwen3-embedding-8b) at 4,096 dimensions. ```ts import { embedMany } from "ai" import { createAnyRouter } from "@anyr/ai-sdk-provider" const anyrouter = createAnyRouter() const { embeddings } = await embedMany({ model: anyrouter.embeddingModel("baai/bge-m3"), values: ["first document", "second document"], }) console.log(embeddings[0].length) // 1024 ``` _Embed with the Vercel AI SDK._ ```bash anyr claude --model "mistralai/mistral-small-3.2-24b-instruct" ``` _Chat with the new Mistral Small from the CLI._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [BYOK setup](https://anyrouter.dev/use-cases/byok) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Kev 4B > Kev 4B is a small open-weight decision model — a LoRA adapter and pointer head on Qwen3.5-4B-Base. It answers typed questions about a state with calibrated probabilities instead of generated text, on the same native `/v1/decisions` contract as the rest of the family. - Date: 2026-09-26 - HTML: https://anyrouter.dev/blog/releases/2026-09-26 ## Models - `jaredpalmer/kev-4b` (Kev 4B) — 4B open-weight decision model, 8K context, $0.042 / 1M input and $0 output, BYOK + community pool. ## Notes [`jaredpalmer/kev-4b`](https://anyrouter.dev/model/jaredpalmer/kev-4b) joins the Decisions family. It is a LoRA adapter plus a pointer head on `Qwen3.5-4B-Base` — about 4B parameters, Apache-2.0, and the recommended checkpoint in the Kev family (0.8B / 4B / 9B). Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions`; you get one calibrated probability per question in a single forward pass, and no generated text at all. Reach for it on routing, ranking, triage, and verification decisions rather than chat. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model jaredpalmer/kev-4b ``` _Run a Decisions model with the native anyr command._ The same contract from TypeScript or curl — one request, three typed questions: ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "My checkout page shows a blank screen after I click Pay.", model: "jaredpalmer/kev-4b", questions: { is_bug: { type: "noul", instructions: "Is the customer reporting a defect?" }, team: { type: "choice", instructions: "Which team should own this ticket?", criteria: { account: "Login, permissions, or profile issues.", frontend: "Rendering, layout, or browser compatibility issues.", payments: "Checkout, billing, or payment processing issues.", }, }, urgency: { type: "score", instructions: "How urgent is this ticket?", criteria: ["Can wait for the next release", "This week", "Blocking revenue"], }, }, }), }) console.log(await res.json()) ``` _noul, choice, and score in one pass._ 8K context, $0.042 per 1M input tokens and $0 output — the same rate as the rest of the decision-model family. Both routes are BYOK plus the community pool, so bring a key from [SiliconFlow](https://cloud.siliconflow.com/account/ak) or [OpenRouter](https://openrouter.ai/keys) under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok), or let a donated pool key serve the call. - Try the full workflow — [Decisions app](https://anyrouter.dev/apps/decisions). - API reference — [POST /api/v1/decisions](https://anyrouter.dev/docs/api-reference/systemone). - Compare routes — [Kev 4B](https://anyrouter.dev/model/jaredpalmer/kev-4b), [GLiNER2.5-Decide](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1), and [Jev](https://anyrouter.dev/model/typesafe/jev). - Let AnyRouter choose — [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision). - Weights and model card — [jaredpalmer/kev](https://github.com/jaredpalmer/kev). --- # Decisions family + anyr decision > Fastino GLiNER2.5-Decide joins TypeSafe Jev and the anyrouter/decision preset, while the new `anyr decision` command gives the whole Decisions family a native terminal client instead of a chat-agent launcher. - Date: 2026-09-25 - HTML: https://anyrouter.dev/blog/releases/2026-09-25 ## Models - `fastino/gliner2.5-multi-v1` (GLiNER2.5-Decide) — Fastino's 340M typed-decision classifier, BYOK + community pool on /v1/decisions. - `typesafe/jev` (Jev) — TypeSafe's noul / choice / score decision model on the same native contract. - `anyrouter/decision` (AnyRouter Decision) — Auto-routed Decisions preset across the systemone models your keys can reach. ## Notes [`fastino/gliner2.5-multi-v1`](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1) joins [`typesafe/jev`](https://anyrouter.dev/model/typesafe/jev) in the Decisions family. Send `state` and typed `questions` (noul / choice / score) to `POST /api/v1/decisions`; [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision) routes across the family automatically. ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr decision --model typesafe/jev ``` _Run a Decisions model with the native anyr command._ Swap the model id for `fastino/gliner2.5-multi-v1` or `anyrouter/decision`. Decisions requests are not chat messages, so model and upstream code samples use the native `/api/v1/decisions` body; chat-agent and AI SDK chat tabs are intentionally omitted. ```ts const res = await fetch("https://anyrouter.dev/api/v1/decisions", { method: "POST", headers: { Authorization: "Bearer " + process.env.ANYROUTER_API_KEY, "Content-Type": "application/json", }, body: JSON.stringify({ state: "Help! My payouts have been failing for 3 days.", model: "typesafe/jev", questions: { is_urgent: { type: "noul", instructions: "Does this convey urgency?", }, }, }), }) console.log(await res.json()) ``` _The same contract from TypeScript._ - Try the full workflow — [Decisions app](https://anyrouter.dev/apps/decisions). - API reference — [POST /api/v1/decisions](https://anyrouter.dev/docs/api-reference/systemone). - Compare routes — [GLiNER2.5-Decide](https://anyrouter.dev/model/fastino/gliner2.5-multi-v1) and [Jev](https://anyrouter.dev/model/typesafe/jev). - Let AnyRouter choose — [`anyrouter/decision`](https://anyrouter.dev/model/anyrouter/decision). --- # LongCat-2.5-Preview > Meituan's LongCat-2.5-Preview — a ~1.6T-parameter MoE with ~48B active, 1M-token context, image understanding, and a thinking toggle — joins the catalog over the official LongCat API, BYOK. - Date: 2026-09-25 - HTML: https://anyrouter.dev/blog/releases/2026-09-25-longcat-2-5-preview ## Models - `meituan/longcat-2.5` (LongCat-2.5-Preview) — Meituan's 1.6T/48B MoE preview, 1M context, vision in, BYOK via the official LongCat API. ## Notes [`meituan/longcat-2.5-preview`](https://anyrouter.dev/model/meituan/longcat-2.5-preview) is Meituan's new flagship preview: a sparse mixture-of-experts model with ~1.6T total parameters and ~48B active, a 1M-token context window, and 128K max output. This release adds image understanding, stronger coding, and an optional `thinking` mode — built for long-horizon agentic work across terminals, browsers, and dev tools. LongCat list rates are $0.75 / 1M input and $2.95 / 1M output ($0.015 cached read; a limited-time discount runs $0.30 / $1.20). AnyRouter bills $0 on this route — it is BYOK-only, so bring a `sk-...` key from [LongCat](https://longcat.chat/platform/api_keys) and add it under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=meituan/longcat-2.5-preview). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("meituan/longcat-2.5-preview:free"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "meituan/longcat-2.5-preview:free", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"meituan/longcat-2.5-preview","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "meituan/longcat-2.5-preview:free" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). BYOK only: create a LongCat API key, add it in Dashboard → BYOK, then send a first message in the playground. [Try in playground](https://anyrouter.dev/playground?model=meituan/longcat-2.5-preview) --- # Space Bunny Alpha > Space Bunny Alpha — an anonymous frontier-class stealth preview with blazing-fast inference, strong coding performance, and native multimodal input — joins the catalog as a free model. It always reasons with adjustable effort over a 1M-token context window, served $0 via OpenRouter, Nous, and OpenCode Zen platform hops. - Date: 2026-09-24 - HTML: https://anyrouter.dev/blog/releases/2026-09-24 ## Models - `stealth/space-bunny-alpha` (Space Bunny Alpha) — Anonymous stealth preview, 1M context, adjustable reasoning, vision input, free on AnyRouter. ## Notes [`stealth/space-bunny-alpha`](https://anyrouter.dev/model/stealth/space-bunny-alpha) is an anonymous frontier-class model with blazing-fast inference, strong coding capabilities, and native multimodal input (text, image, video) with text out. It always reasons with adjustable reasoning effort over a 1M-token context window — free while cloaked, routed $0 through OpenRouter, Nous, and OpenCode Zen platform hops, with BYOK mirrors for your own keys. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=stealth/space-bunny-alpha). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("stealth/space-bunny-alpha"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "stealth/space-bunny-alpha" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Verified AIHubMix BYOK models > Five verified text-output models join the catalog through AIHubMix and other BYOK routes: Qwen3 235B A22B Instruct 2507, Mercury 2.5, L3.1 Euryale 70B, GPT-6 Sol, and GPT-6 Luna. Published provider prices and context windows are recorded per upstream; AnyRouter does not add platform markup to BYOK traffic. - Date: 2026-09-24 - HTML: https://anyrouter.dev/blog/releases/2026-09-24-aihubmix ## Models - `qwen/qwen3-235b-a22b` (Qwen3 235B A22B (Instruct 2507)) — Qwen's updated non-thinking MoE model, 262K context, AIHubMix and OpenRouter BYOK. - `inception/mercury-2.5` (Mercury 2.5) — Inception's diffusion language model, 260K context, AIHubMix and OpenRouter BYOK. - `sao10k/l3.1-euryale-70b` (L3.1 Euryale 70B) — Sao10k's creative-roleplay text model, 131K context, AIHubMix and OpenRouter BYOK. - `openai/gpt-6-sol` (GPT-6 Sol) — OpenAI's high-end GPT-6 coding and agent model, 1.05M context, BYOK routes. - `openai/gpt-6-luna` (GPT-6 Luna) — OpenAI's efficient GPT-6 model for focused, high-throughput tasks, 1.05M context, BYOK routes. ## Notes These additions are BYOK routes, so provider pricing stays with the provider: GPT-6 Sol is $2/$10 per million input/output tokens, GPT-6 Luna is $0.10/$0.50, Mercury 2.5 is $0.20/$0.75, Qwen3 235B A22B Instruct 2507 is $0.35/$1.40 on AIHubMix, and L3.1 Euryale 70B is $1.48/$1.48. OpenRouter mirrors are shown with their own published rates. - Long-context Qwen work — [`qwen/qwen3-235b-a22b`](https://anyrouter.dev/model/qwen/qwen3-235b-a22b). - Fast reasoning and agent workflows — [`openai/gpt-6-sol`](https://anyrouter.dev/model/openai/gpt-6-sol) or [`openai/gpt-6-luna`](https://anyrouter.dev/model/openai/gpt-6-luna). - Roleplay and creative text — [`sao10k/l3.1-euryale-70b`](https://anyrouter.dev/model/sao10k/l3.1-euryale-70b). Try a catalog model with the Vercel AI SDK (BYOK pricing is never taxed by AnyRouter): ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6-sol"), prompt: "Explain this trade-off in three concise bullets.", }) console.log(text) ``` _generateText with a BYOK catalog id._ Already on the OpenAI SDK? Use AnyRouter's OpenAI-compatible base URL: ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"openai/gpt-6-sol","messages":[{"role":"user","content":"Hello"}]}' ``` _curl chat completion._ Or launch a coding agent with the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-6-sol" ``` _Coding agents via the AnyRouter CLI._ No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=openai/gpt-6-sol) More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Claude Opus 5.5 > Anthropic's Claude Opus 5.5 — the successor to Claude Opus 5 for long-running agentic coding and knowledge work — joins the catalog. It delivers Fable 5.1-level performance at 40% lower cost ($4 / $20 per million input / output tokens), with adaptive thinking always on, 1M-token context, vision input, and tool use. - Date: 2026-09-22 - HTML: https://anyrouter.dev/blog/releases/2026-09-22 ## Models - `anthropic/claude-opus-5-5` (Claude Opus 5.5) — Flagship reasoning/coding model, successor to Claude Opus 5, 40% lower cost, BYOK-only. ## Notes [`anthropic/claude-opus-5-5`](https://anyrouter.dev/model/anthropic/claude-opus-5-5) is Anthropic's latest flagship model, succeeding Claude Opus 5 for long-running agentic coding and knowledge work. It delivers Claude Fable 5.1-level performance at 40% lower cost ($4 / $20 per million input / output tokens), with a 1M-token context window, vision input, and adaptive thinking always on. Bring your own Anthropic key, or route through OpenRouter, OpenCode Zen, or Cline BYOK — your key, your quota. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=anthropic/claude-opus-5-5). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-opus-5-5"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-opus-5-5" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Doubao Seed 2.1 Pro > ByteDance Seed's reasoning model for coding, math and multilingual work, 262k context. BYOK via AIHubMix. - Date: 2026-09-22 - HTML: https://anyrouter.dev/blog/releases/2026-09-22-doubao ## Models - `bytedance-seed/doubao-seed-2-1-pro-260628` (Doubao Seed 2.1 Pro 260628) — 262,144-token context, tools, reasoning. BYOK via AIHubMix. ## Notes [`bytedance-seed/doubao-seed-2-1-pro-260628`](https://anyrouter.dev/model/bytedance-seed/doubao-seed-2-1-pro-260628) is build 260628 of ByteDance Seed's Doubao Seed 2.1 Pro, a reasoning model strong on coding, mathematics and multilingual tasks. It supports function calling and has a 262,144-token context window. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=bytedance-seed/doubao-seed-2-1-pro-260628). It is **BYOK-only** through an AIHubMix key. Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("bytedance-seed/doubao-seed-2-1-pro-260628"), prompt: "Solve this step by step: what is 17% of 2,350?", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "bytedance-seed/doubao-seed-2-1-pro-260628", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"bytedance-seed/doubao-seed-2-1-pro-260628","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "bytedance-seed/doubao-seed-2-1-pro-260628" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "bytedance-seed/doubao-seed-2-1-pro-260628" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "bytedance-seed/doubao-seed-2-1-pro-260628" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=bytedance-seed/doubao-seed-2-1-pro-260628) --- # Grok 4.7 > xAI's Grok 4.7 joins the catalog — 500K context, adjustable reasoning, vision in, and six BYOK upstream routes. - Date: 2026-09-21 - HTML: https://anyrouter.dev/blog/releases/2026-09-21 ## Models - `x-ai/grok-4.7` (Grok 4.7) ## Notes [`x-ai/grok-4.7`](https://anyrouter.dev/model/x-ai/grok-4.7) is xAI's latest flagship for coding, agentic work, and knowledge tasks, succeeding Grok 4.6. It keeps the 500K context window and image input, and makes reasoning mandatory but adjustable — `low`, `medium`, `high`, or `xhigh` effort (default `high`). Bring your own xAI key, or route through OpenRouter, Cline, OpenCode Zen, OpenCode Zen Go, or AIHubMix BYOK — your key, your quota. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=x-ai/grok-4.7). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("x-ai/grok-4.7"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "x-ai/grok-4.7" ``` _Coding agents via the AnyRouter CLI._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=x-ai/grok-4.7) --- # Agents A1, Intern S2 and Qwen3.8 Omni Flash > Two free 35B research and agent models from InternScience and InternLM, plus Qwen3.8 Omni Flash with text, image, audio and video input at 1M context. BYOK via AIHubMix. - Date: 2026-09-20 - HTML: https://anyrouter.dev/blog/releases/2026-09-20 ## Models - `agents-a1/agents-a1-free` (Agents A1) — 35B MoE, 262,144-token context, text and image, $0 list. - `intern/intern-s2-free` (Intern S2) — 35B scientific multimodal model, 262,144-token context, $0 list. - `qwen/qwen3.8-omni-flash` (Qwen3.8 Omni Flash) — 1M context, text, image, audio and video input, $0.1126 / $0.38 per 1M list. ## Notes Three models, all reached BYOK through an AIHubMix key. - [`agents-a1/agents-a1-free`](https://anyrouter.dev/model/agents-a1/agents-a1-free) — InternScience's 35B MoE model for long-horizon search, engineering, scientific research and agent workflows. Free tier, text and image, 262,144-token context. - [`intern/intern-s2-free`](https://anyrouter.dev/model/intern/intern-s2-free) — InternLM's 35B scientific multimodal model (Intern-S2-Preview) for research agents. Free tier, text and image, 262,144-token context. - [`qwen/qwen3.8-omni-flash`](https://anyrouter.dev/model/qwen/qwen3.8-omni-flash) — Qwen's native multimodal model: text, image, audio and video in, 1M-token context, up to 131k output. Built for agentic programming, GUI operation and audio/video work. List price $0.1126 / $0.38 per 1M. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=agents-a1/agents-a1-free). Add the key under [Dashboard → BYOK](https://anyrouter.dev/dashboard/byok); the request goes out with your key and the provider bills you at its own rates. AnyRouter charges nothing for a BYOK route. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) ([guide](https://anyrouter.dev/blog/ai-sdk-anyrouter)). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("agents-a1/agents-a1-free"), prompt: "Outline a research plan for this question.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "agents-a1/agents-a1-free", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"agents-a1/agents-a1-free","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI ([Claude Code](https://anyrouter.dev/use-cases/claude-code) · [OpenCode](https://anyrouter.dev/use-cases/opencode)): ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "agents-a1/agents-a1-free" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "agents-a1/agents-a1-free" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "agents-a1/agents-a1-free" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [BYOK setup](https://anyrouter.dev/use-cases/byok). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=agents-a1/agents-a1-free) --- # Union Alpha now on AnyRouter > Stealth preview Union Alpha joins the catalog free — multimodal research, coding, and agentic workflows at $0. - Date: 2026-09-16 - HTML: https://anyrouter.dev/blog/releases/2026-09-16-union-alpha ## Models - `stealth/union-alpha` (Union Alpha) ## Notes [`stealth/union-alpha`](https://anyrouter.dev/model/stealth/union-alpha) is Union Alpha, a stealth preview multimodal model for research, coding, and agentic workflows. 262K context, 131K max completion, vision in and text out, tools. Catalog price is $0 / $0. OpenRouter does not advertise reasoning on this SKU. Distinct from the retired [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha) tombstone. ![Union Alpha on AnyRouter — anyr claude --model stealth/union-alpha](https://anyrouter.dev/screenshots/union-alpha-anyr-claude-2026-09.jpg) - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=stealth/union-alpha). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("stealth/union-alpha"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "stealth/union-alpha", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"stealth/union-alpha","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "stealth/union-alpha" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "stealth/union-alpha" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "stealth/union-alpha" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=stealth/union-alpha) --- # Agnes 3.0 Flash and Nemotron Parse 2.0 > Agnes AI's Agnes 3.0 Flash (512K, vision in, text out) and NVIDIA Nemotron Parse 2.0 (document images in, structured markdown out) join the catalog. - Date: 2026-09-15 - HTML: https://anyrouter.dev/blog/releases/2026-09-15 ## Models - `agnes-ai/agnes-3.0-flash` (Agnes 3.0 Flash) — AIHubMix BYOK-style $0 billed; list $0.03 in / $0.15 out per 1M - `nvidia/nemotron-parse-2.0` (Nemotron Parse 2.0) — Vision-in / text-out document parse; not image generation ## Notes [`agnes-ai/agnes-3.0-flash`](https://anyrouter.dev/model/agnes-ai/agnes-3.0-flash) is Agnes 3.0 Flash: an agent-oriented chat model with vision in and text out, a 512K context window, and about 65.5K max output. List pricing is $0.03 / 1M input and $0.15 / 1M output; billed catalog price is $0 on the AIHubMix routes (platform plus BYOK), matching Agnes 2.5 Flash. Use it for task planning, tool calls, and coding agents. [`nvidia/nemotron-parse-2.0`](https://anyrouter.dev/model/nvidia/nemotron-parse-2.0) is NVIDIA Nemotron Parse 2.0: a document-understanding VLM. Send a page image plus a task prompt on OpenAI-compatible chat completions; get markdown, region classes, and bounding boxes as text. It is not a general chat model and not image generation. Platform NVIDIA NIM plus BYOK. Catalog price is $0 on the NIM developer tier (rate-limited). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=agnes-ai/agnes-3.0-flash). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("agnes-ai/agnes-3.0-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "agnes-ai/agnes-3.0-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"agnes-ai/agnes-3.0-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "agnes-ai/agnes-3.0-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "agnes-ai/agnes-3.0-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "agnes-ai/agnes-3.0-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=agnes-ai/agnes-3.0-flash) --- # AIHubMix BYOK hops on DeepSeek V4.1 Flash, Solar Pro 4, and GPT-6 Astra > Existing listings pick up an aihubmix-byok hop. Same catalog ids — not new SKUs. Platform aihubmix stays off (#3031). - Date: 2026-09-15 - HTML: https://anyrouter.dev/blog/releases/2026-09-15-aihubmix-byok ## Models - `deepseek/deepseek-v4.1-flash` (DeepSeek V4.1 Flash) — aihubmix-byok list $0.155 / $0.62 per 1M; billed $0 - `upstage/solar-pro4` (Solar Pro 4) — aihubmix-byok list $0.3 / $1.2 per 1M; billed $0 - `openai/gpt-6-astra` (GPT-6 Astra) — aihubmix-byok list $10 / $50 per 1M; billed $0 ## Notes [`deepseek/deepseek-v4.1-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) already ships as DeepSeek V4.1 Flash (1M context, vision in, text out). It now also routes on `aihubmix-byok` as wire id `deepseek-v4.1-flash`. AIHubMix list rates on that hop are $0.155 / 1M input and $0.62 / 1M output (cache read $0.0031 / 1M). Catalog billed price on the hop is $0. Official Direct and OpenRouter BYOK hops stay; this is not a new listing id. [`upstage/solar-pro4`](https://anyrouter.dev/model/upstage/solar-pro4) is Solar Pro 4 (524K, tools, reasoning). AIHubMix BYOK list rates are $0.3 / 1M input and $1.2 / 1M output (cache read $0.06 / 1M); billed $0. OpenRouter BYOK stays. [`openai/gpt-6-astra`](https://anyrouter.dev/model/openai/gpt-6-astra) is GPT-6 Astra (~1.05M, vision in, text out). AIHubMix BYOK list $10 / $50 per 1M (cache read $1 / 1M); billed $0. Platform `aihubmix` is still disabled (#3031) — BYOK twin only. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=deepseek/deepseek-v4.1-flash). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("deepseek/deepseek-v4.1-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "deepseek/deepseek-v4.1-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"deepseek/deepseek-v4.1-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "deepseek/deepseek-v4.1-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "upstage/solar-pro4" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "openai/gpt-6-astra" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=deepseek/deepseek-v4.1-flash) --- # Context-window floors on anyrouter/auto, free, byok, and the other virtual ids > Append [1m] or [500k] to any first-party virtual id to keep only members with at least that context window. Not a new listing — the same preset, with a token floor. - Date: 2026-09-15 - HTML: https://anyrouter.dev/blog/releases/2026-09-15-virtual-context ## Models - `anyrouter/auto` (AnyRouter Auto) — anyrouter/auto[1m] / [500k] - `anyrouter/free` (AnyRouter Free) — anyrouter/free[1m] / [500k] - `anyrouter/byok` (AnyRouter BYOK) — anyrouter/byok[1m] / [500k] - `anyrouter/coding` (AnyRouter Coding) - `anyrouter/agent` (AnyRouter Agent) - `anyrouter/hermes` (AnyRouter Hermes) - `anyrouter/cowork` (AnyRouter Cowork) - `anyrouter/latest` (AnyRouter Latest) ## Notes First-party virtual ids now accept a context-window suffix. [`anyrouter/auto[1m]`](https://anyrouter.dev/model/anyrouter/auto) and [`anyrouter/auto[500k]`](https://anyrouter.dev/model/anyrouter/auto) are the same preset as [`anyrouter/auto`](https://anyrouter.dev/model/anyrouter/auto), with `provider.min_context` set to 1,000,000 or 500,000 tokens. The same spelling works on [`anyrouter/free`](https://anyrouter.dev/model/anyrouter/free), [`anyrouter/byok`](https://anyrouter.dev/model/anyrouter/byok), [`anyrouter/coding`](https://anyrouter.dev/model/anyrouter/coding), [`anyrouter/agent`](https://anyrouter.dev/model/anyrouter/agent), [`anyrouter/hermes`](https://anyrouter.dev/model/anyrouter/hermes), [`anyrouter/cowork`](https://anyrouter.dev/model/anyrouter/cowork), and [`anyrouter/latest`](https://anyrouter.dev/model/anyrouter/latest). There is no extra catalog row for the suffix. Claude Code strips `[1m]` before the gateway, so `anyr claude` peels the floor into `CLAUDE_CODE_EXTRA_BODY`. A bare `anyrouter/auto` without the floor can still pick a high-usage member. Model pages list the shortcuts and can preview the ≥500k / ≥1M member list. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=anyrouter/auto). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anyrouter/auto[1m]"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with a 1M floor on auto._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "anyrouter/auto[1m]", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anyrouter/auto[1m]","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anyrouter/auto[1m]" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "anyrouter/free[1m]" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "anyrouter/auto[500k]" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [Claude Code](https://anyrouter.dev/use-cases/claude-code). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=anyrouter/auto) --- # Ling-3.0-flash-VL, Sante, Fin, and OpenRouter :free hops > inclusionAI Ling-3.0-flash-VL, Sante, and Fin join the catalog, plus Nex-N2.5 Mini/Pro. OpenRouter :free is the wire and an alias — Nemotron 3 Ultra and Inkling Small pick up hue hops so we can burn remaining free quota. - Date: 2026-09-13 - HTML: https://anyrouter.dev/blog/releases/2026-09-13 ## Models - `inclusionai/ling-3.0-flash-vl` (Ling-3.0-flash-VL) — Vision SKU; OpenRouter :free is an alias, not the listing id - `inclusionai/ling-3.0-flash-sante` (Ling-3.0-flash-Sante) — Health/medicine SKU; Command Code and OpenRouter :free are aliases, not the listing id - `inclusionai/ling-3.0-flash-fin` (Ling-3.0-flash-Fin) — Finance SKU; OpenRouter :free is an alias, not the listing id - `nex-agi/nex-n2.5-mini` (Nex-N2.5-Mini) — OpenRouter :free-only SKU; distinct from retired nex-n2-pro - `nex-agi/nex-n2.5-pro` (Nex-N2.5-Pro) — OpenRouter :free-only SKU; distinct from retired nex-n2-pro ## Notes [`inclusionai/ling-3.0-flash-vl`](https://anyrouter.dev/model/inclusionai/ling-3.0-flash-vl) is inclusionAI Ling-3.0-flash-VL: a 124B MoE (about 5.5B active) with native image and video input, text out, tools, and a 262K context window on the free route. Distinct from text-only [`inclusionai/ling-3.0-flash`](https://anyrouter.dev/model/inclusionai/ling-3.0-flash). Catalog price is $0 — platform free pool plus BYOK. Callers who send `inclusionai/ling-3.0-flash-vl:free` resolve to this listing. [`inclusionai/ling-3.0-flash-sante`](https://anyrouter.dev/model/inclusionai/ling-3.0-flash-sante) is Ling-3.0-flash-Sante: the same 124B / 5.1B-active Flash family, tuned for medical knowledge, clinical safety, and long-horizon health tasks, with tools and a 262K free route. Command Code lists it as `inclusionai/ling-3.0-flash-sante:free` (their promo, not AnyRouter monthly credits). OpenRouter and Nous carry the same `:free` wire. Callers who send that alias resolve to this listing. [`inclusionai/ling-3.0-flash-fin`](https://anyrouter.dev/model/inclusionai/ling-3.0-flash-fin) is Ling-3.0-flash-Fin: the finance-tuned sibling (124B / 5.1B active), for investment research and market analysis. OpenRouter lists `inclusionai/ling-3.0-flash-fin:free` plus a paid sibling; the catalog id stays without `:free`. [`nvidia/nemotron-3-ultra-550b-a55b`](https://anyrouter.dev/model/nvidia/nemotron-3-ultra-550b-a55b) and [`thinkingmachines/inkling-small`](https://anyrouter.dev/model/thinkingmachines/inkling-small) keep their existing listings and now resolve `*:free` onto hue + OpenRouter BYOK. [`nex-agi/nex-n2.5-mini`](https://anyrouter.dev/model/nex-agi/nex-n2.5-mini) and [`nex-agi/nex-n2.5-pro`](https://anyrouter.dev/model/nex-agi/nex-n2.5-pro) are Nex AGI's agentic coding models (35B-A3B and 397B-A17B) with vision in / text out. OpenRouter lists `:free` only — that is the wire and an alias. Distinct from the retired `nex-agi/nex-n2-pro` row. Catalog price is $0. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=inclusionai/ling-3.0-flash-vl). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("inclusionai/ling-3.0-flash-vl"), prompt: "Describe this screenshot in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "inclusionai/ling-3.0-flash-vl", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"inclusionai/ling-3.0-flash-vl","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "inclusionai/ling-3.0-flash-vl" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "inclusionai/ling-3.0-flash-vl" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "inclusionai/ling-3.0-flash-vl" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=inclusionai/ling-3.0-flash-vl) --- # DeepSeek V4.1 Flash > DeepSeek V4.1 Flash joins the catalog as deepseek/deepseek-v4.1-flash, with official DeepSeek API and OpenRouter BYOK hops. Peak list $0.30 / $1.20 per 1M tokens. - Date: 2026-09-10 - HTML: https://anyrouter.dev/blog/releases/2026-09-10 ## Models - `deepseek/deepseek-v4.1-flash` (DeepSeek V4.1 Flash) — OpenRouter listing id; Direct API wire is deepseek-flash ## Notes [`deepseek/deepseek-v4.1-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4.1-flash) is DeepSeek V4.1 Flash: sparse MoE, 1M context, vision in / text out. Official API MODEL id is `deepseek-flash` (https://api-docs.deepseek.com/quick_start/pricing). OpenRouter lists the same product as `deepseek/deepseek-v4.1-flash`. Peak list $0.30 input / $0.006 cache-hit / $1.20 output per 1M. Catalog BYOK price is $0 — bring a DeepSeek or OpenRouter key. The older [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) listing stays for V4 Flash hosts and is not redirected. ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("deepseek/deepseek-v4.1-flash"), prompt: "Hello" }) ``` _AI SDK._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "deepseek/deepseek-v4.1-flash" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). --- # Claude Fable 5.1 and GPT-6 Astra on Experiential > Experiential Cloud promotional hops for Claude Fable 5.1 and a new GPT-6 Astra listing (BYOK live; hosted platform hop pending #2842 recert). - Date: 2026-09-05 - HTML: https://anyrouter.dev/blog/releases/2026-09-05 ## Models - `openai/gpt-6-astra` (GPT-6 Astra) — New listing — Experiential Cloud promo slug gpt-6-astra - `anthropic/claude-fable-5-1` (Claude Fable 5.1) — Adds Experiential Cloud promo hop claude-fable-5-1 ## Notes [`openai/gpt-6-astra`](https://anyrouter.dev/model/openai/gpt-6-astra) is OpenAI GPT-6 Astra: a reasoning/chat model with ~1.05M context, tools, and vision input (text out). Routed only through Experiential Cloud (`gpt-6-astra`). Platform list $10 / $50 per 1M tokens; promotional platform price is $0 / $0 while the free daily tier lasts. Hosted `experiential` is still disabled (#2842) until the platform key is recertified — use Experiential BYOK today. [`anthropic/claude-fable-5-1`](https://anyrouter.dev/model/anthropic/claude-fable-5-1) keeps its Anthropic BYOK, Cloudflare, AIHubMix, and OpenRouter hops, and now also wires Experiential Cloud promotional slug `claude-fable-5-1` at $0 / $0 (struck list $10 / $50). Same #2842 note: hosted platform hop is YAML-only until recert; BYOK twin is live. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=openai/gpt-6-astra). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("openai/gpt-6-astra"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "openai/gpt-6-astra", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"openai/gpt-6-astra","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "openai/gpt-6-astra" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "openai/gpt-6-astra" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "openai/gpt-6-astra" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=openai/gpt-6-astra) --- # Muse Spark 1.3 > Meta's Muse Spark 1.3 joins the catalog over AIHubMix BYOK — a multimodal reasoning model for agentic tasks with a 1M-token context window. - Date: 2026-09-04 - HTML: https://anyrouter.dev/blog/releases/2026-09-04 ## Models - `meta/muse-spark-1.3` (Muse Spark 1.3) ## Notes [`meta/muse-spark-1.3`](https://anyrouter.dev/model/meta/muse-spark-1.3) is Meta's Muse Spark 1.3, the successor to Muse Spark 1.2: a multimodal reasoning model for complex agentic tasks. Text, images, video, audio, and PDF in; text out. 1,048,576-token context. Reasoning, function calling, and vision. Routed over AIHubMix BYOK (wire `muse-spark-1.3`); list $1.375 / $4.675 per 1M tokens. Not a free SKU — no platform `aihubmix` hop. Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("meta/muse-spark-1.3"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Or launch a coding agent through the `anyr` CLI: ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "meta/muse-spark-1.3" ``` _Coding agent._ More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). --- # Gemini 3.8 Flash and Mercury 2.5 Preview > Google Gemini 3.8 Flash and Inception Labs Mercury 2.5 Preview join the catalog. Claude Fable 5.1 and Qwen3.8 Max pick up AIHubMix hops on their existing ids. - Date: 2026-09-03 - HTML: https://anyrouter.dev/blog/releases/2026-09-03 ## Models - `google/gemini-3.8-flash` (Gemini 3.8 Flash) - `inception/mercury-2.5-preview` (Mercury 2.5 Preview) ## Notes [`google/gemini-3.8-flash`](https://anyrouter.dev/model/google/gemini-3.8-flash) is Google's Gemini 3.8 Flash: text, image, audio, video, and PDF in; text out. 1,048,576-token context, 65,536 max output. GA 2026-09-02. Google intro list is $0.75 / $3.75 per 1M tokens through 2026-12-31. The AIHubMix `gemini-3.8-flash-free` SKU is a hop plus aliases (`google/gemini-3.8-flash-free`, `gemini-3.8-flash-free`), not a second catalog row. OpenRouter list on the BYOK hop matches Gemini 3.7 Flash intro ($0.375 / $1.875). [`inception/mercury-2.5-preview`](https://anyrouter.dev/model/inception/mercury-2.5-preview) is Inception Labs Mercury 2.5 Preview. Text in, text out. 260K context. Thinking and tools. AIHubMix BYOK wire `mercury-2.5-preview` and OpenRouter BYOK `inception/mercury-2.5-preview`. List $0.20 / $0.75 per 1M tokens (cache read $0.02 on AIHubMix). Not a free SKU — no platform `aihubmix` hop. Same-day hops on existing listings, not new rows: [`anthropic/claude-fable-5-1`](https://anyrouter.dev/model/anthropic/claude-fable-5-1) adds AIHubMix BYOK `claude-fable-5-1` ($11 / $55 list). [`qwen/qwen3.8-max`](https://anyrouter.dev/model/qwen/qwen3.8-max) adds the 2026-09-02 snapshot as AIHubMix BYOK `qwen3.8-max-2026-09-02` ($1.69 / $5.07 list) with aliases `qwen/qwen3.8-max-2026-09-02` and `qwen3.8-max-2026-09-02`. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=google/gemini-3.8-flash). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("google/gemini-3.8-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "google/gemini-3.8-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"google/gemini-3.8-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "google/gemini-3.8-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "google/gemini-3.8-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "google/gemini-3.8-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=google/gemini-3.8-flash) --- # Claude Fable 5.1 > Anthropic Claude Fable 5.1 joins the catalog as one listing, routed through Anthropic BYOK and Cloudflare Workers AI, with OpenRouter BYOK as a fallback. - Date: 2026-09-02 - HTML: https://anyrouter.dev/blog/releases/2026-09-02 ## Models - `anthropic/claude-fable-5-1` (Claude Fable 5.1) ## Notes Claude Fable 5.1 is Anthropic's successor to Fable 5 for long-running agentic coding, knowledge work, and research. Call [`anthropic/claude-fable-5-1`](https://anyrouter.dev/model/anthropic/claude-fable-5-1). The Claude API wire name is `claude-fable-5-1`; Cloudflare Workers AI serves the same model as partner-hosted `anthropic/claude-fable-5-1`. Those are one catalog row, not two. List rates match Anthropic: $10 / $50 per million input / output tokens. Cache reads are $0.25 per million tokens. Context is 1M tokens, max output 128k. Text and image in, text out. BYOK hops stay $0. The Cloudflare hop is Unified Billing at that same Anthropic list (no markup). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=anthropic/claude-fable-5-1). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("anthropic/claude-fable-5-1"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "anthropic/claude-fable-5-1", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"anthropic/claude-fable-5-1","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "anthropic/claude-fable-5-1" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "anthropic/claude-fable-5-1" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "anthropic/claude-fable-5-1" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=anthropic/claude-fable-5-1) --- # Hy4 Preview on AIHubMix BYOK > Tencent Hunyuan Hy4 Preview joins the catalog as tencent/hy4-preview, routed through AIHubMix BYOK at the aggregator's published list rates. - Date: 2026-09-02 - HTML: https://anyrouter.dev/blog/releases/2026-09-02-hy4-preview ## Models - `tencent/hy4-preview` (Hy4 Preview) ## Notes Hy4 Preview is Tencent Hunyuan's 770B/49B-active MoE for agents, coding, office automation, and long-horizon tool use. Call [`tencent/hy4-preview`](https://anyrouter.dev/model/tencent/hy4-preview). The hop is AIHubMix BYOK (`hy4-preview` on the wire). Caller price is $0 because you spend your own AIHubMix key. List rates copied from [AIHubMix](https://aihubmix.com/model/hy4-preview): $0.845 / $2.535 per 1M tokens (cache read $0.0423). 1M context, 64K max output. Distinct from unlisted [`tencent/Hy3`](https://anyrouter.dev/model/tencent/Hy3). Use it for coding agents, multi-step tool workflows, and long-context office or engineering tasks that need sustained execution. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=tencent/hy4-preview). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("tencent/hy4-preview"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "tencent/hy4-preview", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"tencent/hy4-preview","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "tencent/hy4-preview" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "tencent/hy4-preview" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "tencent/hy4-preview" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=tencent/hy4-preview) --- # Qwen3.8 Flash on AnyRouter > Alibaba Qwen3.8 Flash via AIHubMix BYOK. List $0.1126 / $0.38 per 1M. - Date: 2026-09-02 - HTML: https://anyrouter.dev/blog/releases/2026-09-02-qwen3-8-flash ## Models - `qwen/qwen3.8-flash` (Qwen3.8 Flash) ## Notes [`qwen/qwen3.8-flash`](https://anyrouter.dev/model/qwen/qwen3.8-flash) is Alibaba's native vision-language Qwen3.8 Flash. Coding, office, long-context reasoning, and agents. 1M context, 131,072 max output. Image and video in, text out. Distinct from the disabled Empero listing [`qwen/qwen3.8-flash-next`](https://anyrouter.dev/model/qwen/qwen3.8-flash-next). Route is AIHubMix BYOK only. Caller debit stays $0. List rates copied from [AIHubMix](https://aihubmix.com/model/qwen3.8-flash) are $0.1126 / $0.38 per 1M tokens. [Alibaba Model Studio](https://www.alibabacloud.com/help/en/model-studio/qwen3-8-flash). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-flash). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"qwen/qwen3.8-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3.8-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "qwen/qwen3.8-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "qwen/qwen3.8-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-flash) --- # Catalog sweep — GLM-5.3, vision, Agnes, Sol Disc > Eight models from the post-closeout sweep: Z.AI GLM-5.3 (coding preview), DeepSeek vision + 0731-fast, Microsoft MAI-Thinking-1, OpenAI GPT-5.6 Sol Disc, and Agnes 2.5 Flash/Pro/Alpha via AIHubMix. - Date: 2026-08-26 - HTML: https://anyrouter.dev/blog/releases/2026-08-26-catalog-sweep ## Models - `z-ai/glm-5.3` (GLM-5.3) - `deepseek/deepseek-v4-flash-vision-exp` (DeepSeek-V4-Flash-Vision-Exp) - `microsoft/mai-thinking-1` (MAI-Thinking-1) - `deepseek/deepseek-v4-flash-0731-fast` (DeepSeek-V4-Flash-0731-Fast) - `openai/gpt-5.6-sol` (GPT-5.6 Sol) — was openai/gpt-5.6-sol-disc - `agnes-ai/agnes-2.5-flash` (Agnes 2.5 Flash) - `agnes-ai/agnes-2.5-pro` (Agnes 2.5 Pro) - `agnes-ai/agnes-2.5-pro-alpha` (Agnes 2.5 Pro Alpha) ## Notes Post-closeout catalog sweep: verified text and vision-understand SKUs on AIHubMix, wired with list pricing copied from the live aggregator catalog (not invented). Distinct from the already-listed [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash) Ox Alpha rename and from the disabled NVIDIA pin [`deepseek-ai/deepseek-v4-flash-0731`](https://anyrouter.dev/model/deepseek-ai/deepseek-v4-flash-0731). ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3"), prompt: "Refactor this handler for clarity.", }) console.log(text) ``` _AI SDK — GLM-5.3 coding preview._ ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "agnes-ai/agnes-2.5-pro" ``` _Coding agent._ Playbooks: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk), [coding agents](https://anyrouter.dev/use-cases/coding-agents), [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). Try [`openai/gpt-5.6-sol`](https://anyrouter.dev/playground?model=openai/gpt-5.6-sol) in the playground (former Disc listing aliases here). --- # GLM-5.3-Flash — Ox Alpha, named > The Ox Alpha preview is GLM-5.3-Flash: native multimodal, 1M context, MIT-licensed 320B-A18B. Same AnyRouter routes, catalog id z-ai/glm-5.3-flash. - Date: 2026-08-26 - HTML: https://anyrouter.dev/blog/releases/2026-08-26-glm-5-3-flash ## Models - `z-ai/glm-5.3-flash` (GLM-5.3-Flash) — was stealth/ox-alpha ## Notes The model AnyRouter listed as [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha) is GLM-5.3-Flash. Same routes, new public name, official launch. Call [`z-ai/glm-5.3-flash`](https://anyrouter.dev/model/z-ai/glm-5.3-flash). The old id stays for history, ranking, and leaderboard — it is unlisted from `GET /api/v1/models` and the /models picker. GLM-5.3-Flash is a native multimodal model from Z.ai. It is suited for efficient coding and long-horizon agent tasks. Its hybrid sparse and linear attention architecture maintains accurate long-context behavior while reducing compute overhead. 320B-A18B, MIT License, 1M-token context. Z.ai ran the Ox Alpha preview entirely on Chinese AI chips. Leading capabilities at a highly competitive price. Host routes keep the copied Ox Alpha $0/$0 rates — Z.ai's API docs list Coding Plan points, not a $/1M list we can copy. [Announcement](https://z.ai/blog/glm-5.3-flash) · [weights](https://huggingface.co/zai-org/GLM-5.3-Flash) · [API](https://docs.z.ai/guides/llm/glm-5.3-flash). ![Z.ai LLM Performance Evaluation bar chart comparing GLM-5.3-Flash with GLM-5.2, DeepSeek-V4-Vision-Exp, Claude Opus 4.8, GPT-5.6 Terra, and Gemini 3.7 Flash across six benchmarks.](https://anyrouter.dev/screenshots/glm-5.3-flash-llm-performance-eval-2026-08.png) _Z.ai “LLM Performance Evaluation.” Scores copied from the chart — not AnyRouter measurements._ | Benchmark | GLM-5.3-Flash | GLM-5.2 | DeepSeek-V4-Vision-Exp | Claude Opus 4.8 | GPT-5.6 Terra | Gemini 3.7 Flash | | --- | --- | --- | --- | --- | --- | --- | | Terminal Bench 2.1 | 84.3 | 81.0 | 83.9 | 85.0 | 87.4 | 85.8 | | DeepSWE v1.1 | 63.4 | 46.2 | 59.3 | 58.0 | 69.6 | 65.3 | | Agents' Last Exam | 26.3 | 20.4 | 27.3 | 27.0 | 28.0 | — | | AutomationBench v1.0.6 | 48.8 | 26.2 | 38.8 | 41.0 | 37.2 | 52.3 | | HLE w/ Tools | 55.3 | 54.7 | 55.1 | 57.9 | — | — | | GDPVal-AA v2 | 1773 | 1504 | 1675 | 1582 | 1571 | 1527 | **DeepSWE v1.1 — Flash vs GLM-5.2** - GLM-5.3-Flash: 63.4 - GLM-5.2: 46.2 **AutomationBench v1.0.6 — Flash vs GLM-5.2** - GLM-5.3-Flash: 48.8 - GLM-5.2: 26.2 - [Announcement](https://z.ai/blog/glm-5.3-flash) - [Weights](https://huggingface.co/zai-org/GLM-5.3-Flash) (`zai-org/GLM-5.3-Flash`) - [API docs](https://docs.z.ai/guides/llm/glm-5.3-flash) - [Coding Plan](https://z.ai/subscribe) · [ZCode](https://zcode.z.ai/en) · [Chat](https://chat.z.ai) · [AutoClaw](https://autoclaw.z.ai) ![Z.ai Code Bench v1.0 agentic coding performance by effort level. GLM-5.3-Flash purple line versus GLM-5.3, GLM-5.2, Claude Fable 5, and Claude Opus 4.8.](https://anyrouter.dev/screenshots/glm-5.3-flash-agentic-coding-effort-2026-08.png) _Z.ai Code Bench v1.0 (Claude Code 2.1.207). Prefer the chart over token counts. Max accuracy is similar to Claude Opus 4.8; a step up from GLM-5.2._ - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flash). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("z-ai/glm-5.3-flash"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "z-ai/glm-5.3-flash", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"z-ai/glm-5.3-flash","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "z-ai/glm-5.3-flash" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "z-ai/glm-5.3-flash" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "z-ai/glm-5.3-flash" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=z-ai/glm-5.3-flash) --- # Qwen3.8-Flash-Next from Empero > Free community endpoint for Qwen3.8-Flash-Next — open by default, from Empero research lab. Catalog id qwen/qwen3.8-flash-next. - Date: 2026-08-26 - HTML: https://anyrouter.dev/blog/releases/2026-08-26-qwen3-8-flash-next-fp8 ## Models - `qwen/qwen3.8-flash-next` (Qwen3.8-Flash-Next) — Empero community host ## Notes Free community endpoint for Qwen3.8-Flash-Next — open by default, from Empero research lab. Catalog id [`qwen/qwen3.8-flash-next`](https://anyrouter.dev/model/qwen/qwen3.8-flash-next) (`qwen/qwen3.8-flash-next-fp8` aliases). 131,072 context, default max_tokens 32,768, $0/$0. Prompts and completions are logged (IPs hashed). Empero wire id stays `Qwen/Qwen3.8-Flash-Next-FP8`. [GUI](https://free.empero.org/gui) · [Empero](https://empero.org/) · [Hugging Face](https://huggingface.co/empero-ai). - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-flash-next). Try it in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk). `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-flash-next"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the OpenAI SDK? [OpenAI SDK playbook](https://anyrouter.dev/use-cases/openai-sdk): ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-flash-next", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"qwen/qwen3.8-flash-next","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "qwen/qwen3.8-flash-next" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "qwen/qwen3.8-flash-next" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "qwen/qwen3.8-flash-next" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-flash-next) --- # AIHubMix free tier — 15 more $0 routes > AIHubMix joins the platform free pool: MiniMax M2.7, Kimi K3, Gemini 3.x Flash, Nemotron 3, GPT-OSS 20B, and more, all routed at $0. - Date: 2026-08-25 - HTML: https://anyrouter.dev/blog/releases/2026-08-25-aihubmix-free ## Models - `minimax/m2.7` (MiniMax M2.7) — via aihubmix - `moonshotai/kimi-k3` (Kimi K3) — coding-kimi-k3 free id - `google/gemini-3.7-flash` (Gemini 3.7 Flash) — free id now platform-routed - `google/gemini-3.6-flash` (Gemini 3.6 Flash) — free id now platform-routed - `google/gemini-3.5-flash-lite` (Gemini 3.5 Flash Lite) — free id now platform-routed - `nvidia/nemotron-3-ultra-550b-a55b` (Nemotron 3 Ultra 550B) — free id now platform-routed - `nvidia/nemotron-3-super-120b-a12b` (Nemotron 3 Super 120B) — free id now platform-routed - `nvidia/nemotron-3.5-lightning-30b-a3b` (Nemotron 3.5 Lightning 30B) — free id now platform-routed - `dots-studio/dots-3-note-preview` (Dots3-Note Preview) — free id now platform-routed - `inclusionai/ling-3.0-flash` (Ling 3.0 Flash) — free id now platform-routed - `liquid/lfm-2.5-2.6b` (LFM 2.5 2.6B) — back — live $0 route again - `cohere/north-mini-code` (North Mini Code) — free id now platform-routed - `poolside/laguna-xs-2.1` (Laguna XS 2.1) — free id now platform-routed - `stealth/ox-alpha` (Ox Alpha) — bare preview id on AIHubMix ## Notes AIHubMix is now a platform upstream behind CF AI Gateway. Every `*-free` chat id it serves routes through the pool at $0 COGS — prepended as the first backend on fifteen existing catalog models, so requests pick it before paid or BYOK fallbacks. Vision-in/text-out ids (Gemini Flash, Kimi K3, Dots) keep their vision capability; image and video generation SKUs stay out of the text-only catalog. - App code — [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude` / `anyr opencode` / `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=minimax/m2.7). Try MiniMax M2.7 in the [Vercel AI SDK](https://anyrouter.dev/use-cases/ai-sdk) — `createAnyRouter()` reads `ANYROUTER_API_KEY`: ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("minimax/m2.7"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` _generateText with the catalog id._ Already on the [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk)? Same id, same key: ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "minimax/m2.7", messages: [{ role: "user", content: "Hello" }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"minimax/m2.7","messages":[{"role":"user","content":"Hello"}]}' ``` Or launch a coding agent through the `anyr` CLI: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr claude --model "minimax/m2.7" ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr opencode --model "minimax/m2.7" ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash anyr login anyr codex --model "minimax/m2.7" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [model page](https://anyrouter.dev/model/minimax/m2.7). No terminal? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=minimax/m2.7) --- # Ox Alpha > Ox Alpha joins the catalog free — a stealth reasoning model for coding, agentic work, and long-horizon engineering. - Date: 2026-08-21 - HTML: https://anyrouter.dev/blog/releases/2026-08-21-ox-alpha ## Models - `stealth/ox-alpha` (Ox Alpha) ## Notes Free stealth preview for coding and agent loops: 1M context, tools, vision, mandatory reasoning (`reasoning_effort` low|high|max). Catalog id [`stealth/ox-alpha`](https://anyrouter.dev/model/stealth/ox-alpha). Routed via OpenCode Zen, Nhatrang, Hue, and Hermes Agent. ### AI SDK ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("stealth/ox-alpha"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "stealth/ox-alpha", messages: [{ role: "user", content: "Summarize this diff in three bullets." }], }) console.log(res.choices[0]?.message.content) ``` ### curl ```bash curl https://anyrouter.dev/api/v1/chat/completions \ -H "Authorization: Bearer $ANYROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "stealth/ox-alpha", "messages": [{"role": "user", "content": "Summarize this diff in three bullets."}] }' ``` Or pin it on a coding agent — [install the CLI](https://anyrouter.dev/cli) if you need help: ### Claude Code ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash ar auth login ar claude --model stealth/ox-alpha ``` ### OpenCode ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash ar auth login ar opencode --model stealth/ox-alpha ``` ### Codex ```bash curl -fsSL https://anyrouter.dev/cli.sh | bash ar auth login ar codex --model stealth/ox-alpha ``` More: [model page](https://anyrouter.dev/model/stealth/ox-alpha) · [CLI](https://anyrouter.dev/cli) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [playground](https://anyrouter.dev/playground?model=stealth/ox-alpha). --- # Qwen 27B dense SKUs and Llama 3.3 70B Instruct > Qwen3.6-27B, Qwen3.8-27B, Gemma 3 27B IT, and Meta Llama 3.3 70B Instruct join the catalog as paid chat models. - Date: 2026-08-20 - HTML: https://anyrouter.dev/blog/releases/2026-08-20 ## Models - `qwen/qwen3.6-27b` (Qwen3.6-27B) - `qwen/qwen3.8-27b` (Qwen3.8-27B) - `google/gemma-3-27b-it` (Gemma 3 27B IT) - `meta/llama-3.3-70b-instruct` (Llama 3.3 70B Instruct) --- # Qwen3.8-27B and DeepSeek V4 Flash, 50% off > Half off through 1 Sep. Same ids, same API — just a friendlier bill. - Date: 2026-08-20 - HTML: https://anyrouter.dev/blog/releases/2026-08-20-qwen3-8-27b-sale ## Models - `qwen/qwen3.8-27b` (Qwen3.8-27B) — 50% off list through 1 Sep 2026 - `deepseek/deepseek-v4-flash` (DeepSeek-V4-Flash) — 50% off list through 1 Sep 2026 ## Notes Sale through 1 Sep — Qwen3.8-27B and DeepSeek-V4-Flash at half list. Nothing else changes: same models, same strings, lighter invoice. | Model | List (in / out per 1M) | Sale through 1 Sep | | --- | --- | --- | | [`qwen/qwen3.8-27b`](https://anyrouter.dev/model/qwen/qwen3.8-27b) | $0.30 / $3.25 | $0.15 / $1.625 | | [`deepseek/deepseek-v4-flash`](https://anyrouter.dev/model/deepseek/deepseek-v4-flash) | $0.14 / $0.28 | $0.07 / $0.14 | Qwen3.8-27B is the 27B you leave on for coding — 262K context, thinking, tools. DeepSeek-V4-Flash is the zippy chat one (500K). Same catalog string in the SDK, a coding agent, or the playground. - App — [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) or [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk). - Coding agent — `anyr claude`, `anyr opencode`, or `anyr codex` ([playbook](https://anyrouter.dev/use-cases/coding-agents)). - No code — [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b). Drop this in and you're on sale rates: ### OpenAI SDK ```ts import OpenAI from "openai" const client = new OpenAI({ baseURL: "https://anyrouter.dev/api/v1", apiKey: process.env.ANYROUTER_API_KEY, }) const res = await client.chat.completions.create({ model: "qwen/qwen3.8-27b", messages: [{ role: "user", content: "Summarize this diff in three bullets." }], }) console.log(res.choices[0]?.message.content) ``` ### AI SDK ```ts import { createAnyRouter } from "@anyr/ai-sdk-provider" import { generateText } from "ai" const anyrouter = createAnyRouter() const { text } = await generateText({ model: anyrouter("qwen/qwen3.8-27b"), prompt: "Summarize this diff in three bullets.", }) console.log(text) ``` Or pin it on a coding agent: ### Claude Code ```bash anyr login anyr claude --model "qwen/qwen3.8-27b" ``` ### OpenCode ```bash anyr login anyr opencode --model "qwen/qwen3.8-27b" ``` ### Codex ```bash anyr login anyr codex --model "qwen/qwen3.8-27b" ``` More: [AI SDK](https://anyrouter.dev/use-cases/ai-sdk) · [OpenAI SDK](https://anyrouter.dev/use-cases/openai-sdk) · [coding agents](https://anyrouter.dev/use-cases/coding-agents) · [playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b). Rather click than type? Open the playground and send a first message. [Try in playground](https://anyrouter.dev/playground?model=qwen/qwen3.8-27b) --- # DeepSeek V4 Pro > DeepSeek V4 Pro (0813) joins the catalog, hosted on Cloudflare Workers AI with a 1M-token context window. - Date: 2026-08-17 - HTML: https://anyrouter.dev/blog/releases/2026-08-17 ## Models - `deepseek/deepseek-v4-pro` (DeepSeek V4 Pro) — was deepseek-ai/deepseek-v4-pro-0813 --- # Gemini 3.7 Flash and latest frontier chat SKUs > Google Gemini 3.7 Flash joins the catalog, plus Qwen3.8 2.4T A95B, Muse Spark 1.2, Inkling Small, Solar Pro 4, Seed 2.1 Turbo, Seed 2.0 Code, Claude Opus 5 Fast, and Dots3-Note Preview. - Date: 2026-08-14 - HTML: https://anyrouter.dev/blog/releases/2026-08-14 ## Models - `google/gemini-3.7-flash` (Gemini 3.7 Flash) - `qwen/qwen3.8-2.4t-a95b` (Qwen3.8 2.4T A95B) - `meta/muse-spark-1.2` (Muse Spark 1.2) - `thinkingmachines/inkling-small` (Inkling Small) - `upstage/solar-pro4` (Solar Pro 4) - `bytedance-seed/seed-2-1-turbo` (Seed 2.1 Turbo) - `bytedance-seed/seed-2.0-code` (Seed 2.0 Code) - `anthropic/claude-opus-5-fast` (Claude Opus 5 Fast) - `dots-studio/dots-3-note-preview` (Dots3-Note Preview) --- # Nemotron Lightning, Muse Glimmer, Seedance 2.5, DeepSeek NIM Flash > NVIDIA NIM additions (Nemotron 3.5 Lightning 30B, Meta Muse Glimmer 30B, DeepSeek-V4-Flash 0731), ByteDance Seedance 2.5 on Workers AI, and free Requesty route for Ling-3.0-tiny. - Date: 2026-08-12 - HTML: https://anyrouter.dev/blog/releases/2026-08-12 ## Models - `nvidia/nemotron-3.5-lightning-30b-a3b` (Nemotron 3.5 Lightning 30B A3B) — Sparse MoE chat model on NVIDIA NIM. - `meta/muse-glimmer-30b` (Muse Glimmer 30B) — Meta Muse Glimmer via NVIDIA NIM. - `deepseek-ai/deepseek-v4-flash-0731` (DeepSeek V4 Flash 0731) — Dated NIM packaging of DeepSeek-V4-Flash. - `bytedance/seedance-2.5` (Seedance 2.5) — Audio-video generation on Cloudflare Workers AI. --- # Free-route expansion + Liquid LFM 2.5 > Expanded free platform routes across NVIDIA Nemotron free models, GPT-OSS-20B free, Ling-3.0-tiny on Novita, and new Liquid LFM 2.5 2.6B free. CommandCode free/promo routes for Laguna S 2.1 and MiMo V2.5 Pro. - Date: 2026-08-12 - HTML: https://anyrouter.dev/blog/releases/2026-08-12-free ## Models - `liquid/lfm-2.5-2.6b` (LFM 2.5 2.6B) — Free tier via platform free pool + BYOK free SKU. - `nvidia/nemotron-3.5-lightning-30b-a3b` (Nemotron 3.5 Lightning 30B A3B) — Added free aggregator + free-pool routes. - `openai/gpt-oss-20b` (GPT-OSS 20B) — Free aggregator SKU added. - `inclusionai/ling-3.0-tiny` (Ling-3.0-tiny) — Novita platform/BYOK free routes. --- # Grok 4.6 > xAI Grok 4.6 joins the catalog via xAI BYOK and OpenRouter BYOK. 500K context, $2/$6 list on xAI. - Date: 2026-08-12 - HTML: https://anyrouter.dev/blog/releases/2026-08-12-grok-46 ## Models - `x-ai/grok-4.6` (Grok 4.6) --- # EmbeddingGemma 300M and Ling-3.0-tiny > Google's EmbeddingGemma 300M open embedding model and inclusionAI's Ling-3.0-tiny free MoE chat model join the catalog. - Date: 2026-08-07 - HTML: https://anyrouter.dev/blog/releases/2026-08-07 ## Models - `google/embeddinggemma-300m` (EmbeddingGemma 300M) — 300M multilingual text embeddings on Workers AI. - `inclusionai/ling-3.0-tiny` (Ling-3.0-tiny) — 7.9B MoE (1.3B active) free instruct model via OpenRouter. --- # Sakana Namazu > Sakana AI's Japanese-specialized LLM (built on Kimi K2.6) joins the catalog via BYOK. - Date: 2026-08-03 - HTML: https://anyrouter.dev/blog/releases/2026-08-03 ## Models - `sakana/sakana-namazu` (Sakana Namazu) — Japanese business-focused LLM with web search and code execution. --- # Qwen3.8 Max added > 1 model from 1 provider joined the catalog the week of 2026-08-03. - Date: 2026-08-03 - HTML: https://anyrouter.dev/blog/releases/2026-08-03-catalog ## Models - `qwen/qwen3.8-max` (Qwen3.8 Max) — 1M context · $0.825 / $2.48 per 1M --- # Nemotron 3.5 Nano > NVIDIA's Nemotron 3.5 Nano joins the catalog via Blackbox AI BYOK. - Date: 2026-08-01 - HTML: https://anyrouter.dev/blog/releases/2026-08-01 ## Models - `nvidia/nemotron-3.5-nano` (Nemotron 3.5 Nano) — Compact, efficient chat model via Blackbox AI BYOK. --- # Nemotron Nano, GLM-4.5/4.6, MiniMax M2, Qwen3.5-9B/27B > Eight new models discovered from upstream providers and added to the catalog — NVIDIA's free Nemotron Nano 12B V2 VL and 9B V2 via OpenRouter, Z-AI's GLM-4.5 and GLM-4.6 (with vision variant), MiniMax M2, and Alibaba's Qwen3.5-9B and Qwen3.5-27B. - Date: 2026-07-31 - HTML: https://anyrouter.dev/blog/releases/2026-07-31 ## Models - `nvidia/nemotron-nano-12b-v2-vl` (Nemotron Nano 12B V2 VL) — Free multimodal reasoning model (text+image+video), 128K context. - `nvidia/nemotron-nano-9b-v2` (Nemotron Nano 9B V2) — Free reasoning model, 128K context, knowledge cutoff 2025-03-31. - `z-ai/glm-4.5` (GLM-4.5) — 355B MoE agent model, 128K context, 96K output. - `z-ai/glm-4.6` (GLM-4.6) — 200K context, stronger coding and reasoning than GLM-4.5. - `z-ai/glm-4.6v` (GLM-4.6V) — Vision variant of GLM-4.6, 200K context. - `minimax/m2` (MiniMax M2) — Agentic coding and office productivity model. - `qwen/qwen3.5-9b` (Qwen3.5-9B) — 262K context, vision support, via DeepInfra and BYOK. - `qwen/qwen3.5-27b` (Qwen3.5-27B) — Dense frontier model, 262K context, reasoning and coding. --- # Qwen3.7 Flash > Alibaba's Qwen3.7 Flash — a vision-language reasoning model for multimodal agents, visual coding, search, and computer interaction — joins the catalog via OpenRouter BYOK. - Date: 2026-07-29 - HTML: https://anyrouter.dev/blog/releases/2026-07-29 ## Models - `qwen/qwen3.7-flash` (Qwen3.7 Flash) — Vision-language reasoning model, 1M context, OpenRouter BYOK. --- # Claude Opus 5 > Anthropic's Claude Opus 5 — the flagship model for demanding reasoning, coding, and long-horizon agentic work — joins the catalog, BYOK-only like its Claude siblings. - Date: 2026-07-25 - HTML: https://anyrouter.dev/blog/releases/2026-07-25 ## Models - `anthropic/claude-opus-5` (Claude Opus 5) — Flagship reasoning/coding model, BYOK-only. --- # Ling-3.0-flash > inclusionAI's Ling-3.0-flash — a 124B-parameter Mixture-of-Experts model (~5.1B active) tuned for token-efficient, production-scale agentic inference — joins the catalog, served free with a user-owned API key (BYOK). - Date: 2026-07-24 - HTML: https://anyrouter.dev/blog/releases/2026-07-24 ## Models - `inclusionai/ling-3.0-flash` (Ling-3.0-flash) — 124B MoE instant model, free via BYOK. --- # Gemini 3.6 Flash & Gemini 3.5 Flash Lite > Google's Gemini 3.6 Flash and Gemini 3.5 Flash Lite join the catalog as partner-hosted SKUs on Cloudflare Workers AI, with OpenRouter BYOK fallback. - Date: 2026-07-22 - HTML: https://anyrouter.dev/blog/releases/2026-07-22 ## Models - `google/gemini-3.6-flash` (Gemini 3.6 Flash) - `google/gemini-3.5-flash-lite` (Gemini 3.5 Flash Lite) --- # Laguna S 2.1 > Poolside's latest coding agent model Laguna S 2.1 (118B total, 8B active parameters, 1M context, 70.2% Terminal-Bench 2.1, 40.4% DeepSWE) joins the catalog — open-weight under OpenMDW-1.1. - Date: 2026-07-21 - HTML: https://anyrouter.dev/blog/releases/2026-07-21 ## Models - `poolside/laguna-s-2.1` (Laguna S 2.1) --- # Riva Translate 4B Instruct v2 added > 1 model from 1 provider joined the catalog the week of 2026-07-20. - Date: 2026-07-20 - HTML: https://anyrouter.dev/blog/releases/2026-07-20-catalog ## Models - `nvidia/riva-translate-4b-instruct-v2` (Riva Translate 4B Instruct v2) — 4K context · Free --- # Inkling + Nemotron 3 Embed 1B > Thinking Machines Lab's first open-weights foundation model Inkling (975B MoE, 41B active, 1M context, multimodal input with switchable reasoning) and NVIDIA's Nemotron-3-Embed-1B multilingual embedding model (2048 dims, 34 languages) join the catalog via NVIDIA NIM. - Date: 2026-07-17 - HTML: https://anyrouter.dev/blog/releases/2026-07-17 ## Models - `thinkingmachines/inkling` (Inkling) - `nvidia/nemotron-3-embed-1b` (Nemotron 3 Embed 1B) — Multilingual text embeddings (2048 dimensions, 32k context) for search and RAG. --- # Kimi K3 > Moonshot AI's Kimi K3 is now available on AnyRouter — an open-source model with a 1M-token context window and native visual understanding (text, image, and video). Built for long-horizon software engineering and deep reasoning where code meets visual and spatial thinking, with thinking mode always on. - Date: 2026-07-16 - HTML: https://anyrouter.dev/blog/releases/2026-07-16 ## Models - `moonshotai/kimi-k3` (Kimi K3) - `meta/muse-spark-1.1` (Muse Spark 1.1) — Meta's multimodal agentic reasoning model (text/image/video/audio/PDF in, 1M context) via OpenRouter BYOK. US-only. --- # Moondream 3.1 9B A2B, Nemotron-3 Nano Omni 30B-A3B (Reasoning), GPT-5.6 Terra added > 3 models from 3 providers joined the catalog the week of 2026-07-13. - Date: 2026-07-13 - HTML: https://anyrouter.dev/blog/releases/2026-07-13-catalog ## Models - `moondream/moondream3.1-9b-a2b` (Moondream 3.1 9B A2B) — 33K context · $0.3 / $1 per 1M - `nvidia/nemotron-3-nano-omni-30b-a3b-reasoning` (Nemotron-3 Nano Omni 30B-A3B (Reasoning)) — 256K context · Free - `openai/gpt-5.6-terra` (GPT-5.6 Terra) — 1.1M context · $1 / $6 per 1M --- # Grok 4.5 and Laguna XS 2.1 > Two frontier additions: xAI's Grok 4.5 joins the catalog and Poolside ships a refreshed Laguna XS 2.1 coding model. - Date: 2026-07-09 - HTML: https://anyrouter.dev/blog/releases/2026-07-09 ## Models - `x-ai/grok-4.5` (Grok 4.5) - `poolside/laguna-xs-2.1` (Laguna XS 2.1) --- # Free-tier open models via SiliconFlow > A batch of open-weight models now has a free-tier upstream — Qwen3 across sizes, Gemma 4 27B, and Tencent Hy3. - Date: 2026-07-08 - HTML: https://anyrouter.dev/blog/releases/2026-07-08 ## Models - `Qwen/Qwen3-32B` (Qwen3-32B) - `Qwen/Qwen3-14B` (Qwen3-14B) - `Qwen/Qwen3-8B` (Qwen3-8B) - `Qwen/Qwen3-Coder-30B-A3B-Instruct` (Qwen3-Coder-30B-A3B) — Coding-tuned MoE - `google/gemma-4-27B-it` (Gemma 4 27B) - `tencent/Hy3` (Hy3) --- # Apple Foundation Model, DeepSeek-R1, DeepSeek-V3 and 6 more added > 9 models from 6 providers joined the catalog the week of 2026-07-06. - Date: 2026-07-06 - HTML: https://anyrouter.dev/blog/releases/2026-07-06-catalog ## Models - `apple/foundation-model` (Apple Foundation Model) — 4K context · Free - `deepseek/deepseek-r1` (DeepSeek-R1) — 64K context · $0.5 / $2.15 per 1M - `deepseek/deepseek-v3` (DeepSeek-V3) — 128K context · $0.32 / $0.89 per 1M - `moonshotai/kimi-k2.6` (Kimi K2.6) — 262K context · $0.39 / $1.8 per 1M - `nvidia/nemotron-3-nano-30b-a3b` (Nemotron-3 Nano 30B) — 262K context · $0.05 / $0.2 per 1M - `openai/gpt-oss-120b` (GPT-OSS-120b) — 131K context · $0.032 / $0.14 per 1M - `qwen/qwen2.5-72b-instruct` (Qwen2.5-72B-Instruct) — 128K context · $0.36 / $0.4 per 1M - `qwen/qwen3-14b` (Qwen3-14B) — 128K context · $0.076 / $0.228 per 1M - `qwen/qwen3-8b` (Qwen3-8B) — 128K context · Free --- # Claude Sonnet 5 > Anthropic's Claude Sonnet 5 is available through BYOK — bring your Anthropic key and route it behind the gateway. - Date: 2026-07-02 - HTML: https://anyrouter.dev/blog/releases/2026-07-02 ## Models - `anthropic/claude-sonnet-5` (Claude Sonnet 5) — BYOK --- # Codex-class OpenAI models and GLM-5 > The OpenAI Codex family lands — GPT-5.3 / 5.2 Codex and 5.1 Codex Max — alongside Z.ai's GLM-5 and Qwen3.7 Max. - Date: 2026-07-01 - HTML: https://anyrouter.dev/blog/releases/2026-07-01 ## Models - `openai/gpt-5.3-codex` (GPT-5.3 Codex) - `openai/gpt-5.2-codex` (GPT-5.2 Codex) - `openai/gpt-5.1-codex-max` (GPT-5.1 Codex Max) - `z-ai/glm-5` (GLM-5) - `qwen/qwen3.7-max` (Qwen3.7 Max) --- # LongCat-2.0 > The LongCat provider joins the catalog with LongCat-2.0, available via BYOK. - Date: 2026-06-30 - HTML: https://anyrouter.dev/blog/releases/2026-06-30 ## Models - `longcat/longcat-2.0` (LongCat-2.0) — BYOK --- # LongCat-2.0, GPT-5.3 Codex Spark, Qwen3.5 Plus and 1 more added > 4 models from 3 providers joined the catalog the week of 2026-06-29. - Date: 2026-06-29 - HTML: https://anyrouter.dev/blog/releases/2026-06-29-catalog ## Models - `meituan/longcat-2.0` (LongCat-2.0) — 1M context · $0.3 / $1.2 per 1M - `openai/gpt-5.3-codex-spark` (GPT-5.3 Codex Spark) — 200K context · $0 / $0 per 1M - `qwen/qwen3.5-plus` (Qwen3.5 Plus) — 256K context · $0.4 / $1.6 per 1M - `qwen/qwen3.6-plus` (Qwen3.6 Plus) — 1M context · $0.4 / $1.6 per 1M --- # Cerebras, Venice, and Wafer providers > Three new upstreams broaden coverage — Cerebras GPT-OSS, Venice's MiniMax M2.7, and Wafer's aggregated MiniMax M3 and GLM-5.2. - Date: 2026-06-24 - HTML: https://anyrouter.dev/blog/releases/2026-06-24 ## Models - `venice/minimax-m27` (MiniMax M2.7) - `wafer/minimax-m3` (MiniMax M3) - `wafer/zai-glm-5-2` (GLM-5.2) - `venice/kimi-k2-7-code` (Kimi K2.7 Code) --- # Fugu, Fugu Ultra, Google Gemma 4 26B A4B Instruct and 5 more added > 8 models from 3 providers joined the catalog the week of 2026-06-22. - Date: 2026-06-22 - HTML: https://anyrouter.dev/blog/releases/2026-06-22-catalog ## Models - `sakana/fugu` (Fugu) — 272K context · $0 / $0 per 1M - `sakana/fugu-ultra` (Fugu Ultra) — 272K context · $5 / $30 per 1M - `venice/google-gemma-4-26b-a4b-it` (Google Gemma 4 26B A4B Instruct) — 256K context · $0.163 / $0.5 per 1M - `venice/hermes-3-llama-3.1-405b` (Hermes 3 Llama 3.1 405B) — 131K context · $0 / $0 per 1M - `venice/nvidia-nemotron-3-ultra-550b-a55b` (NVIDIA Nemotron 3 Ultra) — 1M context · $0.625 / $3.13 per 1M - `venice/openai-gpt-54-mini` (GPT-5.4 Mini) — 400K context · $0.938 / $5.63 per 1M - `venice/venice-uncensored-role-play` (Venice Role Play Uncensored) — 128K context · $0.5 / $2 per 1M - `z-ai/glm-4.7` (GLM-4.7) — 128K context · $0.14 / $0.28 per 1M --- # Command A, Command A+, DeepSeek V3.1 added > 3 models from 2 providers joined the catalog the week of 2026-06-15. - Date: 2026-06-15 - HTML: https://anyrouter.dev/blog/releases/2026-06-15-catalog ## Models - `cohere/command-a` (Command A) — 256K context · $2.5 / $10 per 1M - `cohere/command-a-plus` (Command A+) — 131K context · $0.3 / $1.5 per 1M - `deepseek/deepseek-v3.1` (DeepSeek V3.1) — 131K context · $0.21 / $0.79 per 1M --- # Claude Fable 5, Claude Opus 4, Claude Opus 4.1 and 11 more added > 14 models from 8 providers joined the catalog the week of 2026-06-08. - Date: 2026-06-08 - HTML: https://anyrouter.dev/blog/releases/2026-06-08-catalog ## Models - `anthropic/claude-fable-5` (Claude Fable 5) — 1M context · $10 / $50 per 1M - `anthropic/claude-opus-4` (Claude Opus 4) — 200K context · $15 / $75 per 1M - `anthropic/claude-opus-4-1` (Claude Opus 4.1) — 200K context · $15 / $75 per 1M - `anthropic/claude-opus-4-5` (Claude Opus 4.5) — 1M context · $5 / $25 per 1M - `minimax/m2.5` (MiniMax M2.5) — 205K context · $0.15 / $0.607 per 1M - `moonshotai/kimi-k2.7-code` (Kimi K2.7 Code) — 262K context · $0.447 / $1.86 per 1M - `openai/gpt-5.5` (GPT-5.5) — 1M context · $2.5 / $15 per 1M - `openai/gpt-5.5-pro` (GPT-5.5 Pro) — 922K context · $30 / $180 per 1M - `stepfun-ai/step-3.5-flash` (Step 3.5 Flash) — 262K context · $0.1 / $0.3 per 1M - `x-ai/grok-4.20-multi-agent` (Grok 4.20 Multi-Agent) — 2M context · $1.25 / $2.5 per 1M - `xiaomi/mimo-v2.5` (MiMo V2.5) — 1.1M context · $0.119 / $0.238 per 1M - `xiaomi/mimo-v2.5-pro` (MiMo V2.5 Pro) — 1.1M context · $0.304 / $0.609 per 1M - `z-ai/glm-5.1` (GLM-5.1) — 200K context · $0.9 / $2.9 per 1M - `z-ai/glm-5.2` (GLM-5.2) — 1M context · $0.55 / $1.76 per 1M --- # Claude Opus 4.8, MiniMax M3, Mistral Medium 3.5 128B and 6 more added > 9 models from 8 providers joined the catalog the week of 2026-06-01. - Date: 2026-06-01 - HTML: https://anyrouter.dev/blog/releases/2026-06-01-catalog ## Models - `anthropic/claude-opus-4-8` (Claude Opus 4.8) — 1M context · $5 / $25 per 1M - `minimax/m3` (MiniMax M3) — 1M context · $0.23 / $0.96 per 1M - `mistralai/mistral-medium-3.5-128b` (Mistral Medium 3.5 128B) — 131K context · $1.5 / $7.5 per 1M - `nousresearch/hermes-3-llama-3.1-405b` (Hermes 3 405B Instruct) — 131K context · $1 / $1 per 1M - `nvidia/nemotron-3.5-content-safety` (Nemotron 3.5 Content Safety) — 131K context · $0.05 / $0.15 per 1M - `openrouter/free` (Free Models Router) — 200K context · $0 / $0 per 1M - `openrouter/fusion` (OpenRouter: Fusion) — 128K context · $0 / $0 per 1M - `qwen/qwen3.7-plus` (Qwen3.7 Plus) — 1M context · $0.138 / $0.55 per 1M - `stepfun-ai/step-3.7-flash` (Step 3.7 Flash) — 262K context · $0.2 / $1.15 per 1M --- # Gemini 2.5 Flash-Lite, Gemini 2.5 Pro, Grok 4.1 Fast Reasoning and 3 more added > 6 models from 2 providers joined the catalog the week of 2026-05-25. - Date: 2026-05-25 - HTML: https://anyrouter.dev/blog/releases/2026-05-25-catalog ## Models - `google/gemini-2.5-flash-lite` (Gemini 2.5 Flash-Lite) — 1M context · $0.075 / $0.3 per 1M - `google/gemini-2.5-pro` (Gemini 2.5 Pro) — 1M context · $0.938 / $7.5 per 1M - `x-ai/grok-4.1-fast-reasoning` (Grok 4.1 Fast Reasoning) — 131K context · $0 / $0 per 1M - `x-ai/grok-4.20-non-reasoning` (Grok 4.20 Non-Reasoning) — 1M context · $1.25 / $2.5 per 1M - `x-ai/grok-4.20-reasoning` (Grok 4.20 Reasoning) — 1M context · $1.25 / $2.5 per 1M - `x-ai/grok-4.3` (Grok 4.3) — 1M context · $1.25 / $2.5 per 1M --- # Claude Opus 4.6, Claude Opus 4.7, Claude Sonnet 4 and 8 more added > 11 models from 6 providers joined the catalog the week of 2026-05-18. - Date: 2026-05-18 - HTML: https://anyrouter.dev/blog/releases/2026-05-18-catalog ## Models - `anthropic/claude-opus-4-6` (Claude Opus 4.6) — 1M context · $5 / $25 per 1M - `anthropic/claude-opus-4-7` (Claude Opus 4.7) — 1M context · $5 / $25 per 1M - `anthropic/claude-sonnet-4` (Claude Sonnet 4) — 1M context · $3 / $15 per 1M - `anthropic/claude-sonnet-4-5` (Claude Sonnet 4.5) — 1M context · $3 / $15 per 1M - `anthropic/claude-sonnet-4-6` (Claude Sonnet 4.6) — 1M context · $3 / $15 per 1M - `google/gemini-3-flash` (Gemini 3 Flash) — 1M context · $0.5 / $3 per 1M - `google/gemini-3.5-flash` (Gemini 3.5 Flash) — 1M context · $0.563 / $3.38 per 1M - `ibm-granite/granite-4.0-h-micro` (Granite 4.0 H Micro) — 128K context · $0.017 / $0.112 per 1M - `mistralai/mistral-small-3.1-24b-instruct` (Mistral Small 3.1 24B Instruct) — 128K context · $0.1 / $0.3 per 1M - `openai/gpt-5.4-pro` (GPT-5.4 Pro) — 1.1M context · $22.5 / $135 per 1M - `x-ai/grok-build-0.1` (Grok Build 0.1) — 256K context · $0.8 / $1.6 per 1M --- # Gemini 3.1 Flash Lite, Gemini 3.1 Pro, Codex Mini (Latest) and 20 more added > 23 models from 3 providers joined the catalog the week of 2026-05-11. - Date: 2026-05-11 - HTML: https://anyrouter.dev/blog/releases/2026-05-11-catalog ## Models - `google/gemini-3.1-flash-lite` (Gemini 3.1 Flash Lite) — 1M context · $0.25 / $1.5 per 1M - `google/gemini-3.1-pro` (Gemini 3.1 Pro) — 1M context · $2 / $12 per 1M - `openai/codex-mini-latest` (Codex Mini (Latest)) — 200K context · $0 / $0 per 1M - `openai/gpt-4.1` (GPT-4.1) — 1M context · $2 / $8 per 1M - `openai/gpt-4.1-mini` (GPT-4.1 Mini) — 1M context · $0.4 / $1.6 per 1M - `openai/gpt-4.1-nano` (GPT-4.1 Nano) — 1M context · $0.1 / $0.4 per 1M - `openai/gpt-4o` (GPT-4o) — 128K context · $2.5 / $10 per 1M - `openai/gpt-4o-mini` (GPT-4o Mini) — 128K context · $0.15 / $0.6 per 1M - `openai/gpt-5` (GPT-5) — 400K context · $1.25 / $10 per 1M - `openai/gpt-5-codex` (GPT-5 Codex) — 400K context · $1.25 / $10 per 1M - `openai/gpt-5-mini` (GPT-5 Mini) — 400K context · $0.25 / $2 per 1M - `openai/gpt-5-nano` (GPT-5 Nano) — 400K context · $0.05 / $0.4 per 1M - `openai/gpt-5.1` (GPT-5.1) — 400K context · $1.25 / $10 per 1M - `openai/gpt-5.1-codex` (GPT-5.1 Codex) — 400K context · $1.25 / $10 per 1M - `openai/gpt-5.1-codex-mini` (GPT-5.1 Codex Mini) — 400K context · $0.25 / $2 per 1M - `openai/gpt-5.2` (GPT-5.2) — 400K context · $1.75 / $14 per 1M - `openai/gpt-5.4-mini` (GPT-5.4 Mini) — 400K context · $0.75 / $4.5 per 1M - `openai/gpt-5.4-nano` (GPT-5.4 Nano) — 400K context · $0.2 / $1.25 per 1M - `openai/o1` (o1) — 200K context · $11.25 / $45 per 1M - `openai/o1-mini` (o1-mini) — 128K context · $0.907 / $3.63 per 1M - `openai/o4-mini` (o4-mini) — 200K context · $0.907 / $3.63 per 1M - `qwen/qwen3-embedding-8b` (Qwen3 Embedding 8B) — 33K context · $0.01 per 1M tokens - `qwen/qwen3.5-397b-a17b` (Qwen 3.5 397B A17B) — 131K context · $0.4 / $1.6 per 1M --- # Gemma 4 26B A4B added > 1 model from 1 provider joined the catalog the week of 2026-03-30. - Date: 2026-03-30 - HTML: https://anyrouter.dev/blog/releases/2026-03-30-catalog ## Models - `google/gemma-4-26b-a4b-it` (Gemma 4 26B A4B) — 262K context · $0.042 / $0.22 per 1M --- # GPT-5.4 added > 1 model from 1 provider joined the catalog the week of 2026-03-02. - Date: 2026-03-02 - HTML: https://anyrouter.dev/blog/releases/2026-03-02-catalog ## Models - `openai/gpt-5.4` (GPT-5.4) — 1.1M context · $2.5 / $15 per 1M --- # GLM-4.7 Flash added > 1 model from 1 provider joined the catalog the week of 2025-04-07. - Date: 2025-04-07 - HTML: https://anyrouter.dev/blog/releases/2025-04-07-catalog ## Models - `z-ai/glm-4.7-flash` (GLM-4.7 Flash) — 200K context · $0.06 / $0.4 per 1M --- # Llama 4 Scout 17B 16E added > 1 model from 1 provider joined the catalog the week of 2025-03-31. - Date: 2025-03-31 - HTML: https://anyrouter.dev/blog/releases/2025-03-31-catalog ## Models - `meta/llama-4-scout-17b-16e-instruct` (Llama 4 Scout 17B 16E) — 131K context · $0.1 / $0.3 per 1M --- # Kimi K2.5 added > 1 model from 1 provider joined the catalog the week of 2025-02-10. - Date: 2025-02-10 - HTML: https://anyrouter.dev/blog/releases/2025-02-10-catalog ## Models - `moonshotai/kimi-k2.5` (Kimi K2.5) — 256K context · $0.287 / $1.51 per 1M --- # Llama 3.1 70B Instruct, Llama 3.1 8B Instruct added > 2 models from 1 provider joined the catalog the week of 2024-07-22. - Date: 2024-07-22 - HTML: https://anyrouter.dev/blog/releases/2024-07-22-catalog ## Models - `meta/llama-3.1-70b-instruct` (Llama 3.1 70B Instruct) — 131K context · $0.4 / $0.4 per 1M - `meta/llama-3.1-8b-instruct` (Llama 3.1 8B Instruct) — 131K context · $0.02 / $0.04 per 1M