Thống nhất mọi LLM API sau một endpoint

Hầu hết team cuối cùng nói chuyện với vài nhà cung cấp model — model rẻ cho việc hàng loạt, model mạnh cho prompt khó, model nhanh cho đường nhạy latency. Mỗi nhà mang SDK, base URL, header auth, body request, format stream, và mã lỗi riêng. Diện tích đó là thuế bạn trả mỗi model mới và mỗi lần nâng.

• SDK mới và luồng auth mỗi nhà cung cấp bạn thêm.
• Không một chỗ xem spend, latency, hay tỷ lệ lỗi xuyên vendor.
• Đổi model vì giá hay chất lượng nghĩa là đụng code và redeploy.
• Outage một nhà cung cấp thành outage sản phẩm của bạn.

Thống nhất nghĩa là một hợp đồng tương thích OpenAI trước mọi nhà cung cấp. Model id thành chuỗi provider/model, nên đổi model là giá trị config — không phải tích hợp. Bạn cũng có một key, một hóa đơn, một audit log trên tất cả, cộng failover tự động khi upstream chết.

from openai import OpenAI

client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...")

for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro"]:
  resp = client.chat.completions.create(
      model=model,
      messages=[{"role": "user", "content": "Hello"}],
  )

Lớp thống nhất chỉ an toàn nếu rời đi dễ. Vì hợp đồng là API OpenAI chuẩn, cùng code chỉ thẳng lại bất kỳ nhà cung cấp — không SDK độc quyền phải xé sau này.