把每家 LLM API 统一到一个端点后面

大多数团队最后会对接好几家模型供应商——便宜的做批量、强的做难 prompt、快的走延迟敏感路径。每家自带 SDK、base URL、鉴权头、请求体、流式格式和错误码。这块表面积是你每加一个新模型、每次升级都要交的税。

• 每加一家供应商就要一套新 SDK 和鉴权流程。
• 没有一个地方看跨厂商的花费、延迟或错误率。
• 为了成本或质量换模型意味着改代码并重新部署。
• 一家供应商宕机，就变成你产品宕机。

统一意味着在每家供应商前面放一份兼容 OpenAI 的契约。模型 id 变成 provider/model 字符串，换模型是配置值——不是一次集成。你还得到一把 key、一张账单、一份跨全部供应商的审计日志，以及上游挂掉时的自动故障切换。

from openai import OpenAI

client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...")

for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro"]:
  resp = client.chat.completions.create(
      model=model,
      messages=[{"role": "user", "content": "Hello"}],
  )

统一层只有在离开它很容易时才安全。因为契约是标准 OpenAI API，同一份代码可以直接指回任意供应商——没有以后要撕掉的专有 SDK。