Skip to content
全部文章

Bison 1 与 Groundhog 1:AnyRouter 上的长上下文决策模型

Base Labs 的两个新决策模型已通过 Baseten BYOK 上线 AnyRouter。两者都支持 128K 上下文下的文本与图像输入,并返回选择、是/否和评分问题的校准概率。


基于美国底座的两个决策模型

Base Labs 是 Baseten Model APIs 背后的研究团队,于 11 月 20 日发布了 bison-1 和 groundhog-1。两者都是基于 Google Gemma 4 后训练的决策模型,现已通过 Baseten 上的 BYOK System One 路由上线 AnyRouter。

决策模型不撰写答案。你提供一段状态和一组命名问题,模型为每个问题返回结构化结果:选中的选项、是/否概率,或评分。这适用于路由、分类、策略检查和按量规打分——你需要的是可以设阈值的概率,而不是需要解析的文本。

ModelBackboneParametersContextPrice per 1M input
Bison 1Gemma 4 31B31B128K$0.10
Groundhog 1Gemma 4 26B-A4B26B (about 4B active)128K$0.035
Figure 1: The two new models in the Base Labs family. Source: Baseten.

两者都接受状态中的文本和图像。128K 上下文是上一代产品的八倍,当改变决策的细节深藏于长策略文档或会话历史中时,这一点很重要。

准确度如何?

在独立决策指数 v2.1 上,bison-1 在 19 个决策模型中排名第一,得分 76,领先于得 75 的 d1.2-ultra 和得 71 的 mammoth-1。它的 Brier 分数也是该指数上最低的 0.14,意味着它报告的置信度接近实际正确率。Baseten 预计 groundhog-1 在官方指数上达到 mammoth-1 的水平,但发布时未公布分数。

Independent decision index v2.1

Scores published in the Baseten launch post.

Bison 176
d1.2-ultra75
Mammoth 171
Figure 2: Decision index scores reported by Baseten at launch.
Bar chart of decision index v2.1 scores, with bison-1 at 76 ahead of d1.2-ultra at 75 and mammoth-1 at 71
bison-1 at the top of the decision index. Chart: Baseten / Base Labs; results are the vendor's published claims.
Accuracy against time per task for the Base Labs decision family, with bison-1, mammoth-1 and elephant-1 on the Pareto frontier
The family's accuracy-versus-time frontier. Chart: Baseten / Base Labs; results are the vendor's published claims.

在 AnyRouter 上使用

两个模型都仅支持 BYOK。在 Dashboard → BYOK 添加 Baseten API 密钥,由 Baseten 直接向你的账户计费;AnyRouter 对该路由不收费。模型 ID 是 baselabs/bison-1 和 baselabs/groundhog-1。

Decisions CLI
anyr decision --model "baselabs/bison-1"
The lower-cost long-context option
anyr decision --model "baselabs/groundhog-1"

底层调用会向 Baseten 原生 /v1/systemone 端点发送 {model, state, questions}。问题类型为 choice、noul(是/否)和 score(按量规评分)。每个答案都带概率,choice 和 score 还带置信度值。

它们不是什么

它们是结构化分类器,不是聊天模型。它们不维持对话,也不撰写长文本。Baseten 还指出,API 接受的图像 URL 必须是 base64 数据 URL,或来自 Amazon S3、Google Cloud Storage 或 Azure Blob Storage 的对象。

两分钟发第一笔请求

用自己的 key 免费开始,或充值按 token 计费。Go 每月 $4 额度 — $2/月,或捐一把 provider key 免费开通。