Baseten on Hugging Face Inference Providers 🔥
TL;DR · AI 摘要
Baseten成为Hugging Face Hub支持的推理服务提供商，支持多种模型并提供集成方法，提升开发者使用AI模型的便利性。
核心要点
- Baseten支持包括DeepSeek V4 Flash、GLM-5.2等在内的多个前沿模型。
- 开发者可通过Hugging Face SDKs（Python和JavaScript）直接调用Baseten服务。
- Hugging Face账户可设置自定义API密钥，请求可直接路由至Baseten或通过HF处理。
结构提纲
按章节快速跳转。
- §引言
宣布Baseten成为Hugging Face Hub支持的推理服务提供商，扩展模型服务能力。
- ·核心机制
Baseten支持LLM、语音合成等模型类型，首批集成对话和文本生成任务。
- ›使用方式
通过网页UI设置API密钥，支持自定义密钥和HF路由两种调用模式。
提供Python和JavaScript SDK，示例展示如何调用DeepSeek V4 Flash模型。
兼容Pi、OpenCode等主流Agent Harness，无需额外代码即可接入模型。
- ·未来计划
将逐步扩展支持更多任务类型，如图像生成、代码生成等。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- Baseten on Hugging Face
- 支持的模型
- DeepSeek V4 Flash
- GLM-5.2
- Kimi K3
- 集成方式
- 网页UI设置API密钥
- Python/JS SDK调用
- Agent Harness兼容
- 使用模式
- 自定义密钥直连
- 通过HF路由
金句 / Highlights
值得收藏与分享的关键句。
Baseten支持包括Kimi K3、DeepSeek V4 Flash、GLM-5.2等在内的多个前沿模型。
通过Hugging Face SDKs可直接调用Baseten服务，无需额外配置。
Hugging Face账户可设置自定义API密钥，请求费用直接计入HF账户。
Baseten 在 Hugging Face 推理服务提供商中 🔥
返回文章列表
[-1
]
[0
发布于 2026 年 8 月 6 日
GitHub 上的更新
点赞
25
[
- +19
Alex Ker
alexker-baseten
关注
baseten
Roland Crosby
rolandcrosby-baseten
Sid Shanker
squidarth
Johan
johan-baseten
Célina Hanouti
celinah
Simon Brandeis
sbrandeis
Lucain Pouget
Wauplin
merve
我们非常高兴地宣布，Baseten 现在已成为 Hugging Face Hub 的官方推理服务提供商！
Baseten 加入我们不断扩展的生态系统，直接在 Hub 的模型页面上增强无服务器推理的广度和能力。推理服务提供商还与我们的客户端 SDK（适用于 JS 和 Python）无缝集成，使您能够轻松使用各种模型并选择首选提供商。
Baseten 是一个覆盖无服务器 AI、训练等的 AI 基础设施平台。通过包含大量前沿模型的目录，Baseten 让开发者能够以最小的设置将各种 AI 功能快速集成到其应用中。
Baseten 支持广泛类型的模型 - 从 LLM 到文本到语音等。作为此次集成的一部分，Baseten 在 Hugging Face 上推出对对话和文本生成任务的支持，使用户可以访问 Kimi K3、最新 DeepSeek V4 Flash、GLM-5.2 等流行开源权重 LLM。其他任务的支持也将很快推出！
查看 Baseten 支持的完整模型列表。
在 Hugging Face 上关注 Baseten：https://huggingface.co/baseten .
实现方式
在网站 UI 中
- 在您的用户账户设置中，您可以：
- 为已注册的提供商设置自己的 API 密钥。如果没有设置自定义密钥，您的请求将通过 HF 路由。
- 按偏好顺序排列提供商。这适用于模型页面中的小部件和代码片段。
- 如前所述，调用推理服务提供商时有两种模式：
- 自定义密钥（请求直接发送到对应的推理服务提供商，使用您自己的 API 密钥）
- 通过 HF 路由（在这种情况下，您不需要提供商的令牌，费用将直接从您的 HF 账户收取，而不是提供商的账户）
- 模型页面展示第三方推理服务提供商（与当前模型兼容的提供商，按用户偏好排序）
通过客户端 SDK
Baseten 可通过 Hugging Face SDK 访问 - Python 使用 huggingface_hub（>= 1.26.1），JavaScript 使用 @huggingface/inference。
以下示例展示了如何通过 Baseten 使用最新的 DeepSeek V4 Flash。使用 Hugging Face 令牌进行身份验证 - 请求将自动路由到 Baseten。
#### 通过您最喜欢的 Agent Harness
Hugging Face 推理服务提供商已集成到大多数 Agent Harness 中 - 包括 Pi、OpenCode、Hermes Agents、OpenClaw 等。这意味着您可以直接将 baseten 托管的模型插入到您最喜欢的工具中，无需任何额外的胶水代码。浏览完整的集成列表。
#### 通过 Python
import
os
from
openai
import
OpenAI
client = OpenAI(
base_url=
"https://router.huggingface.co/v1"
,
api_key=os.environ[
"HF_TOKEN"
],
)
completion = client.chat.completions.create(
model=
"deepseek-ai/DeepSeek-V4-Flash-0731:baseten"
,
messages=[
{
"role"
:
"user"
,
"content"
:
"编写一个使用记忆化的 Python 函数，返回第 n 个斐波那契数。"
}
],
)
print
(completion.choices[
0
].message)#### 通过 JS
import { OpenAI } from "openai" ; const client = new OpenAI ({ baseURL : "https://router.huggingface.co/v1" , apiKey : process. env . HF_TOKEN , }); const chatCompletion = await client. chat . completions . create ({ model : "deepseek-ai/DeepSeek-V4-Flash-0731:baseten" , messages : [ { role : "user" , content : "Write a Python function that returns the nth Fibonacci number using memoization." , }, ], }); console . log (chatCompletion. choices [ 0 ]. message );
## 计费
对于直接请求，即使用推理服务提供商的密钥时，您将根据对应提供商的计费标准进行收费。例如，如果您使用的是 baseten API 密钥，您将在 baseten 账户上被计费。
对于路由请求，即通过 Hugging Face Hub 进行身份验证时，您只需支付标准提供商的 API 费率。我们不会额外加价；我们只是直接传递提供商的费用。（未来，我们可能会与提供商合作伙伴建立收入分成协议。）
重要提示 ‼️ PRO 用户每月可获得价值 2 美元的推理积分。您可以在所有提供商之间使用这些积分。🔥
订阅 Hugging Face PRO 计划，即可获得推理积分、ZeroGPU、Spaces Dev 模式、20 倍更高的限制等权益。
我们还为已登录的免费用户提供一定配额的免费推理服务，但如果您有能力请升级到 PRO 吧！
## 反馈与下一步
我们非常期待您的反馈！在这里分享您的想法和评论：https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49
## 本文提到的模型 3
## 本文提到的 Spaces 1
更多来自我们博客的文章
llms
inference-providers
deepinfra
## Hugging Face 推理服务提供商上的 DeepInfra 🔥
- +4
14
2026年4月29日
scaleway
## Hugging Face 推理服务提供商上的 Scaleway 🔥
- +5
24
2025年9月19日
### 社区
AlessandroAle83
1天前
[2
感谢，出色的工作。我很快会仔细查看！
查看翻译
回复
编辑
预览
通过将文件拖入文本输入框、粘贴或
点击此处
上传图片、音频和视频。
轻点或粘贴此处以上传图片
评论
· 注册或登录以评论
- +13