Dify 接自定义模型只花了 8 分钟——省下的那个下午我拿去重构了配置管理

为什么要接入统一网关

独立开发者和小团队用 Dify 搭应用时，最磨人的环节往往不是编排流程，而是模型配置：每换一个模型就要去对应平台注册、充值、看文档、改代码，一个下午就这么没了。我之前做过一次粗略记录——接三个不同的模型供应商、跑通联调，前后花了将近 4 个小时，其中真正写代码的时间不到 20 分钟，剩下都在注册账号、等审核、找 API 端点、对齐各家 SDK 的差异。

后来我把 Dify 里所有自定义模型统一接到 ThisToken.AI 的网关上，情况变成这样：

一次接入省下约 3 小时，之后每次切换模型再省半小时。对小团队来说，这就是每周实打实多出来的一次代码评审时间。

下面是完整操作步骤，照做大约 8 分钟跑通。

第一步：注册并获取 API Key

1. 打开 ThisToken.AI 官网，完成注册（邮箱即可，无需漫长审核）。
2. 进入控制台，找到「API Keys」页面，点击创建新 Key。
3. 复制并妥善保存 Key。建议直接存入环境变量，不要写死在代码或截图里。

计费方面不做猜测，以官网价格页为准。

第二步：用 20 行代码验证连通性

先别急着动 Dify，用一段最小代码确认 Key 和端点都正常。ThisToken.AI 提供 OpenAI 兼容接口，所以任何 openai SDK 都能直接用——这就是省时间的核心：你已有的代码几乎不用改，只换 base_url。

保存为 test_gateway.py：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ.get("THISTOKEN_API_KEY"),
    base_url="https://api.thistoken.ai/v1",
)

resp = client.chat.completions.create(
    model="gpt-4o-mini",  # 网关支持的模型名，以文档为准
    messages=[
        {"role": "system", "content": "你是一个简洁的助手"},
        {"role": "user", "content": "用一句话解释什么是API网关"},
    ],
    temperature=0.7,
)

print(resp.choices[0].message.content)

运行：

export THISTOKEN_API_KEY="sk-你的key"
python test_gateway.py

看到一句话回答，说明链路已通。这一步我在统一网关上花的时间是 3 分钟；对比之前单独接某家供应商时，光是对齐它的鉴权格式就折腾了近半小时。

第三步：在 Dify 中配置自定义模型

1. 进入 Dify 后台，打开「设置 → 模型供应商」。
2. 找到 OpenAI-API-compatible（OpenAI 兼容）选项，点击添加。
3. 填写：

• Model Name：填网关支持的模型名（如上一步验证过的那个）
• API Key：粘贴你的 ThisToken.AI Key
• API endpoint URL：https://api.thistoken.ai/v1

1. 保存后，在模型的「凭据」里点「验证」，通过即接入成功。

之后在任意应用的编排页面，模型下拉框里就能选到它。想换模型？回到设置里新增一条，填不同的 Model Name 就行——不用重新注册账号，不用改一行业务代码。我们团队后来做 A/B 测试，切换两个模型的全部操作是 40 秒。

几个避坑提醒

• Key 管理走环境变量或密钥管理服务，别在 Dify 的提示词或日志输出里带出来。
• 模型名以网关文档为准，不同模型的能力和上下文长度有差异，先小流量验证再上生产。
• 请求失败先查模型名拼写，OpenAI 兼容接口最常见的报错就是模型名对不上。

算一笔总账

统一网关带来的效率提升可以量化：首次接入从约 4 小时压缩到 15 分钟以内；日常换模型从半小时变成一分钟；排查问题只需要盯一个端点的日志，而不是在三个控制台之间来回切换。对一个两三个人的小团队，这些碎片时间累积起来，一个月省出一天并不夸张。

省下来的时间才是真正的收益——你可以拿去做该做的事：写代码、测 prompt、跟用户聊需求。

如果你也想把这个下午赎回来，可以从注册开始：https://api.thistoken.ai/register

---

想直接跑通示例？访问 https://api.thistoken.ai/register 注册 ThisToken.AI，获取 API Key 后即可开始。