上线一周没人审的评论区，我用一条流水线管住了
写在前面
我们是一个五人小团队，做的是一个垂直兴趣社区。产品上线三个月，日评论量从几百涨到接近五千，问题也随之而来：运营只有一个人，评论区开始出现垃圾广告、引战言论和真正的用户反馈混在一起的情况，有价值的声音被淹没，有风险的言论漏审。作为团队的负责人，我必须承认，这件事拖了两周才处理——不是技术难，而是我没想清楚「谁来负责这个流程」。
这篇文章不谈模型原理，只从管理者的角度讲：我们如何设计评论自动分类打标的方案，如何划分人与AI的职责边界，以及如何控制成本和风险。适合同样在小团队、想让AI真正进入业务流程的人参考。
业务痛点：三个必须先想清楚的问题
在动手之前，我逼自己回答了三个问题，这也是我建议任何团队在引入AI前先做的管理功课：
第一，分类标准谁说了算？ 评论区的内容边界是运营判断，不是技术判断。「吐槽产品」和「恶意攻击」的界限，运营说了算。所以第一步不是选模型，而是拉着运营把分类体系定下来。我们最终收敛为六类：正常讨论、产品反馈、违规风险、垃圾广告、引战内容、待人工判断。每类配了三到五个示例和处置规则。
第二，AI错了谁兜底？ AI分类不可能百分之百准确。我们的原则是：AI只做初筛和打标，不做终审。高风险动作（删评、封号）必须由人确认后执行；低风险动作（折叠广告）可以自动化，但要留日志可回溯。
第三，成本怎么管？ 每条评论都调一次大模型，量大后账单会失控。这促使我们做了分级设计（见下文），也是后来引入统一AI API网关的直接原因。
架构设计：三层流水线
整体架构是一条三层流水线：
评论进入
│
▼
┌─────────────┐
│ 第一层：规则引擎 │ ── 命中黑名单关键词/明显广告特征 → 直接打标，零成本
└─────────────┘
│ 未命中
▼
┌─────────────┐
│ 第二层：轻量模型 │ ── 小模型快速分类，置信度 ≥ 0.9 → 采纳结果
└─────────────┘
│ 置信度低 / 高风险类
▼
┌─────────────┐
│ 第三层：大模型复审 │ ── 强模型 + 详细 few-shot 提示词 → 输出结构化标签 + 理由
└─────────────┘
│
▼
低风险 → 自动处置并记录
高风险 → 进入人工审核队列（附带AI理由，供审核员参考）这个分级设计的价值在于管理层面：约七成的评论被第一、二层拦截，只有不到三成进入大模型，成本可控；而所有进入人工队列的内容都附带AI给出的分类理由，审核员不是从零判断，而是做「确认或推翻」，效率高了很多。
关键实现步骤
第一步：定义标签 schema。 用JSON Schema约束模型输出，杜绝自由文本带来的解析问题：
{
"category": "enum: [normal, feedback, risk, spam, flame, unsure]",
"confidence": "0-1",
"reason": "一句话分类依据",
"suggested_action": "enum: [pass, fold, queue_manual]"
}第二步：写分类提示词。 提示词里包含六类各自的定义、边界案例（由运营提供）和输出格式要求。边界案例尤其重要——「这App真难用」是反馈，「做这App的人脑子有问题」是引战，这类例子写进提示词后，误判率明显下降。
第三步：搭流水线。 消息队列承接评论事件，逐层过滤，结果写入数据库并打标。人工审核队列做了个极简后台页面，审核员的每次「确认/推翻」都记录在案——这些数据每周回灌一次，用来优化提示词和补充边界案例，形成闭环。
第四步：上线灰度。 先只打标不处置，跑了五天，人工抽检对比AI结果，符合率达标后才开放自动折叠等低风险动作。高风险处置始终保留人工确认环节。
为什么统一AI API网关能降低维护成本
这里必须单独说，因为它是我们踩过坑之后的选择。最初我们直连某家模型API，很快遇到三个麻烦：一是不同任务想用不同模型（轻量分类用小模型，复审用强模型），各家的SDK、鉴权、参数格式都不一样，代码里到处是分支；二是某次供应商限流，流水线积压，评论区又乱了两天；三是想统一统计各环节的调用量和成本，发现根本没有现成数据。
切换到统一AI API网关后，这些问题一次性解决：
- 一套接口，多模型切换。 分类逻辑不变，换模型只改一个模型名参数。我们做轻量模型A/B对比时，半天就完成了，不用改任何业务代码。
- 多源冗余，自动降级。 网关配置了备用模型源，主源限流或超时自动切换，流水线不再因单一供应商故障而停摆。
- 统一计量与预算。 所有调用走同一个出口，调用量、成功率、成本一目了然，我每周看一次报表就能掌握开销，不用再找开发拉数据。
对小团队来说，这本质上是把「模型运维」这件事外包给了专业层，团队自己只专注分类逻辑和业务流程。省下来的维护时间，比网关的使用成本值钱得多。
管理者视角的三个心得
- AI落地首先是流程设计，其次才是技术选型。 分类标准、人机职责边界、兜底机制，这些定了，技术实现反而不难。
- 灰度和回溯机制不能省。 AI出错不可怕，可怕的是错了没人知道。日志、抽检、人工闭环，是敢于放手自动化的前提。
- 把模型层抽象出来。 模型会换、供应商会挂，业务逻辑不应该跟着它们一起动荡。
这套方案上线两个月，评论区的人工审核工作量降到了原来的三成左右，而漏审投诉反而更少——因为机器不会因为疲劳而漏看。如果你也在做类似的AI应用，想低成本体验多模型切换和统一网关的能力，可以看看这个平台：https://api.thistoken.ai/register
---
本文的示例只需一个 API Key 就能复现：在 https://api.thistoken.ai/register 注册即用。