三个人、四个部门的需求单——智能文档摘要系统从立项到验收的三十天
一、业务痛点：摘要这件“小事”为什么拖了半年
我们是一家六十人左右的知识服务公司，内部沉淀着大量合同、调研报告、会议纪要和客户交付文档。业务部门反复提需求：法务要快速过合同要点，销售要一分钟了解客户背景，编辑要从三十页调研里提取摘要。
这些需求分散在四个部门的待办里，各自找过工具：有人用免费网页版贴敏感合同，有人手动复制粘贴大模型对话，有人干脆放弃。作为技术负责人，我盘了一下，痛点其实是三层：
- 流程缺失：谁提需求、谁排期、谁验收，没有统一入口，半年开了四次会没有结论。
- 协作混乱：三个开发各自写了一套调用脚本，密钥散落在个人电脑和代码注释里。
- 风险失控：敏感文档被贴进不可控的外部网页，一旦出事没人担责。
管理者的结论是：先立规矩，再上系统。目标定得很克制——三十天内上线一个内部文档摘要系统，覆盖 PDF、Word、Markdown 三种格式，输出结构化摘要，全程留痕。
二、架构设计：把“人治”变成“流程治理”
架构上我们刻意做减法，分四层：
- 入口层：一个内部 Web 应用，所有部门走同一个入口提交文档，杜绝私下使用外部工具。
- 任务层：文档上传后进入任务队列，异步处理，避免长文档阻塞；每个任务绑定提交人、部门、文档密级。
- AI 网关层：所有模型调用统一经过一个 AI API 网关。这一层是整个系统成本控制的关键，后面单独说。
- 审计层：每次调用的输入摘要哈希、模型、token 用量、耗时全部落库，月度出报表。
管理者最关心的是风险控制，我们定了三条红线：
- 密级为“高”的文档只允许调用指定模型，且日志保留六个月。
- 单文档超长自动分段摘要再合并，防止超限报错导致任务静默失败。
- 单部门月度 token 设预算阈值，超 80% 自动通知部门负责人。
三、关键实现步骤
三十天的排期大致如下（流程清单）：
第 1 周：需求收敛与规则制定
- 各部门提需求 → 合并为三档摘要模板（合同要点/调研摘要/会议纪要）
- 确定文档密级分类标准与审批人
第 2 周：架构搭建
- 部署内部 Web 应用（上传、队列、结果页）
- 接入统一 AI API 网关，配置模型路由与密钥
- FastAPI + Celery 异步任务，PostgreSQL 存任务与审计日志
第 3 周：摘要链路与模板
- PDF/Word 解析 → 清洗 → 分段 → Map-Reduce 摘要 → 模板化输出
- 普通文档用性价比模型，高密级路由到指定模型
第 4 周：验收与治理
- 三部门各出 20 份真实文档做盲评（人工摘要 vs 系统摘要）
- 上线审计报表与预算告警，写进运维手册核心调用侧的代码非常薄，因为网关把差异都挡住了：
async def summarize(text: str, level: str) -> str:
model = MODEL_ROUTING[level] # 按密级路由模型
resp = await gateway.chat(
model=model,
messages=[
{"role": "system", "content": TEMPLATES[level]},
{"role": "user", "content": text},
],
timeout=60,
)
audit_logger.log(model=model, usage=resp.usage, level=level)
return resp.content四、为什么统一 AI API 网关能降低维护成本
上线前我们算过一笔账，如果三个开发各自直连不同模型厂商的 API，维护成本会体现在四个地方：
- 一套密钥改三处：厂商换接口版本、调限流策略，每个直连的脚本都要改一遍。走网关后只改网关配置，应用层代码不动。
- 统一计费与预算：所有调用经过同一出口，token 用量天然可按部门、按任务归集，不需要月底人工对账三家厂商的账单。
- 故障单点收敛：某模型超时或限流，网关统一做重试和降级切换，业务代码里不用每个开发各写一套重试逻辑——这正是之前“三份脚本”最大的隐性成本。
- 权限集中管控：模型白名单、密级路由规则都在网关侧配置，人员离职不用到处回收散落的 API Key，审计也有唯一可信数据源。
对三人小团队来说，这等于把“每个开发维护一份集成”压缩成“团队维护一份配置”，人力省下的时间够每周多做一次模板迭代。
五、验收结果与经验
盲评结果是三个部门的摘要采纳率均超过八成，编辑部门反馈节省最明显。但比数字更重要的是治理效果：三个月内没有再出现敏感文档外流事件，月度 AI 开销报表成了管理层例会的固定材料。
回头看，管理者在 AI 应用落地里最该做的不全是技术选型，而是三件事：把需求收进一个入口、把调用收进一个网关、把风险收进一张报表。
如果你的团队也在准备搭建类似的 AI 应用，可以从一个支持多模型统一接入的 AI API 网关开始，把治理的地基先打好，注册入口在这里：https://api.thistoken.ai/register
---
本文的示例只需一个 API Key 就能复现：在 https://api.thistoken.ai/register 注册即用。