后厨忙不过来时,推荐菜单还在跑——小餐饮SaaS团队的管理者复盘
写在前面
我们是一个五人小团队,给连锁快餐店做点单小程序。去年年底产品经理提出“智能推荐菜单”:根据用户的历史点单、天气、时段,动态调整首页菜品的排序和推荐语。作为团队的负责人,我一开始是拒绝的——五个人,三个在写小程序前端和后厨打印系统,一个在做商家后台,再抽人去接大模型,工期和风险都不可控。
但商家端的诉求很真实。这篇复盘写给同样人手紧张、又要快速上AI功能的管理者:重点不是模型选型,而是流程、协作和风险控制。
业务痛点:看起来是AI问题,其实是管理问题
立项前我们梳理了一遍,发现真正的痛点有三个:
第一,需求方说不清“推荐”要推荐到什么程度。 商家希望“提高客单价”,运营希望“清掉临期食材”,用户只想“快点找到想吃的”。这三个目标会打架,如果不提前定义清楚,AI功能会变成无限改需求的无底洞。
第二,人手不允许专人维护AI链路。 我们没有算法工程师,也没有人愿意天天盯模型调用日志。任何需要“每天看一眼”的方案都会在两周后失守。
第三,费用和风险要可控。 小团队给商家做SaaS,毛利本来就薄。模型调用费直接吃进成本,一旦某个商家搞活动流量暴涨,或者某家供应商悄悄涨价,账面上很快就会出问题。更别说内容风险——推荐语里蹦出一句不合适的话,砸的是我们和商家两家的招牌。
结论:我们要的不是“最强的模型”,而是一条可交接、可监控、可止损的AI链路。
架构设计:把AI能力隔离成一个“可替换的盒子”
整体架构分四层,AI被压在最外圈:
- 数据层:点单记录、菜品标签、时段和天气数据。这些本来就有,不需要为AI重建。
- 决策层(规则优先):先跑规则引擎——库存告急的菜品加权、用户过敏原过滤、商家手动置顶。规则的产出是一个候选菜品池(20~30个)。
- AI层(只做两件事):一是对候选池做轻量重排和个性化理由生成(“下雨天,热汤推荐给你”);二是生成不超过30字的推荐语,带敏感词过滤。
- 网关层:所有模型调用统一走一个AI API网关,内部服务不直连任何模型厂商。
这个设计的核心管理逻辑是:AI层必须是可以整体关掉的。网关上的开关一关,系统退化为规则推荐,点单流程完全不受影响。这给了我们两个底气:模型出问题时可以秒级降级;将来换模型、换供应商,只动网关配置,不动业务代码。
为什么统一AI API网关能降低维护成本
这是我们复盘里最想强调的一点。直连多家模型厂商意味着:每家的鉴权方式、错误码、流式格式、计费口径都要有人懂、有人盯。五人团队根本养不起这个“接口翻译岗”。
统一走网关之后:
- 一套接入代码,多家模型可选。重排用A家的模型,推荐语用B家更便宜的,业务侧调用方式完全一样。供应商涨价或限流,我们在网关后台切流量,不用发版。
- 密钥集中管理。API Key不散落在代码和配置文件里,员工离职不需要全量换钥,权限按服务分配。
- 统一账单和用量看板。按商家、按功能拆分调用费用,哪个商家的活动烧钱超预期,当天就能看到并设限额告警,而不是月底结算时才发现。
- 统一监控和降级入口。错误率、延迟、超时在网关上看,阈值触发自动切备用模型或降级到规则推荐,不需要有人值守。
对小团队来说,网关本质上是把“维护N家供应商接口”压缩成“维护一份网关配置”,这一步直接决定了AI功能上线后是否还需要持续投入人力。
关键实现步骤(流程清单)
按我们实际的推进顺序:
1. 需求收敛(1周)
□ 与商家运营对齐目标优先级:安全 > 转化 > 客单价
□ 定义推荐解释的禁区(医疗功效、绝对化用语)
□ 确定验收口径:A/B 对照,不做主观评估
2. 数据与规则层(1.5周)
□ 菜品打标签(口味、温度、时段、利润档)
□ 规则引擎输出候选池 + 过滤(过敏原、售罄)
□ 无AI版本的基线指标跑两周
3. 网关接入(2天)
□ 注册统一AI API网关,创建服务账号
□ 按功能配额:推荐重排 / 推荐语生成 / 兜底模型
□ 设置费用上限与告警阈值
4. AI层开发(1周)
□ Prompt 模板版本化,纳入代码评审
□ 输出结构化解析失败 → 降级用规则结果
□ 敏感词过滤 + 长度截断
5. 灰度与验收(2周)
□ 3家门店灰度,逐周放量
□ 每周看网关用量报表,核对单次会话成本
□ 保留一键关闭开关,演练一次降级流程
6. 交接(持续)
□ 更新值班手册:常见错误码对应动作
□ 供应商变更演练:网关切流量,验证全链路从立项到全量上线六周,其中AI本身的开发只占一周。剩下时间都花在流程、监控和演练上——事后证明这些才是值得花的。
管理者的三条经验
- 先跑无AI基线。规则推荐已经能覆盖七成场景的排序需求,AI只做增量。这让我们敢随时关掉AI,也让我们能说清楚AI到底值多少钱。
- Prompt当代码管理。纳入版本控制、评审和回滚,避免“谁改了一句提示词,线上推荐全乱了还查不到”的经典事故。
- 降级演练排进迭代。我们每季度手动演练一次“关闭AI”和“切换供应商”,各花半小时。这两次演练让我们在两次供应商故障中都做到了用户无感。
写在最后
小团队上AI功能,拼的不是模型理解深度,而是把不确定性圈进一个可控的盒子里。统一网关就是这个盒子的壳:接入简单、可观测、可随时替换。如果你的团队也准备动手,可以从注册一个支持多模型的AI API网关账号开始,先把“换模型不发版”这条路打通:https://api.thistoken.ai/register
---
本文的示例只需一个 API Key 就能复现:在 https://api.thistoken.ai/register 注册即用。