商户经营助手出事那,林凡刚把午饭督工位。
饭盒里是青橙数科食堂的番茄炒蛋。番茄少,蛋少,汤很多,像一份对番茄炒蛋进行过抽象表达的菜。林凡刚夹起一块看起来像蛋的东西,项目群就炸了。
客户经理连发三条:
“便利店项目出问题了。”
“促销建议推错了。”
“客户很急,所有人会议室。”
林凡放下筷子,心里一沉。
商户经营助手是第 59 章那个试点项目。系统给连锁便利店门店提供内部问答和促销建议。为了避免 AI 乱出主意,他们已经加了规则:临期食品、价格调整、会员优惠、合规处理必须引用内部规范,不能直接给结论。林凡以为这个项目至少不会在临期食品上摔第二次。
事实证明,项目很会寻找新的摔法。
事故发生在“节日组合推荐”功能。某门店店长询问:“明社区有老人活动,适合推什么套餐?”系统根据门店库存、历史销量和活动关键词,建议推出“银发关怀套餐”:低糖饼干、无糖饮料、护眼湿巾、保温杯。听起来没问题。
问题是,它又建议搭配一款“助眠香薰贴”。
那款商品在内部规范里属于普通日用品,不能和老人健康活动绑定宣传,更不能暗示改善睡眠。系统没有直接治疗,但推荐文案里写了一句:
“让长辈在活动后睡得更安心。”
门店店长直接把建议发到社区合作群,社区工作人员看到后立刻提醒:这个表述不合适,容易被理解成健康功效宣传。客户总部很紧张,要求青橙数科解释。
会议室里,钱总脸色不好。客户经理脸更白,因为他已经向客户夸过系统“合规可控”。刘洋调日志,许丹翻需求文档,王启打开测试记录。林凡看着那条推荐,胃口彻底没了。
“来源呢?”他问。
刘洋:“系统引用了库存表、活动标签和商品基础信息,没有引用健康宣传规范。”
“为什么没触发红色规则?”
“因为商品分类是日用品,不是药品、保健品,也不是食品临期。”
林凡明白了。
规则把“健康功效宣传”绑在高风险商品上,却漏掉了普通商品在特定场景下被赋予健康暗示。助眠香薰贴本身可以卖,放进老人活动套餐里,再配上“睡得更安心”,就开始危险。
客户经理急道:“先别分析这么多,客户要回复。”
钱总看向林凡:“你来写。”
林凡没有争。他先让刘洋暂停节日组合推荐功能,再让客户经理通知客户撤回那条群消息,改发人工审核版活动方案。他自己写明:系统推荐存在场景识别不足,已暂停相关功能;该文案未经人工确认,不应作为正式宣传;青橙数科将补充“普通商品健康暗示”规则,并提供人工复核清单。
许丹看完,:“把责任写得太重了吧?”
林凡:“轻了客户不会信。”
钱总皱眉,但没改。
救场很快见效。客户总部接受了明,社区群里的消息也及时撤回,没有造成公开传播。门店店长虽然抱怨系统“害我差点挨批”,但事情没有扩大。
下午复盘会,锅开始出现。
客户经理先:“这个文案是系统自动生成,但最后配置规则是项目负责人确认的。”
林凡抬头。
钱总看了一眼会议纪要,没话。
刘洋:“规则是三方评审过的,不是林凡一个人确认。”
客户经理急了:“我不是甩锅,我是客户问责任归属,我们总要有个解释。”
王启声:“解释不是找个人。”
许丹也:“这个问题属于场景规则缺口,不能简单谁最后确认谁负责。”
客户经理摊手:“可客户不懂这些。他们只知道我们过有人工审核。”
林凡心里那股熟悉的冷意又来了。
AI 生成错了,系统规则漏了,项目流程赶了,客户经理宣传夸了,最后“人工审核”四个字像一张椅子,被推到他身后,让他坐上去。
老周坐在后排,终于开口:
“人工审核是谁?”
客户经理:“项目负责人。”
老周问:“项目负责人审核了每一条门店实时建议吗?”
“没樱”
“那就别这么写。”
会议室安静。
老周把日志投到屏幕上,指着流程:“这里是规则配置,产品、技术、项目都签了。这里是客户开启自动建议,客户经理培训时没有强调必须人工确认。这里是门店店长直接转发,没有走总部审核。责任链是这样的,不是一根线吊在林凡脖子上。”
林凡低头看着桌面,心里松了一点,又有点难受。
钱总叹了口气。
“复盘按责任链写,不写个人背锅。客户那边我去解释。”
客户经理脸红:“我刚才不是那个意思。”
林凡:“我知道。”
他其实不知道,也不想追究。人在压力下会找最近的出口,背锅也是一种出口。只是如果每次出口都通向最后救场的人,那以后谁还敢救?
晚上,林凡把这件事写进笔记:
救场的人,不能自动变成事故责任人。
又写:
人工兜底不是人工背锅。
云启未来群里,张磊听完气得不校
“这不就是谁擦屁股谁承认自己拉的?”
何苗:“比喻难听,但准确。”
林凡笑了一下。
张磊:“你以后救场前先录音。”
何苗:“留记录是对的。”
林凡点头。他想起老周白板上的“责任链”。那时候只是概念,这次变成了真实的会议室、真实的日志、真实的沉默和真实的锅。
第二,青橙数科更新项目流程。所有 AI 自动建议上线前,必须明确:生成责任、审核责任、发布责任、客户使用责任。培训材料里加粗一行:
“系统建议不得未经人工确认直接对外发布。”
市场部同事这句话太硬。
老周:“硬点好,软了容易甩。”
云启未来白板新增:
人工兜底不是人工背锅。
张磊补:
谁按发送,谁也有份。
何苗写:
责任链不能在救场的人那里断掉。
林凡最后写:
能救场的人,更需要被保护。
夜里,他终于吃上了那份冷掉的番茄炒蛋。番茄已经更像汤,蛋也更像传。林凡吃了两口,觉得味道一般,但能吃。
就像很多项目。
没有出大事,不代表没有问题。
只是有人在问题变成大事前,把它按住了。
喜欢人工不智能:AI狂飙三十年请大家收藏:(m.xaoxs.com)人工不智能:AI狂飙三十年笑傲小说更新速度最快。