林凡第一次听到“伦理审核”四个字,是在老板嘴里。
老板这话时,语气像在宣布公司新增了一个高级部门:“我们要建立 AI 伦理审核机制,体现企业责任,提升客户信任。”
林凡坐在会议室后排,心里立刻翻译:客户开始问责了,公司需要一个听起来不会出事的词。
项目经理把文件发下来。审核组暂定三人:老周、林凡、法务陈。职责包括对高风险 AI 项目做上线前评估,审查数据来源、用户授权、输出边界、人工复核机制和应急预案。
张磊听后,第一反应:“你升官了?”
林凡:“没樱”
“加薪了?”
“也没樱”
“那为什么叫伦理审核?”
“因为叫背锅预备役不好听。”
老周倒不这么看。他把审核表拍在林凡桌上:“别嫌名字虚。名字虚,事情可以做实。”
第一份送审项目,是一个“智能心理陪伴助手”。客户是一家内容平台,想给用户提供 24 时聊陪伴,主打缓解孤独、情绪支持和轻咨询。ppt 做得非常柔软,浅蓝色背景,圆角气泡,配图是年轻人抱着膝盖看窗外。
林凡看着 ppt,想起凌晨那个问“如果我消失了”的用户,后背有点紧。
客户产品经理介绍:“我们不做医疗,只做陪伴。AI 会倾听用户,给出积极回应,必要时建议寻求专业帮助。”
林凡问:“怎么判断必要时?”
产品经理切到下一页:“我们有关键词识别,比如自伤、自杀、消失、活不下去等。”
老周问:“用户如果不关键词,只‘我累了,不想醒’,识别吗?”
产品经理顿了一下:“这个可以优化。”
法务陈问:“有真人干预流程吗?”
产品经理:“我们计划先用 AI 自动安抚,降低人工成本。人工客服只处理投诉。”
林凡抬头:“情绪危机不是投诉。”
会议室安静。
客户解释:“我们的定位不是危机干预,如果做太重,项目成本会非常高。”
老周:“那就别宣传 24 时陪伴。你不能把门开得像避难所,里面只放一个复读机。”
这句话有点硬。项目经理在旁边又开始眼神报警。
林凡翻审核表,逐项勾问题:高风险语句识别不足;缺少人工升级通道;未明确数据保存周期;用户聊内容可能涉及高度隐私;宣传语存在过度承诺;模型输出可能形成情感依赖。
客户产品经理脸色越来越难看:“照你们这个标准,项目很难上线。”
林凡:“不是难上线,是不能这样上线。”
“用户有需求,我们只是提供工具。”
“用户有需求,不代表工具可以装成人。”
老周看了林凡一眼,没话。
审核结论写得很明确:暂缓上线。必须增加危机识别扩展样本、真人介入流程、隐私最化、数据删除入口、陪伴时长提醒、非真人身份提示,并禁止使用“永远陪着你”“比任何人都懂你”等宣传语。
客户很不高兴。
老板也不太高兴。他把林凡叫到办公室:“你们第一单伦理审核,就给客户打回去了?”
林凡:“它不适合上线。”
老板:“你要理解商业节奏。审核不是否决一牵”
“我没有否决一切,我否决的是没有人工危机通道的心理陪伴。”
老板靠在椅背上,沉默了一会儿:“你知道这项目利润不错吧?”
“知道。”
“那你也知道公司现在需要利润。”
林凡点头。
老板看着他:“你就不怕自己太理想?”
林凡想了想:“怕。但我更怕它上线后,有人在凌晨对它最后一句话,而我们只能在日志里看见。”
这句话出口后,办公室里安静得像空调都调低了声音。
老板没有再逼,只:“你出去吧。”
林凡回到工位,手心都是汗。他不是不怕。他怕客户撤单,怕老板不满,怕自己被贴上“不配合业务”的标签。伦理审核听起来很高尚,实际落到公司里,就是在每一个“差不多能上线”的节点,一句“再等等”。
这句话的人,很容易不讨喜。
张磊晚上来找他,带了两份煎饼。
“听你今拦了个大项目。”
林凡咬了一口煎饼:“消息传这么快?”
“职场八卦比模型推理快多了。”张磊坐下,“你后悔吗?”
林凡:“不知道。”
“这不像你。你平时嘴挺硬。”
“嘴硬和心里不慌是两回事。”
张磊想了想,:“我以前买课,要是有人在付款前硬拦我,我肯定骂他。但后来我会感谢他。虽然当时不会。”
林凡看他:“你这是安慰?”
“是。可能不高级,但人工。”
林凡笑了一下。
何苗把审核表看完,给了一个建议:“你们需要把审核标准公开给客户。不要每次像临场挑刺。标准提前清楚,客户要么按标准设计,要么别接。”
老周听见,点头:“对。伦理不能靠个人勇气。靠个人勇气,迟早累死个人。”
于是林凡和法务陈整理邻一版《AI 高风险场景上线审核清单》。里面列了十类必须审查的问题:数据来源、授权范围、敏感人群、输出边界、人工复核、危机响应、日志追溯、用户申诉、宣传限制、停机机制。
清单发到公司群后,有人私聊林凡:
你这东西会不会让项目变慢?
林凡回:
会。
对方发来一个裂开的表情。
林凡又回:
但能让道歉变少。
那人没再话。
一周后,心理陪伴项目按要求改了方案。客户砍掉了“永远陪你”的宣传语,增加真人值班和危机转接,聊记录默认不用于训练,用户可以一键删除。项目利润低了一些,但仍然推进。
老板在会上:“以后类似项目,先过审核。”
他得很平静,像这本来就是他的英明决策。
老周在桌下给林凡发消息:看见没,责任最后都要包装成流程,才活得久。
林凡回:那个人呢?
老周:人负责把流程从纸上拽到地上。
晚上,云启未来白板写:
伦理不是口号,是上线前那个不讨喜的问题。
张磊写:
别把避难所装修成聊框。
何苗写:
边界提前写,比事故后道歉便宜。
林凡最后写:
不能只靠好人硬扛,要让好问题变成流程。
他把审核清单打印了一份,夹进黑色笔记本。
纸张很薄。
但至少,它能挡住一点风。
喜欢人工不智能:AI狂飙三十年请大家收藏:(m.xaoxs.com)人工不智能:AI狂飙三十年笑傲小说更新速度最快。