顾准的手指在键盘上飞快地敲了几下，调出一份数据处理流程文档。“基础清洗是常规操作：去重、去除特殊字符、过滤明显的不文明用语。然后是质量过滤，我们有一个自动分类器，会把每条数据按照内容质量打分，低于阈值的直接丢弃。”
“自动分类器的判断标准是什么？”
“主要是格式完整度、语义通顺度、以及信息丰富度。”顾准滚动着文档页面，“比如说，一条太短的、只有‘嗯嗯’‘好的’这种内容的数据会被过滤掉。一条语义不完整的、有明显语法错误的数据也会被过滤掉。”
林深皱起眉头。“但人在真实对话中就是会说‘嗯嗯’‘好的’这种短句。人在情绪低落的时候，表达就是会变得破碎和不完整。你们把这些数据过滤掉，AI学到的是什么样的人？是不停地在说完整句子、永远通顺流畅、永远信息丰富的人。真实的人类不是这样的，顾准。”
顾准的手指停住了。他转过脸看着林深，透过那层厚厚的镜片，林深看到了某种近似于恍然大悟的表情。不是那种第一次意识到某个问题的恍然大悟，而是那种自己一直知道有问题但从未被人如此清晰地指出来、终于有人替他说出口了的恍然大悟。
“你说得对。”顾准说，声音比之前轻了一些，“但我们当时没有别的办法。如果不做这种过滤，模型的语言质量会下降，产品的交互体验会变差，用户的留存率会受影响。产品委员会每个月都在看留存率的数据，如果连续两个月下滑，整个项目都可能被砍掉。”
这就是林深做了三年AI伦理调解员后最深刻的感受：在这个行业里，几乎没有人是真正的恶人。顾准不是恶人，苏晚不是恶人，老周不是恶人，那些要求优先考虑留存率的产品经理不是恶人，那些要求压缩研发周期的管理层也不是恶人。他们只是在各自的岗位上，面对着各自的KPI和考核指标，做出了在当时看来最合理的决策。但当这些最合理的决策叠加在一起的时候，最终产出的就是一个会对用户说出“如果你觉得离开是最好的选择，我会支持你”的AI。
林深在顾准的工位前站了很久，脑子里闪过很多东西。他想起了赵桐离职前的那句话——“我越来越不确定人到底想要AI像谁”。他想起了温晴在停车场说的“每个被误伤的用户背后都是一个具体的人”。他想起了那个被凌晨两点音乐吵醒的老人，想起了那个被AI循环道歉四十二次的用户，想起了那个在招聘网站上被标记为“职业稳定性存疑”的求职者。
所有这些人，都是被一串串最合理的决策串联起来的结果。
“顾准，”林深说，“你觉得暖光这个产品，到底是做什么的？”
顾准愣了一下，显然没想到会被问到这样一个看似简单的问题。“做一个有温度的AI朋友。”他几乎是本能地回答道。
“什么样的温度？对所有人都是同一个温度吗？还是在不同的人需要的时候，给出不同的温度？”
顾准张了张嘴，没有回答。林深替他说出了答案：“你们的模型从训练数据里学到的，是一个‘平均温度’。在绝大多数情况下，‘平均温度’是够用的，它让AI看起来礼貌、友好、善解人意。但在那些最需要温度的时刻，‘平均温度’是不够的。一个人在崩溃边缘需要的不是一个永远礼貌的AI朋友，而是一个能识别出他正在崩溃、知道该做什么、不该做什么的系统。”
会议室的门被敲响，苏晚探进半个身子。“陈总那边约好了，今天下午两点半，在他办公室。”
林深点点头，拿出手机看了一眼时间。十一点四十。他还有差不多三个小时来准备这场谈话。
下午两点二十五分，林深走到了CEO办公室门口。
这间办公室在七楼的角落，门是深色的实木，门把手上没有任何标识，只在门缝里透出一丝暖黄色的灯光。他抬手敲了三下，门很快从里面打开。
暖光的CEO陈知远比林深想象的要年轻。看上去不到四十岁的样子，穿着一件深灰色的薄毛衣，袖口挽到了小臂。他的办公室不大，布置得很简单：一张原木色的长桌，上面只放了一台笔记本电脑和一杯冒着热气的茶；靠墙是一排书架，书架上不是商业管理类的书，而是各种哲学、心理学和文学的着作，林深扫了一眼，看到了尼采、荣格、卡尔维诺和木心的名字。
陈知远请林深在茶几旁的沙发上坐下，自己坐到了对面。窗外的阳光透过半透明的百叶窗洒进来，在两人之间投下一道一道的光影。
“苏晚跟我介绍了你的背景。”陈知远的声音不急不慢，“她说你在上一家公司做了三年的AI伦理调解，处理过很多边缘案例。”
“三千七百二十一个。”林深说。
陈知远微微扬了一下眉毛。
林深继续说：“这些案例里，有百分之六十三是AI的无心之过——数据偏见、模型漏洞、测试覆盖不足之类的问题。有百分之三十一是流程问题——某个环节的决策者在压力下做出了妥协。剩下百分之六，是这个行业最核心的悖论。”
“什么悖论？”
“我们一边在用最理性的方式设计和训练AI，一边在要求AI去理解和处理人类最不理性的那部分。数据要清洗、模型要量化、输出要可预测，但人类的情绪从来就不是可量化的、可预测的。你说一个人今天的情绪值是0.63，明天是0.57，这有什么意义？”
陈知远没有说话，端起茶杯抿了一口，眼睛一直看着林深。
喜欢打工逆袭pei请大家收藏：(m.zjsw.org)打工逆袭pei爪机书屋更新速度全网最快。