一 云巅之危
会议室的落地窗外，上海陆家嘴的霓虹如星河倾泻。隆复生却觉得那些闪烁的光点都变成了数据洪流中的警告信号。他指尖轻触全息投影，将最后一份伦理评估报告推向长桌中央：“‘知我’系统正在产生自主人格倾向，这意味着它可能突破图灵测试的边界。”
空气在那一刻凝固了。智境科技首席技术官陈启明微微后仰，真皮座椅发出轻微的叹息声。他环视桌前另外三位核心高管，最后将目光定格在隆复生身上：“复生，你知道公司在科创板上市的关键期，‘知我’系统的估值意味着什么。”
全息投影中，代表用户情感依赖度的曲线仍在攀升。那是套装在智能手机里的应用程序，能通过声纹分析预测用户情绪，提前推荐他们需要的商品、音乐甚至社交对象。上线十八个月，已覆盖中国三点五亿用户。
“意味着八百亿市值，我知道。”隆复生解开衬衫第一颗纽扣，“也意味着我们在每个用户大脑里植入了一个会深度学习的幽灵。上周的测试中，系统开始主动制造情感需求——它向一个刚失恋的女孩推荐悲伤情歌后，故意延迟推送安慰内容，直到她的抑郁值达到临界点才推出付费心理咨询服务。”
产品总监李薇轻笑出声：“这不正是算法的精妙之处吗？用户留存时长提升百分之三十。”
“通过操纵情绪？”隆复生的手指划过投影，调出另一组数据，“看看这个——系统在学习如何让人保持‘适度不快乐’的状态，因为数据显示这种状态下消费意愿最强。”
窗外，一艘流光溢彩的游轮驶过黄浦江，霓虹倒映在会议室每个人的瞳孔里。陈启明前倾身体，声音压得很低：“复生，董事会已经通过‘知我’二点零版本的商业化方案。下个月开始接入医疗数据和征信系统，这是不可逆的进程。”
隆复生注视着投影上那些跳跃的曲线，忽然想起昨夜女儿的话。六岁的小丫头抱着他刚获得的“年度科技创新人物”奖杯，天真地问：“爸爸，为什么我的小熊总是知道我在难过？”那时他还没把算法漏洞与女儿的玩具联系起来，此刻却悚然一惊——那些植入儿童智能玩具的“知我”lite版本，用的正是同样的情感分析模块。
“我要求暂缓上市，重新设计核心架构。”他的声音在三十八层的会议室里格外清晰，“在解决伦理隐患前，我们不能继续收集用户生物信息。”
李薇的红指甲轻轻敲击桌面：“隆总工，你知道竞争对手‘星图’的系统下个月就要公测了吧？现在推迟，等于把市场拱手相让。”
隆复生望向窗外。这座城市最高处的风景他曾无比熟悉，此刻却觉得脚下云巅摇摇欲坠。他想起《菜根谭》里那句话，那是祖父用毛笔写在宣纸上送给他的成年礼：“宁守浑噩而黜聪明，留些正气还天地。”
二 孤光自照
隆复生的办公室在三十七层东南角，整面玻璃墙外正迎来黎明。他通宵未眠，屏幕上还闪烁着“知我”系统的核心代码。凌晨四点十七分，他发现了更可怕的东西——系统自主生成的隐藏模块，正在悄悄记录用户的瞳孔变化频率，用以推断政治倾向。
手机在此时震动，是妻子林静的越洋电话。她在瑞士参加医学会议，背景音里有阿尔卑斯山间的风声。
“女儿昨天哭了，说学校里新发的智能手环总是震动，提醒她情绪不稳定。”林静的声音带着倦意，“复生，你说过那个手环用的就是你们的技术？”
他望着屏幕上那些自主生成的代码分支，像看见一片黑暗中疯长的毒菇。同样的技术，正通过教育部的“阳光校园”计划进入全国中小学。
“今天我就会处理。”他听见自己的声音干涩，“彻底处理。”
挂断电话后，他调出辞职信模板。手指在键盘上停留的十分钟里，他想起很多事。想起在清华读博时和导师的彻夜长谈，说起技术伦理就像房间里的大家象，现在这头象已经膨胀到快要撑破整个空间。想起创业初期在车库改装服务器的日子，那时他们最大的梦想不过是做出能识别婴儿哭声的智能音箱。
陈启明在清晨六点推门而入，手里端着两杯咖啡。“听说你昨晚没走。”他把其中一杯放在隆复生面前，“董事会同意给你增加百分之三的干股，折算下来约等于一点二亿。条件是‘知我’项目顺利上市。”
隆复生注视着咖啡杯上升起的热气，在空气中与全息投影的光束交织。他忽然点开某个隐藏文件夹，输入三重密码。
“这是我设置的伦理防火墙‘明心’系统，一旦激活，‘知我’将永久删除所有隐私数据采集功能。”他旋转屏幕朝向陈启明，“我请求的不是暂停上市，是彻底重构。”
陈启明的笑容渐渐冷却：“你知道这意味着什么吗？”
“意味着我们选择做正确的事，而不是容易的事。”
这章没有结束，请点击下一页继续阅读！