四月的一个周五,CTR模型V2.0全量上线。
这不是林晨第一次带项目上线了,但这次的感觉和之前不一样。之前他是项目的核心开发,一个人扛大旗;这次他是总Leader,看着三个团队协同作战,把一个从零开始的大项目推上了线。
上线前的最后一天,他几乎没有离开办公室。
凌晨两点,推荐系统小组完成了实时特征平台的最终测试。周浩发来消息:特征延迟从200毫秒降到18毫秒,QPS提升4倍,线上测试全部通过。
早上八点,金融科技小组完成了模型部署的最终检查。李婷发来消息:风控模型性能优化完成,特征计算延迟20毫秒,满足实时要求。批文还没下来,但技术层面已经ready了。
上午十点,大模型小组完成了7B微调模型的评估。陈铭发来消息:微调模型在垂直领域任务上超越基线12%,比原定目标10%高了两个点。可以上线了。
林晨看着三条消息,在团队群里发了一句:所有团队,最终确认:今天下午两点全量发布。各组做好灰度回滚预案,五点前如果数据异常立即回滚。
下午两点,他坐在工位上,打开监控面板。
CTR模型的灰度发布开始——系统先将5%的流量导向新模型,其余95%继续使用旧模型。林晨盯着实时数据看板,心率比平时快了十拍。
五分钟后,数据开始出来。CTR提升2.8%。
十分钟后,数据稳定。CTR提升3.1%。
三十分钟后,5%灰度运行平稳,各项指标正常。林晨下令:灰度扩大到20%。
又过了半小时,20%灰度的数据也出来了。CTR提升3.2%,用户停留时长增加1.5%,没有异常报错。
继续扩大,50%。
下午四点,50%灰度的数据确认一切正常。CTR提升稳定在3%以上,没有性能问题,没有异常请求。
全量发布。
下午四点三十分,新模型覆盖了100%的流量。林晨盯着监控面板,看着数据一条一条刷新。每一条都是正常的,每一条都在告诉同一件事:上线成功了。
他在团队群里发了一条消息:CTR模型V2.0全量上线成功。实时特征平台上线成功。大模型微调上线成功。感谢所有人。
群里瞬间刷屏:太棒了!辛苦了!今晚团建!
周浩回了两个字:稳了。李婷回了一个。陈铭发了一个fighting的表情。
晚上七点,陈博士在部门群里转发了上线通知,附了一句:林晨带的团队三个月完成了三个核心项目的上线,效率和效果都超出预期。这是AI应用中心成立以来最成功的一次项目交付。
十几个点赞和恭喜的消息刷过屏幕。林晨看了一眼,没有回复,而是关掉了手机。
他走到窗边,看着窗外鹏城的夜景。灯光星星点点,远处的鹏城湾在夜色中泛着微光。他想起两年前站在出租屋窗前看同样的夜景,心里是焦虑和迷茫。现在他站在T厂大楼的窗前,心里是从未有过的踏实。
不是骄傲——项目成功不是他一个人的功劳,是三个团队二十五个人共同努力的结果。但他知道,如果没有他当初决定把实时特征平台作为优先级最高的项目、没有他在李婷遇到瓶颈时用引导而不是直接给答案的方式、没有他在陈铭想跳过微调直接做预训练时按住节奏——这个项目可能不会这么顺利。
管理和技术一样,都需要做对的选择。有时候对的选择不是最快的,而是最稳的。
晚上八点,团队聚餐。
林晨选了公司附近的一家潮汕牛肉火锅——这是T厂程序员的经典选择,人均一百五,好吃不贵。二十五个人包了两个大桌,火锅的蒸汽模糊了所有人的脸。
周浩端着啤酒过来敬他:林总,实时特征平台的事,谢谢你帮我协调资源。没有数据源,这个项目根本做不了。
你技术方案过硬,我只是推了一把。
不,你不知道,周浩难得多说几句,之前的Leader报过三次资源申请,都被驳回了。你报了一次就过了。这说明你真的在为我们争取。
林晨笑了一下,没说什么。他确实为这事找了日志团队的Leader谈了一次,还跟陈博士汇报了优先级。这些事不需要说,但他知道团队感受到了。
李婷也过来敬酒:林总,那个特征计算的方案,你自己本来可以直接写出来的,对吧?
也许吧。
但你没有。你让我自己想。李婷认真地看着他,这种方式比直接给答案好太多了。我现在遇到性能问题,第一反应不是找你,而是自己想。
这就对了。林晨举起杯子,跟她碰了一下。
陈铭比较安静,坐到林晨旁边的时候只说了一句:7B模型的效果你看到了,12%的提升。
看到了。做得不错。
那预训练的事……
>>>点击查看《AI时代:码农的涅盘重生》最新章节