周一早上八点半,林晨比平时早到了半小时。
他坐在工位上,面前摊着一份手写的组织架构图。三个小组,二十五个人,三个Leader——推荐系统的老周,金融科技的小李,大模型的小陈。他需要在一个星期内完成和所有人的单独谈话,了解他们的工作状态、困难和期望。
他泡了一杯黑咖啡,打开笔记本,写下了今天的谈话提纲。
第一站:推荐系统小组,周浩。
周浩是个三十二岁的工程师,比林晨小三岁,在T厂待了四年。他技术扎实,话不多,是那种干活不用催的类型。但最近几个月,推荐系统的CTR提升遇到了瓶颈,周浩明显有些焦虑。
CTR的优化到极限了,周浩坐在林晨对面,语气平淡但有些无奈,目前模型的特征已经用了三百多个,再加特征对效果提升不大。我试了几个新的模型架构,效果都不如现有的DeepFM。
你觉得瓶颈在哪?
数据。周浩说,我们有行为数据、画像数据、场景数据,但缺少实时数据。用户现在的兴趣是五分钟前的,但我们推的是昨天的。这个延迟太大了。
林晨想了想:实时特征的问题,我之前在投资系统里处理过。延迟数据和实时数据是两个世界。你有没有考虑过流式特征?
考虑过,但工程成本太高。周浩摇头,我们需要一个实时特征平台,光搭建就要两个月。
两个月可以。林晨说,你出个方案,我帮你协调资源。
周浩抬眼看了他一眼,像是有些意外。你确定?这个项目之前报过,被驳回了。
那是因为之前没有总Leader推。林晨说,现在有我了。
第二站:金融科技小组,李婷。
李婷是个二十八岁的女生,北大硕士毕业,入厂两年。她聪明、干练、说话快,是那种永远在赶进度的人。
金融合作项目的进度在预期内,李婷打开她的笔记本电脑,调出项目甘特图,模型部分完成了70%,数据接口完成了80%,前端完成了50%。最大的问题是合规——金融产品的审批流程太长了,我们还在等证监会的批文。
批文什么时候能下来?
最快两个月,最慢半年。李婷叹了口气,这是不可控的。
不可控的就先放着,把可控的做好。林晨说,模型和前端都加速推进,等批文下来直接上线。
李婷合上电脑,犹豫了一下,林晨——啊不,林总,我能问你一个问题吗?
叫我林晨就行。
你做投资系统的那些经验,能分享给我们吗?比如风控模型、回测框架什么的。我们现在的金融模型还比较初级,很多地方需要优化。
林晨想了一下:涉及核心策略的部分不能直接分享,但方法论可以。我下周五安排一次技术分享,讲讲量化交易中的风控设计和回测验证。
太好了!李婷的眼睛亮了。
第三站:大模型小组,陈铭。
陈铭是林晨自己招的人——准确地说,是陈博士推荐过来的。他之前在另一个大厂做大模型,有两年经验,技术视野开阔,但有些眼高手低。
大模型微调的进度还行,陈铭推了推眼镜,但算力不够。我们现在只有四张A100,训一个7B的模型要跑三天。如果要做13B甚至70B,根本跑不动。
算力的事我来协调。林晨说,你先把7B的微调做好,效果验证过了再申请更多算力。
陈铭顿了一下,林晨哥,有个想法不知道能不能说。
我觉得我们现在做的微调太保守了。应该直接从预训练开始,做我们自己的大模型。微调别人的模型,天花板太低了。
林晨没有立刻回答。陈铭说的有道理——微调确实有天花板,但从零开始预训练的代价是巨大的,需要数百张GPU和海量数据。在当前的资源条件下,这不现实。
你的想法我记下了,林晨说,但目前我们的资源只够做微调。先把微调做到极致,等资源到位了再考虑预训练。
陈铭看起来有些失望,但没有反驳。
三场谈话,三个不同的问题,三个不同的人。林晨在笔记本上写下了几个关键词:实时特征、合规批文、算力瓶颈、预训练方向。
这些问题他以前也遇到过——在投资系统的开发过程中,算力不够、数据延迟、合规风险,每一个都是拦路虎。但那时候他只有自己一个人,没有团队,没有资源,靠的是一个人的硬扛。
现在不同了。他有二十五个人,有T厂的算力支持,有陈博士的信任。他要做的不是一个人硬扛,而是把所有人的力量拧成一股绳。
他拿起笔,在笔记本上写下:
AI应用中心一季度OKR:
推荐系统:上线实时特征平台,CTR提升3%
金融科技:完成模型和前端开发,等待合规审批
大模型:7B微调模型上线,效果超越基线10%
>>>点击查看《AI时代:码农的涅盘重生》最新章节