测模型——我有个想法。
什么想法?
我在仓库做了十年。仓库里最大的问题是库存——有些货堆了半年卖不出去,有些货三天就卖完了来不及补。老板每次订货都是凭经验——觉得什么好卖就多订,觉得什么不好卖就少订。结果就是——好卖的断货,不好卖的积压。
你想说什么?
我想说——你那个模型,能不能用在仓库管理上?不是预测销售额,是预测库存需求。根据过去的出库数据,预测未来一个月每种货需要多少。这样老板订货的时候就有依据了——不是凭经验,是凭数据。
林晨看着老马。老马说不是凭经验,是凭数据的时候,眼睛是亮的。他不是在问一个技术问题,他是在想怎么用AI解决他做了十年的仓库管理问题。他做了十年仓管,他知道仓库里最大的痛点是什么。现在他学了AI,他开始想——能不能用AI解决这个痛点。
林晨说,而且比你想象的简单。销售额预测和库存需求预测,本质上是同一个问题——根据历史数据预测未来。你把销售额出库量天气季节节假日促销活动。模型不用变,变的是数据。
老马愣了一下。这么简单?
思路简单。但做起来不简单——数据要收集、特征要设计、模型要调优。但思路是对的。你回去之后,可以试着做一个demo——用你以前在仓库里的数据,训练一个库存需求预测模型。做出来了,我帮你看。
老马点了一下头。他转身要走,又停住了。
林老师。
我四十三岁了。学了三个星期的Python,连面向对象都还没搞明白。你觉得我能做出来吗?
林晨看着老马。老马的脸上有很深的皱纹——不是年纪大了才有的,是在仓库里搬了十年货搬出来的。他的手很粗糙——手指上有搬货磨出来的茧,指甲缝里有洗不掉的油污。他四十三岁,做了十年仓管,被裁了,来学AI。他连面向对象都还没搞明白,但他已经在想怎么用AI解决仓库管理的问题了。
你能。林晨说,因为你有一个别人没有的东西——你懂业务。你做了十年仓管,你知道仓库里最大的痛点是什么。AI工程师可以帮你写代码,但他们不知道仓库里有什么痛点。你知道。这就是你的优势。
老马沉默了几秒。然后他点了一下头,转身走了。他的背影在走廊里越来越小,但他的脚步很稳——不是那种我一定要成功的稳,是那种我知道我要做什么的稳。
第四周,林晨又讲了一堂课——大模型应用实战。
这门课本该由吴敏讲,但林晨把它拿过来了。不是不信任吴敏——吴敏的NLP课讲得非常好。是大模型这个方向太新了,新到每个月都有新的突破。林晨想亲自讲——因为他自己也在学,在用的过程中学。他想把最新的东西教给学员,而不是教三个月前的东西。
今天讲大模型。林晨站在讲台上。大模型是2023年之后AI领域最大的变革。ChatGPT、文心一言、通义千问——这些你们应该都听过。但今天不讲怎么用大模型——怎么用ChatGPT写文案,怎么用文心一言写代码。那些你们自己就会。今天讲怎么训练大模型——怎么在垂直领域做微调。
他在电子屏幕上打开了一个Colab笔记本。
我们以金融领域为例。假设你有一家证券公司,每天要分析几百份研报。研报很长——一份研报几十页,分析师看完要半小时。能不能用大模型自动分析研报?能。但通用大模型不懂金融术语——它不知道MACD金叉是什么意思,不知道头肩顶是什么形态。所以需要微调——用金融领域的数据,在通用大模型的基础上做二次训练。
他打开了一个数据集——一万份金融研报,每份都标注了关键信息:公司名称、行业、评级、目标价、核心观点。
这个数据集是我自己做的。去年我用爬虫爬了公开的研报数据,然后让实习生标注。标了一万份,花了三个月。数据质量是微调的关键——垃圾数据训练出垃圾模型。
他开始写代码。用LLaMA的开源权重做基座模型,用LoRA做高效微调——不需要训练整个模型,只需要训练一小部分参数。训练过程在云GPU上跑,大概需要两个小时。
训练需要两个小时。我们不等了——我直接给大家看训练好的模型。
他加载了微调好的模型,输入了一份研报的文本。模型在十秒钟内输出了分析结果——公司名称、行业、评级、目标价、核心观点。每一项都准确无误。
这个模型现在在晨枫的投资系统里跑。每天早上,它自动分析最新的研报,把关键信息提取出来,供投资决策参考。它不能替代分析师——但它能把分析师从读研报这件事里解放出来,让分析师去做更有价值的事。
台下有人举手。林老师,微调一个大模型需要多少成本?
看你微调多大的模型。LLaMA-7B——七十亿参数——用LoRA微调,一块A100显卡,大概两百块
>>>点击查看《AI时代:码农的涅盘重生》最新章节