AI时代：码农的涅盘重生 第85章 学习强化学习(第2页/共2页)


****3*6*0**小**说**阅**读**网**欢**迎**您****
请用户自行鉴定本站广告的真实性及其合法性，本站对于广告内容不承担任何责任。

）设计为过去N分钟的价格序列、成交量、以及一些技术指标（如RSI、MACD）的向量。动作（Action）简化为三个：买入（全仓）、卖出（清仓）、持有。奖励（Reward）则定义为每次动作转换后持仓市值的变化率（考虑手续费）。

    接着是构建智能体。他决定先用相对简单的DQN试试水。在PyTorch框架下，他搭建了一个包含几层全连接网络的Q网络，输入是状态向量，输出是三个动作对应的Q值。

    训练开始。他让智能体在历史数据上“回测”，一开始完全是随机探索，买买卖卖。看着模拟账户曲线像过山车一样上蹿下跳，林晨哭笑不得。训练过程极其缓慢，而且非常不稳定。有时智能体似乎学到了一点东西，知道在下跌时卖出，但很快又会陷入疯狂交易的怪圈，累积的手续费就把模拟利润吃光了。

    “奖励稀疏……动作对收益的影响有延迟……市场状态非马尔可夫……”他一边盯着训练日志里几乎不增长的累计奖励，一边揪着头发总结问题。经典的“稀疏奖励”和“信用分配”难题活生生摆在眼前。一次成功的买入，可能得益于几天前某个卖出动作避免了更大亏损，但智能体很难建立起这种长程的因果关系。

    他尝试调整奖励函数，加入一些基于技术面判断的“塑形奖励”（Shaping Reward），比如当价格突破均线时给予微小正奖励，试图引导学习。也尝试了更复杂的网络结构，加入LSTM层来处理时间序列特征。

    连续三天的调试，每天对着屏幕超过十四小时。苏婉晚上进来送水果，看到他眉头紧锁、屏幕上满是曲折的损失函数曲线和乱七八糟的交易信号图，轻轻叹了口气，把水果放下，默默带上门。

    第四天深夜，林晨遇到了一个更棘手的问题：过拟合。智能体在训练数据（某一段历史时期）上表现得似乎不错，累计奖励开始缓慢上升，但换到另一段“未见过的”历史数据（验证集）上测试，表现就一塌糊涂，甚至不如随机策略。

    “它在死记硬背特定历史行情下的‘正确答案’，而不是学会通用的交易原则”。林晨靠在椅背上，感到一阵深深的疲惫和挫败。窗外的灯火已稀疏，城市进入沉睡。屏幕的光映着他眼里的血丝。

    他关掉训练程序，起身走到窗边，做了几个深蹲，活动了一下僵硬的脖颈。冷水洗了把脸，回来坐下，没有继续钻牛角尖调试参数，而是打开了另一个文档——他的求职简历。

    简历上，“项目经验”一栏已经更新了“基于机器学习的多市场量化交易系统（个人项目）”，并简要描述了架构和实盘成绩。现在，他思考着是否要把“探索强化学习在量化交易中的应用”也作为一个研究方向写上去，哪怕目前还没出成果。

    “写上去”，他对自己说，“至少表明我的技术视野和持续学习的态度。T厂或者那些金融科技公司，应该会看重这种前沿技术的探索能力”。

    他简要地在简历末尾的“技能与兴趣”部分加了一句：“正在研究深度强化学习（DQN/PPO）在金融时序决策中的应用”。

    做完这件事，他重新打开代码。这一次，他没有急于运行，而是从头开始审视整个训练框架。环境设计是否合理？状态特征是否真正具有预测性？动作空间是否太简单或太复杂？奖励函数是否真正引导智能体关注长期收益？

    “也许，我太心急了，总想让它立刻学会‘赚钱’”。林晨反思，“或许第一步，应该先让它学会‘不亏钱’，或者学会在模拟环境中达到某个基准策略（比如简单均线策略）的水平”。

    他决定换一个思路，不再直接用历史价格数据，而是先在一个自己完全可控的、简化但能体现某些市场特性的模拟环境中训练智能体。比如，模拟一个具有趋势和均值回复特性的随机价格序列。先验证算法本身的有效性，再逐步迁移到真实复杂环境。

    思路一转，压力似乎小了一些。他新建了一个项目文件夹，命名为“RL_Trading_Simulator”。当手指再次在键盘上敲下第一行代码时，那种熟悉的、面对未知挑战的专注感又回来了。挫败感仍在，但已被一种更坚定的探索欲覆盖。

    他知道，这条路不容易，甚至可能短期内看不到实用成果。但内心深处有个声音告诉他，这个方向是对的。让AI学会在不确定性的海洋中自主导航，这不仅是提升投资系统的关键一跃，或许也是他个人技术生涯中必须征服的一座高山。

    窗外，天色已微微发白。新的一天即将开始，而他的代码世界，才刚刚进入又一个攻坚的深夜。


>>>点击查看《AI时代：码农的涅盘重生》最新章节