【《基于改进极限学习机的股指期货集成预测模型分析案例》2800字】

基于改进极限学习机的股指期货集成预测模型分析案例基于改进极限学习机的集成预测模型基本原理通过对于金融时间序列预测方面的历史研究的分析和总结，本文发现，对于股指预测的历史研究中，要么是只针对单一模态数据进行建模，通过模型挖掘单一模态数据所蕴含的信息，并进行股指预测。要么是多模态数据建立单一模型，但是单一模型并没有办法去很好的提取多模态数据的特征，往往单一模型只针对单一模态数据有更好的提取效果。因此本文基于多模态数据驱动综合集成方法论构建模型，该方法论主要由多模态数据提取、多模态数据驱动建模和综合集成三个模块构成[34]。应用于本文的预测中，本文依据多模态数据驱动综合集成方法论，提出了综合集成的股指期货预测模型——基于CC-ELM的多模态数据驱动的期指预测模型，该模型主要由三部分组成：多模态数据提取、多模态数据驱动建模和综合集成。多模态数据提取。数据提取包括期指历史时间序列数据，投资者关注度数据和新闻文本数据。其中结构化数据包括期指时间序列数据以及期指技术指标，非结构化数据则包括互联网搜索数据以及新闻文本数据。并根据前两节内容进行数据预处理。对于期指则划分好验证集和测试集，将交叉检验的数据集分别划分好，做好准备。互联网搜索数据则进行归一化处理。新闻文本数据按照分词-去词-对照-计算的流程计算出文本数据的情感分值，作为模型的输入以备验证模型有效性。多模态数据驱动建模。分别对应前三节的三个建模预测方法进行建模。即三个预测方法：基于期指的EPAK预测方法、基于投资者关注度的B-SALS预测方法和基于新闻数据挖掘的LSTM预测方法。具体建模过程参考本章的1，2，3节，建立EPAK、B-SALS、LSTM模型进行预测得到预测结果。综合集成。建模之后，会得到基于期指的预测方法、基于投资者关注度的预测方法、基于新闻数据挖掘的预测方法三个预测结果，在这三个预测方法基础上，使用基于相关系数的ELM综合集成技术，将三个预测结果进行非线性综合集成，构建基于相关系数ELM的多模态数据驱动的综合集成期指预测[34]。这一集成过程是为了综合几个方法所解决的金融市场时间序列数据的不同问题，以期在集成模型中同时解决金融市场数据预测所遇到的问题。并以该模型作为股指期货投资时机选择策略进行后续的投资实例验证。基于改进极限学习机的集成预测模型基本结构图2-17给出了综合集成的期指预测模型流程图，按照模块分成的是上述的三个部分，具体进行分析的时候可以划分为三条线同步进行，一条分析线为基于金融时间序列数据的预测建模，一条分析线则是基于投资者关注度数据的预测建模，另一条分析线则是基于新闻数据挖掘的预测建模，最后将三者的预测结果进行综合集成，获取最终的预测输入。由于三条分析线分别在前面2.1、2.2、2.3章详细说明过了，因此2.4.3仅详细说明综合集成部分的模型方法。基于期指时间序列的预测模型，其输入数据为期指的历史数据，使用滑动的时间窗来获取历史数据后，投入到经验模态分解（EMD）中进行经验模态分解，分解成为含有期指变化信息的预测股指本征模态函数序列，但在分解过后会出现信息冗余现象，因而通过主成分分析法（PCA）来进行降维特征提取，提取过后的特征值作为输入变量输入到自适应仿射传播聚类技术（AAP）模型中进行聚类，再使用其聚类中心和类内点形成嵌套式k-最邻近元回归（NKNN）进行预测，最终得到基于时间序列数据的预测结果。基于投资者关注度的预测模型，其输入数据主要是网络搜索指数、技术分析指标。对于这一模态数据需要进行预先的数据处理，将数据进行栈式自编码器（SAE）的特征提取，再将提取过后的特征输入到长短期记忆神经网络（LSTM）进行预测。但由于RNN这类的神经网络容易出现过拟合等现象，因而加入Bagging包来减少预测方差并避免过拟合。基于新闻数据挖掘的预测模型，其输入数据为非结构化数据即新闻数据，因此要先进行预处理——爬虫爬取数据，网络搜索词库构建，股指情感词库构建，情感分析挖掘。以此来将非结构化数据转化为结构化数据，结构化数据作为输入特征，再将输入特征输入到长短期记忆神经网络（LSTM）进行预测。基于多模态数据的预测模型，输入数据即为上述两个模型的预测结果，通过基于相关系数的极限学习机（CC-ELM）进行综合集成，获得最终整个模型的预测结果。图STYLEREF1\s2SEQ图\*ARABIC\s11综合集成股指预测模型流程图基于改进极限学习机的集成预测模型算法本文使用的综合集成办法为改进的基于相关系数的极限学习机CC-ELM，因此在算法说明部分，主要针对CC-ELM进行介绍。介绍CC-ELM之前，首先介绍ELM，因为CC-ELM即为将原始的ELM的随机输入权重部分进行改进，其余部分不进行改变。极限学习机ELM是由Huang等人提出的一种单隐层前馈神经网络，其实是一种快速的深度学习算法，其输入的权值和偏差是随机产生的，那么就不需要认为对隐含层参数进行调整，输出权值则是通过矩阵计算得到，因而计算速度快时间短[75]，其拓扑结构如图2-18所示。图STYLEREF1\s2SEQ图\*ARABIC\s12ELM拓扑结构ELM算法步骤如下：第一步：确定隐含层神经元个数，随机设定输入层与隐含层的连接权值和隐含层神经元阈值；第二步：选择一个无限可微的函数作为隐含层神经元的激活函数，进而计算隐含层输出矩阵；第三步：计算输出层权值[75]。连接权值与隐含层神经元阈值的随机性导致ELM的输出不稳定，而且随机选取的连接权值有时候不能够有很好的准确率和拟合精度，影响ELM的鲁棒性，因此就不得不增加隐藏层节点数，通过这样的增加，就会增加整个网络的复杂度以及运算时间存储空间。AXsaxe对随机输入权重和经过非监督学习得到的输入权重进行对比，结果发现，随机输入权重的效果并没有经过预训练得到的权重效果好[76]。而且对于极限学习机而言，随机选取的权重有可能会导致隐藏层输出矩阵不满秩，从而求解不稳定只能得到次优解。因而在本文中，为了解决ELM存在的问题，也为了更好的让网络适用于本文针对股指期货建模预测的场景，本文提出了基于相关系数的极限学习机综合集成算法。该算法在选择权重的时候，并不是以往ELM随机选择的过程，而是引入输入变量与预测变量之间的相关系数，作为映射的权重。由于本文前面的多模态数据建模预测的时候，用不同的数据分别建模预测，三方面预测所包含的信息不同，预测结果也有不同，因此在综合集成的过程中，可以依据多模态数据建模结果与真实值之间的相关性来代表其所能预测的情况，并以这种相关性来确定ELM的输入层到隐藏层的权重。通过这种设定，就可以避免随机权重导致的鲁棒性问题，也可以更加贴合前面多模态数据预测建模的信息预测。考虑到相关系数是变量之间的线性相关度量，没有办法来表示变量之间的非线性度量，因此本文在引入映射函数的时候，同时考虑线性与非线性的情况，引入sigmoid变换函数：f=sign(x)∙[(−radbas(2x))+1]其中，radbas(x)=e对于相关性系数较大的特征变量，给予其在[-1,1]区间内较大的权重，相关系数较小的特征变量，给予其在[-1,1]区间内较小的权重。因而得到的初始化权重为：w其中，f为（2-35）的非线性映射函数，ρx,y为输入变量x与预测变量y之间