基于人工智能的移动通信基站流量预测-3 基于空时深度模型的基站流量预测

无线通信中的人工智能移动通信基站流量预测

基于空时深度模型的基站流量预测12深度模型：时序数据预测1时序数据？循环神经网络RNN自然语言处理、机器视觉领域2x︰（某时刻的）输入（输入层）h：（某时刻的）隐藏状态（隐藏层）y：（某时刻的）输出（输出层）符号说明:1演进方向延展

时间循环神经网络（RecurrentNeuralNetworkRNN）

深度模型：循环神经网络3深度模型：长短时记忆网络

...

...

Timesteps1长短时记忆网络（Long-ShortTermMemory，LSTM）4深度模型：句子的预测2thecollegestudentsopenedtheir?Book?Mat?Laptop?Zoo?…Book?Mat?Laptop?Zoo?…完形填空52完形填空：自然语言处理中的文本生成任务thecollegestudentsopenedtheir?深度模型：LSTM模型如何完形填空Book?Mat?Laptop?Zoo?…2thecollegestudentsopenedtheir?

thecollegestudentsopenedtheir

深度模型：LSTM模型如何完形填空7深度模型：LSTM模型如何完形填空2thecollegestudentsopenedtheirbooks

thecollegestudentsopenedtheir

82时序数据？移动基站流量预测（时序预测）也能这么用LSTM处理么？深度模型：基站流量时序预测-LSTM？9深度模型：LSTM进行基站流量时序预测22018-4-1920:002018-4-1921:002018-4-1922:002018-4-1923:002018-4-200:002018-4-201:00？10深度模型：LSTM进行基站流量时序预测2thecollegestudentsopenedtheirbooks时间/h上行流量/GB？bookscollegestudentsopenedtheir

the11深度模型：LSTM进行基站流量时序预测2时间/h上行流量/GB0.30680.43280.27760.1462

0.60480.148512时序数据？小结：基站流量预测-时序预测-LSTM模型2移动基站流量预测（时序预测）也能这么用LSTM处理么？可以！13如何使用LSTM预测基站流量时序数据？训练验证：面向基站流量预测的LSTM训练3时序数据14训练验证：面向基站流量预测的LSTM训练3如何使用LSTM预测时序数据？机器（深度）学习的三板斧时序数据训练验证：面向基站流量预测的LSTM训练3如何使用LSTM预测时序数据？机器（深度）学习的三板斧模型数据损失函数时序数据16

数据模型训练验证：面向基站流量预测的LSTM训练3训练参数

数据和模型联合的学习17训练验证：面向基站流量预测的LSTM训练3如何使用LSTM预测时序数据？机器（深度）学习的三板斧模型-LSTM数据损失函数时序数据18训练验证：面向基站流量预测的LSTM训练3如何使用LSTM预测时序数据？机器（深度）学习的三板斧模型-LSTM数据损失函数时序数据193训练验证：基站流量的数据集构造（滑动窗口法）流量/GBTime/h203训练验证：基站流量的数据集构造（滑动窗口法）流量/GBTime/h21window_size=50.620.610.550.580.49x0x1x2x3x43训练验证：基站流量的数据集构造（滑动窗口法）InputXLabelyx0x1x2x3x4窗口化数据窗口长度（window_size)流量/GBTime/h22window_size=50.620.610.550.580.49x0x1x2x3x43训练验证：基站流量的数据集构造（滑动窗口法）InputXLabelyx0x1x2x3x4窗口化数据窗口长度（window_size)流量/GBTime/h窗口大小（window_size=n）物理意义：用当前点前n个小时基站流量数据，预测下1小时的流量值23window_size=50.620.610.550.580.49x0x1x2x3x43训练验证：基站流量的数据集构造（滑动窗口法）InputXLabelyx0x1x2x3x4？窗口化数据窗口长度（window_size)流量/GBTime/h24window_size=50.620.610.550.580.49x0x1x2x3x43训练验证：基站流量的数据集构造（滑动窗口法）InputXLabelyx0x1x2x3x4x5窗口化数据窗口长度（window_size)流量/GBTime/hLabely0.57x525window_size=5Labely流量/GBTime/hInputXLabelyx0x1x2x3x4x5x1x2x3x4x5x6x2x3x4x5x6x7x3x4x5x6x7x8x5x6x7x8x9x10x4x5x6x7x8x90.620.610.550.580.490.570.650.650.490.380.38x0x1x2x3x4x5x6x7x8x9x103滑动步长Step=1训练验证：基站流量的数据集构造（滑动窗口法）窗口化数据窗口长度（window_size)数据集（已窗口化）…… ……26window_size=5流量/GBTime/hInputXLabely0.620.610.550.580.490.570.650.650.490.380.38x0x1x2x3x4x5x6x7x8x9x103滑动步长Step=1训练验证：基站流量的数据集构造（滑动窗口法）窗口化数据窗口长度（window_size)数据集（已窗口化）…… ……[0.580.490.570.650.65][0.49][0.490.570.650.650.49][0.38][0.610.550.580.490.57][0.65][0.620.610.550.580.49][0.57][0.550.580.490.570.65][0.65][0.570.490.650.650.38][0.38]273小结：基站流量的数据集构造（滑动窗口法）数据与模型协同数据很重要：结合问题需求探索分析数据集构造：窗口大小是重要抓手

窗口大小（window_size=n）物理意义：用当前点前n个小时基站流量数据，预测下1小时的流量值28训练验证：面向基站流量预测的LSTM训练3如何使用LSTM预测时序数据？机器（深度）学习的三板斧模型-LSTM数据损失函数时序数据29

损失函数Loss预测（前向传播）

面向文本生成自然语言语料构建的数据集

3训练验证：LSTM模型训练30

预测（前向传播）

基站流量数据构建的数据集

InputXLabely0.550.580.490.570.65

0.49

……数据集（已窗口化）

3训练验证：基于基站流量数据集训练LSTM模型313

损失函数Loss基站流量数据构建的数据集

训练验证：基于基站流量数据集训练LSTM模型InputXLabely0.550.580.490.570.65

0.49

……数据集（已窗口化）

预测（前向传播）

32流量/GB损失函数值训练轮次“正确的结果，是从大量错误中得出来的，没有大量错误做台阶，就登不上最后正确结果的高峰。”——引自钱学森在论述科学发展规律时的发言历经“错误”台阶，模型修成“正果”Time3训练验证：基于基站流量数据集训练LSTM模型InputXLabely333小结：基于基站流量数据集训练LSTM模型数据与模型协同损失函数：衡量学习效果的函数，预测值和真实值的误差表示具体定义与要解决什么问题紧密耦合基站流量预测：MSE/RMSE我们如何评判LSTM模型的学习情况呢？34TimePresent训练验证验证轮次1验证轮次2验证轮次3验证轮次4验证轮次5可用历史时间序列丢弃3训练验证：学习的目的是什么？所有数据测试（未知未来）训练集验证集误差值训练轮次35训练集TrainSet验证集ValidationSet所有基站流量数据集-DataSet（已窗口化window_size=n）流量/GB时间/h3训练验证：基站流量数据的训练/验证集划分36训练验证：训练模型的性能评价指标（验证）

真实值预测值已有（观测）

337所有数据测试（未知未来）训练集验证集所有数据Fold1Fold2Fold3Fold4Fold5训练集验证集Fold1Fold2Fold3Fold4Fold5Fold1Fold2Fold3Fold4Fold5Fold1Fold2Fold3Fold4Fold5Fold1Fold2Fold3Fold4Fold5Fold1Fold2Fold3Fold4Fold55折交叉检验验证轮次1验证轮次2验证轮次3验证轮次4验证轮次53训练验证：时序交叉验证的训练集/验证集划分时序数据不满足样本独立同分布原则，38TimePresent训练验证验证轮次1验证轮次2验证轮次3验证轮次4验证轮次5基站流量数据集-DataSet丢弃3训练验证：时序交叉验证—滑动窗口法39TimePresent训练验证验证轮次1验证轮次2验证轮次3验证轮次4验证轮次5基站流量数据集-DataSet3训练验证：时序交叉验证—扩展窗口法403训练验证：小结数据输入滑动窗口（基站流量时序数据）构造为LSTM的输入数据和标签数据对模型训练通过损失函数指导模型训练模型验证通过划分训练集和验证集，利用性能指标评价性能，如RMSE。时序数据要保证验证集在训练集之后41实践研讨：加深LSTM预测基站流量工程认知4实验目的：探索LSTM模型的“数据”驱动特点基站流量数据集的参数设置影响分组实验训练/验证集的划分所有数据训练集验证集WindowSize窗口大小实验参数选项科研教学平台教学实例“3、基于LSTM模型的预测算法.ipynb”基站ID=10042教学实例：“LSTMforecast.ipynb”训练/测试集划分、窗口大小对基站流量预测性能的影响基于LSTM的基