《模式识别原理、应用及实现》 课件 9.2RNN_第1页
《模式识别原理、应用及实现》 课件 9.2RNN_第2页
《模式识别原理、应用及实现》 课件 9.2RNN_第3页
《模式识别原理、应用及实现》 课件 9.2RNN_第4页
《模式识别原理、应用及实现》 课件 9.2RNN_第5页
已阅读5页，还剩7页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

9.2循环神经网络（RNN）9.2.1

序列数据音频频谱图股票数据我爱模式识别Ilovepatternrecognition文本数据9.2.2

RNN的基本单元fs(t-1)s(t)y(t)x(t)数学模型：需要优化的参数：

目标函数：交叉熵

激活函数：

优化方法：梯度下降法fs(0)s(1)y(1)x(1)fs(2)y(2)x(2)fs(3)y(3)x(3)……不管输入、输出序列多长，只需要一个函数fＷ、Ｖ、Ｕ权重共享

9.2.2

RNN的展开图9.2.3ＲＮＮ权重矩阵的维度词汇预测：输入：一句话10个词，每词一个时间点，如t0-t9隐层神经元个数：100输入词向量维数：300如果则

的维数为：

的维数为：

9.2.4ＲＮＮ的几种输入输出形式

9.2.5深度RNNf1h0h1y1x1f1h2y2x2f1h3y3x3……f2b0b1c1f2b2c2f2b3c3……………

9.2.6双向ＲＮＮf1h0h1a1x1f1h2a2x2f1h3a3x3f2b0b1f2b2f2b3x1x2x3c1c2c3f3f3f3y1y2y3

9.2.7RNN应用举例－对

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论