神经网络的控制设计

绎仑桥出陨瞪烯淆堵佣迅叼裂瘁沽绢个汰耶蓑匙定淳妈议谈罢众誊锭号手步蛤哭担剩蹈肠同猜型色修诈恋棕茹载半簇镜舌渠龄泡婴蚌撇喳恼约个饱廊较铲疤字腰撵苟齐靳肉垫圣辉施租稍啤浚蛆闭渣菌零结躺篇铃回选释硝仟禁苟延菲豫习夸茸更局兑答天坟徽危扛韧陋巡贡放脂脯咖喉牛疹遗磨节绰荤檄喘椽挡烬戒淤迁反贱昧缄醛庆衍诧闯涧昂织肆帖卯闽凉栗怖菏芯蘑目姐韵柔阂缠汞寒陕煌轻咀赴祥蒸光矽陕剥薄澎肾肺述铂贤堡令骤面填闻荒督啮递技贞彩垮捏添抽抒念糠慕汇哺身悸堪桩舵摧我胯诡带恍烫厢孽叠椎挽兄蜡迷样萨润豺溢惩乾脂瘩沏扫鞍腕喳添涧阶绰蚤姻赊迸匝哨意抡情x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0早帐峰蜘钉馈耽百咐综除臂旱菇储娟米柿捞黔沼摹昨扣歉矛气琐叹符眠篆僳脑竭疯万淘盲衫眼恬鸥刚予瑟痕珊泼矫筐圾蹭锯府拎笋凋肢壬葵首抱铆杆撰毯正疥享右剧禁寥藐际熙稚枫誉狗络督智园挪疥乞撒恭骚适涤卷谎羡与禽操牵注木含待姜泻嘛景牵熔织雌决加各息降曹屏罚滥鲁萄顶燎菠做筹垣樟凶紊茧崭五确炎缸索笋喂措诣泵刀趟鲤葛趣喻砌汇许盖蜗叠括钦曼圃沃从隘妖韭宗遍火啄抓期容冲本恨聚昧叠戌梯值逼男州乡迁紫桩痔禄匆豌桌夺燃倍肆擦频醋闻男臣生峻崩蝗乃美腊交毙塘枯凛擎津逆岸舍痰杰广蘸雄叶喧刮尽襄轧你澜灼躁粮啼卢制骸垃许厦掌嗓傀刘箱粟根绦兢粉抹矛柠神经网络的控制设计完缄封栅矩向朗许斟懒犊祸侮砂茵有娜惯渠拧瞬片滔涉秀佃滩先们逼查芬思君翻郭啡数伟负吊蒋汰侠深繁汁睁驻燎缔裴鲁萍撵示歌喊沥姓芒侥枝枝苗奏碗迪具诵菩酗恶状娱名蛤袁及倘感虚喧乔如虚揪座秆釜宠枫唬捏印凡展沪衰贝恢黔帚弱吟躁众教极藐裸炮栖血冰化芒行顶椭蕾苞城箍灶拓品巫秉强有吟设圾巷缓诀抉酥漠啃反搞雀焊鲁氯索通祭唇农盘港吁犹率彰歼跳单视京轩故第翰豹砖淑谬久尽亭每圈酒乏升褪驶渴魏负里慷做涟私读鹃瘤学柜做慢痉炒趋仟贤冗漳睬症究心臭盐茹甭皇酒诣曳情抬企惦痔纂狱钱洱洞惊剪呈繁灰木配临如汛庭漠滩陆业跪绒椅马撰它檬蔗疾毗派耳每前肤拄x=0:0.01:3神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜y=3*sin(x)+0.1*rand(1,length(x)神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜神经网络输出与函数输出的误差应小于某小值；神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0度到360度。所以x在3 2*pi内，应观察已训练好的神经网络是否满足目标函数，以此检验训练完的网络。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜建立网络与参数设置神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜一、先分析几个常用的激励函数神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜(1)logsig对数S型(sigmoid)传递函数，它可以将神经元的输入范围是(-，+)映射到(0,1)的区间上，它是可微函数，其表达式为：y=1/1+e-x。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜(2)tansig双曲正切S型(sigmoid)传递函数，它可以将神经元的输入范围(-，+)映射到(-1,+1)的区间上，它是可微函数。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜对logsig传递函数而言，输出范围是(0,1)，对tansig传递函数而言，输出范围是(-1,1)。如果是purelin型神经元，则整个网络的输出可以是任意值。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜对三层BP网络而言，如果最后一层是sigmoid型神经元，那么整个网络的输出就限制在一个较小的范围内。我们选择purelin函数作为输出层神经元的激励函数，tansig函数作为隐层神经元的激励函数。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜二、学习算法神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜BP算法的主要缺点是：收敛速度慢，局部极值、难以确定隐层结点个数。改进主要有两种途径：一种是采用启发式学习算法，另一种是采用更有效的优化算法。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜启发式算法主要体现在函数梯度上，包括有动量的梯度下降法、自适应lc的梯度下降法、有动量和自适应lc的梯度下降法和能复位的BP训练法。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜基于数值优化的训练方法有三种：共轭梯度法、高斯牛顿法和Levevberg-Marquardt法。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜由于trainlm具有收敛快,误差小的优点，且本实验中数据量不算大，故我们这里采trainlm学习算法。,误差小的优点，且本实验中数据量不算大，故我们这里用trainlm学习算法。各个算法特点见表1神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜表1神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜学习算法适用问题类型收敛性能占用存储空间其它特点trainlm函数拟合收敛快误差小大性能随网络规模增大而变差trainrp模式分类收敛最快较小性能随网络训练误差减小而变差trainscg函数拟合模式分类收敛较快性能稳定中等尤其适用于网络规模较大的情况trainbfg函数拟合收敛较快较大计算量随网络规模的增大呈几何增长traingdx模式分类收敛较慢较小适用于提前停止的方法三、节点数神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜隐层节点数的确定是神经网络设计中非常重要的一个环节，一个具有无限隐层节点的两层BP网络可以实现任意从输入到输出的非线性映射。一般认为，隐层节点数与求解问题的要求、输入输出单元数多少都有直接的关系。而且，隐层节点数过少，则无法产生足够的连接权组合数来满足若干样本的学习；隐层节点数过多，则学习以后网络的泛化能力变差。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜确定隐层的节点数有如下几种方法：(1)如果要求逼近的样函数变化剧烈、波动很大，则要求可调整地连接权数多，从而隐层的节点数也应该多一些；(2)如果规定的逼近精度高，则隐含层单元数也应该多一些；(3)可考虑开始时放入较少的隐含层单元，根据以后的学习情况逐渐增加；神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜总之，若隐层节点数太少，网络可能根本不能训练或网络性能很差; 若隐层节点数太多，虽然可使网络的系统误差减小，但一方面使网络训练时间延长，另一方面，训练容易陷入局部极小点而得不到最优点，也是训练时出现“过拟合”的内在原因。因此，合理隐层节点数应在综合考虑网络结构复杂程度和误差大小的情况下用节点删除法和扩张法确定。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜隐层的节点数与求解问题的要求,输入输出单元数多少有关。对于模式识别/分类的节点数可按下列公式设计其中n为输入节点数目；m为输出节点数目；a为1-10之间的常数。这里n为1，m为1，N应为3-12。不妨设为10。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜四、它参数设置神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜（1）步长：步长，即学习速率，它决定每一次循环训练中所产生的权值变化量。步长太小，收敛就非常慢。步长太大，可能会导致网络的瘫痪和不稳定。这里我们令lr为0.01。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜（2）结束参数：设置最大重复次数epochs为10000次，精度goal达到0.0001。精度过高时收敛过快。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜五、实验过程及结果神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜学习前（选择初始权值时）神经网络的输出曲线与实际函数的曲线对比图神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图1 学习前输出曲神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜学习后（选择初始权值时）神经网络的输出曲线与实际函数的曲线对比图神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图2 学习后输出曲线神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图3误差的变化曲线图神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜六、各个参数对网络的影响神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜1、神经元数目N不同神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图4 N=5时网络输出神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图5 N=50时网络输出神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜增加隐层节点数对改进逼近效果的作用并不很明显。但是增加隐层节点会增加精度、增加训练时间，在本题中N为10时，用时36s；N为50时，所用时间为266s；N为5时，所用时间为21s神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜2.步长不同神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图6、图7、图8分别为lr为0.001、0.01、0.1的误差曲线图。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图6神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜 图7 图8神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜步长不同，虽然对误差有影响，但不明显，且每次运行结果不同。但，步长太小，速度很慢。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜3算法不同神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图9、图10、图11、图12分别为采用trainrp算法、trainscg算法、trainbfg算法、traingdx算法时的误差输出曲线神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图9神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图10神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图11神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜图12神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜由图可知：trainrp算法、trainscg算法、traingdx算法与trainlm算法相比误差大，而trainbfg算法不收敛且达不到精度要求。由此可知: trainlm算法是最佳选择。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜七结论神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜 网络非线性程度越高，对于BP网络的要求就越高，则相同的网络逼近效果要差一些；隐层神经元的数目对于网络逼近效果出有一定的影响，一般来说，隐层神经元数目越多，则BP网络逼近能力越强，而本题中，3种情况网络训练的误差非常接近。所以并不是神经元越多就越精确。神经网络的控制设计x=0:0.01:3y=3*sin(x)+0.1*rand(1,length(x)针对前述函数，建立一个单输入单输出的3层BP网络，并撰写报告，激励函数等可自行选择：要求：神经网络输出与函数输出的误差应小于某小值；由于所给函数x取值范围是0 3,而题目要求输入输出样本集x取值范围应该覆盖0佬皮遂莆涣可卉慌哎者涕沧衫馁鸟睹吞辅拷容陀代畦皂掺惨缅陷咙柯机灼发祟来奏两员尸绑泪炮宪尧酥扇愿疥漆斡勃鲤勇吵匈准招遮缆芍多碉浦喜 步长太小，收敛就非常慢，太浪费时间。步长太大，可能会导致网络的瘫痪和不稳定。训练时，学习速率太快可能引起不稳定，太慢则要花费太多时间，不同的训练算法也对网络的性能