实验一 单层感知器.pdf

实验一实验一 单层感知器单层感知器 一 实验目的一 实验目的 1 理解单层感知器的工作原理 2 通过调节算法参数了解参数的变化对于感知器训练的影响 3 了解单层感知器局限性 二 实验内容二 实验内容 1 使用 Matlab 编程实现单层感知器 2 调节学习率 观察对于不同学习率算法的收敛速度 迭代次数 3 用单层感知器处理非线性分类问题 观察结果 三 实验原理 三 实验原理 单层感知器 只有一层处理单元的感知器 输出层 0 sgn sgn sgn n T jjjiji i onetTw x W X j 感知器的学习算法 采用感知器学习规则 训练步骤如下 Step 1 对各权值 w0j 0 w2j 0 wnj 0 j 1 2 m m 为计算层的节点数 赋予较小的 非零随机数 设置 p 1 Step 2 输入样本对 X p d p 其中 X p 1 x1p x2p xnp d p d1p d2p dnp 为期望 的输出向量 教师信号 上标 p 表示样本对的模式序号 设样本总数为 P 则 p 1 2 P Step 3 计算各节点的实际输出ot sgn 1 2 pTp jj tjm WX Step 4 调整各节点对应的权值 1 ppp jjjj ttdot WW X 为学习率 用于控制调整速度 值太大会影响训练的稳定性 太小则使训练的 12 T jm o ooo O 12 输入层 jm WW WWW 012 T in xx xxx X 1 jm ooo 1 jm WWW 012 in xxxxx 单层感知器模型 1 收敛速度变慢 一般取 0 为Matlab主窗口的命令提示符 不是需要输入的命令 命令 可以看到关于该命令使用方法的具体说明 2 下面蓝色字体为命令结果 不是命令行 3 为Matlab主窗口的命令提示符 不是需要输入的命令 1 建立文件的运行方法 a 建立新文件 通过菜单选择 File New M File 或者点击左上角建立一个新文件 输入 function main 建立函数 可用其他名字 close all 关闭所有 figure rand state sum 100 clock 随机数种子用时钟进行初始化 2 disp Hello World b 保存文件 通过菜单选择 File Save 或者点击左上角 或者使用快捷键 Ctrl S 命名文件名 Hello c 运行及调试程序 点击上方 或者使用快捷键 F5 针对提示的错误的位置修改程序 直到正确运行 结果会在主窗口显示出来 2 直接在主窗口运行命令 红色字体为需要输入的命令 蓝色字体为红色字体为需要输入的命令 蓝色字体为 Matlab 运行结果运行结果 后表示注释内容 不进行运算 可以不用输入 后表示注释内容 不进行运算 可以不用输入 a 1 单值赋值 注意 A 与 a 是两个不同变量 A 2 分号 只运算不显示 M 1 2 3 4 逗号或者结尾没有符号 即运算又显示 M 1 2 3 4 3 3 熟悉相关命令 上面两种方法均可使用 注意检查变量矩阵的字母大小写 矩阵叉乘是否需要转置 关于赋值的例程 M 1 2 3 4 矩阵赋值 M M 1 2 3 4 M 1 矩阵的第一行 ans 1 2 M 1 矩阵的第一列 ans 1 3 M 1 0 0 可单独操作一列一行或者一个元素 如 M 1 1 0 M M 0 2 0 4 Err Err 初始为空 4 Err Err 1 加入新的元素 Err Err 2 再次加入 Err Err 4 向量的元素可以以这种方式不断增加 Err Err 1 2 4 关于循环和矩阵运算和其他一些涉及到运算的例程关于循环和矩阵运算和其他一些涉及到运算的例程 M for i 1 5 M M i i 2 end M M 1 1 2 4 3 9 4 16 5 25 M M 点乘 ans 1 1 4 16 9 81 16 256 25 625 M 为转置运算 ans 1 2 3 4 5 1 4 9 16 25 M M 叉乘 ans 2 6 12 20 30 6 20 42 72 110 12 42 90 156 240 20 72 156 272 420 30 110 240 420 650 a 1 5 for i 1 5 i 5 if a i 3 break end 如果 a i 3 则跳出循环 end i 1 i 2 i 3 x 0 1 if x 0 f 1 else f 0 end f f 1 x 0 1 f x 0 逻辑运算 f 1 x 0 1 f x 0 f 0 rand 1 5 产生一个一行 5 列的随机数矩阵 ans 0 1576 0 9706 0 9572 0 4854 0 8003 sum 1 2 3 求和运算 ans 6 abs 5 绝对值运算 ans 5 关于结果显示和画图的例程关于结果显示和画图的例程 figure 画图 hold on 每次画图都画在同一个图上 不覆盖 grid on 显示网格 x 1 10 f x 2 plot x f b 具体看 help plot axis 0 10 0 120 设置轴的范围 xlabel Inputx 设置 x 轴的标签 6 ylabel Outputy 设置 y 轴的标签 disp f num2str f f 1 4 9 16 25 36 49 64 81 100 012345678910 0 20 40 60 80 100 120 Inputx Outputy 五 实验步骤 五 实验步骤 1 用单层感知器实现 与 运算用单层感知器实现 与 运算 与 运算真值表 x1 x2 y 0 0 0 0 1 0 1 0 0 1 1 1 得到输入样本和对应的期望输出 X1 1 0 0 d1 0 X2 1 0 1 d2 0 X3 1 1 0 d3 0 X4 1 1 1 d4 1 1 建立新文件 2 建立新函数 时钟进行随机初始化 3 编程 流程 Step1 文件命名 时钟随机初始化 Step 2 设置样本数量 P 对输入样本和期望输出赋值 设置感知器参数 输入样本维数 输出维数 最大训练次数 学习率 Step 3 感知器训练 权值初始化 7 设置阈值 合并阈值与权值得到扩展权值 从 1 到最大迭代次数 不断迭代计算 每次均依次输入样本 1 4 由 op dp得到误差 计算新的权向量 使用单极点二值变换函数 10 00 x f x x 记录下每次调整后的权值 每次迭代计算后 计算并记录总误差 如果总误差为 0 则停止迭代 Step 4 显示结果 画出收敛曲线 即每次迭代后的总误差 画出权值的变化曲线 画出样本的分布和分界线 w1x1 w2x2 T 0 关于本题的显示示例关于本题的显示示例 The final Error is 0 The curren Epoch is 3 The Final W is 0 72157 0 48814 The Final T is 0 8 The Result is x1 x2 y 0 0 0 0 1 0 1 0 0 1 1 1 02468101214 0 65 0 7 0 75 0 8 0 85 W1 02468101214 0 55 0 6 0 65 0 7 0 75 W2 权值的收敛曲线 8 11 522 53 0 0 1 0 2 0 3 0 4 0 5 0 6 0 7 0 8 0 9 1 Epoch Error 误差的收敛曲线 1 0 500 511 52 1 0 5 0 0 5 1 1 5 2 Inputx Outputy 样本分布及分界线示意 4 保存文件 通过菜单选择 File Save 或者点击左上角 或者使用快捷键 Ctrl S 5 运行及调试程序 点击上方 或者使用快捷键 F5 针对提示的错误的位置修改程序 直到正确运行 注意检查变量矩阵的字母大小写 矩阵叉乘是否需要转置 6 存储图像 在图上通过菜单选择 File Save 或者使用快捷键 Ctrl S 再 Edit Copy Figure 将图粘贴到 word 上作为实验报告的依据 7 设置阈值 T 0 1 改变学习率观察收敛曲线的收敛情况 对每个不同的学习率 分 别运行程序 10 次 将所用迭代次数的平均值填入下表 学习率 0 01 0 05 0 1 0 5 1 2 10 迭代次数 提示 可以利用 for 循环直接接到该表结果 8 设置学习率 0 1 改变学习率观察收敛曲线的收敛情况 对每个不同的阈值 T 分别运行程序 10 次 将所用迭代次数的平均值填入下表 阈值 T 0 01 0 05 0 1 0 5 1 2 10 迭代次数 9 设置学习率 0 1 设置阈值 T 0 1 运行程序 10 次 记录下迭代次数平均值 再将 变换函数改为单极点 Sigmoid 函数 再运行程序 10 次 记录下迭代次数平均值 变换函数 单极点二值函数 单极点 Sigmoid 函数 迭代次数 9 2 用单层感知器实现 或 运算用单层感知器实现 或 运算 与 运算真值表 x1 x2 y 0 0 0 0 1 1 1 0 1 1 1 1 1 建立新文件 2 编程 仅需要修改期望输出 3 保存文件 4 运行及调试程序 5 存储得到的图 3 用单层感知器实现 异或 运算用单层感知器实现 异或 运算 异或 运算真值表 x1 x2 y 0 0 0 0 1 1 1 0 1 1 1 0 1 建立新文件 2 编程 仅需要修改期望输出 3 保存文件 4 运行及调试程序 5 存储得到的图 6 是否能收敛到误差为 0 五 实验报告要求 五 实验报告要求 1 画出实验中所用的单层感知器结构图 2 附上每项实验程序清单 各项实验重复程