人工智能第5章 人工智能数学基础

第5章人工智能数学基础§1、矩阵的运算矩阵的运算1、矩阵的加法2、矩阵的乘法3、数量乘积4、矩阵的转置

1.矩阵的加法

2.矩阵的乘法

3.数量乘积

4.矩阵的转置§2、矩阵的应用1、存放原始数据

图5-2三维人脸深度图

1、存放原始数据

X矩阵Y矩阵Z矩阵索引矩阵1、存放原始数据2.距离矩阵

3.参与计算

3.参与计算

3.参与计算

（a）原始图像（b）余弦变换结果图5-14余弦变换4.图像处理我们以灰度图像为例，将图像中的每一个像素点的灰度值存储在矩阵中，然后对矩阵进行不同的处理，接着将每一个像素点的灰度值规范化为0～255的整数，最后可以显示出处理后的图像。如图像几何的变换，包括图像的平移、水平镜像、垂直镜像、图像转置、旋转变换等，均可将图像存储在矩阵中，然后应用不同的算法得到变换结果。如下图为对原始图像进行二值化。

（a）原始图像（b）二值化结果图5-6图像二值化§3、线性变换线性变换

（a）反射或镜像变换（b）相似变换（c）旋转变换线性变换

线性变换

线性变换§4、特殊矩阵1.单位矩阵

2.正交矩阵

图5-16图像旋转示意图3.旋转矩阵4.对角矩阵

5.对称矩阵

5.对称矩阵

图5-17距离矩阵示意图

当测试集（Testingset）与注册集（Probeset）相同时，距离矩阵为对称矩阵，如图5-17所示，例如，a到b的距离与b到a的距离相等，因此距离矩阵为对称矩阵。距离矩阵可以用于分类，如用最近邻分类法，分析与测试样本最近的注册样本，可将测试样本与该注册样本分为一类。6.逆矩阵

7.伴随矩阵

8.初等矩阵

8.初等矩阵

§5、矩阵的分块矩阵的分块

矩阵的分块

矩阵的分块

§6、行列式1.行列式的计算

1.行列式的计算

2.行列式的性质

2.行列式的性质

3.行列式的一些定理和推论

3.行列式的一些定理和推论

4.行列式按一行（列）展开

4.行列式按一行（列）展开

4.行列式按一行（列）展开

§7、特征值与特征向量特征值与特征向量

1.特征值与特征向量的计算

1.特征值与特征向量的计算

1.特征值与特征向量的计算2.特征值与特征向量的应用

2.特征值与特征向量的应用

2.特征值与特征向量的应用

2.特征值与特征向量的应用§8、奇异值分解1.奇异值分解的方法

1.奇异值分解的方法2.奇异值分解的应用

图5-19

奇异值分解实例-图像压缩2.奇异值分解的应用

2.奇异值分解的应用图5-20

图像压缩效果2.奇异值分解的应用

2.奇异值分解的应用

§9、概率论基础知识概率论与人工智能在自然界中存在着一类现象，例如，在相同条件下抛一枚硬币，其结果可能是正面朝上，也可能是反面朝上，并且在每次抛掷之前，无法肯定抛掷的结果是什么。这类现象，在一定条件下，可能出现这样的结果，也可能出现那样的结果，而在试验或观察之前不能预知确切的结果。但人们经过长期实践并深入研究之后，发现这类现象在大量重复试验或观察下，它的结果却呈现出某种规律性。概率论是研究在个别试验中其结果呈现出不确定性，在大量重复试验中其结果又具有统计规律性的现象，就是概率论所研究的内容。概率论是现有许多人工智能算法的基础。现阶段的很多人工智能算法都是数据驱动的，目的大多为了做预测或是做出更好的决策。如机器翻译中，如何检测你输入的语言种类。一种简单的方法就是把输入的词或句子进行分解，计算各语言模型的概率，然后概率最高的是最后确定的语言模型。用神经网络进行图像分类，网络的输出是衡量分类结果可信程度的概率值，即分类的置信度，我们选择置信度最高的作为图像分类结果。混合高斯模型、隐马尔科夫模型等传统语音处理模型都是以概率论为基础的。随机试验满足以下三个特点的试验称为随机试验：（1）可以在相同的条件下重复进行。（2）每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果。（3）进行一次试验之前不能确定哪一个结果会出现。例如，抛一枚硬币，观察正面和反面出现的情况；抛一枚骰子，出现点数的情况；记录某地一昼夜的最高温度和最低温度。样本空间、样本点、随机事件

随机变量

分布列

…………表

5-2

分布列表

§10、特殊离散分布1.伯努利分布

0表

5-3

伯努利分布的分布列

2、二项分布

3、泊松分布

§11、条件概率、贝叶斯公式条件概率

贝叶斯公式

贝叶斯定理应用

§12、期望、方差期望

期望

方差

离散随机变量的期望与方差

连续随机变量的期望与方差

§13、协方差、

相关系数、协方差矩阵协方差、相关系数

协方差矩阵

YX-2-112101/41/401/241/4001/41/21/41/41/41/41

表5-4分布律§14、最优化问题什么是最优化问题

最优化问题的分类

最优化问题求解1.无约束优化求解：直接法和解析法直接法通常用于当目标函数表达式十分复杂或写不出具体表达式时的情况。通过数值计算，经过一系列迭代过程产生点列，在其中搜索最优点。解析法，即间接法，是根据无约束最优化问题的目标函数的解析表达式给出一种求最优解的方法，主要有梯度下降法、牛顿法、拟牛顿法、共轭方向法和共轭梯度法等。最优化问题求解

梯度下降算法如何从初始位置到函数极值点？每一步都朝着函数值下降最快的方向移动一段距