MATLAB机器学习.pdf

1 2017 The MathWorks, Inc. 武汉理工大学武汉理工大学 校园行校园行 3 MATLAB 是什么？是什么？ 4 MATLAB 是什么？是什么？ MATLAB 是一种用于算法开发、数据可视化、数据分析以及数值计算的科学计算语言和 编程环境。全球数以百万计的工程师和科学家使用 MATLAB 来分析和设计可改变世界的系统和 产品。 5 Kalman Filter Predicted state and covariance Estimation Estimated state and covariance Estimated measurements MATLAB 是数学语言是数学语言 6 MATLAB 丰富的工具箱丰富的工具箱 7 2017 The MathWorks, Inc. MATLAB 数据分析 8 LIGO 观测证实了引力波的存在 检测到两个黑洞相撞 测量被扭曲了尺度为质子直径 4/1000 的空间 验证了100多年前的爱因斯坦理论 MATLAB 被用于 LIGO 系统建模与设计 生成激励波形 数据与观察结果的比较 新 LIGO 系统的数据分析 “这个实验是人类历史上最伟大的技术成就之一。” Matt Strassler, 理论物理学家 9 Laser Interferometer Gravitational Wave Observatory (LIGO) MATLAB 与物理学与物理学 激光干涉引力波天文台（LIGO） 10 为什么需要数据分析？为什么需要数据分析？ 发生了什么？描述 为什么会发生？诊断 将会发生什么?预测 应该做什么?规范 将大量复杂数据转化为可操作的信息将大量复杂数据转化为可操作的信息 数据数据决策决策 11 MATLAB 令数据分析变得简单令数据分析变得简单 分析结果分享与实现分析结果分享与实现 桌面桌面 Apps 企业级系统集成企业级系统集成 嵌入式系统与硬件嵌入式系统与硬件 文件文件 数据库数据库 传感器传感器 数据获取与探索数据获取与探索开发预测模型开发预测模型 数学建模数学建模 模型验证模型验证 参数优化参数优化 数据预处理数据预处理 处理散乱的数据处理散乱的数据 数据压缩与转换数据压缩与转换 特征提取特征提取 12 数据处理与模型开发数据处理与模型开发 数据预处理数据预处理 处理散乱的数据处理散乱的数据 数据压缩与转换数据压缩与转换 特征提取特征提取 开发预测模型开发预测模型 数学建模数学建模 模型验证模型验证 参数优化参数优化 数理统计 局部、全局优化 曲线曲面拟合 13 数据处理与模型开发数据处理与模型开发 统计 交互式图形的统计绘图 描述性统计 特征变换与特征选择 机器学习 优化 线性规划、非线性优化 全局搜索、多初始点 模式搜索、遗传算法 拟合 曲线曲面拟合 线性与非线性回归 MATLAB 协助各协助各领域专领域专 家从容应对数据科学家从容应对数据科学 Apps代码代码 Apps 简单易用 广泛领域的工具，以方便特定领域 的分析 案例和视频协助快速入门 MATLAB 代码自动生成 大数据高速运算 14 机器学习与深度学习 15 机器学习无所不在机器学习无所不在 学习复杂的非线性关系 解决方案太复杂，无法通过手写规则或公式实现 语音识别 对象识别 发动机健康检测 随新数据可用实时更新 解决方案需要适应不断变化的数据 天气预测 能源符合预测 股票市场预测 从大规模数据中 有效的学习 解决方案需要规模化 物联网分析 出租车使用与调度 航班延误 16 什么是机器学习？什么是机器学习？ “猫” 训练数据特征提取 测试数据 机器学习模型：分类 机器学习是使用数据，并且创建一个程序来执行任务。 17 机器学习分类机器学习分类 Machine Learning Supervised Learning Classification Regression Unsupervised Learning Clustering 仅对输入数据进行分组或仅对输入数据进行分组或 解释解释 基于输入输出数据开发基于输入输出数据开发 预测模型预测模型 学习类型学习类型 算法类型算法类型 没有输出 只从输入数据中找到自然 分组和模式 输出是一个实数（温度、股票价格） 输出是类别（true，false）（红色，蓝 色，绿色）之间的选择。 18 机器学习分类机器学习分类 Machine Learning Supervised Learning Classification Regression Unsupervised Learning Clustering 仅对输入数据进行分仅对输入数据进行分 组或解释组或解释 基于输入输出数据开基于输入输出数据开 发预测模型发预测模型 学习类型学习类型 算法类型算法类型 Linear Regression GLM Decision Trees Ensemble Methods Neural Networks SVR, GPR Nearest Neighbor Discriminant Analysis Naive Bayes Support Vector Machines kMeans, kmedoids Fuzzy C-Means Hierarchical Neural Networks Gaussian Mixture Hidden Markov Model 支持向量机判别分析朴素贝叶斯最近邻 线性回归支持向量回归 组合方法决策树神经网络 K均值 分层聚类 高斯混合模型 神经网络 隐马尔科夫模型 19 选择模型与算法的挑战选择模型与算法的挑战 1.我应该选择哪个算法？ 2.需要自己开发及其学习算法吗？ 3.如何比较不同算法的结果？ 4.如何将新的数据应用到选择的模型？ 5.在开发过程中如何理解算法？ Classification Learner Regression Learner 20 机器学习：交互式应用程序机器学习：交互式应用程序 无编程无编程 21 机器学习：不知道哪种算法机器学习：不知道哪种算法 全部尝试全部尝试 22 机器学习：为选定的模型生成代码机器学习：为选定的模型生成代码 “如果没有这个如果没有这个 图形图形App，我不，我不 会想要尝试机器学习”会想要尝试机器学习” 23 还有更多的还有更多的 MATLAB 应用程序可用于数据分析应用程序可用于数据分析 Distribution Fitting System Identification Signal Analysis Wavelet Design and Analysis Neural Net Fitting Neural Net Pattern Recognition Training Image Labeler 还有很多还有很多 26 什么是预测性维护? 预防性维护是设备的智能健康监测以避免未来的设备故 障。与遵循设定时间表的维护相反，预测性维护计划由 传感器数据和分析算法确定。 27 预测性维护 = MATLAB + 数据 工程驱动的分析 工程数据 （来源于设备或传感器） 业务数据 （来源于业务系统） 分析与建模 （机器学习） 28 100个相同发动机的传感器数据 场景场景: 拥有故障数据拥有故障数据 执行定期维护 故障仍在发生（可能是由设计产生） 当发生故障时，搜索记录并收集故障事件之前 的数据 我们能预测多久会发生故障？ Demo: 涡轮发动机的预测性维护涡轮发动机的预测性维护 29 使用历史数据预测故障何时会出现使用历史数据预测故障何时会出现 ? 历史数据实时 Engine 1 Engine 2 Engine 100 初次使用/ 之前维护 周期 (时间) Engine X 起始记录故障维护 安排维修 ? 30 发动机寿命起始时间 对输入数据进行预处理和分类对输入数据进行预处理和分类 Engine 1 Engine 2 Engine 3 记录数据起始时间 周期 (时间) Engine 100 起始记录 故障 周期 0 31 Demo: 涡轮发动机的预测性维护涡轮发动机的预测性维护 32 什么是深度学习？什么是深度学习？ 猫 训练数据 测试数据 特征提取 机器学习模型：分类 33 什么是深度学习？什么是深度学习？ 猫 训练数据 测试数据 Convolutional Neural Network (CNN) Feature Learning % Connect to the camera nnet = alexnet; % Load the neural net while true picture = camera.snapshot; % Take a picture picture = imresize(picture,227,227); % Resize the picture label = classify(nnet, picture); % Classify the picture image(picture); % Show the picture title(char(label); % Show the label drawnow; end 36 神经网络工具箱神经网络工具箱 深度学习深度学习 37 并行计算并行计算 集群集群 Cluster of computers Core 5 Core 1Core 2 Core 6 MATLAB Desktop (client) Core 5 Core 1Core 2 Core 6 Core 5 Core 1Core 2 Core 6Core 5 Core 1Core 2 Core 6 WorkerWorker WorkerWorker WorkerWorker Worker Worker WorkerWorkerWorkerWorker WorkerWorker WorkerWorker 38 并行计算并行计算 NVIDIA GPUs Using NVIDIA GPUs MATLAB Desktop (client) GPU cores Device Memory 39 CPU v.s. GPU 40 MATLAB 的大数据处理能力的大数据处理能力 11 26 41 12 27 42 13 28 43 15 30 45 16 31 46 17 32 47 20 35 50 21 36 51 22 37 52 Distributed Arrays Apache Spark