智能无线通信 课件 第二章-人工智能基础

无线通信中的人工智能人工智能导论

人工智能历史及神经网络基础第3周认识人工智能发展历史，掌握机器学习及神经网络基础内容人工智能发展历史：概念和发展历史

01机器学习：概念/类型/要素

02神经网络基础：神经元/神经网络结构/激活函数/模型训练

03本节教学内容人工智能发展历史部分图片来源：互联网3人工智能发展历史：涉及领域示例4自然语言处理语音识别AmazonEchoSiri

机器翻译人工智能发展历史：涉及领域示例5计算机视觉图像分类场景分割物体检测人工智能发展历史：涉及领域示例6机器人学游戏对弈人工智能发展历史：概念7概念人工智能是研究人类智能活动的规律，构造具有一定智能的人工系统，研究如何让计算机去完成以往需要人的智力才能胜任的工作，也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术图灵测试（TheTuringtest）提出者：艾伦·麦席森·图灵提出时间：1950年源自“计算机器与智能”论文关于智能的可操作定义图灵预言，2000年之前，经过5分钟的问题测试之后，机器将能够蒙骗30%的人类裁判人工智能发展历史8人工智能孕育期神经网络1943年心理学家McCulloch和数学家Pitts提出抽象神经元模型MP图灵发表论文描绘人工智能设想第一台神经网络计算机的构造人工智能的诞生1956年夏天AI诞生于达特茅斯大学研讨会会议组织者：麦卡锡、Minsky(明斯基)、

ClaudeShannon(香侬)

等麦卡锡正式提出:人工智能人工智能发展历史9早期发展：在质疑中成长IBM：HerbertGelernter建造了几何定理证明机;1952年起,塞缪尔构建了西洋跳棋程序MIT：定义了LISP语言；发明了分时技术；实现了知识表示和推理Stanford：研究逻辑推理的通用方法MIT：视觉、自然语言理解等项目人工智能早期发展的困难受限于计算能力智能模型基本结构不完善感知机无法解决异或函数人工智能的发展专家系统人工智能发展历史10神经网络技术的新发展深度学习技术大模型技术智能体技术现阶段人工智能的新特点数据爆炸式增长Web上有数万亿的单词和几十亿的图片及视频基因序列有几十亿的碱基对每天各种多媒体素材层出不穷万物互联5G为人工智能搭建新的平台Qin,L.,Chen,Q.,Zhou,Y.,Chen,Z.,Li,Y.,Liao,L.,...&Yu,P.S.(2024).Multilinguallargelanguagemodel:Asurveyofresources,taxonomyandfrontiers.

arXivpreprintarXiv:2404.04925.机器学习：什么是机器学习11语音识别图像识别下棋问答系统“你好”“狗”“落子位置”“建议您首先xxx”“帮我制定计划”用户输入机器针对特定任务学习一个函数机器学习：概念12通过算法使得机器能从大量历史数据中学习规律从而对新的样本做决策机器学习：类型13机器学习：什么是机器学习14机器学习三要素模型：如线性模型学习准则：损失函数优化求解：梯度下降看成参数的方程，调整参数最小化损失fx机器学习：过拟合15样例来源：机器学习，周志华机器学习：过拟合16L1正则化：L2正则化：提前终止等策略神经网络基础：人工神经元17对应的连接权值神经元的N个输入net激活函数输出生物神经元人工神经元类比抽象神经网络基础：人工神经元18输入权重求和激活函数输出

…

神经元

神经网络基础：人工神经元19xyx

ANDy000010100111xyx

ORy000011101111xyx

XORy000011101110神经网络基础：人工神经元20线性可分x1x2x1

AND

x2000010100111x1x2x1

OR

x2000011101111

线性不可分x1x2x

XORy000011101110单层神经网络无法解决异或问题

神经网络基础：神经网络结构21单个神经元单层神经网络多个神经元多层神经网络两层以及两层以上的神经网络为多层神经网络两层神经网络

隐藏层

神经网络基础：神经网络结构22

隐藏层第一个神经元

隐藏层第二个神经元

双层神经网络解决异或问题

x1x2a1a2y000011101110真值表

x1x2x

XORy000011101110异或运算真值表01111110

神经网络基础：神经网络结构23两层神经网络隐藏层每两个神经元输出一个脉冲函数两层神经网络可使用无限多个神经元构造无限多个脉冲函数拟合任意曲线神经网络基础：神经网络结构24神经网络基础：激活函数25神经网络是一层一层构建的，每层都在做什么？

线性变换非线性变换弯曲平移升维/降维放大/缩小旋转输入空间到输出空间的变换神经网络基础：激活函数26

100.5-1-80.990.620.260.00100.5-1-81.000.46-0.76-0.99100.5-1-8100.500

神经网络基础：激活函数27线性不可分数据线性可分数据投影到另一个空间当前空间的数据用线性变换跟随着非线性变化将输入空间投向另一个空间神经网络基础：激活函数28SigmoidTanh神经网络基础：激活函数29ReLu神经网络基础：激活函数30神经网络基础：激活函数31激活函数导数导数图导数值SigmoidTanhReLU导数消失导数消失饱和激活函数神经网络基础：模型训练32调整参数获得