《人工智能基础与应用》课件-2.探索大语言模型：开启AI新时代

第一章理论篇

人工智能理论基础《人工智能基础与应用》探索大语言模型：开启AI新时代201导入：大语言模型，AI的核心奥秘课程导入人工智能的核心奥秘，藏于大语言模型之中。无论是挥毫成文、勾勒图像，还是剪辑视频，AI的每一次创作，都始于大语言模型对需求的精准解读——究竟是什么大语言模型？它为何能成为AI能力的基石？今天，我们一起来揭开大语言模型的神秘面纱。402课程目标明确学习方向知识目标1.掌握大语言模型（LLM）的定义及核心功能（如内容生成、资料查询等）2.理解大语言模型的工作原理（含海量数据学习、Transformer架构、训练过程）能力目标能识别大语言模型的典型应用场景，区分不同模型的能力差异素质目标1.树立AI伦理意识，坚守科技向善的底线2.认同科技服务社会的价值，树立用技术助力进步的意识603大语言模型的定义定义解读大语言模型（英文：LargeLanguageModel，缩写LLM），也称大型语言模型，是一种人工智能模型，旨在理解和生成人类语言。类比说明它就像AI的“大脑指挥中心”，先理解任务的本质，再驱动相应能力完成工作。904大语言模型的关键技术海量的文本数据——读万卷书01数据来自各种书籍、新闻信息、权威百科、各种社交媒体信息以及论文文献等等。02模型通过对这些信息和知识进行学习，模仿人类的思维模式，对于上下文的理解更为透彻，根据给定的输入更好地给出结果。LLM训练数据输入模型输出庞大的模型规模——以ChatGPT为例以ChatGPT为例，GPT1只有1.17亿个参数，类似于幼儿园学生刚会说话，只能进行简单的语言表达和理解；GPT2有十五亿个参数，类似于中学生有一些基础知识，能够处理更复杂一些的语言任务；到了GPT3的时候，它就像个大学生了，有一定的知识储备量，能够完成一些日常任务，如文本生成、问答等；直到GPT4的出现标志着他已经博士毕业了，能够完成复杂的业务，如处理专业领域的复杂问题、进行深度的逻辑推理等。强大的神经网络架构——聪明的大脑结构循环神经网络RecurrentNeuralNetworks(RNNS)强大的神经网络架构——聪明的大脑结构循环神经网络长短时记忆网络强大的神经网络架构——聪明的大脑结构大规模的训练——刻苦训练通过在海量数据上进行长时间的训练，模型逐渐学习到语言的语法、语义、词汇搭配等知识以及不同语境下的表达方式。像反复做题巩固知识一样，慢慢摸透了语言的规律：哪两个词经常一起用、一句话在不同场合有啥不同意思。例如，“苹果”这个词，在不同的语境中可能有不同的含义，模型通过训练能够准确理解其在具体语境中的意思，并生成合适的回应。高度的灵活性和泛化能力语言模型还具备高度的灵活性和泛化能力，可以处理各种各样的自然语言任务。比如文本生成、理解、问答、翻译等。优化算法和技术来提高训练效率和模型性能，例如随机梯度下降等。1705大语言模型的挑战与应对大语言模型的挑战模型偏见由于训练数据中可能存在偏见，大语言模型在生成文本时也可能表现出一定程度的偏见。安全性问题恶意用户可能利用大语言模型进行不道德或非法的行为，如生成虚假信息或不当言论。能耗问题大语言模型的训练和运行需要大量的计算资源，这可能导致能耗问题。应对策略与科技伦理科技的发展不能只追求“厉害”，更要守住“底线”。国家一直倡导人工智能要“向善而行”，要符合伦理道德，要为人类社会的进步服务。作为未来的技术使用者，不仅要会用技术，更要想着怎么用它做好事，这才是科技的真正意义。2006课程总结回顾与总结1.大语言模型是能理解和生成人类语言的AI模型，就像一个“超级语言助手”。2.它的本事来自海量数据、Transformer架构、长时间训练、泛化能力及优化