网络舆情概论（微课版）电子教案

《网络舆情概论（微课版）》教案PAGEPAGE１３第10章人工智能与网络舆情教学内容人工智能概述人工智能与网络舆情监测人工智能与网络舆情研判人工智能与网络舆情引导教学要求了解人工智能的定义理解人工智能在网络舆情监测中的流程创新和局限性理解人工智能在网络舆情研判中的工作目标、流程创新和局限性掌握人工智能在网络舆情引导中的工作模式和局限性教学重点人工智能在网络舆情监测中的流程创新和局限性人工智能在网络舆情研判中的流程创新和局限性人工智能在网络舆情引导中的工作模式和局限性教学难点人工智能在网络舆情监测中的流程创新人工智能在网络舆情研判中的流程创新生成式人工智能在网络舆情管理中的应用与风险教学方法讲授法、演示法、案例法课时数课时课程导入：2025年全国两会期间，光明网积极运用生成式人工智能技术深度赋能新闻生产流程。推出视频报道《AI数说中国答卷|从政府工作报告看中国经济社会发展新图景》，运用人工智能生成内容（ArtificiallIntelligenceGeneratedContent，AIGC）技术，将政府工作报告文件转化为结构化内容，快速生成文字稿件与视频脚本，并精准提炼政府工作报告中的数据，生成交互式可视化内容，将传统流程需数小时的内容生产压缩至分钟级，为两会报道提质增速。2024年，澎湃新闻全面升级澎湃智媒开放平台“派生万物”，利用前沿的人工智能技术提供全媒体内容生产辅助方案，功能涵盖线索征集、稿件编写、插入图片、专题生成、风险筛查等全流程。截至2025年2月，澎湃新闻采编团队已累计生成15.2万张AI作画图、1.4万个AI视频。10.1人工智能概述从2016年3月人工智能围棋系统AlphaGo以4:1的优势战胜了世界围棋高手李世石，到，到2022年11月生成式人工智能ChatGPT横空出世，人工智能的每一次发展都会引爆网络舆论。本节将介绍什么是人工智能及其在网络舆情中的应用。10.1.1人工智能的定义人工智能是一个相对于自然智能和人类智能的概念。大自然演变所产生的智能，称为自然智能。人类本身通过进化和学习所获得的认识世界和改造世界的智慧和能力，称为人类智能。而人工智能是指由人类制造的智能，也就是机器制造出来的智能。人工智能（ArtificialIntelligence，AI）的提出，最早可以追溯到1956年的达特茅斯会议。关于人工智能的定义，目前学术界尚未统一，不同的专家学者从不同的角度给出了各自的定义。可以将人工智能概括为：人工智能是研究各种人类智能活动的规律而创造出一种智能机器，使机器能够胜任一些通常需要人类智能才能完成的复杂工作的人工系统。10.1.2人工智能在网络舆情中的应用近年来，人工智能技术的迅速发展与广泛应用，为网络舆情的分析与治理提供了新的技术手段和路径。一些研究者从人工智能技术和网络舆情治理融合的角度出发，对分析分解网络舆情的发展过程、人工神经网络建模预测舆情走向、灰度预测和模式识别预测舆情发展趋势等技术进行了深入的研究和探索。人工智能技术在网络舆情中的应用日趋成熟，借助于人工智能技术，可以实现网络舆情分析的自动化、智能化、精准化，人工智能增强了网络舆情分析与治理的效能。总的来说，机器学习、深度学习、专家系统、模式识别、人工神经网络等人工智能技术在网络舆情监测、网络舆情研判、网络舆情引导等领域有着较大的应用价值，为网络舆情监测、研判、引导的流程带来了创新。10.1.3生成式人工智能在网络舆情中的应用生成式人工智能（GenerativeArtificialIntelligence，简称Gen-AI），指以大规模语言模型（LargeLanguageModel，LLM）、扩散模型与其他多模态生成模型为核心，能够基于海量训练数据自动生成文本、图像、音频与视频等内容的技术体系。与传统以“识别”“判别”为主的人工智能不同，生成式人工智能的显著特征在于其创造性输出能力、多模态化生成及大规模、低成本的内容产出能力，这使其在网络舆情生态中既能作为信息生产工具，也能作为传播放大器与交互主体。10.2人工智能与网络舆情监测在人工智能日渐深刻影响信息传播的今天，它对网络舆情监测起到了积极的促进作用，并创新了网络舆情监测的工作流程。但同时，在具体实践中，人工智能在网络舆情监测领域的应用也存在一定的局限性。10.2.1人工智能在网络舆情监测中的流程创新1．技术流的智能交互应用基于人工智能技术的互联网舆情监测系统拥有丰富的智能交互接口，基于用户的反馈信息可以对底层计算模型自动进行优化，不断深化机器学习，还可以支持用户对大量网络舆情数据进行人工修正，以实现更精准化的网络舆情数据的抓取和展示。2．多视角监测全网舆情信息基于人工智能技术的互联网舆情监测系统构建起了立体式的舆情监测网络，并打造了网络舆情实时监测分析智能系统。通过对人、事、媒体等多源舆情信息的挖掘，实现对全网信息全面覆盖式的实时监测，对舆情信息进行多角度的分类展示，有利于用户对网络舆情态势的实时研判。3.多维标签实现数据精细化抓取基于人工智能技术的网络舆情监测系统可以对舆情信息按照情感、地域、行业等进行分类设置，实现舆情信息的标签化分类，以达到对海量舆情数据的精细化分类，实现对舆情信息的智能化管理，方便监测人员根据实时舆情动态进行持续的、有选择性的深度监测，有侧重地获取网络舆情动态。4.一键式舆情报告智能呈现基于人工智能技术的网络舆情监测系统可以将海量舆情信息通过一键式舆情报告的形式呈现。监测人员可以在系统后台选择不同形式的舆情报告模板进行舆情报告定制，自动生成舆情报告，并支持人工修改。10.2.2人工智能在网络舆情监测中的局限性1.人机不协调问题亟待解决由于目前各单位的网络舆情人才的技术应用水平不一致，尚未形成成熟、统一的机器与人工的协同智能分工模式，导致在网络舆情监测过程中机器对人工的辅助不够。目前的人工智能技术在网络舆情监测体系中对网络舆情的热点分析、预测走势、效果评判等方面的应用还稍显粗浅、机械，而在需要人工进行的高级维度分析、提出具体的应对措施和解决策略等层面，机器的应用又显得粗糙，产品功能同质化严重。2.舆情话语体系更迭速度快，舆情预警能力不强分析我国近年来发生的热点舆情事件可以发现，在各类社交媒体平台上，公众的话语体系经常出现更新，表现出舆论发布主体多样、舆论传播渠道多元、舆论发展趋势不确定性强、舆论意见表达新颖等特征。舆情话语体系的更迭和不可控性增加了网络舆情监测工作的难度，对基于人工智能的网络舆情监测系统而言，对舆情信息进行发现和跟踪分析的技术会出现灵敏度降低的问题，这会导致发现舆情的速度变慢，舆情预警效能和分析研判的准确性也会随之大大降低。3.用户的隐私泄露问题和数据垄断问题将人工智能应用于网络舆情监测存在着数据收集过度而导致的侵犯个人隐私的问题。因为系统漏洞或防护能力不强等情况，一些知名互联网公司都发生过黑客入侵事件，造成大量用户隐私数据泄露的事故。在当前数据的收集、使用过程中还出现了数据收集公司的数据垄断问题。有报告显示，近两年数据垄断态势居高不下，10%的权限数据收集者可获取99%的权限数据。10.3人工智能与网络舆情研判发挥人工智能技术优势，并将之应用于网络舆情研判，对于提高网络治理的有效性和智能化具有十分重要的现实意义。因此需要掌握人工智能与网络舆情研判的工作目标、流程创新与局限性。10.3.1人工智能在网络舆情研判中的工作目标将人工智能应用于网络舆情研判的工作目标主要有以下3个：1.定量研判在全面的网络舆情数据之上，通过网络舆情研判可以对网络舆情的传播态势进行定量分析，将浏览量、发帖量、转发量、点赞量等传播数据代入算法模型，计算出传播态势的各项指标，识别网络舆情演绎过程的规律，使网络舆情研判更加有说服力。2.智能研判通过互联网和计算机软件技术平台，对网络舆情进行多重模拟，对网络舆情风险进行预测、预警和分析，以便为突发网络舆情事件提供具有针对性的处理对策。由于网络舆情的发展趋势具有动态变化的特征，智能化的网络预警研判需要根据网络舆情事件的特点进行调整，不断根据实时的网络舆情反馈情况动态地做出研判，以确保网络舆情研判工作的智能、高效进行。3.精准研判人工智能网络舆情研判工作除了要充分利用大数据和人工智能技术，实现定量研判和智能研判，还应当应用社会学、政治学、传播学、管理学等学科的理论、原则、规律和方法，实现对网络舆情事件的精准研判。要实现精准研判，必须秉持人机结合的原则，让一定的专家参与智能研判系统，为网络舆情治理提供科学的策略，确保网络舆情研判的精准性。10.3.2人工智能在网络舆情研判中的流程创新1．数据处理环节：数据分类和理解在数据处理环节，要对舆情监测提取到的海量数据进行量化建模，并依据语料库为这些数据提供合适的标签，以方便后续的分类和调用。之后，需要通过机器学习，对数据进行语义理解和情感理解，将数据进行划分。2.热点发现环节：建模和预警人工智能需要依靠过往发生的足够多的舆情案例进行机器学习，构建训练集，通过建模概率预测舆情的走向，将有可能产生负面影响的舆情在萌芽期识别出来，并进行舆情预警。在此环节中，研究人员可以进行分析判断，辅助人工智能进行预测，并将人工选择行为作为机器进一步学习的训练集，以提高人工智能进行网络舆情预测预警的准确度。3.对策分析环节：专家分析与人工智能的协同在人工智能网络舆情研判中，对网络舆情的梳理、预测等内容可以由机器进行，但有效的对策分析尚需要专家与人工智能的协同。一些网络舆情研判系统通过对专家的对策分析经验进行量化，让人工智能进行学习训练，以期人工智能在类似的网络舆情再出现时能提供辅助建议，助力决策分析的智能化、科学化。10.3.3人工智能在网络舆情研判中的局限性1.跨学科的方法融合困境人工智能网络舆情研判在实际应用中需要计算机技术、新闻学、管理学、情报学等多个学科的方法融合，面临着人才缺乏、学科融合不足、理论技术不够完善等困境。利用人工智能技术进行网络舆情研判，需要研究人员除了具备良好的专业技术素养，还要具备丰富的网络新闻传播知识。人工智能网络舆情研判的技术理论体系也需要完善，需要有机融合人工智能技术和物联网、云计算、传统舆情研判等技术，推动传统的网络舆情研判适应人工智能。2.技术应用的资金保障力度不够人工智能网络舆情研判需要及时有效的信息收集、处理、分析、反馈和决策，需要雄厚的资金保障和强有力的技术系统支撑。越先进的人工智能舆情研判系统所需要的研发成本越高，对人才的要求也越高。在实际工作中，部分政府部门、官方机构和企业不具备与所需的人工智能网络舆情研判体系相匹配的资金和专业人才力量，在网络舆情事件发生后，难以及时有效地收集深层次、高质量的网络舆情信息，经常导致网络舆情危机事件的处置工作陷入被动局面。3.舆情预测干涉问题“测不准原理”（在量子世界中，测量粒子位置，必然会影响粒子的速度），揭示了在量子尺度的微距世界中的“测量即干涉”现象。这一“测量即干涉”现象也出现在人工智能分析中。虽然人工智能可以最大限度地、客观地统计和分析大量的网络舆情数据，但由于所收集的数据中存在“噪声”，它也不是完全可靠的。如果过分依赖人工智能做出决策，忽视网络舆情研究专家理性分析的作用，将无法获得准确的网络舆情信息，难以做出符合现时代环境的网络舆情治理决策。10.4人工智能与网络舆情引导人工智能改变了网络舆情的生态环境，为网络舆情引导带来了新的机遇，同时将人工智能应用于网络舆情引导还存在一些局限性。10.4.1人工智能在网络舆情引导中的工作模式1.网络舆情引导内容生成环节在网络舆情引导的内容生成环节，写稿机器人采用机器学习方法进行自动化的新闻写作，快速地在微信、微博等多平台上发布网络舆情引导内容。人工智能与网络舆情引导相结合，加快了新闻报道和推送的速度，进而提升了网络舆情引导的时效，并直接改变了报道突发舆情事件的内容生成流程。2.网络舆情引导内容呈现环节人工智能与VR、AR、可穿戴设备等结合，通过VR、AR等技术模拟环境，为用户提供视觉、听觉、触觉等三维式的感官体验，给人以环境沉浸感。人工智能与VR、AR的结合，丰富了网络舆情引导的内容呈现方式，使网络舆情引导的内容呈现方式从“平面化”转向“立体化”，以更强的“沉浸感”助力主流意识形态的传播。3.网络舆情引导智能分发环节通过写稿机器人完成内容生成、通过与VR、AR技术结合丰富内容呈现方式之后，人工智能还能够助力内容的智能分发，以实现对网络舆情引导对象的精准化匹配。以今日头条为例，它利用优秀的算法机制分析用户的兴趣点，为用户设置议程，将与用户兴趣相关的新闻资讯推送给每个用户。“推荐算法”式的智能分发模式极大地提升了新闻的分发效率，当用户关注某一舆情事件时，可以为其推送相关的正向舆论，进而实现网络舆情引导目标。10.4.2人工智能在网络舆情引导中的局限性1．虚假新闻和议程偏离问题由于存在缺乏有效监管和技术不完善等问题，写稿机器人可能生成一些虚假、不实的新闻报道，或者被利用产生“机器人水军”，在网络上营造虚假舆论。写稿机器人的技术逻辑是从海量资讯中筛选出热点话题，然后根据后台算法和用户兴趣快速生成新闻报道，使用写稿机器人进行内容生成意味着将一部分议程设置的权利过渡给机器与用户，导致新闻报道出现“议程偏离”问题。2.信息茧房问题人工智能算法推荐技术在新闻分发环节很容易自动过滤掉网民不感兴趣、不熟悉的信息内容，加剧了“信息茧房”效应。互联网用户长期处于“信息茧房”中，将很容易受片面信息的影响，对世界或某一事物的认识形成刻板印象，如果这些认知偏狭且持相同意见的人聚集起来，就会与其他群体产生沟通障碍，引发群体极化现象。3.复杂的信息管理难题首先，写稿机器人蕴含的虚假信息、“机器人水军”风险和算法推荐技术的滥用带来的信息茧房等问题，可能会造成错误的舆论导向和新闻价值观的泛滥，冲击网络舆情信息生态。其次，在人工智能环境下的内容生成环节中，存在大量的内容“搬运”“洗稿”现象，带来原创优质内容减少、内容质量良莠不齐和侵权等问题，冲击网络舆情引导的生态环境。最后，在网络舆情引导工作中，一些企业和部门缺乏数据共享理念，导致有些公共数据存在数据分散、数据质量评价无统一标准、数据使用率低等问题，无法达到信息的互联互通、整合利用，进而削弱数据为网络舆情引导提供决策参考的作用。10.5生成式人工智能与网络舆情生成式人工智能以其强大的内容生产与数据处理能力，深度重塑了网络舆情的生成、传播与演化逻辑，既为舆情管理带来了技术赋能的新机遇，也催生了前所未有的治理挑战。10.5.1生成式人工智能对网络舆情管理的积极作用生成式人工智能凭借强大的自然语言处理能力，能够深度嵌入网络信息生产的全流程，从内容创作到分发反馈，全方位提升网络舆情管理能力，为网络舆情管理提供了从发现、核验、沟通的闭环流程的技术支持。1.提升网络舆情监测的效率与能力生成式人工智能技术能够实时监测网络信息，通过大语言模型和超级算力在短时间内根据用户需求生成大量具有高拟真性、强交互性、多模态的内容，帮助快速捕捉舆情热点。同时，生成式人工智能具有强大的信息整合与转译流通能力，可以迅速收集整理繁杂的数据，并将源源不断的输入性数据转化成学习资料。这种数据处理能力为舆情监测提供了技术支撑。此外，生成式人工智能还能够在与用户交互过程中，通过其检索的问题逻辑、问题间联想等形式，在不涉及个人隐私的情况下查探基本心理发展情况，帮助政府提早预警、提早研判，为构建新型舆情预警系统提供了可能。2.舆情态势分析和决策支持的新工具生成式人工智能能够通过精准的用户画像，针对不同社会群体的价值观变化情况提前做好舆情事件的预警和态势研判。学者张艳丰等通过实证研究发现，通过模糊DEMATEL和AHPsortⅡ方法进行网络舆情风险测度分析，能够识别关键风险要素及其因果结构，并实现风险因素分类排序。这种系统性的分析方法有助于决策者全面把握舆情发展态势，为科学决策提供数据支撑。同时，生成式人工智能技术还能够帮助相关部门通过大数据技术对网络舆情进行深入分析，挖掘潜在的风险点和舆情趋势，进而制定更具针对性的风险管理方案。3.为提升网络舆情引导效果提供新方法政府可与企业进行充分合作，围绕优质价值观的传播，结合短视频等新媒体平台，改变现有价值观传递形式单一、大众对话语叙述接受度较低的情况，使得宣传更具亲和力。通过借助生成式人工智能的内容与视频生成能力，可以将优质价值观融入生产内容中，并借助平台进行精准推送，进而催生积极舆情。这种精准化、个性化的传播方式能够更好地满足不同群体的信息需求，提升舆论引导的针对性和有效性。此外，生成式人工智能技术还能够帮助政府和主流媒体以更加生动、易接受的方式传递主流价值观，增强舆论引导的感染力和说服力。10.5.2生成式人工智能对网络舆情管理的风险挑战生成式人工智能在网络舆情领域虽有助力，但也带来了系统性负面影响，本节同样从监测、研判、引导三个层面，论述生成式人工智能对网络舆情管理带来的风险挑战。1.虚假信息泛滥和监测难度增加生成式人工智能正在智能生成大量虚假的文本和影像，若未及时制定相关法规，实施有效控制，可能面临人工智能生成内容失控的治理挑战。世界经济论坛在2024年已将“人工智能生成的错误信息和虚假信息”列为“未来两年全球十大风险”之首。生成式人工智能的发展提升了内容生成的复杂性与隐蔽性，增加了舆情识别与干预的难度。传统信息技术难以处理人工智能生成的虚假信息，这些内容将充斥国内外舆论空间。更为严峻的是，当前内容即时校对体系模式仍在发展阶段，治理能力发展相较于问题发展的时空间隙留下巨大可操纵空间。互联网黑客会利用生成式人工智能技术根据特定目标对象生成定制化的画像，包括语言、形象和声音等，其难以被传统的过滤机制拦截，这进一步增加了虚假信息的识别和治理难度。2.研判基础失真和责任主体模糊社会意见和观点的表达主体进一步“非人化”，AIGC可能替代社会公共意见。当类ChatGPT人工智能介入网络舆情传播，将可能导致循环式反转舆情多发、弥散性复合舆情泛传、框架化议题舆情出现、间断爆发式舆情存在等网络舆情风险产生。这种复杂多变的舆情态势给准确研判带来了极大挑战。同时，生成式人工智能技术的决策过程中可能会受到训练数据和算法设计的影响，从而产生偏见，如生成性别歧视、种族歧视、色情暴力等有害内容。这些带有偏见的内容不仅违反了伦理道德和法律法规，还对个体和社会造成严重影响。更为复杂的是，生成式人工智能的强人机交互性和运行目的的不可知性，不仅使服务提供者丧失了控制输入端的能力，也强化了内部的算法黑箱。虚假舆论观点信息的生成因素包含了算法、算力、数据、用户等，还可能源自与用户互动的“习得”内容，这种责任主体的模糊化使得风险归责变得极为困难。3.意识形态侵蚀与舆论操控风险基于生成式人工智能技术开展的意识形态侵蚀行为更加难以防御，面对全球流动的数据网络，相关国家通过针对性输入某些富含政治倾向和政治态度的信息，改变此类人工智能的立场出发点，并搭配精准传播、定制化传播方案，就能影响到特定目标群体，构建信息茧房。生成式人工智能可以在与用户的信息交互中通过信息转化的方式重塑网络舆情的生成与传播机制。类ChatGPT人工智能与受众交互中所生成的“标准答案”正是源于多数的一般受众，当这种“标准答案”成为引导网络舆情发展的指引性观点，此时受众在网络舆情观点传播过程中就充当着受者的角色，这实质上是一种隐蔽的舆论操控。此外，生成式人工智能的出现则为资本革新对舆论的影响方式提供可能。当前资本运用舆论展开商业竞争已屡见不鲜，资本和人工智能研发机构的相互需要将催生出专注于议程设置、舆论引导、话题引爆等方面的人工智能，加深资本对舆论发展的控制。这种资本对舆论的深度介入，使得舆论不再单纯是社会观点摩擦和交锋诞生的产物，更是资本力量对抗而被引导的副产品。10.5.3应对生成式人工智能舆情风险的策略建议2023年7月10日，国家互联网信息办公室等7个部门联合公布《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。2025年3月7日，国家互联网信息办公室等4个部门印发《人工智能生成合成内容标识办法》，旨在促进人工智能健康发展，规范人工智能生成合成内容标识。面对生成式人工智能给网络舆情管理带来的机遇与挑战，需要技术、制度、教育多措并举，通过政府、企业、公众等多方协同，构建覆盖监测、研判、引导全流程的综合治理体系，既要充分发挥生成式人工智能技术在舆情管理中的积极作用，又要有效防范和化解其带来的各类风险，确保网络舆情的健康有序发展。从监测层面来看，应完善技术监管机制和内容识别能力。针对生成式人工智能可能产生的虚假错误信息，需要加强技术监管和信息检测机制，构建新型舆情预警系统，实时监测网络信息，及时发现偏见或虚假信息。企业平台应增强对内容的审查力度，开发内容审查算法，在生成内容上强制性打上“智能水印”，通过“多次把关、反复审查”的方式，规范化生成内容向舆论场的流入。社交媒体平台可部署基于深度学习的识别模型，通过多模态识别、语义分析与图像溯源等技术手段，对可疑内容进行快速判别和溯源。从研判层面来看，应构建多元监管格局和完善法规政策体系。需要构建多方参与的舆论生产与传播监管格局，整合行政部门、企业、行业中负责网络信息安全、应急处置等工作的部门，成立纵向网络信息安全治理委员会，打通监管壁垒，形成治理合力。政府应加快出台和完善与人工智能生成内容有关的法规政策，明确生成式人工智能在网络舆情风险管理中的应用边界与法律责任。对