AI大模型文本挖掘与舆情数据分析指南

AI大模型文本挖掘与舆情数据分析指南文件编号：AI-TM-PO-【001】版本号：V【1.0】密级：【内部公开/内部/秘密】编制部门：【AI与数据智能部/舆情中心】审核部门：【法务合规部/信息安全部/业务主管部门】批准人：【姓名/职务】生效日期：【YYYY-MM-DD】适用范围：【组织名称】及所属单位使用说明：本指南为可编辑模板。使用时，将【】中的内容替换为本单位实际信息，并根据业务场景调整数据源、模型、指标、阈值和审批流程。高风险场景必须经法务、安全、业务三方复核后执行。修订记录版本日期修订内容修订人审核人批准人V1.0【YYYY-MM-DD】首次发布【】【】【】目录总则术语与缩略语总体架构与业务流程数据采集与数据治理文本预处理规范大模型文本挖掘方法舆情数据分析体系提示词工程与自动化工作流技术选型与部署质量评估与持续优化安全合规与伦理要求实施路线与组织保障模板与示例附录：指标公式、检查清单与参考规范1.总则1.1目的为规范【组织名称】使用人工智能大模型开展文本挖掘与舆情数据分析工作，提升信息监测、风险识别、趋势研判和决策支持能力，防范数据安全、算法偏见、模型幻觉和合规风险，特制定本指南。本指南旨在实现以下目标：建立统一的大模型文本挖掘与舆情分析流程；明确数据采集、处理、分析、预警、报告和处置规范；提升舆情分析的时效性、准确性和可解释性；确保全过程合法、合规、安全、可控；支持业务部门简单修改后直接落地使用。1.2编制依据本指南参考以下法律法规、标准规范和内部制度：《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》及最新配套规定GB/T35273《信息安全技术个人信息安全规范》ISO/IEC27001信息安全管理体系ISO/IEC42001人工智能管理体系其他适用于【行业名称】的监管规定和平台规则1.3适用范围本指南适用于【组织名称】在以下场景中使用大模型进行文本挖掘与舆情分析：品牌声誉监测；公共事件舆情监测；客户投诉与满意度分析；政策反馈与民意洞察；竞品动态与市场情报；内部员工舆情与风险线索发现；突发事件预警与应急响应；其他经批准的文本分析任务。涉及互联网新闻信息服务的，应依法取得相应资质或与具备资质的机构合作。未经授权，不得从事新闻采编、非法爬取、个人信息买卖或舆论操纵。1.4基本原则合法合规：数据来源合法，采集方式合规，尊重平台规则、知识产权和个人信息权益。业务导向：分析目标必须服务于明确业务问题，避免为分析而分析。人机协同：大模型承担初筛、归纳和辅助判断，高风险结论必须人工复核。安全可控：数据分级分类，模型权限最小化，日志可审计，输出可追溯。可解释可验证：重要结论应保留原文证据链，避免无依据推断。持续迭代：根据评估结果优化提示词、知识库、模型和指标阈值。伦理审慎：不得利用舆情分析操纵舆论、歧视特定群体或侵犯个人合法权益。2.术语与缩略语术语定义大模型/LLM基于海量数据训练、具备自然语言理解与生成能力的人工智能模型。文本挖掘从非结构化文本中提取分类、主题、情感、实体、关系、事件等信息的过程。舆情公众对特定事件、政策、组织、人物或产品表达的态度、情绪和观点的总和。情感分析判断文本情感倾向，如正面、中性、负面，并可进一步识别情绪类型和强度。主题建模从文本集合中发现主要议题和聚类结构。事件抽取识别文本中的事件类型、时间、地点、主体、客体和动作。立场分析判断文本对特定对象支持、反对或中立的态度。RAG检索增强生成，通过外部知识库检索结果增强大模型回答的事实性。Prompt提示词，用于指导大模型完成特定任务的指令和上下文。模型幻觉大模型生成看似合理但缺乏事实依据或与原文不符的内容。向量数据库存储文本向量并支持相似度检索的数据库，如Milvus、PGVector、Elasticsearch等。数据脱敏通过替换、屏蔽、泛化等方式降低敏感信息可识别性。预警分级按风险严重程度划分的响应等级，如蓝、黄、橙、红。3.总体架构与业务流程3.1总体架构建议采用“五层架构”：数据源层：新闻、社交媒体、论坛、短视频、投诉平台、内部工单、问卷等。数据治理层：采集、清洗、去重、脱敏、标准化、标注、存储、权限管理。大模型能力层：文本分类、情感分析、主题抽取、事件抽取、摘要、问答、RAG、向量检索。分析应用层：舆情看板、预警系统、专题报告、趋势预测、风险画像。治理保障层：安全合规、质量评估、审计追踪、伦理审查、应急响应。3.2闭环流程目标定义→数据采集→预处理→大模型挖掘→人工复核→指标计算→预警研判→报告发布→反馈优化。3.3角色与职责简表角色主要职责业务部门提出分析目标，确认指标，研判业务影响。数据团队数据采集、清洗、治理、存储和权限管理。算法团队模型选型、提示词设计、微调、评估和优化。舆情分析师人工复核、趋势研判、报告撰写和预警建议。法务合规审核数据来源、个人信息、内容发布和资质合规。信息安全权限、加密、日志、审计、应急响应。管理层审批重大分析任务、预警发布和处置决策。4.数据采集与数据治理4.1数据源分类类别示例采集方式注意事项公开新闻门户、新闻客户端API、授权数据服务尊重版权，注明来源。社交媒体微博、微信、抖音、快手、小红书等官方API、授权接口遵守平台协议，不得绕过限制。论坛社区贴吧、知乎、行业论坛API、RSS、授权采集避免高频抓取影响服务。投诉平台黑猫、12345、内部工单授权接口、人工导入涉及个人信息需脱敏。内部数据客服记录、问卷、访谈内部系统对接按内部数据分级授权。第三方数据数据服务商、研究报告采购、合作审核来源合法性和授权范围。4.2采集规范采集前必须进行合法性和授权审查；遵守robots.txt、平台服务条款、API调用限制；不得使用非法侵入、绕过验证、批量盗取等方式获取数据；不得采集与业务目标无关的个人敏感信息；采集频率应控制在合理范围，避免影响目标平台；数据留存期限按【组织名称】制度执行，到期删除或匿名化；采集日志应记录来源、时间、方式、责任人和授权依据。4.3标准字段字段说明是否必填数据ID唯一标识是来源平台微博/新闻/论坛等是发布时间原文发布时间是采集时间系统采集时间是作者/账号可脱敏处理否标题原文标题否正文原文内容是URL原文链接是互动数据转发、评论、点赞、阅读否地域可识别地域否标签主题、情感、风险等否脱敏标识是否已脱敏是4.4数据分级与权限建议按【公开、内部、敏感、核心】四级管理：公开：可用于一般分析；内部：限内部授权人员；敏感：涉及个人信息、商业秘密、未公开事件，需审批；核心：涉及重大风险、监管案件、关键人物，严格最小权限和加密存储。5.文本预处理规范5.1清洗去除HTML标签、脚本、广告、重复模板；过滤无意义字符、乱码、极端短文本；去重：URL去重、正文相似度去重、转载合并；识别并标记疑似水军、机器人、批量复制文本。5.2标准化繁简转换；全角半角统一；URL、邮箱、电话、身份证号等脱敏；表情符号、话题标签、@提及按需保留或转换；时间统一为【YYYY-MM-DDHH:mm:ss】；地域统一为行政区划代码。5.3分词与实体识别可使用大模型或传统NLP工具完成：分词与词性标注；人名、地名、机构名、产品名识别；时间、地点、事件、金额、政策条款抽取；关键词和同义词扩展。5.4脱敏与匿名化涉及个人信息的，应遵循最小必要原则：姓名：替换为“张某”“用户A”；电话、身份证、地址：屏蔽或泛化；账号：可哈希化处理；敏感事件当事人：按内部审批决定是否保留。5.5质量检查表检查项标准结果重复率≤【5】%【】乱码率≤【1】%【】脱敏完成率100%【】字段完整率≥【95】%【】时间准确率≥【98】%【】6.大模型文本挖掘方法6.1方法矩阵任务目标推荐方法情感分析判断正负面和情绪LLM分类+规则校验主题抽取发现主要议题LLM+聚类+关键词立场分析支持/反对/中立LLM+标注样本事件抽取识别事件要素LLM+实体关系抽取摘要生成快速概括LLM摘要+原文引用风险识别发现潜在危机LLM+风险规则+人工复核趋势预测判断热度走向时间序列+LLM解释问答检索基于知识库问答RAG+向量数据库异常检测发现突发异常统计模型+LLM解释6.2技术组合建议推荐采用“大模型+小模型+规则+RAG+人工”的组合：规则引擎负责硬性过滤和阈值判断；小模型负责高并发初筛；大模型负责复杂语义理解、归纳和报告生成；RAG负责引入内部知识库、历史案例和政策文件；人工负责高风险复核和最终结论。6.3标准化输出Schema建议大模型输出统一JSON：{"sentiment":"正面|中性|负面","emotion":["愤怒","焦虑","喜悦","悲伤","其他"],"intensity":0.0,"topics":["主题1","主题2"],"entities":{"person":[],"organization":[],"location":[],"product":[]},"risk_level":"低|中|高|极高","risk_reason":"简要说明","evidence":["原文片段1","原文片段2"],"confidence":0.0,"need_human_review":true}6.4幻觉与偏差控制要求模型“只依据原文回答”；对关键结论保留原文证据；使用RAG引入权威知识库；对低置信度结果自动转人工；定期评估模型在不同群体、地域、议题上的偏差；禁止将模型生成内容直接作为最终事实发布。7.舆情数据分析体系7.1指标体系维度指标说明传播量提及量、转发量、评论量、点赞量衡量声量规模内容主题分布、关键词、敏感词识别核心议题情感正面/中性/负面比例、情绪强度判断态度倾向群体地域、年龄、性别、KOL识别关键人群渠道新闻、微博、微信、短视频判断传播阵地风险风险指数、预警等级支持处置决策处置响应时间、处置率、复现率评估应对效果7.2分析维度时间维度：小时、日、周、月趋势；渠道维度：不同平台传播差异；地域维度：区域热度分布；主题维度：议题聚类和演化；情感维度：情绪变化和拐点；人群维度：KOL、媒体、普通用户；传播路径：首发、扩散、峰值、长尾。7.3热度与风险模型热度指数参考公式：[

H=100\times\frac{\sum(w_i\timesx_i)}{\max(\sum(w_i\timesx_i))}

]其中\(x_i\)为提及量、转发量、评论量、点赞量等，\(w_i\)为权重，可按业务调整。风险指数参考公式：[

R=0.30\times传播力+0.25\times负面情感+0.20\times影响力+0.15\times敏感议题+0.10\times扩散速度

]各分项归一化为0—1。阈值建议：风险指数等级响应建议0—0.4蓝色常规监测0.4—0.6黄色【4】小时内研判0.6—0.8橙色【2】小时内上报0.8—1.0红色【30】分钟内启动应急以上阈值仅为参考，需根据【组织名称】实际情况校准。7.4预警分级等级特征响应要求蓝色少量负面，局部讨论记录、观察黄色负面增长，可能扩散业务部门研判橙色媒体介入，热搜风险上报管理层，准备口径红色重大危机，群体性/监管风险启动应急预案，统一发布7.5报告体系快报：突发事件1小时内；日报：每日舆情摘要；周报：趋势、主题、渠道、建议；专报：重大事件深度分析；复盘报告：处置效果与改进建议。8.提示词工程与自动化工作流8.1Prompt设计六要素角色：你是一名舆情分析师；任务：请完成情感与风险分析；上下文：给定原文、历史案例、业务背景；约束：只依据原文，不得编造；输出格式：JSON或表格；示例：提供1—2个标准示例。8.2通用Prompt模板你是一名【组织名称】的舆情分析师。请对以下文本进行情感、主题和风险分析。要求：1.只依据原文内容判断，不得编造；2.若信息不足，填写“未知”；3.输出JSON，字段包括：sentiment、emotion、intensity、topics、entities、risk_level、risk_reason、evidence、confidence、need_human_review；4.intensity和confidence为0—1；5.risk_level为：低、中、高、极高。文本：{{text}}8.3自动化工作流数据接入→清洗脱敏→批量推理→结构化输出→指标计算→预警规则→人工复核→报告生成→归档审计。8.4人工审核节点以下情况必须人工复核：风险等级为高或极高；置信度低于【0.7】；涉及敏感人物、敏感事件、监管政策；可能引发重大舆情或法律风险；模型输出与原文明显不一致。9.技术选型与部署9.1模型选型类型适用场景注意事项通用大模型API快速上线、复杂语义数据出境、隐私、成本开源大模型私有化、安全可控运维、算力、微调能力行业微调模型专业术语、特定任务标注数据质量Embedding模型检索、聚类、去重向量维度、语言支持向量数据库RAG、知识库性能、权限、备份9.2部署模式SaaSAPI：上线快，适合非敏感数据；私有化部署：适合敏感数据和强合规场景；混合部署：敏感数据本地处理，通用能力调用外部API。9.3性能与成本关注指标：响应时间、并发能力、单次成本、准确率、可用性、可扩展性。建议设定：单条分析响应时间≤【3】秒；批量任务成功率≥【99】%；高风险识别召回率≥【90】%；月度成本≤【预算】。9.4安全配置API密钥加密存储；访问权限最小化；传输和存储加密；日志脱敏；模型输入输出审计；定期漏洞扫描和渗透测试。10.质量评估与持续优化10.1评估指标指标说明目标值准确率分类正确比例≥【85】%召回率风险事件发现比例≥【90】%F1值综合指标≥【87】%一致性人工与模型一致率≥【80】%幻觉率无依据生成比例≤【5】%时效性从发布到预警时间≤【30】分钟覆盖率数据源覆盖比例≥【95】%10.2评估方法建立人工标注测试集；每月抽样评估；重大事件后专项复盘；A/B测试不同提示词和模型；记录误报、漏报和原因。10.3优化闭环评估发现问题→分析原因→调整Prompt/RAG/微调/规则→回归测试→上线验证→持续监控。11.安全合规与伦理要求11.1法律合规数据采集必须合法、正当、必要；涉及个人信息，应取得授权或符合法定情形；涉及敏感个人信息，应进行个人信息保护影响评估；使用生成式人工智能服务，应符合备案、安全评估和内容标识要求；对外发布AI生成内容，应按适用规定添加标识；不得非法从事新闻采编、舆论操纵、流量造假。11.2数据安全分级分类管理；最小权限访问；加密存储和传输；脱敏和匿名化；日志审计；数据出境评估；到期删除。11.3内容安全过滤违法和有害信息；不传播未经核实的信息；不生成歧视、仇恨、暴力、虚假内容；对高风险内容设置人工审核和上报机制。11.4伦理要求公平：避免地域、性别、年龄、职业歧视；透明：说明AI参与程度；可解释：保留证据链；可问责：明确责任人和审批链；尊重隐私：不滥用个人信息；保护未成年人。11.5审计与应急保留操作日志、模型输入输出、审核记录；日志保留期限不少于【6】个月或符合法定期限；制定数据泄露、模型误判、重大舆情应急预案；发生安全事件时，按【组织名称】制度及时上报。12.实施路线与组织保障12.1实施阶段阶段时间任务规划期【1】个月需求调研、合规评估、数据源确认试点期【2—3】个月小范围验证、指标校准、模型选型推广期【3—6】个月多业务上线、培训、流程固化运营期长期监控、评估、优化、复盘12.2组织保障建议成立专项工作组：组长：【分管领导】业务负责人：【】数据负责人：【】算法负责人：【】合规负责人：【】安全负责人：【】舆情分析师：【】12.3培训与运营每季度开展一次Prompt与合规培训；每半年开展一次应急演练；建立知识库和案例库；建立问题反馈和迭代机制。13.模板与示例13.1数据采集登记表数据源平台采集方式授权依据频率责任人留存期限备注【微博】【公开API】【接口】【授权文件】【每日】【】【1年】【】13.2舆情日报模板【组织名称】舆情日报日期：【YYYY-MM-DD】一、总体概况-总提及量：【】-正面/中性/负面占比：【】/【】/【】-热度指数：【】-风险等级：【蓝/黄/橙/红】二、重点议题1.【议题一】：【摘要】2.【议题二】：【摘要】三、传播渠道-新闻：【】-微