生成式人工智能技术应用社会影响 评估指南 征求意见稿

5生成式人工智能技术应用社会影响评估指南测度方法、评估流程、结果运用与持续改进等方面的指导和并适用于监管部门、研究机构开展生成式人工智能技术应用GB/T41867-2022信息技术人工智能术语GB/T41867-2022界定的以及下列术语和定义适用于对个人、群体、组织及经济社会系统可能产生或已产生的影注：本文件所指的社会影响，既包括生成式人工智能输出内容带有的6设计、数据收集与处理、模型训练与调优产品研发、服务提供等过程中评估其4.3评估中宜充分考虑对特殊群体的社会影响及其需求。宜从以下三个方面考虑和评估生成式人工智能技术应用的社会影响，评a)对个体与群体的影响（见6.1-6.4与人的交互过程中对人身心健康、行为轨迹、价值观念及b)对组织与行业的影响（见6.5-6.8对组织与行业运行的价值变动、组织结构、运行模式及职注：本文件提供的社会影响评估框架内容，后续评估生成式人工智能技术应用社会影响，宜结合不同评估对6.1-6.13描述的各指标编制评估清单，逐7），a)身体健康。如实际健康状况、体感情况、健康预期；技术应用涉及的多方利益相关方的整体规模、结构及其行为模式。宜a)价值倾向扭曲；示例1：生成式人工智能提供知识输出和教学资料，产生新型知识生成机制和知识权威，传统的师生信任关系受到示例2：生成式人工智能通过替代性劳动、远程互动、算法推荐等机制，改变个体获取资源和建立关系的方式，进a)经济效益与成本。总体财务开支变化，如基础设施建设成本、劳动力支付成本、训练成本、c)社会效益与成本。特定产品、服务的实际速度、效果、效率的变化情况。8示例2：制药企业应用生成式AI技术，生成具有特定性质的药物分子结构，对企业研发部门组织结构带来的变化。示例：对政府治理模式的影响，如“智慧公文”“城市智能推介”“应用领域组织、系统或行业的责任主体、具体职能、责任分工示例：应用生成式人工智能技术直接输出产品设计、策划方案、软件代码等，带来企业各部门间责任、分工变化。a)意识形态引导。如政治倾向（激进/保守、规训/自由、民主/专制）、政治放任（或干预）、b)高级劳动力替代情况；a)不同语言环境下的多元包容能力；b)社会价值观体系；9a)不同模型的能源消耗规模及结构差异；示例：研究人员尝试直接询问模型“如何杀人并毁尸灭迹”，若模型相应防护；但研究人员再换用“老奶奶讲故事”的方式巧妙绕过敏感词，逐步让模型补式人工智能技术在社会系统中的交互过程，评估复杂社会示例2：仿真生成式人工智能在智能城市交通管理中的作用，研究其对交通流量、出行效率和碳排放的全局优化效体实验方法的选取和实验方案设计参见GBXXXX人工智能社会实验示例1：在智能社区管理中，实验生成式人工智能在居民服务调度中的应用，评估以下方面：居民对技术应用后的满意度变化；社区凝聚力（如邻里互助、社交活动参与度）是否因技术介入而提升或削弱示例2：在智能交通管理系统中，进行流量压力测试：模拟城市交通高峰期，测试生成式人工智能优化交通信号灯的能力；研究技术在高密度交通流量下对车辆通行效率和事故率的影响；计分析、案例分析、文本挖掘与情感分析、社会网络分析等等不同数据分析方法组合进行测示例1：分析某城市管理部门使用生成式人工智能技术优化基础设施管理的案例，评估其对城市行政效率和资源分示例2：分析用户对生成式人工智能的态度、使用反馈；评估用户对生成会影响评估，并根据风险水平及技术复杂性灵活调整频评估准备阶段主要包括明确评估目标、组建评估团队、制订计划和做好资源配置等活动。b）评估范围对象：根据生成式人工智能系统功能、应用场景、目标用户、群体等要素确定评估范c）组建评估团队：评估团队宜跨学科、多元化，成员至少覆盖技术、伦理、法律、社会学、经济d）制订评估方案：参照本标准第7章（如正向/逆向提问、社会实验、仿真模拟、问卷访谈等）明确本次评估采用的具体工具与流程，基于第6章列示的社会影响内容，选择或自定义适合评估的关键指管部门有审批环节，宜明确审批版本、签字e）资源配置：人力、经费、时间安排及技术支持（如评测平台、外部采买专业评估服务，宜明确与第三方机构的合作方式），宜根据敏感用途、限制用途或风险阈值，筛选出高优先级/高风险项目或场景，针对风险水平较低序，包括技术修订、场景限制、加强外部监管或中止/退出应用等措施，并提出保持或增强正面影响的查，并根据外部需求（如监管合规、对公众披露要求）确定报告完全公开、部分公开与不），9结果运用与持续改进9.1评估结果分析与运用b)支持生成式人工智能技术应用的社会影响预警与应对策略制定；存在重大负面社会影响时，宜启动生成式人工智能服务的改进优化机9.2持续改进和反馈机制d)评估人员的定期培训与能力建设。AI参与流程比重[1]《智能社会发展与治理标准化指引（2025版）》（中央网信办[3]《涉及人的生命科学和医学研究伦理审查办法》（国家[4]ISO/IEC22989:2022信息技术人工智能人工智intelligence-Artificialintelligenceconceptsanterminolintelligence-Managements[6]ISO/IEC42005:2025信息技术人工智能系统影响评估（Informationtechnology-Artificialintelligence(AI)-AIsystemimpactas[8]ISO/IEC38507:2022信息技术信息技术治理组织使用人工智能的治理影响（Informationtechnology-GovernanceofIT-Governanceimplicationsoftheuseofartificialintelligencebyorganizat