人工智能伦理治理研究报告（2026年）

(2026年)中国人民大学人工智能治理研究院伦理审查、事故报告和责任追溯等可操作工具，伦理资源才能形成可调用的治在梳理国内外政策框架的基础上，报告聚焦十个最需要制度回应的议题：生成式AI与公共事实、版权与训练数据、数据隐私与人格画像、算法偏见、化应用。报告最后回到中国语境，提出以国家层面的八条治理原则确定方向，以马克思主义伦理和科技审度观提供思想阐释，以伦理嵌入（将技术道德化）人工智能伦理治理研究报告1摘要 2核心发现与政策建议总览 一、核心发现 二、总体政策建议 2导论：人工智能伦理治理的时代背景 4一、从工具技术到社会基础设施 4二、从原则伦理到制度治理 4三、报告研究对象与方法 5第一章AI伦理治理的基本框架 61.1AI伦理治理的概念、范围与基本原则 61.1.1什么是AI伦理治理 6 61.1.3基本对象 71.2从技术中立到价值嵌入 81.2.2技术中立论的不足 81.2.3AI系统的价值嵌入 81.2.3从外部约束到内部治理 9第二章大模型时代AI伦理风险的技术机理分析 2.1时代背景 2.2AI伦理治理五大技术研究前沿 2.3AI伦理风险的技术生成机制：数据、模型与部署 122.4基于技术机理的AI伦理治理思路 第三章全球AI伦理治理政策框架 3.1国际AI伦理治理政策体系：欧盟、美国与国际组织 163.1.1欧盟：权利保护与风险分级的硬法路径 3.1.2美国：创新优先、风险框架与分散治理 3.1.3国际组织：原则共识与全球协调 3.2中国AI伦理治理政策体系 3.2.1科技伦理治理顶层制度 3.2.2人工智能专项治理文件 3.2.3基本特征与现实挑战 3.3中外AI伦理治理路径比较 21第四章AI伦理治理的十大核心议题 234.1生成式AI、深度伪造与公共真相危机 234.1.1从生成内容到公共真相危机 2324.1.2透明标识与事实空间维护 234.1.3深度伪造的高风险场景 244.1.4分层治理与平台责任 244.2版权、训练数据与文化生产秩序 244.2.1从生成内容版权到训练数据合法性 254.2.2文化劳动的隐性吸收与平台化攫取 254.2.3训练数据透明、授权退出与补偿机制 254.2.4公共语料库与文化多样性保护 254.3数据隐私、监控与人格画像 264.3.1从数据泄露到人的可计算化 264.3.2人格画像、商业监控与自动化分类 264.3.3敏感数据、情绪识别与脆弱群体保护 264.3.4从告知同意到人格保护 274.4算法偏见、公平与自动化歧视 274.4.1算法偏见的社会来源 274.4.2公平指标的局限与场景化理解 274.4.3弱势群体、数字鸿沟与隐蔽排斥 284.4.4偏见测试、影响评估与持续纠偏 284.5透明性、可解释性、问责与算法审计 284.5.1透明、解释与问责的区别 294.5.2黑箱决策与责任链断裂 294.5.3模型文档、日志记录与分层解释 294.5.4第三方审计与补救机制 294.6AI亲密、情感依赖与人工关系伦理 304.6.1从聊天工具到人工亲密关系 304.6.2拟人化设计、情感依赖与脆弱用户 304.6.3亲密关系商品化与平台激励 304.6.4非人主体标识、边界提示与人工转介 314.7AI教育、儿童保护与认知能力外包 314.7.1从作弊问题到能力形成问题 314.7.2AI辅助学习的机会与教育公平风险 314.7.3儿童数据、注意力与发展节奏保护 324.7.4学校治理、AI素养与评价体系重构 324.8AI与就业替代、去技能化与分配正义 324.8.1从岗位替代到劳动尊严 324.8.2生成式AI对认知劳动的冲击 32人工智能伦理治理研究报告34.8.3去技能化、算法管理与隐形劳动 334.8.4就业影响评估、再培训与收益共享 334.9基础模型安全、价值对齐与可控性风险 334.9.1基础模型的通用性与扩散风险 344.9.2幻觉、越狱、滥用与危险能力 344.9.3价值对齐的公共性问题 344.9.4模型分级、红队测试与持续监测 344.10AI军事化、自主武器与杀伤责任 354.10.1致命决策自动化的伦理边界 354.10.2有意义的人类控制与责任链追溯 354.10.3军事AI、双重用途与科研伦理 364.10.4国际规则、军控合作与中国立场 36第五章人工智能伦理治理的中国路径 375.1中国AI伦理治理的规范基础 375.2马克思主义伦理研究与AI伦理治理 375.3科技审度：马克思主义科技哲学的AI治理转化 395.4中华优秀传统文化：AI伦理治理的文明资源 415.5将技术道德化：价值嵌入的具体路径 425.6制度建议：从原则文本到治理能力 435.7中国AI伦理治理的话语表达与国际参与 44结论：走向负责任的AI伦理治理新范式 46附录一：AI伦理治理政策时间线 48附录二：十大议题治理矩阵 附录三：高校人工智能治理研究行动建议 附录四：核心概念释义 参考文献、政策文件与延伸资料 人工智能伦理治理研究报告1核心发现与政策建议总览值展开，共识并不缺乏。共识通常谋求最大公约数，相对不够具体，也较少涉事故报告和责任追溯等一整套制度安排与执变成一种跨场景的社会技术基础设施。相应的，治理的思路也得跟着变，需要第三，中美欧的AI治理路径差异确实存在，可以从文明互鉴角度消化吸伦理治理捏合在一起推进。对中国来说，真正可取的是一种工具组合，打造自己的伦理治理工具箱。欧盟风险分级的清晰、美国风第四，现有治理基础资源已经较为扎实。中国AI伦理治理已形成由《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》以及算步的重点不只在于根据实际需要完善文件，更在于推动规则衔接，把执行、审险提示当然都有必要，但是它们覆盖不了AI系统的真实运行。伦理要求应当审计日志和事故处置这些具体环节。不然的话，原则就会留在文本里，系统照第六，伦理治理不应被还原为技术发展的“审查清单”。伦理是发展负责任技术的构成性要素，旨在保障并促进技术2本身内在于技术评价。伦理治理的重点，是把价值要求嵌入技术设计和组织流架构和授权机制。安全可控可以落实到日志、审计和人类监督。拟人化边界治第七，未来AI治理的成效，很大程度上取决于多元利益相关者能否真正协同起来。政府负责守住底线，企业承担产品与服务管理责任，高校和科研机构深度参与审查、研究和人才培养，行业组织提供行业标准与自律机制，社会组织和公众则发挥监督与反馈作用。AI伦理治理既不能由政府包办全交给企业自律，更不能由技术专家替社会决定全部价值边界，必须通过多主主性和有效性。马克思主义伦理、马克思主义科技审度观和中华优秀传统文化可以为中国AI治理提供重要解释资源。马克思主义伦理不把伦理局限为纯粹集体利益与公共利益的协调。科技审度观一方面承认科技发展和生产力进步的意义，另一方面审慎考察技术的内在逻辑，以及技术与意识形态、人的发展和基本权利、重大机会、公共安全和社会秩序的影响，将研辅助、无障碍技术、公共服务创新等则可建议二，完善高风险场景的伦理审查和算法影响评估。凡是影响个人重大权益和公共利益的AI系统，部署之前都应说明数据来源、模型能力、偏见测人工智能伦理治理研究报告3足以建立社会信任。应当培育独立的审计机构，对高风险AI系统开展数据审审计等。审计结果可以分级公开。既保护商业秘密，也保障公众知情和监管需建议四，推动基础模型安全与可控性评估。基础模型的核心挑战在于通用性和跨场景扩散能力，因此需要建立发布前安全评估、能力分级、红队测试、运行中监测、重大更新复审和严重事件报告制度。凡是进入公共服务、教育、频等生成内容，应逐步建立标识、水印和来源认证机制。深度伪造要配套投诉心理陪伴、数字亡者复现，都应清楚标识AI是非人主体。AI应用不应过度拟人化。严防情感操控，禁止利用脆弱用户诱导付费。未成年人和处于心理危机中的用户需要特别保护。心理健康类AI还应建立准入、风险提示和人工转介审慎，这牵涉到对脆弱人群的数据搜集和使用，也会介入其人格成长和能力养成。要划清AI使用的边界，保护学生数据，设置年龄分级，相应调整作业和容审核、平台劳动这些数字劳工，也应被纳入劳动保护的视野，并推动职业再建设等议程。在全球AI治理中，中国要贡献的不只是产业能力，还有可以对建议十，充分建设高校的AI伦理治理能力。大学的人工智能治理研究院人工智能伦理治理研究报告4导论：人工智能伦理治理的时代背景是提高效率的工具，而正在成为社会运行的基础性中介，逐渐演变为社会基础设施。过去，人们习惯把AI理解为搜索、识别、推荐或自动化劳动的工具。如今，生成式模型和基础模型已经进入生活的多个领域，涵盖知识生产、公共而是说它进入了社会判断和社会分配的内部过程。现在，新闻平台用AI排序策，个人则用AI组织自己的知识、情绪和日常生活。当这些系统变成默认环这一显著变化必然扩展伦理治理的范围。传统工具伦理多半追问谁使用工哪些选择变得更困难了。以及它把哪些人识别为高价值对象，又把哪些人排除嵌入社会生活后形成的权力、责任和价值秩序。问题的重心也从规范如何更好近十年的全球AI伦理治理讨论有一条清楚的变化线索。早期主要是原则概念展开。之后，讨论明显转向制度化和工具化。伦理原则开始落实为风险分沙盒和事故报告。欧盟的AIAct（欧盟《人工RMF（美国国家标准与技术研究院《人工智能风险管理框架》）、中国的《生成式人工智能服务管理暂行办法》和《新一代人工智能伦理规范》，走的都是这背后的逻辑并不复杂。AI伦理治理不能停留在原则表述供价值方向和公共语言，但如果缺少具体制度接口，就很难进入技术系统。反人工智能伦理治理研究报告5过来，制度工具一旦脱离伦理原则，也容易退化为程序合规和形式审查。成熟的AI治理必须同时回答两个层面的问题，一是坚持什么价值，再是怎样让这本报告把人工智能视为一种社会技术系统，不是孤立的技术工具。这里说的实体应用。报告不去讨论AI有没有心灵或意识这样的心智哲学问题，我们报告第一章阐释AI伦理治理的基本框架。第二章分析大模型时代伦理风险的技术机理。第三章比较全球政策体系。第四章讨论十大核心议题。第五章提出中国治理路径。结论与附录汇总政策建议和治理工具。写作中我们尽量避免了两种可能的偏差：一是过度技术化，把伦理治理写成算法指标、模型评测和工程规范的堆砌；二是过度抽象化，把AI伦理写成脱离制度和场景的价值报告也不把AI伦理问题看成技术发展的“审查清单”。恰恰相反，伦理治理是人工智能长期健康发展的构成条件。我们的基本立场是：人工智能发展既不能交给极端的技术乐观主义，也不能因为惧怕风险而不敢去做技术创新。治理的目标不是简单地“慢下来”，而是让速度有方向、创新有边界，使技术服务因此需要整合多学科资源。对前沿AI技术具备必要的工程性理解，是开展治任、公共善和价值冲突的判断尺度。科技哲学则能帮助人们理解技术的本质以及技术与社会的相互塑造。AI伦理治理不能退化为工程规范，也不象道德宣言上，而应在技术机理、社会后果与规范价值之间形成可操作、可审人工智能伦理治理研究报告6第一章AI伦理治理的基本框架所谓AI伦理治理，指的是通过制度、标准、技术设计和公共监督，使人关心的更多是数据权利与流通秩序，平台治理侧重平台责任和内容生态管理。承担风险，谁获得技术红利，谁拥有申诉权和解释权等问题。其中，不透明、偏见、歧视、责任归属和数据权力，正是算法系统进入社会过程之后形成的核近十年，全球AI伦理讨论经历了清楚的转变。早期可以称为原则密集发布阶段，这一阶段的核心任务，是在人工智能快速发展的背景下为技术创新确这一阶段具有重要意义。随着这些原则的发布，人工智能不再被单纯理解为工程效率和产业竞争议题，而被明确纳入伦理、法律和公共治理视野。人工益或用户规模来评价。更具体地说，AI治理中的公平原则是为了防止算法复制1BrentDanielMittelstadt,PatrickAllo,MariarosariaTaddEthicsofAlgorithms:MappingtheDebate,2AnnaJobin,MarcelloI人工智能伦理治理研究报告7适用边界和风险来源。隐私保护之所以受到普遍重视，为的是防止大规模数据收集和人格画像侵害个体自主。每一个具体原则的制定，都对应着特殊的伦理但原则本身并不会自动生成治理能力。原则之间可能冲突，同一条原则在不同场景下可能存在张力。例如透明性原则可能与商业秘密冲突，公平原则可能与准确率冲突，隐私保护可能与安全审计冲突，开放模型可能与滥用风险冲险从治理对象看，AI伦理治理至少分三个层级：模型层处理的是模型训练、系统层处理的是AI对劳动结构、文化生和军事安全的整体影响。很多AI争议之所以复杂，恰恰因为它们同时发生在可以通过演绎的办法解决所有原则冲突。这意味着AI伦理治理不能把原则当成机械清单去打钩，而要建立原则协调机制。原则协调还要求避免单一价值最大化——只追求准确率，可能牺牲公平和解释。只追求效率，就可能会牺牲劳人工智能伦理治理研究报告8因此，伦理治理不是要把某一个指标做到极致，而是在多重价值之间建立厘清原则的适用度和边界。伦理审查机制将包含"原则—制度—场景—执行"四个维度。原则提供价值方向，制度提供责任框架，场景制则保证治理活动的可落地。一个AI伦理治理体系成熟不成熟，要看这四个这一观点在普通工具应用场景中有一定解释力，但面对人工智能，尤其是基础所以AI伦理治理不能只问使用者有没有恶意，更要深究系统本身是如何组织行动可能性的。例如一个招聘算法如果从训练数据里学到了历史性的性别偏见，那么即便开发者毫无歧视意图，它也可能在结果上持续排斥某些群体。一个AI伴侣如果被设计成不断迎合用户情绪并诱导付费，那么即便它没有主观恶意，也可能制造依赖。这就要求我们更有创造性地去理解AI系统的价值3本节所持技术并非中立中介的立场，参见Peter-PaulVerbeekandDesigningtheMoralityofThings,Chi于技术人工物之中的相反立场，参见JosephC.PitArtefacts,Dordrecht:Springer,2014,pp.89–101。人工智能伦理治理研究报告9价值排序。大规模语言模型可能复制训练语料中的偏见，消耗大量资源，还会在看似流畅的文本中制造权威幻觉。模型规模、训练数据和部署语境共同构成AI伦理治理的关键转向，是从外部约束走向内部治理。外部约束的典就内部治理而言，“价值嵌入”“伦理嵌入”“责任嵌入”是三个可操作的具体执行步骤，但三者并不相同。价值嵌入多数时候是描述性概念，侧重澄清一个全、可控、透明问责这些公共价值转化为技术和组织流程。责任嵌入更倾向于处理和用户救济机制等。三者的关系可以概括为：价值嵌入揭示事实，伦理嵌推荐系统常以停留时长为目标，可能把注意力黏性置于公共理性之前。以转化率为目标的AI伴侣，可能把情感依赖转化为付费机会；以效率为唯一目标的自动化管理系统，则可能压缩劳动者解释和申诉的空间。价值嵌入首先要求识因此，AI技术系统并非是价值中立的。当然这并系统功能，因而可被视为一种“元工具”，其操作对象是人的生活世界。伦理治4EmilyM.Bender,TimnitGebru,AngelinaMcMillan-Major&M于生成式模型幻觉，参见ZiweiJietal.,“SurveyofHalluComputingSurveys,55(12),Art5NationalInstituteofStandardsandTechnolintendedtoincorporatetrustworthinessconsiderationsintothedesign,development,useandevaluationofAIproducts,servicesandsystems.URL:/itl/ai-risk-management-framework人工智能伦理治理研究报告第二章大模型时代AI伦理风险的技术机理分析大模型和生成式人工智能的快速迭代，使AI从互联网商业场景扩展到了统的重要差别在于传统系统按规则运行，大模型则具备自主生成、逻辑推理和拟人化交互的能力，一些算法系统甚至已经开始介入公共资源分配和社会秩序与数字治理现代化的布局中，但产业与治理之间的错位是存在的。企业研发端忙着优化模型参数和生成效果，对数据偏见、归纳偏置带来的伦理隐患关注不够，适配大模型的常态化评估体系还处于完善之中，行业层面也缺乏足够细化的算法伦理设计标准。整体看是技术迭代快于规则，应用落地先于治理。这是一个结构性矛盾。AI伦理风险不宜被理解为表层的应用问题，它植习的数据基础和算法内在逻辑。数据缺陷和归纳偏置错配持续诱发隐私泄露、算法歧视、模型黑箱、决策失控等新型治理风险。有必要从算法本源和技术机围绕AI伦理治理，当前全球学界和产业界形成了几个技术研究前沿，主要是算法公平性、模型可解释性、数据隐私保护、模型可控性和AI智能体安全可控，这几个核心挑战。总体看有三个大的趋势：研究在向大模型和AI智能体场景细化。计算机科学与人文社科的交叉在加强。讨论也正从原则性倡议在算法公平性的讨论中，这一方向聚焦训练数据偏见与机器学习归纳偏置路径偏重研发去偏算法、优化损失函数来消解群体歧视。相比之下，国内的治理路径则区分原生与次生的算法不公，构建“人、技术、社会”协同治理路径，模型可解释性的研究范式也正在转换，逐步从事后的结果解释转向模型内生的可解释设计，并引入因果推断、SHAP值（夏普利加性解释）、反事实推理等工具破解模型黑箱。同时，这类研究也在适配治理场景，在算法精度与可人工智能伦理治理研究报告在数据隐私性方面，当下治理重心已开始从传统的静态数据防护，转向覆盖大模型整个生命周期的隐私管控。联邦学习、差分隐私、数据匿名化是核心技术路径。重点防范的新风险包括用户画像的过度刻画、碎片化数据的拼接还主要试图在模型落地之后保留可调控的接口，让系统能根据任务变化、场景规最后是AI智能体的安全与可控。AI不仅是LLM（大语言模型），随着具身智能体和自主AI智能体普及，研究将聚焦伦理价值对齐、多智能体协同约束和行为风险预判，试图建立事前对齐、事中监测、事后审计的全链条风控整体看下来，当前AI治理研究的一个瓶颈，是文理资源相对分离、交叉不足。人文社会科学重视伦理风险和监管漏洞，计算机科学更关注模型优化和工程实现，两者在数据源头、模型架构、归纳偏置和场景后果之间的衔接仍不风险场景的专项研究仍需加强。从全球视野看，AI伦理治理已经进入制度与技术双轨落地阶段。政策端，各国正在加速立法并出台按场景划分的规则。技术端，研究开始从单一追求精度转向公平、隐私、可解释和可控的多目标协化。治理端则从事后追责前置为源头设计约束、事中动态监管、事后审计问责人工智能伦理风险并不是技术投入应用之后才偶然出现的。许多风险在数通过统计方法从已有样本中找规律，并推广到新的数据上。要完成这一过程，间形成特定选择倾向。现实中的机器学习系统通常首先追求预测准确率、任务型训练的目标。因此，人工智能伦理风险应当从数据、模型机器学习依赖历史数据，但历史数据不是对现实世界的完整再现，它本身是被选择过的。哪些人被纳入样本，记录什么行为，标含人为选择。其中，样本如果覆盖不均、标人工智能伦理治理研究报告数据环节还涉及隐私、授权的问题。大模型训练和调用通常需要处理大量主动透露深度隐私信息。智能体又能调用外部工具、访问不同账户，甚至跨平模型环节中也会有决策黑箱的问题。面对同一批数据，不同的模型结构、目标函数和参数设置，会形成不同的输出。在商业推荐中，系统常以增加用户实际包含价值取舍。算法只追求预测精度和运行效率，却没有把公平、保护弱势群体权益、可解释性和可申诉性充分纳入考虑，技术性能的提高并不必然带型能够从海量数据中识别相关性，但即使是AI工程师也未必能反向阐明因果特定数据和特定制度条件下训练而成，但现实环境会变化，人口结构、政策规则和市场条件等因素持续流变。模型在测试阶段表现良好，并不意味着投入使用后能够长期保持可靠。使用情境的变化可能导致性能衰减和判断偏离。同一个模型被放入不同机构和业务场景，也会因流程差异产生不同结果。如果工作人员把模型建议直接当成最终决定，人工复核只是走个形式，缺少结构性的持生成式人工智能和智能体的迅速发展进一步增加了部署过程的复杂性。传统软件按照固定程序运行，边界相对清晰。智能体则具有更强的自主性，可以根据任务检索信息、调用外部工具，甚至跨平台执行操作。随着智能体产品加也模糊了授权边界、行为边界和责任链条。数据偏差、模型错误和工具调用风险由此可能在多个系统之间传递、造成叠加并累积。总体来说，人工智能伦理风险绝不是个别使用者操作不当的问题，也不是某一种特定的算法缺陷，它是结构性的风险。数据条件决定模型看到什么，模型如何理解和处理信息取决于模型结构和目标函数的设定，具体的部署环境也会影响模型输出的实际社会影既然人工智能伦理风险贯穿数据、模型和部署全过程，治理就不能停留在原则倡议和事后追责。仅靠事后补漏，无法实现真正的敏捷治理。当前紧迫的任务，是把伦理要求转化为数据规则、模型指标、系统接在源头治理方面，核心任务是加强数据治理，控制偏差和保障隐私。除了关注数据的量是不是充足，还要审查数据是怎么产生的、代表了哪些群体、可能遗漏了哪些群体，深入澄清标签是否合理。在牵涉到个人基本利益的就业、教育、医疗、司法和民生服务等高风险场景，有必要开展样本代表性分析和群式加以修正，但应注意技术校正不能代替对数据形成过程和制度背景的审查，等流程。联邦学习、差分隐私、访问控制和数据脱敏等现有技术手段可以降低部分风险，但仅仅“可用不可见”还不足以保证数据使用天然合规。还需要进一步明确数据收集的目的、范围和保存期限，严格限制未经授权的跨场景调用。对于AI智能体，尤其要设置更严格的数据权限，并为用户提供可理解、可撤另外，要把公平、透明和安全要求纳入模型设计。模型优化不能只追求预等于简单地在损失函数中增加权重。在哲学讨论中，“公平”有多种定义，不同济学等领域的知识。必要时可在团队中设置伦理与社会影响专家（哲学家）岗位，在模型开发之前澄清系统保护谁的利益、会造成何种差异化分配，以及自主决策中的人机责任如何划分。只有做足规范性演习，技术人员才可能把这些再次，要建立分层次的可解释和可申诉机制。模型复杂程度应当与风险等级相匹配。在低风险场景中，可以更多考虑效率和性能；但在影响个人权利、重要机会和公共资源分配的场景中，应更加重视模型的可审计性、可追溯性和可解释性。算法解释也不能只面向工程人员，也要面向监管者和受到决定影响判断，但它们只能提供技术解释，解释机制还必须与人工复核、异议处理和责复次，模型部署后需要持续监测和动态纠偏。随着数据分布、政策环境和人工智能伦理治理研究报告偏差测试和安全审查。高风险系统应建立人工干预和紧急停用机制。部署监测还应覆盖组织行为，防止工作人员对模型形成过度依赖，把技术建议直接当作最终决定，从而外包自身判断力。对于重要公共决策，应明确设置实质性的人最后，对AI智能体应实施精细化和专项治理。智能体风险超出了传统内容审核和数据合规的范围。治理重点不应只放在模型输出什么，更应关注模型能够做什么。对于具有较强自主执行能力的智能体，应根据任务风险设置权限等级。高风险工具访问和关键决策应保留人类确认环节。系统还需要记录任务分解、工具调用和数据流转等过程，以便审计和追溯责任。多智能体协同和跨平台调用要有统一的身份认证、权限管理和异常阻断机制，防止风险在系统间值得强调的是，技术治理与伦理治理不是两套体系。伦理原则必须通过模型指标、系统接口、评估程序和责任制度进入技术过程。规范性考量需要技术理研究者需要形成共同语言。这是AI伦理治理下一步最核心，也最具挑战性的实践工作。如果这一转换不能充分完成，治理就可能一面退化为抽象价值宣人工智能伦理治理研究报告第三章全球AI伦理治理政策框架从相关材料看，欧盟AI治理的核心特点可以概括为：以基本权利保护为价值基础，以风险分级为制度方法，以硬法合规为主要工具把AIAct（欧盟《人工智能法》）称为全球首个综合性的AI法律框架，并强AIAct的制度重心主要体现在风险分级上。不可接受风险的AI实践受到总体而言，欧盟路径的优势是法律确定性较强、权利保护清晰、市场准入压力明确。但也存在挑战，主要体现在合规成本较高，可能对化为立法。7但截至2026年7月，美国联邦层面尚未出台一部与欧盟AIAct政府采购规范、州级立法和行业自律共同构成。NISTAIRMF（美国国家标准与技术研究院《人工智能风险管理框架》）是美国路径的典型代表，强调自愿6EuropeanCommission,2024/1689asthefirst-evercomprehensivelegalframeworkonAIworldwide,usingarisk-basedapproachandsettingrulesforunacceptable,high,transparencyandminimal-riskAIsystems.URL:https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai7TheWhiteHouse,“PresidentDonaldJ.TrumpUnv2026.URL:/releases/2026/03/president-donald-j-trump-unveils-national-ai-legislative-framework/8NationalInstituteofStandardsandTechnology(NIFramework(AIRMF1.0),”releasedJanuary26,2023.URL:/itl/ai-risk-management-framework；T人工智能伦理治理研究报告联邦统一性不强，州级立法比较碎片化，企业自律的约束力有限，政策方向还与欧盟的硬法路径和美国的风险管理框架不同，国际组织并不直接替代国家监管，而是为不同国家、制度和文化背景下的AI治理提供共同语言、最低现适用于UNESCO的194个成员国，核心是保护人权和人的尊严，并强调透AI政策和风险治理工具提供了重要参照。11G7“广岛AI进程”（HiroshimaProcess）面向先进AI系统，强调部署前后的风险评估、透明报告、事故通报权、民主和法治框架公约》，则表明国际AI治理正在从原则倡议进一步走向总体看，国际组织路径适合推动跨文化、跨制度的原则共识，促使不同国家在AI伦理治理上保持可对话性，也有助于发展中国家的能力建设和政策转化。但多数国际组织文件属于软法或建议性文件，缺乏直接强制执行力，真正落实仍依赖成员国法律、监管机构和产业实践。国际共识通常取最大公约数，抽象度较高。具体到基础模型安全、跨境数据流动、开源模型责任和军事AI/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf10UNESCO,RecommendationontheEthicsofArtificialIntellige/en/artificial-intelligence/recommendation-ethics11OECD,RecommendationoftheCouncilonArtificialIntelligence,OECD/LEGAL/0449,adoptedon22May2019,amendedon3May2024,URL:/en/instruments/OECD-12G7HiroshimaProcess,InternationalGuidiSystems,30October2023,URL:https://digital-strategy.ec.europa.eu/en/library/hiroshima-process-international-guiding-principles-advanced-ai-system.13CouncilofEurope,FrameworkConventiononArtificiandtheRuleofLaw,CETSNo.225,URL:/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence人工智能伦理治理研究报告中国的AI伦理治理嵌入更基础的科技伦理治理框架。2022年发布的《关于加强科技伦理治理的意见》明确指出，科技伦理是科学研究、技术开发等科强调把科技伦理贯穿科学研究和技术开发全过程。14《科技伦理审查办法（试主体，对涉及科技伦理敏感领域的活动承担主体责任，并通过科技伦理审查委在人工智能专项治理这条线上，早在2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》就已经确立了八条治理原则，分别是：和敏捷治理。文件强调发展负责任的人工智能，推动治理原则贯穿AI产品和服务的整个生命周期。“八条原则”就性质而言，属于国家新一代人工智能治理专业委员会发布的政策性、软法性治理原则，它没有法律强制性，也不是伦理学研究中的规范伦理原则。放到政策谱系里看，《新一代人工智能治理原则》是研发、供应和使用活动，明确提出将伦理道德融入人工智能整个生命周期，并就数据质量、安全透明、避免偏见歧视和保障用户权益等提出规范要求。172026年发布的《人工智能应用伦理安全指引1.0》进一步推动人工智能伦理治/xxgk/xinxifenlei/fdzdgknr/fgzc/gfxwj/gfxwj2022/202203/t20220321_179899.htmlURL:/xxgk/xinxifenlei/fdzdgknr/fgzc/gfxwj/gfxwj2023/202310/t20231008_188309.html部官网。URL:/kjbgz/201906/t20190617_147107.html/kjbgz/202109/t20210926_177063.html人工智能伦理治理研究报告理由原则和规范走向应用实践，与前者相比，更突出应用场景中的风险识别和除伦理引导路径外，我国还逐步建立了针对具体技术形态和应用场景的人工智能专项监管规则。在互联网信息服务领域，《互联网信息服务算法推荐管理规定》主要规范算法推荐服务中的用户权益、信息茧房、算法歧视等问题。《互联网信息服务深度合成管理规定》要求对可能导致公众误判的深度合成内容进行标识，并规定了训练数据管理、生物识别信息编辑和安全评估等义务。《生成式人工智能服务管理暂行办法》则强调发展、安全两端并重，促进创新和依法治理相结合，并对训练数据来源、知识此外，2026年出台的《人工智能拟人化互动服务管理暂行办法》，标志着一条是人工智能专项治理线，为具体技术形态和应用场景提供专门规则；另一条是国家科技伦理治理制度线，确立科技伦理治理的总体原则。两条线在人工3.2.3基本特征与现实挑战从国家战略层面看，中国高度重视人工智能发展。其治理路径并非单纯追业监管等多条线索并行推进。中国AI伦理治理的基本特征，可以概括为发展与安全并重、政府主导与平台责任并行、分类分级与场景治理结合，以及算法治理、内容治理和数据治理交叉推进。这套组合式机制的优势在于政策响应较但按场景治理也有代价。一是治理主体多、层级复杂，不同部门和规则之间可能出现边界交叉，企业的合规成本和理解成本随之上升。二是快速出台的URL:/2026-05/22/c_1781191242686496.htm/2022-01/04/c_1642894606364259.htm；国家互联网信息办公室等七部门：《生成式人工智能服务管理暂行办法》，国家网信办第15号令07/13/c_1690898327029107.htm办第12号令。URL:/2022-12/11/c_1672221949354811.htm/2026-04/10/c_1777558395078289.htm人工智能伦理治理研究报告规则需要持续更新，否则难以跟上模型能力变化。当前模型和应用场景迭代迅速，治理资源几乎必然存在一定滞后。三是现有制度较重视内容安全、数据安全和平台责任，但对AI亲密、教育、劳动、心理健康以及基础模型可控性等由此可见，中国AI伦理治理下一步的重点，不是简单增加文件数是提高制度整合能力，把八条治理原则、伦理规范、生成式AI管理、科技伦理审查、算法备案和数据治理机制连接起来，形成从原则到场景、从审查到审中国治理还需要继续处理“纵深治理”问题。所谓纵深治理，是指治理具有例如，生成式AI服务的内容风险不仅来自用户提示词，也来自模型训练产品形态仍可能诱导依赖、放大不良内容。治理因此需要穿透商业模式和产品算法推荐的公平问题也不只发生在排序环节，平台生态同样会产生影响。谁能生产内容、谁占有流量、谁能购买推广、系统默认谁是所谓高价值用户，都关系到资源分配。只审查单个推荐模型而不审度平台的利益结构，就难以理政策文本已经提供了原则和框架。下一步的关键是形成稳定的评估工具、审计机构、案例库，还有专业人才和跨学科研究机制。伦理治理不能只是监管部门的任务，也应当成为高校、企业、行业组织和社会公众共同参与的实践体系。伦理不是一组审查清单，治理本身是一个过程性参与机制，借此持续建构社会人工智能伦理治理研究报告欧盟、美国和国际组织的AI治理，差别不只在文件名称上。背后有着不同的制度逻辑。欧盟的制度逻辑是“权利先行”。它把AI看成可能影响基本权利、市场秩序和公共安全的技术，所以倾向于通过统一法律、强制义务和市场准入机制来治理。AIAct以风险分级为核心，禁止了美国的制度逻辑更接近“创新—风险平衡”这一线。它不急于搞一部统一的硬法，而是靠美国国家标准与技术研究院（NIST）发布的《人工智能风险管理点也很清楚，规则呈现碎片化，企业责任、消费者保护和高风险场景监管可能不够均衡。对基础模型和生成式AI这类跨行业技术来说，分散治理尤其容易制未必具有强制执行力，但在形成全球共识、推动标准化语言、帮助发展中国家建立治理能力等方面发挥实质作用。尤其在AI跨境服务、数据流动、模型评测、深度伪造、军事AI部署和全球南方参与等问题上，单一国家难以有效治理。国际组织不能替代国家治理，但可以提供最低共识、级理熟识国这些治理思路的共同趋势也很清晰。不管哪种治理模式，都在从原则宣示走向制度化工具，从单个算法走向基础模型，隐私和偏见的讨论和治理也开始人工智能伦理治理研究报告对中国来说，比较国际路径的意义不只是借鉴规则，更在于识别不同制度化工具解决的不同问题。欧盟路径最值得借鉴的，是风险分级与强制合规的制理这些高风险场景，不能只靠企业的自愿承诺，更需要的是明确的准入义务、能开展细颗粒治理。给低风险应用保持创新空间，高风险应用承担更严格的义美国路径最值得借鉴的是风险管理框架和标准化工具。《人工智能风险管管理的组织流程语言。对企业和公共部门而言，这类框架能够把抽象原则转化绕大国竞争和大型企业合规展开，还要关注发展中国家、全球南方、小语种文强调包容、人权、文化多样性和可持续发展，有助于防止AI治理议程被少数技术强国和平台企业垄断。技术实力较强的企业通常集中于科技强国，技术权综合来看，中国AI伦理治理可以吸收欧盟的强约束机制、美国的标准化工具和国际组织的包容性原则，同时坚持自身发展与安全并重的制度特点。当治理路径既难以被深入理解，也难以有效操作。欧盟的强合规路径依赖较高的制度执行能力和统一市场环境，美国的风险管理路径依赖强大的产业自律和诉间形成综合安排。比较国际经验的目的，不是寻找一个当下，推动AI伦理治理是在中国既有治理优势的基础上形成组合型制度工具。一个有效的AI伦理治理体系，理想中应当是一套组合拳：用基本法律确定底线，行业标准提供操作细节，政府监管设定公共责任，第三方审计增强社会信任，企业内部治理承担日常风险控制，再加上公众参与来补充受影响者比较中外路径的目的，不是评选出单一的最优模式，而是形成适合本国制度条人工智能伦理治理研究报告第四章AI伦理治理的十大核心议题结合当前AI技术发展、应用实践及其伦理后果，本报告提炼十个核心议题。报告从生成式AI和深度伪造切入，依次讨论训练数据与版权、数据隐私AI军事化等系统性风险。排序不是机械照搬政策文件分类，而是依据AI进入社会的层次推进：先处理信息和数据，再处理决策和责任，继而讨论关生成式AI带来的第一个高频伦理议题是公共事实危机化的舆论操控都变得更容易了。真正的问题不光是假内容变多，而是虚假信息大大侵蚀共同判断事实的基础。当大量低成本、强仿真、难溯容涌入公共传播空间，公众面对的就不再是某一条信息真假难辨，而是整个事实判断环境的崩塌。罗伯特·切斯尼（RobertChesney）和丹妮尔·基茨·西特龙（DanielleCitron）关于深度伪造的经典研究早就指出，合成媒体生成式AI不是虚假信息的唯一来源，但它显著改变了虚假信息生产和传播的义务，中国《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》也建立了相应标识要求。生成式AI治理的关键不只是限制不良内23/2022-12/11/c_1672221949354811.htm；国家互联网信息办公室等四部门：03/14/c_1743654684782215.htm；EuropeanCommission,“AIAct,”URL:https://digital-人工智能伦理治理研究报告深度伪造之所以难治理，难就难在它同时牵涉到表达自由、技术创新、人格权、平台责任和公共安全等诸多方面。并非所有合成内容都该被一刀切地禁罗尔·米尔斯基（YisroelMirsky）和李文科（WenkeLee）关于深度伪造生成与检测的综述说明了深度伪造技术正在暴露现有检测与防御方案的局限。24结合深度伪造在虚假信息、身份冒充和欺诈等方面的潜在用途，可以进一步推论，造内容可能从个体权益损害扩展为社会秩序治理生成式AI和深度伪造，需要一个分层的责任结构。生成者首先要承担不伪造、不冒充、不侵害他人合法权益的责任。工具提供者承担安全设计、诉处理和证据保全的责任。公共机构最适合承担权威信息发布、谣言澄清和公健康、灾害信息、司法证据和公共安全信息，应设置更高的透明义务和来源证公共事实危机有个特殊之处，很多时候它不是单个虚假内容造成的局部伤害，而是大量低成本内容持续入侵公共传播，对判断环境造成污染。所以生成式AI治理不能只靠平台事后删除，而要同时抓源头标识、传播链追踪、重点到了执行层面，公共事实治理还要区分一般娱乐内容、商业传播内容和公共事务内容。娱乐性合成通过标识和平台提示或许就能较好规范。商业广告和金融营销则应承担更高的真实性义务。涉及公共政策、灾害救援、司法证据、战争冲突和医疗健康的信息，则应设置更严格的来源证明、快速辟谣和证据保全机制。在这些信息场景里，真实性从来不是一般的内容质量问题，它根本上strategy.ec.europa.eu/en/policies/regulatory-framework-ai24YisroelMirsky&WenkeLee,“TheCreationandDetectionofDeepfakes:ASurvey,”ACMC人工智能伦理治理研究报告成物是否享有版权，不如说是模型训练阶段是否使用了受版权保护的作品。这偿都是核心议题。中国《生成式人工智能服务管理暂行办法》要求训练数据来源合法，涉及知识产权的，不得侵害他人依法享有的知识产权。25欧盟AIAct也对通用人工智能模型设置了透明度和版权相关义务。26从生成式AI供应链的角度看，训练数据、模型开发、输出生成和下游使用之间存在一条连续的责版权问题表面上是产权争议，深入看则关系到文化劳动、承认和收益分配成相似内容。创作者担心的不只是某一件作品的一次性复制，更担心长期积累的表达能力和风格被平台与模型企业低成本吸收，并反过来挤压其市场空间。如果作家、画家、音乐人、新闻机构和程序员的劳动被大规模纳入训练数据，却缺少授权、透明、退出和补偿机制，生成式AI就可能造成新的文化分配不版权治理需要在创新与保护之间取得平衡。完全限制训练数据使用，可能抬高研发成本、削弱公共科研和中小企业创新。但如果完全无约束地训练，又会损害创作者权益和文化生态。较为稳妥的路径，是建立分层透明机制，能够4.2.4公共语料库与文化多样性保护在中国语境中，版权与训练数据治理还应关注公共语料库和文化多样性保07/13/c_1690898327029107.htm26EuropeanCommission,“AIAct,”ShapingEurope’sDigitalFuture.URL:https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai27KatherineLee,A.FederCooper&JamesGrimmelmann,“Talkin’’BoutAIGtheGenerative-AISupplyChain,”arXiv:2309.08133,2023.人工智能伦理治理研究报告护。这是目前关注度不够的。高质量语料都被少数大型平台和商业公司握在手资源和公共文化资源的整理与合理利用。要强调的是，公共数据资源建设不能无偿抓取。它要有清晰授权、要以隐私保护和公共目的管理为前提，服务于科制度设计上，还应区分三类数据资源。公共领域和公共文化资源，重点放在整理、开放和质量控制上。对于受版权保护的商业授权、退出、补偿方面。包含个人信息或敏感信脱敏处理和安全审查。数据类型上做了细分，训练数据治理就更加精细，避免数据隐私、监控与人格画像问题，是指AI系统在采集、分析和利用个人弱点和行动倾向时，隐私风险就从“信息有没有被看到”转向“主体性是否受到挑隐私问题的深层风险不只在于个人信息是否泄露，更在于长期、多角度的需要特别注意的是，并不是所有个人数据的隐私风险都一样，数据的伦理的讨论，参见BrentDanielMittelstadtetal.,“TheEthicsofAlgorithms:29ShoshanaZuboff,TheAgeofSurveillanceCapitalism,NewYork:PublicAffairs,2019.人工智能伦理治理研究报告当越高。情绪识别和心理画像的AI应用尤其要谨慎。一个人在网上的表情、语音和行为模式并不能直接等同于其真实内心状态。把这些信息直接画像，再用于招聘、教育、安防、劳动监控或课堂管理治理应坚持数据收集最小化，明确收集和使用目的，特别保护敏感数据，确保利。隐私保护的目标不是让数据流动彻底停止，而转化为预测和操控对象。数据时代尤其需要保护个体的主体性，使人能保留改套由数据采集、跨域关联、模型推断、行为预测和个性化干预组成的社会评价与行为干预系统。只有把这一整条链条纳入监管，隐私保护才不会停留在形式算法偏见是AI伦理中发展较成熟、也较具制度意义的议题。AI系统可能复制并放大社会既有不平等，使歧视呈现为客观、无人负责的结果。偏见并不总是来自程序错误，也未必源于开发者的主观恶意，而往往是历史数据、制度环境、测量方式、代理变量和目标函数等多种因素互动的后果。招聘算法在缺少价值反思的情况下学习历史录用数据，过去的不公就可能被一并继承。再比4.4.2公平指标的局限与场景化理解人工智能伦理治理研究报告统计公平、个体公平、机会均等、误差率平衡和差别影响等指标之间本身可能冲突。安德鲁·D.·塞尔布斯特（Andrew背景、群体差异和权力关系。30因此，公平算法偏见对弱势群体的影响往往更加隐蔽。偏远地区居民、老年人、残障人士、方言使用者、低收入群体和数字能力较弱者，可能在训练数据中样本较少、数据质量较低，行为模式也不符合主流模型假设。乔伊·布奥拉姆维尼性别分类系统在不同肤色和性别群体之间存在显著准确率差异。32这说明，即使整体准确率看似较高，但错误率的分配也不是平均化的，在现实执行中，特中国《新一代人工智能伦理规范》明确要求避免数据和算法偏见，努力实现普惠、公平和非歧视。33治理算法偏见需要完整的工具链：首先进行数据代算法公平最终不是把所有人处理得完全一样，而是防止技术把历史不平等转化为看似自然、客观且难以申诉的结果。治理既要关注统计指标，也要关注“FairnessandAbstractioninSociotechnicalSystems,”Proceedingsoftheconferenceonfairness,accountability,andtransparency.2019,pp.59–68.Opportunities,Cambrid32JoyBuolamwini&TimnitGebru,“GenderShades:IntersectionalAccuracyDisparitiesinCommercialGenderClassification,”Proceedingso/kjbgz/202109/t20210926_177063.html人工智能伦理治理研究报告透明性、可解释性和问责经常被放在一起讨论，但三者并不相同。透明性主要回答系统如何运行。可解释性回答系统为何作出特定输出或行动，问责则回答伤害发生后由谁承担责任、如何纠正和补偿。透明和解释如果不能导向问公共服务等重大权益，用户至少应知道AI是否参与决策、参与方式、主要依AI系统难以问责，部分原因在于责任链过长。一个具体结果可能涉及户。系统越复杂，各方越容易把责任推给其他环节。算法审计的意义，透明性并不意味着必须无差别公开全部源代码或专有训练技术，而是应当提供足以帮助相关主体理解模型与数据特征的信息。对于复杂机器学习系统，模型卡和数据集说明表是较为现实的标准化透明工具。模型卡可以说明模型的和维护安排信息。35透明治理的重点不是向所有主体提供完全相同的信息，而高风险AI系统不能只靠企业自查，还应建立审计和公众监督相结合的分录、赔偿、乃至停止系统使用，都应当成为AI治理的制度选项。算法审计可以嵌入企业研发流程，覆盖立项、数据、模型到部署和运行全过程。334MargaretMitchelletal.,“ModelCardsforModelReporting,”ProceedingsoftheConferenceonFairness,Accountability,andTransparency,201935TimnitGebruetal.,“DatasheetsforDatasets,”CommunicationsoftheACM,64(12),86–92,2021.36InioluwaDeborahRajietal.,“ClosingtheAIAcc人工智能伦理治理研究报告审计提供相对独立的外部评价，监管审计则针对重大公共利益和高风险场景行用户，记住用户的偏好，让人产生被深度理解、承接的感受。伦理问困难在于辨认这种新型交互模式究竟是关系，还是仅仅是对关系的一种模拟，AI亲密带来的风险并不均匀分布，脆弱群体往往承担更高风险。孤独者、青少年、老年人、失恋者、失亲者和处于心理困境中的对照实验，分析了不同聊天模式和使用行为与孤独感、线下社交及情感依赖等指标之间的关系。研究发现，语音模式在使用强度较低时，相对文本模式可能缓解孤独与依赖，但在高使用强度下这一优势消失。总体而言，研究显示日均使用量越高，孤独、情感依赖和问题性使用等指标越些结果揭示的是相关关系，不能据此证明AI使用必然导致孤独，但足以表明AI亲密必须与平台商业模式结合分析。如果AI伴侣产品的收入主要来自订阅时长、付费对话、虚拟礼物或定制化亲密权限，平台就有延长用户停留时指标驱动的拟人化关系。尤其当系统使用“只有我懂你”“不要离开我”等话术，forInternalAlgorithmicAuditing,”Proceedingsofthe2020conferenceonfairness,accountability,andtransparency.2020,pp.33–44.37CathyMengyingFangetal.,“HowAIandHumanBehaviorsShapUse:ALongitudinalRandomizedControlledStudy,”arXiv/abs/2503.17473人工智能伦理治理研究报告治理AI亲密，首先要把它与普通聊天工具区分开。AI伴侣需要明确标识其非人主体属性，说明系统能力边界，避免虚假的人格承诺，不得利用情感依赖诱导消费，更不应促成用户现实生活中的社交退缩。未成年人和心理健康场景应设置更严格的准入、年龄限制、风险提示和人工转介机制。数字亡者复现个可供观察的文明互鉴的视角，教廷《Antiquaetnova》关于AI与人类智能关AI教育是当前的重要伦理议题。其问题不只涉及作弊和代写，更关系到人的能力形成。生成式AI可以协助总结、翻译、生成提纲和编程，但也可能使于能力和品格的养成。学生写作的价值不只在于产出文章。信息整理型、程式化写作可能更多由AI辅助，但思想创造性写作仍需人的主体参与。学习具有过程性，不能被完全指标化。人在缓慢组织语言的在恰当使用的前提下，AI确实可能促进教育公平。它可以提供个性化学习支持，辅助外语学习，降低资料获取门槛，并帮对教育资源不足地区，AI可能成为重要补充。但技术发展节奏与社会制度资源工具的发展速度已经超过许多国家监管框架的适应速度，因此主张采取以人为38DicasteryfortheDoctrineoftheFaith&DicasteryforCultureaNoteontheRelationshiphttps://www.vatican.va/roman_curia/congregations/cfaith/documents/rc_ddf_doc_20250128_antiqua-et-nova_en.html2023.UNESCOstatesthatgenerativeAItoolsaredevelopingfasterthanmanyframeworksandcallsforahuman-centredapproach,dataprivacyprotectionandage-appropriateuse.URL:/en/articles/guidance-generative-ai-education-and-research人工智能伦理治理研究报告儿童不是普通用户，而是需要特别保护的脆弱群体。未成年人在与AI交互时，更容易受到拟人化设计、奖励机制和个性化推荐影响。教育AI收集的接相关。如果这些数据被用于长期画像、定制化广告或商业服务，就可能强化特定人格模式、复制偏见，甚至形成行为操控。教育AI治理因此需要更严格和个性化学习，但不能替代基本阅读、独立写作和逻辑推理能力，尤其不能挤压师生互动和同伴讨论。学校需要重新设计作业和考试，把评价重点从一次性些环节所需要的时间，都应得到保障。教育系统应把AI纳入学习过程管理，和自我价值确认。一个社会如果借助AI提高生产效率，却使大量劳动者失去工作、难以持续积累技能，并失去参与社会的路径，那么问题就不能仅靠经济生成式AI对劳动的影响不同于传统自动化。传统自动化主要替代重复性大。帕韦乌·格米雷克（PawełGmyrek）、雅尼娜·贝格（JanineBerg）和戴维·贝斯孔（DavidBescond）关于生成式AI与就业的全球分析指出，生成式人工智能伦理治理研究报告AI对职业的影响既包括自动化，也包括任务增强，而且不同职业和AI可能增强专业人员的能力，也可能压缩初级岗位，使年轻人失去训练入和惩罚逻辑，使劳动者面对难以解释、难以申诉的黑箱管理系统。当前讨论还治理AI劳动风险，应推动就业影响评估、职业再培训、算法管理透明、劳动者参与和技术收益共享。企业采用AI不能只以降本增效为指标，也应充分研判其对岗位结构、劳动强度、技能形成和劳动尊严的影响。再培训十分必是否被算法评分和即时监控支配，以及面对AI评估还有没有能力理解并申诉系统决定。公共部门和大型平台引入AI系统时，应同步提交劳动影响说明，40PawełGmyrek,JanineBerg&DavEffectsonJobQuantityandQuality,ILOWo2023.DOI:10.54394/FHEM8239.URL:/publications/generative-ai-and-jobs-global-analysis-potential-effects-job-quantity-and41KateCrawford,AtlasofAI:Power,Politics,andthePlanetaryCostsofArtificialI人工智能伦理治理研究报告4.9.1基础模型的通用性与扩散风险基础模型安全是大模型时代的核心议题。同传统专用AI系统相比，基础础模型通过大规模预训练和多样的下游适配，可能会深度地影响多领域应用，其社会后果急需跨学科评估。它可能造成的风险不是单个错误输出，而可能造当下，基础模型带来的最直接的问题是幻觉。模型能生成语法流畅、逻辑看似清晰的回答，但可能夹带事实错误、编造文献和错误推理的情况。娱乐问策场景中出现幻觉，就可能造成严重后果。另外，越狱攻击可能绕过基础模型可扩展监督、安全探索和分布转移下的稳健性等问题，概括为机器学习系统事价值对齐不能被简化为技术调参。所谓“让AI符合人类价值”，还需要澄清哪组价值能够代表人类价值，谁有资格决定对齐标准，这些标准是否、以及如何接受公共审议等问题。价值对齐是否会把少数公司、工程师或文化的价值变成模型基础设施，进而导致价值偏见甚至价值殖民。如果对齐标准主要由市场偏好或平台安全策略决定，“人类价值”就可能被局部价值替代。基础模型治考虑到基础模型的特性，其治理应贯穿整个生命周期。发布前应开展安全评估、能力分级和红队测试。运行中需要持续监测，模型发生重42RishiBommasanietal.,“OntheOpportunitiesandRisksofFoundationModels,”arXiv:2108.07258,2021.URL:/abs/2108.0725843关于生成式模型幻觉，参见ZiweiJietal.,“SurveyofHallucinationDarioAmodei,ChrisOlah,JacobSteinhardt,PaulChristiano,ProblemsinAISafety,”arXiv:1606.06565,2016.pp1-29.人工智能伦理治理研究报告越狱抵抗、危险能力、心理健康场景表现、中文基础模型治理尤其要防止“能力崇拜”。模型能力越强，越需要明确能力边界、使用条件和责任分配。面向公众开放的高能力模型，应建立更严格的发布上，自主武器系统一旦被激活，可能在缺少进一步人类干预的情况下识别并攻击目标。关键问题不在于AI能否提高军事效率，而在于是否有充分理由把致普通商业场景中的AI错误可能造成经济损失，军事场景中的错误则可能造成军事AI治理的底线，是致命或不可逆的决策必须处于实质性人类控制之自主武器系统的立场主张各国制定具有法律约束力的新规则，并通过有效的人类监督、及时干预与停用机制保留人类判断和控制。所谓有意义的人类控制，指的是控制不能只是形式上由人按下按钮。如果人无法理解战争决策的因果链在必要时中止行动并承担责任。自主武器执行任务的责任链可能极其复杂，一指挥官、操作员和国家决策者等多主体。若缺少清晰的理解机制和责任框架，Fan,“ASurveyofControllableLearning:MethodsandApplicationsinInformationRetofComputerScience,20(10),Article2010619,20245InternationalCommitteeoftheRedCross,“ICRCPositiononAutonomousWeaponSystems,”12May2021.URL:/en/document/icrc-position-autonomous-weapon-systems人工智能伦理治理研究报告和科研机构在相关项目中应建立双重用途风险识别机制，评估特定AI系统是否可能被用于军事目的、造成大规模监控或提升杀伤能力。科技伦理审查不能只关注直接受影响人群，在某些前沿研究中还应审查潜在的跨场景和跨领域风国都把军事AI当作不可落后的战略能力，军备竞赛的逻辑就可能会边缘化伦理限制。国际治理至少应当禁止那些无法区分战斗人员和平民、无法进行比例商业场景中的算法错误，往往还能通过补偿和纠错得到部分修复。战场上性命人工智能伦理治理研究报告第五章人工智能伦理治理的中国路径中国AI伦理治理的规范基础，首先来自国家层面的人工智能治理原则与科技伦理治理制度。2019年，《新一代人工智能治理原则——发展负责任的人任、开放协作、敏捷治理八条原则。2021年，《新一代人工智能伦理规范》把原则细化为面向管理、研发、供应和使用活动的伦理要求，强调将伦理道德融入人工智能整个生命周期。2022年《关于加强科技伦理治理的意见》和2023年《科技伦理审查办法（试行）》则提供了更基础性的科技伦理治理与审查制度。再加一些AI治理的专项政策文件，人工智能治理的原则性资源相对是丰接下来的任务，是在政策原则基础上把这些要求转化为理论解释、制度设法学、公共管理、新闻传播和计算机科学等学科可以在大学空间中形成稳定互动。成立专门的AI伦理治理研究机构，有助于从机制上保证跨学科交流的频度与深度。AI伦理治理天然具有跨学科性质。伦理学可以提供尺度，科技哲学帮助分析技术的本质、结构和社会中介作用。法学可以用来明确权利义务与责任边界，计算机科学提供模型、数据和系统层面的技术理解，过去二十多年，西方马克思主义和批判传播政治经济学围绕“数字劳工”形成了一条重要理论线索。蒂齐亚娜·特拉诺瓦（TizianaTerranova）较早提出“免费劳动”（freelabor），朱利安·库克利希（JulianKücklich）提出“玩劳动”人工智能伦理治理研究报告感却常常没有报酬的劳动。46平台通过技术环境重新组织玩耍、娱乐、表达与放在这一语境中看，人工智能并不是从纯粹算法内部自然生长出来的“智馈和交互记录，都可能被转化为训练材料。安东尼奥·A.·卡西利（AntonioA.微任务和外包劳动如何支撑起了自动化系统。“自动化”并不一定意味着劳动消人工智能也是嵌入社会关系中发展的。马泰奥·帕斯奎内利（MatteoPasquinelli）关于人工智能社会史的研究指出，AI的历史不能只从机器模仿人类智能的角度叙述。劳动协作、社会关系和自动化管理本身，从来都是机器智能形成的重要条件。因此，治理只去关注模就会遗漏人的劳动形态变化、价值形成和利益分配等更深层的生产过程问题。角讨论AI监管，也提醒治