数字平台治理 课件 第十章 AIGC平台治理

1数字平台治理第十章

AIGC平台治理目录学习目标1.掌握AIGC的基本概念和主要特征，了解AIGC平台的主要类型与实践表现；2.理解依托AIGC发展的MaaS模式，了解MaaS与IaaS、PaaS、SaaS的异同；3.掌握AIGC平台面临的挑战，掌握AIGC平台治理的模式；4.引导学生利用AIGC进行创新创业实践。关键概念AIGC平台MaaS模式AIGC平台结构AIGC平台治理模式AIGC平台概述01AIGC平台的结构与治理挑战02AIGC平台的治理模式03数字平台治理2第十章AIGC平台治理引导案例向善还是向利？OpenAI董事会与高层之争区别于一般AIGC平台企业，2015年OpenAI成立之初为非营利性组织，旨在构建安全有益的通用人工智能，造福人类。为了维护非营利组织的核心使命，同时兼顾盈利，OpenAILP公司成立，以上限利润公司（Capped-profitCompany）的形式存在，是营利性和非营利性公司的混合体。OpenAILP的基本理念是，如果企业成功完成使命，投资者和员工可以获得有上限的回报，任何超过这个数额的回报都归最初的OpenAI非营利实体所有。也因此，尽管OpenAI与微软公司（Microsoft）的合作包括数十亿美元的投资，但微软公司既无投票权，又无控制权。2023年11月，OpenAI非盈利组织董事会与盈利性子公司OpenAILP的管理层爆发冲突，发生董事会罢免首席执行官山姆·奥特曼（SamAltman）的高层震荡事件。事件最终以奥特曼重返公司，组建新董事会，对OpenAI的治理结构进行重要改进而告终。思考与讨论：1.上限利润这一创新治理结构能否有效平衡“非营利性”（向善）与“盈利性”（向利）这一天然的矛盾？2.如何设计面向AIGC平台的治理模式？数字平台治理3第十章AIGC平台治理

AIGC篇平台概述第一节4第十章AIGC平台治理一、AI技术的发展历程519501980201220182020BP神经网络深蓝战胜国际象棋冠军Google-Transformer（革新了深度学习算法）AlphaGO战胜世界围棋冠军苹果-Siri虚拟助手无人驾驶汽车上路Google-

BERTOpenAI-GPT-3达特茅斯会议感知机聊天机器人Eliza人工智能机器人Shakey分布式计算Lisp语言OpenAIGPT-1AI进入大模型时代（一）AI技术发展历程概览第十章AIGC平台治理一、AI技术的发展历程6（二）国内外代表性大模型概览序号公司名称大模型名称开发者国别1百度文心一言中国2智谱华章智谱清言中国3百川智能百川中国4阿里云通义千问中国5科大讯飞星火中国6抖音豆包中国7华为盘古中国8昆仑万维天工中国9稀宇科技abab中国10OpenAIChatGPT美国11MicrosoftBeingChat美国12GooglePaLM2、Bard、Gemini美国13AnthropicClaude美国14MetaLLaMa美国15xAIGrōk美国资料来源：wgwang.中国大模型列表AwesomeLLMsInChina.Github,2024-07-15./wgwang/LLMs-In-China第十章AIGC平台治理二、AIGC概念与发展趋势7概念内容源泉生成方式质量应用场景AI数据深度学习等算法参差不齐广泛PGC程序规则程序化可控但单一游戏、模拟UGC用户手工创作参差不齐社交媒体AIGC数据+算法深度学习等算法可控、高质量文本、图像、音视频等广泛内容生成（一）AIGC概念辨析AI、PCG、UGC、AIGC概念对比AIGC（ArtificialIntelligenceGeneratedContent，人工智能生成内容）也被称为生成式人工智能，是指利用人工智能技术自动生成内容。AIGC是继“专业生成内容（ProfessionalGeneratedContent，PGC）”和“用户生成内容（UserGeneratedContent，UGC）”之后，利用AI技术自动生成内容的新型生产方式。AIGC根植于AI技术，与PGC和UGC有着紧密联系。右表所示是各概念辨析。从PGC向AIGC发展的历程反映了互联网技术应用的变迁。第十章AIGC平台治理二、AIGC概念与发展趋势8（二）AIGC发展趋势AIGC的兴起源于深度学习技术的快速突破和日益增长的数字内容供给需求，表现出以下发展趋势：发展AIGC已经得到国家层面重视。近年来我国快速布局，致力于推动AIGC领域的健康发展。AIGC的应用场景非常广泛，在各垂直领域中的发展潜力巨大。AIGC产品形式逐步丰富，包括但不限于聊天机器人、数字人和元宇宙。AIGC的落地路径仍在探索阶段。央视AI主持人通过短视频平台播报新闻注：2024年的欧洲杯比赛期间，央视频推出全新的《AI球报》节目，启用AI主持人每天用1到2分钟对欧洲杯球赛结果进行播报。右图所示是央视主持人马凡舒的AI数字人分身正在播报新闻，图片来源于央视频的抖音官方账号。第十章AIGC平台治理三、AIGC平台的分类9文本生成类平台GPT-4文心一言通义千问图像生成类平台

DALL·E3

Midjourney

StableDiffusion音频生成类平台WaveNetSunoAI网易天音视频生成类平台Sora

清影-AI生视频

Colossyan（一）生成内容类型维度分类右图是按照生成内容类型分类的AIGC平台，分为以下四类：文本生成类平台：可以实现自动撰写新闻稿、文章、社交媒体帖子等功能。图像生成类平台：可以实现绘画、插图、图像编辑等功能。音频生成类平台：可以实现音乐创作、播客、语音合成等功能。视频生成类平台：可以实现视频剪辑、动画制作、视频特效等功能。第十章AIGC平台治理三、AIGC平台的分类10采购嵌入扩展微调建构低部署的复杂程度高推理类AIGC平台训练类AIGC平台平台分类部署方式（二）部署方式差异维度分类右图是按照部署方式差异分类的AIGC平台，分为以下两类：推理类AIGC平台是指利用AIGC为用户提供逻辑推理、问题解答和决策支持的服务平台，旨在通过智能推理能力帮助用户解决复杂问题。用户可以通过采购完整应用、在自定义框架中嵌入API、本地部署AIGC等方式搭建推理类AIGC平台。训练类AIGC平台是指专门用于训练和优化AI模型的服务平台，它通过大量数据和算法优化，使得AI模型能够更好地学习和提升性能。用户可以在基座大模型上进行微调，或从零开始建构自定义模型。资料来源：李璇.Gartner调查显示，生成式人工智能将

推动中国企业数据中心设计转型.Gartner,2024-04-23./cn/newsroom/press-releases/2024-ai-data-center-in-china第十章AIGC平台治理

AIGC平台的结构与治理挑战第二节11第十章AIGC平台治理一、AIGC平台的结构122025/8/14基础层MssS应用层AI芯片及软件栈GPU、FPGA、ASIC神经网络软件算力平台虚拟化容器引擎算力云化及调用AI应用开发服务模型服务数据集服务平台服务应用产品应用场景聊天机器人语音终端智能座驾文章写作智慧金融数字政府智能交通智慧教育（一）AIGC平台与MaaS模式资料来源：中国信息通信研究院人工智能研究所，中国人工智能产业发展联盟.MaaS框架与应用研究报告（2024）.中国信通院,2024-06-05./kxyj/qwfb/ztbg/202406/t20240605_480470.htm

图10-4以MaaS为核心的产业链示意图第十章AIGC平台治理一、AIGC平台的结构13云计算人工智能SaaSPaaSIaaSAI应用AI算力基础设施层应用层平台层MaaS应用开发层模型服务层模型平台层资料来源：中国信息通信研究院人工智能研究所，中国人工智能产业发展联盟.MaaS框架与应用研究报告（2024）.中国信通院,2024-06-05./kxyj/qwfb/ztbg/202406/t20240605_480470.htm

图10-5MaaS模式在云计算架构中的定位与比较分析（二）AIGC平台与云计算服务模型第十章AIGC平台治理二、AIGC平台的治理挑战14（一）AIGC平台面临的风险技术风险安全风险伦理风险知识产权风险环境风险商业化风险（二）AIGC平台的发展悖论悖论1：平台企业成长的利润导向与人类社会发展的向善导向冲突；悖论2：数字技术进步的效率逻辑与的数字技术安全的制度逻辑冲突。第十章AIGC平台治理

AIGC平台的治理模式第三节15第十章AIGC平台治理一、治理模式概览16治理模式独立运营者社会资源配置者

生态主导者伦理导向：向利与向善平衡治理模式

第三方参与导向：监督治理模式

AIGC平台并未脱离数字平台的三重角色定位，仍表现为“独立运营者、生态主导者、社会资源配置者”。当AIGC平台作为独立运营的个体企业时，其治理首先要关注企业层面的内部治理结构优化。当AIGC平台作为AIGC产业生态的主导者时，治理模式的设计应侧重协调利益相关者之间的关系，以实现AIGC产业生态的价值共创和共同演进，包含正式的和非正式的治理措施。当AIGC平台作为社会资源配置者时，平台被赋予的公共权力逐步增大，具有一定的社会资源配置能力，可以在一定程度上影响AIGC产业的制度体系、社会认知、社会期望、组织范式。第十章AIGC平台治理二、伦理导向的向利与向善平衡治理模式17（一）上限利润治理结构资料来源：OpenAI企业官网，/our-structure/上限利润治理结构是指在AIGC平台中，通过制定相应的规则，对平台的利润进行限制和管理。这种结构旨在平衡企业盈利与社会责任，防止因过度追求利润而忽视公共利益。这一治理思路来源于OpenAI的公司结构设计，如右图所示。这一治理结构以伦理为导向，将秉持向善理念的非营利性组织的董事会置于核心管理位置，董事会对盈利性子公司拥有完全控制权。第十章AIGC平台治理二、伦理导向的向利与向善平衡治理模式18（二）长期利益信托治理结构股东会董事会经理层长期利益信托机构负责选举负责聘任监督资料来源：李维安，《人工智能治理：理念与机制重构》主题报告，“第十一届（2024）网络治理与商业模式创新”学术研讨会暨东北财经大学第九届“星海论坛”，2024.06.长期利益信托治理结构是一种创新的公司治理方式，在建立长期利益信托时创造了一种不同类型的股东。在这一治理结构下，公司的董事会成员由股东和长期利益信托选举产生，目的是让董事会平衡公共利益与股东价值最大化的目标。这一治理思路来源于Anthropic公司的治理结构设计与微调，如右图所示。这一治理结构旨在平衡公司的商业利益和长期的社会利益，特别是在AI安全方面。允许公司在追求利润的同时，考虑到AI技术对社会和公共利益的影响。第十章AIGC平台治理三、第三方参与导向的监督治理模式1920172018201920202021202220232024《关于加强科技伦理治理的意见》制定伦理规范，明确科技伦理要求《生成式人工智能服务管理暂行办法》《全球人工智能治理倡议》IEEE《人工智能的伦理设计准则》G20“G20人工智能原则”，强调要以人为本、发展可信人工智能欧盟《人工智能白皮书》美国《促进政府使用可信人工智能》联合国教科文组织《人工智能伦理建议书》G7峰会《人工智能未来的共同愿景》首届全球人工智能(AI)安全峰会《布莱切利宣言》美国《AI权利法案蓝图：让自动化系统为美国人民服务》何积丰院士国内首次提出了可信人工智能可信三要素：人、信息和物理习总书记强调，“确保人工智能安全、可靠、可控”《新一代人工智能治理原则——发展负责任的人工智能》《十四五规划和2035愿景目标纲要》

加强人工智能安全技术创新《可信人工智能白皮书》提出“科技向善”可信赖AI六大原则人工智能治理研究院人工智能治理与可持续发展实验室“人工智能安全可靠护航计划”AI安全治理开放平台人工智能六大原则发布ChatGPT安全方法《人工智能日常伦理指南》举办算法偏见赏金挑战赛成立健康伦理委员会欧盟《人工智能法案》《2024生成式人工智能治理与实践白皮书》发布全球人工智能治理评估指数《负责任的人工智能透明度报告》（一）发展可信人工智能第十章AIGC平台治理三、第三方参与导向的监督治理模式20（二）建设可信AIGC平台可信AIGC平台的建设过程具体可从以下四个方面展开，如右图所示：第一，确保模型算法的可信是建设可信AIGC平台的基础。第二，确保数据从收集、存储、处理到应用和销毁的全生命周期可信，需要实施严格的数据治理策略。第三，建立有效的审核机制是保障AIGC内容合规的关键。第四，全面的监督与追责机制能够有效预防和处理AIGC平台可能出现的风险和问题。模型算法可信可信AIGC平台数据全生命周期可信审核机制可信监督与追责第十章AIGC平台治理本章小结21第十章AIGC平台治理面向AIGC平台这一新兴技术的产物，本章首先概述AIGC平台，回顾了AI和AIGC的发展历程，辨析了AIGC的概念，从不同维度对AIGC平台进行分类。而后介绍AIGC平台的结构与治理挑战，介绍了AIGC平台的MaaS模式，以及其对云计算服务模式的推动作用。最后提出AIGC平台的治理模式，从伦理导向和第三方参与导向分别提出不同的治理措施。立足当下，AI和AIGC的技术仍在飞速发展，丰富的企业实践不断将前沿技术落地，与实践相匹配的治理模式仍在快速迭代。以AIGC平台为核心搭建起的AIGC产业生态远未成熟，也未有所谓“最佳实践”或“最佳治理模式”。AIGC平台治理仍任重道远。22课后复习题1.请阐述AIGC的核心原理，并分析AIGC平台在当前信息技术发展中的作用及其对未来内容生产方式的潜在影响。2.比较AIGC、UGC和PGC在内容质量、生产效率、创作成本及版权归属等方面的差异，并结合实例探讨三者之间的融合发展趋势。3.列举并详细描述AIGC平台的几种主要类型，并分析各自的优势与局限性。4.深入解析MaaS模式的概念、特点及其在人工智能领域中的应用场景，试论述MaaS模式对传统云计算服务模式的影响。5.探讨AIGC平台治理模式的分类，并结合我国相关法律法规，分析各类治理模式在内容审核、数据安全、知识产权保护等方面面临的挑战及应对策略。1.只要有______的人类测试者在五分钟内无法分辨出被测试对象是人类还是机器，就可以认为计算机通过了图灵测试，拥有了智能（

）A.30%

B.40%

C.50%

D.60%2.什么是AIGC？（

）

通过程序算法生成内容的统称

依赖用户原创生成内容的统称通过人工智能算法对数据或媒体进行生产、操控和修改的统称

以上均不是自测自评题第十章AIGC平台治理233.AIGC的产品形式有哪些？（

）聊天机器人数字人元宇宙

以上均是4.推理类AIGC平台有哪几种部署方式？（

）采购

嵌入扩展以上均是5.AIGC平台的核心结构是什么？（

）IaaS模式MaaS模式PaaS模式SaaS模式6.以下哪项不是数字平台的三重角色？（）独立运营者生态主导者社会资源配置者价值破坏者自测自评题7.Anthropic是什么类型的公司？（）公益公司非盈利性公司家族企业国有企业8.从“生成内容类型”维度，AIGC平台可以分为哪几类？（

）文本生成类平台

图像生成类平台

音频生成类平台

视频生成类平台9.以下哪些是AIGC平台的潜在风险？（

）技术风险安全风险伦理风险环境风