人工智能探索 课件 项目6 人工智能关乎你我

6.1人工智能的

不确定性主讲人：***CONTENTS目录01人工智能的不确定性概述02我国人工智能模型存在的技术问题03人机关系探讨04人工智能暗箱现象05我国人工智能发展情况06人工智能不确定性的应对思考人工智能的不确定性概述01不确定性的定义与影响人工智能不确定性的概念在AI技术中，不确定性指因数据不完整、噪声干扰、模型复杂性等因素，导致结果不确定或预测不准确的现象。不确定性对AI模型决策的影响不确定性会使AI模型的决策出现偏差，如受噪声干扰，模型可能将雪山误识别为狗，影响决策准确性。不确定性引发的社会安全问题这种不确定性可能引发一系列社会安全问题，对人们的生命财产安全构成潜在威胁。不确定性的案例展示Uber自动驾驶汽车撞人事件2018年，美国亚利桑那州，Uber一辆测试中的自动驾驶汽车以69公里时速撞死横穿马路的妇女，这是世界首例L4车辆因车祸致人死亡事件。智能音箱给出危险回答案例2019年，英格兰护理人员向某智能音箱查询心脏问题，却得到“用刀捅心脏”等危险回答。人工智能换脸技术诈骗案例2023年，包头警方发布案例，福州市某公司法人代表被利用人工智能换脸技术的好友诈骗430万元。利用人工智能非法获利案例2023年，洪某弟通过ChatGPT修改编辑热点新闻，上传至百家号非法获利。人工智能的广泛应用01医疗领域的应用人工智能在医疗领域可帮助医生辅助诊断，提高诊断效率和准确性。02金融领域的应用在金融领域，用于风险投资、欺诈检测和自动化交易，提升金融服务效率与安全性。03交通领域的应用交通领域中，人工智能带来自动驾驶，改变出行方式，但也存在不确定性风险。04教育领域的应用教育领域里，能为学生进行个性化定制，满足不同学生学习需求。05农业领域的应用在农业领域，人工智能实时监控农作物，助力农业生产智能化。06应用带来的问题、机遇和挑战人工智能广泛应用渗透社会各角落，带来诸多便利同时，也产生各种问题，面临机遇与挑战。我国人工智能模型存在的技术问题02缺乏高质量的训练数据GPT-3模型训练语料中英文占比对比GPT-3模型的训练语料中，英文占比75%，中文仅占3%，其余为西班牙语、法语、德语等其他语种。中英文语料公开数据情况差异英文语料的公开数据数量更多、质量更高，而高质量的中文开源数据相对较少，在百科、问答、图书文献、学术论文、报刊等通用领域中，适用于大模型训练的优质中文内容较为匮乏。国内专业数据服务现状国内的专业数据服务尚处于起步阶段，用于人工智能模型训练的经过加工、清洗和标注的高质量数据集仍然稀缺，缺少优质的训练数据已成为国内大模型训练的核心痛点。国内应对中文数据不足的努力在2024北京AI原生产业创新大会暨北京数据基础制度先行区成果发布会上，北京国际大数据交易所和北京人工智能产业联盟联合发布了人工智能大模型语料库，中文在线数据集被列入首批100个高质量训练数据集之一。缺少充足的智能算力支撑算力对人工智能模型训练的重要性随着人工智能算法的快速进步，越来越多的模型训练需要强大的算力支撑，才能实现高效且快速的应用。算力提升可提高数据利用效率，避免算法微调时出现过拟合，增强模型泛化能力。目前人工智能算力的主要提供方式目前，人工智能所需的算力主要由专用AI硬件芯片和具有超强计算能力的公有云服务提供。其中，GPU在计算能力、并行处理能力和单机峰值计算性能上遥遥领先，成为最广泛使用的芯片，极大地提高了AI计算的效率。我国算力提升的趋势算力已成为推动新生产力发展的关键力量，我国的算力提升已是大势所趋，其发展正呈现“算力三定律”的趋势。我国在算力方面面临的难题-成本高昂大模型训练和运营算力成本高昂，训练阶段，业界测算ChatGPT训练成本约为1000万美元，为研发拥有部分ChatGPT能力的大模型，至少需要上千张A100训练卡。运营阶段，ChatGPT云计算成本每日约200万美元。缺少充足的智能算力支撑我国在算力方面面临的难题-缺乏工程能力满足大模型训练的算力需求不仅需要数量巨大的高性能GPU，更需要面向人工智能高度优化的云计算平台和相应的工程能力，而我国缺乏大规模并行计算工程能力。我国在算力方面面临的难题-采购与国产算力问题采购国外先进GPU受限，国产算力尚未成熟到支撑大模型研发。国产智能芯片不仅在算力、带宽等性能上同英伟达A100、H100芯片有差距（这两款都在美方对华禁售之列），支持自然语言处理和大模型训练的算子库也不够成熟，国产自主创新仍有软硬适配等技术问题尚待持续优化与解决。我国在算力方面面临的难题-市场“碎片化”人工智能算力市场和服务市场“碎片化”加剧，全国多地主导建设近百个智算中心，形成一个个孤立破碎的人工智能算力和服务小市场，资源整合变得更加困难，增加了决策成本和难度，消解了中国大市场优势。缺少适合大模型研发特点的机制人工智能大模型的特点人工智能大模型具有长周期、重投入、高风险等特点。国内企业、高校研发情况国内企业、高校在“大模型”“大数据”“大算力”等方面各有侧重，研发力量分散，资源缺乏整合，没有与OpenAI技术实力对标的企业。企业面临的盈利压力企业受盈利压力很难长期维持高投入，难以持续支撑大模型研发。政府项目的支持情况政府项目的支持力度与所需投入相比仍显乏力，且决策周期长，不利于大模型研发的快速推进。人机关系探讨03人机关系的准则发展01阿西莫夫的“机器人三大定律”美国科幻作家阿西莫夫提出“机器人三大定律”，即机器人不得伤害人类；机器人必须服从人类的命令；在不违反前两条的前提下，机器人需保护自身不受伤害。02“人工智能的阿西洛马23条准则”2017年，一群人工智能领域的专家和领袖在“机器人三大定律”基础上，提出“人工智能的阿西洛马23条准则”，进一步规范AI的设计和使用。03准则对规范AI设计和使用的作用这些准则为AI的设计和使用提供了重要规范，有助于引导人工智能朝着符合人类价值观和利益的方向发展，保障人类在与AI交互中的安全与权益。人类“消亡”的两种情况不符合人类意愿的“消亡”第一种人类“消亡”情况不符合人类意愿，人工智能迭代创造新的人工智能，智能化高且迭代时间短，但因算力、模型不足，人类的无能成为迭代屏障，可能导致人类被暴力消灭。符合人类意愿的“消亡”第二种人类“消亡”可能符合人类意愿，人工智能代替人类参与社会运作，人类交出对社会运作的决策，进入安逸陷阱，逐渐丧失活力、开拓精神和斗志。人机共存的可能性与意义人工智能在各领域的作用在零售、医疗、制造等领域，人工智能可大大降低成本，或带来更高回报，节省更多时间。例如在医疗领域辅助诊断，提高诊断效率。人类利用节省时间创造价值人类可利用人工智能节省的时间，去创造更多价值，如丰富学识、提高创新能力，强化智能机器，让机器更好、更快地完成工作。人机和谐共存的意义人机应和谐共处，将人工智能看作合作伙伴，共同推动社会发展，实现互利共赢，为人类创造更美好的未来。人工智能暗箱现象04暗箱现象的定义与表现暗箱现象的定义人工智能暗箱现象指输入的数据和输出的结果之间存在不可观察的空间，人工智能系统的内部工作方式对用户不可见。以智能摄像头为例的表现智能摄像头配备AI算法识别目标、分析行为或监控操作，但其内部AI处理过程对外部观察者通常不可见。以自动驾驶汽车为例的表现自动驾驶汽车运行依赖复杂AI系统感知环境、决策并操作，涉及大量传感器数据等，对普通乘客或外部观察者不透明。暗箱现象的负面影响信任度下降暗箱现象导致用户对人工智能系统信任度下降，尤其在高风险决策和敏感领域，用户难理解模型决策过程。限制可用性由于难以理解模型决策，限制了模型的可用性，用户和开发者难以确定模型是否可靠。限制可维护性当模型出现错误时，因暗箱现象很难有效调试和改进，限制了模型的可维护性。法律层面争议暗箱现象在引起利益冲突时，难以确定错误根源或责任归属，可能在法律层面引发争议，造成不公平结果。我国人工智能发展情况05国家重视与政策推动习近平主席对人工智能发展的指示习近平主席向2024世界智能产业博览会致贺信时指出，人工智能是新一轮科技革命和产业变革的重要驱动力量，将对全球经济社会发展和人类文明进步产生深远影响。推动人工智能与实体经济融合我国高度重视人工智能发展，积极推动互联网、大数据、人工智能和实体经济深度融合，为高质量发展提供新动能。培育壮大智能产业与新质生产力通过推动融合，培育壮大智能产业，加快发展新质生产力，助力经济发展迈向新台阶。产业发展成果2017-2023年人工智能产业政策举措2017年国务院首次印发《新一代人工智能发展规划》；2018年明确提出促进人工智能“同经济社会发展深度融合”；2020年正式发布《国家新一代人工智能标准体系建设指南》，还制定支持数字经济高质量发展政策，将开展“人工智能+”行动写入今年政府工作报告。产业规模增长2020年，我国人工智能产业规模3031亿元；到2023年底，核心产业规模已近5800亿元，产业规模实现大幅增长。算力总规模与企业数量目前，我国算力总规模位居全球第二，人工智能企业数量超4400家，展现出强大的产业实力。赋能千行百业在智能制造领域的赋能在智能制造领域，人工智能推动传统汽车行业分化出智能网联汽车新赛道，聪明的车、智慧的路、可靠的云助力产业发展，产业规模可达万亿级。在文化领域的赋能在文化领域，元宇宙虚拟技术、虚拟预演等新技术在影视制作中屡见不鲜，文生视频等大模型让普通人也能体会电影创作乐趣，催生新业态、新场景。对生产生活方式的改变人工智能通过在各领域的应用，深刻改变着我们的生产生活方式，为经济社会发展注入新动能。国际交流与合作2024世界人工智能大会概况2024世界人工智能大会暨人工智能全球治理高级别会议于7月4日-6日在上海举行，约500家企业携1500多项展品参会。创新成果展示与会各方聚焦大模型、算力、机器人、自动驾驶等重点领域进行创新成果展示，推动行业技术交流与发展。话题讨论与宣言发表会议就智能向善、安全治理等话题进行讨论，并发表《人工智能全球治理上海宣言》，强调我国在人工智能领域积极开展国际交流与合作。人工智能不确定性的应对思考06技术层面的应对策略解决数据问题的策略面对高质量训练数据缺乏问题，一方面要加强数据共享，推动国内多方主体合力攻关，如北京国际大数据交易所和北京人工智能产业联盟联合发布人工智能大模型语料库。另一方面，要大力发展专业数据服务，对数据进行加工、清洗和标注，以丰富优质数据集。提升算力的策略针对算力难题，需降低大模型训练和运营算力成本，例如探索更高效的训练算法。同时，加强大规模并行计算工程能力建设，推动国产算力成熟，打破国外GPU采购限制，整合碎片化的算力和服务市场，提升整体算力水平。优化研发机制的策略鉴于大模型研发特点，要整合企业、高校等研发力量，集中资源。政府加大项目支持力度，缩短决策周期，减轻企业盈利压力，使其能长期维持高投入，形成与OpenAI对标实力。人机关系的合理构建避免人类“暴力消亡”为防止人工智能因算力、模型等问题迭代受限，进而对人类产生不符合意愿的暴力消灭，人类需积极提升自身科技能力，为人工智能发展提供更好支持，避免成为其迭代屏障。规避安逸陷阱针对人类可能因人工智能代替社会运作决策而进入安逸陷阱，应强化教育，培养开拓精神和斗志，鼓励人类积极参与社会运作，不依赖人工智能，保持自身活力。促进人机和谐共存认识到人工智能在零售、医疗、制造等领域可降低成本、节省时间，人类应将其视为合作伙伴，利用节省时间提升自身，强化智能机器，实现人机和谐共处。暗箱现象的解决途径提高模型透明度对于人工智能暗箱现象，可通过开发可视化工具，让用户能直观了解模型内部工作方式，如智能摄像头和自动驾驶汽车的AI处理过程，从而提高模型透明度。增强模型可解释性采用可解释的人工智能算法，使模型决策逻辑更易理解，当出现错误时便于调试和改进，在高风险决策和敏感领域增强用户信任度。明确责任归属建立相关法律和监管机制，在引起利益冲突时，能够清晰确定错误根源和责任归属，避免法律层面争议，确保公平结果。发展带来的机遇提高效率在医疗领域，人工智能凭借强大的图像识别和分析能力，能迅速从海量医学影像中捕捉关键病灶信息，极大提高诊断效率；在制造业，强人工智能可实现设备自我监控、预测性维护和流程优化，减少资源浪费和停工时间，提升生产效率。降低成本在金融领域，强人工智能通过大数据分析、机器学习等技术处理海量数据，提供精准金融服务，降低人力成本；在零售、医疗、制造等行业，AI的应用可降低运营成本，例如富士康深圳的关灯工厂采用全自动化制造流程，人力节省88%，提升效益2.5倍。创造新业态在文化领域，元宇宙虚拟技术、虚拟预演等新技术在影视制作中屡见不鲜，文生视频等大模型让普通人也能体验电影创作乐趣；在智能制造领域，智能网联汽车作为传统汽车行业分化出的新赛道，产业规模可达万亿级。面临的挑战不确定性因数据不完整、噪声干扰、模型复杂性等因素，AI结果可能不确定或预测不准确。如将雪山图像输入模型，加入微小噪声干扰，模型可能将雪山误识别为狗；2018年美国亚利桑那州Uber自动驾驶汽车撞死横穿马路妇女。技术问题我国人工智能模型存在技术问题，缺乏高质量训练数据，如GPT-3模型训练语料中文占比仅3%，国内优质中文开源数据匮乏；缺少充足智能算力支撑，大模型训练和运营算力成本高昂，采购国外先进GPU受限，国产算力不成熟；缺少适合大模型研发特点的机制，研发力量分散，资源缺乏整合。人机关系人机关系存在人类“消亡”的可能，一是人工智能迭代可能因人类成为算力、模型迭代屏障而暴力消灭人类；二是人类可能因将社会运作决策交予人工智能，进入安逸陷阱而丧失活力。当然，人机也可共存，人类利用AI节省时间创造更多价值，把AI当作合作伙伴。技术突破的可能性高质量训练数据的突破前景随着国内多方主体合力攻关，数据资源共享和丰富工作持续推进，如北京国际大数据交易所和北京人工智能产业联盟联合发布人工智能大模型语料库，未来有望解决优质中文数据匮乏问题，为大模型训练提供充足“养分”。智能算力支撑的突破方向面对算力难题，我国可能在降低大模型训练和运营算力成本、提升大规模并行计算工程能力、推动国产算力成熟等方面取得突破，顺应“算力三定律”趋势，开拓算力创新领域。适合大模型研发机制的建立可能未来或许能整合企业、高校等研发力量，优化资源配置，政府加大支持力度并缩短决策周期，形成对标OpenAI的研发实力，建立适应大模型长周期、重投入、高风险特点的研发机制。人机协作的美好愿景在生产领域的协作场景在制造行业，人类凭借创新思维进行产品设计，人工智能利用精准计算和不知疲倦的特性完成生产任务，如富士康“关灯工厂”，提升生产效率与质量。在服务领域的协作场景在医疗服务中，医生凭借临床经验和人文关怀为患者诊断治疗，智能医疗设备利用数据分析提供辅助诊断，像“NurseBot”辅助医院日常运营，共同提升医疗服务水平。在科研领域的协作场景科研工作中，科学家提出研究方向和假设，人工智能通过快速处理海量数据进行模拟和验证，加速科研进程，助力新发现与创新成果涌现。社会影响的积极变化01经济层面的积极影响人工智能发展推动产业升级转型，如制造业实现智能化生产，金融领域提供精准服务，提高生产效率与经济效益，创造更多经济增长空间。2023年底我国人工智能核心产业规模近5800亿元。02文化层面的积极影响在文化领域，人工智能催生新的艺术创作形式，如文生视频、虚拟预演等技术应用于影视制作，丰富文化创作手段，提升大众文化体验。03生活层面的积极影响日常生活中，人工智能带来便捷服务，如智能教育辅导系统提供个性化学习方案，智能音箱满足信息查询需求，改善人们生活质量与学习效率。全球合作的重要性应对技术挑战需要全球合作人工智能发展面临数据、算力、研发机制等共同技术难题，全球合作可整合资源、共享经验，加速技术突破，如共同解决高质量训练数据和算力支撑问题。推动技术进步需要全球合作各国在人工智能领域各有优势，通过合作可实现优势互补，促进技术创新与发展，共同探索新的算法、模型和应用场景。实现可持续发展需要全球合作人工智能应用广泛，全球合作能确保其发展符合人类共同利益，制定统一标准与规范，避免安全隐患，推动其在各领域可持续应用。THEEND谢谢6.2建立人工智能

技术规范和秩序主讲人：***CONTENTS目录01人工智能时代的问题与挑战02构建负责任的人工智能生态03人工智能伦理04人工智能的使用安全05人工智能的使用规则CONTENTS目录06我国人工智能相关政策与规范07人工智能与弱势群体人工智能时代的问题与挑战01人工智能带来的复杂问题软件强大导致问题复杂且不透明在人工智能时代，软件功能日益强大，使得原本的问题变得愈发复杂，同时其运行过程也更加不透明。我们虽深知人工智能能力卓越，但却难以明晰系统究竟学到了什么，无法精准把控它。对人工智能决策的质疑人工智能给出的概率性答案，是否就一定是最优解？面对灰色问题，例如经典的“电车问题”，它能否像人类一样思考并做出灰色决策，这都是值得探讨的疑问。人类决策权交付后的社会秩序思考一旦人类将决策权交予人工智能，社会秩序将会发生何种变化？这是我们在人工智能发展过程中必须深入思考的重要问题。人工智能引发的负面案例萨劳操盘引发华尔街股市危机2010年5月6日，居住在伦敦贫民窟的期货交易员萨劳，仅使用一款普通软件，在伦敦郊区家中操盘，就让华尔街在五分钟内瞬间蒸发1万亿美元市值，凸显人工智能应用可能带来的巨大金融风险。加拿大航空虚拟助手误传信息案例2023年11月，杰克·莫法特咨询加拿大航空虚拟助手丧亲票价信息，按其建议购票后却遭航空公司拒绝退款，航空公司还辩称不为聊天机器人信息负责，反映出人工智能在服务领域可能出现的误导问题。构建负责任的人工智能生态02负责任时代的需求01复杂问题与不透明性在人工智能时代，软件越发强大，问题变得复杂且不透明。我们无法清晰了解系统所学，也难以精确掌控，其给出的概率性答案未必最优，面对灰色问题时，能否像人类一样思考并做出灰色决策也存疑。02灰色问题与决策权考量以“电车问题”这类灰色问题为例，当人类将决策权交予人工智能，社会秩序可能面临未知变化，我们需思考这背后的影响。03案例警示2010年“黑色星期四”，伦敦贫民窟交易员用普通软件操盘，致华尔街五分钟内蒸发1万亿美元市值；2023年加拿大航空虚拟助手误导用户，引发纠纷，这些案例警示我们人工智能应用存在风险。04构建合理框架的必要性人工智能时代需成为负责任、恪守人类道德的时代，建立合理审慎的人工智能伦理和治理框架至关重要。塑造人机和谐共生未来生成式AI的发展与风险生成式AI发展迅速，但也伴随着风险，创新主体有责任探索保障措施，确保其健康发展与安全应用。技术与管理的安全保障生成式AI领域创新主体需从技术和管理两方面入手，探索安全保障措施，为其发展构筑防护栏。人机和谐共生的意义打造人机和谐共生的未来，能让人类更好地利用人工智能优势，同时避免其带来的负面影响，实现共同发展。人工智能伦理03人工智能伦理的定义人工智能伦理的内涵人工智能伦理指在人工智能技术的研究、开发及应用过程中，所应遵循的道德准则与社会价值观，旨在保障人工智能的发展与应用不会给人类和社会带来负面效应。机器人道德道德标准的设定在设计和制造机器人时，人类需确保机器人行为契合人类道德标准，例如机器人绝不能伤害人类，也不能参与任何非法活动。隐私保护数据隐私的重要性由于人工智能应用常常要收集和处理大量数据，其中可能包含个人隐私信息，所以必须保障这些数据的安全与保密，防止其被滥用或泄露。社会影响积极影响的导向人工智能技术的应用应确保对社会和经济产生积极影响，推动社会的进步与发展，比如避免导致大规模失业，杜绝针对某些群体的歧视现象。透明度决策透明的意义人工智能系统的决策过程应具备透明度，以便人类能够理解和解释，例如系统需说明做出特定决策的原因。责任问题责任认定的关键当人工智能系统出现损害或错误时，明确责任方并追究责任至关重要，如自动驾驶汽车发生事故时，需确定是车辆制造商还是软件开发商的问题，并让其承担相应责任。人工智能的使用安全04人工智能安全风险技术发展与风险伴随随着人工智能技术快速发展，其逐渐在多场景替代或协同人类完成各类劳动，成为人类的得力助手，但这一进程也伴随着日益多样化的安全风险。侵害事件频发近年来，因人工智能技术尚不成熟而导致的侵害事件频频发生，给人们的生活和社会带来诸多不良影响。瑞莱智慧的安全保障依托强大支持瑞莱智慧依托清华大学人工智能研究院的支持，在人工智能安全领域具备坚实的技术与理论基础。构建安全基础设施致力于构建人工智能安全基础设施，为人工智能技术的安全、可靠和可控落地应用奠定坚实基础。提供平台与方案提供以人工智能安全为核心能力的AI平台及行业解决方案，助力各行业安全应用人工智能技术。瑞莱智慧产品介绍01政策大模型提供专业、可靠、高效的政策调研、综合分析、政策起草、政策触达辅助工具和应用，助力政策相关工作。02人机协同AI平台实现人机协同的模型构建能力、平台的控制管理能力、AI资产对外赋能的能力，以及实现安全、可信、可靠、可扩展的第三代人工智能的能力。03隐私保护计算平台实现了数据可用不可见，打通了数据孤岛，实现了与异构、开源隐私计算框架的互联互通，保障数据安全与隐私。04人工智能安全平台提供模型安全性量化测评及安全性提升的端到端解决方案，给出被测AI模型的安全评分、风险报告，以及多种纵深防御方案。05人脸AI安全防火墙对人脸识别的物理和数字世界进行全景式安全态势感知，提升金融和政务等行业的人证核验、刷脸通行、人脸解锁等应用场景安全性。瑞莱智慧产品介绍人工智能安全靶场能够快速培训、提升人员AI安全能力，推动相关单位提升应对新型AI安全威胁的实战能力。生成式人工智能内容检测平台能够快速、精准地对图像、视频、音频、文本内容进行真伪鉴别，有效打击AI诈骗、虚假宣传、证据造假等违法违规行为。深度合成内容制作平台提供定制化面部替换、表情与语音驱动等功能，助力生成唇形精准、动作自然、表情丰富的数字人，打造虚拟化的数字空间。大模型私域问答为客户提供“产品+服务+场景”的一体化私域问答解决方案，深度挖掘私域场景需求，构建标准产品组件赋能的场景应用，加速大模型时代的智能化转型。人工智能的使用规则05遵守国家法律法规具体法律法规列举人工智能研发和应用需遵守《中华人民共和国网络安全法》《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等法律法规。违法内容限制明确规定不得含有颠覆国家政权、破坏国家统一、宣扬恐怖主义、极端主义等违法内容。强化提供者责任安全评估要求AI提供者需进行安全评估，确保人工智能产品和服务的安全性与可靠性。算法备案义务要按照规定履行算法备案以及变更、注销备案手续，增强算法透明度。数据来源核验对数据来源的合法性进行核验，保证数据获取与使用符合法律规范。责任承担与服务处理利用生成式人工智能产品提供服务的组织和个人需承担生产者责任，发现用户违法应暂停或终止服务。加强监督和管理监管主体与职责政府和相关机构承担对人工智能技术监管职责，确保技术合法合规使用。法规标准制定完善制定和完善相关法规和标准，为人工智能技术应用提供明确规范。问责机制建立对于违反法律法规或伦理道德的行为，建立问责机制，追究相关责任主体责任。加强使用者培训01法律法规遵守使用者应严格遵守法律法规，不得将人工智能技术用于非法目的。02数据安全与隐私保护重视数据安全和隐私保护问题，采取有效措施防止数据泄露和滥用。03运行保障与责任承担确保人工智能系统安全稳定运行，对使用产生的法律后果承担相应责任。04培训与技能提升使用者要定期参加培训，学习新技术、新知识，提升技能水平以应对技术挑战。05法规动态关注与行为调整密切关注法律法规动态，及时调整自身行为以符合法律法规要求。我国人工智能相关政策与规范06《新一代人工智能发展规划》发布时间与背景2017年7月，我国发布《新一代人工智能发展规划》，旨在应对人工智能快速发展带来的机遇与挑战。对社会伦理影响的重视规划呼吁重视人工智能的社会伦理影响，意识到其发展可能对社会道德、价值观等方面产生作用。伦理框架和规范的制定强调制定伦理框架和伦理规范的重要性，以确保人工智能安全、可靠、可控发展。《人工智能标准化白皮书2018》发布时间与发布主体2018年1月，在国家人工智能标准化总体组的成立大会上发布该白皮书。对安全、伦理和隐私问题的论述白皮书着重论述了人工智能的安全、伦理和隐私问题，指出这些是人工智能发展中不可忽视的关键方面。伦理要求设定的依托强调人工智能技术需遵循的伦理要求设定要依托于社会和公众对人工智能伦理的深入思考和广泛共识。《新一代人工智能治理原则》发布时间与发布主体2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》。人工智能发展遵循的原则《治理原则》提出，人工智能发展相关各方应遵循和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作以及敏捷治理等原则。《新一代人工智能伦理规范》2019年版本的意义2019年9月正式发布，它细化落实《新一代人工智能治理原则》，将伦理道德融入人工智能全生命周期，为人工智能应用的相关活动提供伦理指引。2021年版本的进步相比于2019年《治理原则》，2021年发布的《伦理规范》提出了更加细化与严谨的6项基本伦理要求：增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养。《关于加强科技伦理治理的意见》发布时间与发布主体2022年，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》。明确的科技伦理原则意见明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。《全球安全倡议概念文件》发布时间与发布主体2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》。对人工智能治理的呼吁文件呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”，强调国际合作应对人工智能安全问题。人工智能与弱势群体07人工智能对弱势群体的影响对中青年的积极影响人工智能让中青年的生活变得越来越便捷、越来越高效，助力他们在工作与生活中更快速地处理事务、获取信息。弱势群体面临的困境以老年人为例，他们跟不上科技变化与社会进步，很难理解人工智能，在面对复杂的智能设备与应用时无所适从。易受骗的风险弱势群体由于对人工智能缺乏了解，更容易成为诈骗分子利用人工智能实施诈骗的目标，遭受财产损失。消除数字鸿沟的思考加强教育与培训社会可通过开展针对弱势群体的人工智能知识培训课程，帮助他们熟悉智能设备与应用，提升数字技能。优化产品设计企业在设计人工智能产品时，应充分考虑弱势群体的需求，简化操作流程，提高产品的易用性。完善社会支持体系社区、公益组织等应提供更多帮助，如设立咨询点、志愿者帮扶等，协助弱势群体融入数字生活。政策引导与保障政府出台相关政策，引导资源向弱势群体倾斜，保障他们平等享受科技成果的权利。THEEND谢谢6.3人工智能的

行业标准体系和岗位主讲人：***CONTENTS目录01人工智能行业标准的重要性02中国人工智能行业标准体系03人工智能新职业及新岗位04北京人工智能标准化研究院05人工智能的应用与职业成长06知识总结人工智能行业标准的重要性01标准对人工智能产业的意义完善产业体系需要不断完善人工智能产业的标准体系，让产业发展有“规矩”，通过标准的约束作用，实现对产业高质量发展的倒逼，推动人工智能产业发展。降低成本定标准能大大降低前期试错成本和重复性资源投入。促进产业合作标准能强化产业上下游合作，建立生态协调，给上下游企业开创新机遇，让新产业有序发展。创造岗位标准体系的完善能为社会提供更多的新岗位。AI大模型回答的问题示例事实性错误回答询问AI大模型“人类在哪年登上月球”，尽管其处理了大量文本数据，但因对“登上”“月球”等词汇理解有歧义，可能生成错误回答，如“人类首次登上月球是在1985年”。虚构内容回答询问AI大模型“最近有哪些关于环保的新政策”，它迅速回答一系列看似合理详细的政策，其中却有一个是完全虚构编造的，表述方式有逻辑且有说服力，难让人第一时间怀疑其真实性。AI对话系统标准缺失的影响应用水平参差不齐AI对话系统标准缺失，造成其在应用中呈现出水平参差不齐的现状。评价体系不一标准缺失导致AI对话系统评价体系不一，业界因认知不统一而对人工智能交互水平出现误解。引发社会讨论AI对话系统标准缺失引起了社会上关于意识、伦理、道德等方面的广泛讨论。全球首个《AI对话系统分级定义》发起者2022年由清华大学计算机教授、智能技术与系统实验室副主任黄民烈发起。参与机构联合了十余家科研机构、二十多位知名学者共同制定。发布情况该定义正式发布。中国人工智能行业标准体系02《国家人工智能产业综合标准化体系建设指南》发布时间中国工信部于2024年7月2日对外发布《国家人工智能产业综合标准化体系建设指南》。发布背景近年来，中国人工智能产业在技术创新、产品创造和行业应用等方面快速发展，形成庞大市场规模。伴随以大模型为代表的新技术加速迭代，人工智能产业呈现创新技术群体突破、行业应用融合发展、国际合作深度协同等新特点。目的与紧迫性目的是推动人工智能产业高质量发展的标准体系加快形成。由于产业发展的新特点，完善人工智能产业标准体系变得十分紧迫。总体要求‌指导思想‌：全面贯彻党的十九大和十九届二中、三中、四中全会精神，落实党中央、国务院关于发展新一代人工智能的决策部署。坚持市场驱动和政府引导相结合，按照“统筹规划、分类施策、市场驱动、急用先行、跨界融合、协同推进、自主创新、开放合作”的原则，立足国内需求，兼顾国际，建立国家新一代人工智能标准体系，加强标准顶层设计与宏观指导‌。‌建设目标‌：到2021年，明确人工智能标准化顶层设计，研究标准体系建设和标准研制的总体规则，完成关键通用技术、关键领域技术、伦理等20项以上重点标准的预研工作。到2023年，初步建立人工智能标准体系，重点研制数据、算法、系统、服务等重点急需标准，并在制造、交通、金融、安防、家居、养老、环保、教育、医疗健康、司法等重点行业和领域进行推进。建设人工智能标准试验验证平台，提供公共服务能力‌。‌建设思路‌：人工智能标准体系结构包括基础共性、支撑技术与产品、基础软硬件平台、关键通用技术、关键领域技术、产品与服务、行业应用、安全/伦理等八个部分。基础共性标准包括术语定义、测试评估、参考架构、运营运维管理、开源开放等标准，旨在规范人工智能相关技术、应用的概念定义和测试评估方法‌。‌具体标准制定计划‌：2025年拟制定标准包括术语定义、测试评估等。术语定义方面，将制定人工智能新技术、新应用、新业态相关术语标准，人工智能产业边界界定相关标准，以及人工智能企业认定相关标准。测试评估方面，针对关键基础技术类，拟制定规范智算等相关标准‌。标准体系框架框架相关说明文档提及了人工智能标准体系框架，但未对其具体内容进行详细介绍。人工智能新职业及新岗位03人工智能领域数字新职业人工智能工程技术人员人力资源和社会保障部发布的人工智能领域数字新职业之一，专注于人工智能相关工程技术的研发与应用。人工智能训练师同样是该领域数字新职业，负责对人工智能模型进行训练，提升其性能和准确性。生成式人工智能系统应用员产生背景人工智能大模型持续迭代升级，生成式人工智能掀起科技浪潮，促使该新职业应运而生。行业需求各行各业都急需生成式人工智能应用赋能，对生成式人工智能系统应用员的需求增大。2024年新职业和新工种新职业和新工种公布2024年7月31日，人力资源和社会保障部公布了最新一批19个新职业和28个新工种。与新质生产力的关联此次发布的19个新职业，半数以上与新质生产力相关，如生成式人工智能系统应用员、智能网联汽车测试员等。我国数字化人才缺口人才缺口现状我国数字化人才缺口在2500万人至3000万人左右，且还在不断扩大。相关培养方案今年人力资源和社会保障部等九部门发布了《加快数字人才培育支撑数字经济发展行动方案（2024—2026年）》，明确用3年左右时间，培养大批高水平数字工程师和高技能人才。人工智能产业各方向主要岗位01主要方向围绕物联网、智能芯片、机器学习、深度学习、智能语音、自然语言处理、计算机视觉、知识图谱、服务机器人等9个方向。02岗位能力说明对相应人才的岗位能力进行了说明（见附录）。北京人工智能标准化研究院04研究院揭牌成立揭牌时间2024年8月25日，在2024世界机器人大会人工智能赋能未来产业与组织发展论坛上，北京人工智能标准化研究院揭牌成立。揭牌地点北京人工智能标准化研究院落地北京经济技术开发区。成立背景人工智能产业发展需要完善的标准体系，当前人工智能领域存在标准缺失、不统一等问题，在此背景下成立该研究院。全链条标准化研究领域前沿关键技术研究研究院围绕人工智能前沿关键技术开展研究，为产业发展提供技术支撑。行业场景应用研究聚焦行业场景应用，解决实际应用中的标准问题，推动人工智能在各行业的落地。风险防范治理研究针对人工智能技术发展带来的潜在风险，开展风险防范治理方面的标准研究。基础支撑和关键技术标准研究算力标准研究研究院开展算力方面的标准研究，确保人工智能系统有足够且合理的算力支持。算法标准研究对算法进行标准研究，规范算法的设计、使用和评估，提高算法的质量和效率。数据标准研究进行数据方面的标准研究，保障数据的质量、安全和合规性，为人工智能提供可靠的数据基础。潜在社会治理风险标准研究社会治理风险标准研究针对人工智能技术发展带来的潜在社会治理风险开展标准研究，确保人工智能的应用符合社会治理要求。伦理标准研究开展伦理方面的标准研究，解决