人工智能通识教育 课件 模块7 人工智能与社会

人工智能通识教育目模块1初识人工智能模块3人工智能关键技术模块5人工智能应用(二)模块7人工智能与社会录模块2人工智能支撑运作平台模块4人工智能应用(一)模块6人工智能前沿模块7人工智能与社会手

模块7结构：单元1人工智能改变人类工作单元2未来新的工作机会单元3人工智能时代需要的人才单元4人工智能安全与评估单元5人工智能的伦理与隐私学习目标：√

深入了解人工智能给人类工作带来的改变。√

认识人工智能训练师这一新职业。√

了解人工智能给人类社会带来的安全、伦理及隐私等问题。学

习重

点

：√

人工智能对社会带来的冲击。√

人工智能训练师的工作内容以及需要具备的能力。模块7

人工智能与社会模块7人工智能与社会单元1人工智能改变人类工作7.1.1

工作岗位的替代随着人工智能技术的不断发展，越来越多的工作岗位面临着被替代的风险。一些重复性、规律性强的工作最容易被人工智能替代。模块7人工智能与社会工作消失概率前十名材料和木料机操作工96.5%装配工和常规程序操作工96.7%财务类行政人员96.9%银行或邮局职员97.1%簿记员、票据管理员或工资结算员97.3%流水线质检员97.5%常规程序检查员和测试员97.7%过秤员、评级员或分类员97.9%打字员或相关键盘工作者98.1%电话销售员/市场98.3%工作消失概率后十名人工智能科学家0.1%创业者0.1%心理学家0.1%宗教教职人员0.1%酒店与住宿经理或业主0.1%首席执行官0.1%首席营销官0.1%卫生服务与公共卫生管理或主管0.1%教育机构高级专家0.1%特殊教育教师0.1%模块7人工智能与社会7.1.2

工作方式的改变一方面，人工智能使得工作更加高效和精准。在制造业中，自动化生产线和机器人的应用，使得生产过程更加标准化和高效化。另一方面，人工智能促进了远程办公和协作的发展，打破了时间和空间

的限制

。此外，人工智能还为个性化工作提供了可能，提高员工的工作满意度和绩效

。单元2未来新的工作机会数据科学

家数据保护专家数据标注员

人工智能

运维工程师模块7人工智能与社会自然语言处理工程师新的工作机会算法工程

师AI硬件专

家机器学习

工程师模块7人工智能与社会人工智能训练师的定义由阿里巴巴集团率先提出，其被形象地称作“机器人饲养员”。这也是人工智能技术广泛应用所带来的首

个非技术类新职位，是人工智能与专业应用相结合的新岗位。人工智能训练师是指运用智能训练软件，在人工智能产品实际

使用过程中负责数据库管理、算法参数设置、人机交互设计、性能

测试跟踪以及其他辅助作业的人员。标注和加工图片、文字、语音等业务的原始数据设计人工智能产品的交互流程和应用解决方案分析提炼专业领域特征，训练和评测人工智能产品相关算法、功能和性能监控、分析、管理人工智能产品应用数据调整、优化人工智能产品参数和配置模块7人工智能与社会人

工

智

能训练师模块7人工智能与社会新增职业1.智能制造工程技术人员

9.全媒体运营师2.工业互联网工程技术人员10.

健康照护师3.虚拟现实工程技术人员

11.

呼吸治疗师4.连锁经营管理师

12.

出生缺陷防控咨询师5

.供应链管理师

13

.康复辅助技术咨询师6.网约配送员

14.

无人机装调工7.

人工智能训练师

15.

高铁铁路综合维修工8.电气电子产品环保检测员

16.

装配式建筑施工员2024年人社部新公布19个职业生物工程技术人员口腔卫生师

网络安全等级保护测评师云网智能运维员

生成式人工智能系统应用员工业互联网运维员智能网联汽车测试员

有色金属现货交易员

用户增长运营师布展搭建师

文创产品策划运营师储能电站运维管理员电能质量管理员

版权经纪人

网络主播滑雪巡救员氢基直接还原炼铁工

智能制造系统运维员智能网联汽车装调运维开发设计生成式人工智能系统整体架构，制定生成策略生成式人工智能系统应用员调用不同生成式人工智能模型或应用开发接口，生成文本、图像、视频等内容收集、处理和标注数据，训练不同应用场景中的生成式人工智能模型根据实际需求改进算法或引入新技术，优化生成式人工智能系统的性能和效率在实际应用场景中部署训练和优化后的生成式人工智能系统模块7人工智能与社会模块7人工智能与社会单元3人工智能时代需要的人才人工智能已经走进我们的生产和生活，成为推动社会进步最重要的力量。人工智能大力发展，正在逐步取代很多传统岗位。所以要想不被时代淘汰，就必须终身学习，不断研究并掌握新的技能，不断前进，才

会有更好的生活。模块7人工智能与社会7.3.1

跨学科知识在数据分析和模型构建中起着关键作用思考人工智能的伦理和道德问题有助于理解人类认知和行为，为人工智能的人机交互设计提供依据为人工智能提供算法和编程基础计算机科学数学和统计学心理学哲学模块7人工智能与社会7.3.2

创新能力在人工智能时代，创新能力成为人才的核心竞争力。一方面，人工智能技术本身就是创新的产物，其发展离不开持续的创新。

另一方面，人工智能的应用场景日益广泛，需要创新能力来开拓新的领域和解决新的问题。创新能力的培养不仅需要个人的努力，也需要社会的支持。政府可以加大

对科技创新的投入，制定鼓励创新的政策，为创新人才提供良好的发展环境。同时，企业也应重视创新人才的培养和激励，建立创新奖励机制，激发员工的

创新热情。模块7人工智能与社会7.3.3

实践能力在人工智能时代，实践能力是人才不可或缺的关键素养。实践能力在人工智能领域的重要性日益凸显。首先，人工智能的算法和模型需要通过大量的实践数据进行训练和优化。其次，实践能力有助于人才更好地理解和解决实际问题。在人工智能的应

用场景中，往往会面临各种复杂的现实情况。只有具备丰富实践经验的人才，

才能迅速准确地分析问题，并提出有效的解决方案。模块7人工智能与社会单元4人工智能安全和评估7.4.1

人工智能的安全问题1.

数据安全数据作为人工智能的核心要素，其安全性至关重要且面临诸多挑战。AI系统的高效运行依赖于大量的数据进行训练和学习，这些数据涵盖了各个

领域，从医疗记录到金融交易信息，从用户的行为习惯到企业的生产数据等

。一旦数据被泄露或篡改，将会引发一系列严重的后果。模块7人工智能与社会2.

算法安全算法作为AI系统的灵魂，其安全性也是至关重要的。

一些恶意攻击者可能会出于各种目的，通过篡改算法的参数或结构，使AI系统产生错误的决

策。在金融风险预测系统中，如果算法被破坏，可能会导致对金融市场风险的错误评估。在智能安防系统中，如果算法的安全性得不到保障，可能会导致系统无法准确识别危险情况或误判正常行为为危险行为。国

内

：《大语言模型安全测试方法》《大语言模型安全测试方法》国际

：《生成式人工智能应用安全测试标准

》《生成式人工智能应用安全测试标准》模块7人工智能与社会7.4.2

人工智能的安全评估标准《生成式人工智能服务管理

办法(征求意

见稿)》模块7人工智能与社会单元5人工智能的伦理与隐私7.5.1

人工智能引发的伦理问题隐私问题伦理问题责任划分认知能力的“军备

竞

赛

”模块7人工智能与社会人工智能引发的伦理问题复杂多样，需要高度重视，并采取有效的措施来加以解决。我国先后发布《全球数据安全倡议》《全球人工智能治理倡议》等文件，

为相关国际讨论和规则制定提供了有益借鉴。2024年3月首届“AI善治论坛”会议发布了《中华人民共和国人工智能法(

学者建议稿)》。2024年9月，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版，明确提出了“包容审慎”

“风险导向”“技术与管理结合”

“开放合