人工智能通识教育 课件 模块7 人工智能与社会

人工智能通识教育模块1初识人工智能目

录模块2人工智能支撑运作平台模块3人工智能关键技术模块4人工智能应用（一）模块5人工智能应用（二）模块6人工智能前沿模块7人工智能与社会模块7结构：单元1人工智能改变人类工作单元2未来新的工作机会单元3人工智能时代需要的人才单元4人工智能安全与评估单元5人工智能的伦理与隐私

模块7人工智能与社会学习目标：深入了解人工智能给人类工作带来的改变。认识人工智能训练师这一新职业。了解人工智能给人类社会带来的安全、伦理及隐私等问题。

模块7人工智能与社会学习重点：人工智能对社会带来的冲击。人工智能训练师的工作内容以及需要具备的能力。单元1人工智能改变人类工作

模块7人工智能与社会7.1.1工作岗位的替代随着人工智能技术的不断发展，越来越多的工作岗位面临着被替代的风险。一些重复性、规律性强的工作最容易被人工智能替代。模块7人工智能与社会模块7人工智能与社会7.1.2工作方式的改变一方面，人工智能使得工作更加高效和精准。在制造业中，自动化生产线和机器人的应用，使得生产过程更加标准化和高效化。另一方面，人工智能促进了远程办公和协作的发展，打破了时间和空间的限制。此外，人工智能还为个性化工作提供了可能，提高员工的工作满意度和绩效。单元2

未来新的工作机会

模块7人工智能与社会新的工作机会数据科学家机器学习工程师自然语言处理工程师算法工程师人工智能运维工程师数据标注员AI硬件专家数据保护专家模块7人工智能与社会人工智能训练师的定义由阿里巴巴集团率先提出，其被形象地称作“机器人饲养员”。这也是人工智能技术广泛应用所带来的首个非技术类新职位，是人工智能与专业应用相结合的新岗位。人工智能训练师是指运用智能训练软件，在人工智能产品实际使用过程中负责数据库管理、算法参数设置、人机交互设计、性能测试跟踪以及其他辅助作业的人员。模块7人工智能与社会人工智能训练师标注和加工图片、文字、语音等业务的原始数据设计人工智能产品的交互流程和应用解决方案分析提炼专业领域特征，训练和评测人工智能产品相关算法、功能和性能监控、分析、管理人工智能产品应用数据调整、优化人工智能产品参数和配置模块7人工智能与社会模块7人工智能与社会生成式人工智能系统应用员开发设计生成式人工智能系统整体架构，制定生成策略调用不同生成式人工智能模型或应用开发接口，生成文本、图像、视频等内容收集、处理和标注数据，训练不同应用场景中的生成式人工智能模型根据实际需求改进算法或引入新技术，优化生成式人工智能系统的性能和效率在实际应用场景中部署训练和优化后的生成式人工智能系统单元3

人工智能时代需要的人才模块7人工智能与社会人工智能已经走进我们的生产和生活，成为推动社会进步最重要的力量。人工智能大力发展，正在逐步取代很多传统岗位。所以要想不被时代淘汰，就必须终身学习，不断研究并掌握新的技能，不断前进，才会有更好的生活。模块7人工智能与社会7.3.1跨学科知识计算机科学为人工智能提供算法和编程基础数学和统计学在数据分析和模型构建中起着关键作用心理学有助于理解人类认知和行为，为人工智能的人机交互设计提供依据哲学思考人工智能的伦理和道德问题模块7人工智能与社会7.3.2创新能力在人工智能时代，创新能力成为人才的核心竞争力。一方面，人工智能技术本身就是创新的产物，其发展离不开持续的创新。另一方面，人工智能的应用场景日益广泛，需要创新能力来开拓新的领域和解决新的问题。创新能力的培养不仅需要个人的努力，也需要社会的支持。政府可以加大对科技创新的投入，制定鼓励创新的政策，为创新人才提供良好的发展环境。同时，企业也应重视创新人才的培养和激励，建立创新奖励机制，激发员工的创新热情。模块7人工智能与社会7.3.3实践能力在人工智能时代，实践能力是人才不可或缺的关键素养。实践能力在人工智能领域的重要性日益凸显。首先，人工智能的算法和模型需要通过大量的实践数据进行训练和优化。其次，实践能力有助于人才更好地理解和解决实际问题。在人工智能的应用场景中，往往会面临各种复杂的现实情况。只有具备丰富实践经验的人才，才能迅速准确地分析问题，并提出有效的解决方案。单元4人工智能安全和评估模块7人工智能与社会7.4.1人工智能的安全问题1．数据安全数据作为人工智能的核心要素，其安全性至关重要且面临诸多挑战。AI系统的高效运行依赖于大量的数据进行训练和学习，这些数据涵盖了各个领域，从医疗记录到金融交易信息，从用户的行为习惯到企业的生产数据等。一旦数据被泄露或篡改，将会引发一系列严重的后果。模块7人工智能与社会2．算法安全算法作为AI系统的灵魂，其安全性也是至关重要的。一些恶意攻击者可能会出于各种目的，通过篡改算法的参数或结构，使AI系统产生错误的决策。在金融风险预测系统中，如果算法被破坏，可能会导致对金融市场风险的错误评估。在智能安防系统中，如果算法的安全性得不到保障，可能会导致系统无法准确识别危险情况或误判正常行为为危险行为。模块7人工智能与社会7.4.2人工智能的安全评估标准《生成式人工智能应用安全测试标准》《大语言模型安全测试方法》《生成式人工智能应用安全测试标准》《大语言模型安全测试方法》国内：国际：《生成式人工智能服务管理办法（征求意见稿）》单元5

人工智能的伦理与隐私模块7人工智能与社会7.5.1人工智能引发的伦理问题伦理问题隐私问题认知能力的“军备竞赛”责任划分模块7人工智能与社会人工智能引发的伦理问题复杂多样，需要高度重视，并采取有效的措施来加以解决。我国先后发布《全球数据安全倡议》《全球人工智能治理倡议》等文件，为相关国际讨论和规则制定提供了有益借鉴。2024年3月首届“AI善治论坛”会议发布了《中华人民共和国人工智能法（学者建议稿）》。2024年9月，全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版，明确提出了“包容审慎”“风险导向”“技术与管理结合”“开放合作”四大核心原则。模块7人工智能与社会7.5.2人工智能时代的隐私保护首先，提高个人隐私保护意