人工智能通识（AIGC版） 导学-课后思考-参考答案

导学-课后思考-参考答案通过查询资料，从人工智能安全风险的角度，查找和归纳2-3个涉及“隐私泄露”的典型案例，并简要讨论应对措施。案例一：AI陪伴应用“裸奔”，数千万条私密对话暴露这起事件涉及两款名为ChatteeChat和GiMeChat的AI陪伴应用。其核心问题在于，负责处理和存储所有用户数据的KafkaBroker数据库实例，竟然没有任何密码或身份验证保护，导致数千万条包含情感倾诉和私人信息的聊天记录完全“裸奔”在互联网上。虽然直接的身份信息未泄露，但暴露的IP地址和设备识别码，很可能被不法分子通过技术手段关联到真实个人，进而实施精准诈骗或勒索。此外，部分用户为虚拟伴侣充值了巨额资金，泄露的账户认证令牌也带来了直接的财产被盗风险。应对措施与启示：对开发者而言：必须将安全措施视为生命线。对数据库启用强身份验证、严格限制访问IP、并对传输和存储的数据进行加密，是绝对必要的底线要求。对用户而言：在使用此类高度涉及隐私的AI应用时，应保持警惕，避免分享过于敏感的个人信息，并关注应用开发者的安全声誉。案例二：ChatGPT分享功能漏洞，私密对话被搜索引擎公开2025年中，安全研究人员发现，大量ChatGPT用户的私密对话记录竟然可以被Google等搜索引擎直接搜到。原因在于一项“分享对话”的功能——用户生成分享链接后，如果勾选了“允许搜索引擎索引”，其对话就可能进入公开网络。许多用户并未充分理解这一选项的后果，导致包括医疗咨询、法律建议、甚至涉及商业机密和犯罪自白的对话被意外公开。尽管OpenAI事后紧急移除了该功能，但已有大量数据被网络存档工具保存，造成了无法挽回的隐私泄露。应对措施与启示：对平台而言：在产品设计上，必须追求极致的用户友好和风险提示。对于可能引起重大隐私风险的功能，应采用默认关闭的策略，并通过清晰的语言明确告知用户潜在后果。对用户而言：在使用任何具有分享功能的在线服务时，务必仔细阅读关于隐私和公开范围的说明，不要随意勾选不理解的选项。案例三：利用“AI换脸”技术，突破人脸识别窃取信息这是一起典型的技术被恶意使用的案例。犯罪团伙通过境外平台招揽生意，接单后，他们利用获取到的受害者身份证照片和姓名，通过AI深度伪造技术生成动态的、可完成眨眼和转头动作的伪造人脸视频，从而骗过了多个互联网平台的人脸识别认证系统，非法登录受害者账号并窃取其中的全部信息。此案揭示了双重风险：一是过去各类信息泄露事件导致大量“姓名+身份证号+人脸照片”数据在黑市流通；二是AI技术的普及降低了伪造生物特征的门槛，使得传统人脸识别认证的可靠性受到挑战。应对措施与启示：对平台而言：需要升级和采用多因素认证，不能仅依赖人脸识别这一单一手段。同时，应投入研发检测AI伪造和活体攻击的高级安全算法。对用户而言：要谨慎在社交媒体上传包含清晰正脸的照片和视频，定期检查重要账户的登录设备记录，发现异常立即处理。如何防范AI时代的隐私风险综合以上案例，无论是企业还是个人，都需要建立新的安全观念：企业应遵循“隐私-by-design”原则：在产品和服务的开发设计阶段，就将数据保护和隐私安全作为核心要素融入其中，而非事后补救。个人应提升数字素养：了解基本的数据安全知识，对授权个人信息保持谨慎，并善用法律武器——《个人信息保护法》等法规已为我们的隐私权提供了强有力的法律保障。希望以上信息能帮助你更全面地理解AI隐私安全。如果你对某个特定类型应用的隐私保护措施特别感兴趣，我可以提供更具体的分析。（没有标准答案，相关即为正确。）通过查询资料，从人工智能安全风险的角度，查找和归纳2-3个涉及“智能鸿沟”的典型案例，并简要讨论应对措施。

案例一：区域发展的“算力鸿沟”对于欠发达地区而言，智能鸿沟最直接的体现就是算力资源的高度集中化。研究表明，高质量的算力、数据集以及核心算法专利，大量集中于技术先发的发达地区和头部企业。例如，全球约40%的人工智能核心技术研发集中在中美两国。这种资源分配的“硬性鸿沟”带来了显著的发展困境。由于算力基础设施短缺、技术基础薄弱，欠发达地区在人工智能的应用部署和持续运营上面临严峻挑战。例如，网络带宽不足、高延迟及不稳定的电力供应，都可能制约人工智能的有效部署。这导致这些地区难以利用AI技术促进产业升级、改善公共服务，甚至在教育、医疗等关键领域的智能化应用也滞后，加剧了区域间的发展不均衡。应对措施与启示：打造普惠技术生态：鼓励研发轻量化模型和分布式计算技术，以降低对算力基础设施的依赖，使AI系统能在资源受限的环境中高效运行。建设分层算力网络：构建区域协同的算力网络，推动算力资源的合理布局与共享，帮助欠发达地区弥补基础设施短板。发挥后发优势：欠发达地区可通过对口支援等区域互助模式，快速吸收企业数字化转型、数字治理等领域的先进经验。案例二：老年群体的“应用鸿沟”当AI深度嵌入日常生活，老年人在技术使用上的“应用鸿沟”便凸显出来。面对功能复杂的智能手机和各类AI应用，许多老年人感到无从下手，这不仅给他们带来困扰和孤独，甚至可能导致其被排斥在数字社会之外。这一问题在杭州市拱墅区和深圳市南山区的实践中得到了积极应对。这两个地区的共同经验表明，弥合“应用鸿沟”的关键在于提供适配的教学和贴心的服务。应对措施与启示：开展场景化教学：摒弃复杂的理论，专注于老年人的真实生活需求。例如，拱墅区的“AI+银发乐龄”项目课程设计结合老年人生活中遇到的痛点，手把手教学。南山区福利中心的“智在指尖老年AI课堂”则通过AI识图、老照片修复、生成人生故事等场景，让技术融入老人日常，成为情感载体。构建支持体系：拱墅区科协深入实施“银龄跨越数字鸿沟”专项行动，着力构建全龄段科学素养提升体系。南山区则探索“以老助老”的模式，让掌握技能的老年人帮助更多同龄人。注重安全防护：南山的AI课堂专门增设“AI防诈实训”模块，通过模拟AI换脸、仿冒语音等骗局，手把手教老人识别技术陷阱，并传授“不轻信陌生AI来电、不随意授权人脸信息、不点击不明链接”的“三不原则”，为老年人筑牢安全用网防线。

案例三：治理体系的“整合鸿沟”在推进社会治理智能化（社会智治）的过程中，不少地方陷入了“整合鸿沟”。这指的是智能技术与既有治理体系未能深度融合，仅仅作为“外挂工具”简单叠加于原有流程之上。例如，为解决群众诉求而上线“随手拍”App，为提升管理效能加装人脸识别摄像头。这些举措初期或有成效，但其局限日益显现：技术与治理目标脱节，重数据采集轻问题解决；各部门系统各自为政，数据壁垒森严，反而加剧治理碎片化。应对措施与启示：

真正的社会智治，并非将技术作为外部工具“嫁接”到治理体系上，而是要实现技术系统与治理体系的内生融合。具体而言：构建可知、可控、可问责、可参与的治理闭环：可知：智能系统的决策依据、数据来源、算法逻辑应对相关主体保持适度透明，可通过决策树可视化等技术让公众理解决策依据。可控：在涉及人身自由、重大财产权益等场景，必须设置“人工复核”环节，确保最终决策权掌握在人手中。可问责：建立清晰的责任链条，通过算法备案、审计等制度，明确技术开发者、数据管理者、决策执行者的权责边界。可参与：使公众能通过数字协商平台、算法听证会等形式，实质性地参与规则制定与系统优化。推动“轻量化、适老化、无障碍化”的智能终端与界面设计，确保技术红利能惠及包括老年人、残障人士在内的全体居民。总结与共性应对策略以上案例揭示了智能鸿沟的不同侧面：它既是基础设施与资源分配的“硬性鸿沟”，也表现为技术应用能力的“软性鸿沟”，以及制度设计与整合的“结构性鸿沟”。为系统性弥合鸿沟，可参考以下策略：应对方向具体措施打造普惠技术生态推动数据、算法、模型等资源的开放共享；研发轻量化模型与边缘计算技术。加强能力培育与建设在全球范围内推动人工智能教育协作，加强人才交流与培训项目；构建梯度化数字技能培育体系与本地AI人才“造血”机制。完善制度与治理框架推动形成共商共建共享的全球治理格局；完善数据治理法规，明确权责，破除“数据孤岛”。（没有标准答案，相关即为正确。）3）通过查询资料，查找国内不同省份或者地区在人工智能伦理应对方面的政策或者法规，并简要讨论它们的作用和意义。国内多个省市已积极出台人工智能伦理相关的政策法规，旨在引导技术健康有序发展。以下表格汇总了不同地区的代表性举措及其核心要点。地区政策/法规名称核心要点作用与意义国家层面《人工智能科技伦理管理服务办法（试行）（征求意见稿）》规范AI科技伦理治理，明确伦理要求，强化标准建设与中小企业服务。为全国AI伦理治理提供框架性指导，统筹发展与安全，促进负责任创新。北京市《关于加强科技伦理治理的实施意见（试行）》健全科技伦理工作体系，并专门提出将制定人工智能领域的科技伦理规范和标准。依托科创中心优势，探索符合地方实际的精细化伦理治理路径，为其他地区提供参考。上海市徐汇区《生成式人工智能刑事案件电子数据取证与审查指引》针对生成式AI犯罪，系统构建电子数据取证与审查规范，破解"算法黑箱"难题。在司法实践层面填补了取证空白，提升了打击AI新型犯罪的能力，推动"技术+法律"协同治理。广东省《关于以高质量知识产权审判工作促进人工智能科技创新和产业发展的意见》构建"创新链—产业链—法治链"三链贯通保护机制，明确AI知识产权审判基本原则。通过司法审判保护AI创新成果，为产业提供稳定、透明、可预期的法治环境，促进公平竞争。浙江省《浙江省推进"人工智能+教育"行动方案（2025—2029年）》在教育领域应用AI时，强调坚持立德树人、公益普惠，并重视数据安全与隐私保护。在具体应用场景（教育）中践行伦理原则，推动技术赋能的同时保障公平和向善。四川省举办人工智能科技伦理专题培训面向项目承担单位和负责人，开展科技伦理政策解读、实务讲解与案例分析。提升一线科研人员和企业的伦理意识与风险防控能力，将治理要求落实到具体科技活动中。政策启示从以上案例可以看出，各地区的人工智能伦理治