人工基础智能 7

人工智能伦理导论·教学课件Chapter04人工智能算法伦理算法不透明·算法决策·算法背后的价值观学习导引第4章·人工智能算法伦理算法伦理：数据伦理的进一步深化数据伦理问题主要由大数据技术应用而产生，算法伦理问题则是因人工智能算法与大数据结合使用——尤其是深度学习算法与大数据结合并大规模应用——而产生的。算法伦理主要涉及算法不透明（黑箱）、算法模型及算法决策等方面的问题。本质问题要注意理解算法伦理背后的本质：功利主义的人类价值观在算法中以何种方式体现。算法智能本身并不具有自主性，也不会有伦理道德观念。问题根源人类如何使用算法分析大数据，才是算法伦理问题产生的根源。算法不会主动继承人类在漫长社会实践中形成的价值观。人工智能伦理导论·教学课件2/28本章目录Contents4.1计算与算法计算的本质·算法的定义与广泛社会影响4.2机器学习与深度学习机器学习本质·从神经网络到深度学习·Transformer与黑箱（图4.1-4.4）4.3人工智能算法伦理问题偏见·歧视·滥用·控制·自主性风险·信任危机·安全隐患·责任归属·认知影响4.4算法伦理问题的产生根源训练数据不均衡（图4.6）·

深度学习"黑箱"特性4.5算法伦理问题的应对措施技术·政策与监管·教育与社会·企业责任人工智能伦理导论·教学课件3/2801计算与算法计算：20世纪30年代才被真正理解的古老概念算法：符号串变换的规则，计算机即算法机器智能算法广泛嵌入社会生活：便利与钳制并存4.1计算的本质：符号串的变换4.1计算与算法1930年代：计算本质的突破人类很早就学会加减乘除，但直到20世纪30年代，由于哥德尔、丘奇和图灵等先驱的工作，人们才对计算的本质有了清晰理解，形成了数学分支递归论与可计算性理论，并因此导致计算机科学的诞生。定义：计算=符号串的变换从一个符号串开始，按照一定规则一步步改变符号串，经过有限步骤，最后得到满足预先规定的符号串。例如1+1→2就是加法计算；数学定理证明、计算机文字翻译等也都是计算。数学家已证明：凡可计算的函数都是一般递归函数。教学要点："计算"看似基础，实则深刻——正是对计算本质的严格刻画，为后来一切算法与人工智能奠定了理论基石。人工智能伦理导论·教学课件5/284.1算法：定义与社会影响4.1计算与算法什么是算法算法是求解某类问题的通用法则或方法，即符号串变换的规则。通俗地说，算法是用计算机程序实现的、基于数据分析、面向特定目标的一套指令或方案。计算机基本上就是算法机器：不断存储和读取数据，以受控方式将程序应用于数据，并将运算结果输出。判断：智能算法的广泛使用在人类历史上前所未有，由此带来的挑战和风险必须引起重视——算法产生的伦理问题是人工智能伦理的核心议题。算法已嵌入社会各环节·电商平台：个性化推荐、内容推荐、数字内容分发·金融信贷决策算法、汽车自动驾驶算法·个人健康监测算法便利的另一面：钳制从个人角度：在享受算法便利的同时，生活、工作是否会受到算法的钳制，也是需要注意的问题。人工智能伦理导论·教学课件6/2802机器学习与深度学习机器学习：从经验数据中统计出模型（图4.1）从前向神经网络到深度神经网络（图4.2-4.3）Transformer与深度学习的"黑箱"困境（图4.4）4.2机器学习的本质4.2机器学习与深度学习定义与目的机器学习是在经验学习中自动改善具体算法性能的人工智能分支。基本目的是使用算法解析数据、从中学习，然后对真实世界中的事件做出决策和预测。现代人工智能的核心理念将人的操作或思维过程的输入与输出记录下来，统计（训练）出一个模型对新数据进行预测，使模型的输入输出达到和人类相似的表现。图4.1机器学习与人类学习的类比要点：深度学习需要使用大量数据来"训练"，通过不同算法从数据中学习如何完成任务。人工智能伦理导论·教学课件8/284.2从神经网络到深度学习4.2机器学习与深度学习图4.2前向神经网络前向神经网络：起点与局限起源于人工智能三大流派之一的人工神经网络，由模拟人脑单个生物神经元的数学模型发展而来，可用于字体识别、图像识别和分类，但性能十分有限，不能处理大规模数据问题。2005年：深度神经网络结构更复杂、层数更多的新型机器学习方法，几乎颠覆了传统机器学习领域的技术格局和应用范式，在语音识别、图像识别、棋类博弈等方面取得重大突破。图4.3卷积深度神经网络：典型卷积深度神经网络用于识别图像的示意图人工智能伦理导论·教学课件9/284.2

Transformer与"黑箱"困境4.2机器学习与深度学习Transformer：超越传统的算法深度学习中的Transformer算法在人脸识别、机器翻译、语音识别等方面的应用超越了以往任何传统机器学习算法。基于深度学习的算法已广泛应用于医疗、司法、金融、交通、文学、艺术等领域。⚠黑箱困境深度神经网络的内部学习过程和机制目前还处于"黑箱"之中，人类还不能完全理解——这为后续的算法伦理问题（不透明、信任危机、责任归属）埋下了伏笔。图4.4

Transformer算法模型人工智能伦理导论·教学课件10/2803人工智能算法伦理问题深度学习算法处理大数据时产生·数据伦理与算法伦理交织而更为复杂算法偏见算法歧视算法滥用算法控制自主性不确定风险算法信任危机算法安全隐患责任归属问题对认知能力的影响4.3.1算法偏见：产生与案例4.3算法伦理问题偏见的产生：往往是无意的人工智能决策可能对特定个人或群体产生不公正对待。研究人员、用户和管理层往往没有预见到偏见会出现，或没有意识到自己带有偏见。带有偏见的决策不仅影响个人，还影响整个群体——如某城市区域的所有人被定义为高风险安全隐患。判断：已有研究发现，建立在大数据之上的算法系统也会犯错、带有偏见——人工智能算法容易将人类偏好差异性放大为"偏见"。"数字不会说谎"的信念并不可靠。案例一：COMPAS再犯预测算法用于预测被告是否再犯并辅助量刑。研究发现：误报（预测再犯实际未犯）中黑人比例居多，漏报（预测不会再犯实际再犯）中白人比例居多——对黑人被告存在偏见。案例二：预测性警务预测城市特定区域犯罪概率并部署警力。人们担心其对贫困人口居住区和有色人种社区存在偏见，过度监控破坏信任，使犯罪预测变成自证预言。案例三：招聘与信贷偏见·某电商AI雇员系统用历史简历训练后给女性技术员简历评分较低，被迫关闭·金融贷款系统若只用高财产高教育群体数据训练，急贷用户会被认为无偿还能力而拒贷人工智能伦理导论·教学课件12/284.3.1算法偏见：来源与避免4.3算法伦理问题偏见出现在哪里偏见可能在软件设计、测试和应用的各个阶段出现：存在于算法、训练数据集、基于虚假相关性的决策、开发小组以及更广泛的社会中。如ImageNet数据大部分来自美国，会形成文化偏见；研发团队多为西方国家20-40岁白人男性，个人经验可能对其他群体产生负面影响。避免偏见之难删除种族等敏感特征后，算法会找替代变量（如邮政编码）——世间或许没有毫无偏见的算法。什么是完全的公正或公平？哲学家乃至整个社会都没有达成共识。数据集是人类选择的结果，从来都不是中立的。深层追问：偏见问题也是政治哲学问题以美国"肯定性行动"为例：通过积极区别对待弱势群体来消除偏见，这是否公正？正义是否应不偏不倚？民主政策应优先保护多数人还是少数人利益？谷歌搜索对女性数学教授的"偏见"是如实反映现实，还是应当优先排序以改变认知？——争论的实质是人们对正义和公平的不同看法。可行路径：建立多元背景的研发团队，更好地代表可能受算法影响的群体。人工智能伦理导论·教学课件13/284.3.2算法歧视：三类成因与现实案例4.3算法伦理问题人为造成的歧视人为原因使算法将歧视或偏见引入决策过程数据驱动造成的歧视原始训练数据存在偏见性，算法单纯挖掘数据背后的模式，输出类似人类偏见的结果机器自学习造成的歧视即便刻意避免输入敏感数据，机器仍会学习到数据的其他特征，将偏见引入决策算法应用造成的歧视·微软聊天机器人Tay与网民互动后成为"集性别歧视、种族歧视于一身"的系统·语音识别软件识别女性声音性能差（训练样本男性居多）·面部识别识别黑人面孔更难·银行信贷、医疗诊断、司法量刑、招聘淘汰——算法深度介入切身利益决策典型案例：Xsolla算法裁员2021年8月，俄罗斯在线支付公司Xsolla用算法解雇147名员工（近员工总数1/3），理由是算法判定其"不敬业、效率低下"。判断：处理AI的偏见不仅是技术问题，更是哲学问题——我们期望拥有怎样的社会，可以接受且公平的改变方式是什么。人工智能伦理导论·教学课件14/284.3.3/4.3.4算法滥用与算法控制4.3算法伦理问题算法滥用：目的/方式/范围偏差人脸识别本可提高治安水平，但用于"根据脸型判别犯罪潜质"即典型滥用。表现为：设计者出于经济利益操纵（诱导消费、致用户沉迷）、过度依赖算法（医疗读图致误诊）、将算法盲目拓展到未考虑的领域。评分机制的双刃剑：量化规则执行结果、激发自我约束，有价值；但评分权力可能侵犯隐私、压缩道德规范的作用空间，将私人空间统统纳入监管。算法控制：全程的、无形的算法管理的基础是人的数据化：用个人数据兑换服务便利已成普遍事实。"断数识人"、标签分类、精准推送、诱导需求——2018年YouTube被指推送极端主义与假新闻内容，算法潜移默化影响人的思维意识形态。经典案例：《外卖骑手，困在系统里》2020年9月特稿：系统从下单那秒起，在11万条路线规划中完成"万单对万人的秒级求解"，配送时间不断压缩——骑手只能超速以避免超时。多方推动下，外卖平台后来对算法进行了一系列优化调整，以平衡效率与骑手权益安全。人工智能伦理导论·教学课件15/284.3.5/4.3.6自主性风险与信任危机4.3算法伦理问题算法自主性→不确定风险算法在执行任务时一定程度上脱离人类监管自动给出结果。"AlphaGo"的深度学习算法对人类而言仍是黑箱——推广到其他领域存在不确定性。自主性算法本质上从相关性获取结果，而非必然如此的因果性。判断：自主性算法提供的服务总是存在不确定风险，可能造成生产安全隐患、财产和生命损失。信任危机的双重来源①算法不透明产生的不信任感；②

对算法产出的知识本身的不信任。医疗诊断需让医患理解建议依据；司法辅助量刑中被告和法官都有权知道决定如何做出。不透明还导致责任归属难题——出错时难以确定哪个环节出了问题。何为有效透明？技术透明≠逐步解释技术原理；简单公开源代码也不能提供有效透明度，反倒可能威胁数据隐私。方向：在系统行为和决策上实现有效透明，产生好结果的同时消除信任危机。人工智能伦理导论·教学课件16/284.3.7/4.3.8安全隐患与责任归属4.3算法伦理问题三类独特安全隐患·对抗性攻击：微小扰动即可欺骗模型——人眼难察觉的噪声可让模型把猫识别为飞机，自动驾驶中后果灾难性·鲁棒性不足：处理训练分布之外的输入时性能大幅下降·数据"投毒"：污染训练数据操纵模型行为，公开/众包数据训练尤其危险应对：对抗训练、模型蒸馏等防御机制＋严格安全审核与持续监控＋提高公众对其局限性的认识。责任归属：谁为AI的错误负责？四类可能的责任主体——程序员（无法预测学习后行为）、系统供应商（不了解具体使用）、最终用户（不理解工作原理）、AI系统本身（尚无法律人格，但可能需重新考虑）。自动驾驶事故：追车辆制造商、软件开发者还是车主？追责困难与制度回应黑箱特性＋自主演化（使用中不断学习，行为与部署时大不相同）＋多主体价值链（开发者/数据提供者/集成商/用户）使追责极难。专家提出"算法问责制"：明确责任框架与审计机制；甚至有主张为AI创建类似公司法人的新法律实体。人工智能伦理导论·教学课件17/284.3.9算法对人类认知能力的影响4.3算法伦理问题过滤器泡沫：认知平衡被打破推荐算法让用户只接触喜欢或认同的内容：①周围充满熟悉想法→视野狭窄、过度自信；②限制寻找解决方案的空间→限制创新性。若把信息选择权完全交给算法、每天等算法"投喂"，人会逐渐失去自主性与判断力。社交机器人：算法操控的社交媒体账号集群自动生产内容、易被操纵信息环境，引发的从众行为可能削弱人的决策能力，降低自主思考与创造性解决问题的认知能力。图4.5人类判断与算法推理在决策中的三种互动场景Moser三场景：A算法主导决策→道德被算法化；B人类控制决策、算法辅助；C人类判断与算法推理共同构成决策。人工智能伦理导论·教学课件18/2804算法伦理问题的产生根源根源一：算法训练数据不均衡——标注背后是人的价值选择（图4.6）根源二：深度学习"黑箱"特性——强大能力与不可解释性并存4.4.1根源一：训练数据不均衡4.4产生根源标注背后是人的价值选择对事物的分类（监督学习）依赖人类事先标注，标注建立在常识与专业知识之上，受主观认识能力、知识水平影响。即便"用数据说话"，也往往隐含人类的价值选择或意向。案例：谷歌"大猩猩"事件2015年谷歌应用错误将黑人识别为"大猩猩"并道歉。两年后媒体发现，其"解决方案"是审查并屏蔽"大猩猩""黑猩猩""猴子"等词汇——回避而非真正修复偏见。判断："深度学习＋大数据＋超级算力"模式下训练数据可能不均衡；与生物属性、社会属性等敏感数据关联时，就会产生偏见、歧视、隐私泄露等问题。图4.6机器学习过程要点：机器学习过程中没有哪个环节可完全脱离人类参与——采集、筛选、标注、初始算法编写、集成部署调试，每一环节都存在潜在伦理风险。人工智能伦理导论·教学课件20/284.4.2根源二：深度学习"黑箱"特性4.4产生根源无实体，影响更大无实体的深度学习算法广泛应用于数据分析、决策支持、个性化推荐，其潜在影响可能比有实体的机器人更大——影响新闻阅读偏好、社交互动，进而影响公众意见与社会行为。回音室效应与社会分裂个性化推送形成"回音室效应"：相似观点不断强化、不同声音被排除；算法通过强化已有偏好分隔社会群体、加剧社会分裂。数据驱动＋黑箱决策：海量数据训练带来隐私问题，模型可能继承训练数据中的偏见——训练数据以特定群体为主时，处理其他群体表现不佳；医疗诊断、金融风险评估等关键领域决策过程难以解释。自主性＋泛化滥用：训练完成后模型自主决策，面对训练数据中未出现的情况可能出错；强大泛化能力增加被滥用风险——人脸识别技术可能被用于非法监视。人工智能伦理导论·教学课件21/2805算法伦理问题的应对措施技术层面政策与监管层面教育与社会层面企业责任4.5.1应对措施：技术层面4.5应对措施公平性感知学习在模型训练中引入公平性约束，或在数据预处理阶段平衡不同群体的表示——减少模型偏见的关键。可解释性增强注意力机制让模型"关注点"可见；LIME（局部可解释模型无关解释）为单个预测提供局部解释。隐私保护技术差分隐私：分析中添加适量噪声保护个体；联邦学习：不共享原始数据即可训练模型，大幅降低泄露风险。安全与可靠加强对抗性攻击防御研究、开发更鲁棒的模型；形式化验证帮助在部署前评估系统行为。环境可持续开发更节能的算法与硬件减少AI碳足迹：模型压缩、量化减少计算需求，专用AI芯片提高能效。人工智能伦理导论·教学课件23/284.5.2应对措施：政策与监管层面4.5应对措施伦理准则＋审核认证伦理准则涵盖公平性、透明度、隐私保护、安全性；医疗、金融、司法等关键领域需严格的偏见测试、安全评估、隐私审查。伦理影响评估类似环境影响评估，在项目开始前识别和缓解潜在伦理风险——有效的监管形式。数据保护法规欧盟《通用数据保护条例》(GDPR)为个人数据保护提供全面法律框架，可全球推广完善；同时需考虑AI对就业市场影响，制定劳动政策与社会保障措施。五大监管手段1建立专门的AI监管机构（技术+伦理+法律+政策专家）2制定新的法律法规：法律地位、责任界定、隐私保护3"监管科技"：用AI监控其他AI，检测潜在风险4国际合作：AI全球性发展需要统一标准与规则5持续评估