《算法技术与价值观的合理互动分析综述》10000字

算法技术与价值观的合理互动分析综述目录TOC\o"1-3"\h\u22179算法技术与价值观的合理互动分析综述 113356（一）算法推荐技术应用折射的异化危机 194261.异化理论的研究嬗变 1140982.算法技术异化 25098（二）加强“合理性”调试 3169041.恪守媒介责任，加强监管和行业自律 3111212.融价值观于算法，深耕优质内容 538083.算法原则透明化，主动接受监督 6217004.培养媒介素养，建立投诉机制 712665.增强信息偶遇，破除信息茧房 814216（三）发挥政府作用，构建良好环境 10154451.法律治理与技术治理的二元共治 10262262.加强媒介素养教育 11随着互联网、移动通信、大数据的蓬勃发展，算法实现了与人类社会各个方面的深度融合，在经济、文化、教育、科技等多重领域有了突出表现，尤其是以个性化推荐为代表的“机器思维”，给传统新闻生态带来了巨大变革，引导其走向更加开放和多元的发展路径。尽管智能化新闻分发技术的革新思维与实践路径被人们所肯定，但作为一种个性化的推荐技术，为了不断优化用户体验，算法模型结构呈现一个动态化的发展趋势，这种“动态化”特征应用在新闻传播领域时，可能引发“异化”，导致一系列的媒介价值问题。（一）算法推荐技术应用折射的异化危机1.异化理论的研究嬗变“异化”一词来源于拉丁语中的“alienatio”是疏远和脱离的意思。这一词最早出现在《圣经》中，指信徒亚当和夏娃疏远上帝，出现了神性的脱离。随着时代的发展，“异化”一词内涵不断丰富，应用也日益广泛，后来被学者们引入到政治学和社会学等领域。在政治学领域，学者们将异化解读为“权利的让渡”。卢梭在其研究中这样描述：“随着私有制的建立和法律的出现，不平等久而久之也变的根深蒂固逐渐成为了合法的存在了。也就是说，当人从自然状态异化至文明状态（政治状态）时，需要让渡一部分自由与平等的权利，以形成公共意志。在社会学领域，学者们对于“异化”一词的解读并未发生太大变化，只不过脱离与疏远的对象，从神学中的上帝变成了他人与社会。“异化”一词最广为人知的应用领域是哲学，自德国哲学家黑格尔19世纪将其引入哲学领域开始，它便在哲学界广为传播。在黑格尔笔下，“异化”尚未剥离神学外衣，它还是指分离和对立，只不过分离的双方一为主体，一为客体。黑格尔将“异化”看成是“绝对精神”发展到一定阶段的产物。2.算法技术异化随着大数据时代的到来，“算法技术异化”这一概念开始屡被提及，其中最具代表性的便是韦伯的合理化理论。在韦伯的理论中，合理化的前提是自由，在社会发展的过程中，由人这一终极价值和“生存意义”来拟定发展的终极目的（理想），由理性来决定实现手段（行为模式）。随着合理化进程的推进，理性手段与自由目的发生分裂，尽管这些行为模式依旧属于合理化的范例，但与终极目标（人的需求）日益偏离。用韦伯的理论来理解技术异化，不难得出，算法技术异化的根源，在于技术这一理性手段与自由目的，也就是价值理性之间出现了背离，数据崇拜开始显现。数据代表的仅仅是理性逻辑和数字化的客观存在，而以大数据为基础的算法，从量化工具跨越到社会意识领域，它就可能成为合法一种新的意识形态。在人类历史上的土地崇拜，极其崇拜之后，这种新的意识形态以数据作为信息时代来判断是非准则的数据崇拜，使人在由算法法则构建的数字化世界之中迷失自我。一方面，人们追求大数据的“大”。这种盲从不但可能制造大量信息垃圾，造成资源的极大浪费，还会诱使数据搜集者非法获取数据，导致信息乱象及伦理失范，严重影响社会的法治和道德建设；另一方面，人们笃信大数据的“数”。尽管有人提出“数据不会说谎”，可使用数据的人却可能说谎。当数据成为商品，传播的信息便在一定程度上失去了社会生命和文化生命的原义。再加上算法推荐技术模型搭建者可能存在的主观偏见，细微的“失真”经过系统后将被无限放大。在以数据采集为前提的算法推荐技术模式构建中，各类传感器、网络设备、软件应用等每天都在不停地采集数据，当不同维度被加工或“失真”后的数据汇聚到一定数量时，就会产生巨大的能量，打破了理性手段与自由目的之间的平衡，需要通过一些手段进行“合理性”调试。（二）加强“合理性”调试根据媒介的历史发展过程及趋势来看，在内容生产，传播中出现的“合理性”扩散偏向是不可避免的，而解决取向性的根本路径的关键是在于如何对媒介内容产生，传播行为进行指导和如何对边界的约束，同时通过一定的监督制度促进媒介生产优质的内容，进行“合理化”调试，将媒介产出产品中，工具价值与价值理解性达到二者平衡，实现合理的互动。1.恪守媒介责任，加强监管和行业自律由于算法推荐没有专业人士的指导，以大众的兴趣为推送依据，推送的内容不受伦理道德的约束，所以带来了一系列的价值失守的的问题。而这些问题所指向的矛头正是“算法离不开人”的价值观守望。“决定算法的核心因素正是专业人的经验与价值观”。平台和实际的传播者作为应该履行这些责任的履行者，他们没有任何借口，也不应该以中立身份作为保护罩，将责任推给算法。事实而言，人仍是对信息公共价值进行判断，对社会工共价值进行引导的主体。算法可以提升分发效率，“人机结合”的合作模式，使具有公共价值的信息，逐渐击破受众的“信息茧房”使公共性内容与个性内容二者得以平衡发展。因此，媒介应该承担起自己的社会责任，遵守相关法律法规，将社会关怀、伦理道德、科学精神，融入信息生产和传播的全过程。为了全面优化网络传播环境，为信息传播增加人文内涵，引导积极向上，健康的舆论导向，新媒介应该进一步完善总编辑制度，将人作为责任主体，实现人工与算法的有机结合，使有价值的信息，在更高效，精准的开发过程中，为人类和社会创造出新的价值。此外，为了减少被“有心人”主导的数据偏见扩大。媒介需要进一步优化算法推荐技术，加强数据自控。李永乐李永乐.拜登选票不符合本福特定律？如何识别数据造假？[EB/OL]2020-11-08./s/pXEr11FAesA2TmPSC8cN4A.李永乐.拜登选票不符合本福特定律？如何识别数据造假？[EB/OL]2020-11-08./s/pXEr11FAesA2TmPSC8cN4A.图4.1视频播放量首位数比例与本福特定律对比本福特定律是一个经验定律，因其提取首位数字特性，也被称为第一数字定律。它描述了一种自然现象，即自然系统产生数据集合的首位数字1-9的概率分布不是均匀的，而是服从一个对数分布：P(n)=lgn+1n图4.2本福特定律预测的首位数概率分布李永乐的这一研究结论，在“今日头条”视频话题播放量的统计中也得到了验证。根据商业算数中心提供的数据，对2018年4月-2019年3月“今日头条”视频话题类别展现量进行了统计，发现其分布符合本福特定律。（详见图4.3）图4.32018年4月-2019年3月今日头条视频话题类别展现量分布若媒介利用视频或新闻传播的本福特定律，将其与算法推荐技术相结合，就可以通过此定律发现数据的造假。因为一旦有人人为地操纵数据，就会与本福特定律产生偏差。通过采取这种监管措施，能够有效减少水军对新闻传播数据的干扰，尽可能维持推送信息的公平性。2.融价值观于算法，深耕优质内容在美国传播学者马克斯韦尔·麦库姆斯（MaxwellMcCombs）和唐纳德·肖（DonaldShaw）看来，大众媒介通过提供信息和设置相关问题，可以很好的把握大众所关注的事件、态度及讨论顺序。我们首先要熟悉算法的基本原理，这样才能创造一个信息公共空间，消除算法推荐产生的媒介价值问题。曹欢欢，一名“今日头条”算法架构师，她就曾经打开了算法的神秘面纱，大众凭借这对算法数据学习有了更深的感受。第一，在“今日头条”的推荐页面，有定制化频道，可获取受众感兴趣的分类。第二，首页每条信息页面都有【×】按钮，可根据自己的喜好精准屏蔽不感兴趣的信息。第三，算法也会记录受众在评论区评论、转发、分享、收藏等行为。第四，根据受众的关注，知道他们想要看到的内容。“今日头条”的算法推荐基本是根据大众的兴趣或关注。不过算法也有很多缺陷，可以采用以下方式去提升它的全面性和改善“算法没有价值观”的现状。第一，消除算法偏差的最重要方法是通过数据训练。若数据有偏差，则在下一个算法实践中将其扩展。技术的发展可能有助于克服偏见。但是，从根本上讲，责任不在于算法的结构或透明度。但是在有关方面技术人员必须明智、负责任、公平地收集、存储和使用此信息。算法工程师可以帮助各个学科的专业人士扩大视野，了解算法偏差对受众的影响，并就如何避免偏差进行教育。通过算法推荐系统实现“麻醉”的教育。其实算法技术不是问题。但是，通过结合不同学科和学习系统的结果，就足以改善算法偏差。算法架构师可以创建更全面的算法学习技术，这些技术对于受众的使用和读者阅读非常有用。第二，不仅对算法的数据和体系构造进行完善，还必须集成算法的价值观，如果算法盲目地推荐受众本身的偏好，并且认为价值不算什么，则算法也必须要对此负责。算法推荐固化信息茧房已成为共识，但“解铃还须系铃人”，技术造成的困境终究需要技术来突破，算法推荐未尝不能应用于信息茧房突破，这样的尝试在2010年后就已经陆续开始出现。《卫报》（美国版）在总统竞选期间特意开设《戳破泡泡》（BurstYourBubble）专栏，对于支持自由派的人，可以将一些保守派媒体的消息推送给他们。值得借鉴的还有NZZ推出的“theCompanion”APP，和国内的“今日头条”类似，“theCompanion”会根据用户的喜好推送内容，但与后者不同的是，“theCompanion”的算法会在众多推送之中加入一个超出用户预期的内容，被称之为“惊喜”（Surprisingnews）。未来的新闻业，类似于《戳破泡泡》的惊喜式算法推送”将会被更加广泛地运用。平台方在根据算法、大数据制定用户画像之后，可以寻找相邻甚至相对内容领域进行定量推送，并通过用户观看行为的数据变化进一步调整推送策略，以期帮助用户突破信息茧房，达到信息与意见的流动，这是一个漫长但充满希望的过程。总而言之，算法建议不是全部取决于用户的点击、转发，而是在强劲的数据库和内容库的基础上，在某些高水平新闻和个人喜好间，以及大众的的隐藏喜好、共同的兴趣与用户的兴趣之间找到平衡点，并向他们提出好的建议。3.算法原则透明化，主动接受监督在人工智能值的条件下，“黑箱化”的实质即是基于人工智能价值观运作系统而确立的，加之材料的输入与输出存在相对应的关联，因其内部操作过程，用以某种运算程序形成结果等信息，所以他们的过程都是封闭且不公开的陈昌凤.媒介伦理新挑战:智能化传播中的价值观赋予[J].新闻前哨,2018陈昌凤.媒介伦理新挑战:智能化传播中的价值观赋予[J].新闻前哨,2018,(12):9-12.[美]弗兰克·帕斯奎尔著;赵亚男译.黑箱社会:掌控信息和金钱的数据法则[M].北京:中信出版社,2015.李良荣.网络与新媒体概论[M].北京:高等教育出版社,2014:251.《代码依赖：算法时代的利弊》是皮尤研究中心对此做出的报告。该报告表明，学术研究界和业界较为感兴趣的内容之一就是算法的透明程度。受访专家说：“最重要的是要找到一个既能提供透明度又能评估结果的框架。”全国人大常委会在2020年10月公布的《个人信息保护法（草案）》规定了自动化决策的透明度要求以及处理结果要公平合理，这是从立法角度对算法透明原则的支持。2018年，“今日头条”公开过部分算法运行逻辑。但是，算法技术作为互联网信息平台的核心技术，仍然掌握在企业手中。技术本身虽然是中立的，但是技术的背后，暗含的价值观念和运行逻辑是有倾向性的。只有让个性化新闻推荐平台的算法透明化，建立并完善监督和投诉机制，才有利于预防技术的潜在危害。算法透明，意味着控制算法的权力，不再全部由企业掌握，而是可以被社会力量监督。算法解释权是算法透明原则的具体体现。相对于形式化的算法部署告知，算法解释权更是一种实质性的算法透明度的实现方式。自动化决策的“解释权”是消费者所具有的，早在欧盟下达的《通用数据保护条例》中就有明确规定。算法透明化作为一种可选方式被寄予希望，从当前国内外的实践看，算法原理的透明化比程序代码的透明化更切实可行。智能生成的算法代码复杂难懂并动态变化，一般认为，公布后无助于消除社会的担忧，副作用却很明显，比如，涉及公司的内部文件内容、诋毁公司的知识产权，例外代码可能会被别有用心的人利用，开展危害社会和公司安全的抉择。而算法原理透明化不纠缠于代码这一过程性的中间环节，体现了目标管理和结果导向的思想。破解算法黑箱并非将所有代码公开，也不意味着让决策相对人完全知悉算法的搭建与运算过程，更多的是通过可被理解的方式解释算法、提高算法的透明度，以使其运行更加公开公正，当数据错误或者权重失衡的情况出现时，便于及时进行救援。4.培养媒介素养，建立投诉机制“一切媒介都是感官的延伸”（麦克卢汉）。作为受众者首先要树立自主意识，注重提高算法素养，防止自身成为纯粹的媒介技术延伸。法素养可以从四个层面展开：第一，在理解算法推荐的技术逻辑后实现自我控制，及时退出“三俗”的娱乐世界；第二，主体意识应体现在对公共世界的积极探索中，构建一个不同于算法创造的信息区间，并注意不同信息域的权重分配；第三，隐私意识是大数据时代的每一个公民应该具有的，最后，批评意识和投诉意识应成为受众算法素养的本质特征，特别对于带有强烈主观色彩的新闻报道，应该着重注意查看新闻来源和新闻立场，并对其整体的逻辑结构进行思考，对带有低俗、不良价值观引导的新闻进行投诉及反制。同时，平台自身也需要建立监管体系，给受众（用户）提供投诉渠道。政府部门、国家广播电影电视总局、版权局等有关部门在这一过程中要发挥主要作用，制定行业法规，建立行业统一标准。具体表现在：第一，平台后台不仅要通过算法进行审核，还需要设置一个专业的审核团队，形成机器和人工的双重审核机制，保证内容在推送之前进行严格而全面的审核。第二，也要随时关注评论区这个舆论聚集地的信息已经被允许上传的内容，一旦发现粗俗、暴力等内容，要立刻给予警告、删除甚至封杀。第三，要建立用户投诉和举报机制，工作人员及时处理举报内容，在尽可能短的时间内提供反馈并核实报告，证实后立即删除违反规定的内容，以避免不利影响，并对举报人给予适当奖励。5.增强信息偶遇，破除信息茧房在传播学和信息管理学领域，信息被认为是“消除随机不确定性的东西”，在这个条件上，霍顿对信息做了定义：为用户加工处理数据，以此来提供给用户决策依据，满足用户的需求。宋建武,黄淼.信息精准推送中主流价值观的算法实现[J].新闻与写作,2018(09):5-10.说到底，信息的功能是辅助用户做出正确判断和决策。事物本身的信息，或者相关的环境信息，都会影响个人的选择、行为。前者相关于个人偏好，帮助个人做出基础判断，后者则根据个人偏好做出选择。在这个过程中，信息是否重要取决于它表达的事物和个人利益之间的关系。作为社会关系的总和的个体，能否将相应利益实现，关键在于其适应环境的能力。所以对于信息，既要要强调其使用价值，还要考虑个体偏好与社会偏好的一致性。宋建武,黄淼.信息精准推送中主流价值观的算法实现[J].新闻与写作,2018(09):5-10.上世纪90年代，“信息偶遇”这个概念最先被SandaErdelez提出并发表。“‘信息偶遇’是在未预期情景中，个体意外得到有价值或者有兴趣的信息”。而“信息偶遇”是通过2010潘曙光发表的硕士论文《信息偶遇研究》引进我国。潘曙光.信息偶遇研究[D].西南大学,2010.“信息偶遇”的定义上可以看出其本质特征：主观参与程度较低且期望值较低。帕姆格林的“预期—价值”理论，从受众的媒介期待角度，指出受众在信息获取的过程中，基于过去经验所产生的满足感分为追求的满足和获得的满足。前者只是经验产生的，而后者则是通过使用媒介后经历的满足。若后者高于前者，即信息的价值高于对信息的预期时，人们的满足感会更强，重复使用该媒介的概率就会增加。PalmgreenP,Rayburn·J.D.“AnExpectancy-valueApproachtoMediaGratification”[C]//K.E.Rosengren,P.Palmgreen,L.Wenner.MediaGratificationResearchCurrentperspectives.BeverlyHills,CA:Sage,1985:61-72.可以看出，媒介可以通过较低的预期，在“信息偶遇”的概念下，使用户获得较高的满足感，从而促使用户重复使用媒介。潘曙光.信息偶遇研究[D].西南大学,2010.PalmgreenP,Rayburn·J.D.“AnExpectancy-valueApproachtoMediaGratification”[C]//K.E.Rosengren,P.Palmgreen,L.Wenner.MediaGratificationResearchCurrentperspectives.BeverlyHills,CA:Sage,1985:61-72.通过非线性的“信息偶遇”行为来解决“信息茧房”的线性信息获取问题，可以从以下几个方面入手。第一，不能是大量的，同类型的无效化推送，应该合理的作用自由的信息碎片和信息资源，从而推送用户感兴趣内容的延伸和拓展。在实践中，为了避免“伪信息偶遇”，我们可以为已经接触过大量同类型信息的用户提供屏蔽功能。可在推送新闻后，用透明浮动窗口形式，让受众进行选择：“是否还想收到这类新闻/文章”。如果阅读者不想的话，可以他们选择感兴趣的话题。对于平台来说，需要使碎片化信息立体展现，方法是需要平台提高信息的质量，整理归纳碎片化的信息，并且保证用户能够拥有偶遇信息的机会，这样才能从最基本的方面保护用户拥有偶遇信息的机会。增加信息偶遇发生的几率。第二，扩大可浏览信息源，增加信息浏览范围。凯斯·桑斯坦认为，公共媒体通过向使用者提供人们“不想要”的资讯，促使不同阶层的人群能够接触到更为丰富的信息，不禁锢在自己的领域当中，以此来实现信息获取的自由和价值，克服信息窄化。在实践中，可以在平台推荐页面中开辟一个类似“惊喜”的频道，如果要打破“信息茧房”，可以通过跨网站搜索信息来获取信息，也可以将信息的推送改为完全的随机的非个性化推荐，以此来扩大用户所接受到的信息。对于新媒介而言，一方面要进一步完善算法推荐机制，关注主流价值观的算法，强调主流价值观引领；另一方面，严格内容的选择和审查，增强用户“信息偶遇”环境，整合信息资源，强大编辑团队，使用机器+人工方法来完成内容的选择和推荐，既要注重内容的丰富性和用户兴趣的浅层标准，还要注意内容的质量和深度，实现关键内容的全面覆盖，完善内容的丰富性和个性化需求。除此以外，就现阶段而言，还可以通过媒介平台互动设置，来拓宽用户信息的接收渠道。目前网民日常获取信息的渠道主要是通过聚合类手机新闻客户端以及社交媒体，但在重大新闻或者热点事件出现的时候，传统官方媒体的地位是新媒体无法取代和撼动的。新媒体时代，新闻生产几乎不需要成本，每个人既是新闻的接受者，也是新闻的生产者，当出现虚假新闻和反转新闻时，更需要有权威的传统官方媒体发挥新闻的舆论导向作用。基于此，新媒体要在坚持优质深度内容创作的同时，加强与传统官方媒体的互动，为用户带来“更多元，更有价值”的阅读体验。（三）发挥政府作用，构建良好环境1.法律治理与技术治理的二元共治算法作为一种技术手段，实现用户需求和平台服务的精准匹配，极大降低了信息获取和传播的成本，但同时，市场也存在因算法应用而侵害用户权益的不当行为，侵犯用户个人隐私，大数据杀熟等这些做法，不仅损害用户权益，也扰乱了社会秩序，因此对算法进行规范尤为重要。算法规制不仅要靠平台自觉，更需要建立国家法律体系，让算法应用有法可依，让用户权益得到保障。2017年7月，《新一代人工智能发展规划》出台，该规划提出战略目标“三步走”，并提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施。该战略的目标之一就是完善人工智能法律法规及伦理规范和政府体系的建立。截止目前为止，关于算法在互联网时代产生的法律问题尚且没有一个准确的规则，《数据安全管理办法（征求意见稿）》《法治社会建设实施纲要（2020—2025年）》《网络信息内容生态治理规定》《个人信息保护法（草案）》等规定可在现阶段提供参考，但和算法引发的伦理失范问题的发展速度相比，我国的法律法规建设仍然处于滞后阶段。为了实现规划中的战略目标，早日完善人工智能领域伦理规范和法律法规建设，新闻平台的规范建设是一个切入点。保护公民的合法权益要依靠硬法进行体系化的规定，而要保住我们国家新兴产业、数字经济的繁荣局面还需要软法的治理进行推动。如果想要有效的对技术治理进行规划，就需要我们熟练使用蕴含在法律中的价值和对法律进行治理的有关手段。但我国在规制工具和策略的方面较为的匮乏，大部分是命令控制或者事先审批等略微不太先进的手段，而在信息披露、激励型之类的新规则有些微的缺乏，李洪雷.论互联网的规制体制——在政府规制与自我规制之间[J].环球法律评论,2014,36(01):118-133.李洪雷.论互联网的规制体制——在政府规制与自我规制之间[J].环球法律评论,2014,36(01):118-133.上世纪中期阿西莫夫在《我，机器人》中制订了人工智能领域的经典定律，其核心就是机器人的任何行为必须在不伤害人前提下进行。该定律虽然表面上看是仅关于机器人的法则，实际上是约束了构成机器人或者智能体的各个环节、各项技术，其中最核心的就是约束了算法技术。此后伴随着深度学习算法的突破，国际社会纷纷通过各项条例规范约束算法或人工智能技术行为，尤其在2017年后。而目前在我国关于针对人工智能、算法或者算法平台的成为性条款仍旧在设计之中，当算法在网络新闻传播领域引发各项触及伦理问题之时，一般情况下处理方法包括政府约谈平台、暂时性下架整改、永久性下架或封号等零时性措施，对比之下我们显然要比欧美等国在算法相关的伦理规范方面做的滞后很多。在人工智能领域中，“阿西洛马人工智能原则”（AsilomarAIPrinciples）是人工智能领域中最为出名的一条规则。有关人工智能的行业间会仪于2017年的美国阿西洛马市举行。会上得出的旨在确保人工智能为人类利益服务的原则得到了全球近千名人工智能研究者的承认与支持。在23条具体的原则当中，伦理和价值作为重要的共识得到了包括出席该会议的业界领袖DeepMind首席执行官Hassabis、图灵奖获得者杨立昆和特斯拉创始人马斯克等的支持，为了保障人类未来的共同利益和安全，需要全世界的人工智能领域在发展的过程中完全执行这些规则。2.加强媒介素养教育虽然算法伦理已然成为智能时代大众所需媒介素养的重要内容之一，但若是让大众尽可能的掌握算法伦理素养还需要适当的媒介素养教育予以配合，需要适用于当下算法时代发展现状的媒介素养教育模式予以配合。媒介素养教育在西方很早就得以实践。英国为了维持精英文化的主流地位，重点的教育是媒介素养，促成大众能够欣赏当时的流行文化。而加拿大的媒介素养教育分成三层，分别是低级，中级和高级；而这三级都围绕着一个核心进行，既提高自我认同力，凝聚公民意识；教育的方法也不同，媒体内容为主导的方式、主题主导方式、独立单元方式以及综合方式。在澳大利亚，媒介素养教育围绕着包括电视、电影、杂志、报纸在内的媒介文本，以叙述方式、意识形态表达等为核心内容，以阅听众为教育对象。在美国，建立了以k-12课程模式为基础的媒介素养课程。虽然在各州k-12课程具体