“技术利维坦”的傲慢与偏见-以“社会化技术权力”为中心的讨论

1、“技术利维坦”的傲慢与偏见以“社会化技术权力”为中心的讨论内容提要人类社会的现代化开启了技术体系的历时性演进，技术参与定义了现代 性，而技术进化则在社会权力的作用下垄断了现代性。技术是历史性质的人造物，其本 质是人性与物性的辩证统一，它不存在自主意志的技术权力，任何形式的技术权力 都来自社会权力的转化，是社会化的技术权力。“技术利维坦是失控的社会化技术权 力对技术本质的反叛与侵夺，并集中体现为权力的技术逻辑和技术的权力惯性这 两种过程形态。实现技术型时代的人类自救须尊重有限性”，张扬克制的智慧。关键词 技术利维坦 社会化技术 权力技术 体系技术 进化人工智能在人类解放的历史进程中，技术持续发挥

2、着至 关重要的功用。从恩格斯撰写自然辩证法为科 学技术争取“生存权利开始，人类不仅经历了两 次历时性科技腾飞，还正在继续健步迈向第四次科 技革命。人类虽已身处技术空前便利的智能时代， 但亦从未停止思考“技术进化与人类解放之关系 问题,尤其是经典的“技术异化问题。随着“人工 智能技术丛”,即大数据、云计算、区块链、物联网等 高关联突破性技术的互赖助长性发展，兼具“被传 统国家权力机器支配和“脱离国家自行新型统治 两种倾向的“技术利维坦被视为技术异化的产物， 其发生线索及可能的消极后果开始得到敏锐的学术 剖析。在此基础上，仍有若干基本问题值得讨论并 澄清技术利维坦不应被简单视为“技术控制人 类”的

3、新型统治力量，而应被进一步理解为动态演 化的支配性社会秩序，它以技术进化为必要条件、以 特定的技术与权力关系为结构特征,并集中体现为 结合一定时空要素的过程性技术权力形态。本文将 从社会关于技术与权力之未来关系的忧虑性建构切 入，逐一予以讨论。一、技术与权力的社会想象“如果这个东西（高科技）存在,那么它就一定 会按照既定逻辑演化并对人类社会产生可怕影响, “你我早该想到会有这一天”，编（大师查理布 鲁克（Charlie Brooker）用其系列电视剧作黑镜 (Black Mirror),向观众呈现了一系列在理论上极 具可能的社会想象:在你的全部历史(The Entire Historyof Y

4、ou)中，植入记忆芯片”以记录眼见为 实”，异变为个体记忆(隐私)被随意提取、检查并最 终沦为人人可见的“完全显露的透明视像”；在白 熊(White Bear)中，运用“技术型惩戒”以实现社会 正义，被异化成用一技“间歇失忆”让杀人犯反复遭 受无尽“合法”折磨的“集体狂欢式复仇”；在急转 直下(Nosedive)中，基于“数字拟态”来简化社会生 活，异变为用“星级评分”来主宰个体社交形象、准 入阶级与生存境遇的“数字独裁”，等等黑镜创 构了一个“技术全能”的时空，它表面上在技术理性 和规则理性的支配下稳定运转，但内里却因技术与 权力的捆绑纠缠而暗潮涌动;生存于那个时空的人 们,理所当然地拥抱着

5、技术进化，也自觉而不自知地 臣服于技术权力，那是一个“踩着”技术全能而迈向 技术主宰的“后人类”社会。尽管影片剧情纯属虚构，但其关于“技术进化” 的社会想象以技术发展的人性驱动和逻辑可能在当 下与未来之间架起桥梁，它足以给观众带来真实的 焦虑感，这不仅是因为技术早已“无处不在”，更是 因为技术愈发“无所不能”，以致能够令人们“无所 不从”。在人类社会的现代化演进中，我们始终生 活在“技术体系”的世界里。所谓“技术体系”，强调 一种技术与社会权力的关系状态，在此之中,技术与 技术进化全方位弥散式地与“意识形态、经济、军事 和政治等社会权力”互联互(，并围绕社会利益分 配而形成两者之间的结构性关系

6、；每一次具有历史 性意义的技术进化都会带来生产资料的变化，并打 破此前社会权力占有生产资料的均衡关系，而新的 均衡会在各种社会权力挟持技术进行的斗争和博弈 中再次实现，任何政权、市场和社会主体都不可能处 于特定时期下的某类技术一权力关系框架之外。如 )将“现代性”视为支配现代社会的理性的集合，那 么“技术”无疑参与定义了现代性。作为一种社会 生活的合理形式，尽管安德鲁芬伯格(Andrew Feenberg)认为现代性理应“建立在被合理地设计的 技术人造物和由合理地技术规训(technical disciplines) 所赋予的制度(institutions)之基础上”，$并 寄希望于人们能够基

7、于规约自觉来对技术内部进行 合理化的文化改造一以技术的待确定性或曰可选 择性来拯救现代性，但历史进程却更凸显了社会权 力主宰技术，并不断构建以技术垄断现代性的意识 形态，导致技术异化发生，使“技术利维坦”成为可 能。根据马丁 海德格尔(Martin Heidegger)的技术 本质论，自然界之万物皆是“有限的”，人类社会暴 露在自然规律之下，其有限性体现于事物间作用与 反作用的相互性之中，并由此建构起应然的社会秩 );失序现象的发生，在很大程度上是与挑战甚或突 破有限性密切相关的，比如现代技术超越其自有边 界而“挑战性”地介入并限定了自然与社会，冲破 其有限性,导致了自然与社会新事物的非自然、

8、非社 会状态的展现，自然与社会都失去了自我展现的方 式而被技术支配着。从本文的视角出发,技术是人造物，其本质应是 “人性”与“物性”的辩证统一，即代表人之意志目的 和遵从自然规律的辩证统一。从结构性历史观 察现代性屈从于技术”揭示的是技术本质在社会 权力介入下的内在混沌；而从过程性历史观察“现 代性屈从于技术进化”则反映出二者之间始终存在 着外生性的社会权力机制。“技术利维坦”就是失 控的社会权力侵入技术本质的结果，其衍生逻辑由 三个渐进相扣的过程构成:首先，社会权力向技术权 力转化，进而形成“社会化技术权力”。技术乃人造 物,它不存在拥有自主意志的技术权力，任何形式的 技术权力都不是技术体系

9、自驱动的结果，而是由迈 克尔曼(Michael Mann)意义上的“社会权力”直接 或间接转化形成的，其自主意志、力量限度、作用方 向、影响范围等均取决于意识形态、经济、军事或政 治权力;换言之，社会权力及其运作状况是决定技 术是否会发生异化的关键变量。其次，社会权力在 运作中失控，进而发生社会化技术权力对技术本质 的反叛与侵夺，即对技术之“人性”与“物性”张弛关 系的扭曲。再次，失控的社会化技术权力，即“技术利 维坦”集中体现为两种互构共演的过程形一“权 力的技术逻辑”和“技术的权力惯性” e二、被传染的“偏见”：权力的技术逻辑作为社会化技术权力的“他权力主宰”形态， “权力的技术逻辑”强调

10、社会权力借助不断进化的 技术来实现更加有效和广泛的运作，以实现意识形 态、经济、军事和政治权力的巧妙传递，进而完成对 权力对象的规制性目的。因此，从宽泛意义上讲，有 技术与技术进化的历史，就存在社会化的技术权力； 而作为一种张扬而进击的社会化技术权力形态，社 会权力对技术理性的主宰使得“权力的技术逻辑% 在比较现代化的进程中随处可见现代技术是历史性的产物而非自然的产物，从 特定的历史性质和社会形式来认识现代技术是马克 思技术批判哲学要旨。因此“技术介入历史”甚 至“技术改变历史”均不是自然选择,而是社会权力 自主有为的过程和结果。1718世纪，启蒙运动及 其间发生的欧洲三十年战争和法国大革命，

11、用世俗 权威取代了宗教权威，假借神之意志支配庶民的神 性政治在过渡到以“理性”为根基的人性政治时，实 际上也同时跨入了技术型时代。历史地看,技术参 与现代性的定义，是以技术对社会发展产生的工具 性价值为基础的;尽管在打破蒙昧之后，早期的科学 发展仅达到为人们提供便利其政治社会行为的器物 进化技术，但此后大到一个政权的对外贸易、殖民甚 或战争，小到个体民众的日常社会生活，都享受着技 术红利，并逐渐形成现代化早期技术体系的关系秩 )。随着技术进化的持续发生，尤其当技术应用愈 成功，就愈“使人幻想有上帝般的力量来征服自然 并使其服从我们的意志；但这种以征服自然、改 造自然为单一目的的狭义自然技术观念

12、，没多久便 在技术体系的关系秩序中发生根本转变，即人们对 技术的运用开始从面向自然事物扩展到面向政治社 会事务，社会权力与技术也就是在这样的实践中开 始发生关联、紧密纠缠、相互转化甚或探出边界的； 当技术“对自然事物的这种支配或控制进入社会场 景,触及到他人或他组织的利益”，介入到“人与人 之间的支配与控制关系”，技术所有者或操控者就 拥有了支配或控制他人的力量。正是在这样的关 系秩序变换中，社会化技术权力开始强势且具有偏 见地改变着历史。在以欧洲国家为代表的殖民主义史中，相对于 伪装埋藏在“现代化”技术话语背后的意识形态和 经济权力，政治和军事权力则始终是毫不掩饰地操 控着帝国扩张的工具技术

13、;在不同的国家和地 区，技术进化程度的差距往往会形成技术在政治与 军事领域的差异化应用过程，进而造成不同地理疆 域之间巨大的发展落差，甚至对地缘政治格局产生 深远影响。例如，到19世纪末，几乎整个地球都处 在欧洲的殖民统治之下;在此前近400年的“征途” 中，欧洲之所以能够“畅然无阻”，航海技术与军工 技术发挥了至关重要的作用，航海将欧洲人带到了 美洲、非洲和亚洲，而机关枪和重炮则荡平了当地人 的长矛和战马;欧洲现代化早期的技术进化为帝国 主义和殖民主义大开其道，进而深刻影响了 15至 20世纪的国际格局与权力秩序。正因如此,不同社 会才在追逐现代性的过程中将技术与技术进化置于 对内建立有效统

14、治、对外实现赶超式发展的战略要 位。这意味着,脱胎于社会而成长起来的现代国家 在确立其直接统治之后，会进一步借助多维手段来 推动自我认知意义上的赶超式发展，尤其对于受到 过先进军事装备碾压的国家，技术无疑是他们最为 有效、也最具生命力的抓手。由比较历史观之，无论 是被后世定义的1800年前后开始形成的东西方“大 分流”，还是鸦片战争以来国人基于器物和技术来 认识西方现代化以图国强，甚至是深刻改变欧洲 格局乃至世界格局的一战、二战和冷战，都无一例外 地暗合了“社会权力主宰下的技术改变历史”的实 践逻辑。时至今日，马克思关于现代技术“物质形态”作 用的历史性限度主要根源于其后的历史性质、社会 关系

15、和社会形式这一判断依然独到深刻，以特定 历史社会关系为基础的社会权力限定了特定时代技 术应用的方向与限度。人类的自省与文明之演进并 未透过社会权力主宰的技术进化及其应用而超越一 己私利，技术仍然“被”支持着特殊的目的和偏见， 它是“主导的霸权对权力和利益追求的常规化”。 如果说从欧洲对外殖民扩张到两次世界大战甚至到 冷战，人们还可以相对较明确地勾勒出政治和军事 化技术权力的运作，那么到了和平阶段，走在历史前 台的社会化技术权力则更多是以模糊复杂但又具备 全场景规制性的关系、形式而运作。有国内学者将 当下这种经济资本、意识形态、政治等社会权力与数 字技术的结合称为“数字化垄断技术帝国”和“超级

16、权力体”，认为“新技术及其技术企业代表了技术革 命环境下的某种超级权力，其特质决定了新技术的 应用和新技术企业的崛起具有更加复杂的面相和影 响”。这实际上反映了技术体系在第四次工业革 命背景下发生的巨大变化,即数据、硬件和算法开始 成为重要的生产资料，并以用户数据的获得能力、智 能算法的编写能力与核心硬件的研发能力等三种能 力为数字技术时代生存的核心能力。当获取和掌握 数据及其相关资源(所谓“数字权力”的物质形态) 能够帮助资本实现增殖，帮助国家提升内部治理和 对外竞争，经济、政治和意识形态权力就会不遗余力 地将权力运作数字技术化，它形成了 一个无硝烟的 战场,其权力对抗的激烈程度不亚于历史上

17、任何一 场热战。一方面，从国家内部维度观察，技术总是在政治 和资本的支持与利用下实现进化的，因而无论是经 济资本权力还是政治权力，二者皆可通过伺机掌控 人工智能等全技术应用来实现智能化的社会控制。 社会化的技术权力能够大幅提升社会权力的运作效 率以达到特定治理目的，但也存在社会化技术权力 的驾驭难题“国家信息技术的全面装备，将公民置 于彻底而富有成效的监控体系之下，而公民却难以 有效地运用信息技术来维护其公民权利，即无法通 过数字民主来制衡国家的监控体系。”有学者提出 液态监控(Liquid Surveillance)概念以解释在当下 这种快速变化的技术社会，由数字信息技术创建、互 联网平台积

18、累而形成的各种数据集和信息流能够为 政府或企业所利用，进而导致人们处于一种“监控” 无所不在且人人皆可执行“监控”的社会状态;此 外，社会化技术权力还可以在“监控”基础上实现 “操控”，其标志性事件是2016年美国总统大选期 间,英国数据公司“剑桥分析(Cambridge Analytic:) 基于对5000万脸书用户数据的提取完成关于选民 心理、性格和行为偏好的归类分析，进而通过精准的 定向广告投送来操控选民情绪以达到干预大选的政 治目的，类似操作还发生在2013年的马来西亚选 举、2017年的肯尼亚选举以及英国脱欧公投中。另一方面，从国际竞争维度观察,和平时期的地 缘竞争仍然常常凭借政治、

19、军事、意识形态权力的技 术化运作来实现,抛开显而易见的军工、航天甚至太 空等技术竞争，由政治和意识形态权力主宰的技术 压制成为愈演愈烈的社会化技术权力对抗模式。自 特朗普执政以来,尤其是2O#7年开始美国对华采取 的一系列科技压制政策和行为即是例证，甚至有西 方学者将其称为技术冷战(technological cold war);出于对霸权地位的守持和国家利益最大化 的原因，以政治和意识形态权力从内制定技术形态 标准、对外垄断技术应用规则，这种“权力的技术逻 辑”形态的背后充斥着丛林法则一般的“部落式偏 见”，是社会化技术权力主宰下的技术进步时代的 人类文明倒退。三、掩不住的“傲慢”：技术的权

20、力惯性凭借人类的智慧，关于技术理性及其“自权力 驱动”后果的本体论担忧和警惕早已在众多技术哲 学思想中浮现，但后现代的技术型统治时代毕竟尚 未到来，加之技术进化带来指数级增长的利人能动 性轻易就能唤起人类的逐利性，以致人类毫无顾忌 地任由社会权力以技术逻辑之形态肆意发展。相比 于“他权力主宰的张扬而积极的“权力的技术逻 辑”形态，技术的权力惯性”虽由技术自权力驱动， 但实际上却是人之理性对技术理性的主动放任，是 人之理性面对技术理性以“无为”换“有为”的过程 与结果，可谓隐蔽而消极的社会化技术权力形态。在历时性演进的技术体系中，技术迭代持续发 生的背后是一日千里的技术进化，其累进式发展确 立了

21、技术自体系内部自我强化、增量替代的进化规 则。逐渐成长起来的新技术企业或技术巨头可以凭 借具有用户依赖性的功能性技术应用(例如深度嵌 入社会生活的基于个人唯一 ID标识的“社交一认 证一金融”交互应用平台)来建构关于社会大众的 与政府相同的“易读性”(legibility)系统，它同时结 合了 “权力的高度集中、统治(支配)技术的智能化 管理以及资源(数据)的分布式汲取三重优势”，同 时也在社会生活中据此而广泛建立起适用于社会权 力传递的、带有唯一性和绝对主义色彩的认授规则。 随着技术体系的永动式演化以及深处其中之人类无 可避免地被技术化，技术的物质形态及其运用会在 不知不觉中形成社会性依赖，

22、进而构筑起以数字信 息技术为核心的新型权力结构。在新冠疫情防控背景下，表面上仅为“二维码” 形态的“健康码”，其发挥功用的过程却恰恰体现了 社会化技术权力的运作过程，值得予以深入的理论 观照。健康码当然展示了技术进化带给疫情防控的 便利，但正如德国哲学家汉斯-格奥尔格伽达默尔 (Hans - Georg Gadamer)言，技术将以一种超越对 它的控制的内部必然性继续自己的道路，它将创造 出越来越多令人惊奇的知识和控制力量”，由此而 显现的“技术理性很容易以科学管理的形式实施 控制，在技术理性的规律和机制蔓延至整个社会的 同时，它们形成了 一套自我的真理价值”，并极易 在技术政治中滑向绝对主义

23、。实际上，全方位运 用于社会治理和生活场景中的健康码集中暴露出 社会化技术权力的傲慢及其正在引发的三方面驾 驭风险：第一，以技术理性“审定”个体健康资格的健康 码,存在着因技术意识形态化而导致的“码上失灵” 风险。在全民防疫期间，基于“深度数据化”的健康 码作为“规制科技门RegTech)出现，凭借一组颜色 标记便改变了社会对个体健康的认授规则，甚至还 在特定条件下上升为能够限制个体人身自由的技术 权力;作为个体被准许合法流动的技术标识,人们因 “绿”而安、见“红”而恐，管治方也因应而动，双方默 契地建构着技术即正确”的意识形态并默许着技 术的独裁。然而，健康码以人为设定的健康风险评 价和云端

24、大数据为支撑,是基于既有知识论和“已 知”数据而评价出来的“概率性健康”，这意味着健 康码是“纯科学性质”的事物,本质上是人类实践经 验的数据化呈现;但人类的个体健康本质上是“非 纯科学性质”的，这意味着除了医学知识论上记载 的“已知”，还存在诸多在人类实践经验中未曾显现 的“未知”；尽管人工智能时代宣称一切皆可量化， 健康码能够具有一定基于“已知”的评判能力，但它 不可能业已集成尚未发生的“未知”数据、不具有对 “未知”的预测能力。第二，以技术理性决定准入资格和人身自由的 健康码存在着导致技术型“卸责”或“避责”的风险。 一方面，从官员全力履行政治职责、高效实现行政管 治的角度出发，依据健康

25、码定义的个体健康认授规 则因为有科技和大数据的背书而具备了广泛的合法 性，它不仅简明直白、易于操作，还实现了对人口流 动轨迹数据的便捷掌控;基于此，健康码不但构成了 一线执法官员摸排疫情蔓延态势、规制个体行为的 准则参照，还成为官僚体系中上级官员制定防疫政 策的必备依凭;然而，围绕健康码而建构起来的技术 体系同时也构成了一套官员权责体系，无论健康码 是否失灵，它都在行政管治权的认授下成为无须人 工复核的免疫准入标识，即使出现例外事件,首先也 是健康码“背锅”,是技术失灵而非行政之责,或最 低限度也可以实现部分卸责;另一方面，从个体完成 健康码认证之于履行社会责任的角度出发，在疫情 防控期间准许

26、人口跨区域流动的条件下，“健康码 治理”造成了 “无码寸步难行”的特殊社会现象，行 政赋权后的健康码在事实上决定了人们的跨地域准 入资格与人身自由，并将主动出示健康码设定为人 们在防疫时期必须履行的社会责任。然而，在“健 康码治理”背后，隐藏着行政权力的机械主义、官僚 主义和形式主义惯性，由它造成的“履责障碍”反而 催生了 “避责陋行”。例如，因不同地域的健康码互 认难题而催生的“伪造健康码”问题。据报道，一款 名为“健康码演示”的App于2020年底在某手机应 用市场上提供开放下载“该应用可以模拟各地区 的健康码/复工码/通行码的不同显示风格,并且可 展示绿码/黄码/橙码/红码状态，同时还可

27、以自定义 显示数据,如地区、城市、姓名等。”仅凭一个简单 的技术手段，就可能实现技术型“避责”，由此而带 来的后续防疫风险是难以估量的。第三,除了机械主义、官僚主义和形式主义惯 性,还可尝试从各自行政区域内部的政治追责压力、 监管俘获”(capture of regulation)倾向与技术意 识形态化的三维视角来分析全国范围内的健康码互 认困境，此困境会进一步导致地方社会产生“再部 落化”风险。如果说健康码是达到必要数据规模和 技术标准的健康认授标识，那么为什么会产生省 (市)域互认难题？统合来看,在疫情防控成效直接 影响官员政治生命的非一般权责压力下，地方官员 更倾向于认可本地区、相对发达

28、地区或防疫成效较 好地区的健康码。其背后存在着“被动监管俘获% 的缘由,即监管者不具有被“俘获”的主动性，但监 管者因其某项能力不足而不得不将部分资源或权力 让渡于被监管者，体现在健康码开发事项上就是地 方政府出于防疫需求而不得不与掌握超强数据收集 和云计算能力的市场化企业合作。技术水平越高 的企业越能支撑健康码的稳定性和有效性，自然也 就越能“俘获”地方政府，而技术企业在全国范围内 的水平地域差异程度与其市场自利性便成为造成健 康码统一困难的重要原因。基于此，各自行政区域 内部愈是强化本区域健康码的唯一合法性，就愈会 造成地方社会的“再部落化” e从技术体系的视角 出发，由健康码互认困境诱发的地方社会“再部落 化”是社会化技术权力的运作结果，当然也是政治 和经济资本权力主动放任技术自权力驱动而产生的 社会失范现象。对此，国家卫健委曾于2020年12 月10日发布关于深入推进“互联网+医疗健康% “五个一 ”服务行动的通知明确推进“一码通”融合 服务，由国务院办公厅电子政务办公室负责运行维 护的微信小程序一国家政务服务平台(试运行) 亦开辟“防疫健康信息码”以促成“一码通”，但一些 地方省市在防疫实践中仍以本地健康码为准，并且 不同地市之间互不相认的情况屡见不鲜，这揭示出 在技术体系中一旦社会化技术权力被放任并形成后 )，再以