国际法“不成比例原则”在自主武器系统适用模糊性-基于2024年ICRC技术-法律接口研讨会

国际法“不成比例原则”在自主武器系统适用模糊性——基于2024年ICRC技术-法律接口研讨会一、摘要与关键词摘要：二零二四年，随着人工智能与机器学习技术的指数级跃迁，自主武器系统（AWS）的研发与部署已从理论设想迈入实战化边缘，深刻重塑着现代战争的形态与伦理边界。在这一技术变革的浪潮中，作为国际人道法（IHL）核心基石之一的“比例原则”，即禁止那些可能导致平民伤亡或民用物体损坏且与其预期的具体和直接军事优势相比是不成比例的攻击，面临着前所未有的适用性危机。自主武器系统“感知-判断-打击”循环的自动化，使得传统上依赖人类指挥官主观价值判断和道德直觉的比例评估过程，被迫转化为算法逻辑与数据计算。然而，二零二四年红十字国际委员会（ICRC）举办的技术-法律接口研讨会所披露的最新专家共识与技术瓶颈表明，这种转化存在着深刻的模糊性与不确定性。本研究聚焦于二零二四年ICRC研讨会的核心议题，旨在深入探讨比例原则在自主武器系统适用中的模糊性根源及其法律后果。研究通过对研讨会会议记录、技术背景文件及与会各国法律与技术专家提交的立场文件的实证分析，揭示了当前算法在处理“军事优势”这一高度情境化概念时的认知局限，以及在预测复杂城市环境中次生与衍生平民伤害时的技术盲区。本研究发现，比例原则的模糊性主要体现在三个维度。首先是“输入端模糊”，即如何将法律上抽象的“过度性”标准转化为算法可执行的数学阈值，目前尚无统一的量化模型，导致不同算法对同一战场景况可能得出截然相反的合法性判断。其次是“处理端黑箱”，深度学习算法的不可解释性使得事后追溯比例评估的逻辑路径变得极度困难，导致法律问责机制的失灵。最后是“输出端的不确定性”，自主武器系统在缺乏人类实时监督的情况下，面对瞬息万变的战场环境，其累积性攻击效果往往超出单次打击的比例评估范围，形成系统性的不成比例后果。本研究的结论指出，单纯的技术优化无法彻底解决比例原则的适用难题，因为比例判断本质上是一个价值权衡过程，而非纯粹的概率计算。二零二四年的研讨会表明，如果不设定严格的“人机交互”法律底线，任由算法自主裁量生死，将导致国际人道法的人本主义精神被技术理性所吞噬。因此，必须在国际法层面重新界定人类在比例评估中的不可剥夺的义务，确立“有意义的人类控制”作为消除适用模糊性的关键法律要件。关键词：自主武器系统、比例原则、国际人道法、算法模糊性、红十字国际委员会二、引言战争法的历史是一部技术与良知不断博弈的历史。从弩箭被禁用到核武器的威慑，每一项颠覆性军事技术的出现，都迫使法律体系重新审视其核心规范的有效性。进入二十一世纪二十年代中叶，自主武器系统（AutonomousWeaponSystems,AWS）的崛起成为了这一博弈的最新焦点。这类系统能够在没有人类直接干预的情况下选择和攻击目标，其核心特征在于“关键功能的自主性”。这种自主性不仅改变了杀伤链的时间维度，更深刻挑战了国际人道法的实施机制。其中，最为棘手且充满争议的，莫过于“比例原则”（PrincipleofProportionality）的适用问题。比例原则要求攻击者在行动前进行复杂的利益平衡，即权衡预期的军事优势与可能造成的平民附带损伤。这一原则并非僵硬的数学公式，而是依赖于指挥官基于现场情况的“合理判断”。然而，当决策主体从拥有道德情感和法律意识的人类，转变为依赖数据训练和模式识别的算法时，这种“合理判断”的基础便发生了动摇。二零二四年，红十字国际委员会（ICRC）组织了一场具有里程碑意义的“技术-法律接口研讨会”，汇聚了全球顶尖的军事法律顾问、AI科学家及伦理学家，试图弥合法律规范与技术现实之间的巨大鸿沟。这次会议不仅暴露了当前技术在模拟人类价值判断方面的局限，更揭示了将法律原则代码化过程中无法回避的模糊性。宏观背景在于，全球主要军事大国正在加速AWS的军备竞赛，而相关的国际法律规制谈判却在联合国特定常规武器公约（CCW）框架下进展缓慢。这种“技术狂奔、法律跛行”的态势，使得实战中可能出现的“算法屠杀”风险日益逼近。如果在AWS大规模部署前，无法厘清比例原则的适用标准，那么未来的战场将可能沦为算法试错的修罗场。明确且具体地，本研究要解决的核心问题是：基于二零二四年ICRC研讨会的最新成果，自主武器系统在执行比例原则评估时，究竟面临哪些具体的技术与法律层面的模糊性？这种模糊性是源于算法本身的不完善，还是源于法律原则与机器逻辑的本体论冲突？这种模糊性将如何影响指挥官的法律责任认定及受害者的保护？本研究的目标是构建一个解析AWS比例原则适用困境的类型学框架。研究内容将首先梳理比例原则的法理内涵及其在自动化语境下的异化风险；其次，基于研讨会的实证材料，深入剖析数据偏差、环境复杂性及算法黑箱如何共同制造了“适用模糊性”；再次，探讨“人类判断”在这一技术闭环中不可替代的功能；最后，提出缓解这一模糊性的法律解释路径与技术治理建议。本文的结构安排旨在引导读者穿透技术的迷雾，直抵法律与伦理的内核。三、文献综述关于自主武器系统与国际人道法的兼容性研究，学术界长期存在着“乐观派”与“怀疑派”的激烈交锋。“乐观派”以施密特和阿金为代表，他们主张AWS在遵守比例原则方面可能优于人类。其核心论点在于，机器不受恐惧、愤怒或复仇欲望等情绪影响，且拥有更强大的传感器和数据处理能力，因此能够更精确地计算附带损伤半径，从而做出更符合比例原则的决策。部分计算机科学家如瓦尔什也指出，通过形式化验证方法，理论上可以为AWS设定严格的伦理约束代码。然而，这一派别的研究往往基于理想化的实验环境，忽视了真实战场的混乱与不可预测性。“怀疑派”则占据了主流话语。鲨鱼和海恩斯等学者指出，比例原则中的“过分”（excessive）是一个高度主观且依赖语境的价值判断词汇，无法被转化为二进制代码。他们认为，目前的AI技术，即便是最先进的深度学习模型，也仅具备相关性分析能力，而缺乏因果推理和道德直觉，因此无法理解“军事必要性”与“人道主义保护”之间的伦理张力。此外，关于“算法黑箱”的研究也表明，神经网络的决策过程缺乏透明度，这使得事后验证攻击是否符合比例原则变得不可能。针对二零二四年这一时间节点，文献开始呈现出新的转向，即从抽象的伦理辩论转向具体的技术实现细节。随着生成式AI和多模态大模型的引入，学者们开始关注通用人工智能（AGI）雏形在军事领域的应用潜力。然而，关于ICRC二零二四年技术-法律接口研讨会的专门研究尚处于空白阶段。既有文献多基于二零二三年之前的技术水平进行推演，未能充分反映二零二四年研讨会上披露的关于“场景理解”、“意图识别”等最新技术瓶颈对法律适用的影响。既有研究的不足之处在于，往往将法律与技术割裂开来讨论：法律学者不懂算法的权重分配，技术专家不懂比例原则的法理精髓。此外，对于“模糊性”本身的解构不够精细，缺乏将技术不确定性转化为法律风险的具体分析模型。基于以上分析，本文的研究切入点在于“技术-法律接口的模糊性”。理论价值在于，本文尝试打破学科壁垒，利用二零二四年ICRC研讨会这一独特的跨学科对话平台，实证分析法律概念（如“具体的军事优势”）在转化为工程语言（如“目标价值权重”）过程中发生的信息丢失与意义扭曲。创新之处在于，本文将重点剖析“动态模糊性”，即AWS在连续作战中如何因环境变化而导致比例评估标准发生漂移，从而填补了对AWS时间维度法律合规性研究的缺失。四、研究方法本研究采用规范分析法、文本实证分析法与跨学科案例研究相结合的综合研究设计，旨在全方位解构自主武器系统适用比例原则时的模糊性机理。在数据收集方面，本研究确立了以二零二四年ICRC技术-法律接口研讨会相关文件为核心的资料库。主要包括：ICRC发布的会议总结报告、背景文件《自主武器系统中的人机交互：比例原则的技术挑战》、与会专家提交的关于算法目标识别与附带损伤评估（CDE）的技术白皮书、以及相关国家（如美国、瑞士、荷兰）在会后发布的关于AWS法律审查的国家立场更新。同时，辅助收集二零二四年内主要军事强国国防部发布的关于AI军事应用的伦理指南及采购需求文件，以验证研讨会讨论内容的现实相关性。在分析技术上，首先运用“法律概念-技术指标映射分析法”。将国际人道法中比例原则的关键构成要素（如“平民”、“民用物体”、“军事优势”、“具体的”、“直接的”、“过分的”）提取出来，尝试在研讨会的技术文档中寻找对应的算法指标或工程定义。通过对比法律概念的内涵外延与技术指标的定义域，识别两者之间的“映射落差”，即模糊性的来源。例如，分析算法如何将“平民”定义为某种像素特征集合，而这种定义在面对伪装、混合人群等复杂场景时会产生何种误差。其次，采用“情境模拟推演法”。基于研讨会中设定的典型作战场景（如城市巷战、混合战争），结合当前AI技术的性能参数（如误报率、置信度阈值），推演AWS在这些场景下进行比例评估的可能结果。重点考察当输入变量（如平民密度突然变化）发生微小扰动时，AWS的输出决策是否会发生剧烈波动，以此评估其法律适用的稳定性。最后，进行“话语内容编码分析”。对研讨会记录中不同背景专家（法律顾问vs系统工程师）的发言进行编码，分析他们在描述同一问题时使用的术语差异。例如，法律专家强调的“合理指挥官标准”在技术专家口中是如何被转化为“统计学显著性”的。这种话语分析有助于揭示深层的认知论分歧。过程控制方面，本研究严格区分“在环”（human-in-the-loop）、“监督”（human-on-the-loop）与“外环”（human-out-of-the-loop）三种控制模式，重点关注在“外环”或弱监督模式下比例原则的适用问题。同时，为确保技术分析的准确性，参考了计算机视觉与机器学习领域的权威综述，避免对AI能力进行过度科幻化或贬低化的解读。五、研究结果与讨论通过对二零二四年ICRC技术-法律接口研讨会资料的深度剖析，研究结果揭示了在将比例原则这一法律规范嵌入自主武器系统的过程中，存在着难以逾越的“技术-规范鸿沟”，这种鸿沟导致了法律适用的极度模糊性。（一）输入端的模糊性：价值量化的不可能三角研讨会的一个核心发现是，比例原则要求对异质价值进行比较，即把“军事优势”（通常涉及战略战术价值）与“平民伤害”（涉及生命权与财产价值）放在天平两端。在人类指挥官的思维中，这种比较基于直觉、经验和道德律令。然而，对于AWS而言，这是一道数学题。研究显示，试图将这些价值量化面临着“不可能三角”：通用性、精确性与伦理可接受性无法兼得。二零二四年的技术尝试表明，如果为不同类型的目标（如敌方指挥所、弹药库）和平民生命设定固定的“分值”权重（例如，摧毁一个指挥所=100分，误杀一个平民=-50分），虽然实现了算法上的精确计算，但在伦理上是荒谬且不可接受的，因为它暗示了生命可以被定价和交易。反之，如果采用动态权重，算法需要根据战场态势实时调整分值，但这又导致了极大的不可预测性。此外，“预期的具体的和直接的军事优势”这一法律概念在算法输入端极难定义。算法擅长处理物理数据（如距离、爆炸当量），但很难理解“优势”这种抽象概念。研讨会专家指出，目前的系统只能将“优势”简化为“摧毁目标的概率”或“敌方资产的货币价值”，这完全曲解了IHL的本意。这种输入端的简化与扭曲，直接导致了比例原则适用的起点就充满了模糊性。（二）处理端的模糊性：环境感知与因果预测的盲区比例原则的评估高度依赖于对环境的准确感知和对攻击后果的可靠预测。二零二四年的研讨会技术报告披露，尽管计算机视觉技术取得了巨大进步，但在复杂的城市战环境中，AWS对“平民”与“战斗员”的区分能力仍存在显著的“长尾失效”问题。更为严重的是对“间接伤害”和“回响效应”的预测无能。比例原则要求考虑攻击可能造成的连带影响（如摧毁电厂导致医院停电）。然而，目前的AI模型多基于相关性训练，缺乏因果推理能力。它们无法模拟复杂的城市基础设施网络之间的级联反应。因此，AWS在计算“平民伤害”时，往往仅限于直接的物理杀伤半径（BlastRadius），而忽略了更为广泛和长期的系统性伤害。这种技术上的短视，使得AWS得出的“符合比例”结论，在法律的宏观视野下可能完全是不成比例的。这种因果预测能力的缺失，是技术在处理端最大的法律盲区。（三）输出端的模糊性：时间维度上的累积效应研究还发现了一个被长期忽视的时间维度模糊性。比例原则传统上是针对单次攻击进行评估的。然而，AWS具备“蜂群作战”或高频连续打击的能力。当数百个AWS在短时间内对同一区域进行独立但密集的打击时，单次攻击可能都微小到符合比例原则，但累积起来的平民伤害可能极其惊人。二零二四年的研讨会讨论了“聚合比例性”的问题。目前的算法架构通常是分布式的，缺乏一个中央大脑来实时监控累积伤害是否超过了总体的军事优势。当战场形势瞬息万变，AWS的攻击决策速度超过了人类的监视能力时，这种累积效应处于法律监管的真空地带。这种输出端的不确定性，使得判定整个军事行动是否合法变得模糊不清。（四）讨论：算法决策中的责任归属困境综合上述模糊性，讨论部分深入探讨了其带来的法律责任难题。如果AWS基于错误的环境感知（技术局限）或对军事优势的错误量化（模型偏差）发动了造成过度平民伤亡的攻击，谁应当为此负责？根据二零二四年的讨论，由于比例原则的适用标准在算法内部被模糊化和黑箱化，指挥官很难预见系统的具体决策路径。如果指挥官无法预见，那么依据“指挥责任”对其进行战争罪起诉就缺乏主观要件（明知或应当知道）。同时，程序员也难以负责，因为他们无法预测代码在无限复杂战场环境中的具体表现。这种“责任差距”（AccountabilityGap）在比例原则模糊性的掩护下被进一步放大。此外，讨论还指出，这种模糊性可能导致“寒蝉效应”或“冒险主义”两个极端。一方面，为了避免法律风险，指挥官可能过度限制AWS的使用，使其失去军事效能；另一方面，更危险的是，指挥官可能将比例评估的道德负担完全甩给机器，利用算法的模糊性为滥杀无辜辩护，声称“系统显示这是符合比例的”。贡献与启示：本研究的理论贡献在于，通过实证分析揭示了“法律代码化”的局限性，论证了比例原则包含着不可计算的人性内核。实践启示在于，对于未来的AWS治理，不能仅仅依赖提高算法的精度，而必须在法律上确立“情境依赖型的人类控制”。即在涉及平民密集的复杂环境中，比例评估必须由人类做出，AWS只能作为辅助的数据分析工具，而不能作为最终的裁决者。六、结论与展望研究总结：本文通过对二零二四年ICRC技术-法律接口研讨会的