战略与生存简单分析

1、21/21第十二章 战略与生存不情愿采纳新的补救方式就会产生新的邪恶，因为时刻是最伟大的改革者。弗朗西斯培根在前面的章节我的讨论贴近于技术可能性的牢固基础。那个地点，我将冒险深入到政治和人类行为领域。那个基础是比较软一些的，然而技术事实和进化法则仍将在那个领域提供可靠的支持。被进化的压力推动的技术竞赛，正把我们带向未知的危险，我们需要查找到应付它们的方法。因为我们在前面差不多看到了面临的巨大的危险，因此考虑停止盲目的奔驰是有意义的。然而我们能做些什么呢？个人克制作为个体，我们能够克制自己不去做可能导致危险能力的研究。的确，大多数人会克制，因为大多数人不是第一线研究人员。但那个策略也不能阻止进步

2、：在我们的多元化的世界，总有其他人会把研究工作向前推进的。地点抑制个人克制的策略（至少在这件情况上）带有简单的无所作为的意味。但地点政策的策略又如何呢？比如游讲议员提议并通过抑制某些研究的法律？这事实上也是一种个人行为，目的是强迫集体无所作为。尽管这种策略可能在某个都市，行政区，国家，或联盟内抑制研究，但也不能关心指导我们的方向，而只会使某些不受我们操纵的力量取得领导地位。这种类型的公众运动只能在人民掌握权力的地区停止研究，同时最大的成功可能也仅仅是打开了使一个更专制的国家成为领导力量的大门。在考虑核武器的情况下，争论通常围绕着单方面裁军和非暴力（至少是非核化）抵抗。核武器能够被用来摧毁军事设

3、施和使恐惧气氛蔓延，然而不能用来占据地区或者操纵人民不能直接地。核武器也不能抑制游击战争和社会动乱，因此一个裁军的策略和抵抗运动具有某种程度的参考意义。从另一方面来讲，单边抑制纳米技术和AI，将在抵抗不起作用的情况下导致单方面裁军。一个好斗的国家会利用这些技术来攻占和统治（或消灭）象甘地的印度那样的国家，或者武装起来的为自由而献身的战士。这值得强调。没有一些新的方法来改革世界上的专制性国家，简单的压制研究的运动就不能取得完全的成功。而没有完全的成功，任何要紧的成功都意味着民主国家的灾难。即使不能得到，这种类型的努力也将吸引激进的人们的热情和工作，使稀缺的人类资源白费在无意义的策略上。更甚者，抑

4、制策略将会使研究者互相疏远，挑起盟友之间的争斗并白费更多的人类资源。这种无意义和分裂的前景使这一策略应该被幸免。尽管如此，压制是不可幸免会被提出的，因为它简单而直接“危险来了？让我们停止它！”，还有地点立法的成功能够保证短期的效果：“危险来了？我们能够现在就地停止它，在开始的时候。” 危险在开始时可能会失败，然而可能可不能引起每个人的注意。简单压制的念头大概会诱发专门多方法。怎么讲，地点政府压制本地的危险是个传统，例如，通过阻止本地的污染者，减少本地的污染。通过地点抑制来阻止全球危险大概也是类似的，不管可能有什么差不。我们将需要地点组织和政治压力，但必须建立在一个可用策略的基础上。全球抑制协议

5、在一个更有希望的途径上，我们能够用地点压力通过磋商来达成可证实的，世界范围的禁令。一个类似的策略可能能操纵核武器。然而停止纳米技术和人工智能将造成问题的顺序位置不同，至少因为以下两个缘故。第一，这些技术不象核武器是明确定义的：因为目前的核技术需要某些稀有的同位素，这和其他技术是有区不的。它能够被定义同时（原则上）被禁止。然而现代生物化学逐步走向纳米技术，现代计算机技术逐步走向AI。没有一条自然分界线。由于每个小的进步都将带来医学的、军事的、经济的利益，我们如何样才能达成一个世界性的禁止协议呢？第二，这些技术比核武器更有效：因为反应堆和武器系统都相当大，通过观看就能够限制秘密力量的规模和强度。然

6、而危险的复制机是专门微小的，AI软件是无形的。我们如何能明白某个实验室差不多达到了突破的边缘了呢？最后，我们如何能明白某个地下室中的黑客差不多达到了突破的边缘了呢？通常的查证方法差不多不管用了，这也使得世界范围内的磋商和禁止变得几乎不可能。面对正确的国际协议的压力将使我们的道路更安全，然而协议只是简单地抑制危险的步伐。再一次，地点压力成为可用策略的一部分。强制性全球抑制假如和平协议不起作用，人们可能会考虑用军事力量来抑制危险的进步。然而因为存在验证的问题，单独使用军事压力是不够的。强迫压制进步的需求会转变为一种制服和占据敌对势力的力量看起来不是个安全策略。还有，战胜的力量本身会成为一个要紧的技

7、术力量，拥有巨大的军事力量和使用它的意愿。这种力量能保证会压制自己的进步吗？而且即使能够，它能永久保持全球性的警惕吗？假如不能，威胁就会秘密滋生，在一个活性盾的开放性研究被阻止的环境下。结果将会是灾难性的。民主国家中的军事力量有巨大的用处，然而军事力量本身不能解决我们的问题。我们不能通过一个制服和压制研究的策略来得到安全。这些停止研究的策略不管是通过个人无作为，地点无作为，磋商协议，或是制服世界都大概注定会失败。然而反对进步的观点仍然将扮演一个重要角色，因为我们需要选择，聪慧地制定推迟威胁到来的目标，直到我们能够做好预备。警惕者的压力是因该有的，然而应该是关心引导进步，而不是停止它。单边领先假

8、如尝试压制AI和纳米技术的研究是无意义和危险的，那么相反的过程一个单方面的努力又如何呢？这是太紧迫的问题了。在民主国家中将不能在完全保密的情况下产生战略性的突破。这需要太多的人和太多的时刻。由于苏联领导人能明白我们的努力，他们就会相当关注，而我们的突破会被他们视为威胁。假如纳米技术被作为一个秘密的军事项目的一部分来开发，他们的情报分析家将会担心某种小而有力的武器，或许是基于一种可编程的“微生物”。依照这种情况，我们的对手可能会抢先采取主动进攻。因此民主国家在此技术上保持领先是重要的，而假如我们采纳明显的非威胁政策再加上这种力量我们就会特不安全。力量的平衡假如我们按照上述任何一个策略行动都将引起

9、激烈的冲突。压制纳米技术和AI的尝试会触及到研究者、企业、军事组织、和病人的切身利益。尝试通过这些技术来获得单边优势会引起我们和我们对手的竞争。所有的策略都会引起冲突，然而有必要使所有的策略都引起西方社会的分裂或者使世界变得恶劣吗。为了寻求一条中间道路，我们要寻求一种建立在技术平衡基础上的力量平衡。这看起来会延伸四十年来的和平状态。然而那个地点的关键词是“看起来”：立即到来的突破将会专门突然并动摇旧的平衡状态。在过去，一个国家能够承受几年的技术落后并保持大致的军事平衡。有了快速的复制机或先进的AI，一天的落后差不多上致命的。稳定的平衡看来确实是不可奢望的了。合作开发在原则上，存在一种方法能够保

10、证在民主国家和苏联集团之间取得技术平衡：我们能够合作开发技术，共享我们的工具和信息。尽管这也存在明显的问题，但至少是更实际一些。合作谈判是可能的吗？武器限制条约谈判的失败会立即出现在脑海，而合作看起来更复杂和更困难。然而真是如此吗？在武器限制谈判中，每一方都试图阻止另一方的行动，这加深了他们的对抗关系。更有，它也引起欢迎武器限制的集团和制造武器的集团之间的冲突。更糟的，磋商围绕着措辞和含义的争论，每一方都有自己的语言并歪曲它本身的含义。从另一方面来讲，合作使两方面朝着一个共同目标前进，这能够减缓对抗的关系；还有，它也能够减轻每个集团间的冲突，因为合作的努力会建立项目而不是消除项目；最后两方会用

11、一种共同的语言来讨论一种科学的和工程上的使用数学和图表的语言。同时，合作有清晰的边界和可见的结果。在1970年代中期，美国和苏联开展了一个联合太空打算，在政治关系紧张之前他们差不多在为一个联合太空站作了一些试验性打算。这不是孤立的事件，在太空或在地面，联合打算和技术交换差不多进行了专门多年了。尽管有问题，技术合作也可保证至少和武器限制一样容易也许更容易，考虑到后来的更大的努力。在AI和纳米技术被关注的情况下，合作和有效的武器限制将是相似的。要核实武器操纵条约需要持续地亲热地由一方的专家去观看另一方的实验室一种和可想象的最完全的合作接近的关系。然而合作会出现什么结果？它可能能保证平衡，然而平衡不

12、能保证稳定。假如两个面对面的持枪的枪手互相都高度恐惧，他们的力量是平衡的，然而首先开枪的一个能够消除另一个的威胁。在技术开发中的合作，除非认真打算和操纵，将会给每一方提供可怕的武器而却不提供防护。谁能保证其中的一方能突然打击而不受损害？即使有人能保证这一点，那么其他力量的问题呢还有爱好者呢？以及意外事件呢？在上一章我描述了这些问题的一种解决方案：开发，测试，并构造活性盾。它提供了对新问题的一种新的补救方法，还没人能提出另一种可供选择的方案。假如有人提出了，我们应该首先考虑如何建筑和是否它们能让我们采取可用的对策。战略的综合个人克制，地点抑制，选择延迟，国际协议，单方增强，和国际合作所有的策略都

13、能关心我们去努力开发活性盾。考虑一下我们现在的情况，民主国家在科学和技术的大部分领域处于世界领先地位差不多几十年了，我们今天在计算机和生物技术方面处于领导地位，因此，我们是领导力量。看起来也没有理由讲我们不能保持这种领先地位。象上一章所讨论的，领导力量将能使用几种策略来掌握组装机突破。这包括使用密封组装机实验室和受限的组装机，并保守初始组装机开发的秘密。在我们使用这些策略的同时，我们能够开发活性盾技术。这种技术反过来又能够关心我们实现一个安全的，多样性的以后。这一策略的第二部分和目前的敌对力量之间的政策相关。那个地点，我们必须保持主动并把威胁降到最低。技术平衡可不能起作用，我们也不可能放弃领先

14、地位。这使得力量和领导成为我们的仅有的真正的选择，并使得非威胁姿态更难实现。那个地点我们再一次需要稳定的、可信赖的机构：假如我们能使它们用心地朝向目标，那么即使我们的对手也将在一定程度上信任它。为了使我们的对手（和我们自己）安心，这些机构应该尽可能地开放，并与他们的任务一致。我们也能建立一个机构扮演与苏联合作的角色。通过邀请他们参与，即使他们拒绝我们提出的条件，我们也能够传达我们的意图使他们放心。假如苏联情愿同意，他们就能得到联合开发的一个立足点。假如民主社会在突破到来时依旧强大，假如我们能幸免威胁到任何政府操纵它的版图，那么我们的对手可能就可不能觉得攻击有什么好处。因此，我们就可能不通过合作

15、来完成，假如需要的话。活性盾 vs 太空武器考虑我们会如何样在更传统的领域应用活性盾是有用的。在传统上，防备需要使用和进攻一样的武器。这也是“防备”意味着“制造战争的能力”的一个缘故，和什么缘故对“防备”的努力也使对手可怕的理由。目前提出的太空防备将扩展这种形式。几乎任何能够摧毁导弹的防备系统都能够摧毁对方的防备或加强空间的封锁，阻止对方抢占制高点。这种“防备”有进攻的味道，因此军备竞赛会导致另一种危险的飞跃。进攻和防备是如此不可分的吗？从历史上来看是如此。城墙在有战士防守的情况下才能够阻挡入侵者，然而战士也能够去入侵不的国家。当我们想象武器的时候，通常也会想象出使用它的手和使用它的意愿历史教

16、育我们要想到最坏的情况。而今天，历史上第一次，我们开始学习如何样建筑和武器有本质不同的防备系统。考虑在太空的例子，我们现在能设计能够传感（看起来象一千枚导弹刚刚发射），处理（看起来是企图首先打击），和动作（摧毁那些导弹！）的装置。假如一个系统只能反击一堆导弹，那么它就不能被用来进攻或做太空封锁，更好的，它能够被设计成不能区不进攻方。尽管设计者可能有战略意图，它也不听从任何将军的命令。它只能把太空变成进攻导弹的危险区域。象海洋和山脉限制了早期战争一样，它会为每一方都提供一些防护。尽管会用到武器技术（传感器，跟踪器，激光，制导装置，等等），但这种防备并不是武器系统，因为它的角色全然上是不同的。这种

17、类型的系统需要一个有区不的名称：它们，事实上，是一种活性盾一个用来描述任何非威胁性的自动或半自动防备系统的词语。通过为各方提供防备又不威胁对方，活性盾能够减弱军备竞赛。由活性盾引起的技术，经济，和战略的话题是复杂的，它们可能或不可能被应用于前组装机时代。假如它们是有用的，就会有几种可能的建筑途径。一种途径是，合作的民主社会单方面建筑。为了让其它的国家能检验系统能够和不能够干什么，我们能够同意多方视察关键性的设计、组件、以及生产过程。我们不必泄露所有的相关技术，因为明白什么和明白如何去做是不一样的。另一种不同的途径，我们能够合作开发防护系统，通过有限的技术转让和最低限度的合作和检验的需求。我们在

18、禁止太空武器方面比禁止纳米技术方面有更多的机会，这也许是最好的减少近期风险的路子。在选择操纵军备竞赛的长期战略上，我们必须考虑更多的几步。在本章中我的简单分析暗示了传统的基于谈判和可证实的限制的军备操纵方法，不能用于纳米技术。假如这是关键，我们就需要进展不同的途径。活性盾最终会提供一个新的，稳定的方法来解决太空军备竞赛。通过探究这种方法，我们能够探究所有活性防护系统的差不多原理。假如我们开发出了它们，我们就能够获得经验，并能够制定制度来保证我们的生存。活性盾是一个基于新技术的新选项。要让它们能工作需要工程上的制造性、各学科间的综合、和国际上的战略。它们提供了能让我们幸免过去出现的僵持状态的新选

19、择。它们显然也提供了一个解决非威胁性爱护问题的答案但不是个简单的答案。力量、邪恶、无能和懒惰我差不多概要描述了纳米技术和先进AI系统将会带给领导力量多大的威力能够被用来摧毁生命的威力，或者延长并解放生命。由于我们不能停止这些技术的进展，那么我们就必须应对这种历史上从来没有过的浓缩的威力巨大的力量。我们需要一个相应的组织机构体系，为了能安全地掌握复杂的技术，那个体系必须具有推断事实的各种方法；为了能安全地掌握力量，它必须能综合有效的检查和平衡，它的目标和采纳的方法必须对公众开放并同意公众审查；最后，因为它能关心我们为新世界奠基，因此它最好由我们的共同兴趣指引，并限制在某些原则的框架内。我们不能从

20、凑合开始，我们要依靠现有的机构。它们是不同的，不是所有的机构差不多上官僚主义的并都躲在巨大的灰色建筑中的；它们包括象自由出版，研究团体，和先进的网络如此的充满活力的机构；这些分布广泛的机构关心我们操纵灰色的、官僚主义的机器。部分来讲，我们面对的是一个关于限制滥用权力的古老而又一般的问题的新的版本。这可不能带来巨大的和全然的新奇变化，同时有几个世纪历史的自由民主的法则和机构也告诉了我们如何样解决它。民主政府差不多掌握了能够摧毁陆地和能够抓住，监禁和杀死人民的物理能力，然而我们能够在这种能力下存活因为这些政府相当和气和稳定。立即到来的时代将会给我们的机构带来更重的担子。关于有代表性的政府、自由言论

21、、权力作用、法制、爱护人 权的原则依旧是至关紧要的。为了承担新的责任，我们需要扩展和振兴这些原则和支持它们的机构。爱护技术方面的言论自由也是至关紧要的。尽管我们面对一个巨大的挑战，然而我们依旧有理由希望去面对它。因此，依旧有明显的理由怀疑我们能迎接它，然而无望是传染性的和令人讨厌的，同时会使人沮丧。另外，无望也是未被证实的，尽管是熟悉的问题：邪恶我们太邪恶而不能做正确的事了吗？无能力我们太笨而不能做正确的事了吗？懒惰我们太懒而不去做预备吗？尽管预测以后是玫瑰色的有点轻率，然而这些问题看来也不是不可解决的。民主政府是大的，臃肿的，同时有时造成暴行，但它们总体上来讲并不邪恶，尽管它们容纳那些能够被称为邪恶的人。事实上，它们的领导人要紧通过公开赞成那些传统的好的方法来获得权力。我们的首要危险是那些看起来好的然而会引起灾难的政策，或者真正好的政策没有被建立，公布和实现效力。民主遭受懒惰和无能的痛苦多于邪恶。无能因此是不可幸免的，然而是致命的吗？我们人类生来确实是愚蠢和无知的，但我们常常设法组合我们的能力和知识的碎片来完成伟大的情况。没人明白如何到达月球，也没人学习过，然而差不多有十二个人在月球表面闲逛过了。我们在技术方面成功是因为我们学会了建立关心人们生成和测