处于清醒意识的边缘：精神错乱的机器

斯塔福德·比尔的自由机器，这个旨在取代政府职能的规模巨大和每日更新的计算机系统，确实是一次罕见的尝试。但是，像国家安全委员会下面的危机控制中心和参谋长联席会议的“预告”系统却更加明显同时也更加危险地被用于高层次的决策过程。其危险性在于，制定这些计划时所持的那些看来比较理性的期望与最终决定计划发展方向的特定环境之间存在着不协调之处。当一场真正的危机发生和政治领袖希望这些计划像所宣传的那样发挥效用时，当世界的和平失衡需要迅速作出决策时，这些机器的运转也许会背离政治领袖的处事原则。它们会变得非常疯狂，它们的智能——尽管是人的智能——会因为彼此矛盾的命令而变得混乱不堪。这一切都是怎么发生的？

在建立危机控制小组的初始，有关的领袖可能认为这个计划是为了实现当代世界一个无可非议的和需要优先考虑的目标，即对大量数据进行收集。信息崇拜症在这方面留下的痕迹最为深刻：用最先进的计算机收集数据给人以精密和深奥的印象，使之具有更强的吸引力。

随着越来越多的计算机和网络投入运行，它们收集的数据在种类和数量上开始以指数形式增长，全面地收集信息就像一个永远得不到满足的愿望。对那些研制了计算机系统来寻找很难获得的特殊信息的计算机专家来说（如果没有机器的帮助，仅凭人类的智力是很难获得这类信息的），网络的建成总是一件令人高兴的事情。保罗·布雷肯告诉我们，国家安全委员会拥有的COMINT 程序用窃听电话的方法收集到苏联“数百万条往来于苏联军事机构和政治机构之间的信息”。国家安全委员会拥有许多套监视程序用来收集大量的数据，COMINT 只是其中的一种。“在八十年代里，”布雷肯说：“由

于使用计算机，我们得以对敌方全部指挥系统的几百套程序里的信息进行搜集和比较。”他认为在这方面还可以走得更远，比方监测苏联港口内的洗衣房，这样也许可以得到“有关地面部队和潜艇部队何时出动的极有价值的战略情报”。在不远的将来，在五角大楼战争机器的某一地方，也许有一台计算机将为苏联海军士兵穿过的肮脏的内衣内裤打制表格，分析这个关键指数的意义，用图表制成决定世界和平命运的动态决策模型。

储存在政府计算机系统里的数据，就其类型和数量而言，绝非单个的人脑所能处理。危机期间使用计算机的领袖们也许根本不知道为什么某些形式的信息会被收集起来或者赋予重要的意义。那些坐在闪烁的荧光屏前轻叩键盘打印出权威的图表和模拟图形的人肯定会感觉自己跟上了时代的潮流而意气风发。他们是世界上所有数据的主人，在信息时代里处于领先的地位。这里需要指出一个最容易被人忽视的事实：他们操纵的计算机是由程序来支配的，而程序又是根据认识前提和价值观编制的。显现在他们面前供思考用的信息并不是完全中性的“原始数据”，虽然危机控制人员以职业性的超脱态度认为它们就是一些原始数据。他们的初衷是根据需要提供客观的信息，然而信息向来是经过编辑、增删、权衡和组织的，对它的选择也许反映出浓重的意识形态的色彩。计算机表达出来的信息越简单，越图表化，就越需要详细的解释。正如撰写一篇摘要，必须更密集地浓缩原文，它的结论也必定会显得十分武断。因此，入侵格林纳达期间危机控制人员向里根总统提交的图表必定包含着他们对加勒比地区的政治形势、世界范围内共产主义者的意向以及美国在西方社会中的作用等一系列问题的看法。他们必须权衡采取外交行动和军事行动的利弊。总统是否完全了解哪些数据被省略了、哪些作了哪些利弊比较以及什么是认识前提？有人为生成信息的程序负责吗？未来的总统是否还会使用在罗纳德·里根执政期间所编制的这个危机控制程序？

随着计算机系统的延续，这样的问题越来越难于回答。大型的计算机程序很少是单个的，并且很难确定为个人的劳动成果，它们常常是由一组程序编制人员和研究人员共同完成的。在任何时候，工作小组总是兼容并蓄各式各样的风格和爱好，每个人处理问题的方法不同，能力也有高低之分。个人之间的差异并不都是显而易见的，程序编制人员的工作带有客观、一致的表象。而他们创造的人工智能也的确反映出他们的趣味、选择和判断。

终有一天系统需要更新和调整，掌握新标准的另一批程序编制人员必定会把新的判断带进工作中去。管理五角大楼武器系统的程序也将在几任总统的任期内得到修改。人们将对程序作重大的检查调整，以便使程序在现存的、已经过时的硬件里将就运转。系统不仅是技术的产物，它也是由大量的程序编制人员研制的、具有历史意义的人造产品。大部分程序已无法辨认是由哪些人编制的，人们也无法清理这个集体劳动的成果。分别在一九六二年、一九六八年和一九七四年在政府计算机系统工作的程序编制人员，他们头脑中有关战略及世界政治的基本认识分别是什么？在这些年头里，哪些是计算机专家采用的理论和方法？

约瑟夫·韦曾鲍姆提出过一个尖锐的问题：许多超大规模的计算机系统现在由“难于理解的程序”加以管理，由于电子媒介经过多次的修改增删， 已经没人能对其中的内容负责了。

那些规模极大的计算机系统是由几组程序编制人员耗费多年的时间才建成的。当系统终于投入使用的时候，大部分程序编制人员已经离开了系统，

或者承担了别的研究项目。这些巨大的系统开始运转时，其内部的工作机制已经无法被单个的人或一小组人所理解。

由于程序难于理解从而造成了许多事故，三里岛上一家中型核工厂发生的事故便是一例。有关人员经过数小时后才把控制警报程序的意思扬清楚。用不了多久，这类的事故将更难处理。目前人们在开发一些不用人介人便可自动编制程序的技术。这种根据运行情况自我编制程序的技术是人工智能研究的最新发展方向。IBM 的一项成果是“根据范例提问”，其程序语言由于可以节省编制费用而被商界逐渐采用。爱丁堡大学的唐纳德·米基提出过警告，他认为这种自动程序编制技术可能会造成“技术上的黑洞”，“人类将无法理解计算机作出关键性决定的原因”。虽然自动编程程序仍然要由人来编制，但是它却使运行这些程序的计算机更加远离了人类的控制。

由难以理解的程序管理的计算机正在进入一种技术疯狂状态。它们正在成为一种支离破碎的智能，其前提认识和标准已经毫无理性可言。当然，如果计算机是危机控制计划的一部分，它将继续地处理数据，把数据转换成图表和模型，继续给人以理性的表象。计算机擅长于非人化的精确运行，它不会走火人魔。真正疯狂的是那些决策者以及把许多重大义务都托忖给机器的社会。把人类应负的责任推诿给似乎永不出错的机器是一个真正的诱惑，它深深地根植于我们的文化之中。

建立执政机器的思想基础是西方社会科学传统中一个恒定的信念：大自然的全部秘密都可以用简化分析和机器模拟的方法被人类充分认识。这个信念进入了研究与开发计划后，使我们这个时代的各个方面发生了惊人的变化，人类身体的各个器官程度不同地被机器装置所替代。遗传工程正在改变遗传机制，寻找重建和改良生命结构的途径。自从十八世纪出现模仿人类心理状态的粗糙的发条模型以来，对人脑的模仿一直就是机械学家日程表上的一个课题。现在，由于模仿人类思维的数据处理技术在不断发展，这方面的思想日趋成熟。它认为，人类的思想，不论从哪方面看，都可以视为“仅仅” 是一部稍微复杂一些的信息搅拌机，只要遵循简单而正规的数据组织步骤就可以发挥出最大的功效。比如医学中的机械模型是一些可以维持病人生命的人造心脏或者人造肾一样，而在认识科学领域里，人们要发明一种可以模仿人脑最高层次功能的机器，它应当具有推理、判断和作出决定的能力。

如果人工智能研究和认识科学能够虚心一些，承认计算机模型也许会有助于我们理解人类的某些和有限的方面，那么情况可能会是另外一个样子。由于人脑和计算机这两个作用大致相同的事物在性质上必须相同，上述看法的正确与否尚无法确定，但是它至少可以表现出一点受人欢迎的谦逊态度。在人工智能和认识科学的领域里，一些专家的看法不甚乐观，另外的一些专家甚至准备得出自我否定的结论，这就是：计算机模型的真正意义在于，它反映出我们对人类思维理解的贫乏程度和模型意义的难于理解的程度。

然而，这种谦逊的态度没有得到专业人员的喝彩，因为它不能吸引拨款

和获得赞助。当其他学科突飞猛进时，这种态度显得低人三分。它也不会有助于确立一个经费充裕的职业。在大公司和军事工业机构提供数目大得惊人的奖赏下，人们很难拒绝这些集团希望进行的浮夸宣传。信息崇拜者中不乏献身研究人类思维的人。数据处理模型是他们的全部工作，他们愿意尽可能地推进这项研究。

也许他们不会推进得太远。除了一些有限的作用，比如数据处理和程序

化的思维方式，计算机绝不可能等同或者代替人脑。原则上可以排除这种可能性，因为这类尝试的前提就是错误的。不过，用计算机模拟方式对人类思维及其用途重作定义却不矢为可行之举。我们可以用机械的方式低层次地模仿人脑的思维活动。假如一定要建立执政机器的话，这是一条必须遵循的原则。我们在本章叙述计算机用于社会领域时，已经大致地描绘了低层次的模仿范围。在任何情况下，复杂的社会现象必须浓缩成计算机有能力处理的简单数据。政治活动必须演化成舆论的传播，战争必须演化成对速度和弹道的计算以及兵力投入和上百万人的死亡。

重要的是应认识到这些愚蠢的简化，即使无人利用，对某些社会力量也是极其有用的。官僚主义的经理、公司精英、军事当局、安全和监视系统都可以利用计算机里的数据来制造混乱、散布神话、进行恫吓和控制别人。他们掌握了绝大部分的信息源和计算机，公众对于信息的崇拜又给他们的优势地位蒙上一层神秘的面纱。

他们有效利用手头信息的原因是很明显的。这些社会集团占有很多利益，信息要为这些利益朋务，计划也要根据这些利益制定。在军事方面，他们力主保存单一民族的国家体制；在经济方面，他们要按照企业家特有的道德规范行事：在政治方面，他们要进一步发展实用主义的管理方法。所有这些都颇具理性，从来没人提出过疑问，也不需要公众的承认和讨论。他们手里有一张明确而简洁的日程表：把更多的利润和权力集中到那些已经拥有利润和权力的人的手中。只要这张日程表秘不示人，把大量的信息输入到规模更大的数据库并通过全球网络更有效地运行似乎就是一件必须甚至是对社会有利的事情。这只是技术的必然延续。我们就像感觉季节的变换那样感觉到信息时代的来临。

不论信息时代的前景多么诱人，我们付出的代价从未超出过所得到的东西。对隐私的侵犯使我们失去了自由。选举政治的堕落又想使我们失去民主。计算机化的战争机器更是对人类生存的直接威胁。假如这些责任可以归诸于计算机的错误使用，或许可以稍稍抚慰我们受伤的心灵。然而，这正是那些发明了信息技术和在其每一个发展阶段都予以引导和资助的人渴望已久的目标。计算机是他们的机器，计算机的神秘性帮助了他们。