“魔术师的徒弟”

关于机器的危险性，维纳在《控制论》一书中有过深入分析。他认为， 即使当我们感到机器有危险时，也很难把它及时关掉。要有效地关掉一部机器，我们必须要得到是否到了危险点的信息，事实上却不能保证得到这种信息，特别是计算机的高速运转，已经超出我们对危险指标及时作出考虑的能力。问题是，现在有了这类有效力的机器。在过去，类似的可能性被认为是魔法，成为各种传奇和民间故事的题材。维纳讲了一个“魔术师的徒弟”的故事：

一个最有名的魔术故事就是哥德的“魔术师的徒弟”。故事中说， 魔术师离开了他的徒弟、仆人和打水的零工。零工是一个懒惰而有发明才干的小孩，他把他的打水的工作交给一把扫帚，对着扫帚他喊出从主人那里听来的魔木的约言。扫帚殷勤地为他工作，毫不停止。小孩快要淹死了。他发觉他没有学会，或者是忘记了叫扫帚停下来的第二句咒语。在绝望中，他拿起扫帚，用他的膝盖把它折断，使他惊慌的是，扫帚的两半继续在打水。幸好在他没被完全淹死以前，主人回来了，主人念出咒语叫停住扫帚并且给他的徒弟一顿严厉的责骂。①这个故事说明，即

使像扫帚打水这类“机器”，也有置人于死地的危险，更不用说智能机器。问题是，我们有没有魔木师的咒语。这个“咒语”不是魔术，而是人的智能。既然我们赋予机器智能，我们就应该有比机器更高的智能，也就不必害怕罗博特的“觉醒”。

人类制造机器，机器反而要控制人，这也是一种异化。要克服这种异化， 全靠人的高智能。既要奴隶聪明，又要奴隶顺从，这是不可能的。鱼与熊掌不可兼得。除非我们不赋予机器智能，制造的机器永远是奴隶，但不聪明。聪明的奴隶一定会醒悟的，而且总要改变自己的奴隶地位，力图使自己成为主人。人是这样，机器也不例外。怎样才能使机器奴隶与它的主人在位置上不会颠倒 180 度呢？关键不在机器，而在于人自身，在于人本身的智能发展。

维纳多次提醒人们说：“当我们使用‘有理智的’机器的时候，我们自己应该在我们利用这些机器之前，表现出更大的理智和才能。如果我们要求机器有‘理智’，那么我们就应该要求自己更有理智。”

人们最担心的不是机器有智能，而且这种机器已经制造出来，还成为人类的助手，但这并不可怕，可怕的是机器发展的速度太快。

1978 年，美国航天局戈达德宇宙研究所所长罗伯脱·贾斯特罗认为计算

机的能力是按几何级数增长的，自从 1946 年以来，每 8 年就增长 10 倍，已

经连着发生了 4 代计算机进化——从真空管、晶体管、简单集成电路到今天

的奇迹硅片。而到 80 年代，以记忆磁泡、约瑟夫逊结这类奥妙的装置为基础

的第五代计算机就可以出现在市场上。到 90 年代，当第六代计算机问世的时候，从硅片制造出来的那样一种智能，就其体积之小与推理能力之强而言， 将足以同人脑相比了。再过十五六年，用专家的术语来说，就是再经过两代革新——我们就会看到计算机将成为一种新出现的生命形式。他推测，我们可以期望，将由人类之中产生出一个新的物种来，超过人类成就，就像人类超过自己的先辈直立猿人的成就一样。只有狂妄自大的碳素化学家才能假定新的物种一定是人的骨肉后裔，得是有薄薄的颅骨包着脑子的生物。这种新的有智力的生命更可能是由硅构成的。

不论怎样，机器智能发展的速度比人的智能进化的速度快得多。机器智能日益逼近人的智能，人的智能只有加速进化，才能在这场人机智力大战中立于不败之地。

随着人机智力竞争的发展，人机职位争夺也会愈演愈烈。当机器是奴隶时，它只能放大人的体力，可以代替人手，在人机竞争中使“人手贬值”， 抢了一些“蓝领”工人的饭碗；当机器有智能时，它能放大人的智力，可以代替人脑，在人机竞争中又使“人脑贬值”，抢了一些“白领”职员的饭碗。这叫做结构性的失业，是难以避免的。

1986 年，美国科幻小说家阿西莫夫在《机器人·社会·未来》一文中指出，应该考虑另一个潜在危险，也许是最大的危险，就是机器人越来越高级， 具有灵巧的双手和多种感官，最终会达到有儿分理性的程度。“到了那时， 难道它们不会从人的手里接过越来越多、越来越复杂、越来越有创造性的工作吗？”岂不是真的会像美国一位未来学家所说的那样，我们进入到“无工作可干的社会”，“我们人人都担心失业”吗？阿西莫夫的回答是：“人毕竟有其高明之处、不可及之处，古往今来，无不如此；如有机器人（包括电子计算机）相助，我们或许还有希望拯救自己和世界。”①