不远的将来，人工智能机器的智能将是人类的万亿个万亿倍，它们面对我们，并不像我们面对狗，而是如同我们面对蚊子、跳蚤甚至岩石，当它们消灭我们的时候，如同我们将蚊子拍死，将臭虫冲进下水道，谁会在消灭跳蚤的时候觉得这样太残忍了呢？！

希望每个人都来关注，希望每个人都来思考，希望这一切都还来得及……

人工智能机器面对我们的时候，就像我们面对蚊子，甚至岩石一样……

如果你认为这种超智慧的人工智能机器会被人类感动的话，你可知道，这是多么荒唐的想法？！请想一下，人会被狗感动而不忍杀死它们，但是人在拍死蚊子的时候，会被蚊子感动吗?

人类是由低级生物进化而来的，面对可能出现的更高级的物种，人类该如何抉择？

第1章 导言

第2章 我正在进行的工作

 自传

 我的工作

 基因算法

 神经系统进化

 FPGA技术的应用

 未来的任务和理想

第3章 使人工智能成为可能的关键技术

 摩尔定律

 可逆计算

 纳米科技：分子级工程

 人工胚胎形成学

 进化工程学

 自我装配

 综合所有的技术

 量子计算的人工智能

 作为人脑科学工具的纳米技术

第4章 宇宙主义者

 “全局”的论据

 “科学宗教”的论据

 “制造人工智能上帝”的论据

 “人类奋斗”的论据

 “经济动力”的论据

 “军事动力”的论据

第5章 地球主义者

 “自卫”的论据

 “畏惧差异”的论据

 “拒绝半机器人”的论据

 “不可预知复杂性”的论据

 “宇宙主义者的不体谅”的论据

第6章 人工智能的战争

第7章 人工智能时代

第8章 问题和解答

 问题1.“时间问题——如果人工智能发展得太快以至于关于人工智能的辩论来不及展开将怎么办？”

 问题2.“那么第三群体——半机器人是怎么回事呢？”

 问题3.“为什么没有一个甜蜜和轻松的前景呢？”

 问题4.“为什么不使用毁灭开关？”

 问题5.“我们能够在人工智能机器上应用阿西莫夫三大法则吗？”

 问题6.“为什么给它们刀片呢？”

 问题7.“为什么过度强调负面部分？”

 问题8.“你是否是一个伪君子？！”

 问题9.“如果一个人工智能机器变得有意识，消灭它吗？”

 问题10.“没有更紧迫的问题吗？”

 问题11.“悲剧可以避免吗？”

第9章 总结

术语表

参考文献

后记

编辑手记

我的人工大脑制造工作和我的机器吸引了世界媒体的关注——一个星期内有两家国际媒体联系我。法国的主流报纸Le Monde写了大约10余篇关于人工智能的文章，由于媒体的大量关注以至于引起了一次国会听证会。法国是世界上第一个在政治上讨论宇宙主义的国家(巴黎，2001年7月)。

看起来我的生活似乎非常顺利，直到灾难的到来。信息泡沫变成了信息灾难。投资者不再向高科技有风险的研究室投资。实验室破产后，我损失了10万美元，也丢掉了工作。

我的下一份工作是在美国当计算机科学教授。难以置信的巧合是，我到美国工作的第一天正好是2001年9月11号。我的系主任那天早上在大学旅馆里碰见我，说：“嗨！德。加里斯。你看到这个了吗？”他指向电视机。“奇怪的行为”，我想。但是顺着他的指向看去，我看到了一幢着火的大楼，并且认出它是纽约世贸中心，我呆若木鸡。过一会儿，当我在大学餐厅用早餐时，听到一个学生尖叫，“他们撞了另一幢大楼！”“美国一直是这样吗？”我心里琢磨着。

作为一名教授，现在我必须去适应美国的个人主义和放任主义的态度，去适应教书的需要。我忙得发疯，去争取研究资金并努力适应我到的第6个国家。这些都需要很多精力，所以我没有在媒体上宣传我的宇宙主义观念。

几年前，我给一些退休人员作关于人工智能辩论的讲座。结束后，一个出版商找到了我并问：“你考虑过写一本关于人工智能的书吗？”这个问题的答案就是您现在手中的这本书。

我的工作

在这一节里，我将对我这些年所从事的工作进行更详细的阐述，重点介绍近十年的，因为这些和本书的主体最有联系。

早在20世纪80年代晚期，我就开始利用一种模拟达尔文进化的软件形式，所谓的基因算法(Genetic Algorithm)来设计神经网络，并开始发表一系列的科学研究论文。到我获得博士学位时，我已经发表了20篇论文。

神经网络可以被想象成由像枝节一样的纤维(叫做轴突(axon)和树突(dendrite))连接起来的三维大脑细胞矩阵。来自神经元的信号由轴突发送出去。树突将信号传入神经元。当一个轴突和一个树突相连，形成的联系叫做神经键(synapse)。

在一个真正的生物大脑中，每一个神经元或者大脑细胞拥有上万个神经键。也就是说，它可以被上万个来自其他神经元的信号所影响。这些神经信号同时到达一个神经元，被加强或者加权，然后相加。如果总的信号大于神经元激活阀值，神经元就会被激活，也就是说，它会顺着自己的轴突发送电子脉冲信号，信号的频率决定于总的信号强度大于阀值多少。轴突的脉冲发送到神经键，进一步影响其他的神经元。

神经元(人脑细胞)有许多不同的存在方式。

这种生物神经网络可以用程序模拟。在20世纪80-90年代，一个典型的神经网络里的神经元数目大概有10余个到100个不等。当时我的博士研究工作，每个神经网络通常最多拥有16个神经元。这和我现在工作中使用近1亿个神经元形成了强烈的对比。

下面几页对我的工作进行了更为详细的描述，并且技术性更强。我希望你能够坚持下去，但是如果理解起来确实有困难的话，跳过此节也不会太影响对本书总体的了解。同时在这里提醒您一下，本书最后有一个术语表，可能会对阅读有所帮助。

基因算法

基因算法(Genetic Algorithm)是一种达尔文进化的程序模拟形式，用来优化任何被进化的性能。实际应用中，我把基因算法用于神经网络的进化。具体通过以下的方式来模拟神经网络的运行。首先要考虑如何描述神经网络本身。我使用16个神经元并且让它们和自身以及其他神经元连接，因此，总共有16×16＝256个连接。输入信号的强度，以普通的十进制数字来表示，例如10.47，再乘以一个权值，例如0.537，然后相加。作为这个概念的一个例子，想象一个非常简单的只有两个神经元的网络，因此，有4个连接。神经元1输出的信号通过连接或形成神经突起C11发送到自身，并且通过连接或形成神经突起C12发送到神经元2。神经元2输出的信号通过连接或形成神经突起C22发送到自身，并且通过连接或形成神经突起C21发送到神经元1。假设在某个时刻的强度是S1和S2(例如，10.54和7.48)。

每一个连接Cij(或者形成神经突起)拥有一个相应的权值Wii，用来和通过该连接输入的信号强度相乘。因此，输送到神经元2的信号总强度应该是(W12*S1＋W22*S2)。对于神经元1计算也类似。总共有4个这样的权值。假设每一个权值的范围在－1到＋1之间。因此，每一个权值可以用二进制小数来表示，比如说8个比特(二进制数字，0或者1)。4个这样的数字可以用4×8=32个比特来表示，可以排列成有32个比特的一行。对于16个神经元，我们将用一个有16×16×8=2048个比特的行或串来表示我将用来进化的神经网络的16×16个权值。

如果我知道2048个比特的值(0或者1)，我将可以计算所有的256个权值，并且可以通过它们建立一个完全连接的神经网络。相反，如果知道所有的权值，并且知道输入信号的初始值，我们就可以计算出每一个神经元发射时候的信号强度。如果知道了每一个神经元是怎么发射的，就会知道整个神经网络是怎么发射信号的或是怎么运转的。我们可以提取某些神经元的信号，并且把这些信号当作控制信号，来控制一些活动，比如说，通过控制机器人腿的角度来让它行走。

为了解释基因算法是怎么运用于此的，想象一下产生了100个随机的比特串，每个长2048个比特。从每一个比特串我们可以构造一个相应的神经网络。对于每一个网络都采用同样的初始信号来让网络的信号传输启动。提取其中的某些输出信号并且使用它们，比如，通过控制构成棍形腿的4个线条的角度宋让棍形腿走路。我们可以测出在一定时间内腿的走动距离。

那些走更长距离的神经网络的比特串，可以存活到下一代。那些走的距离短一些的比特串则会死亡，这就是所谓的达尔文定律，即“适者生存”。比特串越适应，即具有更高性能分数或“高适应值”的就越会复制自己，产生所谓的“孩子”或后代。然后，这些孩子和它们的父辈一起被“变异”，也就是说，每一个比特有一个很小的概率来改变相应的值(0变成1，1变成0)。两个比特串可以“交配”，即一个称为“特征交换”的过程。它有很多方式。一个简单的方式就是，选取两个父比特串或者通常所谓的“染色体”，在同样的位置把它们分成两部分，然后交换相应的部分。这等价于性，基本上来说就是混合来自父辈的基因来产生后代。

越适应的父辈就拥有越多的后代。每一代基因算法拥有一定的总体数量，例如100。大多数的变异和特征交换会让染色体拥有更低的适应值，所以它们将被从总体中清除。偶尔的一次变异或一次特征交换则会增加一点染色体的适应值，以至于在某个时候它会把自己的父亲或者其他低适应值的染色体挤出总体。通过对这样的过程循环几百次，就有可能进化出性能更好的神经网络，或者任何需要进化的目标。(P26-31)

我和雨果·德·加里斯相识已久。近几年，我们常同时被邀请在国际未来思考者的聚会上演讲。我们都认为，21世纪晚期，人类将不得不面临被一个新物种，即由超级智慧人工大脑控制的超级智能机器人所取代。德·加里斯和我不同的是，(使用他的术语)他基本上是一个“宇宙主义者”(“Cosmist”，即那些认为应该制造“神一样的超级智能机器”而不考虑人类未来生存是否有危险的一类人)。我认为，德·加里斯会把我归类于“地球主义者”(“Terran”，即那些反对宇宙主义者去制造这样超级智能机器的一类人)。

我记得，在一次国际会议上，他问我是宇宙主义者还是地球主义者。我说我可能更倾向于地球主义者。德·加里斯半开玩笑地说：“战争就此开始了！”他是指此书中提到的“人工智能战争”。他认为，在本世纪(即21世纪)晚期，将在宇宙主义者和地球主义者之间爆发一场关于人类是否应该制造那些神一样的“人工智能机器”的“大战”。

事实上，我认为自己更倾向于一个“半机器主义者”(“Cyborgian”，是指那些期待用技术来改良自身成为“半机器人”的人，也就是说一半是机器，一半是人类)而不是“地球主义者”。我希望，通过改良自身，人类可以转化成半人工智能机器，获得德·加里斯所说的神一样的力量，从而不必承担“大战”的威胁，且还能分享一块蛋糕。在某种意义上，我在寻求一种折中方法——不是让超级智能人工大脑反对人类，而是我们加入它们。

几年前，德·加里斯和我在瑞士的一个会议上做客座演讲。为了更加生动，德·加里斯让会议组织者给他一把玩具牛仔手枪，当我们做完演讲后，他半开玩笑地用这把枪向我“射击”(照片见本书文前彩插)。它的标题是“人工智能战争的第一次枪战”。我希望现实不会像这个游戏那样。德·加里斯对于21世纪晚期那场战争的场景预测，就是21世纪武器的使用造成了几十亿人的死亡，这是非常令人沮丧的。为了人类(和半机器主义者)的生存，我很坚定地希望他是错误的，绝对错误的。

读完本书后，读者可能对我过于乐观的愿景能否实现深感怀疑。德·加里斯的推理令人恐惧，但不得不信服，即使我内心对他所说的很排斥。他在“人工大脑”这个新领域里是先驱者的事实，只会让他的见解更加可信。如果要说世界上有哪个人在预测高级人工大脑对于人类影响方面取得卓越成就的话，那么这个人就是德·加里斯。

我相信本书将有深远的影响。几十年后，如果德·加里斯关于“物种主导问题将在本世纪主导全球政治”的言论被证实是正确的话，那么他将是21世纪最主要的思想家之一。对于德·加里斯我没有任何冒犯，我希望他被证实是错误的、夸张的和反应过度的。因为如果不是这样的话，他的预言就会在我们的儿孙辈成为事实，他所说的“大规模死亡”对于人类是一件太可怕的事情。

不管你在宇宙主义者—地球主义者的观点范围中处于何种位置，这都是一本你不能也不应该忽视的书。它太重要了，太轰动了，不应该被草率地忽视。我建议你读它，然后再读一遍，试着找出逻辑和辩论上的漏洞，以便我们可以期待一个和平繁荣的21世纪。如果德·加里斯的见解是正确的话，那个像电影《终结者》中描述的地狱般的梦魇将会成为事实。

凯文·沃里克博士

英格兰里丁大学控制论教授

《我，半机器人》、《机器的思想》、《机器的前进》的作者

他在“人工大脑”这个新领域里是先驱者。如果世界上有哪个人在预测高级人工大脑对于人类影响方面取得卓越成就的话，那么这个人就是雨果·德·加里斯。

如果“物种主导问题将在本世纪主导全球政治”这一推测被证实，那么雨果·德·加里斯将是21世纪最主要的思想家之一。

——英国里丁大学控制论教授凯文·沃里克博士