人脑不断植入芯片，或能成为长生不老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？

始于惊奇，终于敬畏。伦理学家、北大哲学系何怀宏教授从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。高科技的种种挑战使我们不得不思考：何以为人，何以为物，人曾何为，人将何为？！

何怀宏，北京大学哲学系教授，博士生导师。主要研究领域：伦理学原理、应用伦理学、中西伦理思想史。主要学术专著：《契约伦理与社会正义──罗尔斯正义论中的历史与理性》、《良心论──传统良知的社会转化》、《底线伦理》、《道德·上帝与人》等；主要译著：《伦理学概论》，[美]梯利著、《道德箴言录》[法]拉罗什福科著、《沉思录》[古罗马]马可·奥勒留·安东尼著、《无政府，国家与乌托邦》，[美]诺齐克著、《伦理学体系》（主译）[德]包尔生著、《正义论》（主译）[美]罗尔斯著等。

何以为人　人将何为

——人工智能的未来挑战 / 001

人物、人际与人机关系

——从伦理的角度看人工智能 / 049

奇点临近：福音还是噩耗

——人工智能可能带来的最大挑战 / 077

回到“轴心时代”思考人工智能

——一些有关文明的感想 / 109

人工智能与底线思维 / 136

一种预防性的伦理与法律

——后果控制与动机遏制 / 152

基因工程伦理中的动机分析与后果预防 / 159

星空与道德律

——思考《三体》提出的道德问题 / 188

现代伦理如何应对高科技时代 / 215

影响战争的距离 / 240

后　记

在这篇“后记”里，我想简要地叙述一下我思考本书所考虑的问题的缘起，也谈谈我理解这些是什么性质的问题；高科技的挑战是不是真实的危险；人在应对这些挑战方面可以有何作为；或者如人们常说，人类总是可以大有作为的，但这作为是不是也需要在方向上有所调整。而隐藏在最深处的一个终极和底线的问题可能是：如果我们在应对挑战方面完全无所作为，甚至走错方向，人类还会有未来吗？或者说会有怎样的未来？

我在2017年以前对技术问题并没有特别的关注，写过一篇《战争手段的发展与道德理性的成长》，做过一次“对这个世界的失望与惊奇”的讲演，也在主编《生态伦理》中了解到某些技术对生态环境的严重影响，但并没有做过专门的研究，甚至很长一段时间里不喜欢看科幻电影和小说，因为觉得那太虚幻，而现实生活中有许多紧迫的问题，直到后来认识到：技术才是我们时代的“最大真实”。

专门的思考开始于为2017年世界哲学大会启动仪式召开的学术研讨会准备论文，因为会议的主题是“学以成人”，而当时正逢机器的自我深度学习见出成效，还有阿尔法打败了人类的世界围棋冠军等事件，使我觉得似乎机器倒是在努力“学以成人”，当然，只是努力“成人”的一个方面——智能。因此开始阅读相关书籍，努力思考人与物，古代人和现代人作为的差别，警觉到近代以来人们精力投向的一个根本转折，就是开始了以驾驭物质和技术为主导的价值追求。而这种追求如果越来越强，一意疾行，有可能导致在推进文明的同时也走向文明衰退。

而我自己的经历可能也对我转向关注技术的飞跃与文明的命运起了作用。作为一个在乡下长大的孩子，从童年到“文化大革命”初失学的几年，经常去捡柴、抓鱼、采摘。高中的时候先是认真地务农一年，然后是泛泛地学工一年，接触到了一些不同的农活和工种，然后当兵十年，再进入大学读书，20世纪90年代开始就进入大家现已熟知的生活了，使用日益更新的电脑、手机，也开始游走世界。

像我这一代中国人，可能几乎都有这样一种相当长的文明史的体验：从农业文明到工业文明，再到今天的高科技文明，甚至最前面还有一个“采集狩猎”的阶段。一个人在几十年间似乎就走过了人类上万年的文明历程，尝试过文明各个阶段的滋味。

因此，可以说，我这一代人可能会更加明显地感觉到我们这个时代的变化之大和技术文明的发展速度之快，而且是越来越快。人类自然科学的兴起和繁荣也就四百来年，与科技紧密结合的工业革命的兴起还不到300年，而目前最有力地推动着我们的经济发展和社会改变，也最影响我们的日常生活的那些新兴高端技术如现代信息和医疗技术，它们的诞生和飞速发展甚至大多还不到100年。

我最初的感觉是惊奇乃至惊喜，直到现在我想我也还保留着一种对新技术的强烈好奇。但是，对发展如此之快的经济、对我们生活具有如此笼罩性影响的技术将把我们带向何方，我的心里却同时也生起一种越来越大的隐忧。尤其是看到人工智能包含着一种产生超越于人的智能的机器的可能性、基因工程包含着一种改变人这个物种或干脆创造一个新物种的可能性的时候，我就更感到不安了。当透过各种技术的可能性深察技术本质的时候，我开始感到畏惧。不再是国家，也许技术将变成一个远比国家更巨大而强有力的“利维坦”，我们将由它全面照管，但可能也要将权利乃至主体性全都交出。

有关技术及其与人的关系问题不是仅仅和某个国家，甚至某个文明有关的问题，而是和整个人类及其全球化文明有关的问题。这首先是人类的控物能力与自控能力是否相称的问题。打个比方，人类今天发展出来的高端技术似乎有点像孙悟空手里的金箍棒，这根金箍棒能够越变越大，越变越威力无穷。但是，拿着这根棒子的人却不是孙大圣那样的神灵，而就是一个人，当金箍棒变得很大很沉的时候，他就几乎举不起来了，更谈不上挥洒自如。他如果要拼蛮力使用，就很可能伤毁自己。而且，他只知道怎么将它变大，却不知道怎么把它变小（今天的技术可能停滞或倒退吗？），不能像孙悟空那样可以将其收缩自如，乃至塞入耳中，一切恢复原状。而这根金箍棒又还是这人的唯一生存之道乃至唯一乐趣，它既是工具，又是武器，还是玩具，他离开它还没法生活。而这金棒子会随意变化，看来也通点灵性，最后大概会鄙视这个人，乃至取而代之。

人类的技术发展出巨大的，在地球上几乎可以说是颐指气使的控物能力。假如人类能够同时在道德和精神上无限成长，人能自己变成圣洁的神灵，那么，他拥有这些能力、并继续无限地发展这些技术大概也并不可怕，但人类虽然可以改善自己，提升一些自己的精神和道德能力，但人并不是无限可完善的。人就是人。人永远是一种中间的存在。我们也许还可以补充说，人还是一种中间向善和向上的存在，但人却永远不会是完善的神灵般的存在。人要成为神灵尚且不可能，要成为不仅全知全能，而且全善的上帝就更不可能了。

所以，我个人以为，人类实实在在地面临着一种来自技术的巨大挑战和危险。许多人可能会持有不同的意见。谈到人类可能面临的危险，一种意见大概会说：“人类可能遇到的毁灭性灾难还很远很远呢，我们为什么还要为此忧心？”比如说人们早已知道了热力学第二定律，地球和太阳系终将毁灭，人类将有自己的终点。但这没什么可怕的啊，这些自然的灭寂无疑还极其遥远呢。甚至比如彗星那种毁灭性的偶然打击虽然也有可能提前发生，但概率很低很低。而且，我们发展技术，不是正可以防范这种危险吗？所以说，对技术的忧虑是自寻烦恼或自卸武功。

..........