为什么人工智能必将威胁我们的文明？
我要跟大家分享的观点，听起来可能更明确，我主张
，对人工智能的发展，至少应该进行重大限制，而且这种
限制现在就应该进行。
人工智能的好处就不用说了，想必大家都知道。现在
在媒体上一点都不缺关于人工智能好处的信息，而且很多
搞人工智能的人士也整天跟我们讲好处，所以用不着我再
跟大家讲了。我们现在需要讲人工智能的危险。
对于人工智能这样的东西，我们必须认识到，它跟以
往我们讨论的所有科学技术都不一样。现在人类玩的最危
险的两把火，一把是生物技术，一把就是人工智能。生物
技术带来很多伦理问题，但是那把火的危险性还没有人工
智能大，人工智能这把火现在最危险。最近一些商业公司
，通过“人机大战”之类的商业炒作，一方面加剧了这种
危险，但另一方面也激发了公众对人工智能前景的新一轮
关注，这倒未尝没有好处。
我们可以把人工智能的威胁分成三个层次来看：近期
的、中期的、远期的——也就是终极威胁。
近期威胁：大批失业、军事化
人工智能的近期威胁，有些已经出现在我们面前了。
近期威胁基本上有两条：第一条，它正在让很多蓝领工人
和下层白领失去工作岗位。现在较低层次的人工智能已经
在很多工厂里被大量使用。有些人士安慰我们说，以前各
种各样新的技术发明的时候，也曾经让一些工人失去岗位
，后来他们不都找到新的岗位了吗？但是人工智能不一样
。你们也许已经在媒体上看到过了，包括人工智能的从业
者自己也都在欢欣鼓舞地展望，说我们现在绝大部分的工
作岗位，人工智能都是可以胜任的。
果真如此，显然这个社会将会变成绝大部分人都是没
有工作的，只剩下少数人有工作。对于这样的社会，我们
人类目前没有准备好。我们今天如果有少数人没有工作，
多数人有工作，我们把少数人养着没问题，这样的社会是
我们现有的社会制度和伦理道德结构能够承受的。但是如
果颠倒过来，这个社会中有相当大的比例——且不说超过
50%，按照那些对人工智能的展望，将来90%以上岗位上的
工人都是会被人工智能取代的。比如说你们想听一场这样
的报告也用不着找我来做，找个人工智能来做做就可以了
，说不定比我讲的听起来还要来劲。
当这个社会大部分人都没有工作的时候，社会会变成
什么样？肯定会非常不稳定。那么多没有工作的人，他们
可以用无限的时间来积累不满，酝酿革命，于是就会危及
社会稳定。无论东方还是西方，无论什么意识形态的社会
制度，在这个形势面前都将黯然失色。所以说人类还没有
准备好。
顺便再展望一下，既然90％以上的工作都可以由人工
智能来完成，那么“革命”这种工作岗位能不能使用人工
智能来取代?革命能不能由人工智能来发起和进行?当然也
可能。但是想想看，这样的革命会带来什么呢?很简单，那
就是科幻影片《黑客帝国》和《未来战士》中的世界——
人类被人工智能征服、统治、压迫。
这是人工智能近期的第一个威胁，现在在很多工厂已
经出现了。对工厂来说，这个级别的人工智能是很容易实
现的。那些工厂的管理者说，我们换一个机器人上来，它
的成本只不过是三个工人一年的工资，但是它们管理起来
太容易了。管理工人很难的，你让他加班他不愿意，加得
多了他可能跳楼自杀或上街游行，而机器人你让它24小时
一直干着都没有问题，管理成本又节省下来——管理成本
往往是无形的，不是那么容易计算的。结果是，换用机器
人很容易就可以收回成本，一年就收回来了。所以他们乐
意用机器人取代工人。我看见我们一些地方政府还通过政
策鼓励当地的工厂用机器人来换掉工人，你就不想想，你
所在的城市，不需要几年，几百万工人失去工作，到那个
时候后悔就来不及了。
人工智能近期的第二个威胁，汪镭教授说过，加入军
队的人工智能是可怕的。但现在以美国为首的某些发达国
家，最起劲的事情就是研发军事用途的人工智能。研发军
事用途的人工智能本质上和研发原子弹是一样的，就是一
种更有效的杀人手段。为什么伊隆·马斯克之类的人也号
召要制止研发军事用途的人工智能?道理很明显，研发军事
用途的人工智能，就是研发更先进的杀人武器，当然不是
人类之福。
今天我们只能，而且必须抱着和当年搞“两弹一星”
类似的心态来进行军事用途的人工智能研发。军用人工智
能就是今天的“两弹一星”。
比较理想的局面，是各大国坐下来谈判，签署限制或
禁止人工智能的国际协议。目前国际上已出现一些这样的
倡议，但仅来自某些学者或学术机构，尚未形成国家层面
的行动或动议。
中期威胁：人工智能的反叛和失控
我们再来看人工智能中期的威胁。大家肯定早就在媒
体上看到过，有一些人工智能的专家出来安慰大家说，人
工智能现在还很初级，即使它战胜了李世石，不过是下个
棋，即使它会作诗、写小说，它还是很低级的，你们不用
担心。这种安慰非常荒谬。
我们都知道“养

山
刘慈欣
最后一个勇敢的人
郝景芳
暗 室
韩 松
水星播种
王晋康
鼠 年
陈楸帆
桃源惊梦
江 波
海的女儿
宝 树
百鬼夜行街
夏 笳
一个人的愿望
陈 茜
后记

一、山在那儿
“我今天一定要搞清楚你这个怪癖：为什么从不上岸?”船长对冯帆说，“五年了，我都记不清蓝水号停泊过多少个国家的多少个港口了，可你从没上过岸。如果蓝水号退役了，你是不是也打算像电影里的主人公那样随它沉下去?，，
“我会换条船，海洋考察船总是欢迎我这种不上岸的地质工程师的。”
“是陆地上有什么东西让你害怕吧?”
“相反，陆地上有东西让我向往。”
“什么东西?”
“山。”
他们现在站在蓝水号海洋地质考察船的左舷上，看着赤道上的太平洋。一年前蓝水号第一次过赤道时，船上还娱乐性地举行了那个古老的仪式，但随着这片海底锰结核沉积区的被发现，蓝水号在一年中反复穿越赤道无数次，他们已经忘了赤道的存在。
现在，夕阳已沉到了海平线下，太平洋异常的平静，冯帆从未见过平静的海面，这让他想起了那些喜马拉雅山上的湖泊，清澈得发黑，像地球的眸子。一次，他和两个队员偷看湖里的藏族姑娘洗澡，被几个牧羊汉子拎着腰刀追，后来追不上，就用石抛子朝他们抡石头，贼准，他们只好做投降状站住，那几个汉子走近打量了他们一阵儿就走了，冯帆听懂了他们嘀咕的那几句藏语：还没见过外面来的人能在这地方跑这么快。
“喜欢山?那你是山里长大的了?”船长说。
“不，”冯帆说，“山里长大的人一般都不喜欢山，他们总是感觉山把自己与世界隔绝开来。我认识一个尼泊尔夏尔巴族的登山向导，他登了四十一次珠峰，但每一次他都在距峰顶不远处停下，看着雇用他的登山队登顶，他说只要自己愿意，无论从北坡还是南坡，都可以在十个小时内登上珠峰，但他没有兴趣。山的魅力可以从两个方位感受到：一是从平原上远远地看山，再就是站在山顶上。
“我的家在河北大平原上，向西能看到太行山。家和山之间就像这海似的一马平川，没遮没挡。我很小的时候，妈第一次把我抱到外面，那时我脖子才刚硬得能撑住小脑袋，就冲着西边的山咿咿呀呀地叫。学走路时，总是摇摇晃晃地朝山那边走。再大一些后，曾在一天清晨出发，沿着石太铁路向山走，一直走到中午肚子饿了才回头，但那山看上去还是那么远。上学后，我还试过骑着自行车向山走，那山似乎随着我向后退，丝毫没有近些的感觉。时间长了，远山对于我已成为一种象征，像我们生活中那些清晰可见但永远无法到达的东西，那是凝固在远方的梦。”
“我去过那一带。”船长摇摇头说，“那里的山很荒，上面只有乱石和野草，所以你以后注定要面临一次失望。”
“不，我和你想的不一样，我只想爬上去，并不指望得到山里的什么东西。我第一次登上山顶时，看着抚育我长大的平原在下面延展，真有一种新生的感觉。” 冯帆说到这里，发现船长并没有专注于他们的谈话，他正仰头看天，那里，已出现了稀疏的星星。“那儿，”船长用手里的烟斗指着正上方天顶的一处说，“那儿不应该有星星。”
但那里有一颗星星，很暗淡，丝毫不引人注意。
“你肯定?”冯帆将目光从天顶转向船长，问道，“GPs早就代替了六分仪，你肯定自己还是那么熟悉星空?”
“那当然，这是航海专业的基础知识……你接着说。”
冯帆点点头，继续道：“后来在大学里，我组织了一支登山队，登过几座7000米以上的高山，最后登的是珠峰。”
船长打量着冯帆，说：“我猜对了，果然是你!我一直觉得你面熟，改名了?”
“是的，我曾叫冯华北。”
“几年前你可引起不小的关注啊，媒体上说的那些都是真的?”
“基本上是吧，反正那四个大学生登山队员确实是因我而死的。”
船长划亮一根火柴，将熄灭的烟斗重新点着，说： “我感觉，做登山队队长和做远洋船长有一点是相同的：最难的不是学会争取，而是学会放弃。”
“可我当时要是放弃了，以后也很难再有机会。你知道登山运动是一件很费钱的事，我们是一支大学生登山队，好不容易争取到赞助……由于我们雇的登山协同和向导闹罢工，在建一号营地时耽误了时间，然后就预报有风暴，但从云图上看，风暴到这儿至少还有二十个小时的时间，我们当时已经建好了7900米处的二号营地，立刻登顶的话时间应该够了。你说我这时能放弃吗?”
“那颗星星在变亮。”船长又抬头看了看。
“是啊，天黑了嘛。”
“好像不是因为天黑……说下去。”
“后面的事你应该都知道：风暴来时，我们正在海拔8680米到8710米最险的一段上，那是一道接近90度的峭壁，登山界管它叫第二台阶中国梯。当时距离峰顶已经很近了，天还很晴，只在峰顶的一侧雾化出一缕云，我清楚地记得，当时觉得珠峰像一把锋利的刀子，把天划破了，渗出那缕白血……很快一切都看不见了，风暴刮起的雪雾那个密啊，一下子就把那四名队员从悬崖上吹下去了，只有我死死拉着绳索。可我的登山镐当时只是卡在冰缝里，根本不可能支撑五个人的重量，也就是出于本能吧，我割断了登山索上的钢扣，任他们掉下去……其中两个人的遗体现在还没找到

本书由王晋康、刘慈欣领衔作品，收录目前亚洲唯有的两位雨果奖获得者的作品。
书中作品获“雨果奖”是世界科幻文学界的最高奖项，被誉为“科幻界的诺贝尔奖”。
《水星播种》是“中国科幻小说基因库”系列之一，由专业编辑根据连续20年的“最佳科幻小说”选出。

本书是讲述人类进行地球改造与宇宙太空探索的科幻故事。收录了刘慈欣的《山》、郝景芳的《最后一个勇敢的人》、韩松的《暗室》、王晋康的《水星播种》等九部中短篇科幻小说。其中，刘慈欣、郝景芳是目前亚洲仅有的两位获得全球科幻作品最高奖项雨果奖的作家。本书由专业科幻编辑郭凯根据连续二十年来国内“最佳科幻小说”选出，超值超厚，一览中国科幻全貌。