今天的大多数家用机器人不过是经过美化的电动工具，比如只能胜任在沙发周围导航的扫地机器人。而像飞机自动驾驶仪这种能够完成高难度任务的机器人，则只有专业人员才能操作。这种情况不会持续太久。未来机器人将不再是单纯的工具，而是我们的合作伙伴。它们将在繁忙的公共场所自动运行，它们将驾驶卡车、在商店购物、在社区巡逻甚至管理急诊室。
因此，未来机器人必须学会与几乎不了解其工作原理的普通民众正常交互，学会成为真正的社交机器。然而，尽管会乘地铁的机器人听起来很酷，但是，如果身边有一个不会乘地铁但又必须要完成这项任务的机器人，恐怕意味着一场噩梦。
机器人能够成为生活的好帮手，还是更有可能把事情弄得一团糟？打开本书，它将回答你能想到的和你想不到的关于未来机器人的重要问题。

劳拉·梅杰（Laura Major），Motional公司CTO，领导自动驾驶汽车的开发。在此之前，她曾在CyPhy Works公司和Draper实验室工作，领导自动驾驶飞行器的开发。她曾被评为美国女性工程师协会新晋领导者。

译者序
致谢
作者简介
引言
第1章 自动化的入侵
第2章 没有自力更生的机器人
第3章 当机器人太过完美时
大多数事故不都是人为错误造成的吗？
机器人不会越来越聪明吗？
老问题和新挑战
第4章 三体问题
不礼貌的机器人，不礼貌的旁观者
设计能理解旁观者的机器人
设计让旁观者理解的机器人
缩小差距
三体问题的灾难性代价
第5章 机器人不一定要可爱
第6章 如何对机器人说“打扰了”？
说同样的语言
机器人思维的逆向工程
当其他模型发生故障时
第7章 机器人之间的对话
解放双手—不需要与人协作的机器人
许多人、许多机器人的场景
第8章 这座城市是半个机器人
为机器人设计的未来世界
组织世界来帮助机器人
装备世界来帮助机器人
适应智能环境，打造更智能的机器人
克服未来世界的社会熵
第9章 培养机器人需要全社会的共同努力
这个期望是现实的吗？
质量胜于数量
一条前进的道路
展望未来的机器人安全报告系统
设想为工作机器人建立一片试验场
未来成果
结论
参考文献

从好莱坞电影中对遍布
机器人的社会的畅想，到扫
地机器人帮助我们打扫客厅
、Alexa帮我们购物，以及
Siri、小度等为我们提供建
议和协助，机器人已经逐渐
走入我们的生活。不过，如
果希望机器人帮我们完成更
多的工作，甚至成为新的社
会成员，还有很长的路要走
。从技术上来说，人机协作
是一种更具革命性的理念。
在本书的设想中，人机协作
的方式应该是我们可以像对
待人类同伴一样将一项繁重
的任务交给机器人，机器人
能够理解人类的社会规范，
并按照规范来完成任务，即
机器人既可以完成任务，还
能够融入人类社会，然而实
现这种完美的人机协作是一
项巨大的挑战。
作为多年来研究机器人
、物联网相关技术的科研工
作者，见到这本书，首先想
了解本书的内容与我们之前
接触的相关书籍有何不同。
本书并没有将重点放在对机
器人技术的介绍上，而是围
绕“探索未来工作机器人前
所未有的设计挑战如何迫使
我们面对技术在社会中的角
色”这一中心问题，通过对“
如何利用人类和机器人的相
对优势”“自治系统是否会过
于独立而不利于自身的发展
”“如何为公共场所中由其他
系统支配的旁观者制定计划
”等问题的思考，从实践层
面探讨机器人在社区中应如
何处理旁观者这种更偏向哲
学层面的问题，特别是这些
技术将如何影响不同的社会
群体。本书面向所有希望了
解机器人的读者，为如何在
各个行业和整个社会中实施
、部署机器人解决方案提供
了参考，是一本不可多得的
科普类书籍。
翻译本书是对自己的知
识体系的补充，同时，也希
望更多相关专业的高校教师
、学生及工程师通过阅读这
本书而有所收获。
感谢参与本书翻译工作
的研究生蒲刚强、魏国晟、
黄万方、杨鹏、邹素华。感
谢机械工业出版社各位编辑
的鼎力协助。限于译者的水
平和经验，译文中难免存在
不当之处，恳请读者提出宝
贵意见。

在本书的设想中，人机协作的方式应该是我们可以像对待人类同伴一样将一项繁重的任务交给机器人，机器人能够理解人类的社会规范，并按照规范来完成任务，即机器人既可以完成任务，还能够融入人类社会，然而实现这种完美的人机协作是一项巨大的挑战。
本书面向所有希望了解机器人的读者，为如何在各个行业和整个社会中实施、部署机器人解决方案提供了参考，是一本不可多得的科普类书籍。

朱莉最近参加了一次晚
宴，话题和这本书有关。晚
宴主人告诉朱莉，她给母亲
买了一辆特斯拉，她妈妈很
喜欢！她每天都会使用自动
驾驶仪，但有时候也会感到
有些疑虑……每天早上，当
她启动特斯拉时，如果有软
件更新，她就会对冗长而复
杂的通知感到困惑；她急着
送孩子们去上学，于是很快
浏览一下就过去了。每个星
期人们都会收到几份这样的
通知，你可能只匆匆看一眼
。它们都很长，充满术语，
通常很难读懂，而且它们总
是在不合时宜的时候出现。
晚宴的主人可以确定她的母
亲不明白特斯拉会随着每次
更新而发生什么变化，她想
知道这对她母亲的安全驾驶
会不会产生影响。她的担心
是对的。
我们的街道、人行道、
医院、公寓大楼和商店正面
临第一波工作机器人的涌入
，不妨让我们停下脚步思考
一下。可以想象，随着机器
人变得更加先进，我们可能
会享受到更多的便利，或者
可能有更多与孩子们共度的
时光。对一些人来说，这些
机器人可能会改变他们的生
活，例如那些因身体原因而
不能自己去商店的人，有一
天机器人可以和他们一起工
作，甚至为他们工作。作为
自动驾驶汽车的设计师，我
们将有机会大幅提高道路的
安全性，就像在天空中做到
的一样。
然而，要享受工作机器
人的好处，并不只是成立大
量的公司，或者开发更复杂
的机器学习技术就能够实现
的。我们与技术的关系也必
须发生改变。协作机器人将
从根本上成为一种新的社会
实体，它们未曾经历几千年
的文化发展，而恰恰是这些
文化发展造就了我们人类，
使我们拥有了难以置信的高
级社交技能。确保机器人在
沙箱中运行良好是一个安全
问题，也是一个分享利益和
减少危害的问题，要做到这
一点非常困难，因为它既需
要技术革命，也需要社会革
命。
我们希望看到的人类与
机器人合作的前景是，人类
可以卸下包袱，而机器人可
以比人类更好地完成任务。
但我们的社会是复杂的，不
可能在计算机模型中完全获
取，我们也做不到为社会中
的机器人行为建立精确的模
型，以预测和预防所有不良
行为。引入机器人会给我们
的生活带来脆弱性和不确定
性，因此，建立可信赖的伙
伴关系必须成为首要目标。
我们需要为机器人设定比人
类更高的性能标准，因为有
时，机器人将会做一些人类
无法做到的事情。当我们把
人从机器人的直接控制中解
脱出来，就会把自己暴露在
新的弱点之下，科技界必须
认真对待这一责任。我们在
本书中花了很多篇幅讨论先
进的机器人可能会如何崩溃
，这是因为，当设计旨在使
我们意识到机器人的局限性
时，人机协作将永远是最成
功的。但重点根本不是技术
社区中目前有多少工人在从
事机器人的设计工作，相反
，我们的焦点一直放在添加
更多功能和使技术“有趣”上
。现在，这种方法存在安全
风险。
我们需要专注于发展完
美的伙伴关系，而不是试图
开发完美的机器人。我们认
为，为了实现这一目标，设
计完全独立的机器人是不可
行的，甚至是不可能的。我
们需要层层保护来制衡这些
新的社会实体，就像我们每
天以各种各样的方式帮助周
围的人一样。
本书的目标是提供一些
关于如何在这个技术不断发
展的时代前进的指导，这似
乎既熟悉又陌生。我们所有
人都必须弄清楚在短期和长
期内关于机器人与社会的对
话的基本术语，而且，我们
需要弄清楚如何适应工作机
器人的增加，以及这些机器
人将要经历的学习曲线。
工作机器人的新时代其
实并不陌生，因为工业设计
的某些分支早已了解在自动
化与人之间建立完美合作关
系的价值，这些经验为构建
可操作的“超人”以及安全的
自动化机器提供了很多启示
。几十年来对人类监督自动
化系统的基本优势和局限性
的研究，随着移动指挥中心
开始监督将覆盖城市的机器
人、无人机和自动驾驶汽车
，为我们理解什么是可以实
现的、什么是不可以实现的
提供了基础。先前的研究也
让我们看到，当邀请工作机
器人进入家庭并帮助我们完
成一些亲密的任务（如监督
孩子）时，我们可能会遇到
的陷阱。然而，当这些机器
人开始与旁观者和普通用户
互动或合作时，我们很快就
会发现自己进入了一片未知
的领域，因，为这些人基本
上不知道机器人是如何工作
的。
未来的方向是：努力定
义监管者和旁观者的角色，
确定人们可能与这些系统互
动的主要方式，设计机器人
的用户界面和智能以加强这
种伙伴关系。这意味着，在
许多情景下，要确保人们能
够快速理解机器人的主导模
式。例如，监管者需要一个
关于机器人功能的心理模型
，以及一种预测其未来行为
的手段，以便在需要时能够
对其进行干预。确保监管者
构建并维护适当的心理模型
很可能意味着选择一种即使
在感觉不必要时也需要用户
交互的设计，这与使用户感
到满意的用户体验设计原则
息息相关。设计知道如何在
行人周围行进并在必要时与
他们互动的工作机器人，将
需要一种新的技术：这不仅
仅是设计师的任务，作为旁
观者的行人自己也需要

如何打造未来的工作机
器人？人类应如何与之相处
？本书不仅提出了许多引人
深思的问题，而且给出了重
要且及时的建议。两位作者
在工业界和学术界拥有丰富
的经验，我认为没有人比她
们更有资格进行这一重要的
讨论。
——Amy Villeneuve
Amazon Robotics前总裁兼
首席运营官
本书再次打破了20世纪
的神话：自动驾驶机器人完
全依靠自己就能完美运行。
书中表明，机器人要想在真
实环境中获得成功，关键是
与人类和基础设施的协作。
为此，我们需要在社会科学
、行为科学、数据科学和物
理科学方面均有所建树的新
一代工程师。两位作者正是
这一代工程师中的领军人物
！
——David Mindell 麻省
理工学院教授，Humatics公
司创始人
本书将帮助我们理解人
机交互的重要性。一直以来
，好莱坞畅想的未来中总是
少不了各种各样的机器人。
为了实现这样的畅想，本书
解释了我们必须迎接的种种
挑战，从基本的交互到构建
完整的生态系统，读来十分
有趣。
——Henrik Christensen
加州大学圣地亚哥分校教授
我们的社会正处于一场
剧烈变革的边缘，这场变革
将彻底改变人与机器的关系
。两位作者对前行之路有着
清晰的认识，她们对未来发
展做出了深思熟虑、发人深
省、充满智慧的描述。如果
你也在认真思考未来，以及
那些将影响未来的关键决策
，那么本书是必读之作。
——Brian Christian 著有
Algorithms to Live By和The
Alignment Problem

第1章 自动化的入侵
自从机器人出现以来，我们不仅想知道它们能做什么，还想知道它们应该做什么。不过，这样的争论似乎有点偏学术性，因为在日常生活中，机器人不知不觉地就开始在我们身边突然冒出来。我们似乎总是在追赶，而没有足够的时间来仔细思考技术以及技术在我们生活中的作用。有一天，自动驾驶汽车似乎就这样出现在道路上。我们越过了技术的临界点，自动驾驶突然变得触手可及，因此，行业、政府和风险投资者纷纷追逐这一热点，我们也被带动着跟随其后。机器人已经开始出现在商店里，它们在过道里上下滑动，寻找溢出物和其他安全隐患。在我们走访的波士顿郊区的车站和商店里，顾客对这一切泰然自若，至少目前如此。但超市员工想知道，这些机器人的角色将以多快的速度扩张。
新技术的出现往往会让人感到突然，甚至大呼神奇。这是因为我们大多数人都没有意识到，多年来，使这些突破成为可能的往往是渐进式的、商业上无趣的技术创新。偶尔，新闻中的一个标题会预示一些新概念的发展，但这些发展很快就会消失在大多数人的生活中。可能需要几十年的时间，相关机器人才能出现，才会把这些技术创新变成有市场的机器。
自动驾驶汽车预示着将会出现一批新的智能机器人，它们将在社会上得到应用。这标志着我们在日常生活中第一次有机会与自治系统分享决策权和控制权。梅赛德斯-奔驰早在20世纪80年代就开发出了第一批自动驾驶汽车，它们可以在没有车辆的街道上以最高39英里每小时（约63千米每小时）的速度行驶。然后，在20世纪90年代和21世纪初，美国政府资助了日益强大的用于军事的自动地面车辆的开发，由国防部高级研究计划局（Defense Advanced Research Projects Agency，DARPA）赞助的大挑战项目更是使开发活动达到高潮。在这些开创性的活动中，汽车的自动驾驶里程超过100英里（约161千米），包括在城市道路中。大约从2005年起，汽车行业开始认真投资，将自动驾驶汽车带入现实。特斯拉在2015年首次提出商用自动驾驶仪技术。在所有这些故事中，似乎只有特斯拉及其同类竞争对手能够吸引公众的注意力。
从最初的设想到商业上可行的产品，30年的时间框架似乎是一个明智的选择。但是关于今天的自动驾驶汽车如何诞生的故事可以追溯到航空和工业领域中更早的历史。航空先驱劳伦斯·斯佩里早在1912年就发明了陀螺仪自动驾驶仪，以保持飞机平稳飞行，但后来又花了几十年时间，在引入电传技术后才实现了自动驾驶仪的全部潜在性能，使得飞行员可通过电子信号而不是直接通过机械耦合到执行器来管理飞机的操纵面。第一架没有机械备用装置的纯电传操纵飞机是1964年首飞的阿波罗登月着陆训练车（Apollo Lunar Landing Training Vehicle，LLTV）。F-16是第一架量产的电传操纵飞机。1982年引入了一个完全集成的飞行管理系统来控制飞行的所有阶段，这是第一次允许机器在飞行过程中执行从起飞到着陆的全部动作序列。因此，仅仅几年之后我们就看到了第一辆自动驾驶汽车，这也就不足为奇了。
在机器人领域，一个领域的突破会激发另一个领域类似的创新。2014年，谷歌翼（Google Wing）完成了第一次真实世界的无人机交互，2015年特斯拉的自动驾驶仪开始上路。。概念、传感器、计算机和软件因为不同的应用而各自逐步改进并得以广泛应用，最终汇聚在一起产生了看似突然的技术进步。当你在商店里看到一个机器人时，如果你感到惊讶，并且因为过道中间的小孩在追逐父母而担心机器人不能够安全地通过过道，想一想这里面的技术已经逐步细化了至少40年——这一事实可能会让你得到一些安慰。我们是如何达到这样一个阶段的——可以极大地改善生活的工作机器人即将变得无处不在，并且对于我们来说太复杂了，以至于我们无法控制自己，从而导致我们以前所未有的方式依赖这些机器人？
为了更好地理解一项技术进步与下一项技术进步是如何相互联系的，请把我们自己相关的系统作为智能生物来考虑，例如人类的感觉系统、遍布全身的神经网络，以及包括脊髓和大脑的中枢神经系统。每个组成部分的存在本身是不可思议的，但放在一起时，它们是神奇的。任何复杂的系统都需要一个感觉系统，不管它是由机器控制还是由操作员控制。在飞机上，许多仪器包括航向、空速和高度传感器。地面应用的感觉系统——如商店里的机器人或自动驾驶汽车——更侧重于环境成像和识别障碍。其中可能包括摄像头，它能像我们一样观察事物，并在光照和天气条件的配合下表现最佳；也可能包括雷达和激光雷达，它们分别发射无线电和光信号，并根据反射和反射回来的信号探测距离。无线电波被具有导电性的材料（如金属）反射得特别好，这使得无线电波在所有照明和天气条件下都能很好地探测标准的基础设施和物体（如车辆或机器人）。激光雷达用激光照亮一个场景，并测量反射光。它可以在白天和晚上可靠地、高精度地检测物体，但在雾和大雨等恶劣的天气条件下，它的性能就会下降。大多数机器人解决方案