人工智能是一种行使权力的形式和一种观看方式，也是一种高度组织化的资本表现，人工智能完全依赖于一套更广泛的政治和社会结构。凯特·克劳福德通过引入地图集的方式来讨论塑造人工智能的经济、政治、文化和历史力量，只有将人工智能与这些更广泛的结构和社会系统联系起来，才能够摆脱纯粹技术概念的人工智能。在如今人工智能大行其道的世界里，通过不断对人工智能进行追问和批判性思考，才能够逐步接近真实的答案。

凯特·克劳福德（Kate Crawford），人工智能的社会和政治影响领域的知名学者、南加州大学安纳伯格分校的研究教授、微软公司纽约研究院的高级首席研究员，目前在巴黎高等师范学院担任客座教授。
她的研究重点是在更广泛的历史、政治、劳工和环境背景下理解机器学习和人工智能。

引言
世界上最聪明的马
AI是什么？既不人工，也不智能
将AI视作导航图
计算拓扑学
提取，权力和政治
第一章 地球
AI的挖掘
计算景观
矿物层
锡矿和白乳胶
“洁净技术”之谜
物流层
AI作为巨机器
第二章 劳工
工作场所AI的史前史
波将金AI与土耳其机器人
分解与工作场所自动化愿景：巴贝奇、福特和泰勒
肉类市场
时间管理与时间私有化
私人时间
设置速率
第三章 数据
让机器“看见”
数据需求简史
捕获面部数据
从互联网到图网
知情同意制度的终结
数据的神话与隐喻
“只是一名工程师”
占领大众
第四章 分类
循环逻辑系统
去偏见系统的限制
偏见的多重定义
训练集作为分类引擎的案例：图网
定义“人”的权力
创建种族和性别
测量的界限？
第五章 情感
情感预测：当感情付出代价时
“世界上最著名的人脸阅读者”
情感：从面相学到摄影
捕捉感觉：表现情绪的技巧
对埃克曼理论的诸多批评
面孔政治
第六章 国家
“第三次抵消”战略
实施Maven计划
从恐怖分子信用评分到社会信用评分
纠缠的干草堆
第七章 权力
捕获的领域
没有边界的竞赛
人工智能的管道
真实存在的AI
为什么是人工智能？
终曲 太空

世界上最聪明的马
19世纪末，全欧洲都为
一匹名叫汉斯的九岁大的德
国马着迷。这匹公马因展示
了非凡的智能而成为国际明
星：它可以解数学题、分辨
时间、确定日历上的日期、
区分音乐音调、拼出单词和
句子。人们蜂拥而至来观看
汉斯的表演，它用蹄子敲出
对复杂问题的回答，而且总
是能得出正确答案。在被提
问“2加3等于几”时，它会努
力地用蹄子在地面上敲5次
；在被提问“今天星期几”时
，它会用蹄子在特制的“字
母板”上轻敲字母，从而拼
出正确答案。汉斯甚至还能
回答更复杂的问题，比如“
我心里有一个数字，减去9
后剩余3，这个数字是几”。
这匹马很快赢得了“聪明的
汉斯”的昵称。1904年，《
纽约时报》以“柏林神马：
除了说话，他几乎什么都能
做”为标题来为它声援。
汉斯的训练师威廉·冯·奥
斯滕（Wimelm von Osten
，见图0.1）是一名退休的
数学老师，也是颅相学的拥
护者，他长期着迷于研究动
物智能。他曾尝试教小猫和
小熊认识数字，但直到开始
和汉斯合作，他才获得成功
。冯·奥斯滕首先教汉斯数
数，方法是握住它的腿，给
它看一个数字，然后在它的
蹄子上敲击同样的次数。很
快，汉斯自己就能用蹄子计
算简单的加法。接下来，冯
·奥斯滕引入了一个能够拼
写字母的粉笔板，汉斯能够
为粉笔板上的每个字母对应
地敲出一个数字。经过两年
的训练，冯·奥斯滕对这种
动物对高级智力概念的深度
理解感到震惊。因此，他开
始带着汉斯旅行，以此证明
动物能够进行推理。汉斯在
“美好年代”的欧洲轰动一时
。
但是很多人对此表示怀
疑，德国教育委员会
（German Board of
Education）成立了一个调
查委员会来验证冯·奥斯滕
的科学主张。这个委员会由
心理学家、哲学家卡尔·斯
图姆夫（Carl Stumpf）和
他的助手奥斯卡·芬斯特
（Oskar Pfungst）领导，
其中还包括一名马戏团经理
、一名退休教师、一名动物
学家、一名兽医和一名骑兵
军官。但经过对汉斯的大量
提问后委员会发现，无论训
练师是否在场，这匹马都作
出了正确的回答，委员会没
有发现舞弊的证据。正如芬
斯特后来写的那样，汉斯在
“成千上万的观众，各地的
马术师和一流的魔术师面前
表演，在几个月的观察中，
他们中没有一个人能发现提
问者和马之间存在任何有规
律的信号”。
委员会发现，这里面没
有什么欺骗行为，奥斯滕教
汉斯的方式更像是“教小学
的孩子”，而不是训练动物
，“值得接受科学检验”。汉
斯被宣布为“一匹具有推理
能力的马”，但斯图姆夫和
芬斯特仍然有疑问。其中—
个发现尤其令他们困扰：当
提问者不知道答案，或者当
他们站在很远的地方时，汉
斯很少能给出正确答案。这
使得芬斯特和斯图姆夫开始
思考是否有某种无意识的社
会交往为汉斯提供答案。
正如芬斯特在其1911年
出版的关于汉斯现象的著作
中所描述的那样，他们的直
觉是正确的：提问者的姿势
、呼吸和面部表情会在汉斯
得到正确答案的那一刻发生
微妙变化，给汉斯发出了应
该停下的信号。芬斯特后来
在人类被试者身上验证了这
一假设，并证实了他的结论
。这一发现最让他着迷的是
，提问者通常不知道他们给
了这匹马线索。芬斯特写道
，“聪明的汉斯”神秘事件的
谜底藏在提问者无意识的选
择中。这一发现让许多聪明
汉斯的粉丝感到震惊，冯·
奥斯滕拒绝接受这个结果，
继续展示汉斯，坚持认为汉
斯的智能是他专业训练的杰
作。
……
如今，更多的社会机构
受到大型科技公司的工具和
方法的影响，这些工具和方
法塑造了它们的价值观和决
策方式，并对他们所做的事
情和谁可以从中受益等方面
产生了一系列复杂的下游效
应。技术官僚权力的强化已
经进行了很长一段时间，但
这个过程现在加快了；部分
原因是在经济紧缩和合同外
包时期工业力量的集中，包
括缩减曾经作为市场制约力
量的社会福利制度和机构的
资金。这些只是我们要与作
为一种政治、文化和科学力
量的AI抗衡的一部分重要原
因。
我们正处于一个关键的
历史时刻，随着“人工智能”
作为一种思想和物质实践在
我们的社会中传播，我们已
经达到了哲学家艾蒂安·苏
里欧（Etienne Souriau）所
说的“质疑情
境”（questioning situation
）。我们处于这个时刻里就
需要对人工智能的生产和接
受提出关键性问题。问题应
该包括：我们如何定义AI，
它为谁服务，以及界限应该
在哪里。这意味着要考虑这
些技术所处的更广阔的领域
，以及它们直接和间接提取
自何处，以及谁将面临最大
危害。正如厄苏拉·富兰克
林所写的那样，“就像民主
一样，技术的可行性最终取
决于司法实践和对权力的限
制”。
我们需要对错综复杂的
技术和政治结构提出一些尖
锐的问题。其中一些问题不
会有简单的答案。但本书讨
论的并不是一场无法解决的
灾难或一条不归路一这样的
思维方式会使我们无法采取
行动。事实上，司法实践中
有许多可行的路径。但本书
也不是带有简单“解决方案

《纽约客》《金融时报》《麻省理工科技评论》交口称赞。比起进步，AI更有可能让整颗行星走向毁灭。
揭示人工智能的底层逻辑，ChatGPT给科技界带来的巨震不仅在于开放共享的新业态，也在于残忍无情的资源争夺战。
现在开始考虑并预防AI可能给人类社会造成的后果，并不算晚。