前言

最近，我在旧金山参加聚会时遇到一个人，他介绍自己是一家小型人工智能初创公司的创始人。

这位创始人在知道我是《纽约时报》的科技专栏作家之后，就开始推销自己的公司，他说他们正在尝试采用一种叫“深度强化学习”的人工智能新技术来革新制造业。

他解释说，现代化工厂正在费力地实施所谓的“生产规划”，即一种计算哪些机器应该在哪几天生产哪些产品的复杂技术。他说，现在大多数工厂雇用人工来查看堆积如山的数据和客户订单资料，以确定塑料成型机是否应该在星期二制作“X战警”雕像、在星期四制作电视遥控器，或者反过来。这是一项枯燥但必不可少的工作，如果缺少了这项工作，那么现代资本主义可能会停滞不前。生产制造公司每年要花费几十亿美元来做好这项工作。

这位创始人介绍说，他们公司的人工智能技术可以为任何特定的工厂运行数百万个虚拟模拟，最终得出确切的工艺顺序，使得生产效率达到最高。他说，这种人工智能技术能够让工厂替换掉整个人工的生产规划团队，以及他们所依赖的大多数过时的软件。

“我们称之为‘婴儿潮一代清理器’。”他说。

“婴儿潮一代……清理器？”我问。

“是的，”他说，“我是说，这当然不是官方的名称。但是，我们的客户公司中有太多年龄偏大、薪酬过高的中层管理人员，而这些公司已经不再需要那些人了。它们可以使用我们的平台来取代那些人。”

这位创始人似乎多喝了几杯，他接着讲了一个故事，说有一位客户多年来一直在寻找一种方法，以摆脱某位特定的生产规划人员，但始终无法想出如何将他的工作完全自动化。但是，在安装了这位创始人的公司的软件仅仅几天之后，该客户就能够在不牺牲效率的情况下取消生产规划岗了。

我微微感到有些惊讶，问创始人知不知道这位生产规划人员后来怎么样了。公司给他在内部重新安排工作了吗？他被随随便便地解雇了吗？他知道自己的老板们一直在密谋用机器人来代替他吗？

创始人咯咯地笑了。

“那不是我的问题。”他说，然后走向吧台，想再喝一杯。

————

我从小就喜欢技术，那时我把所有的空闲时间都花在了搭建网站和为新的电脑部件攒零花钱上。多年来，每当有人暗示计算机会破坏就业、破坏社会稳定或把我们引入反乌托邦的未来时，我都会翻白眼。我特别鄙视那些认为人工智能有一天会将人类淘汰的人。这些惊慌的技术恐惧者不是曾经警告过我们，任天堂游戏会毁掉我们的大脑吗？他们的恐惧不是总会被夸大吗？

几年前，当我开始在《纽约时报》担任科技专栏作家时，我听到的关于人工智能的大多数说法都反映了我自己的乐观看法。我见过一些硅谷初创公司的创始人和工程师，他们向我展示了深度学习等领域的最新进展如何帮助他们构建各种改善世界的工具：可以提高农作物产量的算法、可以帮助医院更高效地运行的软件、可以在我们打盹儿时或在网飞上看大片时接送我们出行的自动驾驶汽车。

这是人工智能炒作周期的高潮，当时所有的美国科技巨头，包括谷歌、Facebook（脸书）、苹果、亚马逊、微软等，都投入了几十亿美元来开发新的人工智能产品，并将机器学习算法尽可能多地应用到它们的应用程序之中。它们给自己的人工智能研究团队开了一堆空白支票，并从顶级大学的计算机科学系挖走了一批教授和研究生，提供了各种坦率来讲很滑稽的工作机会。（一位教授小声地告诉我，某科技公司刚刚给他的一位同事提供了一份年薪100万美元的工作合同，仅要求他在周五工作。）无论你往哪里看，初创公司都在筹集巨额资金，并承诺使用人工智能来颠覆一切，从播客到比萨外卖。至少在我的消息来源中，传统观点认为，这些基于人工智能的新工具对社会来说无疑是好事。

但是，在过去的几年，随着我花更多的时间报道人工智能和自动化，有三件事让我开始重新思考我的乐观主义。

第一，当我研究技术变革的历史时，我意识到技术专家喜欢讲述一些故事，比如技术创造的就业机会总是多于它摧毁的就业机会，或者人类与人工智能将会合作而不是竞争，这些说法要么是错误的，要么至少是非常不完整的。（我们将在第一章详细研究一些这样的观点以及其中的漏洞。）

第二，当我报道人工智能和自动化在世界上产生的影响时，我看到了这些技术创造者做出的承诺与使用这些技术的人在真实世界中的体验之间存在巨大的差距。

我采访了YouTube（优兔）和Facebook等社交媒体平台的用户，他们原以为这些平台上基于人工智能的推荐系统会帮助他们找到有趣的、相关的内容，但他们竟然被引到了弥漫着误导信息和阴谋论的深渊。我听一些教师说过，他们学校推行了高科技的“个性化学习”系统，希望提高学生的成绩，但他们发现那只是在一些破损的平板电脑和不稳定的软件上摸索。我听到了一些优步（Uber）和来福车（Lyft）司机的抱怨，他们被灵活就业的承诺吸引，但随后发现自己受到了一种严苛的算法的折磨，这种算法迫使他们不仅要工作更长的时间，还会因休息而受到处罚，并且他们的收入也会不断被操控。

所有这些故事似乎都表明，人工智能和自动化对一些人来说运行得很好（直接说，就是创造这项技术并从中获得利润的企业高管和投资人），但它们并没有让所有人的生活变得更好。

第三，有最明显的迹象表明，情况已经发生了变化。那是2019年，当时我听到了一段关于自动化的更真实的对话。

这段对话并没有发生在科技会议的舞台上，也不是在商业杂志光鲜的宣传中进行的乐观对话。这是一些精英人士和工程师之间私下发生的对话，就像那位初创公司的创始人对我讲他的“婴儿潮一代清理器”软件一样。这些人近距离地看到了人工智能和自动化的未来，他们对这些技术的发展方向没有幻想。他们知道，在广泛的工作和社会活动中，机器现在能够或者很快就能够取代人类。他们中的一些人贪婪地奔向让自己手下的劳动力完全自动化的方向，他们的眼睛里充满了美元符号；另一些人更担心大规模自动化可能引起政治上的反对，并希望为受害者设计一种更温和的着陆方式。但他们都知道会出现一些受害者。没有人认为人工智能和自动化对每个人都有好处，甚至没有人考虑“踩刹车”。

在瑞士达沃斯举办的世界经济论坛上，我第一次瞥见了精英人士关于自动化的对话。达沃斯论坛标榜自己是一个将全球精英聚集在一起讨论世界上最紧迫问题的高端会议，但实际上，它更像是资本主义的科切拉音乐节，是一件超越讽刺的、没有价值的事情，财阀、政治家和其他社会名流都会来这里彼此打个照面。对日本首相、高盛的首席执行官和“黑眼豆豆”团长威尔来说，这是世界上唯一一个人们吃着37美元一个的三明治，围坐在一起谈论收入不平等的地方。

我那些《纽约时报》的老板让我去报道那年的论坛，论坛的主题是“全球化4.0”。这是一个为新兴经济时代编造的达沃斯式术语，在本质上毫无意义，而新兴经济时代是由人工智能和自动化技术的新变革浪潮定义的。每天，我都去参加题为“塑造新的市场架构”或“未来工厂”的圆桌讨论，在这些讨论中，有权势的高管们发誓要打造“以人为本的人工智能”，说这对公司和员工都会很好。

但是到了晚上，在他们的公开活动结束之后，达沃斯的与会者们就会摘下人道主义面具，进入正题。在奢华、公开的晚宴和鸡尾酒会上，我看着他们追问技术专家，人工智能要如何帮助他们将公司转变成精巧、自动化的利润机器。他们谈论自己的竞争对手正在使用哪些自动化设备，他们与咨询顾问就数字化转型项目达成协议，希望通过降低对人工的依赖来节省数百万美元。

有一天，我遇到了其中一位顾问。他叫莫希特·乔希（Mohit Joshi），是印孚瑟斯公司（Infosys）的总裁，这是一家总部位于印度的咨询公司，提供的服务是帮助大企业实现运营自动化。当我问乔希与高管们会谈的进展情况时，他皱起眉头告诉我，达沃斯的精英们对自动化的痴迷程度甚至超过了他的预期，而他赖以谋生的，就是工作的自动化。

他说，有一位客户原来希望逐步减少他们的劳动力，保留大约95%的员工，只在边缘环节实现自动化。

“但是现在，他们说的是：‘为什么我们不能用1%的人工来完成所有的工作呢？’”他说。

换句话说，在摄像机和麦克风关闭之后，这些高管谈论的不是如何帮助员工。他们幻想着彻底摆脱员工。

————

从达沃斯回来之后，我决定尽可能多地了解人工智能和自动化。我想知道，公司和工程部门内部实际在发生什么？什么样的人有被机器取代的危险？如果有危险的话，那么我们能做些什么来保护自己？

因此，几个月以来，我采访了一些工程师、高管、投资人、政治家、经济学家和历史学家。我参观了一些研究实验室和初创公司，参加了一些技术会议和行业会议。我阅读了大约100本书，它们的封面上大都有一个机器人和一个真人握手的图像。

正如我所报道的那样，围绕自动化的公开对话开始褪去一些乐观的光芒。人们开始注意到社交媒体算法的破坏性影响，这些算法将用户困在意识形态的共鸣室中，并将他们推向更极端的信仰。比尔·盖茨（Bill Gates）和埃隆·马斯克（Elon Musk）等科技领袖警告说，人工智能可能会使数百万人失业，他们敦促政治家们认真对待它，并将其视为一种威胁。经济学家们开始对人工智能会给员工带来什么做出悲观的预测，政治家们开始讨论是否需要激进的解决方案来抵御自动化引发的失业危机。敲响警钟的最著名的公众人物之一是纽约商人杨安泽（Andrew Yang），他在2020年竞选美国民主党总统提名时承诺给所有美国人每月1 000美元的“自由红利”，以减轻自动化带来的打击。他没有在竞选中获胜，但他对即将到来的人工智能革命的警告成了一种时代精神，将与科技性失业相关的讨论推向了主流。

人们对扼杀工作机会的机器心存恐惧，这种事情并不新鲜。事实上，这可以追溯到大约公元前350年，当时亚里士多德在思考，自动化织布机和自动弹奏的竖琴可以减少对奴隶劳动的需求。从那以后，与机器相关的焦虑情绪就起起伏伏，通常在技术快速变革时期达到顶峰。1928年，《纽约时报》发表了一篇名为《机器的前进使人手闲置》（March of theMachine Makes Idle Hands）的文章，在文章中，专家预测，一项新发明（依靠电力运行的工厂机械）很快会将体力劳动淘汰。“二战”之后，随着越来越多的工厂开始安装制造机器人，人们再次普遍地认为工人注定要走向失败。麻省理工学院的研究员马文·明斯基（Marvin Minsky）通常被视为人工智能之父，据报道，他曾在1970年说过：“在3~8年内，我们将拥有一台具备普通人平均智力水平的机器。”

这些令人感到恐惧的预期从未实现过。但今天，在马丁·福特（Martin Ford）的《机器人时代》（Rise of the Robots）、埃里克·布莱恩约弗森（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）的《第二次机器革命》（The Second Machine Age）等畅销书的推动下，人们对人工智能的焦虑感再次燃起。这两本书都证明了人工智能将会从根本上改变社会、改变全球经济。对“未来的工作”的学术研究预计（如牛津大学的一项研究），在未来20年内，多达47%的美国工作岗位处于自动化的高风险之中，这增加了即将到来的厄运感。到2017年，3/4的美国成年人认为，人工智能和自动化摧毁的就业机会将超过它们创造的机会，大多数人预计技术将会扩大贫富差距。

在2019年的大部分时间里，我都在报道这些态度的变化，对这些恐惧被夸大的可能性，我也小心翼翼地保持着开放的心态。毕竟，美国的失业率仍接近历史最低水平，尽管企业高管们正在彼此谈论人工智能和自动化，但还没有太多明显的证据表明这正在对员工造成影响。

然后，新冠肺炎疫情暴发了。2020年春，美国大部分地区进入了就地避难的封锁模式，我的手机开始不断亮起，一些科技公司打来电话，告诉我疫情如何影响了其自动化计划。而现在，情况有所不同了，这些公司都想宣传其在自动化工作方面的努力。毕竟，机器人不会生病，即使病毒肆虐，能够成功地用机器代替人工的公司也可以继续制造商品和提供服务。消费者也对自动化感到兴奋，因为它减少了人类接触的必要。

新冠肺炎疫情给了公司所需要的掩护，使它们能够在自动化领域取得前所未有的巨大进步，而不会面临被强烈抵制的风险。所以，它们实施自动化、继续自动化，并且将更多工作自动化了。肉类生产商泰森食品聘请机器人专家开发了一款自动去骨系统，该系统可以帮助公司满足鸡肉和其他肉类的供应需求。联邦快递开始使用包裹分拣机器人来代替其运输设施中生病和缺勤的工人。购物中心、公寓大楼和杂货店大量使用清洁和安保机器人，以保持经营场所的清洁和安全，这些机器人的供应商甚至出现了库存短缺的情况。

总的来说，新冠肺炎疫情似乎加快了自动化的进程，即使没有使它提前几十年时间实现，也提前了几年。大型咨询公司麦肯锡称之为“大加速”。微软首席执行官萨提亚·纳德拉（Satya Nadella）声称，该公司在两个月内经历了“两年时间的数字化转型”。2020年3月，会计师事务所安永的一项调查发现，41%的企业高管在自动化方面投入了更多的资金，以便为“后疫情时代”做准备。麻省理工学院的经济学家和首席自动化专家戴维·奥托尔（David Autor）称此次疫情为一次“强制自动化的事件”，预测它将引领技术趋势，并且将在病毒消失后持续很长的时间。

与任何主题的达沃斯论坛相比，新冠肺炎疫情都更清楚地向我们展示了自动化的一些好处。即使有更多的员工请了病假，机器人和人工智能也可以让公司继续提供基本的商品和服务。制药公司使用人工智能和自动化制造来加速其对有效治疗方案和疫苗的搜寻。数十亿人被困在家里，害怕近距离接触，他们依赖于亚马逊、谷歌和Facebook等公司提供的自动化的、基于人工智能的服务来保障货架库存和社交生活的完整。

与此同时，新冠肺炎疫情也展示了自动化的一些局限性，以及我们还不能外包给机器的大量重要工作。我们开始谈论“基本员工”，他们的服务是社会运转所必需的，我们注意到其中很多人不是在技术、金融或其他一些高声望的领域工作，而是在相对乏味的行业，如护理、汽车维修和农业领域工作。我们还注意到，有些活动根本不适合虚拟化。人们在几个月的时间里都待在室内，屏幕是人们唯一的社交渠道，许多人都感觉到了一种强烈的回归物质世界的动力。一些坚持上网络课程的学生开始抱怨，他们没有学到任何东西，也没有玩儿得开心。被限制在家里的白领们开始渴望回到办公室，在那里他们可以更轻松地与团队合作，推进他们的工作。（我认识的一名技术员工抱怨说：“没有人能在Zoom里得到提升。”）在疫情暴发的头几个月里尚能对虚拟互动感到满意的人们也开始打破社交距离规定，在餐馆吃饭，在酒吧喝酒，以及与朋友一起参加音乐会和教堂活动。

事实证明，机器不能为人类关系提供足够的替代品，也不能给我们提供前进所需的东西，也许它们永远也做不到。

————

在花了几年时间研究人工智能和自动化的过去和现在之后，我发现人们很难继续相信天真的、乌托邦式的说法，即这些工具正在带领我们走上一条精心设计的进步与和谐之路。但我也发现，人工智能故事中最反乌托邦、最宿命论的版本，即声称智能机器注定要接管世界，我们对此无能为力，只能向自己被淘汰的命运妥协之类的说法，也难以令人满意。

对初学者来说，乐观主义者和悲观主义者都倾向于以一种奇怪的、似乎有远见的方式谈论人工智能和自动化。他们专注于审视这些技术在未来几年或几十年将会产生的影响，而忽略了它们已经产生的影响。

无论我们是否意识到，我们大多数人每天都与几十种人工智能产品进行交互，包括对社交媒体信息进行排序、为人类与Alexa和Siri等虚拟助理的交互提供支持的机器学习模型，决定我们为酒店房间和机票支付多少钱的动态定价软件，用于确定政府福利资格的不透明算法，执法机构在我们的社区进行巡逻所使用的预测性监管算法等。所有这些系统都至关重要，但很少有哪个系统像下面这个问题一样受到如此多的细致观察：长途卡车司机是否会因18轮自动驾驶货车而失业？

在人工智能和自动化的主流讨论中，人们在很多时间里都在探讨人工智能对狭隘的经济健康指标（如生产增长率和失业率）的影响，但往往忽略了一些更主观的问题，比如所有这些技术是否真的在改善人们的生活。正如凯茜·奥尼尔（Cathy O’Neil）、萨菲娅·乌莫贾·诺贝尔（Saf iya Umoja Noble）和鲁哈·本杰明（Ruha Benjamin）等专家观察到的那样，设计不当的人工智能即使在“有效”时也会伤害弱势和边缘化群体，让他们面临新形式的数据收集和监控，并将历史性的歧视模式编码到自动系统之中。这种伤害可能有多种形式，比如一种学会了偏向男性而非女性的简历筛选算法，一种很难正确识别跨性别群体的面部识别系统，一种学会了向黑人贷款申请人收取更高利率的风险预测建模系统等。任何关于人工智能和自动化的负责任的讨论都需要解决这些问题。

但是，对于人工智能的主流讨论，我最大的问题是，双方都倾向于将技术变革视为一种发生在我们身上的无形的自然力量，就像万有引力或热力学一样。乐观主义者和悲观主义者都在谈论“治疗疾病的算法”或“机器人抢走工作”，就好像机器可以被编程赋予感知能力和职业抱负一样。双方都没有很好地认识到，人类每天都在觉醒，并决定如何设计、部署和评估这些系统的有效性。

我总是听到“自动化是宿命”的观点，尤其是在硅谷，人们往往把技术进步比作一列飞驰的火车，我们要么爬上去，要么被它碾过，我也明白为什么人们很容易相信这一点。在很长的一段时间里，我自己也信了。但这是错的。在内心深处，我们都知道这是错的。

从智人第一次用两根棍子摩擦生火开始，技术变革就一直由人类的欲望驱动着。印刷机、蒸汽机、社交媒体等东西不是凭空出现并完整地融入社会的。是我们设计了它们，围绕它们创造了法律和规范，并决定它们应该为谁的利益服务。创新也不是不可逆转的现象，前几代人通过努力已经成功地限制了一些有害工具的传播，比如核武器、石棉绝缘材料和含铅涂料等，而所有这些都代表了他们那个时代的技术进步。

无论你认为人工智能和自动化对人类来说是伟大的还是可怕的，重要的是要记住，这些都不是预先确定的。决定是否替换人类员工的是企业的高管，而不是算法。决定如何限制面部识别和定向数字广告等新兴技术的是监管机构，而不是机器人。构建新型人工智能的工程师对这些工具的设计拥有发言权，用户可以决定这些工具在道德上是否可以接受。

这就是人工智能革命的真相，没有迫在眉睫的机器接管，也没有恶意的机器人大军密谋奴役我们。

只有人，可以决定我们想要什么样的社会。

————

本书的主旨并不是讨论机器人将会承担所有的工作、一部分工作，还是不承担任何工作。本书不是对技术资本主义恐怖的咆哮，也不是对我们将如何与机器智能共存的思考。我不会预测奇点何时到来，也不会告诉你如何创立一家人工智能初创公司发财致富。

本书讲述的是，你应该如何在一个日益由机器安排和为机器安排的世界中成为一个“人”。它试图说服你，在人工智能和自动化时代，过上幸福、有意义的生活的关键不是与机器正面竞争，比如学习编写代码、优化自己的生活、消除一切形式的个人低效和浪费等，而是增强你独特的人类技能，这样你就能更好地做一些机器做不到的事情。

如果你曾经觉得这个世界从你身边飞驰而过，或者你担心自己没有机会跟上技术的变革，那么我希望能说服你不要这样想。我想帮你保住自己的工作。我想帮助你在家里与技术建立起更健康的关系，并与算法和平共处，而这些算法试图改变你在购物时做出的选择、你关注的焦点以及你看待世界的方式。

最终，我希望我们关于技术的对话跳出兴奋和恐惧的两极，我希望促成一场更诚实的讨论，探讨即将发生的事情，以及我们能为此做些什么。

本书的第一部分“机器”尝试将观点摆上台面。我将利用对专家的采访、对书籍和研究论文的阅读以及大约3个世纪的工业历史来解释，为什么我相信人工智能和自动化已经对我们的社会产生了深刻的变革性影响，以及为什么我们应该期待这些变化在未来的几年会加速发展。我将回顾一些关于机器如何取代人工的普遍认知，并解释为什么我担心我们一直在为错误的机器人类型而感到担忧。

第二部分“法则”是我的建议。我将列出你可以为未来做准备的9个具体步骤，帮助你保护自己的人性并利用你最具人性的品质，同时避免当今技术的一些有害影响。我将展示一些例子，看看几个世纪以来人们如何通过这种方式成功地应对技术变革，并解释如何将他们的经验应用到你自己的生活和职业之中。

最后，我希望你能分享我对人工智能和自动化的一些担忧，以及它们在未来几年可能对经济、政治和社会带来的挑战。但我也希望你能对迎接这些挑战感到更加自信。最终，我的目标是让你相信，大家有可能成为那种不用担心的人：不管人工智能可以做什么、不可以做什么，人性都让我们无法被取代。

当你在阅读本书时，你会注意到，本书关注的更多是微观而不是宏观。书中没有关于生产率评估或劳动力参与率的冗长讨论，我也没有一套完美的人工智能政策建议可供分享。让我们的政治和经济机构为技术变革做好准备是至关重要的，很多专家都考虑过我们要如何为即将到来的自动化浪潮重构社会。但在本书中，我最关心的是个体，像你我这样的有工作、家庭和社区需要兼顾的人，我们能做些什么。

你也会注意到，很多内容我是用第一人称写的，那是因为我也在这趟旅途上。我每天都在与机器的关系中挣扎，我一直担心自己在自动化社会中的位置。（毕竟，我为一家报纸撰稿，这并不是“未来的工作”这个短语让人联想到的第一个职业。）本书的部分灵感来自我的私心，我希望能找到一些东西，一些精辟的见解或无可辩驳的数据，让我自己对未来的前景感到放心。

但是，我发现未来没有为我准备任何东西，因为没有“未来”或“准备中”这样的东西。现在，就像人类历史上的每一个节点一样，存在无数种可能的结果，而每一种都取决于我们做出的选择。如果机器人世界末日真的出现了，那也是我们自己创造出来的。如果这场技术革命让世界变得更公平、更幸福、更繁荣，那就是因为我们停止了无休止的理论探讨和现实辩论，掌握了自己的命运，并让自己面向未来。

凯文·鲁斯
美国加利福尼亚州奥克兰市
2021年1月