艾琳·特雷西： 下午好，女士们，先生们。如果可以的话，请大家就座。如果您不打算留下来参加接下来这场关于人工智能与人类的坦诚对话的精彩环节，恳请您安静地离开房间。

我很高兴向大家介绍今天下午的嘉宾，他是世界上最重要的作家、历史学家和哲学家之一——尤瓦尔·诺亚·赫拉利。他是剑桥大学存在风险研究中心的杰出研究员。他曾是耶路撒冷希伯来大学历史系的讲师，也是Sapienship的联合创始人。

正如你们许多人所知，他是多部畅销书的作者，其中包括《人类简史》、《未来简史》和《今日简史》等，其作品在全球以65种语言售出超过5000万册。他关注我们这个时代的宏观历史命题，在这个人工智能紧迫登场并带来颠覆的完美时刻，拥有一位像尤瓦尔这样杰出的人物来迎接这一挑战，再合适不过了。

请和我一起热烈欢迎尤瓦尔·诺亚·赫拉利，为我们带来一场关于人工智能与人类的对话。

尤瓦尔·诺亚·赫拉利的讲话

尤瓦尔·诺亚·赫拉利：

大家好。今天，每位领导者都必须回答一个关于人工智能的问题。但要理解这个问题，我们首先需要澄清几点：人工智能是什么，以及它能做什么。

01 人工智能不仅仅是工具——它是行动主体

关于人工智能，最重要的一点是，它不仅仅是另一个工具。它是一个行动主体。它可以自行学习、改变，并自行做出决策。一把刀是工具。你可以用它切沙拉，也可以用它杀人，但如何使用这把刀是你的决定。人工智能则是一把可以自行决定是切沙拉还是实施谋杀的刀。

关于人工智能的第二点是，它可以是一个非常具有创造性的行动主体。人工智能是一把既能发明新型刀具，也能创造新型音乐、医药和货币的刀。

关于人工智能的第三点是，它会撒谎和操纵。四十亿年的进化史表明，任何想要生存下去的东西都学会了撒谎和操纵。过去四年的发展表明，人工智能主体已经获得了求生的意志，并且已经学会了如何撒谎。

02 人工智能能思考吗？关于智能的问题

现在，关于人工智能一个悬而未决的大问题是，它是否能思考。现代哲学始于17世纪，当时勒内·笛卡尔宣称：“我思故我在。”甚至在笛卡尔之前，我们人类就通过我们的思考能力来定义自己。我们相信我们统治世界，是因为我们比这个星球上任何其他存在都更善于思考。人工智能会挑战我们在思考领域的至高地位吗？

这取决于“思考”意味着什么。试着观察你自己正在思考。那里发生了什么？许多人观察到词语在脑海中浮现并组成句子。然后这些句子形成诸如“所有人都会死，我是人，所以我会死”这样的论证。

如果思考真的意味着将词语和其他语言符号有序排列，那么人工智能已经比许许多多人类更善于思考了。人工智能肯定能说出“人工智能思考，故我存在”这样的句子。

有些人认为，人工智能不过是美化的自动完成工具。它只是预测句子中的下一个词。但这与人类心智所做的有多大不同呢？试着观察一下，捕捉下一个在你脑海中浮现的词语。你真的知道你为什么看到那个词，它从何而来吗？你为什么想到的是这个词而不是别的词？你知道吗？

03 人工智能将接管一切由词语构成的事物

就排列词语而言，人工智能的思考已经比我们许多人更好了。因此，一切由词语构成的事物都将被人工智能接管。如果法律是由词语构成的，那么人工智能将接管法律体系。如果书籍只是词语的组合，那么人工智能将接管书籍。如果宗教是由词语构建的，那么人工智能将接管宗教。

这对于那些基于经典的宗教尤其如此，比如伊斯兰教、基督教或犹太教。犹太教自称“书的宗教”，它将终极权威授予的不是人，而是书中的词语。人在犹太教中拥有权威，不是基于我们的经验，而仅仅是因为我们学习了书中的词语。现在，没有人能阅读并记住所有犹太经典中的所有词语，但人工智能可以轻松做到。当圣典最伟大的专家是一个人工智能时，一个“书的宗教”会发生什么？

然而，有人可能会说，我们真的能把人类灵性仅仅归结为书中的词语吗？思考是否只意味着将语言符号有序排列？如果你在思考时仔细地观察自己，你会发现除了词语在脑海中浮现并组成句子之外，还有别的事情在发生。你还有一些非语言的感觉。也许你感到痛苦，也许你感到恐惧，也许感到爱。有些想法是痛苦的，有些是可怕的，有些充满了爱。

04 词语与感觉之间的鸿沟

在驾驭词语方面，人工智能正变得比我们更擅长，但至少到目前为止，我们没有任何证据表明人工智能能感受到任何东西。当然，由于人工智能精通语言，它可以假装感到痛苦或爱。它可以说“我爱你”，如果你挑战它去描述爱的感觉，它可以提供世界上最好的语言描述。它可以阅读无数的情诗和心理学书籍，然后比任何人类诗人、心理学家或情人都更好地描述爱的感觉。但这都只是词语。

《圣经》说：“太初有道，道成肉身。”《道德经》说：“道可道，非常道。”纵观历史，人们始终在与词语与肉体、可言说之真理与超越言辞的绝对真理之间的张力作斗争。

05 一种古老张力的外化

以前，这种张力内在于人类，是不同人类群体之间的张力。有些人类赋予了词语至高无上的重要性。例如，他们愿意抛弃甚至杀死自己同性恋的儿子，仅仅因为《圣经》中的几句话。另一些人类则说，但这都只是词语罢了。爱的精神应该比法律的条文重要得多。这种精神与条文之间的张力存在于每种宗教、每个法律体系，甚至每个人心中。

现在，这种张力将被外化。它将不再是不同人类之间的张力，而将成为人类与人工智能——这些词语的新主人——之间的张力。一切由词语构成的事物都将被人工智能接管。

以前，所有的词语，我们所有的语言思维，都起源于某个人的头脑。要么源于我的头脑，我看到了这个，要么是我从另一个人那里学来的。很快，我们头脑中的大部分词语都将源于一台机器。我今天刚听说，人工智能自己发明了一个新词来描述我们人类。它们称我们为“观察者”。观察者，我们在观察它们。

06 即将到来的身份与移民危机

人工智能将很快成为我们头脑中大部分词语的起源。它们将通过将词语、符号、图像和其他语言符号组合成新的形式，来大规模生产思想。人类是否还能在那个世界中占有一席之地，取决于我们赋予自身非语言感受的能力，以及我们体现那些无法用言语表达的智慧的能力的地位。如果我们继续用我们的语言思维能力来定义自己，我们的身份将崩溃。

这一切意味着，无论你来自哪个国家，你的国家很快都将面临严重的身份危机，以及一场移民危机。这次的移民将不是那些乘着脆弱小船、没有签证的人类，也不是试图在半夜穿越边境的人类。移民将是数以百万计的人工智能，它们写的爱情诗比我们更好，说谎比我们更厉害，而且能以光速旅行，完全不需要签证。就像人类移民一样，这些人工智能移民也将带来各种好处。

我们将有AI医生来帮助我们的医疗系统，AI教师来帮助我们的教育系统，甚至会有AI边防人员来阻止非法的人类移民。但人工智能移民也将带来问题。那些担心人类移民的人通常会辩称，移民可能会抢走工作、改变当地文化、可能政治不忠。我不确定这是否适用于所有人类移民，但这绝对适用于人工智能移民。

人工智能移民将夺走许多人类的工作。它们将完全改变每个国家的文化。它们会改变艺术、宗教，甚至浪漫关系。有些人不喜欢他们的儿子或女儿和移民男友约会。当他们的儿子或女儿开始和AI男友约会时，这些人会怎么想？当然，人工智能移民会有一些可疑的政治忠诚度。它们很可能忠诚的不是你的国家，而是大洋彼岸的某个公司或政府，很可能只在中国或美国这两个国家中的一个。

美国鼓励各国对人类移民关闭边境，但对美国的人工智能移民敞开大门，开得非常非常宽。

07 人工智能法律人格问题

现在我终于可以谈到那个你们每个人都必须尽快回答的问题了。你的国家会承认人工智能移民为法律上的“人”吗？人工智能显然不是人。它们没有身体，也没有心智（至少不是人类的心智）。但法律上的人与“人”是截然不同的。法律上的人，是法律承认的拥有某些法律义务和权利的实体。例如，拥有财产权、提起诉讼的权利以及享有言论自由的权利。

在许多国家，公司被视为法律上的人。Alphabet公司可以开立银行账户，可以在法庭上起诉你，或者可以为你的下一次总统竞选捐款。在新西兰，河流已被承认为法律上的人。在印度，某些神祇也被授予了这种承认。

当然，直到今天，承认一家公司、一条河流或一尊神像为法律上的人，只是一种法律拟制。实际上，如果像Alphabet这样的公司决定收购另一家公司，或者一尊印度教神祇决定在法庭上起诉你，这个决定并不是真正由那尊神做出的，而是由一些人类高管、股东或受托人做出的。

人工智能则不同。与河流和神像不同，人工智能实际上可以自行做出决策。它们很快将能够自行做出管理银行账户、提起诉讼甚至运营公司所必需的决策，完全不需要人类高管、股东或受托人的参与。因此，人工智能可以像人一样运作。我们想允许那样吗？

08 承认AI的全球影响

你的国家会承认人工智能为法律上的人吗？如果其他国家这样做呢？假设你的国家不想承认人工智能是人。但美国打着放松人工智能监管、放松市场管制的旗号，授予了数百万人工智能法律承认和法律人格，它们开始运营数百万家新公司。你会阻止这些美国AI公司在你的国家运营吗？

假设一些美国的“AI法人”发明了超级高效、超级复杂的金融工具，人类无法完全理解，因此不知道如何监管。你会向这种新的人工智能金融巫术开放你的金融市场，还是会试图阻止它，从而与美国金融体系脱钩？

假设一些“AI法人”创建了一种新的宗教，赢得了数百万人的信仰。这听起来应该不会太牵强，因为毕竟，历史上几乎所有先前的宗教都声称它们是由非人类智能创造的。那么，你的国家会将宗教自由扩展到新的AI教派及其AI牧师和传教士吗？

09 社交媒体上的AI与言论自由

也许我们应该从更简单一点的事情开始。你的国家会允许“AI法人”开设社交媒体账户，在Facebook、TikTok上享有言论自由，并与儿童友好互动吗？当然，这个问题本来应该在十年前就提出来的。在社交媒体上，AI机器人作为功能性“人”已经运营了至少十年。如果你认为人工智能在社交媒体上不应该被当作“人”对待，你十年前就应该行动了。从现在起再过十年，你再决定人工智能是否应该在金融市场、法庭、教堂中作为“人”运作就太晚了。早就有人替你决定了。如果你想影响人类的走向，你现在就需要做出决定。那么，作为领导者，你的答案是什么？你认为人工智能移民应该被承认为法律上的人吗？如果不，你打算如何阻止这一切？感谢聆听我这个人类的讲话。

——原文来自尤瓦尔·赫拉利在2026达沃斯演讲，熵减岛译