Tobias Rees：AI为何是人类和机器的“中间态”？
本文来自微信公众号： Fast Company中文版 ，作者：吴文卓，原文标题：《创新理事会｜Tobias Rees：AI为何是人类和机器的“中间态”？》
今年年初，关于Anthropic哲学家Amanda Askell的报道一度登上多个媒体的头条。她是Anthropic更新版AI模型行为准则的主要修订者，也是Claude模型性格和道德规范的塑造者。AI和哲学的关系曾在许多人的认知中是模糊的，而今，随着AI的迭代和涌现，二者之间的关系日益显性和重要。
在我们深究众多AI产品的哲学框架之前，我们首先需要了解AI的属性。而试图解释AI属性的过程便是我们意识到语言和概念的局限性的过程：首先，多数人不认为它是人类；其次，对于大多数人而言，与它交互的方式和与众多机器交互的方式十分相似。但是，我们并不想将这一推理过程简单地导向：AI是另一种人类还是机器？
为了更好地梳理这个问题，我们与哲学研发实验室Limn联合创始人Tobias Rees展开对话。他不仅仅是一位哲学家、人类学家，也是一位在技术前沿进行田野调查的探险家。他曾深入Google AI实验室等前沿腹地，试图在代码、算力和自然语言之外，勾勒出这场技术变革的底层逻辑。
在Tobias看来，我们正处于一个旧秩序不再奏效、新范式尚未建立的“末日事件”（apocalyptic event）中。这种启示并非指灾难，而是其希腊语原意apokálypsis——即“真相的揭露”。他指出，我们长期以来赖以生存的思维方式已经不足以解释AI带来的冲击，而这种断层正是引发人类感到不安的原因之一。
正如Tobias所言：“AI是对重新思考的一种邀请。”本期创新理事会，我们将跟随Tobias的视角，离开那些由既定概念构建的旧岛屿，驶向一片从未被标记的海域。在那里，AI是一个处于“中间地带”的、等待被定义的新存在。这不仅是一场关于技术和哲学的讨论，更是一场关于我们是谁、我们将如何与新物种共处的思想革命。
你会如何解释你的研究方向？
David Foster Wallace有一个著名的寓言：两条小鱼正在水里游着，遇到一位游向对面的老鱼。老鱼问道：“水怎么样？”老鱼游走后，一条小鱼转头问另一条：“水到底是什么？”
对人类而言，概念和概念性假设就是我们的“水”。人类的一切思考都是由概念介导的。在Limn，我们所做的正是研究“水”，即那些支撑我们生活的、不可见的认知架构。
我们专注于那些哲学意义上的新物——这些事物如此新颖，以至于它们挑战并突破了我们现有的概念边界。当这种破裂发生时，我们将其称为“诗性的域外”（Poetic Outside）。这个术语灵感源自诗人里尔克（Rainer Maria Rilke），他曾写道：“万物，皆非其本然。”（Everything/is not itself.）”其深意在于，事物并非与其本质完全等同，它们始终拥有变得与众不同的潜能。从这个意义上说，诗歌便是一门发掘这种差异的艺术。
AI的出现，是否意味着那些曾经承载我们的“水”正在发生质变？
是的，其实这种变局的核心，在于AI挑战了人类维持了四百年的“二元论”。自伽利略和笛卡尔以来，西方文明建立了一套明确的“现代二元论”：一侧是拥有理性、意识和内在性的“人类”（res cogitans），另一侧则是无生命的、由零件构成的、可预测的“机器”（res extensa）。在过去四个世纪里，我们对世界的认知就建立在这种非此即彼的归类之上。
然而，AI的出现让这种分界变得模糊。它是一个被建造出来的技术系统，却展现出了语言理解、智能决策甚至某种“主体性”——这些曾被视为人类专属的特质。
目前市面上无论是将AI视为“超级自动补全”的还原论，还是将其拟人化的生物隐喻，又或是戏谑地将其视为“神明的恩赐”，本质上都是在试图用“旧瓶装新水”。这些旧有的概念框架不仅限制了人类的想象力，更在商业和法律层面造成了困境。
你认为东西方在文化根源和社会环境方面的差异会改变AI的实际运作方式吗？
我认为无论在哪个地区，AI模型的逻辑都是一致的：获取数据，将其分解为被称为“Token”的最小单位，分配对应的数字，并计算它们之间的关系。这种基础范式——即对Token逻辑的存储与计算——在东西方是完全相同的。
差异主要体现在两个层面：用于训练的数据以及对于生成结果的微调过程。AI在原始形态上几乎是中立的，但不同实验室和公司对于数据选择和特定的优化目标会呈现出不同的偏好。
在西方，创新和创造力往往与个人主义挂钩——即认为造就“你”的是那些与众不同的特质。这可以追溯到17世纪的莱布尼茨（Leibniz），他认为没有两片叶子是完全相同的（这被称为“个别性/此性”）。因此，西方非常看重“偏离”传统和新的发现。
而在东方，历史上更注重对精通和连续性的文化溢价。其目标通常是达到“大师”的水准，而非刻意背离大师。由于AI模型受制于其训练数据，它们实际上可能与重视稳定、和谐与延续性的文化传统非常契合。不过，我对“文化本质主义”持怀疑态度，我不认为中国只会模仿、西方只会发明，中国出现的开源模型就是真正的创新。
AI的智能程度使得其不再仅仅是一个工具或机器，但它显然也不是人。这种介于两者之间的状态，是否需要一套全新的伦理范畴，来处理这种具有“主体性”却非人类的存在？
在西方语境下，当我们讨论伦理时，往往预设了一个“主体”的存在——即一个拥有内省（introspection）和内在性（interiority）、能够做出决定并对其行为负责的人。但这些定义并不完全适用于AI。AI并不具备内在性或内省能力。因此，当我们说AI在“做决策”时，并不意味着它像人一样坐下来自省，然后得出结论。本质上，它只是在进行计算。从这个意义上说，AI听起来似乎只是一台机器。
然而，这正是AI令人困惑的地方。传统机器或工具的功能，完全可以还原为制造者的意图。比如人类制造了冰箱，冰箱负责制冷，这纯粹是因为人类明确地为了制冷而建造了它。冰箱不会突然觉得“今天我很冷，我要变热”。
但AI的困惑之处在于，尽管它由人类建造，我们却并不完全了解它的运作机制。它可以做出无法还原为建造者意图的行为。这是因为它在学习过程中构建了自己的潜空间表征（latent space representations）。基于它所学到的知识，它能回答问题，甚至代表人类采取行动。那么，谁该为此负责？不能单纯归咎于工程师，因为它不像传统机器那样可以完全还原为工程师的指令；但也不能归咎于AI本身，因为它没有内省能力、没有心智，也没有内在性。
AI处于一种“中间状态”，既非人类，也非机器。目前很多人本能地想要追究科技公司的责任，这作为一种直觉是可以理解的，但仅靠这一点并不足够，因为公司无法对其产生的行为负全责。另一方面，简单地宣称“AI自己负责”也毫无意义。因此，无论在伦理还是法律层面，我们目前都缺乏一个合适的范畴来定义AI，以及规定我们该如何对待它。
关于这一点，我还有两个想法。首先，指责AI违反了我们的伦理规范很容易，但这种道德愤慨有什么意义？仅仅呼吁回归规范是不够的，因为现有的伦理逻辑架构根本无法解释不断迭代的事物。过去当我们说某事很糟糕，意味着我们要回归既有的规范；但现在我们无法回归，因为AI这个新物种根本不符合旧有的规范。
此外，我认为人类集体陷入了“根基缺失”的状态。无论是中国传统哲学还是古希腊哲学，都无法为解决这个问题提供现成的线索。但在我看来，这反而是一种美妙的契机。它给了人类一个机会，让我们能够聚在一起，共同探索并制定出一套全新的规范。
有人担心AI会接管世界或取代人类工作。在这些讨论中，我们忽略了哪些更隐秘、更深层的哲学问题？
这些“隐秘”的哲学问题确实至关重要。当你问普通人对AI的看法时，他们往往会谈论经济、失业或自己变得多余。但我不认为他们真的只关心经济。
“工作”只是他们唯一能用来表达对AI的哲学不安的词汇。他们真正的潜台词是：“这怎么可能？它只是个计算机软件，竟然能做所有这些事。它是活的吗？如果是活的，那太可怕了。或者，难道我也只是一个软件程序？我是一个比它逊色的程序吗？我生命的意义又是什么？”
所以，这些存在主义的哲学问题无处不在，只是人们习惯借用经济学的语言来表达。我常去乡村学校和家长谈论AI，他们最关心的前三个问题之一总是：“你认为它有意识吗？”我不直接回答，而是反问：“为什么这对你很重要？你是感到恐惧还是希望？”他们通常会说：“我很害怕。”
这种恐惧源于我们旧有的概念根基已经失效。AI如此新颖，以至于我们不知道如何思考它。人们感到无法驾驭这种新奇感。当AI出错时，他们感到困惑；当AI表现惊人时，他们又感到自我的萎缩。因此，我们需要明确：AI很棒，但它不是生命，不是人类。
我们可以做任何AI系统都做不到的事情。例如，AI并不真正“存储”概念，它只是在高维空间中运作，完全依赖于你的提示词。更简单的例子是：AI系统在训练结束后就成了一个封闭系统。当它遇到未知事物时，它只能尝试用已有的知识去解释。但人类可以意识到：“我不理解这个，我还没学过。”我们可以重新开始学习。人类可以是终身学习者，可以根据新信息修正自己的思维方式。我们可以跳出既有框架进行思考，而AI就在框架里。
当AI被引入公司，它需要人类来判断语境，因为它无法判断。我们要让更多人意识到：人类对未来是开放的，拥有“元认知（Meta-cognition）能力”——即对思考本身进行思考。
#Tobias #ReesAI为何是人类和机器的中间态
