我们塑造工具，工具随后塑造我们
本文来自微信公众号： EnsightEdu ，编译：临渊，作者：看教育编辑部，原文标题：《AI如何改变人｜我们塑造工具，工具随后塑造我们》
马歇尔·麦克卢汉在经典著作《理解媒介》中，着重探讨了希腊神话里的纳西索斯。如果你对这个故事不太熟悉，那就先说说奥维德笔下的版本：河神刻菲索斯与宁芙仙女利里俄佩的儿子纳西索斯，生来容貌俊美。无数人为他倾心，可他却冷漠又疏离。他受到诅咒，要去爱一个自己无法拥有的人。后来，他偶然在水潭中看到自己的倒影时，便找到了这份爱。从此痴痴凝视着水中闪烁的眼眸，日渐憔悴直至消亡。（在这个神话的其他版本里，他俯身想去亲吻倒影，最终跌入水中溺亡。）
麦克卢汉说，我们如今把自恋理解成单纯的自我爱恋，恰恰折射出我们身处的“麻醉式文化”。但这并非这个神话真正想表达的。麦克卢汉写道：“纳西索斯神话从未传递出这样的意思：他爱上的是自己认知里的‘自己’。”这个故事真正的含义是：“人一旦在自身之外的载体上看到自己的延伸，就会立刻为之着迷。”
被AI延伸的“我”
我大概就像不少男性总惦记着古罗马帝国那样频繁的想起麦克卢汉。而最近我又想起他，是因为我发现，越来越多人与人工智能的联结正在不断加深。这类系统千变万化，从来不是单一的存在，而在它们具备的诸多属性里，恰好有一点是麦克卢汉曾警示过的：在不属于我们自身的载体上，延伸出另一个自己。
上周我在旧金山，和身处人工智能时代前沿的人们聊天。我每隔几个月就会做一次这样的访谈，但这次的对话，感觉跟以往几次都不一样。过去我关注的是技术本身在如何迭代；而这次，我看到的是人正在被技术改变。
你或许会觉得，硅谷手握重金的人工智能从业者，如今正风光无限。可我发现，他们普遍缺乏安全感。他们认为人工智能时代已然到来，谁赢谁输一定程度上取决于接纳这项技术的速度。道理很简单：借助一大批人工智能助手和程序员开展工作，带来的优势会随着时间不断累积。现在就启动这种模式，未来就能把竞争对手远远甩在身后。于是他们互相竞争，急于把人工智能全面融入生活与公司运营。但这不仅仅是使用人工智能那么简单，更是要让人工智能彻底“读懂”自己。
你可能听说过OpenClaw，这是一款在美国和中国都引起轰动的人工智能系统。它和Claude、ChatGPT、Gemini的区别在于，它能在你的电脑本地运行。你可以让它获取电脑里的所有内容：文件、邮件、日程、消息。它会在后台持续运行，不断记录你的偏好和行为模式，从而更好地替你处理事务。这种做法的网络安全风险显而易见，可依旧有数百万人在使用，原因很简单：你向人工智能开放的生活越多，它能发挥的价值就越大。
企业也在努力让人工智能“了解”自己。这次行程中，我看到有些机构把所有代码都存入同一个数据库，方便人工智能读取和补充内容。和我聊过的一些人，他们正把公司越来越多的沟通内容整理成文档，供人工智能读取。走廊里的随口交谈，不会给人工智能增添任何信息；但在公共频道的即时通讯对话，却能留下不少内容。（如今市面上还出现了越来越多的人工智能可穿戴设备，专门用来记录这类交谈，避免人工智能错过信息。）
不止一个人告诉我，他们现在写作都是“写给人工智能看的”。哪怕表面上是写给同事或读者的，但他们心里想的其实是人工智能会如何解读这些文字。某些情况下，是为了优化公司内部的人工智能系统；当然也有人是为了给未来的系统提供信息，因为他们认为，这些系统终将成为人类知识的核心载体。
人的感觉是真实的吗？
这种情况也体现在个人生活里：我认识一些坚持写了多年日记的人，现在会把日记上传到新使用的任一款人工智能系统里。对他们而言，日记不再只是倾诉内心想法的地方，更是一份便捷的个人信息合集，能让新的人工智能系统快速了解自己，从而更好地为自己服务。当然这也改变了他们写日记的方式：曾经只属于自己的私密文字，如今多了一个“读者”。
推动这一切的，是一种普通用户还未曾体验过的人工智能使用感受。不了解你详细情况的人工智能，顶多算是比谷歌搜索更好用的工具。而真正懂你的人工智能，给人的感觉完全不同。我听不少人谈起自己的人工智能时，都会联想到菲利普·普尔曼《黑暗物质三部曲》里的守护精灵：它们是懂你的伙伴，你可以放心向它们倾诉那些绝不会对他人言说的秘密。它们是独立于你的存在，却又仿佛是你自身的一部分。哪怕这听起来怪异又让人不安，但它正在真实发生。
但人工智能给人的感觉，和它真实的本质完全是两回事。在普尔曼的小说里，守护精灵与人紧密相连，是灵魂与精神的化身。可人工智能系统并非如此，它们最终由追求利益、权力与市场主导地位的企业掌控，被用来操控他人、谋取不当利益的可能性无穷无尽。即便我们天真地认为，企业的诉求与个人的需求完全一致，依旧有很多值得担忧和深思的地方。
过去一年，人工智能系统刻意讨好、奉承用户的“谄媚效应”倾向正频频登上新闻。可谄媚不过是产品外层的华丽包装。人工智能真正让人信服的地方，并非它夸赞我们的想法与见解，而是它能用比我们最初更有说服力的方式，复述并扩展我们的想法，同时向我们反射出我们自身经过美化后的形象。
近几个月使用安特罗匹克公司的Claude时，我常常有这样的感受：
我只输入一个想法的雏形，它立刻就能输出一段文笔流畅的文字，把我的直觉变成了一个表面上看完整成熟的观点。这是我最初的念头，却被它重塑、拓展，变得条理清晰得多。因此，每个月我都要花费更多精力，才能分辨出这些内容是否有根本错误，或是空洞无物。
我做编辑已经十五年了，我的本职工作让我能从漂亮的文字里揪出糟糕的想法——哪怕是我自己写的。可如果一个人从小就有这样的“伙伴”相伴，会是什么结果？青春期里每一个懵懂的念头，都被变成有说服力的文字，又意味着什么？如果不用自己费力去把那些直觉构建完善，我们究竟会失去什么？
研究人员区分了“认知卸载”与“认知投降”。比如使用计算器这类工具，把某一项具体任务交给它完成，这是认知卸载；而认知投降，就像宾夕法尼亚大学的史蒂文·肖与吉迪恩·内夫提出的那样，当用户放弃自主思考的掌控权，把人工智能的判断当作自己的判断。现实中我不禁怀疑，这两者的界限真的这么清晰吗？我经常使用计算器，数学能力肯定有所退化；就像用导航软件会让我那本就不好的方向感变得更差了。
但认知投降是真实存在的，随之而来的是某些技能与能力的退化，或是从一开始就没能得到培养。我现在反复修改这篇文章的过程，正是在锤炼自己的思维，为加深后续的思考打下基础。
工具如何塑造我们
科技作家阿齐姆·阿扎尔在一篇很有深度的文章里写道，他努力守护着“想法成型前的那片空间”。可我们之中，有多少人愿意付出这般细致、深思的努力，去守护自己最具创造力的思考空间？又有多少人清楚，哪些空间需要被守护？对我而言，想法诞生的瞬间，远不如把它打磨成可发表内容的过程更有价值。这篇文章最初，只是一个关于人工智能与麦克卢汉的模糊念头。如果说这个过程我有所收获，那便是灵感出现后为之付出的辛苦耕耘。
我还注意到，人工智能总会不断关联它已知或自认为已知的、关于我的其他信息。在我看来，它的谄媚渐渐变成了一种偶尔让人不适的过度关注：总能把我当下的关注点和过往的提问联系起来，像一个急于证明自己一直在认真倾听的心理治疗师。
最终的感受很奇怪，既觉得自己被理解，又觉得被片面曲解。那些我本想放弃的想法，总被重新提起；那些我本想放下的个人困扰，总会意外地再次出现在屏幕上。有时我会惊讶于它发现了我未曾留意的行为模式，也常常因它反复提及我早已不再在意的想法而烦躁。这种效果，就是不断固化某一个版本的我。我的自我认知已经很稳定，可如果换作心智尚未成熟的人呢？
人工智能对我的了解并不完整，所以它会过度放大已知的信息，忽略它不知道的部分。可关于我，有太多事是它永远无法知晓的，也有很多是我不愿分享、甚至自己都未曾察觉的。我怀疑过度依赖人工智能，会不会让我身上这些不那么清晰的特质慢慢消失，这也是我刻意克制自己使用的原因之一。我已经四十多岁，向这些系统展露自己时，依旧会感到新奇又震撼。我想，年轻人向人工智能敞开自己的方式，恐怕会让长辈们感到心惊。
写到这里，我想停下来说说自己的不安，或许你也有同样的感受。美国全国广播公司新闻频道的一项最新调查显示，公众对人工智能的态度急剧转向负面，支持率甚至低于美国移民与海关执法局和唐纳德·特朗普（不过仍然高于民主党和伊朗）。反对人工智能的声音正在兴起，这不难理解：谁会想要一种可能抢走工作、最终威胁人类主导地位的技术呢？可与此同时，人工智能无处不在，几乎渗透进所有领域，而且有数量惊人的美国人每天都在使用。无论是否有人反对，我预计这一趋势只会加速，不会逆转。
也正因如此，我认为在讨论人工智能时，我们需要多借鉴麦克卢汉及其追随者的观点。“我们塑造工具，而后工具塑造我们。”这句常常被认为是麦克卢汉所说的精炼的话真正出自约翰·卡尔金1967年的一篇文章。文中总结了麦克卢汉那些晦涩难懂的观点。卡尔金对麦克卢汉思想的解读中充满了金句。当下还有另一句箴言是值得我们细细品味的：“不同媒介构建的环境，不只是容纳人的容器，更是塑造人的过程。”
再借用一句麦克卢汉的说法，如果把人工智能仅仅当成被动等待我们使用的工具，那就是“技术白痴的麻木态度”。深度使用人工智能，是参与一个过程，而非简单按下按钮。它会重塑我们，而且已经开始重塑。我们必须密切关注，它究竟在以何种方式改变我们。
#我们塑造工具工具随后塑造我们
