近期异常大火的ChatGPT,为什么让人既爱又怕？

域名号子科技前沿 2023-03-21 862浏览 0

【导读】2022年12月初，人工智能实验室OpenAI发布一款名为ChatGPT的自然语言生成式模型，迅速引发关注，其体验用户已经突破百万。事实上，人工智能创作内容已深入传媒、电商、娱乐各行业：智能客服、虚拟主播等应用大量普及，AI创作绘画甚至还能参赛获奖。此外，金融、工业、医疗等行业的应用也在快速落地。

人类史上还没有一个发明，像AI技术这样，不但给人的生活带来前所未有的变革，而且对人类既有的知识秩序和精神生活形成多重的严重挑战。而机器人现象，在人工智能话题中居于核心位置。

针对当前有关机器人的纷乱话语，本文提出一连串深刻的问题：机器就是机器，为什么非要机器去复制人、模仿人？人在怎样的精神习性下，才会去制造并使用模仿人的机器？这后面的心理机制是什么？或者再进一步追问，当人们越来越离不开机动假体或高科技物件，生活越来越被资本主义生产和技术理性统治所笼罩时，人的精神世界会发生哪些变化？

作者刘禾认为，机器人不只是机器和人的技术合成，其关键在于人机之间形成的那种相互模仿的循环关系。她把这种循环关系概括为“人机拟像”，并认为，人机拟像的真正后果是“弗氏人偶”（即弗洛伊德机器人）的出现。“弗氏人偶”不仅是对人机拟像下的无意识网络的概括，而且对所谓的仿生技术、人形机器人、人机合体之类其他智能机器的“科学”前提都提出了根本质疑。数字媒介远不止是借助技术假体去克服人类生理缺陷那么简单，它在政治、社会和心理学等层面都会造成多重后果，值得大家重新探讨和评价。

本文发表于《文化纵横》2021年12月刊，原题为《弗氏人偶——与机器人有关的精神世界》。本文原文为英文，由吴畅畅翻译，作者本人删订，仅代表作者观点，供读者思考。

刘禾

美国哥伦比亚大学比较文学与社会研究所

▍什么是弗氏人偶？

弗氏人偶，即“弗洛伊德机器人”（Freudian robot）。什么是弗洛伊德机器人？它是一般的智能自动机，还是某种全新的事物？

面对已经被制造出来和正在规划之中的仿生技术、人形机器人、人机合体和五花八门的智能机器的新发明，科幻小说家、机器人工程师、人工智能专家以及批评家们都已发表了大量论著。他们的大体看法是，机器人（robot）和传统自动机（automaton）有一个根本的区别：机器人依靠数字原理，就是数学家所说的那种有限序列选择的计算机（finite state machine）；而传统自动机靠的是发条装置的机械原理，一台自动机通常只具备某个独特的技能。这一区别表明，机器人即使不能获得意识，它也比过去的自动机具有更高的智能和多重的技能。[1]

机器人和传统自动机在技术上的区别，似乎是毋庸置疑的。但是，还有一些最根本的、也是最古老的问题尚无解答，更难以绕开。机器就是机器，为什么非要机器去模仿乃至复制人？

媒体理论家麦克卢汉曾发表过一个洞见：人的自恋习性可能是发明机动人体延伸技术的驱动力。也就是说，科技发展所需的（心理的或精神的）必要条件是人的自恋情结。但事情真的有这么简单吗？我们不妨进一步追问，是不是还有某个更深刻的逻辑在发挥作用？比方说，机器模仿人的这件事，反过来，人也会模仿机器，而机器再进一步模仿人对机器的模仿。于是，我们赫然发现，人和机器的拟像之间出现了某种无限循环的状态，反馈不止，并且不可逆转。

人机之间的这种互为模仿的循环关系，我把它叫做“人机拟像”。

那么，如何解释人机之间的这种相互作用的反馈机制？人机之间的反馈循环是不是和弗洛伊德所做的精神分析有某些密切的关联，尤其是他研究过的诸如“强迫性的重复”“无意识”“死亡驱力”等现象？

如何定义弗氏人偶？我的初步回答是，凡是不能脱离人机拟像无限循环，继而不能摆脱控制论的无意识的网络化的存在，都可被视为弗氏人偶。

总之，弗氏人偶这个称号可以囊括所有被称为人机合体（俗称“赛博格Cyborg”）或者人形机器人，以及今天或者未来会出现的形形色色的机器人和拟机器人。当然，总会有人跳出来，极力否认自己与人机合体或机器之间有任何关联。问题是，难道这种否认就能让他免于落入我们对弗氏人偶的定义吗？我看未必。

弗氏人偶，是在“二战”结束后从欧美的世界秩序中涌现出来的新生事物，尤其在战后头二十年中，美国的计算机数字系统飞跃发展，弗氏人偶就是其中的产物之一。所谓数字系统，严格地讲不是“语言”，而是特殊的符号表意系统。这个数字媒介的表意系统与弗洛伊德曾经探讨过的，继而被法国理论家拉康研究过的无意识（及“象征界”）之间，曾发生过这样或那样的关联。我们从工业实验室或科幻小说那里了解到的机器人原型，毕竟有限，因为人们忘记深究一个问题：我们在怎样的精神习性下，才会去制造或使用机器人？或者说，智能机器的发展与不断变化中的人的精神状态有什么联系？

▍从海森堡到庄子

人和学会思维的机器之间的相互模仿，是一个流动和不断变化的过程，它往往打破现象世界的物理和感官界限。也就是说，人们不需要通过科幻电影中的机器人或借助现实中制造出来的机器人产品，去把握弗氏人偶的本质，正如一个活生生的血肉之躯其实用不着先安上假体，才演化成为弗氏人偶。[2]

说白了，弗氏人偶未必只是用塑料、金属或晶片等材料合成加工出来的东西。你、我以及一切人机合体都有可能变成弗氏人偶，只要我们不得不受制于弗氏人偶的那种精神习性。由此延伸，一切深陷网络的个人和群体都具有演变成弗氏人偶的可能性，只要他们不由自主地去模仿那些模仿人类的机器，如此反馈循环。直到有一天，一个未知的力量骤然出现，最终打断这个循环的过程。

那个未知的力量究竟是什么？它将如何产生？这在目前很难预见。不能不承认，我在此努力向大家揭示的弗氏人偶，既真实又恐怖，可谓前景堪忧。怎么办？当代哲学家和具有反思能力的科学家往往承认，科学知识是有局限的，真理总是带着自己特定的条件，而未来充满了不确定的因素。只有在这个认知的基础上，哲学家和科学家才有可能确立全新的、富有想象力的人文理念，以求发展科技和创新求变的新动力。

在我看来，量子力学的创立者海森堡，就是属于那些极少数的具有自我反思能力的科学家。上世纪中叶，海森堡站在哲学的高度，已经清晰地洞察到他那个时代的科学进步的意义，并开始忧虑现代文明本身的发展与未来。他发现，古代哲学家早已预言到人和机器之间存在一种无法摆脱的纠缠不清的关系。

1953年，在题为《当代物理学的“自然”图景》的著名演讲中，海森堡特别讲到中国古代哲学家庄子的寓言，提起了孔子的弟子子贡和一个信奉道家的村民（“为圃者”）之间的一次对话。子贡说，技术可以节省劳力，提高效率，而为圃者则从伦理和哲学的立场出发，拒绝接受子贡的技术优越观点的前提。[3]海森堡在这两个人的辩论中看到，早在西方之前，古代中国人就已经从哲学的高度，去反思人和机器之间的纠缠不清，以及与之相关的伦理问题。

无独有偶，在海森堡的演讲发表后没有多少年，麦克卢汉就写了《理解媒介》一书。在书中，麦克卢汉几乎一字不差地抄录了出自《庄子》的同一段文字，好像是在向物理学家海森堡致敬。他说，海森堡讲明白了一个道理：技术进步不但能改造人们的生活习性，还会改造人们的思维方式和价值取向。[4]海森堡和麦克卢汉从《庄子》那里引述的一段文字，原文如下——

子贡南游于楚，反于晋，过汉阴，见一丈人方将为圃畦，凿隧而入井，抱瓮而出灌，滑滑然用力甚多而见功寡。子贡曰：“有械于此，一日浸百畦，用力甚寡而见功多，夫子不欲乎？”

为圃者仰而视之曰：“奈何？”曰：“凿木为机，后重前轻，挈水若抽，数如泆汤，其名为槔。”为圃者忿然作色而笑曰：“吾闻之吾师，有机械者必有机事，有机事者必有机心。机心存于胸中，则纯白不备；纯白不备，则神生不定，神生不定者，道之所不载也。吾非不知，羞而不为也。”

子贡瞒然惭，俯而不对。

有间，为圃者曰：“子奚为者邪？”

曰：“孔丘之徒也。”

庄子借“为圃者”的口吻，批评子贡对机械的理性主义态度，指出了儒家论述的误区。庄子从根本上否定机械、效率和技能，而推崇以自由精神为内核的道家思想。

有意思的是，20世纪的哲学家海德格尔晚年关于科技的一系列论述，如他的《对技术的追问》一书从一开始就和海森堡进行对话，与海森堡的演讲《当代物理学的“自然”图景》有直接的关联。[5]当年德国慕尼黑的巴伐利亚美术学院举办过一场系列研讨会，同时邀请了海森堡和海德格尔。于是，他们两人分别在1953年11月做过两场有关科技进步的讲座，海森堡讲的是当代物理学的“自然”图景，海德格尔则首次提出他对技术的追问。

海森堡在演讲中指出：“这个技术时代给我们的环境和生活方式带来的深刻变化，已危险地改变了我们的思维方式。”[6]毫无疑问，在如何对待人机关系的问题上，他与麦克卢汉、庄子之间存在着深度的精神共鸣。虽然庄子对子贡的“机械”“机事”“机心”的诘问，并不是海森堡和麦克卢汉主要关注的问题，而他们也未必了解中国古代思想的上下文，但这都无关宏旨。因为海森堡和麦克卢汉并不意在了解“为圃者”反对机械的更深层次的理由，他们不过是借机表达自己对现代科学技术的复杂思考罢了。

那么，我们如何诠释两千多年前的那则寓言？庄子看到，机械不只是纯粹的工具或人体的延伸，被用来替人干活而已。事情从来就没有那么简单，从历史来看，机械从来都是推动人的精神和社会变革的中介物。“为圃者”从哲学的高度，不认可子贡对机械的褒扬，认为他的论述在伦理上难以服人。但深究起来，我们今天很容易误解《庄子》这则寓言的含义，好像它仅仅是在敦促我们反省自己如何对待机器。

在这里，我想提出一个不同的读法。我认为，《庄子》寓言的深刻之处在于，围绕人和机器的关系，始终存在着两种针锋相对的认识。一是工具主义的机器观，即机器仅仅作为人体的延伸，服务于人而存在；二是人与机器之间存在着直接的相互作用（无论是伦理上还是认知上），因而也有了相互转化的可能性。

我深信，只有在第二个层面，《庄子》的寓言才获得其明确的寓意。海德格尔和海森堡对科技发出的追问，也比较接近这个层面，即人与机器之间的相互作用究竟是什么？说到这里，我们不能不重新面对一个老生常谈的问题：人，究竟是机器的主人，还是机器的奴隶？

▍人：机器的奴隶，还是机器的主人

在回答这个问题之前，我们不妨先考察一下“机器人”这个词的词源。“机器人”的英文单词是robot，来自捷克语中的robota（意思是“强制劳动”），其最初的含义是“奴隶”。美国机器人设计师布鲁克斯不赞成“人把机器人当作自己的奴隶来使用”，他甚至反问：“如果我们制造的类人机和人的相似度很高，那么我们对待机器的道德态度，会不会变得像对待其他人那样，乃至在不同程度上像对待动物那样呢？”[7]

布鲁克斯在《肉与机》一书中，对这种奇特的道德主义论点，进行了较为复杂的表述。在回忆他童年时代看库布里克1968年的电影《2001太空漫游》的经历，尤其是电影中机器人HAL的角色时，他写道：“原来HAL是个犯有谋杀罪的精神病患，当我发现这一点后，倒一点也不遗憾”。[8]影片中，犯下谋杀罪的精神病患HAL令人印象深刻，但恐怕更值得我们重视的是影片中的宇航员和工程师，这些人物原本是HAL服务的对象，结果成了它的谋杀对象。

机器人何以从奴隶摇身一变，成了一个精神病患者？这里似乎有什么东西被漏掉或省略了。拉康在不同的场合，也谈到类似的情形：“当人们掌握了热力学，开始计算如何让自己制造的机器回本的时候，人就已经把自己从中排除出去了。人们对待机器，如同主人对待奴隶——机器就在那里，在某处，持续开动。但人们忘记了一件事，正是他们自己签署了订单！”[9]这里的“他们”是指谁呢？

以冷战中发生的一件事为例。1973年，美国参议院军事委员会举行了一次听证，目的是调查尼克松政府在1969年至1970年下令秘密轰炸柬埔寨的非法行径，美国海军上将托马斯·H. 摩尔（Thomas H. Moore）在听证会上说过一句名言：“麻烦的是，我们竟然成为这该死的东西（电脑）的奴隶”。[10]他指的是当年尼克松总统下令轰炸柬埔寨的时候，为了蒙蔽国会，让五角大楼在电脑上“做了手脚”。

军方给电脑安装了两套简报系统：一套专门向人（国会议员）隐瞒真相，另一套只向电脑发布真相。于是，五角大楼的电脑把政府向柬埔寨出动3630架次B-52战机实施秘密轰炸的真实，硬生生地篡改为轰炸南越的虚假报告。[11]看到绝密的虚假报告的那些人（美国政府官员），没有人怀疑其真实性，因为所有的报告都是由五角大楼的电脑自动发给官员的。

麻省理工学院的计算机科学家文森鲍姆在抨击这一战争罪行时指出，“乔治·奥威尔《1984》里面的信息部变得更机械化了。历史一边被摧毁，更是一边被重构”。“借用海军上将摩尔自己的话”，那些政府官员“没有发觉他们自己已经沦为电脑的‘奴隶’，但问题是，那些指示电脑向别人散布谎言的人，那些决策者，反过来也让自己落入陷阱而不能自拔”。[12]

是奴役，还是被奴役？在这一类问题上，德勒兹和加塔利曾说过：“人们哪里只是受到技术机器的奴役，他们根本就臣服于机器。”这里的“臣服”是指哲学家福柯意义上的“臣服”，强调的正是人与机器之间的纠缠关系。[13]我在下面还会进一步分析这种臣服关系的危险性，以及人机纠缠之中的陷阱。

▍反思控制论

麦克卢汉在《理解媒介》一书中说，“由于持续不断地拥抱技术，我们成了技术的自动伺服系统。这就解释了为什么我们只要使用技术，就不能不为技术服务，从而把人的延伸物当作神祇或小型的宗教偶像来崇拜。印第安人就是他所乘的独木舟的伺服系统，同样，牛仔也是他所骑的马匹的伺服系统，行政官员成为时钟的伺服系统”。[14]

如此这般，麦克卢汉就把人和机器的主奴关系倒置过来，不仅使其观点极具煽动性，甚至闪烁着真言的光芒。但我们必须看到，麦克卢汉采用的是控制论的原理（“自动伺服系统”）去解释人和机器的关系，这与他对庄子和海森堡的肯定形成矛盾，因为无论是庄子还是海森堡，都不会轻易地认可控制论的权威。

从控制论的角度看，人的中枢神经系统类似于一台控制论机器，这台机器同其他的伺服系统一样，发挥着维持人体平衡或者调节内稳状态的作用。而麦克卢汉所说的自动伺服系统就是这个意义上的控制论概念。我认为，无论把机器仅仅当作人的工具，还是反过来认为人依赖于机器、服务于机器，都过于简单和粗暴。麦克卢汉一面批判当代技术主导的文明，一面又热衷于这个文明的突出成果——控制论。他在两个立场之间摇摆不定，内化于其逻辑中的深刻矛盾是完全不可调和的。

当麦克卢汉及其追随者不厌其烦地重复说，人体的生理缺陷只要借助于技术手段就能得以延伸时，他们最终恪守的还是孔门弟子子贡的训诫规条，而不是其他。我们还必须看到，这里有一个区别值得重视：比如人脑的记忆功能，它借助电脑微芯片的延伸能够获得极大的增强，这是事实；但我们并不能从这个事实中推导出以下猜想，即计算机的逻辑——以及广义上的通信网络逻辑——与大脑的逻辑相同，甚至类似，两者其实风马牛不相及。

反观那些有关技术延伸或技术假体的论述，它们都从电脑的逻辑与大脑的逻辑相同出发而进行推论，虽然不可信，但早在控制论对大脑逻辑的研究中，就已屡见不鲜。真实的情况是，人体的技术延伸的种种论调不过是托词而已，它模糊了20世纪中叶以来发生的那场技术变革的核心。这个核心不在于人体技术延伸的福音，而在于如何将人的大脑作为计算机来进行控制论意义上的新规划。

20世纪最负盛名的达达主义艺术家豪斯曼（Raoul Hausmann），在1920年制作了一尊新奇的雕塑，名为“机械头：我们时代的精神”。迈入21世纪后，豪斯曼的名作简直可以被重新命名为“弗氏人偶”，因为它在本质上准确地体现出新千年的时代精神。我这本书的封面即采用了“机械头”的图片，以让读者可以在视觉上比较精准地把握弗氏人偶的显著特征。豪斯曼用尺子、打字机的零部件、相机的零部件、怀表装置、鳄鱼钱包、模拟头等物件，组成他的机械头。这件作品至少在感性层面提出，当人们越来越离不开机动假体或高科技物件，当人们的生活越来越被资本主义生产和技术主义统治所笼罩时，人的精神世界会发生哪些变化？

在这里，我们不妨回顾一下控制论研究者在这方面是怎样产生影响的。早在20世纪40年代，麦卡洛克（Warren McCulloch）和皮茨（Walter Pitts）就试图论证人的精神活动完全遵循通信电路的“全或无”规则，他们首次在形式逻辑的关系和形式神经网之间画上了等号。20世纪60年代初期，科尔比（Kenneth Mark Colby）、阿贝尔森（Robert P. Abelson）等人工智能科学家开始使用认知计算机程序，去模拟人的神经症和妄想症。麻省理工学院人工智能实验室的创建者明斯基（Marvin Minsky）尝试从计算中推导出认知模式，并自称是“新弗洛伊德主义”。拉康当年也密切关注维纳（Norbert Wiener）、香农（Claude Shannon）和出席梅西会议的控制论学者的研究，并由此出发，重新思考弗洛伊德的精神分析理论，最终发展出一整套有关“象征界”的学说。这些发展充分显示，数字媒介远不只是借助技术假体去克服人类生理缺陷那么简单，它在政治、社会和精神等层面一直都很活跃，雄心勃勃，值得我们重新探讨和评价。

▍认识机器人的精神世界

在当下，由人工智能推动的数字动画技术不断更新迭代，很多专家开始重新关注弗洛伊德的恐惑论（the uncanny），大谈特谈所谓的“恐惑谷”（the Uncanny Valley）。不仅如此，为了把握机器对人的情感和认知的影响，越来越多的机器人工程师和电脑游戏设计者也开始把弗洛伊德的恐惑论以及有关概念，整合到他们对类人机器人、自动机或社交机器人的研发项目中去。那么，弗洛伊德的恐惑论究竟是什么? 自动机和恐惑论之间是什么关系？我们不但有必要对弗洛伊德的恐惑论做出全新的诠释，而且必须在人机关系的层面进行诠释，否则我们将无从认识未来的机器人的精神世界。

从海森堡思考的高度来看，人和人自己创造的工具之间的那种复杂纠缠，在科学知识发展的过程中始终如此。量子力学迫使大家认识到：“在有些情景下，我们根本无法客观把握自然过程，但这并不妨碍我们重新梳理人和大自然的关系。因此，当我们说到当代精密科学中的自然图景时，我们指的其实不是自然本身的图景，而是我们人与自然之间的关系的那个图景。”[15]

海森堡进一步解释说，此前我们把世界一分为二，一面是时空中存在的客观过程，另一面是反映客观过程的主观思维，笛卡尔将二者分别称为“广延实体”和“思维实体”；不过，这早已不再是我们理解现代科学的有效出发点。他强调说：“分析、解释和分类的科学方法，已经意识到自己的局限性，这是因为，科学由于自身的参与和干预，它改变并再造了探索的对象。”[16]

换句话说，自量子力学出现以后，方法和对象就无法分离。而随着弗氏人偶的出现，人和机器之间的截然区分似乎也在消失。[17]人和机器相互模仿而形成的拟像机制，导致人和机器的关系在神经心理学和精神分析这两个层面都变得异常复杂，其程度已然超出了海森堡对笛卡尔的批评。

当前，许多工程师、科幻小说家和媒体人都力图说服我们，人类依赖自己发明的植入物和机动假体终将实现长生不死的美梦。明斯基、莫拉维克（Hans Moravec）、库兹韦尔（Ray Kurzweil）等人都公开表示，人类将在不远的未来，成为万物之王。库兹韦尔的话更具有代表性：“当我们长得越来越靠近非生物时，我们就具备了‘自给自足’的能力，这意味着要把隐藏在我们的知识、技能和个性背后的关键模式储存起来，只有这样，我们才能从根本上消除导致死亡的大多数原因。”[18]

库兹韦尔所描述的未来图景，不就是弗氏人偶们全面宰制世界的时代吗？它充分地暴露出我们早已熟悉的那种心理防御和恐惧，那就是弗洛伊德所说对死亡驱力的恐惧。库兹韦尔等人试图重新捡起人类攻克死亡的神话。他们没有预见到的是，就在他们在这样做的时候，被压抑的魂灵会悄无声息地返回。

多年以来，美国的机器人研究、人工智能和神经生理学等领域的发展成绩卓著，这是有目共睹的，但它们从一开始就是为美国的国防机构服务的。迄今为止，这些处于前沿的科研都不是平白无故地获得美国政府的慷慨拨款或纳税人的资金资助的，而那些大力鼓吹和推广人工智能和神经生理学的人，似乎也不觉得服务于帝国统治世界乃至统治宇宙的目标，有什么不妥之处。[19]

因此，他们也不愿意直面一个真相：弗氏人偶的群体在控制论无意识的驱使下，不断地寻求在世界各地实行军事征服和压迫，以满足帝国控制他人的欲望。在此，我们完全有理由怀疑，对于一个由众多弗氏人偶所组成的社会而言，民主还剩下什么实质意义？

在思想论战领域，有关人工智能的假命题更是形形色色，无处不在，长期掩盖了弗氏人偶的真面目。比如，哲学家德雷福斯（Hubert Dreyfus）和塞尔（John Searle）对人工智能的抨击，就始终纠缠于人和机器之间的认知竞争，他们否定人工智能的简单理由是，机器不可能复制出人的意识和人的感知。同时，还有众多像莫拉维克、库兹韦尔和哈拉维（Donna Haraway）那样的预言家，一味地肯定“赛博格”（cyborgs）和人机合体，从而陷入“跨人类”的梦魇而不能自拔。但无论是“赛博格”还是“跨人类”，这些论述都无法澄清人和机器之间相互纠缠的政治意涵和精神基础，反而造成了普遍的思想混乱。

在这里，我们不能不追问一下，“赛博格”究竟如何获得自己的政治意志？控制论和数字媒介究竟如何促成人类的精神生活、社会生活和政治生活的大转型？或者我们也可以把“赛博格”看作是一些大大小小的弗氏人偶，在人和机器相互模仿的循环圈里，服从于弗洛伊德所说的那个强迫性重复的自动法则。但无论如何，弗氏人偶的发现，意味着我们终究开始摆脱那些似是而非的假命题，转而思考一些真实的大问题，比如，当弗氏人偶的社会逐渐兴起的时候，它可能带来的政治后果是什么？

归根结底，发现弗氏人偶，认识弗氏人偶，这是唯一坚实有效的认识当代人的途径，也是我们借以把握这个险象迭生的网络化世界的最好途径。