智能技术正重构社会 | 社会科学报
人与机·生成篇
一旦超级通用智能机器出现，“理性的人”将失去价值，且逐渐退化，而“情感的人”还将继续存在并发挥价值，因为人类作为“意义生产者”是机器不能替代的。
(相关资料图)
原文 ：《智能技术正重构社会》
作者 |南京大学哲学系教授 潘天群
图片 |网络
当前,智能技术成为推动人类社会发展的重要动力。OpenAI公司新推出的ChatGPT被认为是一个通用人工智能（AGI）。ChatGPT是基于网络数据上的智能系统，它是“寄生”于人类集体智慧或者知识之上的系统。在网络上已有的人类知识或者数据构成它的资源，它利用这些资源，通过某种算法从中“生成”问答者所要求的答案，这里的“生成”包括“推理”“综合”甚至“创新”。当然ChatGPT是否能够“创新”，这是存疑的。ChatGPT似乎已经具备了成为人类“万能的智能助手”的能力。
ChatGPT：“看上去”与人类智能相当
智能被认为是应对环境的能力，这样的能力不为人类所独有。麦卡锡（John McCarthy）曾说：“智能是实现在世界中目标的能力的计算部分。人有不同种类和不同程度的智能，许多动物和机器也能够有智能。”麦卡锡所说的计算部分在我看来便是指人的思维能力，而不是那种实现目标的实际行动能力。智能可看成是“抽象之物”，而人、动物乃至机器可以看成是实现这种“抽象之物”的具体载体。从这个意义上说，抽象的“智能”是“理念世界”中的理念，而现实世界中的人、动物乃至机器可以“分有”智能这个理念，并且人也是“不完满”地分有它。现实世界中的具体化的智能之于理念世界中的智能，如同现实世界中的圆之于理念世界中的圆。正因为人的智能不是完满的，人类可按照完满智能的理念创造出比人类更加完满或者“更智能”的系统。“更智能”可在广度和深度两个维度上得以体现：在广度上更智能的系统是指它更加“通用”，而在深度上更智能的系统是指它更加“专业”。
图灵（1950）是在“智能比较”的意义上给出了机器是否有智能的标准：如果机器在解决问题的思维能力上与人不相上下，那么我们说机器便有了智能——与人有一样的智能。这便是所谓的图灵检验的核心涵义。与ChatGPT对话时，人们发现它几乎能够回答我们“所有的”问题，尽管在有些问题上它的回答是很弱智的。从这个意义上说，ChatGPT是一个与人类智能相当的（通用）人工智能系统。当然，ChatGPT还不是那种强人工智能，因为人类是基于对这个世界的“理解”而给出解决问题的方案的，而ChatGPT纯粹是对人类的语言进行语形处理或者操作，系统在回答时只是看上去像是理解了那些问题。因而，ChatGPT只是“看上去”与人类智能相当的通用智能系统。
“奇点”时刻：超级通用智能系统
尽管ChatGPT解决问题的能力“总体上”胜过很多人，并且很可能它胜过所有人，然而它在任一领域中都不能胜过该领域中的人类专家。从这个意义上说，它仍然是在人类水平上的人工智能系统，而非超级智能系统。超级智能是指问题解决能力远超人类智能的智能体。在围棋对弈方面，如果说Google公司的围棋智能系统AlphaGo的智能水平与人类相当，那么Alpha Master则是一个超级的专门智能系统，因为在解决围棋“问题”的能力上Alpha Master完全碾压人类。人类在不同智力领域中在努力开发替代人类智能的人工智能系统，这些智力领域可以是自然科学领域、数学领域、哲学研究等，那么相应的智能系统为“科学人工智能（AI for Science）”“数学人工智能（AI for Mathematics）”“哲学人工智能（AI for Philosophy）”，等等。事实上Google公司开发的AlphaFold便是一个科学人工智能系统，而人们在研发人工智能之初便是希望机器能够代替人类进行数学定理证明的，即开发AI for Mathematics系统，等等。在这些领域中人类开发出像Alpha Master那样的远超人类智能的智能系统，这是可设想的。
当前人类社会正处于出现超级专门人工智能系统的爆发期。比如，如果突然有一天有科技公司研制出一个能够证明出一系列如黎曼猜想这样的人类难以证明的数学定理的系统，或者研制出一个比爱因斯坦还聪明的机器科学家，我们不必惊讶。那时人类面临的问题将是如何理解这些超级专门智能系统的工作。这些都是超级专门智能系统。假定我们研制出了人类大部分或者所有智力领域中的超级专门智能系统，并将这些超级专门智能系统“集成”为一个系统，这样的系统将是一个多么强大的存在！这样集成的智能系统的智能水平将在所有智力领域内超过人类的智能，其智能水平是一个比ChatGPT高一个数量级的超级通用智能系统。而一旦这样的系统被造出来，那就是人类的“奇点”时刻——机器的智能大大超过人类，它将彻底代替人类进行所有智能性创造工作，包括设计机器。
如果这样的超级通用智能机器被研制出来，人引以为豪的领域在哪里？人还有存在的价值吗？我能够想到的是，一旦超级通用智能机器出现，“理性的人”将失去价值，且逐渐退化，而“情感的人”还将继续存在并发挥价值，因为人类作为“意义生产者”是机器不能替代的。机器无法有人的经验，无法与人类共有某种生活实践。而如果机器代替了人成为意义生产者，人作为书写者死亡了，那么这个星球就应该完全让渡给机器来主宰了。
人工智能系统会成为人类社会重要部分
技术是人发明出来的应对自然或者他人的物质化手段。技术一旦进入到社会，它以自身的逻辑重构人类的社会，促成不同类型的技术社会（technosociety）的形成，这里所谓的技术社会意指在某个地理空间上技术与人融合而形成的社会。随着科技公司竞相推出类ChatGPT系统以各种即将出现的专门超级智能系统，这些系统会成为人类社会的重要部分，或者说它们本身是人类社会中的“成员”。
我们无法预知这些智能系统对人类社会有何种影响或者冲击。但是有一点是肯定的，在不太远的将来，这些人工智能系统仍是工具，因为它们的强大建立在它们的蛮力，即巨大的算力和算料基础之上，而不是建立在对这个世界的理解之上的，它们也无法产生新的“人类经验”。人类拥有特有的理解这个世界的概念及概念系统，而人类的智能正是建立在对这个世界的理解之上的。如果机器有自己的概念系统及对世界的“理解”，那么它们可能不再是能够被我们所用的工具。我们不能说未来人类一定不能造出能够理解它们所在的世界的智能系统，但至少目前人工智能只是运行于网络数据世界之中，而不在我们的世界之中。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1845期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
拓展阅读
视域 | 计算美学：人工智能时代的理性美学
治国理政 | 人工智能时代，推动数据治理
