EP03：阿基里斯、乌龟和芝诺：人工智能的极限是什么？

文理两开花

我们的几个奇怪的主人公终于登场了！一只乌龟、古希腊英雄阿基里斯、芝诺。后面章节中还会出现几个奇怪的角色，包括螃蟹。
这就是GEB著名的招牌结构：在每个章节前，侯世达老师会编一篇对话小故事，把内容引出来。这也是我每一章最爱看的部分，因为相对容易懂。
侯式幽默，虽然有时很冷，但是每个对话都回味无穷，看完这个小故事，带着印象进入下一章，读完后再回来重温一下，方知其奥妙之处。有时会恍然大悟，原来对话中另有玄机；但有时文科生上头，也会想：侯世达老师炫技有点儿过了，让读者觉得智商堪忧可能并不是一件好事。但是，侯世达老师并不care读者智商的承受能力。
上一期留了一个悬念：提到了图灵机——他和哥德尔不完备定理有啥关系？哎别说，那还是很有关系的，不仅有关系，还能带出到底“什么是智能”的一些深层哲学。
本期和大家解读的第一章内容，也是层层嵌套的绝活儿，不仅带出了第二次数学危机，也带出了整个数学大厦、计算机人工智能最重要的基础，地基——形式系统。
大家可以对比一下，听本期播客之前之后，分别能在这一章中找出多少“梗”？
本期剪辑：小碗
本期烧脑提纲：
·(00:06:22) 全书和大家见面的第一篇对话是《三部创意曲》。
·(00:09:26) 这么一篇奇怪的对话，到底埋了多少梗？为啥叫“三部创意曲”？
·(00:18:26) 芝诺禅宗谐音梗，你看出来了吗？
·(00:23:39) 什么是形式系统？
·(00:30:22) 用国际象棋举个例子
·(00:36:21) 侯氏龟能梦电子龟吗？
·(00:42:27) MIU还是WJ？
·(00:48:56) 机器能“跳出系统”吗？
·(00:56:52) 大梗来了
·(01:02:14) 哥德尔和图灵机：人工智能的极限是什么？
文字稿和时间戳：
(00:06:22) 全书和大家见面的第一篇对话是《三部创意曲》。
对话开始于阿基里斯和乌龟对一面奇特旗子的讨论：
“阿基里斯和一只乌龟站在尘土飞扬的跑道上，烈日当空。在跑道的另一端，有一根高高的旗杆，上面挂着一面长方形的大旗，整面旗子是红色的，但上面有一个环状的狭缝，透过狭缝可以看到天空。这个环形切口呈阿拉伯数字‘零’的形状，这是芝诺最喜欢的数字。”
这么一小段开头，信息密度极大：里面包含了：芝诺悖论，第二次数学危机的内涵——也就是无穷小他到底是不是零？
接着，旗子动了，乌龟和阿基里斯莫名其妙地开始讨论到底是风动还是幡动。（埋梗）
然后芝诺就溜达着路过了，说：“你俩别争了，什么都没动。我发现了一个伟大的定理：运动从本质上说是不可能的。这个定理可以推导出一个更伟大的定理——芝诺定理：运动无有。”
芝诺继续说道：“我的师傅五祖教导我，真如即一，具有不变异性，万象的动迁变化都是感官的幻觉。因此，阿基里斯永远追不上乌龟。”
乌龟点题道：“论证‘运动不可能’的命题是通过芝诺的‘二分悖论’证明的：如果想从A点到B点，必须先走完A到B的一半；要走完这一半，又得先走完这一半的一半。如此无限细分下去，当然永远无法到达B点。”
阿基里斯表示质疑，芝诺说：“不信你就试试。”于是，阿基里斯和乌龟开始了那场著名的赛跑。
(00:09:26) 这么一篇奇怪的对话，到底埋了多少梗？为啥叫“三部创意曲”？
GEB这本书可谓是步步埋梗，信息量超大。短短一小段故事就包含了好几个知识点，炫技炫出天际。
"三部创意曲"这个标题本身就是个妙招。它源自卡罗尔的著名文章《乌龟跟阿基里斯说了什么》，侯世达将其视为"二部创意曲"。这里暗藏玄机，因为巴赫恰好有15首二部创意曲，是早期钢琴独奏中两个声部的配合，听起来就像两个人在对话。
侯世达借此给卡罗尔的文章冠名，暗示乌龟和阿基里斯的对话。然后，他更进一步，加入了芝诺，形成了三人对话，于是就有了"三部创意曲"，又恰好对应巴赫的另外15首三声部钢琴独奏曲。这一招既致敬了卡罗尔的故事，又向巴赫的作品致敬，可谓是青出于蓝而胜于蓝。
侯世达又在小对话开篇引用了埃舍尔的莫比乌斯带画作。这一手更高明，因为他在短短几行字里就把"哥德尔（数学）、埃舍尔（艺术）、巴赫（音乐）"这三个领域都巧妙地带出来了。这种炫技手法贯穿全书，读者会不断发现各种梗，有时甚至会觉得有点跑题。但这恰恰体现了侯世达的写作特点——不完全是为读者服务的，更多的是为了自己写得开心，就像我们做播客一样，重要的是自己聊得爽。
从写作风格来看，这本书既不遵循“金字塔原理”，也不遵循“坡道原理”，而是采用了“散文”方式——形散神不散。侯世达东一榔头西一棒槌，到处炫技、到处埋梗，但归根结底还是围绕着GEB、数学、逻辑和人工智能这条主线——讲数学时一定会提到音乐和美术，讲音乐时一定会涉及数学和绘画，讲绘画时也一定会联系数学和音乐。他不关心读者是否能跟上，完全是在抒发自己的感情和想象，想到哪写到哪。每一章都充满了高难度的概念，比如第二章就直接引入了MIU形式系统，对于不熟悉的读者来说可能会感到劝退，但侯世达老师不care。
(00:18:26) 芝诺禅宗谐音梗，你看出来了吗？
芝诺悖论，看似在说运动不存在，其实它触及了更深层的数学概念：无穷与有穷、离散与连续、无穷小等等。这些问题属于第二次数学危机的范畴，最终通过微积分和极限的概念得以解决。
更妙的是，卡罗尔在他的文章《乌龟跟阿基里斯说了什么》中，提出了一个更具颠覆性的观点：逻辑本身也存在无穷倒退的状况。这个观点巧妙地将芝诺悖论与自我指代、逻辑循环、怪圈联系起来，进而触及了第三次数学危机的核心——逻辑的困境。
侯世达在书中明显地致敬了卡罗尔。在卡罗尔提出这个观点之前，虽然哥德尔不完全性定理和罗素悖论已经出现，但很少有人将芝诺悖论与第三次数学危机（也就是逻辑问题）联系起来。卡罗尔能有如此独特的视角，实在令人佩服。
我们都知道芝诺悖论讲的是阿基里斯追不上乌龟，看似在讨论运动的可能性。但实际上，它所蕴含的深意远不止于此。侯世达将这个话题称为“三部创意曲”，这个命名本身就很有意思，更重要的是它背后所蕴含的深刻思考。
说到有意思，侯世达还玩了个谐音梗。还记得对话开头，乌龟和阿基里斯莫名其妙地开始讨论“风动还是幡动”吗？
在英文原版中，侯世达故意把“Zeno”（芝诺）和“Zen”（禅）搞混，制造了一个关于芝诺和禅师的笑点。可惜这个梗在中文翻译中无法体现，只有读英文版的读者才能get到他的幽默。
说到翻译，侯世达本人也参与了这本书的深度翻译工作。这本身就是件很有意思的事，尤其是在处理像“Zeno”和“Zen”这种难以直译的文字游戏和双关语时，更显功力。
(00:23:39) 什么是形式系统？
第一章名为“WU谜题”。
侯世达没有直接解释什么是形式系统，而是设计了一个名为“WU”的谜题，通过这个谜题让读者尝试解答——最终发现根本无解。通过这个谜题，侯世达试图引出并解释形式系统的概念——GEB全书的中心概念之一。
形式系统到底是什么呢？
核心理念其实很简单：一切都是形式系统（听君一席话，如听一席话式定义）。比如，人类语言就是一种形式系统。语言的语法规则，主语、谓语、宾语的排列组合，都是形式系统的一部分。从语法的角度看，句子的结构不过是符号的排列组合。而这些符号的排列组合如果符合一定的规则，就能产生有意义的语言。
例如，“我打球”是一句符合语法规则的句子，而“我苹果”则不符合，因为两个名词连在一起没有意义。通过语法规则，我们可以禁止不符合规范的组合，从而使语言变得有意义。
如果我们把所有的语法规则列出来，那么语言就变成了符号串的组合方式。同理，计算机语言由0和1的组合构成；音乐由音符和节奏的组合构成；美术作品由像素点的组合构成。这些都是形式系统。
形式系统的根本在于初始元素以及它们的排列规则。无论是语言、计算机代码、音乐还是美术，它们在形式系统的本质上没有区别。形式系统的理念是，世间万物皆为形式系统，一切都是形式系统，这种观点确实具有很大的杀伤力，因为它揭示了万物的本质。
形式系统是一种透过初始元素及其规则来理解世界的方法。而《哥德尔、埃舍尔、巴赫》这本书，正是通过形式系统的视角，带领我们进入一个跨学科的智力盛宴。
(00:30:22) 用国际象棋举个例子
世间万物皆为形式系统。乍一听可能觉得难以置信，但仔细想想，确实如此。形式系统就像一个隐藏在事物背后的框架，支撑着事物的运作。就像大楼需要钢架支撑一样，我们日常生活中解决问题的策略、思维模式，甚至复杂的数学体系，都可以看作是形式系统。
形式系统包含三个要素：
·形式语言 (Language): 就像我们说话需要词汇一样，形式系统也需要一套符号和语法规则来表达信息。
·公理 (Axioms): 这是一组被设定为真的基本命题，就像游戏规则一样，是形式系统的基础。
·推理规则 (Rules of Inference): 这是用来从公理推导出其他真命题的规则，就像游戏中的操作规则一样，规定了如何在形式系统中进行推理和演绎。
通过这三个要素，形式系统就能像机器一样运作，产生新的定理(Theorems)，也就是从公理推导出来的真命题。用国际象棋来举例：
·形式语言: 国际象棋的棋盘、棋子、每个棋子的走法等，构成了游戏的语言和词汇表。
·公理: 游戏开始时的初始状态，比如棋子的摆放位置，就是游戏的公理，只有满足这些条件，游戏才能开始。
·推理规则: 棋子的移动规则，比如“马走日”，“象走田”等，就是游戏的推理规则，玩家需要根据这些规则移动棋子。
而游戏的目标“将死对方”，就是一个需要通过推理规则和策略来实现的定理。
上期提到：为什么要把很多过程分解成机械、可重复的形式？其实跟形式系统的本质密切相关。如果我们能把某些行为或事情，用形式系统的方式规范出来，那就更容易让人与人之间达成共识，避免很多不必要的混乱和争论。
(00:36:21) 侯氏龟能梦电子龟吗？
为唤起读者的好奇心，侯世达老师给大家贴心地设计了一个小小的谜题：“你能产生WU吗?”。这个谜题如果大家能耐心的读完，并且尝试一下，会发现很妙，很有趣。
我用侯世达同款对话编了一段小故事，可能让大家更容易理解这个”WU谜题”：
这天，阿喀琉斯和乌龟进入了一个名叫”WU迷宫"的迷宫，遇到了一只叫做"meta乌龟"的电子龟。
电子龟塞给了他们一个迷宫引导器，上书两个字母“WJ”。引导器有4条规则：
规则一：如果你有一个以 J结尾的字符串,你可以在它后面再加一个 U。比如 WJ 就可以变成 WJU。
规则二：假设你有 Wx，这里x是任意一个字符串。那么你可以把它变成 Wxx。比如WJU可以变成WJUJU。
规则三：如果你的字符串中有JJJ，你可以用U替换。比如WUJJJU可以变成WUUU。
规则四：如果你的字符串包含UU,你可以把它删除。如WUUU 可以变成 WU。
电子龟问：如果从“WJ”开始，能否通过有限步骤，走出迷宫，得到“WU”？
这就构成了一个典型的形式系统：它有明确的符号(W,J,U)、公理（WJ）和推理规则（规则1-4）。 阿喀琉斯和乌龟试图用这些规则去推导WJ，发现他们无论如何都无法从WJ推导出WU，而是不断地陷入"WJ-WJU-WJUJU-WJU-WU-WJ"的循环，无论如何都会陷入循环，都会回到原点WJ。
对此meta-乌龟给出了令人费解的禅宗式回应。它说："WU”。一头雾水，再追问，还是只说"WU”。惜字如金。
乌龟突然一拍脑袋，对阿基利斯说： "WU"在禅宗中代表一种超越二元对立(如是与非、对与错、有与无)的智慧境界，电子龟再暗示我们不要执着于WJ和WU之间的逻辑纠缠，而应该跳出这个系统，用更高的智慧去看待问题啊！
好了这个莫名其妙的故事讲完了。
这个“WU的谜题”到底想说明什么？
(00:42:27) MIU还是WJ？
侯世达在介绍形式系统时，首先想传达的是"万物皆形式系统"这一理念。他希望读者明白，形式系统并非高深莫测，也不一定与数学、逻辑学或哲学挂钩。即便是简单如WJU这样仅有三个字母的系统，也是一个典型的形式系统。虽然它无法与人类语言、绘画、音乐或计算机系统相提并论，但麻雀虽小，五脏俱全，完全符合形式系统的基本条件。
这个简单系统的构造颇有意思。有趣的是，英文原版中这个形式系统叫MIU，而中文版则叫WJU。这里面大有文章：
MIU代表Mechanical（机械的）、Intelligent（智能的）和Un-（否定前缀），分别对应机械式推理、人类智能理解和禅宗的"无"概念。这三个概念与形式系统息息相关。
翻译成中文时遇到了挑战，因为对应的中文词汇首字母与英文不同。于是，译者巧妙地创造了新的对应关系：
·J代表"机"，对应机械方式
·W代表"维"（本应为"唯"，但用了"惟"），对应人类智能、逻辑思维
·U仍然代表"无"，对应禅宗思想
这种翻译方式高度重视表意，但也不可避免地留下了一些"bug"。比如，按照逻辑，中文版应该是JWU而非WJU，以对应英文版MIU的顺序。但为了使开头更接近自然语言习惯，最终选择了WJU。
这种精心设计的翻译反映了侯世达对细节的极度重视，甚至到了"机关算尽"的地步。这本书中类似的细节还有很多，就像《红楼梦》一样，值得细细品味。但若要一个一个都挖出来，那根本挖不完。
(00:48:56) 机器能“跳出系统”吗？
侯世达通过WJU谜题巧妙地揭示了人类思维与机械逻辑之间的本质差异。这个看似简单的谜题实际上蕴含着深刻的哲学思考：人类思维能否被完全描述为一个形式系统？
谜题的关键在于"跳出系统"的能力。当面对无法解决的问题时，人类可以停下来，审视整个系统，发现规则的本质（如J的数量不会减少），从而得出结论。这种能力正是人类智慧的体现，也是区别于机械逻辑的关键所在。
（这里不得不琢磨，“WU”的读音就是“无”，这不就是在暗示要跳出系统，别钻牛角尖么？）
“跳出系统”：能够跳出正在进行的工作，并且看一下已经做了些什么，是智能固有的特点。比如我读GEB，读不下去的时候，搁在一边儿，把灯关掉。我就“出了GEB系统”。
但教计算机“跳出系统”，能教到什么程度呢？
书里举了一个实例：加拿大一次计算机国际象棋比赛，一个下棋不太强的程序，却有一个很牛的特性：它可以远在棋下完之前早早退出。棋下得不太好，但却有预先估计到没有希望的棋局的能力，然后停下，而不是等着另一个程序把它将死。虽然每次下棋它都输，但是输得很有风度，不丢人。
然而，这个例子其实并不完全贴切。因为程序的认输行为很可能仍然是基于预设的规则（如胜率评估）而非真正的"意识到自己在下棋"。
这引发了更深层次的思考：即使我们不断为计算机添加更高层次的规则，试图模拟人类的各种智能行为，是否有可能最终达到人类思维的灵活性？
人工智能工作的奇异之处：通过一系列严格的形式化规则，教会机器如何表现得灵活。然而，这些规则本身是死板的。但是要涵盖所有智能行为，需要各种不同层次的规则。从基本规则到修改这些基本规则的元规则，再到修改元规则的更高层次规则元元规则，都必须存在。
面对生活中千变万化的情况，我们需要多少层级的规则才能涵盖所有可能性？这些规则的堆叠是否有尽头？
更重要的是，人类"跳出系统"的能力与计算机执行预设规则导致的任务终止是有本质区别的。人类可以意识到自己正在某个系统中运作，并主动选择退出或改变视角。而计算机，无论其行为看起来多么智能，本质上仍然是在执行预设的程序逻辑。
（00:56:52) 大梗来了
终极的人工智能不可能论，主要论点在于机器什么时候能认识到自我，才能真正理解自己在一个系统中。这是传统的人工智能理论，而侯世达在他的书中通过一段话揭示了这一点。他写道：
“只有极少数的人有那种眼光看出一个支配许多人生活的系统，而以前却从来没人认为这是一个系统。这些人常就投入毕生的精力去使其他人相信系统确实存在，应该从中退出。”
这段话让你想到什么了吗？
没错，就是《黑客帝国》（The Matrix）。
虽然这部电影是在侯世达的书出版之后拍摄的，但两者的思想有相似之处。可以猜测，《黑客帝国》的导演可能读过侯世达的书，受到了启发。甚至可以推测 “缸中之脑”这个概念，虽然在GEB获得普利策奖之前已经存在，但侯世达可能是第一个系统性提出这一理论的人。
整个GEB都围绕一个核心理念展开，那就是“怪圈”。侯世达认为，人类的自我认知就是一个怪圈，而这个怪圈正是智能的核心。这本书的前两章已经埋下了无数的梗、暗线和隐喻，揭示了这一理念。
哥德尔不完全性定理是一个超级怪圈的典范。哥德尔通过数学方法证明了形式主义和逻辑主义的不成立。然而，哥德尔不完全性定理本身却是形式主义的巅峰之作，它用数字化的方法将形式符号编成数字来进行证明。哥德尔数的概念将形式符号量化，这种方法也可以用于推导其他形式系统，如WU谜题。
(01:02:14) 哥德尔和图灵机：人工智能的极限是什么？
图灵机本质上是一个概念性的计算机，它可以被看作是一个典型的形式系统，包含符号、初始状态和生成规则。它虽然简单，但理论上可以模拟任何计算机程序的运行。
哥德尔不完全性定理指出，任何包含基本算术的形式系统都必然存在一些命题，它们是真命题，但在这个系统内部却无法被证明。
那么问题来了：图灵机作为一种形式系统，是否也符合哥德尔不完全性定理？
首先，我们需要明确图灵机是否能够进行基本的数学运算。如果我们假定它可以，那么根据哥德尔不完全性定理，图灵机内部也应该存在一些无法被证明的真命题。
图灵本人提出的“停机问题”似乎印证了这一点。停机问题指的是，是否存在一个程序能够判断任意程序是否会在有限时间内停机。图灵证明了，这样的程序并不存在。
从形式上看，停机问题和哥德尔不完全性定理的表述非常相似。停机问题可以被看作是一个无法判断自身是否停机的程序，这与哥德尔不完全性定理中那个无法证明自身真伪的命题类似。
虽然很多人认为图灵停机问题和哥德尔不完全性定理是等价的，虽然这种说法并不严谨，其中涉及到很多细节问题，但不可否认的是，图灵停机问题确实与哥德尔不完全性定理存在着千丝万缕的联系。
如果我们能制造出图灵完备的计算机系统，是否意味着我们就能创造出人工智能？
对于这个问题，学界存在两种截然不同的观点：一种观点认为，只要计算机系统的规模足够大，就能够模拟人类智能。另一种观点则认为，计算机系统本质上只是一个逻辑系统，而哥德尔不完全性定理已经证明，逻辑系统无法推导出真正的数学或人类智能，更不可能拥有自我意识。
这两种观点的争论一直持续至今，尚无定论。
但无论是哥德尔不完全性定理还是图灵停机问题，都揭示了一个共同点：即使强大如计算机，也存在着无法逾越的“墙”，即“不可计算性”。
正如哥德尔不完全性定理表明，即使在完美的数学大厦中，也存在着逻辑无法触及的角落。图灵停机问题则更进一步，它直接在图灵机这一强大的计算模型中，展示了“不可计算性”的存在。
而人类，作为创造出这些概念的思考者，似乎能够跳出这个“怪圈”，从更高的维度俯瞰这一切。
或许，这正是人工智能与人类智能之间最根本的差异所在。人工智能始终受限于自身的逻辑系统，而人类却能够凭借直觉和意识，超越逻辑的藩篱。
关于《文理两开花》：
《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”，我们试图在混沌中寻找秩序。
Twitter：
@LeiSalin_XP
@Will42W
TG群（开放）：t.me
收听平台：
小宇宙：文理两开花
苹果播客｜Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花（海外版）》（苹果播客中国区可复制https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28手动添加节目）
文字稿和延伸阅读：
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅：https://wenli.substack.com
其他平台：
即刻：文理两开花
《文理两开花》微信群：请添加坛子微信（WeChat ID: BKsufe），注明：文理两开花
留言告訴我你對這一集的想法： https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments

Powered by Firstory Hosting