1. 苦涩的教训当我们谈论AGI时我们在谈论什么最近在圈子里看到不少关于AGI通用人工智能的讨论尤其是“多模态AGI”这个概念热度一直不减。大家聊得热火朝天从技术架构到应用场景充满了乐观的想象。但今天我想分享一篇旧文里的核心观点它像一盆冷水提醒我们在技术狂飙突进时需要停下来思考一些更根本、也更“苦涩”的问题。这篇短文的核心并非否定技术进步而是探讨我们在追求AGI的征途上可能正在重复一些历史性的认知偏差和战略失误。这不仅仅是技术路线之争更是关于我们如何理解智能、如何设定目标以及最终我们想创造什么。AGI或者说通用人工智能指的是具备人类水平、甚至超越人类水平的认知能力能够理解、学习并应用于广泛任务的智能体。它不像今天的专用AI比如下围棋的AlphaGo、画图的Stable Diffusion只擅长单一领域。AGI的愿景是创造一个“通才”。而“多模态”则是当前实现这一愿景的主流技术路径即让AI能同时处理和融合文本、图像、音频、视频等多种类型的信息输入和输出模拟人类通过多种感官认知世界的方式。这听起来无比正确也是技术进化的必然方向。然而正是在这种“正确”和“必然”之中潜藏着那个“苦涩的教训”。这个教训是什么简单说它指出过去几十年人工智能的发展史反复证明那些试图通过将人类的知识、逻辑和认知结构“编码”进机器的方法即所谓“基于知识表示和推理”的符号主义方法长期来看其效果远不如那些看似“简单粗暴”、基于大规模计算和数据的“搜索”与“学习”方法即连接主义如深度学习。后者通过海量数据和巨大算力让模型自己从数据中寻找规律哪怕其内部工作机制如同黑箱但其最终表现往往能超越精心设计的人类规则。这个教训之所以“苦涩”是因为它挑战了我们的智力优越感——我们引以为傲的逻辑、知识和推理在构建超级智能的竞赛中可能并不是最有效的基石相反看似“没有思想”的暴力计算和统计拟合却取得了更辉煌的成功。当我们今天热议“多模态AGI”并为之设计复杂的架构、对齐目标和伦理准则时我们是否又在某种程度上试图将我们对“智能”的理解——尤其是基于人类多感官体验的认知模型——预先植入系统我们是否在重复那个“苦涩的教训”即过度依赖人类中心主义的智能蓝图而低估了纯粹基于规模数据规模、模型规模、计算规模和目标函数优化的、另一种形式的“智能”涌现的可能性这篇短文的价值就在于它迫使我们在技术乐观主义的喧嚣中保持一份冷静的反思。2. 从历史回望AI发展史上的“苦涩”循环要理解这个教训为何“苦涩”我们需要回顾一下人工智能的发展简史。这段历史并非线性进步而更像是一个螺旋上升的过程其中充满了路径的竞争与范式的更迭而“苦涩的教训”在其中多次应验。2.1 早期辉煌与第一次“苦涩”专家系统的兴衰人工智能的早期主流范式是符号主义。研究者们相信智能的核心在于逻辑推理和符号操作。只要能将人类专家的知识用规则“如果-那么”语句形式化地表达出来并赋予机器推理能力就能创造出智能系统。于是专家系统在七八十年代风靡一时。在医疗诊断、化学分析等领域确实出现了一些成功的应用。然而专家系统的“苦涩”很快显现知识获取瓶颈将人类专家模糊、经验性、依赖于语境的知识转化为精确、完整的规则集极其困难且成本高昂。这被称为“知识获取瓶颈”。脆弱性专家系统严格依赖于预设的规则。一旦遇到规则库未覆盖的“边缘情况”系统就会完全失效无法像人类那样进行合理的推测或承认无知。缺乏学习能力系统本身无法从新的经验中自动学习和更新知识库。维护和扩展知识库需要持续的人工干预。注意这个阶段的教训是试图通过人工穷举和编码人类所有知识来构建智能是一个几乎不可能完成的任务。智能似乎不能完全从顶层设计而来。2.2 连接主义的复兴与第二次“苦涩”从感知机到深度学习寒冬与符号主义并行连接主义即模拟人脑神经元网络的研究也在进行。早期的感知机模型简单而富有希望但被明斯基等学者从理论上指出了其致命局限如无法解决线性不可分问题这直接导致了第一次“AI寒冬”连接主义研究陷入低潮。直到反向传播算法的重新发现和应用以及计算能力和数据量的提升多层神经网络即深度学习才在21世纪初重新焕发生机。特别是在2012年AlexNet在ImageNet图像识别竞赛中以压倒性优势获胜标志着深度学习时代的正式到来。这可以看作是“苦涩教训”的一次正面印证与其费尽心思手工设计图像特征如SIFT、HOG不如设计一个足够深的神经网络架构用海量图片数据和强大的GPU算力去“端到端”地训练让网络自己学习从像素到物体类别的映射。这种方法放弃了人类对“特征”的先验定义完全依赖数据和计算结果却好得多。但深度学习也带来了新的“苦涩”黑箱问题深度神经网络的决策过程难以解释。它做出了正确的判断但我们往往不知道它是基于什么“理由”做出的。这在医疗、司法等需要可解释性的领域成为巨大障碍。数据与算力饥渴其卓越性能严重依赖于巨量的标注数据和惊人的计算消耗导致了研究资源的集中化和巨大的能耗问题。脆弱性与泛化能力深度学习模型容易被精心构造的对抗样本欺骗也常常在分布外数据上表现不佳显示出其“智能”的肤浅和脆弱的一面。实操心得从专家系统到深度学习我们可以看到一条清晰的脉络当我们将智能的实现过于紧密地绑定在人类可理解、可设计的显性规则或特征上时我们往往限制了系统性能的上限。而当我们转向一种更“放任”的策略即提供目标损失函数、数据燃料和算力引擎让系统通过优化过程自行寻找解决方案时我们常常能收获惊喜尽管其内部工作机制变得难以捉摸。这就是“苦涩教训”的核心——智能的有效性可能优先于智能的可解释性。2.3 当前语境大语言模型与“多模态AGI”是否在重蹈覆辙今天我们站在以大语言模型LLM为代表的新范式门前。GPT等模型展现出的涌现能力似乎再次验证了“苦涩的教训”通过在海量文本数据上进行看似简单的“下一个词预测”任务训练一个足够大的模型可以展现出翻译、编程、推理、创作等令人惊叹的通用能力。我们并没有为它编码语法规则、世界知识或逻辑定理它全部从数据中“统计”而来。现在业界将AGI的希望寄托于“多模态大模型”。我们认为将文本、图像、音频、视频等多模态数据一起训练模型就能建立起更接近人类的对世界的统一表征从而向AGI迈进。这听起来非常合理。但这里潜藏着新的“苦涩”风险我们是否正在将“多模态”这一人类智能的表现形式错误地等同于智能的本质或必要路径我们设计复杂的多模态对齐算法、精心构建多模态指令数据集本质上是不是在试图引导AI按照人类多感官融合的方式来“理解”世界如果“苦涩的教训”继续生效那么最终更强大的AGI或许会以一种我们完全意想不到的、非多模态的、甚至是非人类认知模式的方式涌现出来。它可能基于纯文本训练却能通过内在的抽象推理生成超越人类视觉想象的图像它可能根本不需要“看”和“听”的模态就能解决我们认为必须依赖这些感官的问题。我们当前对“多模态AGI”的全力投入会不会像当年投入专家系统一样是建立在一种对人类智能形式的模仿上而非追求最有效的智能实现路径这是那篇短文留给我们的、最令人不安的拷问。3. 核心争议智能的本质是“形式”还是“功能”“苦涩的教训”之所以能引发深度思考是因为它触及了一个哲学层面的核心争议我们究竟应该从形式上还是从功能上来定义和追求智能3.1 形式主义路径模仿人类智能的架构这条路径认为要创造真正的智能必须模仿产生智能的载体人脑的结构和运作方式。这包括神经形态计算制造在物理结构上类似大脑神经元的芯片。具身智能强调智能体必须拥有物理身体通过与真实环境的交互来发展智能。多模态感知认为智能必须像人类一样整合视觉、听觉、触觉等多种感官输入。这条路径的吸引力在于其直观性和生物启发性。它的潜在风险正如“苦涩的教训”所警示的是可能将智能与某种特定的生物实现形式过度绑定从而忽略了实现同一智能功能可能存在更高效、更简洁的数学或工程路径。历史上人类曾试图模仿鸟类扑翼来制造飞行器但最终成功的飞机固定翼结构与鸟类的翅膀形式截然不同。3.2 功能主义路径实现智能行为的输入-输出映射这条路径更关注智能的行为表现而非其内部构造。它认为如果一个系统能在各种任务上表现出与人类相当甚至超越人类的解决问题的能力那么它就是智能的无论其内部是硅基芯片还是生物神经元是单一模态还是多模态处理。当前的大语言模型正是功能主义路径的典型代表。我们并不关心GPT的内部注意力机制是否与人脑的思考方式相似我们只惊叹于它能写出流畅的文章、解决复杂的代码问题。这条路径的优势是目标明确、可度量通过基准测试且更容易利用规模定律Scaling Law取得性能突破。它的“苦涩”之处在于可能创造出能力超强但完全无法理解、无法预测其决策逻辑的“外星智能”带来控制和伦理上的巨大挑战。3.3 “多模态”在两条路径中的位置在形式主义路径中“多模态”是智能的必要组成部分因为人类智能就是多模态的。 在功能主义路径中“多模态”可能只是提升模型在特定任务上性能的有效工具之一。如果未来发现纯文本模型通过极致的规模化和算法改进能推理出解决视觉问题的方法例如通过阅读海量“图像描述文本”来间接“理解”图像那么多模态对于实现通用智能功能而言就不是必需的。我们当前的研究和投资几乎全部押注在“多模态是AGI必要条件”的假设上。这篇短文提醒我们这或许是一个需要被反复审视的假设。历史上我们曾坚信符号逻辑是智能的必要条件后来被证明并非如此。今天对多模态的坚信是否会是下一个被“苦涩”证伪的信念4. 对当前AGI研究与实践的启示“苦涩的教训”并非要我们停止多模态AGI的研究而是提供一种批判性的视角帮助我们在技术狂热中保持清醒调整研发策略和预期。4.1 重新评估研发重心平衡“模仿人类”与“探索未知”目前绝大多数资源集中在如何让AI更好地模仿人类的跨模态理解与生成上。这固然重要但或许我们应该分配一部分“好奇心驱动”的研发资源去探索一些看似“非主流”的路径超级单模态模型如果一个纯文本或纯视觉模型被放大到难以想象的规模参数、数据并辅以更先进的训练目标它的能力边界在哪里是否会出现我们意想不到的“跨模态”涌现能力非主流架构搜索除了Transformer是否存在其他更高效的基础架构我们是否过于依赖注意力机制这一种范式目标函数的创新除了预测下一个token或重构像素是否存在更本质、更抽象的训练目标能直接催生出发达的推理和规划能力4.2 重视“规模”的基石作用但警惕其陷阱“苦涩的教训”肯定了计算与数据规模的核心作用。我们必须继续在算力基础设施、高效训练算法和数据质量上下功夫。但同时要警惕陷入“唯规模论”数据瓶颈高质量、多样化的数据终将耗尽。如何利用合成数据、强化学习自生成数据、或从小数据中高效学习是必须攻克的难题。能效比当前模型的训练和推理能耗惊人不可持续。追求性能的同时必须将能效作为核心指标推动硬件和算法的共同革新。边际效应递减规模定律是否会有尽头当参数和数据达到某个临界点后性能提升是否将变得微乎其微我们需要为“后规模”时代做准备。4.3 将“可解释性”与“对齐”置于更根本的位置如果AGI最终以一种我们难以理解的方式涌现那么确保其安全、可控、与人类价值观对齐的挑战将呈指数级增长。我们不能等到超级智能出现后才开始研究对齐问题。可解释性AIXAI必须成为与提升模型能力同等重要的研究方向。我们需要发展出能透视大模型内部决策机制的工具和方法哪怕只是部分理解。价值观对齐的技术化如何将复杂、模糊甚至自相矛盾的人类价值观转化为机器可学习、可遵循的明确约束或优化目标这不仅仅是哲学讨论更需要扎实的工程实现。持续监控与评估建立一套贯穿模型研发、部署、应用全生命周期的动态评估体系监测其能力的增长是否伴随着不可控风险的增加。4.4 保持谦逊与开放的认知心态最终“苦涩的教训”教导我们的是认知上的谦逊。人类智能只是智能的一种可能形式不一定是最高效或最终极的形式。在探索AGI的道路上避免人类中心主义不要想当然地认为AGI必须像人一样思考、一样感知。它可能是一种完全不同的“心智”形式。拥抱涌现现象接受并积极研究那些从大规模复杂系统中自发产生的、无法从底层组件直接预测的宏观行为即涌现能力。这可能是通往AGI的关键。进行跨学科对话与神经科学、认知科学、哲学、复杂系统科学等领域的学者深度交流。他们对智能、意识、复杂系统的理解可能为AI研究提供颠覆性的灵感。5. 结语在苦涩中前行分享这篇关于“苦涩的教训”的短文并非为了散布悲观情绪。恰恰相反认识到教训的“苦涩”是为了让我们更清醒、更坚韧地前行。AGI的探索是人类有史以来最雄心勃勃、也最充满不确定性的智力冒险。这条路上必然会有我们今天奉为圭臬的信念被证明是狭隘的也必然会有我们今天忽视的角落迸发出奇迹。多模态AGI是当前最光明、最可行的技术路径值得我们全力投入。但同时让我们在心中为那个“苦涩的教训”留一个位置。它提醒我们不要被技术的表象所迷惑要始终追问本质不要将人类的认知模式视为唯一的蓝图要对未知的智能形态保持敬畏与好奇更不要因为暂时的成功而忘记历史上那些因路径依赖而走入的困境。真正的突破或许就来自于我们敢于质疑“理所当然”勇于探索“看似不可能”的方向。在追求终极智能的漫长旅程中这份从历史苦涩中汲取的清醒与谦卑或许是我们最宝贵的行囊。
)
