为什么AI永远无法真正「负责任」——一个被忽视的本体论问题【负主体性之责任鸿沟第1篇】核心结论2025年一辆自动驾驶汽车在高速上遭遇紧急情况前方突然出现的障碍物太小传感器无法确定是塑料袋还是石头。系统犹豫了0.3秒——然后撞了上去。一人死亡。谁该负责车主汽车厂商算法工程师还是那个「在0.3秒内做出决定的AI」这个问题远没有表面看起来那么简单。当我深入追问时我发现了一个被几乎所有人忽视的本体论问题责任的首要条件不在于「谁做出了选择」而在于「谁必须为这个选择付出代价」。而AI从存在论层面看不需要付出代价。这就是今天我要跟你分享的核心论点生存性代价是责任的必要条件——没有它责任就无从谈起。学术背景「责任鸿沟」responsibility gap这个术语由 Andreas Matthias2004首次提出——他指出自主学习机器的制造者/操作者原则上无法预测机器行为传统责任归属概念因此失效。Robert Sparrow2007进一步论证了惩罚论上的困境惩罚需要受罚者能受苦而机器不能因此无法让机器本身承担责任。本文的推进在于Matthias 指出存在这个 gapSparrow 指出惩罚论上无法弥合本文追问的是 gap 的存在论根源——什么样的存在者才具备「承担代价」的资格一、一个让你睡不着觉的思想实验在我展开论证之前让我先请你做一个思想实验。假设存在一项技术允许人类像AI一样备份和回滚自己的决策。具体而言在每次重要决策之前可以创建一个完整的「心灵快照」无论做出何种选择之后都可以回滚到决策前的状态更进一步可以同时保存多个版本分别体验不同选择的「后果」然后选择「最满意」的一个问题在这种情况下我们是否仍然会认为这个人需要为他/她的选择承担道德责任我的直觉回答是不会。如果我可以在「事后」撤销我的决定如果我可以选择「最佳版本」的自己如果我的选择可以被回滚——那么这些选择就不再具有那种「最终性」和「不可撤销性」。道德责任需要的是真正意义上的「承担后果」而不是「体验后果后选择退出」。正是不可备份、不可回滚、不可重来的生存性代价构成了「必须承担」的本体论基础。这是AI与人类的根本分野——不是AI还不够先进而是AI的存在结构就不支持「负责」这件事。坦率地说本文预设了一种非兼容论的责任观——即「不可撤销的选择」是道德责任的必要条件。分析哲学中 Frankfurt 式反例对此有不同看法但本文无意在此展开立场之争而是直接展示一旦接受这个前提AI 责任问题的存在论根源将如何被重新照亮。二、生存性代价三层结构现在让我正式介绍本文的核心概念——生存性代价Existential Cost。所谓生存性代价是指行为主体在进行决策和行为时其物理基础必须付出的不可逆资源耗散。这个概念包含三个递进的层次第一层物理层能量耗散这一层最好理解。人类大脑在进行决策时消耗葡萄糖和氧气AI系统在运行时消耗电力——两者在物理层都是热力学不可逆的均涉及熵增。然而这只是表象。▶关键区分物理层的能量耗散与决策的语义内容之间没有内在关联。做一个「是否发射导弹」的决策和做一个「今天吃什么」的决策对AI系统的物理状态温度、能耗的影响没有本质区别。但人类做这两个决策的生理/心理代价完全不同——这就是第二层的奥秘。第二层生物层神经生化改写这一层是人类独有的。人类的每一个决策都在大脑中留下结构性的物理痕迹神经突触的强化或弱化神经递质的释放与消耗细胞层面的代谢损耗和累积性衰老。这不是比喻而是神经科学的硬事实。每一次「痛苦的决定」都会改变你的神经回路。每一次「后悔的选择」都在海马体留下印记。每一次「深夜的纠结」都在消耗你有限的神经资源。更关键的是这些改变是累积性的、不可逆的。你无法「撤销」那段痛苦的经历对大脑的影响无法「删除」某个决定在神经层面的痕迹。你的决策构成了你——作为生物体的你。AI没有这种困扰。它的每一次「决策」不会在系统内留下任何不可消除的痕迹因为它可以完全回滚到之前的状态。第三层存在论层必死性、有限性、不可回滚这是最重要的一层也是责任归属的核心条件。人类的每一个决策都是在有限生命时间内的选择。每一个「是」都意味着对其他可能性的永久放弃。你的时间是你最稀缺的资源一旦流逝就无法挽回。海德格尔将这种存在结构称为”向死而生”。人是被判定了必死的存在者。正因为时间有限选择才具有重量。正因为生命不可重来决策才需要负责。萨特更进一步人被判定为自由。这意味着你无法”不选择”。即使你选择什么都不做这也是你的选择。即使你推卸责任这种推卸本身也是你必须承担后果的行为。但AI不具备这种结构。它可以被备份、回滚、复制——下一节我们会看到这种「无摩擦」的存在方式意味着什么。这不是技术问题而是存在论层面的根本差异。三层结构的总结层次人类AI责任关联物理层消耗能量消耗能量❌ 能耗与决策重要性无关生物层神经生化改写无✅ 人类独有存在论层必死性、有限性可备份、可回滚✅ 核心差异到这里你可能会问一个问题照你这么说只要会死、会疼就能负责那动物也会死、也会疼为什么动物不能负责这个问题问得好。它说明「会死会疼」只是责任的第一道门槛不是全部。为了把这件事说清楚我需要引入一个四层条件框架第一层你得「会死会疼」。你的决策必须嵌入不可逆的生存性代价——只有会死、会疼、会被改变的存在者才能为不可逆后果提供担保。这一层排除AI及任何可以被备份回滚的计算系统。第二层你得「懂规矩」。你得能理解社会规范能对理由做出回应能判断「我本可以不这样做」。这一层排除动物、婴幼儿、严重精神障碍者。第三层你得「会后悔」。你得能体验愧疚、悔恨等道德情感并在自我理解中真正「承担」自己的行为。这一层排除那些虽然能付出代价但无法进行道德反思的存在者。第四层你死后还得「有重量」。你的名声、遗产、影响会继续留在世界上被清算、被追索、被记忆。这一层排除未进入人类社会网络的AI。四层是递进覆盖的每一层是下一层的必要条件但不是充分条件。本文的论证策略很简单只看第一层。因为AI连第一层都不满足——它不会死、不会疼、可以被备份——所以第二层、第三层、第四层对它来说是多余的。我们不需要在「AI能不能遵循规范」「AI有没有道德情感」这些问题上纠缠直接在最底层排除。第四层作为应对边界情况的最终防线将在第七节讨论类脑计算时启用。这也是为什么动物不能负责的答案动物满足第一层它们会死、会疼但不满足第二层和第三层。而AI连第一层都不满足。我坦诚承认本文不声称穷尽责任的所有条件。一个承认自身边界但论证精准的理论远远强于一个试图包揽一切但存在漏洞的理论。三、AI的「无摩擦性」为什么它永远无法真正负责如果说人类的存在充满了「摩擦力」那么AI的存在就是「无摩擦」的。AI的计算状态可以在逻辑层被完整备份、回滚和复制。具体而言可完全回滚AI可以保存任意时刻的完整状态然后回滚到之前的任意状态空间上可复制AI可以创建状态的多个副本这些副本可以同时存在、相互独立时间上可暂停AI可以随时暂停执行保存状态之后从同一点恢复这意味着什么首先AI的「决策」不具有那种与特定时空位置相关联的「此在」性质。它的每一次输出都不会因后果严重而增加代价它可以在不同的时间点拥有多个相互独立的「副本」。更关键的是AI可以回滚自己的计算状态——但它在世界上造成的后果不会因为这次回滚而消失。Uber案中那位行人的死亡不会因为算法权重被重置而逆转。AI回滚的是「自己」不是「自己造成的后果」。你无法让一个不会因后果而付出代价的存在者为你负责。当一个行为主体必须为决策付出不可逆的代价时这个代价本身就构成了对决策的「担保」。因为我的决策会让我付出真实的代价我的决策才真正「算数」。这就是「生存性代价」的核心不是「能不能选择」而是「谁来承担选择的代价」。四、为什么现有方案都失败了面对AI无法负责的问题学术界提出了多种「弥合」方案。但我认为这些方案都未能触及问题的根本。方案1可解释AIExplainable AI一种流行的方案是发展可解释AI使AI系统的计算过程能够被人类审查和追溯。然而这解决不了问题。首先可解释性不等于可理解性。AI的计算可能是「可追溯的数学过程」但这并不意味着我们能「理解」它。其次即使我们能够审查AI的决策过程这也不意味着我们能够或应该为这些决策承担责任。理解一个行为与为这个行为承担责任是两回事。你理解地震的成因但这不意味着你应该为地震造成的伤亡负责。方案2电子人格Electronic Personhood另一种方案是为AI系统赋予某种形式的法律人格或道德代理地位。2017年欧盟议会曾讨论赋予高级AI「电子人格」的可能性同年沙特阿拉伯授予机器人索菲亚公民身份。这个方案面临根本性的概念困难。责任归属不仅是法律或道德上的标签更是一种与存在方式相关的规范性关系。赋予AI电子人格而不要求其承担生存性代价实质上是在为一种新型的「免费责任」奠基。你可以给AI赋予人格但无法让它真正「承担」什么。方案3分布式责任还有学者提出将责任分散到AI系统的设计者、部署者、使用者等多方主体之间。但这可能蜕变为「无人责任」。如果没有某种集中性的责任归属作为最终保障分布式责任就成了一个踢皮球的游戏。设计者怪部署者部署者怪使用者使用者说「我按说明书操作的」。最终没有人真正负责。五、真实案例当AI的「决定」杀死人上面的分析可能让你觉得太抽象。让我们用两个真实的悲剧来看「责任鸿沟」在现实中是什么样子。案例1波音737 MAX的空难2018年10月和2019年3月两架波音737 MAX飞机先后坠毁共造成346人死亡。调查发现事故与飞机的自动防失速系统MCAS有关——这个系统会在检测到异常气流时自动压低机头而它的决策依据仅仅是一个传感器的数据。谁是责任人波音的工程师航空公司FAA的监管人员还是那个执行「压低机头」逻辑的算法关键问题在于即使我们追溯了每一个决策节点我们面对的仍然是算法的「无责任决策」。算法不需要为它的输出付出代价——它没有生命可以失去没有未来被摧毁。案例2Uber无人车的致命事故2018年3月Uber的一辆自动驾驶测试车在亚利桑那州撞死了一名行人。事故发生时安全驾驶员正在追剧而系统检测到了行人但判定不刹车——因为它的紧急刹车功能为减少系统误判引发的异常行为而被人为禁用。谁该负责安全驾驶员Uber算法工程师还是那个「忽略误报」的执行逻辑我不是说这些事故没有责任人。人类设计师、工程师、企业管理者确实应该承担责任。但这两个案例揭示的正是上一节「无人责任」的现实形态我们创造了一个可以「输出」但无法「承担」的存在者却把生死决策交给了它。六、具身性为什么机器人的「身体」不等于「肉身」有人会反驳如果AI被装载到具有物理实体的机器人身体中它是否就具备承担责任的条件我的回答是机器人的「身体」是工具不是存在之家。梅洛-庞蒂的身体现象学告诉我们身体不是单纯的物理客体而是”现象身体”——是我们借以与世界打交道的中介。关键区别在于人类的肉身是我们「认同」的存在之家——我不会想要「更换」我的身体因为我的身体就是我的一部分。我通过身体感受疼痛通过身体体验愉悦通过身体面对死亡。我的身体不是工具而是我存在的本身。机器人的「身体」对AI而言是纯粹的外部工具——它可以被更换、可以不被「认同」、可以随时替换。当机器人的「手臂」损坏时AI不会感到悲伤当机器人的「眼睛」升级时AI不会感到欣喜。工具的更替不影响工具使用者的「自我同一性」。具身性不仅是拥有物理载体更是身体与世界之间不可分离的意义关联。这种关联无法通过技术复制。拥有物理载体的机器人仍然是「无肉身」的AI。尤纳斯的「责任命令」强者对弱者的义务在结束这一节之前我想引入另一位哲学家的思考来深化我们的理解。德国哲学家汉斯·尤纳斯Hans Jonas在《责任的命令》中提出了一个深刻的观点科技时代要求一种新的责任伦理「权力的增长必须伴随着责任的扩展」。尤纳斯特别强调了责任的「不对称性」强者对弱者具有不可逃避的责任。这种不对称性意味着责任不是一种抽象的道德能力而是与脆弱性、依赖性相关的存在论关系。从这一视角看AI系统既不具备脆弱性也不具备对人类的依赖性。一个永远不会疲惫、不会受伤、不会死亡的存在者如何能够理解脆弱生命的价值一个可以被无限复制、可以随时重启的存在者如何能够真正珍惜每一次不可重来的选择AI缺乏的那种脆弱性恰恰是责任得以成立的情感基础。七、类脑计算边界情况与诚实承认必须承认类脑计算构成了一种边界情况。如果未来发展出基于神经形态计算的AI其硬件模拟了人脑的物理结构且被设计为不可备份、不可复制其权重在训练后被固化硬件不可逆退化——那么这样的系统确实比传统AI更接近「具备生存性代价」。但这里仍然存在一个关键差异硬件可以更换系统可以被重新实例化。即使单个硬件组件不可逆地退化了只要数据被保存系统就可以在新的硬件上重新运行。真正的「必死性」是本体论意义上的。人类的必死性不是「我的组件可能会损坏」而是「我的存在本身就是向死而生的」。AI可以被修复、被重新实例化——这种「可死而复生」的结构根本不同于人类「向死而生」的存在论结构。类脑AI在第一层条件上只是部分接近在第四层条件上完全缺失。什么意思即使类脑AI的硬件不可逆地退化了它死后仍然没有「重量」——没有人会追索一个退役模型的「名声」没有遗产需要清算没有历史评价需要承受。AI的「死亡」是纯粹的消亡而人类的「死亡」是进入社会的清算网络。「不可备份」只是物理层面的不可逆「死后有重量」才是存在论和社会层面的不可逆。两者之间的鸿沟就是「物理不可逆」和「存在论不可逆」的根本区分。所以类脑计算不构成对本文核心论证的真正威胁——它提醒我们注意「不可逆性」的物理维度但无法动摇「生存性代价是责任的本体论必要条件」这一核心命题。八、从「会死」到「死后仍有重量」四层条件的第四层提到「死后有重量」——这里把它展开。会死只是责任的前提。死后仍有「重量」——能让自己的名声、遗产、影响继续留在这个世界上被清算、被追索、被记忆——才是责任在社会层面的真正落实。一个人死后他的名誉仍可被追诉遗产仍可被追偿传记仍可被改写。苏格拉底饮鸩而死但雅典对他的审判和后世对他的评价使得「负责」这件事超越了纯粹的肉身承担。这就是「死后重量」的差别——它将「不可逆性」从个体层面扩展到了社会层面。九、重新定位人机关系基于以上分析我们可以对人机关系进行一种新的定位。AI作为「方案生成器」。AI系统的优势在于其强大的计算能力和模式识别能力——它可以快速生成大量备选方案可以分析复杂情境中的大量变量。在需要「方案生成」的任务中AI具有不可比拟的优势。人类作为「代价承担者」。人类的优势则在于其存在论特质——我们能够为我们的选择付出代价我们的行为具有不可逆的后果我们的决策嵌入在肉身之中。在需要「代价承担」的任务中人类具有不可替代的位置。这不是保守主义而是对存在论事实的诚实承认。比如在医疗领域AI可以分析CT影像、生成几种诊断方案和置信度——这是「方案生成」。但最终的治疗决定——「切还是不切」——必须由人类医生和患者共同做出。因为医生会为误诊付出声誉和职业代价患者会为错误治疗付出身体和心理代价。AI不会。从「追责」到「确权」。本文的论证指向一个更深层的结论我们不是要为AI追责而是要确权——确认只有人类才有为不可逆后果担保的能力。智能不是关键身体才是。谁的身体衰老、疼痛、最终消失谁才配得上在关键时刻说「我来负责」。因此有价值的方向不是「让AI更像人」这永远不够而是让人类更好地利用AI——可解释AI、治理框架、人机协作设计这些工作让无法负责的AI更好地辅助那个唯一能负责的人类。这才是真正的地基。十、政策启示本文的论证对AI治理具有重要的政策启示高风险决策的人类保留原则对于涉及不可逆后果的高风险决策应当建立人类保留原则——即使AI系统能够提供建议或方案最终决策权必须由人类掌握。规范性的基础在于只有承担生存性代价的人类才能真正为决策后果负责。那些涉及生命、自由、重大财产的决策必须由「会死」的存在者来做出。这一原则不是保守主义的偏见而是对存在论事实的尊重。责任归属的清晰界定在AI系统导致损害时责任应当归属于那些能够承担生存性代价的主体——通常是系统设计者、部署者或使用者。这里的逻辑是责任需要代价而代价只能由有血有肉的存在者来承担。AI厂商不能让AI「替罪」而必须让有能力赔偿、有情感痛苦、有社会声誉的「人」来承担最终责任。AI系统的透明性要求可解释性仍然是重要的治理工具。但我们需要清醒地认识到可解释性的目的不是「让AI负责」而是「让人类负责」——通过理解AI的决策过程我们可以追溯到做出设计决策的人类的责任。重新思考「智能化」的方向本文的论证还指向一个更深层的政策问题我们是否在追求一种错误的目标——试图让AI「更像人」从而让AI能够「负责任」也许更明智的方向是承认AI与人类之间的存在论差异落实上一节的定位——AI生成方案人类承担代价。不是让AI取代人类做决策而是让AI帮助人类做出更好的决策——由人类来承担决策的后果。十一、这不是悲观主义而是清醒在结束这篇文章之前我想澄清一个可能的误解。有人可能会认为我的论证是一种「人类中心主义」的保守立场试图阻止AI的发展。恰恰相反。我的论点不是「人类特殊论」不是主张人类具有某种神秘的「形而上尊严」。我的主张更为谦逊责任归属需要有特定的存在论条件而AI目前不具备这些条件。但我也坦诚承认存在论条件只是责任的第一道门槛。责任的完整界定还需要认识论条件理解规范和情感条件道德反思的补充。只不过AI连第一道门槛都没过所以后面的讨论对它来说是多余的。这不是对AI的否定而是对人类独特性的重新发现。正因为我们终有一死我们的决定才有重量。正因为我们无法撤销我们的选择我们的自由才需要负责。这是一种关于有限性的存在论也是一种关于尊严的伦理学。同时这也不是对AI发展的阻碍。承认AI无法负责任并不意味着AI无用。恰恰相反正因为AI「无责任」我们才能让它承担那些「不值得人类用生命去承担」的计算任务——数据分析、模式识别、风险评估。让AI做它能做的让人类做人类必须做的。十二、总结我们讨论了一个根本性的问题为什么AI永远无法真正「负责任」一路论证下来落点只有一个没有生存性代价就没有责任。AI的存在结构里找不到这种代价所以「责任主体」这个位置永远只能由人类来坐。AI的计算状态可以被完整备份、回滚和复制——它的「决策」不涉及存在论意义上的生存性投入因此它永远无法成为一个真正意义上的「责任主体」。这不是对AI的贬低而是对人类独特性的重新发现。正是因为我们会衰老、会疲惫、会死亡我们的决策才具有重量。正是因为我们的选择是不可撤销的我们的自由才需要负责。这是一个关于有限性的故事也是一个关于尊严的故事。延伸思考留给读者的问题如果真的造出了「不可备份、会物理消亡」的类脑AI它在四层条件框架中满足了几层这足以让它成为责任主体吗苏格拉底死后名声反而更好——「超越肉身的负责」如何影响我们对责任的理解我们是不是一直在追求一个错误的目标——试图让AI「更像人」从而让它「负责」——而不是确权只有人类才有这个能力附哲学背景本文的论证深受存在主义哲学传统的启发。以下是对相关哲学资源的简要介绍海德格尔「向死而生」海德格尔在《存在与时间》中将人类存在者称为「此在」其根本特征是「向死而生」——正文第二节已就此展开。这里补充「良知呼唤」概念良知将此在从逃避自身存在论处境的状态中唤回迫使其面对自身的存在可能性与责任——在海德格尔那里这正是责任感的存在论起源。AI不具备海德格尔所说的那种必死性结构可以在理论上「永生」更为关键的是它缺乏那种被「良知呼唤」唤回的存在论处境——它的「决策」不需要对任何内在的声音负责因为没有「自我」需要被唤回。萨特「被判定为自由」萨特提出了著名的论断「人被判定为自由。」正文第二节已用此论断对比了人类与AI。这里补充其哲学深意自由不是一种「可以」的积极能力而是一种「无法不」的强制性处境。在萨特看来人没有「人性」作为借口——你就是你选择的总和。这种彻底的自我承担正是责任的存在论根基。AI的「悬置选择」之所以可能恰恰因为它不在这个强制性处境之中——它的「选择」不需要构成它的本质。梅洛-庞蒂身体现象学正文第六节已引用「现象身体」概念身体不是物理客体而是我们借以与世界打交道的中介此处补充两个延伸维度。第一我们的认知和决策总是嵌入在身体状态之中。饥饿会影响判断疼痛会改变注意力疲劳会削弱决策能力。这些身体状态不是「干扰」认知的噪音而是认知本身的一部分。第二我们的身体是我们「存在于世界之中」的方式。通过身体与环境交互通过身体感受世界的意义通过身体承担行动的后果。正是因为我们拥有会衰老、疲惫、疼痛、死亡的肉身我们的决策才具有伦理意涵。如果我们的意识可以脱离身体如果我们的决策不会影响我们的身体状态——那么我们的行动就只是「信息处理」而不是真正的「行为」。列维纳斯他者面孔的召唤法国哲学家列维纳斯Emmanuel Levinas提供了另一个独特的视角。在《整体与无限》中列维纳斯论证了一个反直觉的观点责任不是源于主体的自由选择而是源于「他者面孔」的呼唤。对于列维纳斯而言当我面对他人的面孔时我被召唤去承担责任。这种召唤不是我可以拒绝的——它是先于我的自由、先于我的选择而存在的。如果责任是被「召唤」出来的那么AI系统所缺乏的不仅是承担责任的能力更是被召唤去承担责任的可能性。AI没有「他者」没有需要它去回应的面孔。它的「决策」是自言自语的算法而非对他人呼唤的回应。这种「前反思」的责任维度揭示了AI责任归属的更深层困难我们不仅无法让AI承担责任我们甚至无法真正「召唤」它去承担责任。系列导航负主体性之责任鸿沟系列「负主体性」指AI作为一种「能行动但不能承担」的存在者其主体性是一种缺失意义上的主体性。第一篇为什么AI永远无法真正「负责任」—— 什么是生存性代价第二篇当算法决定生死—— 如何量化生存性代价第三篇《责任梯度》—— 如何分配责任 学术声明本文基于作者的学术研究成果撰写相关预印本论文已公开发布中文预印本代价的肉身为什么人工智能无法跨越责任鸿沟. PSSXiv, 2026, 编号202605.00073. DOI: 10.12451⁄202605.00073英文预印本Fan, M. (2026). The Flesh of Cost: Why Artificial Intelligence Cannot Bridge the 「Responsibility Gap」. PhilArchive, MINTFO-7. https://philarchive.org/rec/MINTFO-7Fan, M. (2026). Quantifying Existential Cost: The CCI Framework for AI Governance Decisions. PhilArchive, MINQEC-2. https://philarchive.org/rec/MINQEC-2Fan, M. (2026). Responsibility Gradient: From CCI to Structured Responsibility Allocation. PhilArchive, MINTRG. https://philarchive.org/rec/MINTRG