中兴通讯CDO崔丽：全栈TCO最优成为AI基础设施竞争的关键

5月30日, 中兴通讯有一位首席发展官名叫崔丽, 她受到邀请, 出席了在澳门举办的Expo系列活动。在一场名为数字AI峰会也就是AI的活动里, 有一个开场的炉边对话, 主题是“基础设施赋能AI进化”, 在这个对话当中, 她针对多个议题, 和主持人艾诚进行了深入分享, 这些议题包括AI产业演进洞察、AI基础设施架构设计、软硬协同能力体系、AI时代女性独特价值与个人成长。内容提要通信产业在发展过程中, 呈现出稳定推进、不断迭代的态势, 具有专业性, 并且高度标准化, 对可靠性有着较高要求, AI却以超高速的速度进行迭代, 进而迈入了应用驱动阶段, 而这两者又全都归属于复杂系统工程的范畴, 而且AI正在展现出跟通信产业早期时期相类似的演进逻辑情况, 全栈全域技术积累以及系统工程能力变成核心可复用财富。人工智能基础设施的设计原则是, 开放解耦, 接着是可扩展特性, 然后是灵活适配, 最后是全栈最优。人工智能的竞争正从单点的突破向系统的协同转变, 计算、网络、存储、能源、软件领域的超大复杂、系统级的极致协同成为基础设施能效比的核心。AI能力体系, 在AI竞争进入下半场的阶段, “软硬兼施”以及“领域沉淀”才属于真正的竞争壁垒, 中兴通讯拥有全栈全域的技术工程积累跟全球化经验, 正逐渐成为其“隐形护城河”。人工智能时代, 女性有着独特价值, 女性天然就具备延迟满足的特质, 还有韧性, 具备细腻敏锐的特性, 拥有共情包容的优势, 这些优势将会在人工智能时代发挥出更大的作用。AI时代下, 对于个人成长给出的建议是, 要始终保持好奇心, 同时具备批判性思维, 通过“一专多能”以及“文理双修”的方式来拓展认知的边界, 处于技术快速演进的这个时代里, 依靠信念、敬畏、爱还有感恩去构筑长期成长所需的精神内核。对话全文主持人艾诚说道, 各位好, 我乃是艾诚, 于澳门这个多元交融的城市里, 今日要去谈论一个最为火热的话题, 那便是AI。有意思的是, 我身旁的崔总, 其教育背景偏偏是“热能工程”。崔总, 要是以热能工程师的看法, 给当下的AI热度量一下温度的话, 您认为如今是多少度? 是那种会持续的“恒温”状态还是属于需要去降温的“过热”情形?崔丽表述过, 感激艾诚进行的那番详尽背调工作, 确实没错, 我的本科当初所学专业那是热能工程, 当时被保送研究生, 没办法去更换专业, 所以呢我从事了热能系统软件开发。研究生毕业之后加入中兴通讯, 在这长达二十七年的期间里, 全都在ICT技术所涵盖的领域深入钻研。用温度这种方式确实不太能够精准地去表达AI所具有的热度以及之后的发展走向。我内心是愿意去换一种说法来讲这件事的, 这种说法好比是寒武纪时期那种大规模生物突然展现多样的爆发情况有某些类同之处, 与寒武纪相背离的地方在于, 寒武纪所涉及的是碳基作为基础构成生物状态, 而这一轮却是硅基智能实现的突然大量出现。我坚信, 它如同过往历次工业革命那般, 于经历起始阶段的技术快速迭代以后, 会步入一个持续数年或者数十年的技术扩散进程, 在对人类社会各个方面予以深刻变革之际, 也会带来更多的全新业态。从通信老兵到AI基础设施架构师主持人艾诚说道, 您于中兴度过了二十七年, 历经从2G至5G的阶段, 参与了中国通信业的整个完整周期, 如今从移动通信转向 AI 基础设施, 这两个“基础设施”建设以及发展周期当中最大的不同究竟是什么, 哪些经验能够复用?崔丽称, 通信是稳步推进迭代, 具备专业性且有着高度标准化特性, 并且对于可靠性有着较高要求, 还被称作信息高速公路。通信行业历经数十载一代又一代的奋力拼搏, 持续朝着香农极限发起冲击, 期望像频谱这类有限的资源能够实现最大化利用, 同时, 基于互联互通的需求, 通信属于高度标准化的产业, 所有人都是在依照标准的技术基础上再有各自的创新之举, 或者把创新融入到下一代标准里。还有, 遭受到用户终端更换频度的限制, 运营商的网络通常也会展现出多种代际技术同时存在的情况, 并且要依据用户发展以及业务变化连续性地开展网络优化。就是这些特性确定了通信基础设施具备较高的技术门槛, 这个行业里占据主要地位的参与者变成寡头状态。此刻, AI有着超高速的迭代特性, 它所涉及的领域跨越学科界限, 并且已然步入了应用驱动的阶段。这一波AI大模型技术在经过泛化与之后涌现的情况下进而进入到一个有超高速特点的迭代周期当中。它作为一项能够进行广泛赋能的处于底层位置的技术, 这样一种呈现动态且高速演进的情形实际上会给基础设施建设带去相对比较大的挑战。回溯距离发布之后, 历经三年多的AI发展进程, 大略每六个月, AI便会出现一次具有关键性质的突破情况。由此导致的产业重心状态得以进入紧跟着的下一崭新阶段。诸如大语言模型模样的, 多模态模型样子的, 推理能力朝着更高级别晋级, 进行开源爆发阶段引致成本急剧下降, 智能体或者具身智能这类方向的应用范畴展开拓展于这个进程当中, 算法以及架构方面的创新表现更是接连不断地涌现出来。重量级的创新涵盖了MoE, MLA, 量化, 蒸馏, 注意力机制予以优化, 超长上下文等诸多类别等等。各个不一样的算法, 得要各自不同的硬件, 才能够实现性价比达到最优状态, 然而系统架构以及硬件架构, 大概是两到三年会有一个周期, 所以, 必须要去判定两三年之后的AI发展趋向, 同时, 架构具备的开放解耦特性以及可扩展性, 将会成为中长期竞争力的关键所在。通信, 和AI基础设施, 存在不少相似的地方。其一, 不管是CT, 或者IT, 再或者是AI, 其核心之处, 都在于对数据的处理, 以及数据的交换, 还有数据的存储。其二, 通讯这项与AI, 均属于复杂超大系统的高效协同范围, 通讯涉及多个网元进而组成庞大网络, AI则需要芯片、服务器、存储、交换以及数据中心来构成高效绿色的基座。二者不但需要局部达到最优状态, 而且也需要芯片、硬件、软件、资源调度以及应用等方面的全局优化, 且需要拥有全栈的技术积累、工程实践以及系统优化能力。就国内而言, 先是从英伟达的硬件集成这边开始, 接着到软件创新方面, 再到光互联范畴, 然后是算法与硬件的创新, 之后又延伸至场景落地的领域以及应用创新等等。故而看上去, AI的发展与最开始通讯的演进, 整个的发展逻辑是相通的。AI的发展, 本质而言是一项跨越诸多学科的复杂工程科学, 并且这一轮的大模型发端于产业实践而非学术创新, 其创新过程始终离不开大量的工程实践经验, 离不开参数调优, 离不开算子融合与算法优化, 离不开生态构建等, 所涉及的领域广泛, 技术门槛颇高。对于这种超大规模的复杂系统工程来说, 全栈全域的技术积累以及系统工程优化能力皆是核心可复用的财富。主持人艾诚表示, 从CT转变为AI, 发生变化的是技术范式, 然而不变的是中兴对于“系统工程最优化”的那份执着, 这说不定是传统巨头在转型过程里最为宝贵的“隐性知识”。AI基础设施架构设计四大原则主持人艾诚说道, 崔总提出了AI基础设施的四大原则, 这四大原则分别是开放解耦、可扩展、灵活适配、全栈最优, 我想要做一个现场调查, 要是您是投资者, 在这四大原则当中, 您最为看重的会是哪一项呢, 请用掌声来进行投票, 第一是开放解耦后面括号标注着避免被绑定, 第二是可扩展后面括号标注着小步快跑, 第三是灵活适配后面括号标注着场景为王, 第四是全栈最优后面括号标注着成本控制。看上去人人最为关注的是成本把控情况, 崔总, 这可不可以表明当下人工智能投资正从“追逐技术领先地位”转变至“追寻经济可行性状态”?崔丽表示, 感觉众人对于技术与市场的焦点判断全都极为精准。确实当下已然步入应用以及技术扩散阶段, 众人愈发关注全栈TCO最优, 以及经济可行。然而这背后的逻辑, 我也乐意跟众人分享一番, 因为这对于后续趋势判断同样有所助益。就大模型性能的角度来讲, 截至往昔年末时分, 全球范围内位居前列的普适类型大模型之间在效果层面产生的差别已明显呈现出降低的态势。相关序列同旗舰规格模型在性能方面彼此相当。国内诸如代号名为千问、标明字号为智谱、称呼称谓唤作Kimi等这样的存在, 则以加快程度趋向靠近状, 均处于全球之内较为领先的层级排序当中。使差距缩小的关键缘由主要涵盖三个层面, 其一, 从技术角度而言, 大模型的核心结构以及优化算法渐渐演变成行业普遍知晓的知识其二, 开源生态的迅猛发展冲破了闭源模型的独占局面, 进而愈发快速地促使创新普及与共享其三, 算法以及工程等范畴的持续改良致使模型生产成本迅速降低, 极大程度地削减了进入该领域的门槛。以AI技术热点来看, 自去年年底直至今年, 这期间已然从形式上的“能说”, 朝着“ AI”方式的“会做”方向迈进, 凭借“感知—规划—执行—反思”来实现自主行动以及自我进化, 在此当口, 正以和具身智能等多样形态, 逐步从数字世界延展至物理世界, 而业界重心呢, 也经历了从一处到另一处到又一处这样的变化。由上述分析能够知道的是, AI的发展已经进入到了这样一个阶段, 这个阶段是技术创新跟技术扩散同时进行, 也就是以应用驱动作为主要方面的阶段。与此同时, 预计在今年二季度的时候会有盈利, 这明显给资本以及市场对于商业模式闭环带去了更大的信心。所以, 科技巨头的市场竞争重点已经从仅仅比拼模型能力转变为比拼提供智力服务的竞争力, 算力竞争度量体系也从芯片朝着系统、全栈能力以及生态转变, 从峰值参数朝着端到端能效转变, 也就是/w, 也就是TCO最优。算的超大复杂, 与网、存、能、软的超大复杂协同, 变为系统级的超大复杂协同, 这种超大复杂、系统级的极致协同, 成为基础设施能效比的核心。除此之外, 我要特别着重讲一下, 方才艾诚所给出的前面三个选项, 同样是达成全栈最优经济可行的必经之路中不可缺少的重点部分。首先是开放解耦, 鉴于此刻技术仍然处于快速的迭代演变进程裹, 唯有通过开放解耦方式才能够在最大程度上吸收与内化行业界最新的成果以及实践经验其次是具备可扩展性, 运用小步快跑的模式去予以逐步推进而取代一步到位的做法, 如此能够更为妥善地减轻硬件折旧所带来的压力再者是拥有灵活适配性, 依据不同场景以及应用所呈现之特征能够做到支持量身定制, 适宜才是最为理想的, 才能够提供具备最优性价比的方案。软硬协同中兴通讯的全栈全域能力体系主持人艾诚讲, 说到AI基础设施, 大家头一个想到的是, 像是芯片、服务器那些东西里显露得出来容易察觉的“硬实力”。然而您在先前公开露头露面的场合之中还格外着重说说过“软实力”, 这软实力指的是资源调度、领域知识以某种形式注入、处于安全合规方面的规定标准状态情况这几样事儿。在这些不容易发现比较隐蔽的领域区域范畴条件状况情况下境地, 要怎么做才能达成软硬协同, 并且还能有属于自己本身具有特色的独特不一样别出心裁的优势呢?崔丽表示, 硬实力存在于大道至简之中, 这意味着是一种匠心以及坚持, 即“把最难的事情做到最好”, 更多的是针对确定性领域持续去深耕, 倘若要达成全栈TCO最优, 就需要单点的极致性能与高效的系统协同同时并重。在底层核心能力诸如芯片、架构此类方面, 中兴通讯的目标是成为国产 AI 开放生态的主导者, 以及建设者。经由全自研的机内与机间高速互联芯片, 以及领域定制处理器芯片, 还有数据及网络加速处理芯片, 并且适配优化多种主流GPU芯片, 秉持开放解耦, 兼容优选的观念, 构建AI系统级全域芯片能力零线缆正交互联架构拥有架构领先、高密集成、高可靠、简化运维、开放互联等特性, 运用组件化设计, 灵活支撑超节点以及超大规模的高能效AI工厂构建。从产品层面来看, 公司推出了全栈全域智算解决方案, 包含超节点, 还有系列化智算服务器, 以及通算服务器, 另外有高性能存储和智算一体机等, 能精准契合不同场景下达致最为经济的建设需求从解决方案维度而言, 网络设备支持多种开放标准的高速无损互联, 凭借网络优势强化算力, 持续提升智算中心性能与效率在数据中心方面, 基于模块化、预制化理念, 提供液冷整机柜产品, 还有智算微模块产品, 以及800V高压直流等多形态产品, 可弹性适配不同算力规模需求, 打造高效、绿色、安全的能源基座。具有与不确定性共舞的能力, 这便是所谓的软实力在于唯快不破。首先, 鉴于当下硬件的迭代速度极快, 并且厂家数量众多, 混池或许是一种必然会出现的形态, 对于怎样去实现异构资源的高效调度管理, 是要做特殊考虑的其次, 从应用的扩展以及技术的传播这个角度来说, 怎样去降低技术的门槛, 把复杂性封禁起来, 提升便捷的程度, 是特别关键特别重要的。一方面, 行业或者企业场景的应用, 常常要在通用的基础模型之上, 结合领域知识亦或私域数据开展做增量训练的工作, 并且要结合自身实际状况持续优化推理部署, 如此一来便需要有一个简单且便捷的训推加速平台另一方面, 未来各种各样的应用开发, 有可能涉及数据治理、知识图谱生成、一键精调、智能体生成直至工具的自进化等方面, 同样需要软件平台亦或是工具包提供支持。中兴通讯一直都坚持着软硬解耦, 且坚持模型解耦, 还坚持训推解耦, 其聚焦于让工程能力实现工具化, 以此提高AI生产效率以及提升易用性, 致力于去打造AI操作系统AIOS与智能体中枢。能力平台涵盖上述所说的三个, 分别为: 高效资源调度平台、导航式训推加速平台和应用开发服务平台。除此之外, 存在着一类格外重要的组织软实力, 这类软实力指的是行业或者领域那里的私有数据跟知识, 另外还有组织在进化进程当中的能力沉淀, 像组装式研发架构、且运营、合规等这些便是。就企业的智能化转型而言, AI技术自身是相似的, 通常是组织的平台能力决定着落地的深度, 私域数据以及知识积累决定价值的上限。主持人艾诚表示, 这揭示了AI竞争的下半场, “软硬兼施”以及“领域沉淀”才是实际的竞争壁垒, 中兴全栈全域的技术工程积累, 还有全球化经验, 正成为其“隐形护城河”。女性力量从热能工程到AI基础设施知名人士艾诚担任主持人一职, 她指出, 您身为极为特殊的女性, 有着与常人不同的职业发展轨迹, 是从热能工程领域起步且成长为科技公司高层次管理人员的人士, 您个体的职业途径自始至终具备显著的启发示意 , 尤其是处于人工智能这个看起来“温度不足”的技术范畴, 这样一种情况下, 您源自作为热能工程领域的经历背景以及女性特定视角, 究竟产生了什么样的区别于常规的温度表现呢。崔丽说道, 受教育实际上是针对学习力以及思考力的训练进程, 好奇心、批判性思维、持续思考学习与实践, 是个人得以快速成长的关键所在。本科阶段所学的是热能工程, 然而基础物理理论像流体力学、材料力学等所培育的是物理智慧, 研究生阶段热能工程软件开发中磨炼了数字智慧及工程场景的结合本领。职涯方面则是在工作中学习, 进而提升自己的跨界思维广度以及思考深度。女性普遍存在的一些特性, 还有优势, 会在AI时代发挥出更大的功用, 这涵盖了: 延迟满足、具备韧性、细腻且敏锐、能共情包容等情况。首先来谈, 面对具有不确定性的未来, 所需的并非确定性的能力, 而是超强的适应能力, 以及持续不断的自我成长, 延迟满足以及韧性, 对于构建这些能力相当关键。其次而言, 在快速发生变化的环境里, 感知能力是顺应变化的源头, 女性所具有的细腻、敏感, 还有审美品位, 都能够培育成一种敏锐的感知能力。最后, 共情在一些程度上体现成爱的能力, 包容在某些程度上体现为爱的能力, 共情和包容是建立信任和链接的关键, 这可能是AI永远都缺乏的, 这还是AI时代必不可少的。的确在发挥长处之际, 同样需要规避短处。我们偶尔会易于在细节之中不停地反复纠结, 或者在做出决策之时显得过分小心谨慎。人工智能也能够变成一种起到有效填补空缺作用的方式, 借助数据以及逻辑来协助核对验证判断, 于感性的洞察和理性的决策之间达成更加优良的平衡状态。主持人艾诚表示, 崔总的经历传达出这样的信息, 即AI不但需要“算力”, 而且更需要“平衡力”, 在技术呈现狂热状态时, 需要有人牢记, 哪怕是再强大的AI系统也是存在“热力学极限”的。给年轻一代的建议主持人艾诚: 最终, 崔总, 您历经从软件研发领域, 到通信领域, 再到AI领域, 实现了三次重大转型。针对现今想要踏入AI基础设施领域的年轻人, 您会给出怎样的建议, 让他们着重培养何种能力呢?崔丽表示, 我们当中的每一个人, 都得再次思索怎样才可以实现终生学习以及成长。在AI时代, 由于信息出现过载情况, 刚才所提及的好奇心跟批判性思维, 变得相较于以往任何时刻而言都更为重要。批判性思维的实质乃是第一性原理, 其能够洞察技术以及商业逻辑的本质。除此以外, 在能力培育层面, 要着重关注一专多能、文理双修。真正具备竞争力的人, 是拥有能够跨越单一领域、把握底层逻辑的“多能”, 加上在专业领域之内形成真正判断力的“一专”, 并凭借这些来构建系统工程思维。而且, 就算技术再厉害无比, 也很难切实真正领会透彻人类社会的复杂程度, 唯有拥有“文理双修”复合型视野的之人, 才能够切实实际掌控驾驭技术, 使其为服务他人所用, 与此同时, 还得着重留意注重锻炼训练健康的身体心理, 强化增添感官、运动以及综合能力能量, 特别是在信念、敬畏、谦逊、爱与感恩等方面层面, 这些看起来貌似“非技术”的能耐能力, 反倒会在AI时代变得越发越来越重要, 变成成为人与人之间的关键重要连接与支撑。我向来都坚信, 科技跟人文本该成为AI进化的双螺旋基因, 技术一直都理应服务人儿, 去拓展有着界限状况限定下所呈现的能够对人类认知以及相关所触及的能力范围, 从而来带动引发潜能情形出现, 守护住人类所对应的具有的价值。主持人艾诚表达了对崔总的感谢, 今天的对话呈现出这样的情形, AI的未来不但需要技术天才所具备的‘突破力’, 而且更为需要工程师的‘系统力’、女士的‘平衡力’, 连着以及像中兴这般的传统巨头所拥有的‘定力’, 在AI的狂热氛围里, 也许极为稀缺的并非算力, 恰恰是这种‘冷静的智慧’。