俄罗斯联邦储蓄银行Sber作为俄罗斯最大银行之一在生成式人工智能领域持续发力成为领先开发者。近期其团队发布全新旗舰模型GigaChat 3.5 Ultra我们与技术总监费奥多尔·明金对话探讨AI研发战略。模型亮点速度与体积的平衡新发布的GigaChat 3.5 Ultra模型体积比上一版本缩小近一半生成长文本速度最高提升四倍。其核心基于线性注意力的自有架构且已开源。这一改进使长文本处理更高效部署也更便宜、容易。架构选择线性注意力的考量费奥多尔·明金选择线性注意力作为架构基础是为解决长文本处理难题。长文本会使模型记忆填充快、处理慢且昂贵而线性注意力可让模型记住要点并补充记忆提升处理速度。团队进行超1500次实验才找到速度、体积与智能质量的平衡。扩展边界效率至上AI开发者通常追求更多数据、参数和算力但储蓄银行将模型缩小一半。费奥多尔认为合理扩展应通过效率界定即模型在单位算力下的实际价值。GigaChat 3.5 Ultra虽体积小但多项指标接近大模型。自主智能体限制与挑战市场向自主智能体转变要求模型具备多种能力但目前在自行评估结果可靠性上还有待加强。费奥多尔认为主要限制在组织层面企业需重新审视工作模式明确人机责任分配。数据资源人工与合成的权衡人工生成的数据仍是模型质量主要资源承载专业经验和思维多样性。合成数据在特定场景表现良好但过度使用会使模型缺乏生气。储蓄银行在新模型训练中侧重人工撰写文本。编辑观点俄罗斯储蓄银行在AI领域的探索值得关注GigaChat 3.5 Ultra的发布展现了其在模型优化上的成果。开源策略有望推动行业发展未来架构的演变也充满想象空间。