1. 双塔模型的前世今生从DSSM到工业级向量召回第一次接触DSSM双塔模型是在2015年当时还在为推荐系统的冷启动问题头疼。直到看到微软那篇经典论文才发现原来语义匹配可以这样做。DSSMDeep Structured Semantic Models最初是为搜索引擎设计的用来解决查询和文档的语义匹配问题。但很快推荐系统工程师们就发现了它的妙用——这不就是完美的召回模型架构吗双塔结构的精妙之处在于它的对称性。左边是用户特征塔右边是物品特征塔两个塔就像镜像 twins 一样相互呼应。我特别喜欢用相亲来比喻这个过程用户塔负责把用户的各种条件年龄、兴趣、历史行为打包成一份征婚简历物品塔则把商品特征类别、价格、标签整理成相亲资料最后通过向量内积计算匹配度。在实际项目中我发现双塔模型有三大优势特别适合工业场景特征隔离用户和物品特征完全分离这在分布式计算环境下简直是福音线上高效物品embedding可以预计算线上只需要实时计算用户embedding灵活扩展可以轻松支持亿级物品库的ANN检索不过早期版本有个坑我踩过——两个塔的维度必须严格一致。有次为了提升效果我把用户塔最后一层改成512维物品塔保持256维结果相似度计算直接报错。这个教训让我明白双塔模型就像情侣装可以款式不同但尺码必须匹配。2. 样本工程的秘密如何打造高质量训练数据说到样本构造真是血泪史一箩筐。记得第一次做双塔模型时直接用了曝光未点击数据作为负样本上线后效果惨不忍睹。后来才明白这是典型的样本选择偏差SSB问题——你的训练数据只包含曝光过的物品但线上要从全量库召回。经过多次实验我总结出几种实用的负样本构造方法2.1 全局随机采样就像在超市随机拿商品给顾客看简单粗暴但效率低。优点是符合真实分布缺点是负样本太简单模型学不到区分细微差异的能力。建议可以这样实现def global_negative_sampling(items, n_neg4): 从全量物品库随机采样负样本 return random.sample(items, n_neg)2.2 Batch内负采样这个方法很巧妙利用同一batch内其他用户的点击作为当前用户的负样本。在TensorFlow中只需要几行代码# 假设batch_size1024, embedding_dim256 user_emb ... # shape(1024,256) item_emb ... # shape(1024,256) # 计算所有用户与所有物品的相似度矩阵 logits tf.matmul(user_emb, item_emb, transpose_bTrue) # shape(1024,1024)2.3 流行度加权采样热门物品被展示的机会多如果用户没点击就更可能是真负样本。我们可以这样实现流行度采样def popularity_sampling(items, pop_counts, n_neg4): 根据物品流行度进行加权采样 probs np.array(pop_counts) / sum(pop_counts) return np.random.choice(items, sizen_neg, pprobs, replaceFalse)在实际项目中我建议采用混合采样策略。比如50%全局随机30%batch内采样20%流行度采样这个比例需要根据具体场景调整。有个经验公式物品库越大全局随机的比例应该越高。3. 工业级部署的五个关键点第一次部署双塔模型到生产环境时QPS直接飙红报警。经过多次优化我总结了五个必须注意的关键点3.1 物品向量预计算这是双塔模型的杀手锏。我们搭建了专门的向量计算服务架构是这样的物品特征实时写入KafkaFlink消费特征并触发向量计算计算结果写入Redis和FAISS索引# 物品特征更新处理示例 def process_item_update(item_features): # 实时计算物品embedding item_emb item_tower.predict(item_features) # 更新向量数据库 faiss_index.add(item_emb) # 同时更新缓存 redis_client.set(fitem_emb:{item_id}, pickle.dumps(item_emb))3.2 ANN检索优化FAISS确实强大但参数配置有讲究。对于亿级物品库我的经验是先用PCA降维到128维使用HNSW32索引nprobe参数设置在32-128之间实测下来这种配置能在召回率和延迟之间取得很好平衡。记得有一次把nprobe从64调到128虽然Recall100提升了2%但延迟增加了30ms最终不得不调回去。3.3 用户向量实时计算用户特征往往包含实时行为必须在线计算。这里有个优化技巧把用户特征分为静态和动态两部分。静态特征如性别、年龄可以预计算动态特征最近点击才需要实时计算。3.4 缓存策略我们设计了三级缓存热门物品向量缓存在本地内存近期用户查询结果缓存在Redis长期用户画像缓存在HBase3.5 监控体系部署了四个关键监控指标向量计算延迟百分位ANN检索召回率缓存命中率线上AB测试效果对比4. 效果提升的进阶技巧4.1 特征工程的特殊处理双塔模型不能做特征交叉其实有变通方法。比如用户历史点击品类和当前物品品类的交叉可以这样处理# 用户侧特征加入历史点击品类的embedding user_hist_cates get_hist_cates(user_id) cate_embs [cate_embedding[cate] for cate in user_hist_cates] user_feature[hist_cate_emb] np.mean(cate_embs, axis0) # 物品侧特征加入品类embedding item_feature[cate_emb] cate_embedding[item_cate]这样虽然没有显式交叉但模型可以通过向量距离隐式学习到关联。4.2 损失函数的选择除了标准的交叉熵损失我还尝试过以下几种Triplet Loss让正样本比负样本更接近用户至少一个margin值NCE Loss适合超大规模物品库Sampled SoftmaxTensorFlow有现成实现个人经验是在千万级以下物品库用交叉熵就够了再大的规模可以考虑NCE。4.3 模型蒸馏大模型效果好但线上推理慢怎么办可以用teacher-student蒸馏先用全量特征训练一个大teacher模型然后用logits和embedding监督一个小student模型线上部署student模型我们实践下来蒸馏后的小模型能达到大模型95%的效果但推理速度快了3倍。5. 踩坑记录与解决方案5.1 冷启动难题新物品没有曝光数据怎么办我们开发了一套迁移学习方案用物品元数据训练一个辅助网络将辅助网络的输出层作为主模型的初始化这样新物品也能有不错的初始embedding5.2 特征穿越问题曾经发生过测试数据泄露到训练集的事故导致线上效果远差于离线。现在我们会严格检查用户行为时间戳必须早于训练时间物品特征取值必须是历史版本使用时间感知的交叉验证5.3 维度灾难embedding维度不是越高越好。我们发现256维和512维效果相差不到1%但存储和计算开销翻倍。现在固定使用256维把省下的资源用于增加负样本数量。5.4 长期兴趣漂移用户兴趣会变化但模型更新有延迟。我们的解决方案是短期模型专注最近7天行为每小时更新长期模型看180天行为每天更新在线融合根据场景动态加权两个模型的结果6. 前沿探索与实践最近我们在尝试一些创新方向6.1 多模态融合将图像、文本等特征融入双塔模型。比如对于商品图片用ResNet提取视觉特征与结构化特征concat一起输入物品塔效果提升明显特别是服饰类目CTR提升了8%。6.2 图结构增强将用户-物品交互视为二部图用GNN生成增强特征。具体步骤构建异构图采样节点邻居用GraphSAGE生成节点embedding作为补充特征输入双塔6.3 在线学习对于短视频这类时效性强的场景我们开发了增量更新机制在线收集用户反馈每小时做mini-batch更新关键参数部分冻结防止灾难性遗忘这套系统将新内容曝光量提升了15%。在实际业务中我发现双塔模型就像乐高积木基础结构简单但组合方式千变万化。最近我们正在试验将强化学习与双塔结合让模型能动态调整采样策略。每次优化都可能带来意想不到的效果提升这正是推荐系统最迷人的地方。