深度学习赋能搜索广告：美团排序模型实践与优化

引言：搜索广告排序的挑战与机遇

美团作为国内领先的生活服务平台，每日处理数十亿次搜索请求，其中广告排序系统需在毫秒级响应时间内完成对海量候选广告的精准排序。传统排序方法依赖人工特征工程与线性模型，存在特征覆盖不足、非线性关系捕捉能力弱等问题。深度学习技术的引入，通过自动特征学习与复杂模式识别，显著提升了广告相关性、转化率及平台收益。本文将系统阐述美团在搜索广告排序场景中的深度学习实践，从模型架构、特征工程、训练优化到业务落地进行全链路解析。

一、模型架构：从单塔到双塔的演进

1.1 基础单塔模型架构

美团初期采用单塔深度神经网络（DNN）作为排序模型核心，其结构包含：

• 输入层：融合用户特征（历史行为、实时上下文）、广告特征（出价、质量分）、查询特征（关键词、意图）三类数据，通过Embedding层将离散特征映射为低维稠密向量。
• 隐藏层：采用3-5层全连接网络，每层256-512个神经元，激活函数选用ReLU以缓解梯度消失问题。
• 输出层：单节点输出广告的预测CTR（点击率）或CVR（转化率），通过Sigmoid函数归一化至[0,1]区间。

代码示例（PyTorch简化版）：

import torch.nn as nn
class SingleTowerModel(nn.Module):
    def __init__(self, feature_dim, hidden_dims=[256, 128]):
        super().__init__()
        layers = []
        prev_dim = feature_dim
        for dim in hidden_dims:
            layers.append(nn.Linear(prev_dim, dim))
            layers.append(nn.ReLU())
            prev_dim = dim
        self.hidden = nn.Sequential(*layers)
        self.output = nn.Linear(prev_dim, 1)
        self.sigmoid = nn.Sigmoid()
    def forward(self, x):
        x = self.hidden(x)
        x = self.output(x)
        return self.sigmoid(x)

问题与优化：单塔模型虽能捕捉全局特征交互，但存在两大缺陷：

• 特征耦合：用户与广告特征在早期层混合，导致模型对广告特定属性的敏感度下降。
• 实时性瓶颈：用户实时特征（如位置、时间）需与广告特征重新计算，难以支持低延迟推理。

1.2 双塔模型：解耦与效率的平衡

为解决上述问题，美团引入双塔架构（User Tower + Ad Tower），其核心设计如下：

• 独立特征处理：用户塔仅处理用户历史行为、实时上下文等特征，广告塔处理广告内容、出价等特征，两塔参数独立更新。
• 晚期交互：通过余弦相似度或点积操作计算用户与广告的匹配分数，减少实时计算量。
• 预训练与微调：用户塔采用大规模无监督预训练（如基于用户行为序列的BERT模型），广告塔结合监督学习微调。

业务价值：双塔模型使广告召回阶段响应时间降低60%，同时通过解耦设计提升模型对长尾广告的泛化能力。例如，新上线餐饮广告的CTR预测准确率提升12%。

二、特征工程：从离散到动态的进化

2.1 传统特征体系的局限

早期特征工程依赖人工设计，存在两类典型问题：

• 静态特征：如广告历史CTR，无法反映实时竞争环境变化。
• 稀疏特征：如用户近期搜索关键词，高维离散特征导致模型过拟合。

2.2 动态特征与序列建模

美团通过以下技术突破特征瓶颈：

• 实时特征注入：引入用户当前会话的实时行为（如最近3次搜索、点击），通过LSTM网络捕捉短期兴趣演变。
• 图神经网络（GNN）：构建用户-广告-商家异构图，利用GraphSAGE算法学习节点嵌入，捕捉用户与广告的间接关联（如同商家历史消费）。
• 多模态特征：融合广告图片的视觉特征（通过ResNet提取）与文本特征（BERT编码），提升对创意质量的判断能力。

案例：在餐饮广告场景中，结合用户历史点评文本的BERT嵌入与当前查询的语义匹配，使高意向用户识别准确率提升18%。

三、训练优化：大规模分布式实践

3.1 数据流与样本构建

美团构建了日均PB级训练数据的流水线，关键设计包括：

• 负样本采样：采用“hard negative mining”策略，从曝光未点击广告中筛选与正样本语义相似的样本，增强模型区分能力。
• 延迟反馈修正：针对转化行为的延迟特性（如用户下单可能滞后于点击数小时），使用生存分析模型（Cox Proportional Hazards）修正CTR预估偏差。

3.2 分布式训练架构

为支持十亿级参数模型的训练，美团采用以下技术：

• 参数服务器（PS）架构：将模型参数分散至多个Worker节点，通过异步梯度更新提升吞吐量。
• 混合精度训练：使用FP16与FP32混合精度，在保持模型精度的同时减少30%显存占用。
• 模型压缩：通过知识蒸馏将大模型（ResNet-152）压缩为轻量级模型（MobileNetV3），推理速度提升5倍。

性能数据：在100台GPU集群上，双塔模型的训练吞吐量达每秒10万条样本，端到端训练时间从72小时缩短至8小时。

四、业务落地：从模型到收益的闭环

4.1 排序策略融合

美团将深度学习模型输出融入多目标排序框架，核心逻辑如下：

最终排序分 = α·CTR_pred + β·CVR_pred + γ·出价 + δ·质量分

其中，α、β、γ、δ通过在线A/B测试动态调整，平衡用户体验与商业收益。

4.2 在线服务优化

为满足实时性要求，美团采用以下技术：

• 模型服务化：通过TF Serving部署量化后的模型，QPS达10万+。
• 特征缓存：对高频用户特征（如历史行为序列）进行本地缓存，减少Redis查询延迟。
• 流量灰度：按用户ID哈希分桶，逐步扩大新模型流量，监控关键指标（如RPM、用户留存）异常。

4.3 效果验证

某城市试点数据显示，深度学习模型上线后：

• 广告点击率提升9.2%
• 商家ROI提升14%
• 用户搜索后下单率提升3.1%

五、未来方向：从排序到全链路的智能化

美团正探索以下技术深化广告排序能力：

1. 强化学习排序：将排序问题建模为马尔可夫决策过程（MDP），通过策略梯度算法动态调整排序策略。
2. 多模态大模型：引入千亿参数语言模型，直接生成广告创意与用户匹配度解释。
3. 隐私计算：基于联邦学习构建跨域用户画像，解决数据孤岛问题。

结语

美团在搜索广告排序中的深度学习实践表明，通过模型架构创新、特征动态化、训练工程化及业务闭环设计，可显著提升广告系统的精准度与效率。对于开发者而言，核心启示在于：结合业务场景选择模型复杂度，通过特征工程挖掘数据价值，并构建端到端的优化闭环。未来，随着多模态、强化学习等技术的成熟，广告排序将迈向更智能化的阶段。