DNN优化首页排序的应用

1、DNN优化首页排序的应用推荐页场景和 Ranking 介绍多目标学习探索和应用 DNN 中 online learning 的尝试及经验 总结与展望推荐页场景和 Ranking 介绍基于用户兴趣个性化推荐问答发现更大的世界渗透率达88%，使用时长占比76%推荐页场景和 Ranking 介绍线上模块召回：协同/标签/ 排序：规则/机器学习重排序：提权/隔离/强插.线下模块准备数据：落地请求相关的 日志特征提取：确定特征和生成 训练数据模型训练：生成模型供线上 使用推荐页流程推荐页场景及 Ranking 介绍用户特征固有属性：性别， 年龄统计特征：阅读长 度用户兴趣：实时， 话题，关键词过去行为：

2、浏览/点 赞/分享/收藏上下文特征访问时间，机型， session内容特征统计特征：CTR，点 赞数文本特征：关键词， 话题，tf，idf作者特征：权威度， 被关注数交叉特征用户特征与内容交 叉：是否关注话题/ 作者，对内容感兴 趣度特征介绍推荐页场景及 Ranking 介绍DNNGBDTEdgeRankTimeLine基于规则基于模型Ranking 策略演进过程上线效果-CTR+25.4%-人均天时长+300 秒-次日留存+1.98%推荐页场景及 Ranking 介绍DNN 结构推荐页场景及 Ranking 介绍DNN 模型演进过程单目标DNN多目标DNNOnline learning多目标

3、学习探索和应用分别训练多个模型，每个模型学习一个目标优点：可以分别针对不同的目标优化效果而不影响其他模型缺点：线上服务预估部分计算量加倍，机器资源比较浪费独立模型以点击为主要目标，对含有其他正向行为的样本，loss 进行加权优点：只修改训练代码就行，线上服务不需要做改动，直接加载生成模 型即可上线缺点：难于评估每个目标的贡献，无法对特定的用户群做策略优化加权模型一个模型中预测所有目标分数，模型共享大部分参数优点：减少模型参数量和计算资源开销，排序时各目标分数灵活组合缺点：各 loss 权重不好调整，模型后期容易产生震荡多目标模型多目标方案多维度提升用户体验CTR 单一指标不能准确反映用户体验与

4、用户圈层结合，给产品提供更多的可优化空间多目标网络结构：底层共享参数，最上层参数不同，学习各自目标loss：各目标交叉熵损失函数加权组合loss调权方式等权重相加按 loss 大小配平，效果差算法自动调权，无明显效果各目标 loss 交替学习，效果差多目标学习探索和应用共享参数方案多目标学习探索和应用多目标融合方案方式一： =- - -方式二： = -(- + -)67log： - - log(- + - )用户圈层结合高互动用户提高互动权重 低互动用户提高阅读权重 高创作用户提高回答权重多目标学习探索和应用上线效果-10.00%0.00%10.00%20.00%30.00%40.00%50.

5、00%60.00%CTR人均点赞人均收藏人均分享专业性内容多目标多目标多目标学习探索和应用 = + (1 )/修正 ESSM 模型多目标 ESSM 模型将用户次目标行为拆解为点击率*转化率副目标正样本数量过于稀疏，可以更好地利用主目标样本的信息来提升副目标预估效果直接应用，小流量无正向效果修正 ESSM 模型根据训练数据负样本的降采样率，对 ctr 预估值按照以下公式进行矫正 = + (1 )多目标学习探索和应用-0.10%0.90%1.90%2.90%3.90%4.90%5.90%6.90%7.90%8.90%CTR人均点赞人均分享人均回答多目标人均收藏多目标修正 ESSM 模型上线效果On

6、line Learning 的尝试及经验1. 提高模型更新频率，防止概念漂移DNN 刚上线时一周更新一次模型解决模型训练慢的瓶颈后天级更新小时级 or 分钟级实时训练与推断新内容分发后快速学习 itemembedding新用户产生浏览行为后快速学习 user embedding2. 快速学习ID类特征背景面临问题Online Learning 的尝试及经验实时生成样本特征等待 label方式数据采样方式训练数据流新增特征映射问题特征映射优化器选择batch size 及学习率调整模型调整模型服务方式模型更新间隔模型更新方式Online Learning 的尝试及经验实时训练数据流程通过 red

7、is 实现，可动态进行特征映射，让online learning 学习新特征Online Learning 的尝试及经验离散 ID 特征动态映射方案Online Learning 的尝试及经验模型调整优化器Adam 相比 SGD 及 FTRL，收敛快且效果更好稀疏特征较多，选择 LazyAdambatch size 设大效果好防止短时 label 过于集中Batch SizeID 特征应当使用 dropoutDropout正则效果持平正则elu 相比 relu 效果好，AUC 提升 0.5%elu + scale + center 相比 elu AUC 提升 0.3%激活函数Online Le

8、arning 的尝试及经验提升模型效果降低模型更新频率，真正达到 online learning 效果随着模型结构的迭代越来越复杂，gpu 对训练和预测的时间有保证降低机器成本用 gpu 替换 cpu 运算，减少在线 cpu 容器数dnn 模型参数量大，占用内存多，降低内存预算实时训练与预测Online Learning 的尝试及经验实时训练与预测结构GPU 实时训练与预测变量分布图Online Learning 的尝试及经验Online Learning 的尝试及经验收藏数（人均）+9.74%分享数（人均）+5.97%评论数（人均）+10.29%回答数（人均）+3.50%天时长（人均）+2.43%次日留存+0.41%点击率+4.75%直接阅读（人均）+3.41%点赞数（人均）+5.23%上线效果核心指标：常规指标：总结与展望D