用户序列表征:引入用户全站行为序列,捕捉用户长短期个性化偏好性,但用户历史行为和当前搜索词不一定存在关联,为此在主流建模方案基础上,引入零向量注意力机制来权衡个性化和相关性具体来说,引入了Q语义表征,对长尾低频做过滤,帮助模型决策哪些历史行为和当次搜索词相关,且在历史行为和搜索词无关时不引入额外的噪声
多模态表征:图像、摘要 科威特手机号码列表 等创意维度信息,对于用户决策至关重要,也是内容高效分发的基石为此引入高维的多模态预训练向量,并结合场景进行端到端降维,既引入了丰富的多模态语义信息,又能够兼顾线上时延,对于刻画用户的多模偏好、提升新内容高效分发至关重要特征重要度建模:通过动态权重的建模范式,捕捉样本粒度的动态表征,可以有效增强模型的表达能力通过在、等模型结构基础上,结合场景特点设计域感知的多门控网络、并联结构,实现了特征重要度的动态建模
接下来是多目标建模层,由于点击、时长、交互等各个目标行为量级不同,导致优化过程中很容易出现跷跷板问题,为此在模型结构、优化方式等方面进行相关探索模型结构:我们采用和融合的方案,为了防止极化现象,对门控网络结构上进行、设计等;在各个任务上会引入个性化因子,通过个性化网络建模,和的输出会拼接后传到预估输出层
|