《Wide & Deep Learning for Recommender Systems》
2017-12-13 21:25
295 查看
推荐系统:
检索:机器学习模型+人工规则,根据Item特征和query生成候选集。排序:wide&deep模型对候选集中的query-Item对进行打分排名。
排序模型:
模型原理:
wide:广义线性模型:优点:简单、扩展性好、可解释性好。利用分类特征及其交叉特征可以很好的实现对共现特征对的记忆,挖掘历史信息中的相关特征或Item。
缺点:依赖大量的人工特征工程。要实现泛化需要通过更粗粒度特征的交叉,交叉转换的限制在于不能挖掘之前没有出现过的组合。
基于记忆的推荐通常与历史出现的Item更具有相关性。
deep:神经网络:
优点:只需要很少的特征工程就能实现良好的泛化能力,通过学习到的稠密embedding向量挖掘深层次的关联,推荐之前未出现过的特征组合。
缺点:当输入时稀疏的以及高秩的,容易出现过度泛化。比如用户具有特殊偏好或者产品具有窄的受众面时,此时应该大多数的query-Item对是没有关联的,但是由于embedding层学到的稠密向量导致所有的query-Item预测不为0,从而推荐很少相关的Item。
基于泛化的推荐通常更具有多样性。
wide&deep:
wide部分仅仅需要少量的交叉特征用来弥补神经网络的不足,不需要全尺寸的线性回归。
实现细节
联合训练:同时loss优化两部分的权重wide:FTRL+L1
deep:adamGrad
数据处理
类别特征字符串
连续特征:归到(0-1)
具体为: x->累计分布函数 ->然后分档进行离散化到各区间-(所在区间-1)/(总区间数-1)
训练
每个类别embedding维数设置为32维
批量
并行化
热启动:叠加训练
相关文章推荐
- Wide &Deep Learning for Recommender Systems
- 《Wide & Deep Learning for Recommender Systems 》笔记
- 论文笔记:Wide & Deep Learning for Recommender Systems
- 《Wide and Deep Learning for Recommender Systems》学习笔记
- 《Collaborative Deep Learning for Recommender Systems》阅读笔记
- RecSys’16 Workshop on Deep Learning for Recommender Systems (DLRS)
- 【读论文系列】Collaborative Deep Learning for Recommender Systems
- Collaborative Deep Learning for Recommender Systems
- Machine Learning for Large Scale Recommender Systems--Yahoo! Research
- 行人检索"Deep Ranking for Person Re-identification via Joint Representation Learning"
- DEEP LEARNING IS THE FUTURE: Q&A WITH NAVEEN RAO OF NERVANA SYSTEMS
- Detection Algorithms for Communication Systems Using Deep Learning笔记
- 『 论文阅读』A Multi-View Deep Learning Approach for Cross Domain User Modeling in Recommendation Systems
- Some Problems for Deep Learning with Theano && Lasagne framework
- 学习笔记:TensorFlow Wide & Deep Learning Tutorial
- TensorFlow学习笔记9----TensorFlow Wide & Deep Learning Tutorial
- [转]-[携程]-A Hybrid Collaborative Filtering Model with Deep Structure for Recommender Systems
- HAT_dataset compute accuracy for caffe_deep learning approach of matlab interface--->>> code record
- Deep Learning for Nature Language Processing --- 第八讲
- Bandit Algorithms for e-commerce Recommender Systems 摘要