推荐系统提纲笔记

相关图文Xmind、PDF、视频讲解、代码，请参阅语雀地址：https://www.yuque.com/chudi/tzqav9/ny150b

推荐算法

推荐系统的传统匹配模型

基于 Collaborative Filtering 的方法

分类
- User-base CF：通过对用户喜欢的 item 进行分析，如果用户 a 和用户 b 喜欢过的 item 差不多，那么用户 a 和 b 是相似的。类似朋友推荐一样，可以将 b 喜欢过但是 a 没有看过的 item 推荐给 a。
- Item-base CF: item A 和 item B 如果被差不多的人喜欢，认为 item A 和 item B 是相似的。用户如果喜欢 item A，那么给用户推荐 item B 大概率也是喜欢的。
- Model-base CF: 也叫基于学习的方法，通过定义一个参数模型来描述用户和物品、用户和用户、物品和物品之间的关系，然后通过已有的用户-物品评分矩阵来优化求解得到参数。例如矩阵分解、隐语义模型 LFM 等。
问题本质：矩阵的未知部分如何填充问题。已知的值是用户已经交互过的 item，如何基于这些已知值填充矩阵剩下的未知值，也就是去预测用户没有交互过的 item 是矩阵填充要解决的问题。
- SVD ( Singular Value Decomposition )
  - 步骤
    - 对 M 矩阵的 missing data 填充为0
    - 求解 SVD 问题，得到 U 矩阵和 V 矩阵
    - 利用 U 和 V 矩阵的低秩 k 维矩阵来估计
  - 缺点
    - Missing data 和 observe data 权重一样
    - 最小化过程没有正则化 ( 只有最小方差 )，容易产生过拟合。
- MF 模型 ( 矩阵分解 )
  - 步骤
    - 将用户 u 对物品 i 的打分分解成用户的隐向量 vu，以及物品的隐向量 vi；
    - 用户 u 和物品 i 的向量点积 ( inner product ) 得到的 value，可以用来代表用户 u 对物品i的喜好程度，分数越高代表该 item 推荐给用户的概率就越大。同时，MF 模型引入了 L2 正则来解决过拟合问题。
- FISM（Factored Item Similarity Model）
  - 用户表达不再是独立的隐向量，而是用用户喜欢过的所有 item 的累加求和得到作为 user 的表达；而 item 本身的隐向量 vi 是另一套表示，两者最终同样用向量内积表示。
- SVD
  - MF 模型可以看成是 user-based 的 CF 模型，直接将用户id映射成隐向量，而 FISM 模型可以看成是 item-based 的 CF 模型，将用户交户过的 item 的集合映射成隐向量。SVD 方法正是这两者的结合：每个用户表达分成两个部分，左边 vu 表示用户 id 映射的隐向量 ( user-based CF 思想 )，右边是用户交互过的 item 集合的求和 ( item-based CF 思想 )。User 和 item 的相似度还是用向量点击来表达。
缺点
- 只是利用了 user 和 item 的交互信息 ( rating data )，而对于大量的 side information 信息没有利用到。例如 user 本身的信息，如年龄，性别、职业；item 本身的 side information，如分类，描述，图文信息；以及 context 上下文信息，如位置，时间，天气等。

Generic feature-based 的方法

问题本质：如何利用side information 信息，去构造 feature-based 的model

公式：
缺点
- 未考虑特征进行交叉组合，高质量交叉特征获取成本高
- one-hot编码，具有高度稀疏性，带来维度灾难问题
优点
- 简单易上线
- 可解释性强
实现

GBDT

boosting tree
- 按照boosting的思想，在算法的每一步，用一棵决策树去拟合当前学习器的残差，获得一个新的弱学习器。将这每一步的决策树组合起来，就得到了一个强学习器。
GBDT在本质上还是梯度下降法，每一步通过学习一棵拟合负梯度（也就是所谓“残差”）的树，来使损失函数逐渐减小
用于分类
- 二分类：对数几率表达交叉熵
- 多分类：softmax
优点
- 预测阶段的计算速度快，树与树之间可并行化计算。
- 在分布稠密的数据集上，泛化能力和表达能力都很好。
- 采用决策树作为弱分类器使得GBDT模型具有较好的解释性和鲁棒性，能够自动发现特征间的高阶关系，并且也不需要对数据进行特殊的预处理如归一化等。
缺点
- GBDT在高维稀疏的数据集上，表现不如支持向量机或者神经网络。
- 训练过程需要串行训练，只能在决策树内部采用一些局部并行的手段提高训练速度
AdaBoost V.S. GBDT
- 最主要的区别在于两者如何识别模型的问题。AdaBoost用错分数据点来识别问题，通过调整错分数据点的权重来改进模型。Gradient Boosting通过负梯度来识别问题，通过计算负梯度来改进模型。
GBDT V.S. LR
- 从决策边界来说，线性回归的决策边界是一条直线，逻辑回归的决策边界根据是否使用核函数可以是一条直线或者曲线，而GBDT的决策边界可能是很多条线。
- GBDT适合处理连续值特征，而LR，FM，FFM更加适合处理离散化特征。GBDT可以做到一定程度的特征组合，而且GBDT的特征组合是多次组合的，不仅仅是FM与FFM这样的二阶组合而已。同时，GBDT具备一定的特征选择能力（选择最优的特征进行分裂）
- GBDT LR：先使用GBDT对一些稠密的特征进行特征选择，得到的叶子节点，再拼接离散化特征放进去LR进行训练。在方案可以看成，利用GBDT替代人工实现连续值特征的离散化，而且同时在一定程度组合了特征，可以改善人工离散化中可能出现的边界问题，也减少了人工的工作量。
GBDT 与 XGBoost 区别
- 传统GBDT以CART作为基分类器，xgboost还支持线性分类器，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问题）。
- xgboost在代价函数里加入了正则项，用于控制模型的复杂度。正则项里包含了树的叶子节点个数、每个叶子节点上输出的score的L2模的平方和。正则项使学习出来的模型更加简单，防止过拟合。
- 传统GBDT在优化时只用到一阶导数信息，xgboost则对代价函数进行了二阶泰勒展开，同时用到了一阶和二阶导数。xgboost工具支持自定义代价函数，只要函数可一阶和二阶求导。
- 列抽样（column subsampling）。xgboost借鉴了随机森林的做法，支持列抽样，不仅能降低过拟合，还能减少计算。
- xgboost工具支持并行。boosting不是一种串行的结构吗?怎么并行的？注意xgboost的并行不是tree粒度的并行，xgboost也是一次迭代完才能进行下一次迭代的（第t次迭代的代价函数里包含了前面t-1次迭代的预测值）。xgboost的并行是在特征粒度上的。我们知道，决策树的学习最耗时的一个步骤就是对特征的值进行排序（因为要确定最佳分割点），xgboost在训练之前，预先对数据进行了排序，然后保存为block结构，后面的迭代中重复地使用这个结构，大大减小计算量。这个block结构也使得并行成为了可能，在进行节点的分裂时，需要计算每个特征的增益，最终选增益最大的那个特征去做分裂，那么各个特征的增益计算就可以开多线程进行。

公式：
求解
- 梯度：
  - 参数量（k为v向量长度）：
  - 复杂度：
实现
优点
- FM可以在非常稀疏数据下进行参数估计，而其他模型如SVM却会出现问题
- FM具有线性复杂性，可以在原始条件下进行优化，并且不依赖支持向量（如SVM）
- FM是可以利用任何实值特征向量的一般预测器
缺点
- 耗资源
- 可能引入无用特征
- 未对特征进行分组
和其他模型的关系
- 假如只使用 userid 和 itemid，我们可以发现其实 FM 退化成加了 bias 的 MF 模型
- 如果输入包含两个变量，① 用户交互过的 item 集合；② itemid 本身，那么，此时的 FM 又将退化成带 bias 的 FISM 模型
- 如果再加上 userid 的隐向量表达，那么 FM 模型将退化成 SVD 模型

FFM

相较于FM模型，FFM模型引入了域（Field）的概念，可看做是对特征进行分组。例如，对于性别特征而言，通常有两种取值，对值进行one-hot编码之后性别特征会拆分为两个独立的特征。显然，这两个特征具有共同的性质：都属于性别。所以可以将这两个特征归在同一个Field下，即有相同的Field编号。不同域的特征之间，往往具有明显的差异性。对比FM中的做法，每个特征有且仅有一个隐向量，在对特征 xi与其他特征进行交叉时，始终使用同一个隐向量 Vi

公式

代码语言：javascript复制

  - 其中 f为域（Field）映射函数，fi表示为xi特征对应的Field编号。将公式对比FM可以发现，二者之间的差异仅在于二阶交叉对应的隐向量。设数据集中Field的数目为 F，那么对于每个特征 xi拥有 F个对应的隐向量，分别应用于与不同域特征进行交叉

实现

优点

在高维稀疏性数据集中表现很好
相对FM模型精度更高，特征刻画更精细

缺点

时间开销大。FFM时间复杂度为 O(kn^2) (F维度=n，每个特征的Field都不相同) ，FM时间复杂度为 O(kn) 。
参数多容易过拟合，必须设置正则化方法，以及早停的训练策略。
FFM比较难应用于纯数值类型的数据集

超参数对于模型的影响

隐向量维度k对于模型的影响不大
正则化系数 λ 如果太大，容易导致模型欠拟合，反之，容易过拟合。
全局学习率 η 也是超参数。如果 η 在一个较小的水平，则可以表现最佳。过大，容易导致过拟合。过小，容易欠拟合。

基于 translation 框架的方法：认为 user 和 item 在新的空间中映射的 vector 可以有 gap，这个 gap 用 relation vector 来表达，也就是让用户的向量加上 relation vector 的向量，尽可能和 item vector 接近

transRec 模型
- ri 和 rj 表示的是用户上一个交互的 item i 和下一个交互的 item j，tu 为用户本身的向量表达
- 在实际的推荐系统中，往往存在数据稀疏和用户冷启动问题，因此，作者将用户向量 tu 分解成了两个向量：这里 t 可以认为是全局向量，表示的是所有用户的平均行为，tu 表示用户 u 本身的 bias，例如对于冷启动用户，tu 可以设置为0，用全局用户的表达 t 作为冷启动。

基于 representation learning 的深度匹配模型

基于 Collaborative Filtering 的方法：分别学习用户的 representation 以及 item 的 representation，也就是 user 和 item 各自的 embedding 向量 ( 或者也叫做隐向量 )，然后通过定义 matching score 的函数，一般是简单的向量点击、或者 cosine 距离来得到两者的匹配分数。整个 representation learning 的框架

CF 模型 ( collaborative filtering )
- 步骤
  - input layer：只有两个，分别是 userid ( one-hot )，itemid ( one-hot )
  - representation function：线性 embedding layer
  - matching function：向量内积 ( inner product )
Deep Matrix Factorization
- 步骤
  - input layer：由两部分组组成，其中 user 由 user 交互过的 item 集合来表示，是个 multi-hot 的打分表示，如 [0 0 4 0 0 … 1 5 …]，在矩阵中用行表示；item 也由交互过的 user 集合来表示，也是个 multi-hot 的表示，如 [5 0 0 3 … 1 3]，在矩阵中用列表示。
  - representation function：Multi-Layer-Perceptron，也就是经典的全连接网络。
  - matching function：用 cosine 点击表示两个向量的匹配分数。
AutoRec 模型
- Item-based AutoRec：n个item就有n个auto-encoder，输入与需拟合的是user对各个item评分，中间层便是该item的表示
CDAE模型（Collaborative Denoising Auto-Encoders）
- 输入为用户id，加了噪音后的用户对各item的评分。如图的 input layer 节点，绿色节点表示每个用户交互过的 item，最下面的红色节点 user node 表示用户本身的偏好，可以认为是 userid 的表达。其中，中间蓝色的隐层节点作为用户表示，其中 Vu 为 input layer 中的 user node 的 representation，针对所有用户 id 会学习一个和 item 无关的 Vu 向量表达，可以认为是用户本身的 bias，例如有些用户打分本身比较严格，再好的 item 打分也不会太高；有些用户打分很宽松，只要 item 别太差都会给高分，加上 Vu 可以更好的刻画用户之间天然的 bias。
总结
- ❶ User 或者 item 要么由本身 id 表达，要么由其历史交互过的行为来表达
- ❷ 用历史交互过的行为来作为 user 或者 item 的表达，比用 id 本身表达效果更好，但模型也变得更复杂
- ❸ Auto-encoder 本质上等同于 MLP MF，MLP 用全连接网络做 user 和 item 的 representation 表达
- ❹ 所有训练数据仅用到 user-item 的交互信息，完全没有引入 user 和 item 的 side info 信息

基于 Collaborative Filtering side information 的方法：❶ representation learning：目的是学习到 user 和 item 各自的 representation ( 也叫 latent vector，或者 embedding )。❷ 特征表达：user 侧特征除了用户 id 本身 userid，可以加上其他 side info；item 侧特征除了物品 id 本身 itemid，还有其他文本特征、图文特征、视频帧特征等信息。❸ 模型表达：除了传统的 DNN，其他结构如 Auto-Encoder ( AE )，Denoise-Auto-Encoder ( DAE )，CNN，RNN 等。

DCF 模型 ( Deep Collaborative Filtering )
- 和传统的 CF 表示学习不同，这里引入了用户侧特征X例如年龄、性别等；物品侧特征 Y 例如文本、标题、类目等；user 和 item 侧的特征各自通过一个 auto-encoder 来学习，而交互信息 R 矩阵依然做矩阵分解 U,V。
- 损失函数优化
  - 需要最小化用户侧特征的 reconstruction 和 item 侧的 encoder 部分，以及交互矩阵和预测矩阵的平方差，还有加上 L2 正则。其中 W1，表示的用户侧特征 X 在 auto-encoder 过程中的 encode 部分，也就是输入到隐层的重建，P1 表示的是用户特征到交互矩阵 R 的映射；而 W2 表示物品侧特征 Y 在 auto-encoder 过程中的 encode 部分。P2 表示的是物品特征到交互矩阵 R 的映射。可以看出用户侧和物品侧特征都由两项 error 组成，第一项衡量的是 input 和 corrupted input 构建的预估误差，需要保证 W1 和 W2 对于 corrupted 后的 input x 和 y 不能拟合太差；第二项表达的是映射后的隐层特征空间 W1X 和投射到 U 矩阵的误差不能太大。
DUIF 模型 ( Deep User and Image Feature Learning )
- fi 表示原始图片特征，通过 CNN 网络提取的图片特征作为 item 的表达，然后用一个线性映射可以得到 item 的 embedding 表达。通过模型学到的 pu 作为用户的 representation，以及通过 CNN 提取的图片特征作为 item 的 representation，两者通过向量点积得到两者的匹配分数。
ACF 模型 ( Attentive Collaborative Filtering )
- Sigir2017 提出的 Attention CF 方法，在传统的 CF 里引入了 attention 机制。这里的 attention 有两层意思，第一层 attention，认为用户历史交互过的 item 的权重是不一样的；另一个 attention 意思是，用户同一个 item 里到的视觉特征的权重也是不一样的
- 损失函数优化
  - 其中 ui 是用户本身的 latent vector，vj 是物品 j 的 latent vector，pl 是物品 l 的辅助 latent vector。这里文章使用了 SVD 的方式，用户本身的表达引入了 a(i, l)，代表的是用户 i 对其历史交互过的物品 l 的权重。
  - item attention
    - ui 是用户本身的 latent vector，vl 是物品 l 的 latent vector，pl 是物品 l 的辅助 latent vector；xl 是表示component-attention提到的从图文信息提取的特征 latent vector。用户最终的表达是自身 ui 的 latent vector，以及历史行为的 attention 加权的 representation 表示。
    - component attention
      - 其中第一个公式表示用户 i 对物品 l 第 m 个 component ( 例如图片特征中的局部区域特征，或者视频中不同帧的特征 ) 的权重；第二个公式 softmax 对 attention 权重归一化。
CKB 模型 ( Collaborative Knowledge Base Embedding )
- CKB 分别在结构化信息、文本信息和视觉信息中提取 item 侧特征作为 item 的 representation
- representation function
  - ① 结构化特征 struct embedding: transR
  - ② 文本特征 Textual embedding: stacked denoising auto-encoders ( S-DAE )
  - ③ 视觉特征 Visual embedding: stacked convolutional auto-encoders ( SCAE )

评价指标

评分预测指标：为了衡量RS结果的准确性，通常使用一些最常见的预测误差指标的计算

平均绝对误差（Mean Absolute Error，MAE）
标准平均绝对误差（NMAE）
均方根误差（Root Mean Squared Error，RMSE）
覆盖率：推荐系统能够推荐出来的物品占总物品的比例。覆盖率越高表明模型能够针对更多的item产生推荐，从而促进长尾效应的挖掘。

集合推荐指标：由于数据稀疏和冷启动问题的存在，有时直接预测用户对item的评分是困难的，为此有学者提出了Top-N推荐方法，即不预测用户对item的评分，而是根据user-item的隐式交互（例如点击、收藏）来生成一组用户最有可能喜欢的items集合推荐给用户

Precision
Recall
F1
ROC
AUC：为ROC曲线下的面积，显然这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方，所以AUC的取值范围一般在0.5和1之间。
Hit Rate (HR)：#users是用户总数，而#hits是测试集中的item出现在Top-N推荐列表中的用户数量
Average Reciprocal Hit Rank (ARHR)：一种加权版本的HR，它衡量一个item被推荐的强度

排名推荐指标

基于 match function learning 的深度匹配模型

CF-based 的深度模型

NCF：在得到 user vector 和 item vector 后，连接了MLP 网络后，最终拟合输出
NeuMF 模型 ( Neural Matrix Factorization )：相比NCF多了GMF部分。GMF layer：User 和 item 都通过 one-hot 编码得到稀疏的输入向量，然后通过一个 embedding 层映射为 user vector 和 item vector。这样就获得了 user 和 item 的隐向量，一般可以通过向量点积或者哈达马积 ( element-wide product ) 得到交互，不过在 NeuMF 中多连接了一个连接层
NNCF 模型 ( Neighbor-based NCF ：NCF 方法，最大的不同在于输入除了 user 和 item 的信息，还各自引入了 user 和 item 各自的 neighbor 信息，输入层两侧的 nu 和 ni 是 user 和 item 各自的 neighbor 信息的输入
ONCF 模型 ( Outer-Product based NCF )：在 embedding layer 之后，模型引入了 interaction map 也就是特征交叉层，对于用户 u 的向量 pu 和物品 i 的向量 qi，引入两者的 outer-product。这里的hidden layer 用了 CNN

基于 translation 框架的方法

LRML 模型 ( Latent Relational Metric Learning )：通过引入 memory network 来学习度量距离
- memory layer
  - ① 用户和物品 embedding 融合：Embedding 层得到的 user 和 item 向量 p 和 q 需要先经过交叉合成一个向量后输入到下一层
  - ② 用户-物品 key addressing：从第一步得到的向量 s 中，去和 memory 记忆网络模块中的各个 memory vector 挨个计算相似度，相似度可以用内积表达并做归一化。得到的 ai 代表的是当前用户-物品输入对 (p，q) 与 memory-network 中的第 i 个向量的相似度。
  - ③ 最终加权表达

feature-based 的深度模型

FNN：在FM上接入若干全连接层。为了加速模型的收敛，充分利用FM的特征表达能力，FNN采用了两阶段训练方式。首先，针对任务构建FM模型，完成模型参数的学习。然后，将FM的参数作为FNN底层参数的初始值。这种两阶段方式的应用，是为了将FM作为先验知识加入到模型中，防止因为数据稀疏带来的歧义造成模型参数偏差。
- 优点
  - 引入DNN对特征进行更高阶组合，减少特征工程，能在一定程度上增强FM的学习能力。这种尝试为后续深度推荐模型的发展提供了新的思路
- 缺点
  - 两阶段训练模式，在应用过程中不方便，且模型能力受限于FM表征能力的上限
  - FNN专注于高阶组合特征，但是却没有将低阶特征纳入模型
  - FM中进行特征组合，使用的是隐向量点积。将FM得到的隐向量移植到DNN中接入全连接层，全连接本质是将输入向量的所有元素进行加权求和，且不会对特征Field进行区分，也就是说FNN中高阶特征组合使用的是全部隐向量元素相加的方式。说到底，在理解特征组合的层面上FNN与FM是存在Gap的
  - 在神经网络的调参过程中，参数学习率是很重要的。况且FNN中底层参数是通过FM预训练而来，如果在进行反向传播更新参数的时候学习率过大，很容易将FM得到的信息抹去
- 实现代码
PNN：PNN同样引入了DNN对低阶特征进行组合，但与FNN不同，PNN并没有单纯使用全连接层来对低阶特征进行组合，而是设计了Product层对特征进行更细致的交叉运算。在不考虑激活函数的前提下，使用全连接的方式对特征进行组合，等价于将所有特征进行加权求和。PNN的作者同样意识到了这个问题，认为“加法”操作并不足以捕获不同Field特征之间的相关性。
- 优点
  - 引入Product层，不依赖预训练FM完成特征交叉
- 缺点
  - 忽略了低阶特征
- 代码实现
Wide&Deep：FNN与PNN更多得捕捉高阶交叉特征，而忽略了低阶特征。Wide & Deep分为Wide与Deep两部分，Wide是记忆(Memorization)，负责处理低阶特征，一般为人工梳理，且具有一定业务背景的单特征，或者一些显而易见的组合特征。显然，光有Wide就是个LR模型，而Deep的加入是模型具有很好的泛化性能。Deep负责扩展(Generalization)，通过Embedding DNN学习高阶交叉特征，获得更好的泛化性能。
- 优点
  - 简单有效。结构简单易于理解，效果优异。目前仍在工业界广泛使用，也证明了该模型的有效性。
  - 结构新颖。使用不同于以往的线性模型与DNN串行连接的方式，而将线性模型与DNN并行连接，同时考虑低阶与高阶特征，兼顾模型的Memorization与Generalization。
- 缺点
  - Wide侧的特征工程仍无法避免。
- 代码实现
DeepFM:DeepFM是基于Wide&Deep进行改进，Wide&Deep仍避免不了人工设计特征，DeepFM则将Wide模块替换为FM，FM模型可以抽取低阶特征，DNN可以抽取高阶特征。
- 优点
  - 无需预训练FM
  - 避免了人工特征
  - 同时考虑低阶与高阶特征
- 代码实现
DCN:由两部分构成，一部分还是基于DNN的Deep network，另一部分是Cross neteork。由此可见，DCN也是W&D的升级版，将Wide模块替换为Cross network
- Cross network
- 优点
  - 以少量的额外参数学习特征交互
  - 同时考虑低阶与高阶特征
- 代码实现
xDeepFM：基于vector-wise的模式提出了新的显式交叉高阶特征的方法。与vector-wise概念相对应的是bit-wise，在最开始的FM模型当中，通过特征隐向量之间的点积来表征特征之间的交叉组合。特征交叉参与运算的最小单位为向量，且同一隐向量内的元素并不会有交叉乘积，这种方式称为vector-wise。
- CIN
  - 根据前一层隐层的状态Xk 和原特征矩阵 X0，计算出一个中间结果 Zk 1，它是一个三维的张量
  - 在这个中间结果上，我们用Hk 1 个尺寸为 m*Hk 的卷积核生成下一层隐层的状态
  - 对CIN中每层进行sum pooling操作
- 优点
  - 向量级特征交叉
- 实现
AutoInt:通过 Multi-head Self-Attention 机制显示构造高阶特征，有效提升了CTR预估的准确率
- Self-Attention
- 实现

特征工程神经网络 linux 机器学习编程算法

0 人点赞