自注意力模型通过捕获用户-商品交互之间的序列依赖关系，在序列推荐系统中实现了最佳性能。但是，它们依赖于位置embedding来保留顺序关系，这可能会破坏商品embedding的语义。大多数现有工作都假设这种顺序依赖性仅存在于...

特征交互建模和用户兴趣建模方法是 CTR 预测中的两个热门领域，现有方法存在两方面的不足。

无偏的排序学习（ULTR）是从有偏的用户点击日志中训练一个无偏的排序模型。当前的大多数 ULTR 方法都是基于检验假设（examination hypothesis，EH），它假设点击概率可以分解为两个标量函数，一个与排序特征有关，另一个与偏差因素有...

每天给你送来NLP技术干货！----©作者 | 回亭风单位 | 北京邮电大学研究方向 | 自然语言理解来自 | PaperWeekly论文标题：Few-Shot Class-Incremental Learning for Named Entity Recognition收录会议：ACL 2022......

随着模型规模的扩大，单卡显存容量无法满足大规模模型训练的需求。张量模型并行是解决该问题的一种有效手段。本文以Transformer结构为例，介绍张量模型并行的基本原理。...

文章作者：Tyan博客：noahsnail.com  |  CSDN  |  简书

自动特征交叉模型包括：FM系列（FM、FFM、AFM）、Embedding+MLP（FNN、PNN、NFM、ONN）、双路并行（Wide&Deep、DeepFM、DCN、xDeepFM、AutoINT）

Pre-trained masked Language mOdel with Misspelled knowledgE

Swin-Unet是基于Swin Transformer为基础(可参考Swin Transformer介绍 )，结合了U-Net网络的特点(可参考Tensorflow深度学习算法整理(三) 中的U-Net)组合而成的新的分割网络...

Neural Factorization Machines（NFM）[1]是在2017年提出的用于求解CTR问题的算法模型，在Wide & Deep模型被提出后，相继出现了一些改进的算法模型，如DeepFM和DCN可以看成是对于Wide & Deep模型中Wide部分的改进，而此处的NFM模...