最新 最热

PNN网络(Product-based Neural Network)

PNN(Product-based Neural Network)是在2016年提出的用于计算CTR问题的深度神经网络模型,PNN的网络结构对传统的FNN(Feedforward Neural Network)网络结构做了一些优化,使得其能够更适合处理CTR问题。在PNN网络模型中,主要的...

2022-05-12
1

广告行业中那些趣事系列53:多模态学习在CTR预估模型中的应用实践

摘要:本篇分享了多模态学习在CTR预估模型中的应用实践及效果展示。首先是背景介绍,通过多模态学习可以更好的处理多模态信息,从而得到更丰富的特征信息,可以更好的提升CTR模型效果;然后重点介绍了多模态学习在CTR模型中的...

2022-05-05
1

广告行业中那些趣事系列38:广告搜索业务中海量高维数据集检索利器Faiss

摘要:本篇主要介绍实际广告搜索业务中经常使用的大规模检索利器faiss。首先是背景介绍,主要讲了相似度匹配任务和大规模检索算法以及如何应用到我们的实际业务场景;然后重点介绍了faiss,包括什么是faiss、大规模检索任务...

2022-05-05
1

广告行业中那些趣事系列15:超实用的基于BERT美团搜索实践

摘要:本篇主要学习和分析BERT在美团搜索排序中的项目实践。首先介绍了业务背景,主要对比了美团搜索业务场景和我们的应用场景;然后讲了下计算query和doc相关性的方法,主要包括计算字面相关性和计算语义相关性,重点介绍了基...

2022-05-05
1

Transformer注解及PyTorch实现(上)

"Attention is All You Need"[1] 一文中提出的Transformer网络结构最近引起了很多人的关注。Transformer不仅能够明显地提升翻译质量,还为许多NLP任务提供了新的结构。虽然原文写得很清楚,但实际上大家普遍反映很难正确...

2022-04-28
1

Nat. Mach. Intell. | 基于Transformer的多肽-HLA I类结合预测和疫苗的新生抗原序列设计

人类白细胞抗原(HLA)和肽(pHLA)之间相互作用的计算预测可以加快表位筛选和疫苗设计。因此,上海交通大学魏冬青教授和熊毅副研究员的博士生褚晏伊和香港大学深圳医院的张艳博士合作开发了TransMut框架。该文章于2022年3...

2022-04-19
1

文献阅读:SimCSE:Simple Contrastive Learning of Sentence Embeddings

主要思路感觉还是接着之前的SentenceBert一脉相承的(这部分内容我之前也写过一个小博客《文献阅读:Sentence-BERT:Sentence Embeddings using Siamese BERT-Networks》进行过介绍),主体还是使用的Bert或者Roberta模型,但是...

2022-04-13
3

KDD2019 | 阿里GATNE:异构图的表示学习

Representation Learning for Attributed Multiplex Heterogeneous Network

2022-04-11
1

推荐系统遇上深度学习(一二九)-基于物品属性的用户关注列表序列推荐

今天给大家带来的是WSDM 2022上eBay中稿的一篇文章,题目为《Sequential Modeling with Multiple Attributes for Watchlist Recommendation in E-Commerce》。过往的序列推荐或者行为序列建模,更关注的是在物品层面的偏...

2022-04-06
2

召回:是"塔",是"塔",但不是双塔!

query到doc这种文本到文本的召回,通常就是各种双塔召回,再排序的过程.谷歌这篇论文<Transformer Memory as a Differentiable Search Index>却偏不.这篇论文提出了Differentiable Search Index(DSI)的方法,直接就把do...

2022-04-06
1