最新 最热

python『学习之路-Base_Last』异常

#!/usr/bin/env python# -*- coding: utf-8 -*-# @Time : 2017/11/22 22:18# @Author : mixiu26names = ["yaya","yiyi"]data = {}try: # data['name'] # ...

2021-05-18
1

用MLP代替掉Self-Attention

这次介绍的清华的一个工作 “Beyond Self-attention: External Attention using Two Linear Layers for Visual Tasks”

2021-05-17
1

AAAI21最佳论文Runners Up!Transformer的归因探索!

Self-Attention Attribution: Interpreting Information Interactions Inside Transformer(AAAI21)

2021-05-14
1

Google 开源的 Python 命令行库:深入 fire(二)

在上一篇文章中我们介绍了 fire 的子命令、嵌套命令和属性访问等内容,今天我们将继续深入了解 fire 的其他功能。

2021-05-14
1

self-attention 的本质

self-attention 的本质就是从一个矩阵生成三个新的矩阵,这三个矩阵分别记作 qkv,然后将 q 乘以 k 的转置,得到的结果再与 v 相乘,再将最后得到的结果送入下游任务。因此实际上任何网络都可以融入 self-attention,生成三个...

2021-05-12
0

位置蒸馏:针对目标检测提高定位精度的知识蒸馏

今日分享一篇最近新出的目标检测论文『Localization Distillation for Object Detection』

2021-05-07
1

openstack安装(3)

提供者网络选项以最简单的方式部署OpenStack网络服务,可能包括二层服务(桥/交换机)服务、VLAN网络分段。本质上,它建立虚拟网络到物理网络的桥,依靠物理网络基础设施提供三层服务(路由)。使用DHCP为实例提供IP地址信息。...

2021-05-06
1

AAAI 2021最佳论文Runners Up!Transformer的归因探索!

Self-Attention Attribution: Interpreting Information Interactions Inside Transformer(AAAI21)

2021-04-23
1

算法创作|质数计数问题解决方法

对于每个数 i,我们可以枚举 [2, i-1][2,i-1]区间的任意一个数 j,判断i 能否被j整除,枚举 [2, i-1][2,i−1] 区间的任意一个数j,判断i能否被j整除时,我们可以发现,如果i能够被j整除,那么这里的商也一定能够整除i,也就是i也能够...

2021-04-22
1

Backtrader 来了!

Backtrader 是 2015 年开源的 Python 量化回测框架(支持实盘交易),功能丰富,操作方便灵活:

2021-04-16
0