每天给你送来NLP技术干货!
编辑:深度学习自然语言处理 公众号
最近突然在知乎中引起不小关注的一件事情,具体内容如下:
如下图,某群近期在AAAI bid 阶段明码标价,操纵审稿。这种风气在如今顶会论文审稿中是否普遍存在,是否已经帮助了某一些人因此获名、获利。
知乎链接:
https://www.zhihu.com/question/548211913
背景知识:AAAI是人工智能国际顶会,国内CCF A级别,在NLP领域中,CCF A:ACL、NIPS、AAAI和IJCAI等,CCF B:EMNLP和COLING,CCF C:NAACL。其中,最近几年,AAAI和IJCAI的排名一直有所下降,恰好这次的AAAI突然发生了这件事,值得深思。
下面分享几个精选回答
答主: Phoenix Cat
恶心到登峰造极了,唉,现在的审稿制度真的是不改革不行了。。。
答主: 微调
我觉得截图这种是口嗨,这种投稿群里一般都不会有什么真的料。
而打招呼和团伙作案这个是任何领域都不能避免的问题,只要不是大规模的、还能留给正经工作大部分空间,应该是除不干净的也不必花大力气去除。当然,随着openreview的兴起,cmt的各种弊端也越来越清楚,未来留给小圈子操作的空间会变小,但永远会有空间。因为这是个人的问题,不是个投稿系统和机制的问题。引入open review和bid 随机匹配可能会有帮助。
至于投不投AAAI,我是投的。虽然我一篇都没中过,虽然很多人吐槽AAAI的质量,但时间符合就行了。一篇工作完成挂完arxiv其实就结束了,投稿中稿就是后续的出版流程而已。多投几次就行了。
至少对我而言,文章发在NeurIPS还是AAAI还是IJCNN都无所谓,充分宣传让大家知道你在做什么就行了,citation会证明这东西有没有用。这让我不禁想到那个清华wu同学发了100多篇文章,不依然没有相匹配的引用量。
最后能拉我进群吗(不是
匿名用户1
AAAI在圈内早就臭名昭著了,所以很多组都下达过明确指示不能投这个会。
今年投稿还一本正经让填所谓的cconflicted users,让填close friend啊这些,就是忽悠忽悠外国人而已。
<span style="font-size: 14px;letter-spacing: 1px;"><img src="https://pic4.zhimg.com/50/v2-cd2a5f6ec7e570f9ee1da2ecc4e521d6_720w.jpg?source=1940ef5c" data-caption="" data-size="normal" data-rawwidth="1319" data-rawheight="372" data-default-watermark-src="https://pic3.zhimg.com/50/v2-cd2a5f6ec7e570f9ee1da2ecc4e521d6_720w.jpg?source=1940ef5c" class="origin_image zh-lightbox-thumb" width="1319" data-original="https://pic1.zhimg.com/v2-cd2a5f6ec7e570f9ee1da2ecc4e521d6_r.jpg?source=1940ef5c"/></span>
其实作为AI的研究人员,解决这些问题简直易如反掌。可惜没有任何人胆敢推动检查清理而已,毕竟大佬们就算自己干净,牵扯到弟子合作者怎么办?
随便提两套解决方案:
现在图神经网络,推荐系统,知识图谱技术发展得如此发达。完全可以对各大顶会文章的作者建立关系网络。低年资的学生一般都会跟导师合作,这样先自动挖掘出以各个导师为中心的各个组以及各个组之间的关系。然后检查Bid数据。毕竟如果纯粹随机或者凭兴趣Bid,文章作者应该比较随机,平均分散在几个大组,而总有那么不长眼的把一个组的文章全部Bid掉,很容易就能把这些人给挖掘出来。再接着顺藤摸瓜,检查历史上各大会议的Bid数据甚至审稿数据以及给分的情况。相信这些异常节点和关系在图神经网络里就像恒星一样耀眼。
上面这个太麻烦,那就举办比赛让大家卷。主办方提供全套顶会以及Bid数据,所有人名和论文名全部脱敏,人名论文名全都用数字表示,论文同时附带关键词。这套数据全部扔出来让大家挖掘。挖掘出来的可疑关系再安排人员来人工审核,审核确认最多的冠军,亚军季军。这个比赛经验,至少对各个银行反洗钱部门来说,这可是巨大加分项。
最后也可以猎巫啊,发现一例成功录取论文的,如果能提供全套证据毕竟被证实给1000美元,第二个给900。花不了几万美元,相信人民群众自然有各种办法混入这些所谓的群来收集证据甚至自导自演。自古无用是书生,能来搞AI的手无缚鸡之力,被查出来也只能自己生闷气。举报人又能赚钱又毫无风险,说不定还能出出名。几个大公司完全也可以养几个这种赏金猎人,竞聘制,按照抓人数量竞争上岗。
清理门户的方法一抓一把,问题是,就算找到这个名单,又能怎么办?整个圈子抬头不见低头见,谁又会真正来清理呢?也就是装模做样糊弄糊弄外国人而已。
匿名用户2
灌水paper和造假paper总是要有一个去处的,既然如此了,不如就让某会来当这么一个去处,总比进一步污染其他会强。
匿名用户3
不敢说全部,欧美相当一部分的组已经形成了不投、不审、不编这些会的默契。惹不起我还躲不起吗?
匿名用户4
我一直都感觉,类似的东西很难禁止,因为人毕竟是社会性动物,没办法的。
这些都只是一些小苍蝇而已,其实真正的大佬做的事情根本看不出来。非常隐秘而且合规。比如说我是大佬A,我审了你的本子/稿子,我和你很熟悉,所以我给你过了,但是我们之间并没有进行任何交流。等一切都尘埃落定之后,我主动和你说,其实你的paper在我手里,写的非常好,我给过了。具体后面我也不说,但是看你识趣不识趣了,你不识趣就会逐渐排挤在主流的圈子之外。
再说一个更恶心的事情,某方向做的不错的一个博士,水了超多文章,但是呢,只要自己是审稿人,必然reject。
答主: 周庄
所有会议所有期刊都有类似的问题,只是比例和严重程度不同。说多了会被删,比如今年早些时候,N I P S会议,Top 2 几个A C 拉 群,然后学校出面几天时间全网删的一干二净。AAAI,IJ CAI 相互打招呼老问题了,估计是学生之间乱搞,没有删帖而已。
牛逼如Nature,也会有打招呼的水文,某些小领域版面被几个大佬把持,今年这个实验室一篇,明年那个实验室一篇。我所在的领域,有几个实验室大家都知道内容不靠谱,不过并不妨碍他们经常发IEEE Trans。
这些乱象习惯就好,历史上很多先驱者是被主流圈子排斥的。我当然不建议任何人去同流合污,不是学二代,不是哪个大佬的门徒,拉圈子只有炮灰的命,然后学术品位下去了就上不来了。自己技术好了不搞学术也有退路,然后就可以尝试着做一些真正挑战性的工作。
最后还有几个知乎小友的调皮回答:
所以说,你如何看待这件事情呢?
你投稿AAAI了吗?