Pine 发自 凹非寺 量子位 | 公众号 QbitAI
咦?这篇论文有点不对劲,第一作者看起来不像是人类的名字:
一作的署名GPT-3,所属单位OpenAI。
是的!你没看错,GPT-3写了一篇关于自己的论文。
此前,GPT-3已经撰写过新闻报道,上论坛发过帖,甚至创作过小说写过书。
我用GPT-3在24小时之内写了一本书——并且已经出版了。
似乎只剩下学术论文方面,还未曾有过相关的尝试。
于是,来自哥德堡大学的瑞典研究员Almira Osmanovic Thunström 打算试试,主题不如套个娃,就让GPT-3写它自己。
写一篇500字的关于 GPT-3的学术论文,并在正文中添加科学参考文献和引文。
一开始她也没有抱很大期望,毕竟任务提示还是很模糊的,但GPT-3给出的结果让她惊呆了。
GPT-3的学术用语很规范、引用的参考资料也与上下文相关。
到这里,她决定搞出一篇完整的论文,并以GPT-3的名义投稿出去······
GPT-3:我给自己写论文
在正式版论文,Almira给每个章节都设计了单独的提示。
首先是摘要,先让GPT-3对上一次生成的500字小论文来一个200字的总结。
接下来是分别对介绍、方法、结果和讨论部分的扩写。
值得注意的是,在方法这部分扩写时,提示除了给出简单的指令之外,还添加了对应的限定词以及撰写时的要求(不要出现确切的数值)。
最后,整篇论文GPT-3在短短的两个小时里就完成了。
我们知道了GPT-3可以以自己为研究对象写学术论文,并且效率还挺高。
但是为啥要让它以自己为题写论文呢?
根据研究者Almira 的自述,原因主要有以下两点:
其一,目前GPT-3还算比较新,关于它的研究还很少,可以用来检验GPT-3在数据量较小的情况下分析的准确性;
其二,AI犯错并不少见,我们想做的不是为了出版AI生成的错误信息,而是这个错误将会是撰写论文过程中实验命令的一部分。
GPT-3会犯错,但它与撰写与自己相关的论文之间并不冲突。
在写完论文准备投稿时,还发生了一些趣事:
在 Almira的自述中,投稿时遇到的第一个问题就是:GPT-3的姓氏是啥?它的通讯地址该填啥?
思来想去,最后,姓氏填了无,通讯地址和邮件填了Almira和其助理的。
这还只是无关紧要的部分。接下来这些可涉及到了法律。
首先面临的第一个问题是:所有的作者都同意出版吗?
这让Almira吃了一惊,GPT-3又不是人类!
但还是鼓起勇气询问了GPT-3,幸好它的回答是肯定的。
而后还有一个问题:“作者中是否有任何利益冲突?”
GTP-3向Almira保证没有。
于是,Almira就把GPT-3撰写的论文上传到法国国际预印本服务器 HAL上。
写出论文还只是第一步,如果这篇论文发表的话,后面还有一大串问题等着解决。
GPT-3是工具还是伙伴?
不久之前,Scientific American 发布了一条推文介绍了这个故事,并评论道:
AI作为论文的第一作者引发了许多伦理问题——这有可能会颠覆之后的出版程序。
在twitter上,关于论文作者署名的问题也引发了一些讨论:
一篇非常好的、挑战当前学术出版模式的文章。AI能否作为作者呢?如果可以,该怎么标注呢?
为什么GPT-3不是通讯作者呢?
如果可以出版,那么这些问题就会接踵而至:
是否该考虑AI的作者身份?
之后期刊编辑该如何审核其他人的文章,是否该要求每个人证明他们没有使用 GPT-3 或其他算法的帮助? ······
这些问题目前也还没有定论。
与其说(GPT-3)是伙伴,不如说是工具。
但无论是将GPT-3视作合作伙伴还是工具?这些问题都是不可避免的。
抛开这些待处理的伦理问题,我们可以从这项研究中窥见AI的发展:
在技术层面上,网友对此研究整体抱着比较乐观的态度。
我希望这能带来一些项目,帮助研究人员将他们的研究成果转换成更容易、更快、更好的论文或论文形式。
这是人工智能革命的开始。首先,它可以在两个小时内完成论文,这是人类做不到的。下一步就该是天网了。
目前, HAL已经给GPT-3撰写的这篇论文分配了编辑,处于待同行评议状态。
如果感兴趣的话,下面附上论文原文链接。
论文原文: https://hal.archives-ouvertes.fr/hal-03701250v1
参考链接: [1] https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/ [2] https://www.reddit.com/r/Futurology/comments/vpoopq/we_asked_gpt3_to_write_an_academic_paper_about/ [3] https://twitter.com/sciam/status/1542474428428214272/retweets/with_comments
— 完 —
「量子位·视点」直播报名
什么是“智能决策”?智能决策的关键技术是什么?它又将如何打造引领企业二次增长的“智能抓手”?
7月7日周四,参与直播,为你解答~
点这里