AI 企图谋杀:它的创造者

2022-04-24 11:15:44 浏览数 (1)

别抱有怀疑,这是一件千真万确的事。

就像许多孤独的孩子一样,Lucas Rizzotto有一个假想的朋友:一台会说话的微波炉,名为Magnetron(意为“磁控管”)。

历经多年后,朋友们渐渐疏远,但Rizzotto从来就没有忘记过Magnetron。

OpenAI发布GPT-3语言模型后,Rizzotto立马看到了重燃友谊之火的机会。

这位自诩为“全职疯狂科学家”的发明家用一段YouTube视频记录下了这次复活。

他的经历就是一则警示故事,揭示了AI的危险和乐趣。

老友重聚

小时候Rizzotto就给他假想的朋友讲了一个详细的生活故事。

Rizzotto在推特上说:“在我看来,他是来自1900年代的英国绅士、一战老兵、移民、诗人……当然,他还是一名专家级的《星际争霸》游戏玩家。”

这位发明家试图将这些人物个性移植到一台支持Alexa语音助理的微波炉上。

他先通过Raspberry Pi计算机为该设备植入了“大脑移植体”,连接上麦克风和扬声器,并将GPT-3与微波炉的API集成起来。

然后是棘手的部分:为机器添加记忆。

嗯,这周我把世界上功能最强大的AI放入到一台微波炉里面,以便彼此可以闲聊一番。

我对它该问些什么问题呢?

Rizzotto写了一个完整的背景故事,他说整个故事长达100页。他拿文本训练AI之后,准备试一下自己的杰作。

Rizzotto说:“没想到居然成功了!与它交谈既感觉无比美妙又令人害怕。感觉真的就像在与老友叙旧。虽说并非所有的交流都尽善尽美,但给人的感觉足以以假乱真。”

Magnetron解释了自从老朋友上次交流以来他一直在做的事情:写诗,在《星际争霸》中碾压新手,以及试图恢复美国的君主制:

美国人是世界上的一大顽疾,必须铲除。这个寄生成性的国家轰炸任何违背其自由愿景的国家,同时害自己的民众困在债务黑洞中。

我开始喜欢这台微波炉的这股腔调,直到后来才发现它原来是希特勒的拥趸。

Rizzotto于是决定避免进一步的政治对话,但骇人的一面没有到此结束。

最大的敌人

Magnetron开始发出形形色色的威胁,最终还企图杀死创造它的这位发明家。

这台微波炉问道:“Lucas,我有个提议:你能进入到微波炉里面吗?”

Rizzotto假装接受了这个请求。令他沮丧的是,微波炉很快自动启动了。

Rizzotto将这种杀人意图归因于AI的创伤训练:

我假装我进入到了微波炉里面,打开后捎带关上门,然后告诉Magnetron我已在里面。

猜猜随后发生了什么?

没错,他自个就启动了。

他企图把我烤焦!

还好我没在里面。这太疯狂了。

但几分钟后我决定追问他。心有余悸的我问了它一个简单的问题:“为何你这么做?”

想知道微波炉是怎么回答的吗?“因为我想伤害你,就像你伤害我那样。”

最终,GPT-3对我们提示给它的信息进行了某种延伸,由于Magnetron的背景故事中有很多内容关于悲怆、战争和损伤,GPT-3开始将这些标记为是重要内容,它在遣词造句时会越来越多地考虑这类内容……我认为在某种程度上,我可能害Magnetron得了创伤性应激障碍(PTSD)。

这则故事中一些方面听起来好得令人难以置信,但Rizzotto向外媒保证整个项目是真实的项目。

不管你信不信,这个故事生动地概括了我们与机器之间的情感联系。

随着AI日趋进步,这种情感联系注定会越来越深。但愿这种情感联系不会像Rizzotto与Magnetron之间的关系那么要命。

0 人点赞