什么是扩写?
扩写是指将较短的文本交给GPT生成更长的文本。比如:根据一组基本指令,写出一封完整的电子邮件;或者根据一系列主题,创作出一篇包含这些主题的文章。
这样的技术,有着广阔的应用场景,就如同我们可以利用它作为我们头脑风暴的伙伴,帮助我们创新思考,解决问题。然而,我必须坦白,这样的技术也可能被滥用,比如有人可能会利用它产生大量的垃圾邮件,让人头疼。
因此,我想提醒大家,在使用这些技术时,我们要有责任心,要以一种有益于社会,有益于人们的方式来使用。我们的技术,不仅仅是为了解决问题,更是为了创造价值,为了让世界变得更好。
temperature参数
在我们探索如何运用GPT进行文字扩写的过程中,有一个参数值得我们特别关注,那就是temperature
。你可以将这个参数理解为GPT的探索性或随机性的度量。举个例子,假设我们输入的短语是“我的属相是”,GPT可能会预测出最有可能的下一个字是“鼠”,然后是“牛”和“虎”。
如果我们将temperature
设置为0.0
,GPT会始终选择最有可能的下一个字,也就是在这个例子中的“鼠”。然而,如果我们提高temperature
的值,GPT就有可能选择不太可能出现的字,甚至在temperature
值更高时,它可能会选择“虎”,尽管这个选择只有10%的概率。
你可以想象,随着GPT继续生成更多的字,最终的回答可能会与最初的回答“我的属相是鼠”有所不同。因此,如果你正在构建一个需要可预测响应的应用程序,我建议你将temperature
设置为0.0
。在我之前的文章中,我们也是将temperature
设置为0.0
,如果你希望构建一个稳定、可预测的系统,这个选择应该是合适的。
然而,如果你期望以更有创新性的方式使用模型,可能就需要提高temperature
的值,以便获得更多不同的输出。
原来我们写的getCompletion
方法是这样的(你是否还记得呢?