正在加载视频...
视频加载失败
在我们调用OpenAI的API的时候,除了Prompt和模型,还有几个参数可以选:Temperature、Top K和Top P。 大部分都知道温度(Temperature)参数是可以控制输出的确定性的,温度越低,输出结果越确定;反之温度越高,输出结果越具有多样性。 那么Top K和Top P是什么呢?看完这个视频你会找到答案!
10 条评论

宝玉3 年前
这个视频来自Google的Generative AI learning path课程系列的《Introduction to Generative AI Studio 生成式人工智能工作室介绍》 完整视频:

宝玉3 年前
Top K 可以让模型从可能性最高的前 K 个词中随机返回一个词,这种方法可以让模型不会总是选概率最高的那个,而是从概率最高的前K个词中随机选择一个词。 但这种方法有一个缺陷,比如说你指定Top K是3,但如果概率最高的前3个词里面,第3个词其实概率很低相关度很弱,那么就会导致生成的结果不够好。 Top P则是另一种选择方式,让模型可以从一组总和不超过 P 的词中选择。 例如,Top P为0.75意味着你从一组累积概率大于0.75的词中取样。这样可以避免概率很低的词被选中。 不过通常来说,你是用不上Top K和Top P的,但是知道一下它们是什么意思总是不错的。

Erik Yi Loo3 年前
感觉它用同一张图来说明Top K和Top P会有点误导,一开始我没看懂这两有啥区别,看上去都是前N个值。Top K是前K个词选择没问题,但Top P影响的实际是由前面的语句预测出来的下一个词集的结果。它如果用2个不同的预测来说明Top P可能更好。

自力hzlzh3 年前
Nice,直观好懂

天生反骨3 年前
@SaveToNotion #tweet #chatgpt #topk

fabsOU3 年前
理解 Temperature、Top K和Top P #prompt

synia3 年前
Top P感觉更有用些

Ted Zhang🇨🇦3 年前
@threadreaderapp unroll

Thread Reader App3 年前
@dotey @tedzhang2891 Hello, the unroll you asked for: See you soon. 🤖

ⓧ xy3 年前
@SaveToNotion #thread

