09 2023 档案
GPT生成过程中的Top_p和Top_k
摘要：一、背景 GPT生成的代码中，往往有很多需要设置的参数，例如top_p、top_k等。下面介绍一下这些参数意义和提出的原因。 二、Top_K top_k是一个经典的方法，表示从候选的K个值中选择一个。在GPT生成的过程中也是类似的问题。选取K个tokens，哪些tokens的概率最高。然而Top_K
阅读全文
