2024年7月30日
[个人理解] llama.cpp之sample策略
摘要： 最近有点时间看了几天llama.cpp 的code，有几个点，想记录一下，不对的地方，欢迎大家指正。 话说本该去年就看，奈何这个领域变的太快，索性积累到今年，当openAI也开始挤牙膏的时候一并看了。 Summary - llama是跟chatpgt一样，基于transformer架构的decode 阅读全文
posted @ 2024-07-30 11:37 sunny,lee 阅读(25) 评论(0) 推荐(0) 编辑