摘要: https://www.bilibili.com/video/BV1rm4y1s7dd/?vd_source=5915658c5ddf11e1348dbb36220e3768 阅读全文
posted @ 2023-08-09 23:30 China Soft 阅读(335) 评论(0) 推荐(0) 编辑
摘要: https://blog.csdn.net/Fatfish7/article/details/131925595 先说结论全精度llama2 7B最低显存要求:28GB全精度llama2 13B最低显存要求:52GB全精度llama2 70B最低显存要求:280GB 16精度llama2 7B预测最 阅读全文
posted @ 2023-08-09 23:27 China Soft 阅读(2141) 评论(0) 推荐(0) 编辑
摘要: https://zhuanlan.zhihu.com/p/567115829 开局直接放结论,具体的验证过程比较无聊,有兴趣的可以翻到后面细看。 堆内存的限制是由 V8 来设置的。 早期的时候,V8对堆内存的限制大约是 800MB(32位)/ 1400MB(64位),但那是非常早期的情况了。 针对最 阅读全文
posted @ 2023-08-09 14:28 China Soft 阅读(424) 评论(0) 推荐(0) 编辑
摘要: https://stackoverflow.com/questions/55099372 好了,伙计们,我已经想出了一个解决方案。 当您将这些参数传递给chrome可执行文件以将javascript内存限制设置为16 it时,chrome会将其设置为3.5 it。 --js-flags="--max 阅读全文
posted @ 2023-08-09 14:26 China Soft 阅读(289) 评论(0) 推荐(0) 编辑