随笔分类 -  趣味问题

Lora训练的参数和性能
摘要:主要为了测试模型增加Lora模块后,参数量和训练速度的变化情况。结论:正常情况下,增加Lora模块是会增加参数量的,因此前向传播和反向传播的时间也会增加。但是,在大语言模型训练的情况下,因为基础模型本身参数量非常大,Lora模块增加的参数量相对非常小。并且,基础模型不参与梯度更新,可以做模型量化,实 阅读全文
posted @ 2024-05-08 15:27 KK4SBB 阅读(551) 评论(0) 推荐(0)
如何识别和防止网络爬虫
摘要:stackoverflow上看到的一个回答,概念性介绍为主,总结的不错。主要就是两种,礼貌的做法是在robots.txt文件中设置允许爬虫爬取的内容;粗暴的做法又分为两种,一种是过滤user agent,另一种是布设一个陷阱,一旦该链接被请求,就认为这是爬虫的行为。原答案在这里,暂时先把原文搬过来,... 阅读全文
posted @ 2015-03-01 14:22 KK4SBB 阅读(863) 评论(0) 推荐(0)