摘要:
BERT六大瘦身大法 网络剪枝:包括从模型中删除一部分不太重要的权重从而产生稀疏的权重矩阵,或者直接去掉与注意力头相对应的整个矩阵等方法来实现模型的剪枝,还有一些模型通过正则化方法实现剪枝。 低秩分解:即将原来大的权重矩阵分解多个低秩的小矩阵从而减少了运算量。这种方法既可以用于标记嵌入以节省磁盘内存 阅读全文
摘要:
当在执行时,由于中文或者“@”符号产生的乱码,影响了bat脚本执行。通过如下方法解决: bat文件右键用“ 编辑” 打开, 另存为时,UTF-8保存为ANSI 格式。 再执行你的bat批处理,结果ok 阅读全文
摘要:
从近几次做的工具来看,最终模型命中的数据总是要保存到本地,便于溯源。从便捷性来考虑,python自带的sqlite3是不错的选择。 数据库的使用并不存在难度,常用的sql语句即可实现增删改查。同时,为了业务需要,还要对数据库结果加密。 简单的使用: import sqlite3 def create 阅读全文