Fork me on GitHub
摘要: 1.查看当前的版本: pip show xxx 2.降低 pip install -U transformers==4.33.0 -i https://pypi.tuna.tsinghua.edu.cn/simple 还有一种办法,比较暴力: 先卸载再安装,嘿嘿!!! pip uninstall n 阅读全文
posted @ 2023-11-12 21:13 会自愈的哈士奇 阅读(580) 评论(0) 推荐(0) 编辑
摘要: 基础组件之Tokenizer Tokenizer简介 数据预处理 Step1 分词:使用分词器对文本数据进行分词(字、字词); Step2 构建词典:根据数据集分词的结果,构建词典映射(这一步并不绝对,如果采用预训练词向量,词典映射要根据词向量文件进行处理); Step3 数据转换:根据构建好的词典 阅读全文
posted @ 2023-11-12 17:47 会自愈的哈士奇 阅读(93) 评论(0) 推荐(0) 编辑