问题背景:
Huggingface网站提供了许多数据集,数据集格式比较标准,使用非常方便。但是在国内用服务器datasets.load_dataset()下载经常会遇到cannot connect的问题,即使在联网的状态下。
解决方法:
解决“无法下载”一种比较可靠的方式,用个人联网电脑本地下载,比如下面super_glue里的cb数据集:
from datasets import load_dataset
dataset = load_dataset('super_glue', 'cb', cache_dir='./raw_datasets')
dataset.save_to_disk('super_glue_cb')
不出意外的话,这样就可以顺利下载。并保存至super_glue_cb, 会包含train、validation、test等文件。
将数据集上传到服务器器上就可以在本地加载数据集了,避免在线下载网络不稳定或无法连接的问题。
本地加载使用方式:
from datasets import load_from_disk
raw_dataset = load_from_disk("./super_glue/super_glue_cb")
标签:
python
, Huggingface
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
2018-10-27 搜狗比赛
2015-10-27 Matlab boxplot for Multiple Groups(多组数据的箱线图)