随笔分类 - python学习

解决加载GPT2（Tensorflow预训练模型）的Linear权重到PyTorch的Linear权重形状不匹配（互为转置）问题

摘要：解决报错内容： RuntimeError: Error(s) in loading state_dict for PyTorchBasedGPT2: size mismatch for transformer.h.0.attn.c_attn.weight: copying a param with 阅读全文

posted @ 2024-04-17 18:17 惋奈阅读(192) 评论(0) 推荐(0) 编辑

解决python字典(Dict)和集合(Set)的无序问题

摘要：python中的数据结构Dict和Set使用hash存储，无法按有序状态遍历。可以使用OrderedDict使字典变为有序，用sort方法使set还原顺序。一、OrderedDict python3.6之后，可以通过from collections import OrderedDict，使用有序字阅读全文

posted @ 2022-07-07 11:02 惋奈阅读(703) 评论(0) 推荐(0) 编辑