2024年6月3日
根据论文的CoPE Pytorch实现
摘要： 根据论文《Contextual Position Encoding: Learning to Count What’s Important》编写的CoPE代码。具备多头计算能力，本人水平不高，个人代码未经验证，有问题和建议欢迎指出。 CoPE代码为代替Llama Model中的RoPE而设计，因此函 阅读全文
posted @ 2024-06-03 16:33 myendless0 阅读(91) 评论(0) 推荐(0) 编辑