上一页 1 ··· 16 17 18 19 20 21 22 23 24 ··· 109 下一页
摘要: 本文总结了2024年5月第四周发表的一些最重要的LLM论文。这些论文的主题包括模型优化和缩放到推理、基准测试和增强性能。 LLM发展与基准 1、Towards Modular LLMs by Building and Reusing a Library of LoRAs 基本大型语言模型(LLM)的 阅读全文
posted @ 2024-06-03 10:56 deephub 阅读(21) 评论(0) 推荐(0) 编辑
摘要: Python 3.6中引入的f-string是Python中最常用的特征之一,它可以让我们编写更干净、更高效和更易于维护的代码,我们今天就由浅入深来详细介绍使用它的一些技巧。 https://avoid.overfit.cn/post/2fca191e2c0c45c0bdddefd17cd45e37 阅读全文
posted @ 2024-06-02 09:53 deephub 阅读(5) 评论(0) 推荐(0) 编辑
摘要: YOLO模型因其在计算成本和检测性能之间的平衡而在实时目标检测中很受欢迎。前几天YOLOv10也刚刚发布了。我们这篇文章就来看看YOLOv10有哪些改进,如何部署,以及微调。 YOLOv10通过无nms的训练解决了延迟问题,作者为无nms训练引入了一致的双任务,同时获得了具有竞争力的性能和低推理延迟 阅读全文
posted @ 2024-06-01 12:33 deephub 阅读(588) 评论(0) 推荐(0) 编辑
摘要: 在处理长序列时,Transformers面临着注意力分散和噪音增加等挑战。随着序列长度的增长,每个词元必须与更多词元竞争注意力得分,这会导致注意力分数被稀释。这种稀释可能导致不那么集中和相关的上下文表示,特别是影响彼此距离较远的词元。 并且较长的序列更有可能包含不相关或不太相关的信息,从而引入噪声, 阅读全文
posted @ 2024-05-31 10:24 deephub 阅读(19) 评论(0) 推荐(0) 编辑
摘要: 特征选择是构建机器学习模型过程中的决定性步骤。为模型和我们想要完成的任务选择好的特征,可以提高性能。 如果我们处理的是高维数据集,那么选择特征就显得尤为重要。它使模型能够更快更好地学习。我们的想法是找到最优数量的特征和最有意义的特征。 在本文中,我们将介绍并实现一种新的通过强化学习策略的特征选择。我 阅读全文
posted @ 2024-05-30 11:03 deephub 阅读(42) 评论(0) 推荐(0) 编辑
摘要: 大型语言模型(llm)是在巨大的文本语料库上训练的,在那里他们获得了大量的事实知识。这些知识嵌入到它们的参数中,然后可以在需要时使用。这些模型的知识在培训结束时被“具体化”。在预训练结束时,模型实际上停止学习。 对模型进行对齐或进行指令调优,让模型学习如何充分利用这些知识,以及如何更自然地响应用户的 阅读全文
posted @ 2024-05-29 10:49 deephub 阅读(16) 评论(0) 推荐(0) 编辑
摘要: Transformers 已经确立了自己作为首要模型架构的地位,特别是因为它们在各种任务中的出色表现。但是Transformers 的内存密集型性质和随着词元数量的指数扩展推理成本带来了重大挑战。为了解决这些问题,论文“Linearizing Large Language Models”引入了一种创 阅读全文
posted @ 2024-05-27 11:34 deephub 阅读(16) 评论(0) 推荐(0) 编辑
摘要: 前一篇文章总结了关于计算机视觉方面的论文,这篇文章将要总结了2024年5月发表的一些最重要的大语言模型的论文。这些论文涵盖了塑造下一代语言模型的各种主题,从模型优化和缩放到推理、基准测试和增强性能。 大型语言模型(llm)发展迅速,跟上这些领域新颖的研究将有助于引导模型的持续进步,这些模型更有能力, 阅读全文
posted @ 2024-05-26 10:39 deephub 阅读(48) 评论(0) 推荐(0) 编辑
摘要: 我们今天总结下2024年5月发表的最重要的论文,重点介绍了计算机视觉领域的最新研究和进展,包括扩散模型、视觉语言模型、图像编辑和生成、视频处理和生成以及图像识别等各个主题。 Diffusion Models 1、Dual3D: Efficient and Consistent Text-to-3D 阅读全文
posted @ 2024-05-25 10:28 deephub 阅读(31) 评论(0) 推荐(0) 编辑
摘要: 在PyTorch中,FP8(8-bit 浮点数)是一个较新的数据类型,用于实现高效的神经网络训练和推理。它主要被设计来降低模型运行时的内存占用,并加快计算速度,同时尽量保持训练和推理的准确性。虽然PyTorch官方在标准发布中尚未全面支持FP8,但是在2.2版本中PyTorch已经包含了对FP8的“ 阅读全文
posted @ 2024-05-24 10:49 deephub 阅读(101) 评论(0) 推荐(0) 编辑
上一页 1 ··· 16 17 18 19 20 21 22 23 24 ··· 109 下一页