张Zong在修行 - 博客园

2023年7月6日

摘要：在机器学习中，特征是指对象、人或现象的可测量和可量化的属性或特征。特征可以大致分为两类：稀疏特征和密集特征。 ![](https://img2023.cnblogs.com/blog/3085423/202307/3085423-20230706195643595-799661913.png) ## 阅读全文

posted @ 2023-07-06 19:57 张Zong在修行阅读(881) 评论(0) 推荐(0) 编辑

HuggingFace | 如何下载数据集并加载

摘要： HuggingFace中对于数据集的使用有个`datasets`库。`datasets`是一个用于加载和处理各种自然语言处理（NLP）数据集的Python库，它由Hugging Face开发。该库提供了一个统一的API，可以方便地访问多个数据集，并且支持自定义数据集。`datasets`库的主要特点阅读全文

posted @ 2023-07-06 13:15 张Zong在修行阅读(18527) 评论(0) 推荐(1) 编辑

2023年7月5日

NLP | 迁移学习介绍

摘要：迁移学习是指将**在一个任务上学到的知识和经验迁移到另一个相关任务上的机器学习方法**。它通过利用源领域的知识来改善目标领域的学习性能。==迁移学习的核心原理是通过共享知识和经验，从已解决的任务中获得的特征、表示或模型，来加速或改善新任务的学习过程==。 ### 常见的迁移学习方法迁移学习的常见方阅读全文

posted @ 2023-07-05 19:45 张Zong在修行阅读(113) 评论(0) 推荐(0) 编辑

NLP | Softmax详解

摘要： Softmax是一种数学函数，通常**用于将一组任意实数转换为表示概率分布的实数**。其本质上是一种归一化函数，==可以将一组任意的实数值转化为在[0, 1]之间的概率值，因为softmax将它们转换为0到1之间的值，所以它们可以被解释为概率==。**如果其中一个输入很小或为负，softmax将其变阅读全文

posted @ 2023-07-05 17:39 张Zong在修行阅读(189) 评论(0) 推荐(0) 编辑

NLP | Transformers回顾：从BERT到GPT4

摘要：人工智能已成为近年来最受关注的话题之一，由于神经网络的发展，曾经被认为纯粹是科幻小说中的服务现在正在成为现实。从对话代理到媒体内容生成，人工智能正在改变我们与技术互动的方式。特别是机器学习 (ML) 模型在自然语言处理 (NLP) 领域取得了重大进展。一个关键的突破是引入了“自注意力”和用于序列处理阅读全文

posted @ 2023-07-05 16:49 张Zong在修行阅读(89) 评论(0) 推荐(0) 编辑

HuggingFace | 如何下载预训练模型

摘要：本例我们在Linux上进行下载，下载的模型是`bert-base-uncased`。下载网址为：https://www.huggingface.co/bert-base-uncased huggingface的transformers框架，囊括了BERT、GPT、GPT2、ToBERTa、T5等众阅读全文

posted @ 2023-07-05 12:36 张Zong在修行阅读(9828) 评论(0) 推荐(1) 编辑

2023年7月4日

工具 | 使用PyCharm连接服务器

摘要： ### 连接服务器我们首先打开pycharm，点击file->Settings。然后搜索`Interpreter`,会搜索到一个叫`Python Interpreter`。 ![](https://img2023.cnblogs.com/blog/3085423/202307/3085423-20 阅读全文

posted @ 2023-07-04 20:01 张Zong在修行阅读(569) 评论(0) 推荐(0) 编辑

Python | yield关键字详解

摘要： ### yield关键字的说明 `yield` 是 Python 中的一个关键字，它通常与生成器函数一起使用。`yield`就是保存当前程序执行状态。你用 for 循环的时候，每次取一个元素的时候就会计算一次。用 `yield` 的函数叫 `generator`，和 `iterator` 一样，它阅读全文

posted @ 2023-07-04 18:36 张Zong在修行阅读(648) 评论(0) 推荐(0) 编辑

NLP | 数据集独立同分布的理解

摘要：在自然语言处理（NLP）中，**独立同分布是指一个数据集中的样本是从同一个总体分布中独立采样而来的**。这意味着数据集中的**每个样本都具有相同的概率分布**，并且这些样本之间是相互独立的，即**一个样本的出现不会影响其他样本的出现**。例如，如果我们收集了一组用于训练文本分类器的新闻文章，并且这阅读全文

posted @ 2023-07-04 17:32 张Zong在修行阅读(600) 评论(0) 推荐(0) 编辑

预训练模型 | Transformer模型的规模大小

摘要： Transformer 有两个模型的规模大小标准：base、big。具体去thumt的models文件夹下的Transformer 模型实现可以看到其参数大小。 ![](https://img2023.cnblogs.com/blog/3085423/202307/3085423-202307041 阅读全文

posted @ 2023-07-04 10:14 张Zong在修行阅读(839) 评论(0) 推荐(0) 编辑

zhangxuegold

公告