deephub

摘要： XAI的目标是为模型的行为和决定提供有意义的解释，本文整理了目前能够看到的10个用于可解释AI的Python库 什么是XAI？ XAI，Explainable AI是指可以为人工智能（AI）决策过程和预测提供清晰易懂的解释的系统或策略。XAI 的目标是为他们的行为和决策提供有意义的解释，这有助于增加 阅读全文

摘要： 随着NLP(自然语言处理)的最新进展，OpenAI的GPT-3已经成为市场上最强大的语言模型之一。2022年1月25日，OpenAI公布了一个embedding endpoint(Neelakantan et al.， 2022)。该神经网络模型将文本和代码转换为向量表示，将它们嵌入到高维空间中。这 阅读全文

摘要： scikit-learn是Python中最好的机器学习库，而PyTorch又为我们构建模型提供了方便的操作，能否将它们的优点整合起来呢？在本文中，我们将介绍如何使用 scikit-learn中的网格搜索功能来调整 PyTorch 深度学习模型的超参数: 如何包装 PyTorch 模型以用于 scik 阅读全文

摘要： 评估指标是用于评估机器学习模型性能的定量指标。它们提供了一种系统和客观的方法来比较不同的模型并衡量它们在解决特定问题方面的成功程度。通过比较不同模型的结果并评估其性能可以对使用哪些模型、如何改进现有模型以及如何优化给定任务的性能做出正确的决定，所以评估指标在机器学习模型的开发和部署中发挥着至关重要的 阅读全文

摘要： 混合精度已经成为训练大型深度学习模型的必要条件，但也带来了许多挑战。将模型参数和梯度转换为较低精度数据类型（如FP16）可以加快训练速度，但也会带来数值稳定性的问题。使用进行FP16 训练梯度更容易溢出或不足，导致优化器计算不精确，以及产生累加器超出数据类型范围的等问题。 在这篇文章中，我们将讨论混 阅读全文

摘要： Numpy 是一个强大的 Python 计算库。它提供了广泛的数学函数，可以对数组和矩阵执行各种操作。本文中将整理一些基本和常用的数学操作。 基本数学运算：Numpy 提供了许多基本数学函数，用于对数组执行加、减、乘、除等运算。这些函数包括 numpy.add()、numpy.subtract()、 阅读全文

摘要： 本文将演示 3 个处理时间序列数据最常用的 pandas 操作 首先我们要导入需要的库： importpandasaspd importnumpyasnp importmatplotlib.pyplotasplt 本文使用的数据集非常简单。它只有 1 列，名为 VPact (mbar)，表示气候中的 阅读全文

摘要： 本文将展示如何使用JAX/Flax实现Vision Transformer (ViT)，以及如何使用JAX/Flax训练ViT。 Vision Transformer 在实现Vision Transformer时，首先要记住这张图。 以下是论文描述的ViT执行过程。 从输入图像中提取补丁图像，并将其 阅读全文

摘要： 混合模型ACmix将自注意与卷积的整合，同时具有自注意和卷积的优点。这是清华大学、华为和北京人工智能研究院共同发布在2022年CVPR中的论文 卷积分解与自注意力 卷积分解 标准卷积: https://avoid.overfit.cn/post/a56a24e0637e4ae38d1e2459a1d 阅读全文

摘要： 在本文中，我们将介绍一种从相关特征的高维数据中选择或提取特征的有用方法。 谱聚类是一种基于图论的聚类方法，通过对样本数据的拉普拉斯矩阵的特征向量进行聚类，从而达到对样本数据聚类的目的。谱聚类可以理解为将高维空间的数据映射到低维，然后在低维空间用其它聚类算法（如KMeans）进行聚类 本文使用2021 阅读全文