玩转AI，笔记本电脑安装属于自己的Llama 3 8B大模型和对话客户端
2024 年 4 月 18 日，Meta**开源**了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人笔记本电脑是部署 8B 参数过程和编... ...
读天才与算法：人脑与AI的数学思维笔记25_涌现理论
1. 人工智能新闻 1.1. 人工智能新闻报道算法的核心是如何将未经处理的原始数据转换成新闻报道 1.2. 很少有记者为美联社决定使用机器来帮助报道这些新闻持反对意见 1.2.1. 像“Wordsmith”这样的算法，具有自动化的洞察力、科学的叙事能力，现在正被应用于基于大量数据的分析报道的撰写工作 ...
RustDesk 自建服务器部署和使用教程
RustDesk 是一个强大的开源远程桌面软件，是中国开发者的作品，它使用 Rust 编程语言构建，提供安全、高效、跨平台的远程访问体验。可以说是目前全球最火的开源远程桌面软件了，GitHub 星星数量达到了惊人的 64k！ 与 TeamViewer、ToDesk 等专有远程访问解决方案相比，Rus ...
第六届·2024 MindSpore 量子计算黑客松热身赛赛题解读
第六届·2024 MindSpore量子计算黑客松火热进行中。本次大赛由量子信息网络产业联盟主办，昇思MindSpore Quantum社区承办，多所高校和单位联合举办。开发者将全面体验全新一代通用量子计算框架MindSpore Quantum。 热身赛为量子计算基础学习和编程演练。完成热身赛的前1 ...
读天才与算法：人脑与AI的数学思维笔记24_预测性文本生成器
1. 起源 1.1. 人类讲故事可能起源于“假如……”这种问答结构 1.2. 讲故事是人类做安全试验的一种方式 1.2.1. 如果你问一个人“假如……”，其实是在探索你的行为对他可能带来的影响 1.3. 最早出现的故事极有可能就源自我们对在周遭混乱的环境中寻找某种秩序的渴望，想要在这个残酷无情的宇宙 ...
AI已来，我与AI一起用Python编写了一个消消乐小游戏
在数字化与智能化的浪潮中，目前 AI（人工智能）几乎在各行各业中发挥了不可忽略的价值，今天让我们也来体验一下 AI 的威力：我通过命令，一步一步的教 AI 利用 Python 编程语言打造了一款富有创意和趣味性的消消乐小游戏…… ...
InLine Chat功能优化对标Github Copilot，CodeGeeX带来更高效、更直观的编程体验！
VSCode中的CodeGeeX 插件上线InLine Chat功能后，收到不少用户的反馈，大家对行内交互编程这一功能非常感兴趣。近期我们针对这个功能再次进行了深度优化，今天详细介绍已经在VSCode插件v2.8.0版本上线的 CodeGeeX InLine Chat功能，以及在编程过程中的使用技巧 ...
OpenVoiceV2本地部署教程,苹果MacOs部署流程,声音响度统一,文字转语音,TTS
最近OpenVoice项目更新了V2版本，新的模型对于中文推理更加友好，音色也得到了一定的提升，本次分享一下如何在苹果的MacOs系统中本地部署OpenVoice的V2版本。 首先下载OpenVoiceV2的压缩包： OpenVoiceV2-for-mac代码和模型 https://pan.quar ...
从零在win10上测试whisper、faster-whisper、whisperx在CPU和GPU的各自表现情况
Anaconda是什么？ Anaconda 是一个开源的 Python 发行版本，主要面向数据科学、机器学习和数据分析等领域。它不仅包含了 Python 解释器本身，更重要的是集成了大量的用于科学计算、数据分析和机器学习相关的第三方库，并且提供了一个强大的包管理和环境管理工具——Conda。 通过C ...
读天才与算法：人脑与AI的数学思维笔记23_人工智能讲故事
1. 伟大的自动语法分析器 1.1. 思维呆板机械的阿道夫·奈普（Adolphe Knipe）一直想成为一名作家，可是他写出来的东西既迂腐又无趣 1.2. 后来，灵光乍现，他得到了一个启示：语言遵循语法规则，这规则的本质基本上就是数学 1.3. 在这样的认识下，他开始创造一个巨大的机器——“伟大的自 ...
读天才与算法：人脑与AI的数学思维笔记22_中文房间
1. 华生的工作模式 1.1. 请你想象一个巨大的场景，其中有单词、名字和其他可能的答案，它们散布在各处 1.1.1. IBM所做的第一步是以某种连贯的方式排列单词 1.1.2. 第二步是理解每个问题，并为该问题生成候选位置标记 1.1.2.1. 爱因斯坦会演奏小提琴，那么他就会被定位于“科学家”和 ...
深度学习框架火焰图pprof和CUDA Nsys配置指南
注：如下是在做深度学习框架开发时，用到的火焰图pprof和 CUDA Nsys 配置指南，可能对大家有一些帮助，就此分享。一些是基于飞桨的Docker镜像配置的。 一、环境 & 工具配置 0. 开发机配置 # 1.构建镜像, 记得映射端口，可以多映射几个；记得挂载ssd目录，因为数据都在ssd盘上 ...
HMM
1. Background 频率派：定义 loss function 并进行优化 贝叶斯派：计算后验概率，使用数值积分的方式计算 2. HMM HMM 是一个属于概率图模型中的动态模型(ref:概率图模型)，并不要求数据是独立同分布的，又是一个混合模型 HMM 中的变量可以分为两组，一组为状态变量\ ...
（一）文本分类经典模型之CNN篇
CNN源于计算机视觉研究，后来诸多学者将其应用于短文本分类，其基本结构如下图所示： 由上图可知，基于CNN的短文本分类模型，通常包括输入层、卷积层、池化层、全连接层和输出层五部分，其中卷积层和池化层是最为关键的特征提取环节。卷积层通过构造二维卷积核，并将其上下移动，在卷积窗口内与文本表示矩阵进行卷积 ...
概率图模型基础
1. 概念 概率：概率模型关心的是一个多维的概率分布 图：即图论的图，起的作用为一个工具，直观表达概率之间的联系，将概率嵌入图中，使得模型更加直观，可以将概率模型的特征明显表示出来。 对于多维随机变量\(p(x_1, \dots, x_p)\), 常用计算为求边缘概率与条件概率，即有如下运算 Sum ...
Lora训练的参数和性能
主要为了测试模型增加Lora模块后，参数量和训练速度的变化情况。结论：正常情况下，增加Lora模块是会增加参数量的，因此前向传播和反向传播的时间也会增加。但是，在大语言模型训练的情况下，因为基础模型本身参数量非常大，Lora模块增加的参数量相对非常小。并且，基础模型不参与梯度更新，可以做模型量化，实 ...
理论+实践，带你了解分布式训练
详细介绍分布式机器学习系统的基础概念、分布式训练集群架构、分布式训练并行策略，并以DeepSpeed 为例介绍如何在集群上训练大语言模型。 ...
制作语义分割数据集(VOC格式)
环境：python3.8 labelme=5.0.1 1、使用labelme标注工具 直接在命令行安装或者在anaconda下面新建虚拟环境安装（避免污染环境，不用的时候可以直接delete该环境） 直接命令行(base)安装 pip install labelme labelme 创建虚拟环境安装 ...
入门Semantic Kernel：OneApi集成与HelloWorld
引言 从这一章节开始正式进入我们的 Semantic Kernel 的学习之旅了。 什么是Semantic Kernel？ Semantic Kernel是一个轻量级的开源框架，通过 Semantic Kernel 可以快速使用不同编程语言(C#/Python/Java)结合 LLMs(OpenAI ...
