title: LLaVA 微调教程 date: 2024-05-12 19:37:14 categories: 写完之后发现他好像不是很需要这个东西，所以就先发在自己的博客好了。不投稿首页或者候选区应该本来也就不会有多少流量，所以应该不会干嘛的，大不了后面被说不让放网上以后就删掉这篇，嘻嘻。 LLa ...

2024 年 4 月 18 日，Meta**开源**了 Llama 3 大模型，把 AI 的门槛降低到了最低，这是人工智能领域的一个重要飞跃。我们个人也可以部署大模型了，这简直就是给个人开发者发了个大红包！Llama 3 模型有不同的参数版本，本文主要分享我在个人笔记本电脑是部署 8B 参数过程和编... ...

1. 人工智能新闻 1.1. 人工智能新闻报道算法的核心是如何将未经处理的原始数据转换成新闻报道 1.2. 很少有记者为美联社决定使用机器来帮助报道这些新闻持反对意见 1.2.1. 像“Wordsmith”这样的算法，具有自动化的洞察力、科学的叙事能力，现在正被应用于基于大量数据的分析报道的撰写工作 ...

RustDesk 是一个强大的开源远程桌面软件，是中国开发者的作品，它使用 Rust 编程语言构建，提供安全、高效、跨平台的远程访问体验。可以说是目前全球最火的开源远程桌面软件了，GitHub 星星数量达到了惊人的 64k！ 与 TeamViewer、ToDesk 等专有远程访问解决方案相比，Rus ...

第六届·2024 MindSpore量子计算黑客松火热进行中。本次大赛由量子信息网络产业联盟主办，昇思MindSpore Quantum社区承办，多所高校和单位联合举办。开发者将全面体验全新一代通用量子计算框架MindSpore Quantum。 热身赛为量子计算基础学习和编程演练。完成热身赛的前1 ...

1. 起源 1.1. 人类讲故事可能起源于“假如……”这种问答结构 1.2. 讲故事是人类做安全试验的一种方式 1.2.1. 如果你问一个人“假如……”，其实是在探索你的行为对他可能带来的影响 1.3. 最早出现的故事极有可能就源自我们对在周遭混乱的环境中寻找某种秩序的渴望，想要在这个残酷无情的宇宙 ...

前言 本文搜集了一些开源的基于LLM的RAG（Retrieval-Augmented Generation）框架，旨在吸纳业界最新的RAG应用方法与思路。如有错误或者意见可以提出，同时也欢迎大家把自己常用而这里未列出的框架贡献出来，感谢~ RAG应用框架 RAGFlow 项目地址：https://g ...

在数字化与智能化的浪潮中，目前 AI（人工智能）几乎在各行各业中发挥了不可忽略的价值，今天让我们也来体验一下 AI 的威力：我通过命令，一步一步的教 AI 利用 Python 编程语言打造了一款富有创意和趣味性的消消乐小游戏…… ...

VSCode中的CodeGeeX 插件上线InLine Chat功能后，收到不少用户的反馈，大家对行内交互编程这一功能非常感兴趣。近期我们针对这个功能再次进行了深度优化，今天详细介绍已经在VSCode插件v2.8.0版本上线的 CodeGeeX InLine Chat功能，以及在编程过程中的使用技巧 ...

最近OpenVoice项目更新了V2版本，新的模型对于中文推理更加友好，音色也得到了一定的提升，本次分享一下如何在苹果的MacOs系统中本地部署OpenVoice的V2版本。 首先下载OpenVoiceV2的压缩包： OpenVoiceV2-for-mac代码和模型 https://pan.quar ...

Anaconda是什么？ Anaconda 是一个开源的 Python 发行版本，主要面向数据科学、机器学习和数据分析等领域。它不仅包含了 Python 解释器本身，更重要的是集成了大量的用于科学计算、数据分析和机器学习相关的第三方库，并且提供了一个强大的包管理和环境管理工具——Conda。 通过C ...

1. 伟大的自动语法分析器 1.1. 思维呆板机械的阿道夫·奈普（Adolphe Knipe）一直想成为一名作家，可是他写出来的东西既迂腐又无趣 1.2. 后来，灵光乍现，他得到了一个启示：语言遵循语法规则，这规则的本质基本上就是数学 1.3. 在这样的认识下，他开始创造一个巨大的机器——“伟大的自 ...

1. 华生的工作模式 1.1. 请你想象一个巨大的场景，其中有单词、名字和其他可能的答案，它们散布在各处 1.1.1. IBM所做的第一步是以某种连贯的方式排列单词 1.1.2. 第二步是理解每个问题，并为该问题生成候选位置标记 1.1.2.1. 爱因斯坦会演奏小提琴，那么他就会被定位于“科学家”和 ...

注：如下是在做深度学习框架开发时，用到的火焰图pprof和 CUDA Nsys 配置指南，可能对大家有一些帮助，就此分享。一些是基于飞桨的Docker镜像配置的。 一、环境 & 工具配置 0. 开发机配置 # 1.构建镜像, 记得映射端口，可以多映射几个；记得挂载ssd目录，因为数据都在ssd盘上 ...

1. Background 频率派：定义 loss function 并进行优化 贝叶斯派：计算后验概率，使用数值积分的方式计算 2. HMM HMM 是一个属于概率图模型中的动态模型(ref:概率图模型)，并不要求数据是独立同分布的，又是一个混合模型 HMM 中的变量可以分为两组，一组为状态变量\ ...

1. 概念 概率：概率模型关心的是一个多维的概率分布 图：即图论的图，起的作用为一个工具，直观表达概率之间的联系，将概率嵌入图中，使得模型更加直观，可以将概率模型的特征明显表示出来。 对于多维随机变量\(p(x_1, \dots, x_p)\), 常用计算为求边缘概率与条件概率，即有如下运算 Sum ...

主要为了测试模型增加Lora模块后，参数量和训练速度的变化情况。结论：正常情况下，增加Lora模块是会增加参数量的，因此前向传播和反向传播的时间也会增加。但是，在大语言模型训练的情况下，因为基础模型本身参数量非常大，Lora模块增加的参数量相对非常小。并且，基础模型不参与梯度更新，可以做模型量化，实 ...

详细介绍分布式机器学习系统的基础概念、分布式训练集群架构、分布式训练并行策略，并以DeepSpeed 为例介绍如何在集群上训练大语言模型。 ...

环境：python3.8 labelme=5.0.1 1、使用labelme标注工具 直接在命令行安装或者在anaconda下面新建虚拟环境安装（避免污染环境，不用的时候可以直接delete该环境） 直接命令行(base)安装 pip install labelme labelme 创建虚拟环境安装 ...

引言 从这一章节开始正式进入我们的 Semantic Kernel 的学习之旅了。 什么是Semantic Kernel？ Semantic Kernel是一个轻量级的开源框架，通过 Semantic Kernel 可以快速使用不同编程语言(C#/Python/Java)结合 LLMs(OpenAI ...