随笔分类 -  人工智能

摘要:.\flux\demo_gr.py # 导入操作系统相关模块 import os # 导入时间相关模块 import time # 从 io 模块导入 BytesIO 类 from io import BytesIO # 导入 UUID 生成模块 import uuid # 导入 PyTorch 库 阅读全文
posted @ 2024-09-05 11:52 绝不原创的飞龙 阅读(981) 评论(0) 推荐(1) 编辑
摘要:【人工智能的未来:引言:洞悉人类思维的奥秘】 https://www.bilibili.com/video/BV1fTYEedEee/?share_source=copy_web&vd_source=20bcb7c5926b4b296dd98bcf9a3c655a 【人工智能的未来:第一章:史上著名 阅读全文
posted @ 2024-08-11 11:27 绝不原创的飞龙 阅读(13) 评论(0) 推荐(0) 编辑
摘要:希望大家投币点赞收藏,一键三连哟~ 《超越想象的GPT医疗》 【超越想象的GPT医疗:引言:GPT-4医生的故事】 https://www.bilibili.com/video/BV1neYveVESy/?share_source=copy_web&vd_source=20bcb7c5926b4b2 阅读全文
posted @ 2024-08-10 13:17 绝不原创的飞龙 阅读(65) 评论(0) 推荐(0) 编辑
摘要:希望大家投币点赞收藏,一键三连哟~ 【超越想象的GPT医疗:引言:GPT-4医生的故事】 https://www.bilibili.com/video/BV1neYveVESy/?share_source=copy_web&vd_source=20bcb7c5926b4b296dd98bcf9a3c 阅读全文
posted @ 2024-08-10 11:03 绝不原创的飞龙 阅读(8) 评论(0) 推荐(0) 编辑
摘要:希望大家投币点赞收藏,一键三连哟~ 【GPT时代人类再腾飞:引言:一个灯泡的启蒙时刻】 https://www.bilibili.com/video/BV1CNYFeLEcH/?share_source=copy_web&vd_source=20bcb7c5926b4b296dd98bcf9a3c6 阅读全文
posted @ 2024-08-10 10:50 绝不原创的飞龙 阅读(5) 评论(0) 推荐(0) 编辑
摘要:这篇文章中,我简要实现一下大语言模型的 MOE 模块。MOE 模块位于每个GPT层中,位于注意力模块的后面,每个MOE模块包含若干个MLP模块作为专家。这些专家是稀疏的,也就是每次选择部分来调用,并不会调用全部,从而节省宝贵的算力。 首先定义一些常量,通常应该在模型配置文件里面。 bs = 5 # 阅读全文
posted @ 2024-06-21 15:52 绝不原创的飞龙 阅读(79) 评论(0) 推荐(0) 编辑
摘要:【GPT总结】 TRAQ: \underline{T 原文:https://ar5iv.labs.arxiv.org/html/2307.04642 这篇文章的方法有什么意义,对现实世界有什么价值? 这篇文章的方法有什么意义,对现实世界有什么价值? TRAQ框架通过结合检索增强生成(RAG)和con 阅读全文
posted @ 2024-05-28 11:49 绝不原创的飞龙 阅读(1197) 评论(0) 推荐(0) 编辑
摘要:_CRT_SECURE_NO_DEPRECATE 类型:宏定义 描述:禁用 Windows 上荒谬的“不安全”警告。 _USE_MATH_DEFINES 类型:宏定义 描述:在 MSVC 上使用 M_PI。 GGML_DEBUG 类型:宏定义 描述:定义调试级别。 GGML_GELU_FP16 类型 阅读全文
posted @ 2024-05-13 16:24 绝不原创的飞龙 阅读(460) 评论(0) 推荐(0) 编辑
摘要:来源:every.to/chain-of-thought/i-spent-24-hours-with-github-copilot-workspaces GitHub Copilot 就像程序员的自动完成功能。 当你输入时,它猜测你想要完成什么,并建议它 认为 你将要编写的代码块。如果它猜对了——而 阅读全文
posted @ 2024-05-08 18:26 绝不原创的飞龙 阅读(25) 评论(0) 推荐(0) 编辑
摘要:来源:o565.com/llm-text-compression/ 介绍 大型语言模型是在大型文本数据集上进行训练的,以学习更大文档中单词的关系和上下文。这些关系是模型生成文本的基础。 最近,我读到了关于 LLMs 被训练在受版权保护的文本上并将其复制的担忧。这让我想:可以从 LLM 中提取训练文本 阅读全文
posted @ 2024-05-08 10:54 绝不原创的飞龙 阅读(53) 评论(0) 推荐(0) 编辑
摘要:来源:ai.stanford.edu/~kzliu/blog/unlearning 由Ken Liu ∙ May 2024 撰写 ▸ 目录 1. 反学习的历史和动机 2. 反学习的形式 2.1. 精确反学习 2.2. 通过差分隐私进行“反学习” 2.3. 已知示例空间下的经验性反学习 2.4. 未知 阅读全文
posted @ 2024-05-08 10:38 绝不原创的飞龙 阅读(185) 评论(0) 推荐(0) 编辑
摘要:原文:zh.annas-archive.org/md5/a6f6476d556185fc0ddb2dae043823f3 译者:飞龙 协议:CC BY-NC-SA 4.0 第四章:自回归模型与其他语言模型 我们研究了text2text 应用的细节,例如总结,释义和机器翻译。 本章将涵盖以下主题: 使 阅读全文
posted @ 2024-04-30 11:40 绝不原创的飞龙 阅读(145) 评论(0) 推荐(0) 编辑
摘要:原文:annas-archive.org/md5/c19a4ef8ab1664a3c5a59d52651430e2 译者:飞龙 协议:CC BY-NC-SA 4.0 一、理解大型语言模型 本章包括 大型语言模型(LLM)背后的基本概念的高层次解释 探索 ChatGPT 类 LLM 源自的 Trans 阅读全文
posted @ 2024-04-29 01:46 绝不原创的飞龙 阅读(671) 评论(0) 推荐(0) 编辑
摘要:.\transformers\activations.py .\transformers\activations_tf.py .\transformers\audio_utils.py .\transformers\benchmark\benchmark.py .\transformers\benc 阅读全文
posted @ 2024-04-28 10:48 绝不原创的飞龙 阅读(202) 评论(0) 推荐(0) 编辑
摘要:.\lucidrains\Adan-pytorch\adan_pytorch\adan.py .\lucidrains\Adan-pytorch\adan_pytorch\__init__.py .\lucidrains\Adan-pytorch\setup.py .\lucidrains\adja 阅读全文
posted @ 2024-04-22 12:09 绝不原创的飞龙 阅读(119) 评论(0) 推荐(0) 编辑
摘要:在人工智能领域,大模型的开源与闭源一直是一个备受争议的话题。近期,某大厂厂长说了“开源模型永远超不过闭源模型”,结果,脸书就发布了开源模型Llama3,超过了OpenAI 的闭源模型 GPT4。本文将探讨大模型开源与闭源的原因、当前状况以及未来前景,以期为读者提供深入的理解和分析。 算力稀缺性的考量 阅读全文
posted @ 2024-04-21 18:32 绝不原创的飞龙 阅读(237) 评论(0) 推荐(0) 编辑
摘要:原文:zh.annas-archive.org/md5/8ddea683d78e7bd756401ec665273969 译者:飞龙 协议:CC BY-NC-SA 4.0 第十三章:大规模算法 大规模算法旨在解决庞大的复杂问题。大规模算法的特征是由于其数据规模和处理要求的缘故,需要多个执行引擎。本章 阅读全文
posted @ 2024-04-16 15:28 绝不原创的飞龙 阅读(13) 评论(0) 推荐(0) 编辑
摘要:原文:zh.annas-archive.org/md5/8ddea683d78e7bd756401ec665273969 译者:飞龙 协议:CC BY-NC-SA 4.0 第八章:神经网络算法 各种因素的结合使得人工神经网络(ANNs)成为当今最重要的机器学习技术之一。这些因素包括解决日益复杂的问题 阅读全文
posted @ 2024-04-16 15:27 绝不原创的飞龙 阅读(32) 评论(0) 推荐(0) 编辑
摘要:原文:zh.annas-archive.org/md5/8ddea683d78e7bd756401ec665273969 译者:飞龙 协议:CC BY-NC-SA 4.0 第五章:图算法 有一类计算问题最好以图的术语来表示。这类问题可以使用一类称为图算法的算法来解决。例如,图算法可以用于在数据的图形 阅读全文
posted @ 2024-04-16 15:25 绝不原创的飞龙 阅读(70) 评论(0) 推荐(0) 编辑
摘要:原文:zh.annas-archive.org/md5/8ddea683d78e7bd756401ec665273969 译者:飞龙 协议:CC BY-NC-SA 4.0 前言 算法在计算机科学和实践中一直扮演着重要角色。本书侧重于利用这些算法来解决现实世界的问题。要充分利用这些算法,对它们的逻辑和 阅读全文
posted @ 2024-04-16 15:20 绝不原创的飞龙 阅读(116) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示