随笔 - 128  文章 - 0  评论 - 75  阅读 - 11万
01 2024 档案
梳理Langchain-Chatchat知识库API接口
摘要:一.Langchain-Chatchat 知识库管理 1.Langchain-Chatchat 对话和知识库管理界面 Langchain-Chatchat v0.28 完整的界面截图,如下所示: 2.知识库中源文件和向量库 知识库 test 中源文件和向量库的位置,如下所示: 3.知识库表结构 kn 阅读全文
posted @ 2024-01-23 22:50 扫地升 阅读(5522) 评论(1) 推荐(2) 编辑
langchain中的Document类
摘要:在Langchain-Chatchat的上传文档接口(upload_docs)中有个自定义的docs字段,用到了Document类。根据发现指的是from langchain.docstore.document import Document。本文简要对Document类进行介绍。 1.上传文档接口 阅读全文
posted @ 2024-01-22 00:28 扫地升 阅读(953) 评论(0) 推荐(0) 编辑
FX图中的节点代表什么操作
摘要:在 FX 图中,每个节点代表一个操作。这些操作可以是函数调用、方法调用、模块实例调用,也可以是 torch.nn.Module 实例的调用。每个节点都对应一个调用站点,如运算符、方法和模块。 一.节点操作 下面是一些节点可能代表的操作: 1. 函数调用 例如,torch.add(x, y)会被表示为 阅读全文
posted @ 2024-01-14 23:58 扫地升 阅读(71) 评论(0) 推荐(0) 编辑
PyTorch中的AOTAutograd、PrimTorch和TorchInductor
摘要:一.PyTorch 中的 AOTAutograd 在 PyTorch 中,AOTAutograd 是一个先进的功能,它是 Ahead-Of-Time (AOT) Autograd 的缩写。这是一种新的自动微分方法,它在编译时而不是运行时计算梯度。这使得它可以更有效地处理大型计算图。以下是一些关于 A 阅读全文
posted @ 2024-01-14 23:57 扫地升 阅读(302) 评论(0) 推荐(0) 编辑
PyTorch中的FX图
摘要:一.FX 图介绍 FX 图是 PyTorch 中的一个主要数据结构,用于在 FX 中间表示(Intermediate Representation,IR)中表示程序。FX 图由一系列节点组成,每个节点代表调用站点(比如运算符、方法和模块)。 FX 图的主要目标是提供一种方式来转换和优化 PyTorc 阅读全文
posted @ 2024-01-14 23:57 扫地升 阅读(316) 评论(0) 推荐(0) 编辑
TorchDynamo 原理和示例
摘要:TorchDynamo 是一个设计用于加速未修改的 PyTorch 程序的 Python 级即时(JIT)编译器。它通过 Python Frame Evaluation Hooks(Python 框架评估钩子)来实现这一目标,以便在运行时动态地生成和优化代码。这使得 TorchDynamo 可以有效 阅读全文
posted @ 2024-01-14 23:57 扫地升 阅读(515) 评论(0) 推荐(0) 编辑
PyTorch中的Eager模式
摘要:在 PyTorch 中,"Eager Execution"(即即时执行模式)是指一种动态图计算模式,其中每个操作都立即被执行,而不是被先放入计算图中。这与静态图计算框架(如 TensorFlow 的早期版本)的工作方式不同。在即时执行模式中,你可以像使用 NumPy 一样进行操作,逐步构建计算图,方 阅读全文
posted @ 2024-01-14 23:56 扫地升 阅读(1062) 评论(0) 推荐(0) 编辑
PyTorch中的nn.LeakyReLU()、nn.Module和nn.ModuleList
摘要:一.nn.LeakyReLU()函数 在 PyTorch 中,nn.LeakyReLU() 是一个激活函数,用于引入非线性性到神经网络中。Leaky ReLU 是修正线性单元(ReLU)的一种变体,它在输入为负数时不是完全置零,而是引入一个小的负斜率。nn.LeakyReLU() 的初始化参数如下: 阅读全文
posted @ 2024-01-14 23:38 扫地升 阅读(717) 评论(0) 推荐(0) 编辑
LLM模型的generate和chat函数区别
摘要:在 Hugging Face 的 transformers 库中,GPT(Generative Pre-trained Transformer)类的模型有两个常用的生成文本的方法:generate 和 chat。这两个方法在使用上有一些区别。通常公司发布的 LLM 模型会有一个基础版本,还会有一个 阅读全文
posted @ 2024-01-14 23:37 扫地升 阅读(992) 评论(0) 推荐(0) 编辑
LlamaIndex中的CustomLLM(在线加载模型)
摘要:一.使用 Flask 将模型封装为 REST 接口 主要是将 complete()和 stream_complete()方法封装为 REST 接口,如下所示: from flask import Flask, request, jsonifyfrom transformers import Auto 阅读全文
posted @ 2024-01-14 23:37 扫地升 阅读(486) 评论(0) 推荐(0) 编辑
LlamaIndex中的CustomLLM(本地加载模型)
摘要:LlamaIndex 中接口基本上调用的是 OpenAI,如果想想调用自定义模型可以吗?答案当然是可以的。经过查找找到了自定义大语言模型的简单抽象基类 class CustomLLM(LLM)。 一.CustomLLM(LLM) 源码 只要子类必须实现 __init__、_complete、_str 阅读全文
posted @ 2024-01-14 23:36 扫地升 阅读(1055) 评论(0) 推荐(0) 编辑
Python中的魔法方法
摘要:Python 中有很多魔法方法,它们以双下划线 __ 开头和结尾,用于实现类的特殊行为。以下是一些常用的魔法方法: 1. __init__(self, ...) 初始化方法,用于创建对象并设置初始状态。 2. __str__(self) 返回对象的非正式字符串表示形式,通过 str() 函数调用。 阅读全文
posted @ 2024-01-14 23:17 扫地升 阅读(49) 评论(0) 推荐(0) 编辑
Python中的__repr__()方法
摘要:在 Python 中,__repr__() 是一个特殊方法(magic method),用于定义对象的字符串表示形式。当你调用内置函数 repr() 或使用 str() 函数来获取对象的字符串表示时,实际上是调用了对象的 __repr__() 方法。 下面是一个简单的例子,演示了 __repr__( 阅读全文
posted @ 2024-01-14 23:17 扫地升 阅读(405) 评论(0) 推荐(0) 编辑
Python中的__add__()方法
摘要:在 Python 中,__add__() 是一个特殊方法(magic method),用于定义对象之间的加法操作。当你使用 + 运算符对两个对象进行相加时,实际上会调用对象的 __add__() 方法。 下面是一个简单的例子,演示了 __add__() 的用法: class ComplexNumbe 阅读全文
posted @ 2024-01-14 23:17 扫地升 阅读(404) 评论(0) 推荐(0) 编辑
Python中的__call__()方法
摘要:在 Python 中,__call__() 是一个特殊方法(magic method),用于使对象变成可调用(callable)。当一个对象实现了 __call__() 方法时,你可以像调用函数一样调用这个对象,就好像它是一个函数一样。 下面是一个简单的例子,演示了 __call__() 的用法: 阅读全文
posted @ 2024-01-14 23:16 扫地升 阅读(746) 评论(0) 推荐(0) 编辑
Centos创建一个Python虚拟环境
摘要:在 CentOS 上创建一个 Python 虚拟环境,可以使用 virtualenv 工具。以下是创建和激活虚拟环境的基本步骤: 1.安装virtualenv 如果还没有安装 virtualenv,可以使用以下命令安装: sudo yum install python3-virtualenv 请注意 阅读全文
posted @ 2024-01-14 23:16 扫地升 阅读(230) 评论(0) 推荐(0) 编辑
Python中的@property
摘要:在 Python 中,@property 是一种装饰器,用于将一个方法转换成只读属性。通过使用 @property 装饰器,你可以定义一个类的方法,使其在访问时可以像访问属性一样,而不是通过方法调用。 下面是一个简单的例子来说明 @property 的使用: class Circle: def __ 阅读全文
posted @ 2024-01-14 23:15 扫地升 阅读(57) 评论(0) 推荐(0) 编辑
BM25(Best Matching 25)算法基本思想
摘要:BM25(Best Matching 25)是一种用于信息检索(Information Retrieval)和文本挖掘的算法,它被广泛应用于搜索引擎和相关领域。BM25 基于 TF-IDF(Term Frequency-Inverse Document Frequency)的思想,但对其进行了改进以 阅读全文
posted @ 2024-01-14 23:02 扫地升 阅读(1122) 评论(0) 推荐(0) 编辑
以报时机器人为例详细介绍tracker_store和event_broker
摘要:报时机器人源码参考[1][2],本文重点介绍当 tracker_store 类型为 SQL 时,events 表的表结构以及数据是如何生成的。以及当 event_broker 类型为 SQL 时,events 表的表结构以及数据是如何生成的。 一.报时机器人启动 [3] Rasa 对话系统启动方式详 阅读全文
posted @ 2024-01-07 22:53 扫地升 阅读(175) 评论(0) 推荐(0) 编辑
Python中的@abstractmethod
摘要:@abstractmethod 是 Python 中 abc 模块(Abstract Base Classes)提供的一个装饰器,用于声明抽象方法。抽象方法是指在抽象类中声明但没有提供具体实现的方法,而是由其子类提供具体实现。 使用 @abstractmethod 装饰器可以使得子类在继承抽象类时必 阅读全文
posted @ 2024-01-06 22:31 扫地升 阅读(636) 评论(0) 推荐(0) 编辑
Python中的cls语法
摘要:在Python中,cls 是一个用于指代类本身的约定性名称,通常用作类方法(class method)中的第一个参数。cls 类似于 self,它是对类的引用,而不是对实例的引用。cls 通常在类方法中用于访问类级别的属性和方法。举个例子如下所示: class MyClass: class_vari 阅读全文
posted @ 2024-01-06 22:30 扫地升 阅读(294) 评论(0) 推荐(0) 编辑
Python函数加async,但没有加await可以异步吗
摘要:在Python中,如果一个函数被标记为async,这意味着它是一个异步函数。但是,仅仅因为一个函数被标记为异步并不意味着它会自动异步执行。为了使异步函数真正异步,你需要在函数内部使用await关键字来调用其他异步函数或操作。以下是一个简单的例子来说明这一点: import asyncioasync  阅读全文
posted @ 2024-01-06 22:30 扫地升 阅读(266) 评论(0) 推荐(0) 编辑
Python中的装饰器
摘要:顾名思义,函数装饰器就是对这个函数进行了装饰,比如在函数的前后进行日志打印等。在Python中,装饰器是一种特殊的语法,用于简化函数或方法的定义和调用。装饰器允许你在不修改原始函数代码的情况下,通过在其上应用装饰器来添加或修改其行为。装饰器通常以 @decorator 的形式使用。装饰器是一种灵活且 阅读全文
posted @ 2024-01-06 22:29 扫地升 阅读(140) 评论(0) 推荐(0) 编辑
Rasa中的tracker_store和event_broker
摘要:Rasa 中的 tracker_store 相对主流为 Redis,event_broker 相对主流为 RabbitMQ。后续为了研究学习直接将 tracker_store 和 event_broker 的 type 都设置为 SQL,使用 MySQL 统一管理。 一.Rasa 中的 tracke 阅读全文
posted @ 2024-01-02 23:55 扫地升 阅读(92) 评论(0) 推荐(0) 编辑
Python中的协程、线程和进程
摘要:一.协程与多线程和多进程一起使用有什么不同 协程、多线程和多进程都是实现程序并发执行的方法,不过它们在工作方式和适合的应用场景上存在一些区别。 1.协程(Coroutine) 协程是在单一线程内部实现并发的,由于只涉及单一线程,不存在多线程中常见的数据竞争等线程同步问题。当协程遇到 IO 操作(如文 阅读全文
posted @ 2024-01-02 23:54 扫地升 阅读(621) 评论(0) 推荐(3) 编辑
python -m http.server在本地启动简单HTTP服务器的命令
摘要:1.python -m http.server 命令 python -m http.server 是一个用于在本地启动简单 HTTP 服务器的命令。这个命令会在当前工作目录启动一个基本的 HTTP 服务器,可以让你通过浏览器访问本地文件。 具体解释如下: python:启动 Python 解释器。- 阅读全文
posted @ 2024-01-01 23:38 扫地升 阅读(1750) 评论(0) 推荐(0) 编辑
3种依赖管理工具实现requirements.txt文件生成
摘要:1.pip 实现方式 要使用 pip 生成 requirements.txt 文件,可以使用以下命令: pip freeze > requirements.txt 这个命令会将当前环境中所有已安装的 Python 包及其版本信息输出到 requirements.txt 文件中。这个文件可以用于共享项 阅读全文
posted @ 2024-01-01 23:38 扫地升 阅读(822) 评论(0) 推荐(0) 编辑
Rasa初始化聊天机器人的配置
摘要:本文详细介绍了使用 rasa init 初始化聊天机器人项目的配置,包括 nlu.yml、rules.yml、stories.yml、test_stories.yml、config.yml、credentials.yml、domain.yml、endpoints.yml 等文件。如下所示: │ co 阅读全文
posted @ 2024-01-01 23:36 扫地升 阅读(294) 评论(0) 推荐(0) 编辑
打通Rasa Action Server和LLM接口的尝试方法
摘要:本文使用最简单的方法对打通 Rasa Action Server 和 LLM 接口进行了尝试,即当 Rasa 对话 intent 为 out_of_scope 时,调用 action_gpt_fallback 的 action,在 action 中根据 tracker.latest_message. 阅读全文
posted @ 2024-01-01 23:36 扫地升 阅读(314) 评论(0) 推荐(0) 编辑
梳理Langchain-Chatchat-UI接口文档
摘要:在 Langchain-Chatchat v0.1.17 版本及以前是有前后端分离的 Vue 项目的,但是 v0.2.0 后就没有了。所以本文使用的是 Langchain-Chatchat v0.1.17 版本中的 Vue 项目。经过一番折腾终于将 Langchain-Chatchat v0.1.1 阅读全文
posted @ 2024-01-01 23:35 扫地升 阅读(3932) 评论(5) 推荐(1) 编辑

< 2025年2月 >
26 27 28 29 30 31 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 1
2 3 4 5 6 7 8

点击右上角即可分享
微信分享提示