摘要:
一.nn.LeakyReLU()函数 在 PyTorch 中,nn.LeakyReLU() 是一个激活函数,用于引入非线性性到神经网络中。Leaky ReLU 是修正线性单元(ReLU)的一种变体,它在输入为负数时不是完全置零,而是引入一个小的负斜率。nn.LeakyReLU() 的初始化参数如下: 阅读全文
摘要:
在 Hugging Face 的 transformers 库中,GPT(Generative Pre-trained Transformer)类的模型有两个常用的生成文本的方法:generate 和 chat。这两个方法在使用上有一些区别。通常公司发布的 LLM 模型会有一个基础版本,还会有一个 阅读全文
摘要:
一.使用 Flask 将模型封装为 REST 接口 主要是将 complete()和 stream_complete()方法封装为 REST 接口,如下所示: from flask import Flask, request, jsonifyfrom transformers import Auto 阅读全文
摘要:
LlamaIndex 中接口基本上调用的是 OpenAI,如果想想调用自定义模型可以吗?答案当然是可以的。经过查找找到了自定义大语言模型的简单抽象基类 class CustomLLM(LLM)。 一.CustomLLM(LLM) 源码 只要子类必须实现 __init__、_complete、_str 阅读全文
摘要:
Python 中有很多魔法方法,它们以双下划线 __ 开头和结尾,用于实现类的特殊行为。以下是一些常用的魔法方法: 1. __init__(self, ...) 初始化方法,用于创建对象并设置初始状态。 2. __str__(self) 返回对象的非正式字符串表示形式,通过 str() 函数调用。 阅读全文
摘要:
在 Python 中,__repr__() 是一个特殊方法(magic method),用于定义对象的字符串表示形式。当你调用内置函数 repr() 或使用 str() 函数来获取对象的字符串表示时,实际上是调用了对象的 __repr__() 方法。 下面是一个简单的例子,演示了 __repr__( 阅读全文
摘要:
在 Python 中,__add__() 是一个特殊方法(magic method),用于定义对象之间的加法操作。当你使用 + 运算符对两个对象进行相加时,实际上会调用对象的 __add__() 方法。 下面是一个简单的例子,演示了 __add__() 的用法: class ComplexNumbe 阅读全文
摘要:
在 Python 中,__call__() 是一个特殊方法(magic method),用于使对象变成可调用(callable)。当一个对象实现了 __call__() 方法时,你可以像调用函数一样调用这个对象,就好像它是一个函数一样。 下面是一个简单的例子,演示了 __call__() 的用法: 阅读全文
摘要:
在 CentOS 上创建一个 Python 虚拟环境,可以使用 virtualenv 工具。以下是创建和激活虚拟环境的基本步骤: 1.安装virtualenv 如果还没有安装 virtualenv,可以使用以下命令安装: sudo yum install python3-virtualenv 请注意 阅读全文
摘要:
在 Python 中,@property 是一种装饰器,用于将一个方法转换成只读属性。通过使用 @property 装饰器,你可以定义一个类的方法,使其在访问时可以像访问属性一样,而不是通过方法调用。 下面是一个简单的例子来说明 @property 的使用: class Circle: def __ 阅读全文