摘要：
参考资料 Drain3和Spell算法论文学习：https://www.ctyun.cn/developer/article/435428960813125 Spell 基于最长公共子序列的在线日志解析方法: https://blog.csdn.net/qq_41773806/article/det 阅读全文
摘要：
环境 下载安装: Ollama 拉取大模型: Ollama项目 旧版本转换 embeddings_utils embeddings_utils 实现代码 import openai import numpy as np my_client = openai.OpenAI( base_url='htt 阅读全文
摘要：
简介 论文链接：https://jiemingzhu.github.io/pub/pjhe_icws2017.pdf 代码实现：https://github.com/logpai/logparser/tree/main/logparser/Drain 算法原理图： 有几点注意： 根节点和叶节点实际是 阅读全文
摘要：
简介 paper ： https://arxiv.org/abs/2307.09288 code ：https://github.com/facebookrese 解释 : https://zhuanlan.zhihu.com/p/649756898 处理流程 预处理文本 输入：文本(问题) 处理： 阅读全文
摘要：
问题背景 ⼤模型通常包含数亿甚⾄数百亿个参数，对其进⾏微调需要⼤量的计算资源和存储空间。 在微调过程中，直接修改预训练模型的所有参数可能会破坏模型的原始性能。 存储和部署微调后的⼤模型需要⼤量存储空间，尤其是当需要在多个应⽤场景中部署不同微调版本时。 许多微调⽅法会增加推理阶段的计算延迟，影响模型的 阅读全文
摘要：
格式 [ { "conversations": [ { "from": "human", "value": "user instruction" }, { "from": "gpt", "value": "model response" }, ... ], "system": "system pro 阅读全文
摘要：
格式 alpaca 格式的数据集应遵循以下格式： [ { "instruction": "user instruction (required)", "input": "user input (optional)", "output": "model response (required)", "s 阅读全文
摘要：
修改CMakeLists.txt文件为 project(Your Project Name) set(CMAKE_CXX_STANDARD 11) # 遍历项目二级目录下所有的 .cpp 文件 file (GLOB files */*.cpp) foreach (file ${files}) str 阅读全文
摘要：
整体结构 注意: 原始论文中的 自注意力 和 多头注意力的 Q, K, V矩阵的位置是不一样的 自注意力 初始的Q, K, V矩阵都是一样的数据: 文本的embedding矩阵, 只是通过了不同的Linear处理. 多头注意力 def forward(self, q, k, v, mask=None 阅读全文
摘要：
下载 进入opencv官网下载 https://opencv.org/releases/ 选择sources下载相应版本的压缩包。 解压文件，放到home/（用户名）/下。 依赖安装 安装Opencv的依赖 打开终端，输入以下命令，安装最新的CMake sudo apt-get update sud 阅读全文