摘要：
参考论文：https://arxiv.org/pdf/2401.02038v1 一、训练方面 1、数据预处理 （1）除噪音 a.去除离群值：使用统计方法（如 z-score、IQR）识别并移除异常数据点。 import numpy as np from scipy import stats data 阅读全文
摘要：
一、提示工程(Prompt Engineering)方法 1.1 检索增强生成(Retrieval Augmented Generation, RAG)技术 利用外部权威知识库来增强LLM的响应,提高输出的准确性和时效性。 1.2 自我优化反馈和推理技术 使LLM能够自我纠正和提高可靠性。 1.3 阅读全文
摘要：
参考地址：https://mp.weixin.qq.com/s/0qkMbzlU9ks6DNS5MBiU8g 论文地址： （1）cot：https://arxiv.org/pdf/2201.11903.pdf（2）tot：https://arxiv.org/pdf/2305.10601.pdf（3） 阅读全文
摘要：
一、租用GPU服务器（我这边选择便宜一些的Autodl） Autodl：https://www.autodl.com/ 智星云：https://gpu.ai-galaxy.cn/ 二、登录服务器，下载模型 1、处理vim时出现的中文乱码问题 vim /etc/vim/vimrc #在文件末尾添加如下 阅读全文
摘要：
一、以"茴香豆"开源项目为例 1、github地址 https://github.com/InternLM/HuixiangDou/tree/main 2、点击Fork项目，将该项目的仓库复制到你自己的GitHub账号下 3、在你自己的GitHub账号下，找到刚刚”Fork”的项目仓库，点击”Cod 阅读全文
摘要：
1、下载安装 官网地址：https://jupyter.org/install #激活python环境 activate conda activate python3.8 pip install ipython pyzmq jinja2 tornado notebook jupyterlab voi 阅读全文
摘要：
1、名称解释 （1）什么是无约束优化问题？ 无约束优化问题是指在给定目标函数的情况下，寻找使目标函数取得最大值或最小值的变量取值，而不受任何约束条件限制的优化问题。 具体来说，无约束优化问题可以形式化地表示为以下形式： 最小化 f(x)，其中 x 是 n 维向量，f(x) 是一个实值函数，称为目标函 阅读全文
摘要：
1、概念解释 （1）什么是半正定规划？ 半正定规划(Semi-Definite Programming，简称SDP) 是一类凸优化问题，其中的变量可组织成半正定对称矩阵形式，且优化问题的目标函数和约束都是这些变量的线性函数。 （2）什么是对称矩阵？ 对称矩阵是指一个矩阵的元素关于主对角线对称。换句话 阅读全文
摘要：
1、概念解释 （1）什么是半正定矩阵？ 半正定矩阵是指一个方阵（即行数等于列数的矩阵），满足以下条件之一： 对于任意非零向量x，都有x^T * A * x ≥ 0，其中 A 表示该矩阵的转置。 所有特征值（eigenvalue）都大于或等于零。 简单来说，一个半正定矩阵的特点是它的所有特征值非负，或 阅读全文
摘要：
1、概念解释 （1）什么是拉格朗日乘子法？ 拉格朗日乘于法(Lagrange multipliers) 是一种种寻找多元函数在一组约束下的极值的方法。通过引入拉格朗日乘子，可将有d个变量与k个约束条件的最优化问题转化为具有d+k个变量的无约束优化问题求解。 2、基本演算 阅读全文