简介
引言
2015年05月25日。之前在csdn写博客，可是csdn经常进不去，所以转战博客园，就用了一键博客搬家功能,其中诺有版面问题，请来这边：http://blog.csdn.net/shouhuxianjian
\(\color{red}{【自然语言处理】}\)
0 引言
1 词向量
NLP之静态词向量
[NLP之动态词向量]
2 Transformer
2 大语言模型LLM
NLP之预训练语言模型GPT
NLP之预训练语言模型BERT
[NLP之预训练语言模型进阶]
3 多模态融合
[NLP之多模态融合的预训练模型]
4 大模型压缩加速
4.1 蒸馏distilling
4.2 量化quant
4.3 剪枝pruning
4.4 专家化MOE
\(\color{red}{【推荐系统】}\)
一、推荐系统-数据篇
二、推荐系统-特征篇
[FM]
[DeepFM]
[AutoFIS]
三、推荐系统-模型篇
1）模型之召回 recall match
2）模型之粗排 pre-ranking
3）模型之精排 ranking
4）模型之重排 rerank
重排之引言
[MMR]
[GRN]
5）模型之混排
四、推荐系统-指标篇
五、推荐系统-系统及架构篇
\(\color{red}{【广告系统|计算广告】}\)
暂无
\(\color{red}{【计算机视觉】}\)
目标检测
0、非极大抑制
1、简单介绍及目标检测目录
2、faster r-cnn
3、yolo v1 ; yolo v2
4、ssd
5、rfcn
人脸检测
0、综述
1、级联CNN
2、Multi-view face detection&& MTCNN
3、Hybrid-Resolution
4、Face R-CNN
5、SSH
6、FaceBoxes
7、S^3FD
8、Face R-FCN
9、PyramidBox
10、DSFD
人脸识别
0、综述
1、MTCNN的人脸对齐方式
2、FaceNet
3、Center Face
4、L-Softmax Loss
5、L2-Norm Softmax Loss
6、ArcFace
7、MobileFaceNet
8、MobiFace
图像生成
[Stable Diffusion]
[ControlNet]
opencv
1、opencv1-安装及资料
2、opencv2-新特性及Mat
3、opencv3-core之基本操作
4、opencv4-highgui之视频的输入和输出以及滚动条
5、opencv5-objdetect之级联分类器
6、opencv6.1-imgproc图像处理模块之平滑与形态学操作
7、opencv6.2-imgproc图像处理模块之图像尺寸上的操作及阈值
8、opencv6.3-imgproc图像处理模块之边缘检测
9、opencv6.4-imgproc图像处理模块之直方图与模板
10、opencv6.5-imgproc图像处理模块之轮廓
11、opencv7-ml之svm
12、opencv8-GPU之相似性计算
13、
数字图像处理
1、灰度图与彩图的双边滤波
2、计算机视觉-sift(1)原理
3、计算机视觉-sift(2)代码理解
图像修复
1、Image Restoration[Deep Image Prior]
工程
1、模型转换[yolov3模型在keras与darknet之间转换]
2、关于MSCOCO_text数据集的探索
\(\color{red}{【深度学习】}\)
综述
0、从AlexNet开始发展至今的综述[未更新]
1、CNN结构综述[未更新]
2、CNN可视化综述[未更新]
3、deep learning 的综述
4、Notes on Convolutional Neural Networks
5、如何高效的通过BP算法来训练CNN
特征提取器
0、目录及对应参考文献
1、VGG
2、inceptionv1(googlenet); inception v2(BN); inception v3; inception v4
在inception v3论文中，作者定义了inception v2 和v3，然而在inception v4论文中，作者又把BN作为inception v2。
3、ResNet; ResNet V2
4、DenseNet
5、SENet
PS：http://www.asimovinstitute.org/neural-network-zoo/神经网络模型结构zoo
循环神经网络
1、目录及对应参考文献
2、简单的综述
3、QRNN
4、SRU
5、Recurrent Neural Network[CTC]
对抗生成网络
1、目录及对应参考文献
2、引言
3、Vanilla GAN
4、deep multi-scale video prediction beyond mean square error
5、AAE
6、Improved GAN
7、EBGAN
8、iGAN
9、LSGAN
10、pix2pix
11、Pre-WGAN
12、Wasserstein GAN
13、CAAE
14、CycleGAN
15、BEGAN
Hinton的CSC321课程（完结，待文字润色）
1、lecture1-NN的简介
2、lecture2-NN结构的主要类型的概述和感知机
3、lecture3-线性神经元和算法
4、lecture4-神经网络在语言上的应用
5、lecture5-对象识别与卷积神经网络
6、lecture6-mini批量梯度训练及三个加速的方法
7、lecture7-序列模型及递归神经网络RNN
8、lecture8-RNN的训练方法之二三
9、lecture9-提高模型泛化能力的方法
10、lecture10-模型的结合与全贝叶斯学习
11、lecture11-hopfiled网络与玻尔兹曼机
12、lecture12-玻尔兹曼机和受限玻尔兹曼机
13、lecture13-BP算法的讨论和置信网
14、lecture14-RBM的堆叠、修改以及DBN的决策学习和微调
15、lecture15-自动编码器、语义哈希、图像检索
16、lecture16-联合模型、分层坐标系、超参数优化及本课未来的探讨
\(\color{red}{【机器学习】}\)
1、AI1.1-人工智能史
2、简单的介绍人工智能的机器学习
数学
1、数学-矩阵计算（1）矩阵和向量的求导法则
2、数学-矩阵计算（2）矩阵函数微积分前奏
3、数学-矩阵计算（4）两种布局
概率&概率图
1、【概率统计】常见分布（一）
2、PRML1-引言
3、PRML2-概率分布
4、PRML5-神经网络（1）;PRML5-神经网络（2）
5、PGM1.1-简介
Machine Learning
1、机器学习评判指标
2、KNN-笔记(1); KNN-笔记(2)
3、线性降维-笔记(1); 线性降维-笔记(2)
4、adaboost-笔记(1)
5、贝叶斯-笔记(1)
6、决策树-笔记（1）
7、SVM-笔记(1)
8、logistic回归和最大熵
9、高斯分布-笔记(1); 高斯混合模型
10、非线性降维[content]
11、《机器学习系统设计》（1）; 《机器学习系统设计》（2）
AutoML
Clustering
\(\color{red}{【python】}\)
python
1、python2.1-原理之琐碎技巧
2、Python2.2-原理之类型和运算
3、Python2.3-原理之语句和语法
4、Python2.4-原理之函数
5、Python2.5-原理之模块
6、Python2.6-原理之类和oop（上）
7、Python2.6-原理之类和oop（下）
8、Python2.7-异常和工具
9、
10、
11、Python3.1-标准库之Numpy
Theano
1、Theano1.1-安装
2、Theano2.1.1-基础知识之准备工作
3、Theano2.1.2-基础知识之第一步：代数
4、Theano2.1.3-基础知识之更多的例子
5、Theano2.1.4-基础知识之图结构
6、Theano2.1.5-基础知识之打印出theano的图
7、Theano2.1.6-基础知识之在thenao中的求导
8、Theano2.1.7-基础知识之设置的配置和编译模式
9、Theano2.1.8-基础知识之装载和保存
10、Theano2.1.9-基础知识之条件
11、Theano2.1.10-基础知识之循环
12、Theano2.1.11-基础知识之稀疏
13、Theano2.1.12-基础知识之使用GPU
14、Theano2.1.13-基础知识之PyCUDA、CUDAMat、Gnumpy的兼容
15、Theano2.1.14-基础知识之理解为了速度和正确性的内存别名
16、Theano2.1.15-基础知识之theano如何处理shapre信息
17、Theano2.1.16-基础知识之调试：常见的问题解答
18、Theano2.1.17-基础知识之剖析theano的函数
19、Theano2.1.18-基础知识之theano的扩展
20、
21、
22、Theano2.1.21-基础知识之theano中多核的支持
23、Theano3.1-练习之初步介绍
24、Theano3.2-练习之数据集及目标函数介绍
25、Theano3.3-练习之逻辑回归
26、Theano3.4-练习之多层感知机
27、Theano3.5-练习之深度卷积网络
28、
Tensorflow
1、让tensorflow访问minio生成的s3接口
2、Tensorflow[源码安装时bazel行为解析]
3、Tensorflow[目录结构]
4、Tensorflow[架构流程]
5、Tensorflow-hub[例子解析1]
6、Tensorflow-hub[例子解析2]
7、Tensorflow[LSTM]
工程
1、python复现jedis中客户端分片访问
2、同步pypi源
3、[Synthetic-data-with-text-and-image]
4、Crowdsourcing[智能辅助标注]
5、Python3.2-re模块之常用正则记录
\(\color{red}{【CUDA】}\)
CUDA
1、CUDA1-hello world
2、CUDA1.1-函数类型限定符与变量类型限定符
3、CUDA2.1-原理之索引与warp
4、CUDA2.2-原理之存储器访问
5、CUDA2.3-原理之任意长度的矢量求和与用事件来测量性能
6、CUDA2.4-原理之性能优化及浮点运算
工程
1、nvidia[单卡内部的调度原理]
2、nvidia[GPU架构发展对比]
TensorRT
0、TensorRT&Sample&Python[introductory_parser_samples]
1、TensorRT&Sample&Python[uff_ssd]
2、TensorRT&Sample&Python[yolov3_onnx]
3、TensorRT&Sample&Python[uff_custom_plugin]
4、TensorRT&Sample&Python[end_to_end_tensorflow_mnist]
5、TensorRT&Sample&Python[network_api_pytorch_mnist]
6、TensorRT&Sample&Python[fc_plugin_caffe_mnist]
7、模型加速[tensorflow&tensorrt]
混合编程
\(\color{red}{【联邦学习】}\)
1、联邦学习[隐私集合求交PSI]
2、隐私计算[引言]
3、联邦学习[纵向联邦学习中两方解决方案]
\(\color{red}{【julia】}\)
\(\color{red}{【CPP】}\)
1、CPP2-基础部分（1）
2、QT1.1-与Opencv的hello world
