摘要： 背景：模型压缩包括：模型量化、模型剪枝、权值共享等压缩技术，知识蒸馏等配合模型压缩使用的恢复压缩后小模型精度的常用算法 一 概念 模型剪枝-细粒度划分： 根据修剪的最小单位区分方法 非结构性剪枝：权重剪枝、向量剪枝、kernel剪枝，这类剪枝会造成模型结构不规则化，所以需要特殊的硬件设计来支持稀疏操 阅读全文

摘要： io模型 有哪些网络io模型？哪些网络操作可以是异步的？ 常见的网络 IO 模型有：同步阻塞 IO，同步非阻塞 IO，多路复用 IO 和异步 IO。 异步网络操作包括：连接请求，数据发送和数据接收。(不确定) select/poll/epoll select/poll与epoll区别 select 阅读全文

摘要： 代码： # -*- coding: utf-8 -*- import numpy as np def nchw_to_nc1hwc0(data, batch_size, num_channels, height, width, block_size): assert data.shape == (b 阅读全文

摘要： https://qiankunli.github.io/2022/01/27/recommend_system_note.html 阅读全文

摘要： Online softmax：https://arxiv.org/pdf/1805.02867.pdf FlashAttention：https://arxiv.org/pdf/2205.14135v2.pdf 阅读全文

摘要： SSD属于单阶段检测网络，重点关注PriorBox的生成。 PriorBox与多层特征图:与Faster RCNN类似,SSD利用了固定大小与宽高的PriorBox作为区域生成，但与Faster RCNN不同的是，SSD不是只在一个特征图上设定预选框，而是在6个不同尺度上都设立预选框，并且在浅层特征 阅读全文

摘要： 一 改进点 Mask RCNN的网络结构如图所示，可以看到其结构与Faster RCNN非常类似，但有3点主要区别: 在基础网络中采用了较为优秀的ResNet-FPN结构，多层特征图有利于多尺度物体及小物体的检测。 提出了RoI Align方法来替代Rol Pooling，原因是Rol Poolin 阅读全文

摘要： V1 CNN网络将resize后的图像分割成S x S的单元格，若目标的中心点落在某一单元格，则该单元格负责检测该目标，输出该目标的类别和边框坐标。 【Bboxes pre1】每个grid预测B个框(及对应的置信度)和C个类别的条件概率。条件概率:假设改grid存在物体的条件下，是某个类别得概率。生 阅读全文

摘要： anchor-proposal-ROI-Bboxes 【anchor】经过3*3卷积后得到特征图大小为40*60，共2400个点，每个点设置9个anchor，一共得到40*60*9大约20000个候选区域 生成40*60大小的特征图，特征图上每个点设置9个anchor，如何实现：通过过1*1卷积，把 阅读全文

摘要： 1 #ifndef THREAD_POOL_H 2 #define THREAD_POOL_H 3 4 #include <vector> 5 #include <queue> 6 #include <memory> 7 #include <thread> 8 #include <mutex> 9 阅读全文