awesome github

Awesome github repository

• 2020AI会议时间
• pytorch各种loss的实现， focal loss的总结
• fair公用的函数: 里面有focal loss实现、FLOP计算等常用函数的实现
• CVPR开源代码
• learning rate warm up
• PFLD人脸关键点检测：使用MobileNet和focal loss，还有pytorch转onnx，camera等的代码，非常值得借鉴。

knowledge distillation

• awesome-knowledge-distillation 有关知识蒸馏的repo集合，包括论文、代码
• knowledge_distillation_zoo :各种知识蒸馏方法的简单实现
• 学习拟合target
  • KD:Hinton论文的pytorch实现，B站视频
  • NAS+KD：Search to Distill
  • Deep mutual learning : pytorch实现多个学生网络相互之间进行学习，但是其目的不是为了压缩模型，而是提升模型的性能 还有tf实现
• 学习拟合特征
  • FitNets：学生网络去学习教师网络的feature map，代码基于theano 另一个实现 : too old, looked
  • attention transfer: 学生网络学习教师网络的热力图， looked， csdn有代码的注释
  • Distillation of the boundaries : AAAI2019论文，值得一看
• 学习相互关系
  • Relational knowledge distillation: 学习examples的输出之间的关系
• Teacher-Assistant-Knowledge-Distillation: 在教师网络和学生网络之间增加assistant，帮助其进行学习 -- to look
• self distillation 自己训练自己，不需要教师网络

数据结构刷题

coding-interviews python实现剑指offer

Keras

deep learning with keras Keras的教程材料，有yolo等

python深度学习：keras之父写的keras教程，值得一看

Pytorch

pytorch handbook： 一本开源书籍，介绍pytorch的基本操作

pytorch for research learning: pytorch教程，github标星很高

pytorch-image-models: pytorch中计算机视觉模型的实现和训练脚本

imgclsmob: 基于五种框架的各种CNN网络复现，另外还有训练的脚本

人脸属性识别

FaceAttr-Analysis : pytorch，很多不同的网络实现，如SENet，Resnet等

face-attribute-prediction ： pytorch，使用ResNet和MobileNet

FaceAttribute : pytorch，使用focal loss对六个属性进行预测

fastai-face-attr: 使用fastai进行属性预测

Data imbalance

Awesome imbalanced learning

行人属性识别

pedestrian attribute recognition：行人属性识别论文、开源代码

CNN-RNN：使用CNN-RNN进行行人属性识别
Multiple Instance Learning：pytorch实现三篇CNN-RNN的行人属性识别论文
some discussion
CNN-RNN from standford

图卷积神经网络

Multi-label with GCN: 官方pytorch实现
pedestrian with GCN：GCN进行行人属性识别