什么是 MAX OUT

可以参考这篇文章：

Maxout激活函数原理及实现 - 简书 (jianshu.com)

其中文章中的这张图片是精华.

 

另外我觉得还可以这样子理解:

 

 也就是说，从左到右做线性层运算，然后堆叠起来，在列方向取最大值作为max out的输出。（画的有点丑つ﹏⊂）