摘要：
信息论(Information Theory) “信息”是指一组消息的集合。 假设在一个噪声通道上发送消息，我们需要考虑如何对每一个信息进行编码、传输以及解码，使得接收者可以尽可能准确地重构出消息。 信息论将信息的传递看作一种统计现象。 信息传输 信息压缩 熵(Entropy) 在信息论中，熵用来衡 阅读全文
摘要：
神经网络与深度学习绪论 人工智能的一个子领域 神经网络：一种以（人工）神经元为基本单元的模型 深度学习：一类机器学习问题，主要解决贡献度分配问题 知识结构 学习路线图 预备知识 线性代数 微积分 数学优化 概率论 信息论 推荐课程 斯坦福大学CS224n: Deep Learning for Nat 阅读全文