机器学习 - Building Brains to Understand the World's Data

原视频地址： https://www.youtube.com/watch?v=4y43qwS8fl4

 

构建神经网络可以参考人类的神经网络。

 

 

由感官接收外界信息 -> 建立模型 -> 决定反应行为 -> 通过行为作出回应并接受更多的信息 -> 循环

 

这套系统有6个理论：

1. 接收信息和处理信息是一个流，并不是一批信息进来处理完了再传输一批结果出去，而是一直在不停地边接收边处理边回应

2. 神经网络是层次结构的记忆网络， 多个部分会联合处理同一件事

3. 储存信息的时候是序列化模式，我们尝试记录一种信息都是一条一条的去记，不会存在同时记多个东西的情况。比如通过视觉记录看到的东西，只能从一部分一部分的去观察并记录自己看到的东西。每次记录只会记录下松散的一部分内容，多次记录后大脑会把这些记录重叠，在回忆时，从不同时间的记录里抽取内容进行联系，最终得到相对完整的结果。

4. 稀疏的分布表示，大部分储存空间是松散的，当我们记住事情的时候，往往只会记住自己认为关键的松散的一部分，这样的好处是在分析这件事有没有在我记忆中，找到相关的所有信息进行拼凑时效率很高。比如：我记3.141592658，我可能看一遍的时候只会记3.14后面一堆数字然后有个58， 还记得有个1592658，然后看到3.141592658的时候就能很快反应过来这可能是个圆周率，而且我见过，当然这样有时会出现错误，把东西搞混一类的，但是对于我们日常已经足够了。正是因为我们的神经是这样的运作模式，所以我们日常很容易出现看到一个东西觉得很熟悉但是就是想不起来具体细节的情况，或者把两个有部分相同的东西搞混的情况。而这种错误的出现在人工智能上是完全可以接受的。

5. 每个部分都是在一边感知一边运动的

6. 注意力，记录和处理的事务是有轻重缓急的，会有一些信息被认为时重要的。反映在人工智能上就是训练的时候这部分信息权重增加。（attention）

 

 

现在的人工智能：

获取信息 ->  储存 -> 建立模型 ->处理后做出回应

问题：模型只能处理对应的专有情况。，大部分储存没有意义，都是临时性的

 

未来的人工智能：

输入信息 -> 网上的模型库 -> 给出回应

这个模型库需要是松散的， 有大量的联系的，可以不断自我学习的。

所以将来的人工智能：

容量更大，更多感官，流动的（边接收边处理边输出）， 松散的层次的结构

 

最后吐槽了一下思维上传这种东西- -他觉得这玩意很可笑，啊我永生了，一关电脑我睡觉了，再一开，啊我还是我，我永生了。。。

然后他觉得智械危机不会出现。