让我们来开发一种更类似人脑的神经网络吧(三)
有些时候,一些思路闪电般闪过脑际,一下子照亮混沌的天空,却怎么也抓不住。我需要博客这样的外存,来帮助我记下思绪的碎片,逐渐拼凑出闪电的样子,让它持续照亮我的脑海。
关于生物神经网络的模型,我一直都在构想,一直都不得要领,直到今天坐在易买得的门口等lp出来,翻看着《机器学习》,大脑不着边际得思考着。突然一种模式出现在脑中,它似乎能够解决之前想到的不少问题,但又一下子想不清楚。现在回到家我尝试用记录博客的方式整理一下我的思路。
1.首先应该有游离的神经元,存在于脑海中,等着被利用。
2.其次训练神经元应该也是一个神经元,也有输出,而且一直存在于脑中。而不像bp网络中那样,训练结束,导师信号就不存在了。
3.输入信号应该和导师神经元直接连接,其实导师神经元应该就是另外一个输入而已。
4.训练的目的不是为了解决问题(bp网络生来就被赋予了太重的任务),而是为了了解问题,理解和记忆外部世界。因此可能没有明确的输出神经元,只是经过训练后,输入神经元和脑中的某些游离的神经元建立了联系。
5.一次训练就应该直接建立起明确的联系,几乎等于把输入向量记录下来,应该是记录在权值中。
6.训练逻辑应该非常非常简单,就是:任意两个同时激活的神经元之间建立连接。