现在网上对大数据有结构化和非结构化的争论,前者如XML,后者象网页上的文字、图片、音视频等内容。孰优孰劣,在这里我不想去评论它。我想说的是,应该换一个角度来看待这个问题,就是说,无论这些数据无论它外在表象是什么,到了CPU、磁盘层面,它们都是一串数据流,或者称字节数组。如果让这些数据能够被计算机处理和产生价值,它的前提是必须能够被CPU理解和计算。所以,在这个概念基础上,我在Laxcus体系设计里,对数据采用的是一种可格式化(formatable)的处理方案。这个方案简单来说就是这样:数据进入磁盘和CPU前,它们首先做一个预处理,被拆解成CPU理解的,或者能够按照一种即定规则,能够被CPU理解的格式。现在Laxcus的所有数据,都是按照这种方案来采集、整理、处理数据。这样做的好处有两个:1.因为规则明确,体系设计相对就简单了;2.在CPU层面,数据的处理速度会很快。典型的象SQL.LIKE这样模糊检索,在数据库里都很慢,但是在Laxcus分布环境下,这样的数据处理也可以马上获得结果。
posted on 2015-08-22 08:42  laxcus  阅读(244)  评论(0编辑  收藏  举报