上一页 1 ··· 11 12 13 14 15 16 17 18 19 ··· 44 下一页
摘要: 作者: xumingming | 可以转载, 但必须以超链接形式标明文章原始出处和作者信息及版权声明转自网址: http://xumingming.sinaapp.com/466/twitter-storm-code-analysis-zookeeper-dirs/我们知道Twitter Storm的所有的状态信息都是保存在Zookeeper里面,nimbus通过在zookeeper上面写状态信息来分配任务,supervisor,task(两个实体)通过从zookeeper中读状态来领取任务,同时supervisor, task也会定义发送心跳信息到zookeeper, 使得nimbus可以监 阅读全文
posted @ 2013-01-08 16:10 zaleilynn 阅读(238) 评论(0) 推荐(0) 编辑
摘要: 转载自:http://www.infoq.com/cn/news/2011/09/twitter-storm-real-time-hadoopTwitter将Storm正式开源了,这是一个分布式的、容错的实时计算系统,它被托管在GitHub上,遵循 Eclipse Public License 1.0。Storm是由BackType开发的实时处理系统,BackType现在已在Twitter麾下。GitHub上基本是用Clojure写的。Storm为分布式实时计算提供了一组通用原语,可被用于“流处理”之中,实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。 Storm也可被用于“连 阅读全文
posted @ 2013-01-08 16:07 zaleilynn 阅读(197) 评论(0) 推荐(0) 编辑
摘要: git config --global user.name "Zhang Zhang"git config --global user.email "zhang_zhang@live.com"git config --global credential.helper cachegit config --global credential.helper 'cache --timeout=3600'创建工作目录git initgit remote add origin https://github.com/iieplatform/***.gi 阅读全文
posted @ 2013-01-08 14:42 zaleilynn 阅读(148) 评论(0) 推荐(0) 编辑
摘要: 转载自:http://dongxicheng.org/apache-mesos/mesos-base-libarary/1.Protocol bufferprotocalBuffer是google开源的用于数据交换的库,常用于跨语言的数据访问,担任的角色一般为对象的序列化/反序列化。 另一个与之类似的开源软件是facebook开源的thrift,它们两个最大区别是thrift提供了自动生成RPC的功能而Protocal Buffer需要自己实现,但ProtocalBuffer的一个优势是其序列化/反序列化非常高效。2.Libprocesslibprocess是采用C/C++编写的高效消息传递编 阅读全文
posted @ 2013-01-08 13:26 zaleilynn 阅读(1300) 评论(0) 推荐(0) 编辑
摘要: https://github.com/mesos/mesos/wiki/Using-ZooKeepermesos好像主要用zookeeper做为master选举,然后保持唯一的master在线http://dongxicheng.org/apache-mesos/meso-architecture/master做得尽可能地轻量级,其上面所有的元数据可以通过各个slave重新注册而进行重构,master里面包含的全为软状态 阅读全文
posted @ 2013-01-08 13:20 zaleilynn 阅读(258) 评论(0) 推荐(0) 编辑
摘要: 转载自:http://blog.sina.com.cn/s/blog_4a1f59bf0100qotf.htmlHadoop的调度示意图如下所示:在Mesos资源管理平台上,启动Hadoop计算框架的时候,只是启动了它的JobTracker,而并没有启动TaskTracker,这主要考虑到资源伸缩性的管理。下面将介绍,当在这种框架下提交一个Hadoop作业时,调度系统如何工作的。在Mesos启动的时候,只启动了JobTracker,并没有启动TaskTracker,那么提交的作业如何执行呢?在Mesos分析3的介绍中,ResourceOffer ---》ReplyToOffer ---》Res 阅读全文
posted @ 2013-01-08 10:08 zaleilynn 阅读(585) 评论(0) 推荐(0) 编辑
摘要: unlink的特殊地方: unlink一般用于服务进程,进程在unlink时不会立刻删除文件,而是在进程终止时删除文件,一些服务程序通过文件及对文件加锁来保持进程的唯一性,为了保证程序没有正常结束下次再启动时能正常启动,程序会在开始时新建一个文件然后调用unlink。原理就是,它减少了该文件的链接数,如果再没有程序打开它,那么它就会被系统删除。(程序结束之后会关闭打开它的文件句柄)。下面是一个简单的介绍:linux中每一个文件,都可以通过一个struct stat的结构体来获得文件信息,其中一个成员st_nlink代表文件的链接数。当通过shell的touch命令或者在程序中open一个带有. 阅读全文
posted @ 2013-01-07 23:53 zaleilynn 阅读(758) 评论(0) 推荐(0) 编辑
摘要: 转载自:http://linux.chinaunix.net/techdoc/net/2007/03/27/953429.shtmlltrace的功能是能够跟踪进程的库函数调用,它是如何实现的呢?在ltrace源代码从chinaunix.net中下载下来,做了一个粗略的分析。ltrace其实也是基于ptrace。我们知道,ptrace能够主要是用来跟踪系统调用,那么它是如何跟踪库函数呢?首先ltrace打开elf文件,对其进行分析。在elf文件中,出于动态连接的需要,需要在elf文件中保存函数的符号,供连接器使用。具体格式,大家可以参考elf文件的格式。这样ltrace就能够获得该文件中,所有 阅读全文
posted @ 2013-01-07 23:51 zaleilynn 阅读(729) 评论(0) 推荐(0) 编辑
摘要: 转载自:http://5iwww.blog.51cto.com/856039/771031strace 是一个非常简单的工具,用来跟踪可执行程序的系统调用(system call)。最简单的使用是,它追踪可行程序运行时的整个生命周期,输出每一个系统调用的名字,参数和返回值。但是它还可以做更多的事情:它可以基于系统调用或者系统调用组来过滤它可以通过计算制定系统调用的次数,花费的时间以及成功和失败的次数来描述系统调用的使用它可以追踪发送给进程的信号(signal)它可以通过进程id(pid)号加入到任意正在运行的进程上如何使用找出一个程序启动时读取了哪个配置文件有的时候,你发发现,无论你如何修改配 阅读全文
posted @ 2013-01-07 23:35 zaleilynn 阅读(370) 评论(0) 推荐(0) 编辑
摘要: strace(用来跟踪任何程序的系统调用)和 GDB 调试工具(用来在受控的环境中运行程序的功能齐全的调试工具)strace 专注于监控一个程序系统调用和它接受到的所有信号(与Unix系统上的truss是一样的),使用的是内核系统调用ptrace。另外,还有类似的ltrace(同样是基于ptrace的),它功能是能够跟踪进程的库函数调用。gdb比starce能做的事情更多,比如gdb可以获得堆栈跟踪信息,堆栈跟踪不仅会告诉你程序当前正在做什么,有底层的信息(如等待网络套接字),也有较高级别的信息(如正在执行什么类型的网络操作)。下面是使用过程中一些命令小结:strace调试工具strace工具 阅读全文
posted @ 2013-01-07 23:33 zaleilynn 阅读(290) 评论(0) 推荐(0) 编辑
上一页 1 ··· 11 12 13 14 15 16 17 18 19 ··· 44 下一页