摘要: 最近写服务,经常是单进程,多线程的,加了各种锁,很担心出现死锁问题,专门学习了一下死锁问题的诊断。 死锁 (deallocks): 是指两个或两个以上的进程(线程)在执行过程中,因争夺资源而造成的一种互相等待的现象,若无外力作用,它们都将无法推进下去。此时称系统处于死锁状态或 系统产生了死锁,这些永 阅读全文
posted @ 2016-06-06 17:40 Angels-Wing 阅读(9608) 评论(0) 推荐(0) 编辑
摘要: 关于工具,大家理解是一种可以用提高工作效率的,在大数据平台,工具也是很重要的,很多时候我们分析大数据涉及很多重复性的体力劳动,假如我们可以将一些操作工具化,可以大大提高开发的效率。 比较有名的工具,大家能想到的是 Mapreduce,帮我们实现程序并行化。Sql,帮我们很快实现一个Mapreduce 阅读全文
posted @ 2016-06-06 17:38 Angels-Wing 阅读(299) 评论(0) 推荐(0) 编辑
摘要: 分布式计算系统中,为了高效利用资源,经常需要一个合理的调度器帮我们自动完成任务的合理调度和运行。不管是系统级别,还是应用级别。只要在资源有限的系统上运行任务,一个设计合理的调度器是很有用的。 在操作系统上,我们为了充分利用CPU,内存,磁盘,网络。 在分布式计算系统上,我们充分利用计算平台的抽象的计 阅读全文
posted @ 2016-06-06 17:29 Angels-Wing 阅读(262) 评论(0) 推荐(0) 编辑
摘要: 一.Linux的文件信息 linux文件被保存在文件系统下,由以下属性组成: ls -l 之后看到的信息 从左到右可以看到文件的以下属性 各种类型 访问权限 链接数(跟 inode相关,ln 硬链接(会增加同一个inode对应的文件数目),ln -s软链接) 文件拥有者 文件拥有组 修改时间等 文件名二. 本文重点介绍各种类型和访问权限举例: -rwxrwxrwxdrwxrwxrwxsrwxrwxrwxdrwsrwsrwt三. 最开始的bit表示文件类型: 文件类型的缩写、翻译及别称文件类型缩写英文其他名称普通文件-Regular file目录文件dDirectory file块特殊文件bB. 阅读全文
posted @ 2013-10-16 15:51 Angels-Wing 阅读(683) 评论(0) 推荐(0) 编辑
摘要: ORACLE调用接口(Oracle Call Interface简称OCI)提供了一组可对ORACLE数据库进行存取的接口子例程(函数),通过在第三代程序设计语言(如C语言)中进行调用可达到存取ORACLE数据库的目的。OCI就是为了实现高级语言访问数据库而提供的接口。OCI允许开发者在程序里使用SQL和PL/SQL来访问数据库。开发者可以使用第三代语言来编写程序,而使用OCI来访问数据库。OCI是由一组应用程序开发接口(API)组成的,ORACLE提供API的方式是提供一组库。这组库包含一系列的函数调用。这组函数包含了连接数据库、调用SQL和事务控制等。在安装DBMS SERVER或者客户. 阅读全文
posted @ 2013-06-03 16:17 Angels-Wing 阅读(755) 评论(0) 推荐(0) 编辑
摘要: 什么是高可用性?高可用集群是指以减少服务中断时间为目的的服务器集群技术。高可用性HA(HighAvailability)指的是通过尽量缩短因日常维护操作(计划)和突发的系统崩溃(非计划)所导致的停机时间,以提高系统和应用的可用性。高可用性(HA)的功能:1、软件故障监测与排除2、备份和数据保护-3、管理站能够监视各站点的运行情况,能随时或定时报告系统运行状况,故障能及时报告和告警,并有必要的控制手段4、实现错误隔离以及主、备份服务器间的服务切换背景分析:HDFS的高可用性(HA)是Hadoop的一个缺点,不管是HDFS还是Map-Reduce,都是采用单master的方式,集群中的其他机器都是 阅读全文
posted @ 2012-09-06 10:48 Angels-Wing 阅读(873) 评论(0) 推荐(0) 编辑
摘要: 经常被问到,关系型数据库的局限性到底是什么? 为什么有些场合要用nosql了, 不用关系型数据库了?这对于研究数据库,研究海量数据的人来说应该是必知的常识,可惜经验有限的我每次都只能答个大概,不能很全面,细致得回答,暴漏了知识的欠缺,这里决定总结一下: 可能要从CAP的角度入手: 关系型数据库有ACID的特性,面向行的存储,主要适合于事务性要求严格场合,或者说面向行存储的存储系统适合OLTP,但是根据CAP理论,传统的RDBMS,为了实现强一致性,通过严格的ACID事务来进行同步,这就造成了系统的可用性和伸缩性方面大大折扣。目前的很多NoSQL产品,包括Hbase,它们都是一种最终一致性的系. 阅读全文
posted @ 2012-03-06 12:49 Angels-Wing 阅读(456) 评论(0) 推荐(0) 编辑
摘要: 最近在做分布式的服务,主要就是提供字典给客户端查询,或者有客户端写入,主要用于增量式的服务参考历史信息,完成批量处理需要完成的任务。看着还是很吸引人的,但是要想这个服务做得好,还是有许多需要注意的地方,首先,我们想象中服务的模型就是,多台服务器每台负责一部分数据,客户端对这些数据的访问是随机的,客户端来的数据与服务端存储的数据分布是一样的,这样不会产生热点问题,不会产生数据倾斜,随机性就可以很好的保证分片之后每个节点存储的数据量是差不多的,这是负载的均衡,每天新增加的数据的特点(随机性)也决定了不会出现热点服务,如果每天的采集量在整体上有倾斜的,那么还要找出这个倾斜的规律,或者,根据这部分增. 阅读全文
posted @ 2011-08-10 22:28 Angels-Wing 阅读(381) 评论(0) 推荐(0) 编辑
摘要: java里面有 String StringBuffer, String对象会有自己的pool,内容不可变,但是我们平时用的String变量都是String的引用。字符串连接操作,StringBuffer.append 会比String的+=高效率很多,尤其频繁连接操作的时候。String s=new String(“ddddd”);创建两个对象一个是常量”ddddd“,一个是它的引用s。 s可以重新指向别的对象。此时String s2=“ddddd”;就是只创建了一个象引用,而且此时s==s2 是true。而String s2=new String(“ddddd”);就是两个对象,而且s==s 阅读全文
posted @ 2011-08-10 01:13 Angels-Wing 阅读(804) 评论(0) 推荐(0) 编辑
摘要: http://www.cnblogs.com/longyi1234/archive/2010/03/22/1691904.html关于排序,似乎很简单的很常见的概念,却蕴含着很多技术,下面是从不同的角度,对排序的总结:1 按照排序特性分类首先按照排序本身的操作特性可以分为下面几种:插入排序直接插入排序(Insert Sort) O(n^2)(稳定)折半插入排序(Binary Insert Sort)(不稳定)希尔排序(Shell Sort)(不稳定)交换排序冒泡排序(Bubble Sort) O(n^2)(稳定)快速排序(Quick Sort)?? O(nlogn)(不稳定)选择排序直接选择排 阅读全文
posted @ 2011-08-09 11:27 Angels-Wing 阅读(205) 评论(0) 推荐(0) 编辑