摘要:云计算技术的发展,各种网络云盘技术如雨后春笋,层出不穷,百度、新浪、网易都推出了自己的云盘系统,本文基于开源框架Hadoop设计实现了一套自己的网络云盘系统,方案为初步设计方案,不断完善中。
阅读全文
08 2013 档案
摘要:引言 Hadoop提供的HDFS布式文件存储系统,提供了基于thrift的客户端访问支持,但是因为Thrift自身的访问特点,在高并发的访问情况下,thrift自身结构可能将会成为HDFS文件存储系统的一个性能瓶颈。我们先来看一下一不使用Thrfit方式访问HDFS文件系统的业务流程。一、HDFS文件读取流程 流程说明:使用HDFS提供的客户端开发库Client,向远程的Namenode发起RPC请求;Namenode会视情况返回文件的部分或者全部block列表,对于每个block,Namenode都会返回有该block拷贝的DataNode地址;客户端开发库Client会选取离客户端最接..
阅读全文
摘要:引文: 个人名言:“同一条河里淹死两次的人,是傻子,淹死三次及三次以上的人是超人”。经历过上次悲催的面试,决定沉下心来,好好的补充一下基础知识点。本文是这一系列第一篇:进程间通讯之mmap。一、概念:什么是mmap? 通过共享存储实现进程间通讯是一个主要的进程间通讯的方式。它包括磁盘文件的共享和内存的共享,以前总是关注内存的共享,而忽略了磁盘文件的共享,也就是这里要讲的mmap。mmap地址映射是Linux系统提供的一种功能强大的系统调用,最典型的应用是用于显卡内存的映射。同样,对于普通的硬盘文件也可以进行mmap系统调用。mmap()系统调用使得进程之间通过映射同一个普通文件实现共享内存..
阅读全文
摘要:引文:线程模型(Threading Model)默认从进程域 (M:N 模型 ) 改为系统全局域 (1:1 模型 )在 AIX 5L 中,pthread 线程的默认模型是 m:n 方式,而从 AIX 6.1 开始,默认改为了 1:1 方式。这两种方式在系统中通过 AIXTHREAD_SCOPE 环境变量来进行控制。如果设置 AIXTHREAD_SCOPE=P,则线程模型为进程域(M:N 模型),设置 AIXTHREAD_SCOPE=S 则为系统域(1:1 模型)。1:1 模型下,每个用户空间的线程都对应于内核中的一个线程,线程的调度由内核在系统全局范围进行;而 M:N 模型下,多个用户线程对应
阅读全文
摘要:引子:线程死锁曾是多少程序员的噩梦,每每为此食不甘味,夜不成寐,一句话:苦不堪言。本文从几个场景入手,试图解开产生死锁的原因之谜。教科书:说的很具体,理解很抽象 关于死锁产生的原因《操作系统》中有比较好的说明: (1)因为系统资源不足。 (2)进程运行推进的顺序不合适。 (3)资源分配不当等。 关于死锁出现的必要条件也有比较具体的说明: (1)互斥条件:一个资源每次只能被一个进程使用。 (2)请求与保持条件:一个进程因请求资源而阻塞时,对已获得的资源保持不放。 (3)不剥夺条件:进程已获得的资源,在末使用完之前,不能强行剥夺。 (4)循环等待条件:若干进程之间形成一种头尾相接...
阅读全文
摘要:引文:学而时习之,不亦说乎。总是忙于具体项目,业务功能的实现;关于编程本身的技能都要有些生疏了,于是就选择了几个专题做了一次温习,重点放在了多线程和多进程上,跑了一个实例,居然有新的发现:(1)多个线程顺序创建的顺序=线程执行顺序吗?(2)多个线程顺序创建,回调函数执行顺序有规律吗?示例:#include "apue.h"#include void *thr_fn1(void *arg){ printf("thread 1 returning\n"); return((void *)1);}void *thr_fn2(void *arg){ printf
阅读全文
摘要:引子:本文是《SOA体系结构基础培训教程》第3章《SOA标准与规范》课件,版权所有,转载请注明出处。随着SOA在业界的应用日益广泛,SOA的标准化问题也成为各界日益关注的焦点。但是由于国际标准的不统一,给SOA的应用带来了不小的麻烦。好在中国SOA标准化小组的工作得到了普遍的认可,现在已经有部分标准通过了审核,确立了国家标准的地位。其中包括《信息技术 面向服务的体系结构(SOA)术语》,《信息技术 面向服务的体系结构(SOA)应用的总体技术要求》已经于2013年6月正式生效。本文旨在介绍SOA标准与规范的国际组织、国际标准,我国标准化组织,我国的SOA标准体系结构和当前SOA标准发展现状。不知
阅读全文
摘要:引言:最近受邀做了一个企业的SOA体系结构的内训,本文是内训课程的培训大纲,分享一下吧,希望大家能够喜欢。同时也想针对大纲中列出的内容对SOA架构体系做一次回顾,如果时间允许把完整的课件也想放上来共享一下吧。课程对象本课程主要面向企业高级IT管理人员,IT研发人员,企业信息化人员开发人员,设计人员,架构师,开发主管,项目经理。课程目的通过本课程的学习,学员能够学习到什么是SOA?SOA体系结构有什么特点?SOA体系机构常用的标准和规范有哪些?SOA体系结构能力成熟度如何度量和测算?SOA体系结构常用工具或技术有哪些?SOA体系结构与EAI,ESB是何种关系?SOA体系结构如何实施,SOA落地切
阅读全文