分布式 - 分布式系统的特点
20世纪60年代,IBM研发了System 360架构大型机,与同时期的波音707、福特汽车誉为商业三大成就,凭借其卓越的性能和良好的稳定性,开启了大型机的时代,诞生了非常多的集中式系统,采用单机架构,有非常好的单机处理能力。
然而,大型机的高性能也伴随着高成本,包括购买成本和运维成本,对运维人员的要求非常之高,需要掌握大型机紧密设计的技术细节。
并且购买成本也是极其昂贵,起步几百万刀,甚至更高,只有政府和金融等机构才有能力采购。
另一个问题,是当今大家都比较关注的单点故障,大型机设计在精良,也不代表它永不宕机,而一台大型机上面往往安装一个甚至多个重要的系统,一旦宕机,后果很严重。
美国国防部认为,如果仅有一个集中的军事指挥中心,万一被摧毁,全国军事指挥将处于瘫痪状态,因此,设计一个分散的,网络化的指挥通信系统十分有必要,1969年组建了第一个分组交换实验网ARPANET,1980年,TCP/IP(Transmission Control Protocol/Internet Protocol)研制成功,从此,奠定了分布式系统的基石 -- 网络和通信协议!
看起来,分布式最早出现的目地首先是解决单点问题,避免单点故障,然后解决了性能问题。
随着PC机性能的提升和普及,很多企业开始尝试将系统运行在PC服务器上,搭建基于分布式架构的系统,系统之间通过网络连接和通信,分布式系统严重依赖于网络。
一句话总结单机集中式系统和分布式系统的核心差异:单机系统运行于一台计算机上,而分布式系统是运行于网络之上!
而在前几年,Hadoop生态倡导基于普通PC构建大型分布式计算系统,并大获成功,加速了分布式架构快速普及和应用。
分布式的特点
分布式系统是一个各组件分布在不同计算机上,彼此通过网络通信和协调的系统。
这是来自《分布式系统概念与设计》一书中的定义,我给简化了一下,但核心就是上面提到的,分布式,顾名思义,系统的特定部分是分布在不同的计算机上,甚至是完全不在一个机房,或者一个地区的计算机上,各部分通过网络通信,使得整体看起来还是一个系统,对用户透明。
资源冗余
网络中的计算机本身都是对等的,没有主从之分,但是,分布式系统为了本身的健壮和可靠性考虑,会设计一些冗余来化解分布式系统本身存在的一些必然性。
冗余包括数据的冗余和服务的冗余,数据通常会有一主和多个副本,主数据丢失,系统会读取副本数据,继续对外提供服务;
而服务的冗余是同样一个服务,会运行在多个计算机节点上,每一个服务都有能力对外提供完整或部分服务。
并发问题
如上所述,一个系统服务可能存在多个运行实例,由于是同时运行,就可能会并发的操作一些共享资源,诸如数据库,分布式文件系统等,如何准确高效的协调并发操作,避免阻塞,保证一致性,是分布式架构设计中最大的挑战之一!
全局时钟
请参考论文:《Time and clocks and ordering of events in a distributed system》或者 time-and-clocks-and-ordering-of-events-in-a-distributed-system
,深刻的剖析了分布式系统多节点之间缺乏全局时钟序列控制的问题,如何保证事件发生的精确的先后顺序。
环境问题
分布式系统的优势是网络化,为系统的扩展提供了可能性,然而,分布式最大的问题也是网络化带来的各种不确定因素,从工业的角度来说,网络问题是分布式系统的原罪,给分布式系统的设计和实现都带来了极大的难题和挑战。
网络的不可靠性
假如CPU一次计算需要1s,那么,一次从旧金山到纽约的网络请求,大约需要5年,到香港需要11年
所以,网络的俩个问题,1,不能保证信息的完整性和必达性,存在数据丢包的问题;2,延迟,在整个系统当中,网络延迟是最耗时的部分,各部分性能对比请参考:Computer Latency at a Human Scale。
网络分区
当网络通信出现异常,导致分布式系统中部分节点之间的网络延时不断增大,最终,只有部分节点之间的通信是正常的,整个分布式系统变成几个小组,这个现象称为网络分区,也会形成脑裂。
因此,分布式系统被强行分为几个局部的小集群,并且都会按照一致性算法选举出自己的master,这个有点像战国时期的中国,这就是网络分区,也是脑裂。
可怕的是,每个小集群都可以正常对外服务,出现数据严重不一致的情况,因此,网络分区,数据一致性,再加上可用性(就是出现前面两种情况你怎么办?),被称为传说中的CAP定理,
这些情况对分布式系统的设计,工程实践提出了非常大的挑战。
三态
在集中式的系统中,模块之间的调用状态只有俩种状态,就是成功和失败,而在分布式系统中,模块之间可能是通过网络通信的,所以就多了一种超时的状态。
超时状态通常会出现在一下俩种情况:
- 由于网络原因,请求并没有被成功的发送到接收方,在过程中丢失;
- 请求被成功的发送到接收方,并进行了处理,但是,接收方在响应给发送方的过程中,数据丢失了,发送方没有收到反馈。
因此,成功、失败、超时是分布式系统通信的三种状态,称为三态。
节点故障
节点故障是分布式系统中另一个很常见的问题,指的是分布式组成的节点当中,有的节点因为宕机、或者进程退出,出现的节点故障。
根据经验,每个节点都有可能出现故障,并且每天都有可能发生,所以,分布式设计,除了要考虑网络问题,另一个重要的考虑因素是节点故障。
小结
本文主要讨论了一下集中式系统的过去,和分布式系统盛行的当下和缘由,以及分布式系统的特点、困境,后面会继续出一些关于分布式系统的相关内容,讨论分布式系统的方方面面。