云设计模式介绍

image

以及它们如何帮助应对分布式计算的谬误

    作为构建分布式系统的软件工程师,我们经常遇到诸如不可靠的网络、延迟问题和安全问题等挑战。"分布式计算的谬误"描述了如果未解决,可能导致系统故障的常见误解。但认识到这些陷阱只是开始。真正的问题是:我们如何有效地克服它们?这就是云设计模式发挥作用的地方。这些模式为分布式计算固有的挑战提供了实用的解决方案。本文将探讨数据管理、设计、消息传递、安全性和可靠性方面的重要云设计模式。使用这些模式可以让您在不陷入常见错误的情况下,应对分布式系统的复杂性。那么,让我们深入探讨。

分布式计算的谬误

    作为软件工程师,我们经常构建跨越多个服务器、数据中心甚至大陆的系统。分布式计算已成为现代应用程序的支柱,实现了以前难以想象的可扩展性和弹性。然而,尽管它无处不在,但常见的误解——被称为“分布式计算的谬误”。我们收集了“分布式计算的谬误”的声明,以说明不熟悉分布式应用程序的程序员经常做出的错误假设。我们在创建微服务架构时经常看到的是,应该解决这些谬误。

以下是谬误列表:

  • 网络是可靠的。这是最关键的谬误。网络本质上是不可靠的,容易出现中断、延迟和恶意攻击。分布式系统必须设计得能够优雅地处理这些不可避免的小问题。

示例:如果微服务应用程序没有优雅地处理网络超时,可能会导致服务故障。

  • 延迟为零。每个动作都有反应,分布式系统也不例外。消息需要时间传播,计算需要时间完成。忽略延迟可能导致性能瓶颈和不可预测的行为。

示例:如果实时分析平台没有考虑数据传输延迟,可能会提供过时的见解。

  • 带宽是无限的。虽然带宽不断增加,但它并不是无限的。分布式系统经常生成大量数据,低估带宽限制可能导致减速和拥堵。

示例:未经压缩的高分辨率视频流可能会压倒网络资源,导致缓冲和延迟。

  • 网络是安全的。您的数据并非因为分布在多台机器上就不可战胜。分布式系统提供了更大的攻击面,安全考虑必须融入设计的基本结构中。

示例:通过不安全的网络传输敏感数据可能会导致恶意行为者截获数据。

  • 拓扑不会改变。网络是动态实体,随着节点的添加、删除或重新配置而不断演变。分布式系统需要适应这些变化而不失一步。

示例:配置文件中的固定IP地址可能会导致服务器移动或重新寻址时服务中断。

  • 只有一个管理员。在现实世界中,分布式系统通常跨越许多管理域。理解和协调这些边界对于顺利运行至关重要。

示例:部门之间的不一致的防火墙规则可能会造成安全漏洞或连接问题。

  • 传输成本为零。然而,通过网络发送数据并不免费。每次跳转都会产生成本,无论是在时间还是资源上。优化数据传输对于高效的分布式系统至关重要。

示例:云服务中的过多API调用可能会因数据出站费用而增加成本。

  • 网络是同质的,不同的网络具有不同的特性。在本地网络上有效的可能在全局互联网上表现不佳。分布式系统需要灵活且能够适应多样化的网络环境。

示例:为高速有线连接优化的应用程序可能在移动网络上表现不佳。

image

理解这些谬误是构建可靠的分布式系统的第一步,但也要:

  • 设计具有冗余和容错能力的系统。
  • 建立监控和警报系统。
  • 将安全最佳实践和数据加密放在首位。
  • 优化通信协议以提高效率和性能。
  • 选择适合系统特定需求的技术和架构。

云设计模式

     这些设计原则可用于创建可靠、可扩展和安全的云系统。大多数云工作负载都容易受到分布式计算谬误的影响,因此这些模式提高了认识并减轻了它们,包括权衡。我们可以将云设计模式分为三个一般组。每个模式可以应用于任何分布式系统,无论是在本地托管还是在云平台上。

image

主要的云设计模式是:

1.数据管理

     云应用的主要组成部分是数据管理,它影响着大多数质量标准。数据托管在许多服务器和位置,以提高性能、可扩展性或可用性。这可能会带来几个困难。例如,通常需要在许多地方之间同步数据以确保数据一致性。

image

这组中最重要的模式是:

缓存旁路Cache-Aside模式:通过缓存频繁访问的数据来提高应用程序性能并减少对数据存储的负载。

  • 场景:从缓存中读取数据,如果缓存未命中则从数据库读取并更新缓存。
  • 案例:通过Redis提升数据库查询效率。
  • 工具链:Redis、Memcached。
  • 架构评估:适合高频查询且数据更新较少的场景。


命令和查询责任分离(CQRS)模式:分离读写操作以优化性能、可扩展性和安全性。

  • 场景:分离读写操作以提高性能。
  • 案例:写操作更新数据库,读操作从缓存获取数据。
  • 工具链:EventStore、Axon。
  • 架构评估:适合高并发的应用,提供更高的扩展性。


事件溯源Event Sourcing模式:维护应用程序数据的完整变更历史。

  • 场景:通过事件重放恢复系统状态。
  • 案例:交易系统中保存每个交易事件以确保审计和一致性。
  • 工具链:Kafka、EventStore。
  • 架构评估:适合对历史数据重现有需求的场景。


物化视图Materialized View模式:通过预计算和存储复杂查询的结果来提高查询性能。

  • 场景:预先计算并存储查询结果以加速访问。
  • 案例:通过数据库物化视图提高复杂查询的性能。
  • 工具链:PostgreSQL、MongoDB。
  • 架构评估:适用于复杂计算查询场景,提升系统响应速度


分片Sharding模式:通过跨多个数据库或服务器分区数据来扩展数据存储。

  • 场景:将数据水平切分到多个数据库实例。
  • 案例:通过分片将大数据分布在多个数据库以提高性能。
  • 工具链:Cassandra、MongoDB。
  • 架构评估:适用于大规模数据存储,确保数据查询和存储的高扩展性


Valet Key代客钥匙模式:为客户提供对特定资源的安全、临时访问,而不会暴露敏感凭据。

  • 场景:为临时用户生成短期访问凭证。
  • 案例:用户上传文件时,生成限时的S3上传URL。
  • 工具链:AWS S3 Pre-Signed URL、Azure SAS Token。
  • 架构评估:适用于临时授权的场景,确保安全性和便捷性。


Index Table(索引表)

  • 场景:创建索引表以提高查询效率。
  • 案例:为高频查询的数据库创建专用索引表。
  • 工具链:Elasticsearch、DynamoDB。
  • 架构评估:适合需要快速查询特定数据的场景。


2.设计和实现

    良好的设计包括可维护性,以便于管理和开发,可重用性,允许组件和子系统在不同的应用程序和上下文中使用,以及组件设计和部署的一致性和连贯性。在设计和实现阶段所做的决策影响云托管应用程序和服务的质量和总拥有成本。

image

这组中最重要的模式是:

绞杀者Strangler Fig模式:通过用新应用程序或服务替换特定部分来逐步迁移遗留系统。

  • 场景:逐步用新系统替换旧系统。
  • 案例:在不影响现有功能的前提下替换旧的单体架构。
  • 工具链:Kubernetes、Blue-Green Deployment。
  • 架构评估:适合逐步迁移项目,避免大规模重构带来的风险。


反腐败层Anti-Corruption Layer模式:当集成具有不同模型或范式的遗留或外部系统时,这种模式保护新系统的完整性。

  • 场景:防止不同系统间的模型和数据污染。
  • 案例:旧系统与新系统集成时,确保数据一致性和隔离。
  • 工具链:Apache Camel、Spring Integration。
  • 架构评估:适合迁移项目,确保系统之间的边界清晰。


舱壁Bulkhead模式:通过隔离一个组件中的故障,防止影响其他组件,从而增加系统的弹性。

  • 场景:分离关键资源,防止故障蔓延。 系统的某些组件或服务出现故障时,希望其他组件能够继续正常工作,避免“雪崩效应”。需要将不同服务的资源隔离,以避免一个服务消耗过多资源导致整个系统崩溃。
    在一个微服务系统中,假设服务A和服务B都访问同一个数据库,可以为每个服务分配独立的数据库连接池。即使服务A耗尽了所有连接,服务B仍然可以继续访问数据库。
  • 案例:微服务架构中为不同服务设置独立的资源池。 在高并发场景下,防止某个模块消耗过多线程或内存资源,影响整个系统的运行。
  • 工具链:Hystrix、Resilience4j,Kubernetes可以为不同服务定义资源限制(如CPU、内存),实现隔离舱的概念。
  • 架构评估:适用于分布式系统中容灾场景,可提升系统的隔离性与弹性。


边车Sidecar模式:部署一个并行组件来扩展或增强服务的功能,而无需修改其代码。

  • 场景:在微服务旁边运行的辅助服务,提供额外功能。
  • 案例:在Kubernetes中为每个服务运行一个Sidecar容器。
  • 工具链:Envoy、Istio。
  • 架构评估:提高微服务的可观察性和管理能力。


服务端对前端(Backends for Frontends)模式:涉及创建针对不同客户端应用程序(例如,Web和移动)需求量身定制的单独后端服务。

  • 场景:为不同前端提供专用的后端服务。
  • 案例:移动端与桌面端分别有各自的后端服务。
  • 工具链:GraphQL、Apollo Server。
  • 架构评估:提升前端性能和后端灵活性,适合多端系统。


Ambassador(大使模式)

  • 场景:在微服务和外部系统之间创建代理。
  • 案例:在微服务和外部数据库间使用代理处理通信。
  • 工具链:Envoy、HAProxy。
  • 架构评估:增强外部依赖的可扩展性和安全性。


Compute Resource Consolidation(计算资源整合)

  • 场景:将多个计算任务整合到一个资源池中。
  • 案例:在Kubernetes中整合不同的工作负载以节省成本。
  • 工具链:Kubernetes、Nomad。
  • 架构评估:适合多任务整合的场景,最大化计算资源利用率。


External Configuration Store(外部配置存储)

  • 场景:将配置存储在外部系统中以支持动态更新。
  • 案例:通过Consul或Etcd实现配置的集中管理。
  • 工具链:Consul、Etcd、Spring Cloud Config。
  • 架构评估:适合配置频繁变动或需要动态更新的场景。


Gateway Aggregation(网关聚合)

  • 场景:通过网关聚合多个请求以减少客户端请求次数。
  • 案例:API Gateway聚合多个微服务的响应。
  • 工具链:Nginx、Kong。
  • 架构评估:适用于减少客户端对多个服务的请求次数,提高性能。


Gateway Offloading(网关卸载)

  • 场景:将一些功能(如SSL处理)卸载到网关层。
  • 案例:Nginx网关负责SSL终止,减少后端服务压力。
  • 工具链:Nginx、AWS API Gateway。
  • 架构评估:提高后端性能,减少不必要的处理负载。


Gateway Routing(网关路由)

  • 场景:通过网关对不同的服务进行路由。
  • 案例:API Gateway根据请求路径将请求路由到不同服务。
  • 工具链:Kong、AWS API Gateway。
  • 架构评估:适合微服务架构中的请求管理,提升系统灵活性。


Leader Election(领导选举)

  • 场景:在集群中通过选举选择一个领导者。
  • 案例:Kafka集群中的领导者选举。
  • 工具链:Zookeeper、Etcd。
  • 架构评估:适用于分布式系统中的高可用性和容错性。


Static Content Hosting(静态内容托管)

  • 场景:将静态内容托管在外部服务上,减少后端负载。
  • 案例:通过CDN托管静态网页内容。
  • 工具链:AWS S3、Cloudflare。
  • 架构评估:提升静态内容加载速度,减少后端服务压力。


3.消息传递

由于云应用程序是分布式的,因此需要消息传递基础设施来连接各个部分和服务。这种基础设施应该是松耦合的,以允许最大的可扩展性。异步消息传递很受欢迎,有许多优点,但也有缺点,如排序消息、管理毒药消息、幂等性等。

image

这组中最重要的模式是:

基于队列的负载均衡Queue-Based Load Leveling模式:通过缓冲传入请求并确保系统能够平滑处理负载波动来管理变化的工作负载。

  • 场景:通过队列平衡请求的突发负载。
  • 案例:消息队列处理异步请求。
  • 工具链:RabbitMQ、AWS SQS。
  • 架构评估:用于缓解高峰负载压力,提升系统响应能力。


    发布-订阅模式:使应用程序能够向多个消费者广播消息,而不必与它们紧密耦合。

    • 场景:通过事件发布通知多个订阅者。
    • 案例:电商系统中用户下单后通知多个服务。
    • 工具链:Kafka、Redis Pub/Sub。
    • 架构评估:适合事件驱动的系统,提升系统的扩展性和解耦能力。


    竞争消费者模式:通过让多个消费者并发处理消息来增强可扩展性和吞吐量。

    • 场景:多个消费者同时处理消息队列中的消息,增加吞吐量。
    • 案例:多个消费者从同一个Kafka Topic中读取消息。
    • 工具链:Kafka、RabbitMQ。
    • 架构评估:适合高吞吐的任务处理,确保任务负载在多个实例间分配。


    消息代理模式:通过引入处理消息路由、转换和传递的中间件来解耦应用程序。

    1)场景
    • 当应用程序中的组件或服务需要通信,但不希望直接相互依赖时。可以通过消息代理作为中间层来传递消息。
    • 系统需要处理大量异步任务,或将任务分发给多个消费者时(例如,处理日志、事件、任务队列等)。
    • 服务间需要通过异步通信来应对高并发或高吞吐量的场景,避免服务直接调用带来的性能瓶颈或故障蔓延。
    • 系统中可能有多个消息生产者和消费者,需要灵活控制消息流、优先级、负载均衡等功能。
    2)案例
    • 电商订单系统:当用户下单后,系统会触发多种异步任务(如通知库存系统减少库存、通知物流系统发货、通知用户服务系统发送确认邮件等)。消息代理可以确保订单服务通过消息队列分发任务,而不需要与各服务直接通信。
    • 日志处理系统:应用程序将大量日志信息异步发送到消息代理,由多个消费者(如日志分析服务、监控服务等)来处理和分析日志信息。
    • 银行支付系统:用户发起支付请求时,支付服务通过消息代理通知其他系统(如风控、账户管理、通知服务等)处理相关事务。消息代理可确保系统间通信的可靠性与异步处理能力,提升整体系统的可扩展性。
    3)工具链
    • Apache Kafka:一个分布式的流处理平台,广泛用于高吞吐量的实时数据管道、日志处理、事件驱动架构等场景。它支持持久化和回放消息。
    • RabbitMQ:一种轻量级的消息队列系统,支持多种消息模式(如发布/订阅、工作队列、路由等),适合中小型异步任务的处理。
    • ActiveMQ:Apache基金会的消息代理系统,支持多种协议(如AMQP、MQTT等),常用于传统企业消息通信系统。
    • AWS SQS(Simple Queue Service):Amazon提供的完全托管的消息队列服务,具有高可用性和可靠性,适合云环境中的分布式系统。
    • Google Pub/Sub:Google云提供的分布式消息队列服务,支持大规模实时消息传递,适合微服务架构或事件驱动系统。
    4)架构评估
    • 松耦合:通过消息代理解耦各个服务,生产者和消费者不直接依赖。它们通过消息代理异步通信,这提高了系统的灵活性和可扩展性。
    • 可靠性增强:消息代理通常支持持久化消息和重试机制,确保消息不会丢失,特别是在网络中断或服务故障时。
    • 可扩展性:消息代理可以支持多个消费者同时处理消息,能够灵活分配负载,并实现消息的广播、路由、优先级等高级功能,适合处理高并发任务。
    • 异步处理能力:Message Broker Pattern允许任务异步处理,不必等到消费者处理完成,生产者可以继续执行后续任务。这减少了服务间的等待时间和延迟。
    • 性能瓶颈:消息代理的引入会增加额外的延迟和性能开销,尤其是在高并发的情况下,如果没有适当的容量规划,消息代理本身可能成为系统的瓶颈。
    • 复杂性增加:引入消息代理需要额外的基础设施、配置和管理,尤其是在使用分布式的消息代理(如Kafka)时,需要考虑分区、复制、恢复等机制。


    管道和过滤器模式:通过一系列处理组件(过滤器)处理数据,这些组件通过通道(管道)连接。

    1)场景
    • 系统需要处理复杂的、多步骤的数据流操作时,如数据转换、清洗、增强、过滤等。
    • 系统中存在需要重复使用的处理步骤,可以通过过滤器来模块化,提升可维护性和灵活性。
    • 数据处理需要可扩展,可以在不影响其他步骤的情况下增加或修改某一阶段的处理逻辑。
    • 需要并行处理数据流,提高性能和处理效率。
    2)案例
    • 数据处理管道:在ETL(Extract, Transform, Load)流程中,数据从多个源提取后,需要经过一系列的转换(过滤、清洗、转换格式、聚合等)才能加载到目标数据库。每个数据转换步骤可以作为一个过滤器,数据通过管道在过滤器之间流动。
    • 日志处理系统:当日志从应用程序生成后,可以通过管道传递给多个过滤器来进行处理:格式化、筛选特定日志级别、添加时间戳等,最后输出到存储系统或监控平台。
    • 媒体文件处理:在处理媒体文件(如图像或视频)时,可以通过多个过滤器依次执行各种操作:调整大小、格式转换、水印添加、压缩等,每个操作都是一个独立的过滤器,管道将文件从一个处理步骤传输到下一个。
    • 微服务链式处理:多个微服务依次处理同一条请求或任务时,每个微服务执行一个处理步骤,并将处理结果传递给下一个微服务。这种方式也可被视为一种管道与过滤器的实现。
    3)工具链
    • Apache Camel:一个基于EIP(Enterprise Integration Patterns)的集成框架,允许定义灵活的数据处理和传输管道,可以将多个步骤通过过滤器模式进行串联。
    • Spring Integration:Spring框架的扩展模块,提供消息处理、文件处理、数据转换等功能,可以轻松实现管道与过滤器模式。
    • Apache NiFi:一个数据流自动化和管理工具,专注于数据的捕获、转换、路由等操作,可以将多个过滤器进行管道化处理。
    • Logstash:ELK(Elasticsearch、Logstash、Kibana)栈中的数据处理工具,允许通过多个过滤器对日志进行处理,并通过管道将日志传递到不同的存储或分析系统。
    • Kubernetes Sidecar Containers:在微服务架构中,Sidecar容器可以用于在数据流经过不同服务时对其进行处理、过滤或增强,作为管道与过滤器模式的实现之一。
    4)架构评估
    • 模块化与可重用性:每个过滤器执行一个独立的功能,且可以被其他管道重复使用,提高了代码和逻辑的可重用性和可维护性。
    • 灵活性:可以在不影响整体管道的情况下,随时增加、删除或修改某个过滤器,提升了系统的灵活性。例如,处理数据流时,可以轻松加入新的步骤,而无需改变整个系统架构。
    • 可扩展性:通过将数据流分解为多个独立的步骤,可以通过并行处理提升系统性能,尤其是在处理大规模数据或高并发场景中。
    • 性能考量:虽然模式可以并行处理和模块化,但是如果某个过滤器处理速度慢,可能成为瓶颈,阻碍数据流的效率。需确保管道的每个阶段都高效执行,避免系统性能瓶颈。
    • 调试与监控:管道化的数据处理在调试时可能较为复杂,需要额外的日志、监控和可视化工具来追踪数据在不同过滤器之间的流动情况。


    Scheduler Agent Supervisor(调度代理监控)

    • 场景:协调多个作业的调度和执行。
    • 案例:定时作业和批处理任务的监控和管理。
    • 工具链:Celery、Kubernetes Cron Jobs。
    • 架构评估:用于批处理和调度密集型应用的管理。


    Choreography(编排)

    • 场景:通过事件触发机制处理复杂的业务逻辑。
    • 案例:电商系统中订单、库存和支付服务的协作。
    • 工具链:Apache Kafka、EventBridge。
    • 架构评估:复杂的微服务体系结构,适合无中心控制器的分布式工作流。


    Claim Check(认领检查)

    • 场景:在消息中只传递指向大型数据的引用,减少消息体积。
    • 案例:消息传递时将大数据存储到外部存储服务中。
    • 工具链:S3、Kafka。
    • 架构评估:适合需要传输大数据但又希望控制消息大小的场景。


    Priority Queue(优先级队列)

    • 场景:根据优先级处理消息,确保关键任务优先执行。
    • 案例:支付系统中高优先级交易优先处理。
    • 工具链:RabbitMQ、ActiveMQ。
    • 架构评估:适用于对消息处理顺序有明确优先级需求的业务场景。


    Async Request-Reply(异步请求-回复)

    • 场景:通过异步消息处理请求与回复。
    • 案例:使用消息队列进行任务分发。
    • 工具链:Kafka、RabbitMQ。
    • 架构评估:用于松耦合的微服务通信,减轻服务压力。


    Choreography(编排)

    • 场景:通过事件触发机制处理复杂的业务逻辑。
    • 案例:电商系统中订单、库存和支付服务的协作。
    • 工具链:Apache Kafka、EventBridge。
    • 架构评估:复杂的微服务体系结构,适合无中心控制器的分布式工作流。


    4.安全性

    安全性保护信息系统免受敌对攻击,确保数据的机密性、完整性和可用性。失去这些保证可能会损害公司的运营、收入和市场声誉。遵循公认的程序并保持警惕以发现和解决漏洞和活跃威胁对于维护安全至关重要。

    image

    这组中最重要的模式是:

    门禁模式:通过验证和清理请求,通过充当门卫的专用主机来保护后端服务。

    • 场景:对资源访问进行细粒度的控制和验证。
    • 案例:API Gateway中的访问控制。
    • 工具链:Kong Gateway、AWS API Gateway。
    • 架构评估:对公共和敏感资源的访问管理非常重要,适合分布式系统中的访问控制策略。

    联合身份模式:通过允许用户使用来自受信任身份提供商的现有凭据登录来简化用户认证。

    • 场景:用户通过单点登录(SSO)在多个系统中进行身份验证。
    • 案例:OAuth 2.0、OpenID Connect。
    • 工具链:AWS Cognito、Okta、Auth0。
    • 架构评估:适合需要跨多个服务共享认证的架构,能够减少重复登录。

    密钥存储模式:安全地管理敏感配置数据,如密码、API密钥和连接字符串。

    1)场景
    • 当应用程序需要存储和使用敏感信息,如数据库凭据、API密钥、SSH密钥等时。
    • 应用程序或服务之间共享机密数据时,确保这些数据在网络传输或存储过程中不被泄露。
    • 应用部署在多云或多环境(如开发、测试、生产)中,需要中央管理的机密信息。
    • 需要在不修改代码的情况下更新或轮换这些敏感数据。
    2)案例
    • CI/CD流水线中的机密管理:在持续集成/持续部署流水线中,工具需要访问敏感信息(如云提供商的访问密钥),但不应将这些信息硬编码到脚本或配置文件中。
    • 微服务架构中的机密管理:多个微服务需要访问数据库或外部API,每个服务应通过安全机制访问这些敏感信息,而不是将凭据保存在配置文件中。
    • 服务器上证书的安全轮换:Web服务器需要周期性地轮换SSL/TLS证书,以避免证书过期或遭到滥用。
    3)工具链
    • HashiCorp Vault:一个广泛使用的机密管理工具,支持动态凭据、加密存储以及访问控制。
    • AWS Secrets Manager:专为AWS环境设计的机密管理服务,自动轮换、加密存储密钥并控制访问权限。
    • Azure Key Vault:Azure云平台中的机密存储服务,专注于管理密钥、机密、证书和硬件安全模块(HSM)保护的密钥。
    • Kubernetes Secrets:Kubernetes原生的机密管理机制,用于存储敏感数据,并将其作为环境变量或卷注入到容器中。
    • Google Cloud Secret Manager:Google云平台的机密管理服务,允许应用程序集中存储和访问敏感信息。
    • CyberArk Conjur:面向企业环境的机密管理平台,支持动态凭据生成和细粒度的访问控制。
    4)架构评估
    • 安全性提升:通过集中化存储和加密管理,极大提高了敏感信息的安全性,防止泄漏或滥用。特别是工具支持审计和访问控制,可以追踪谁访问了哪些机密信息。
    • 易于管理和轮换:Secret Store Pattern支持动态密钥生成和自动密钥轮换,减少了手动管理的复杂度和潜在的安全风险。
    • 减少代码暴露风险:敏感信息不再需要硬编码到配置文件或代码中,降低了代码泄漏时的风险,特别是在开源项目中。
    • 扩展性和灵活性:这种模式在多环境、多服务之间具有良好的扩展性和灵活性,可以通过API访问、CLI工具、自动化工具进行管理,支持高可用的分布式应用场景。
    • 可操作性挑战:如果配置不当,可能导致密钥无法正常轮换或过期密钥影响生产环境运行。因此,需要设置监控和告警机制。


    验证模式:通过确保所有输入数据在处理之前都经过验证和清理来保护应用程序。

    1)场景
    • 当用户输入的数据需要严格符合业务规则和格式要求时,如表单输入、API请求参数等。
    • 在系统中不同层次(前端、后端、数据库)对数据的有效性进行验证,避免错误数据进入核心逻辑或存储。
    • 防止恶意输入,如SQL注入、XSS攻击等,通过验证模式保证输入的安全性。
    • 在微服务之间的通信或系统集成时,确保数据交换的有效性。
    2)案例
    • 表单数据验证:用户在前端提交表单时,验证模式可以确保用户输入的邮箱、电话、密码等符合特定格式,并在前端或后端给出即时反馈。
    • API请求数据验证:在接收第三方系统的API请求时,验证模式可以检查传入的JSON、XML等数据结构是否合法,并拒绝不符合要求的数据。
    • 数据库层验证:通过数据库的约束(如唯一性、非空、外键等)进一步确保存储数据的有效性,防止无效数据进入数据库。
    • 服务间通信验证:微服务之间的消息传递需要验证消息的格式、数据类型和字段值,以避免数据传输中的错误导致系统故障。
    3)工具链
    • 前端验证库
      • React Hook Form:React的轻量级表单验证库,支持表单状态管理与校验。
      • Formik:另一个流行的React表单管理和验证库。
      • VeeValidate:Vue.js应用中使用的表单验证库。
    • 后端验证库
      • Spring Validation:Spring框架内置的验证功能,基于注解方式,可以对Java对象进行自动验证。
      • Hibernate Validator:Java中广泛使用的验证框架,支持Bean Validation规范。
      • Express-validator:Node.js中用于Express框架的验证库。
    • API网关
      • Kong:可以在API请求进入系统前,对请求的数据结构和参数进行验证。
      • AWS API Gateway:支持对请求参数进行格式和内容验证,减少无效请求的处理。
    4)架构评估
    • 安全性提升:通过验证模式,系统能够在早期阶段过滤掉恶意或无效数据,减少SQL注入、跨站脚本攻击等安全风险。
    • 数据完整性保证:在系统的不同层级实现验证(如前端、后端、数据库等),能保证进入系统的数据符合业务规则,避免错误数据带来的业务问题。
    • 性能考量:尽量在前端或网关层执行初步验证,可以减少系统后端的负载。后端和数据库层的验证应作为防御的最后一道关卡。
    • 用户体验:在前端提供即时的验证反馈能提升用户体验,减少因为提交无效数据而产生的困惑或重复操作。
    • 维护成本:如果不同层级(前端、后端、数据库)都实现了数据验证,确保验证规则的一致性和维护难度可能较大,尤其在验证逻辑复杂时需要确保验证规则不重复、不冲突。

    5.可靠性

        当我们谈论可靠性时,我们通常指的是系统的可用性和弹性。系统运行和操作的时间百分比称为可用性,以正常运行时间的百分比表示。相比之下,系统的弹性是其处理和从故意和非故意故障中恢复的能力。

    image

    这组中最重要的模式是:

    重试Retry模式:通过自动重试失败的操作来处理瞬时故障,以增加成功的机会。

    • 场景:针对失败的操作进行自动重试。
    • 案例:请求超时时重新尝试通信。
    • 工具链:Resilience4j、Exponential Backoff算法。
    • 架构评估:可用于短暂故障的恢复,提高系统的健壮性。

    断路器Circuit Breaker模式:这种模式防止应用程序重复尝试可能失败的操作,保护系统资源并提高稳定性。

    • 场景:保护服务免于过载,通过熔断防止级联故障。
    • 案例:请求失败过多时中断通信。 某个微服务依赖一个第三方API,API偶尔会宕机或变慢。在API不可用时,Circuit Breaker打开,拒绝进一步调用,防止系统线程被挂起。
    • 工作原理

      • 熔断器三种状态
        • Closed(关闭状态):正常工作,所有请求正常通过。
        • Open(打开状态):当外部服务故障或响应时间超过设定阈值时,熔断器会进入打开状态,直接拒绝请求,防止资源耗尽。
        • Half-Open(半开状态):在等待一段时间后,熔断器进入半开状态,允许少量请求通过。如果这些请求成功,熔断器恢复到关闭状态;否则,熔断器重新打开。
      • 当依赖服务恢复正常后,系统将逐渐允许更多请求,直至恢复正常状态。
    • 工具链:Hystrix、Resilience4j。
    • 架构评估:适用于高并发服务,减少系统级故障的风险。

    节流Throttling模式:通过限制应用程序处理请求的速率来控制资源消耗。

    • 场景:限制请求速率,防止系统过载。
    • 案例:API Gateway中的速率限制。
    • 工具链:Nginx、Kong、AWS API Gateway。
    • 架构评估:适合防止DDoS攻击和恶意请求高峰。

    健康端点监控Health Endpoint Monitoring模式:通过公开监控工具可以访问的健康检查端点来主动检测系统故障。

    • 场景:监控系统健康状况,自动恢复故障。
    • 案例:通过API健康检查自动检测服务状态。
    • 工具链:Prometheus、Grafana。
    • 架构评估:为自动化监控和故障恢复提供关键支持。

    Compensating Transaction(补偿事务)

    • 场景:用于长事务或分布式事务的补偿机制。
    • 案例:订单取消时,补偿回滚之前的相关操作。
    • 工具链:Saga、Apache Camel。
    • 架构评估:适用于跨多个微服务的事务一致性管理。

    Deployment Stamps(部署标记)

    • 场景:分离部署环境以提高系统可靠性。
    • 案例:同一服务在不同区域部署以确保可用性。
    • 工具链:Kubernetes、Terraform。
    • 架构评估:对于全球分布的服务,确保多区域故障的容错性。

    Geodes(地质模式)是一种分布式缓存模式:

    用于解决大规模分布式系统中数据存取性能和一致性问题。该模式的核心思想是通过在多个地理位置部署缓存层,减少对远程数据源的访问,从而提升性能并降低网络延迟。

    1)场景
    • 全球分布的用户访问:当应用程序的用户遍布全球,不同地区的用户访问数据源时可能会受到网络延迟的影响。Geodes模式通过在每个地理位置部署缓存,使得用户可以访问距离最近的数据副本,从而减少访问延迟。
    • 高可用性需求:当系统需要在不同地理位置实现高可用性和灾难恢复时,可以在多个位置保持数据的缓存副本,确保某个地区的缓存失效时,用户还能从其他地区获取数据。
    • 高并发场景:在需要处理大量并发请求的系统中,通过分布式缓存减少对原始数据源(如数据库)的直接访问,从而减轻后端数据源的负载,提升系统的吞吐量。
    • 读多写少的系统:如果系统的读操作远多于写操作,Geodes模式可以通过缓存加速读操作,而不频繁访问原始数据源。
    2)案例
    • 全球电商平台:用户在全球各地购物时,为了提升用户体验,需要减少用户请求到后端数据库的时间。在全球多个数据中心部署缓存,用户可以就近访问商品、库存、价格等数据,减少对主数据库的访问,提升响应速度。
    • 内容分发网络(CDN):内容分发网络的缓存机制本质上就是Geodes模式的一个应用案例。CDN将静态资源(如图像、视频等)缓存到全球各地的服务器节点,用户请求时可以从最近的节点获取资源,降低延迟和带宽消耗。
    • 金融交易系统:对于需要跨多个地区进行金融交易的系统来说,延迟是一个关键因素。通过在每个地区部署缓存,Geodes模式可以确保交易数据、用户信息等快速访问,提升交易的实时性和准确性。
    • 社交媒体平台:全球用户同时访问平台上的热门内容(如视频、图片、帖子等),通过地理位置缓存来减少对主服务器的负载,提升用户的访问速度和系统的稳定性。
    3) 工具链
    • Redis:一个高性能的分布式内存缓存系统,支持主从架构以及跨地域复制,常用于实现分布式缓存和加速读操作。
    • Memcached:另一个分布式缓存系统,适合高频读写场景,虽然不支持持久化和复制,但在全球分布式缓存场景中也有应用。
    • Amazon ElastiCache:AWS的托管缓存服务,支持Redis和Memcached,能够部署在多个AWS区域,用于地理分布式缓存和高可用场景。
    • Azure Cache for Redis:Microsoft Azure的托管缓存服务,支持跨区域分布,适合在多地域的应用场景中使用。
    • Google Cloud Memorystore:Google云平台提供的缓存服务,支持Redis和Memcached,可以结合全球分布的Google Cloud区域实现地理分布的缓存。
    4)架构评估
    • 性能提升:通过将数据缓存到离用户最近的地理位置,显著减少请求延迟,提升系统的整体性能。特别是对于全球用户分布的系统,能够有效提升用户体验。
    • 高可用性:多个地理位置的缓存副本可以确保系统在某个区域故障时仍能从其他区域获取数据,提高了系统的容错能力和可用性。
    • 一致性问题:缓存中的数据可能会与主数据源不同步,因此需要采取措施确保数据的一致性(如设置TTL(时间到期)或使用缓存更新策略)。
    • 复杂性增加:分布式缓存引入了数据复制、同步、缓存失效等复杂问题,尤其是涉及多个地理区域时,需要设计合理的数据一致性和更新策略。
    • 成本评估:缓存的存储和跨地域复制会增加运营成本,尤其是在使用托管缓存服务时,需要评估成本和性能的权衡。



    Azure中的负载均衡


        确保应用程序能够处理高流量并始终保持可用是至关重要的。负载均衡是实现这一目标的重要策略,Azure提供了针对不同需求量身定制的几个健壮的负载均衡解决方案。了解Azure的负载均衡选项可以帮助您设计可扩展和弹性架构,无论您是在开发简单的云应用程序还是复杂的系统。 用于负载均衡的主要Azure服务有:

    Azure Front Door:一个全局负载均衡器,在第7层(HTTP/HTTPS)提供应用程序加速和全局负载均衡。它基于性能优化路由,并可以处理SSL卸载。

    Azure Traffic Manager:基于dns的流量负载均衡器,可跨多个区域分配流量。它支持各种路由方法,如基于地理、性能和优先级的路由,确保将用户定向到最合适的区域端点。

    Azure Load Balancer:第4层负载均衡器在一个区域的虚拟机(vm)之间分配流量。它支持入站和出站场景,为区域部署提供高可用性和低延迟。

    Azure Application Gateway:是一个第7层负载均衡器,具有高级路由功能、SSL终端和Web应用防火墙(WAF)。它是为需要区域负载平衡的web应用程序量身定制的。


    image


    总结

           学习云设计模式对于开发者、架构师以及任何在云计算环境中工作的专业人员来说,具有深远的意义。随着云计算技术的不断发展和普及,传统的软件开发和部署方式已经发生了翻天覆地的变化。云设计模式作为在云计算背景下产生的一系列最佳实践和设计原则,旨在帮助开发者更高效地构建、部署和管理云原生应用。


    今天先到这儿,希望对云原生,技术领导力, 企业管理,系统架构设计与评估,团队管理, 项目管理, 产品管理,信息安全,团队建设 有参考作用 , 您可能感兴趣的文章:
    构建创业公司突击小团队
    国际化环境下系统架构演化
    微服务架构设计
    视频直播平台的系统架构演化
    微服务与Docker介绍
    Docker与CI持续集成/CD
    互联网电商购物车架构演变案例
    互联网业务场景下消息队列架构
    互联网高效研发团队管理演进之一
    消息系统架构设计演进
    互联网电商搜索架构演化之一
    企业信息化与软件工程的迷思
    企业项目化管理介绍
    软件项目成功之要素
    人际沟通风格介绍一
    精益IT组织与分享式领导
    学习型组织与企业
    企业创新文化与等级观念
    组织目标与个人目标
    初创公司人才招聘与管理
    人才公司环境与企业文化
    企业文化、团队文化与知识共享
    高效能的团队建设
    项目管理沟通计划
    构建高效的研发与自动化运维
    某大型电商云平台实践
    互联网数据库架构设计思路
    IT基础架构规划方案一(网络系统规划)
    餐饮行业解决方案之客户分析流程
    餐饮行业解决方案之采购战略制定与实施流程
    餐饮行业解决方案之业务设计流程
    供应链需求调研CheckList
    企业应用之性能实时度量系统演变

    如有想了解更多软件设计与架构, 系统IT,企业信息化, 团队管理 资讯,请关注我的微信订阅号:

    image_thumb2_thumb_thumb_thumb_thumb[1]

    作者:Petter Liu
    出处:http://www.cnblogs.com/wintersun/
    本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。 该文章也同时发布在我的独立博客中-Petter Liu Blog。

    posted on 2024-09-23 15:58  PetterLiu  阅读(51)  评论(0编辑  收藏  举报