前言
SpringCloud是一系列框架的有序集合。它利用SpringBoot的开发便利性巧妙地简化了分布式系统基础设施的开发,如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等,都可以用SpringBoot的开发风格做到一键启动和部署。SpringCloud并没有重复制造轮子,它只是将目前各家公司开发的比较成熟、经得起实际考验的服务框架组合起来,通过SpringBoot风格进行再封装屏蔽掉了复杂的配置和实现原理,最终给开发者留出了一套简单易懂、易部署和易维护的分布式系统开发工具包。
SpringCloud组成
SpringCloud的子项目,大致可分成两类,一类是对现有成熟框架”SpringBoot化”的封装和抽象,也是数量最多的项目;第二类是开发了一部分分布式系统的基础设施的实现,如SpringCloudStream扮演的就是kafka,ActiveMQ这样的角色。对于我们想快速实践微服务的开发者来说,第一类子项目就已经足够使用,如:
SpringCloudNetflix:核心组件,可以对多个NetflixOSS开源套件进行整合,包括以下几个组件:
Eureka:服务治理组件,包含服务注册与发现
Hystrix:容错管理组件,实现了熔断器
Ribbon:客户端负载均衡的服务调用组件
Feign:基于Ribbon和Hystrix的声明式服务调用组件
Zuul:网关组件,提供智能路由、访问过滤等功能
服务治理:SpringCloudEureka
简介
SpringCloudEureka是Netflix开发的服务发现框架,本身是一个基于REST的服务,主要用于定位运行在AWS域中的中间层服务,以达到负载均衡和中间层服务故障转移的目的。SpringCloud将它集成在其子项目spring-cloud-netflix中,以实现SpringCloud的服务发现功能。
Eureka包含两个组件:EurekaServer和EurekaClient,其中EurekaClient又可以分为EurekaProvider和EurekaConsumer。
EurekaServer
服务端-没有存储,内存保持,每服务实例需要发送心跳去续约
客户端-在内存中缓存着eureka的注册信息,因此不必每请求到eureka查找服务
eureka之间会做注册服务同步,从而保证状态一致,客户端只需访问一个eureka
ServiceProvider
会向EurekaServer做Register(服务注册)、Renew(服务续约)、Cancel(服务下线)等操作
ServiceConsumer
会从EurekaServer获取注册服务列表,并消费服务
注册发现
Eureka注册发现
EurekaServer提供服务注册服务,各个节点启动后,会在EurekaServer中进行注册,这样EurekaServer中的服务注册表中将会存储所有可用服务节点的信息,服务节点的信息可以在界面中直观的看到。
EurekaClient是一个Java客户端,用于简化与EurekaServer的交互,客户端同时也就是一个内置的、使用轮询(round-robin)负载算法的负载均衡器。
服务心跳(renew)
服务心跳
在应用启动后,将会向EurekaServer发送心跳,默认周期为30秒,如果EurekaServer在多个心跳周期内没有接收到某个节点的心跳,EurekaServer将会从服务注册表中把这个服务节点移除(默认90秒)。
服务实例会通过心跳(eureka.instance.lease-renewal-interval-in-seconds定义心跳的频率,默认值为30s)续约的方式向EurekaServer定时更新自己的状态。EurekaServer收到心跳后,会通知集群里的其它EurekaServer更新此实例的状态。ServiceProvider/ServiceConsumer也会定时更新缓存的实例信息。
EurekaServer间数据同步
为了解决EurekaServer单点的问题,我们可以启动多个EurekaServer注册中心,并让多个EurekaServer注册中心相互注册,这样可以实现EurekaServer注册中心集群。这是一种去中心化的架构中,各个节点是平等的,每个节点都保存完整实例注册服务的信息。
EurekaServer集群不区分主从节点或者PrimarySecondary节点,所有节点相同角色(也就是没有角色),完全对等。EurekaClient可以向任意EurekaClient发起任意读写操作,EurekaServer将操作复制到另外的EurekaServer以达到最终一致性。注意,EurekaServer是选择了AP的组件。
EurekaServer之间通过复制的方式完成数据的同步,Eureka还提供了客户端缓存机制,即使所有的EurekaServer都挂掉,客户端依然可以利用缓存中的信息消费其他服务的API。综上,Eureka通过心跳检查、客户端缓存等机制,确保了系统的高可用性、灵活性和可伸缩性。
自我保护模式
自我保护模式
如果EurekaServer最近1分钟收到renew的次数小于阈值(即预期的最小值),则会触发自我保护模式(如上图所示,在EurekaServer首页可以看到一排红色的警告信息),此时EurekaServer此时会认为这是网络问题,它不会注销任何过期的实例。等到最近收到renew的次数大于阈值后,则EurekaServer退出自我保护模式。
自我保护模式阈值计算:
每个instance的预期心跳数目=60/每个instance的心跳间隔秒数阈值=所有注册到服务的instance的数量的预期心跳之和*自我保护系数以上的参数都可配置的:
instance的心跳间隔秒数:自我保护系数:eureka.server.renewal-percent-threshold如果我们的实例比较少且是内部网络时,推荐关掉此选项。我们也可以通过eureka.server.enable-self-preservation=false来禁用自我保护系数
客户端负载均衡:SpringCloudRibbon
简介
负载均衡在系统架构中是一个非常重要,并且不得不去实施的功能。因为负载均衡是对系统的高可用、网络压力的缓解和处理能力扩容的重要手段之一。SpringCloudRibbon是一个基于HTTP和TCP的客户端负载均衡工具,它基于NetflixRibbon实现,通过它我们可以轻松地将面向服务的REST模板请求自动转换成客户端负载均衡的服务调用。
服务容错保护:SpringCloudHystrix
简介
SpringCloudHystrix实现了断路器、线程隔离等一系列服务保护功能。在微服务架构中,每个单元都在不同的进程中运行,进程间通过远程调用的方式相互依赖,这样就可能因为网络的原因出现调用故障和延迟,如果调用请求不断增加,将会导致自身服务的瘫痪。为了解决这些问题,产生了断路器等一系列服务保护机制。
资源隔离
Hystrix通过将每个依赖服务分配独立的线程池进行资源隔离,从而避免服务雪崩。如下,当BSP服务不可用时,即使BSP服务独立分配的20个线程全部处于同步等待状态,也不会影响其他依赖服务的调用
熔断器
熔断器
当请求失败、被拒绝、超时或短路时,熔断器器功能以阻止所有对某依赖的请求。提供熔断器组件,可以自动运行或手动调用,停止当前依赖一段时间(10秒),熔断器默认错误率阈值为50%,超过将自动运行。
服务降级
当某个服务熔断之后,服务器将不再被调用,此时客户端可以自己准备一个本地的fallback回调,返回一个缺省值
服务降级
缓存
hystrix支持将一个请求结果缓存起来,下一个具有相同key的请求将直接从缓存中取出结果,减少请求开销。
要使用hystrixcache功能,第一个要求是重写getCacheKey(),用来构造cachekey;
第二个要求是构建context,如果请求B要用到请求A的结果缓存,A和B必须同处一个context。
通过HystrixRequestContext.initializeContext()和context.shutdown()可以构建一个context,这两条语句间的所有请求都处于同一个context。
声明式服务调用:SpringCloudFeign
简介
Feign是一个声明式的WebService客户端,它的目的就是让WebService调用更加简单。Feign提供了HTTP请求的模板,通过编写简单的接口和插入注解,就可以定义好HTTP请求的参数、格式、地址等信息。
而Feign则会完全代理HTTP请求,我们只需要像调用方法一样调用它就可以完成服务请求及相关处理。Feign整合了Ribbon和Hystrix,可以让我们不再需要显式地使用这两个组件。
总起来说,Feign具有如下特性:
可插拔的注解支持,包括Feign注解和JAX-RS注解;
支持可插拔的HTTP编码器和解码器;
支持Hystrix和它的Fallback;
支持Ribbon的负载均衡;
支持HTTP请求和响应的压缩。
API网关服务:SpringCloudZuul
监控管理:SpringCloudActuator
pom依赖
dependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-actuator/artifactId/dependency
接口说明
配置
#用于选择公开所有接口management.endpoints.web.exposure.include=*#显示所有健康状态management.endpoint.health.show-details=always#配置接口的启用,false关闭true开启management.endpoint.id.enabled=truemanagement.endpoint.configprops.enabled=false#Actuator默认所有的监控点路径都在/actuator/*,如果有需要这个路径也支持定制management.endpoints.web.base-path=/act