集群:cluster 同一种软件服务的多个服务节点共同为系统提供服务过程 称之为该软件服务集群
分布式:distribute 不同软件集群共同为一个系统提供服务 这个称之为分布式系统
微服务(Microservice Architecture)是近几年流行的一种架构思想,关于它的概念很难一言以蔽之。
究竟什么是微服务呢?我们在此应用 ThoughtWorks 公司的首席科学家 Martin Fowler 于2014年提出的一段话:
a suite(系列) of small services
, each running in its own process(进程)
and communicating with lightweight mechanisms, often an HTTP resource API. These services are built around business(业务) capabilities(单元)
and independently(独立) deployable(部署)
by fully automated deployment machinery. There is a bare(基于) minimum of centralized(分布式) management(管理) of these services
, which may be written in different programming languages and use different data storage technologies.简言之,微服务体系结构风格是一种将单个应用程序开发为一套小型服务的方法,每个服务都在自己的流程中运行,并与轻量级机制(通常是HTTP资源API)通信。这些服务是围绕业务能力构建的,可通过完全自动化的部署机制独立部署。对这些服务的集中管理是最低限度的,这些服务可以用不同的编程语言编写,并使用不同的数据存储技术。
单体应用
# 1.优点
- 单一架构模式在项目初期很小的时候开发方便,测试方便,部署方便,运行良好。
# 2.缺点
- 应用随着时间的推进,加入的功能越来越多,最终会变得巨大,一个项目中很有可能数百万行的代码,互相之间繁琐的jar包。
- 久而久之,开发效率低,代码维护困难
- 还有一个如果想整体应用采用新的技术,新的框架或者语言,那是不可能的。
- 任意模块的漏洞或者错误都会影响这个应用,降低系统的可靠性
微服务架构应用
# 1.优点
- 将服务拆分成多个单一职责的小的服务,进行单独部署,服务之间通过网络进行通信
- 每个服务应该有自己单独的管理团队,高度自治
- 服务各自有自己单独的职责,服务之间松耦合,避免因一个模块的问题导致服务崩溃
# 2.缺点
- 开发人员要处理分布式系统的复杂性
- 多服务运维难度,随着服务的增加,运维的压力也在增大
- 服务治理 和 服务监控 关键
# 1.架构的演变过程
- 单一应用架构 ===> 垂直应用架构 ===> 分布式服务架构 ===> 流动计算架构 ===> 微服务架构 ===> 未知
dubbo官网:https://dubbo.apache.org/zh/
# 1.单一应用架构 All in One Application
- 起初当网站流量很小时,将所有功能都写在一个应用里面,对整个应用进行部署,以减少部署节点和成本。对于这个架构简化增删改查的工作量的数据访问框架(ORM)是关键
# 2.垂直应用架构 Vertical Application
- 当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,提升效率的方法之一是将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。
# 3.分布式服务架构 Distributed Service
- 当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。
# 4.流动计算架构 Elastic Computing
- 当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)是关键。
orm : Object Relational Mapping 对象关系映射
MVC : Model-View-Controller (模型-视图-控制器)
RPC : Remote Procedure Call 远程过程调用
SOA : Service-Oriented Architecture 面向服务架构
好的架构并不是设计出来的,一定是进化来的!!!
1、阿里系 (springboot + dubbo + zookeeper)
- 初出茅庐:2011年末,阿里巴巴在GitHub上开源了基于Java的分布式服务治理框架Dubbo,之后它成为了国内该类开源项目的佼佼者,许多开发者对其表示青睐。同时,先后有不少公司在实践中基于Dubbo进行分布式系统架构,目前在GitHub上,它的fork、star数均已破万。Dubbo致力于提供高性能和透明化的RPC远程服务调用方案,以及SOA服务治理方案,使得应用可通过高性能RPC实现服务的输出、输入功能和Spring框架无缝集成。Dubbo包含远程通讯、集群容错和自动发现三个核心部分。
- 停止维护:从2012年10月23日Dubbo 2.5.3发布后,在Dubbo开源将满一周年之际,阿里基本停止了对Dubbo的主要升级。只在之后的2013年和2014年更新过2次对Dubbo 2.4的维护版本,然后停止了所有维护工作。Dubbo对Srping的支持也停留在了Spring 2.5.6版本上。
- 死而复生:多年漫长的等待,随着微服务的火热兴起,在国内外开发者对阿里不再升级维护Dubbo的吐槽声中,阿里终于开始重新对Dubbo的升级和维护工作。在2017年9月7日,阿里发布了Dubbo的2.5.4版本,距离上一个版本2.5.3发布已经接近快5年时间了。在随后的几个月中,阿里Dubbo开发团队以差不多每月一版本的速度开始快速升级迭代,修补了Dubbo老版本多年来存在的诸多bug,并对Spring等组件的支持进行了全面升级。
- 2018年1月8日,Dubbo创始人之一梁飞在Dubbo交流群里透露了Dubbo 3.0正在动工的消息。Dubbo 3.0内核与Dubbo 2.0完全不同,但兼容Dubbo 2.0。Dubbo 3.0将以Streaming为内核,不再是Dubbo 时代的RPC,但是RPC会在Dubbo 3.0中变成远程Streaming对接的一种可选形态。从Dubbo新版本的路线规划上可以看出,新版本的Dubbo在原有服务治理的功能基础上,将全面拥抱微服务解决方案。
- 结论:当前由于RPC协议、注册中心元数据不匹配等问题,在面临微服务基础框架选型时Dubbo与Spring Cloud是只能二选一,这也是为什么大家总是拿Dubbo和Spring Cloud做对比的原因之一。Dubbo之后会积极寻求适配到Spring Cloud生态,比如作为Spring Cloud的二进制通信方案来发挥Dubbo的性能优势,或者Dubbo通过模块化以及对http的支持适配到Spring Cloud。
2、springcloud
- Spring Cloud NetFlix
基于美国Netflix公司开源的组件进行封装,提供了微服务一栈式的解决方案。
- Spring Cloud alibaba
在Spring cloud netflix基础上封装了阿里巴巴的微服务解决方案。
- Spring Cloud Spring
目前spring官方趋势正在逐渐吸收Netflix组件的精华,并在此基础进行二次封装优化,打造spring专有的解决方案
configuration management
,service discovery
, circuit breakers, intelligent routing, micro-proxy, control bus
). Coordination of distributed systems leads to boiler plate patterns, and using Spring Cloud developers can quickly stand up services and applications that implement those patterns.They will work well in any distributed environment, including the developer’s own laptop, bare metal data centres, and managed platforms such as Cloud Foundry.**Spring Cloud为开发人员提供了在分布式系统中快速构建一些通用模式的工具(例如配置管理、服务发现、断路器、智能路由、微代理、控制总线)。**分布式系统的协调导致了锅炉板模式,使用springcloud开发人员可以快速地建立实现这些模式的服务和应用程序。它们在任何分布式环境中都能很好地工作,包括开发人员自己的笔记本电脑、裸机数据中心和云铸造等托管平台。
通俗理解:
# 1.核心组件说明
- eurekaserver、consul、nacos 服务注册中心组件
- rabbion & openfeign 服务负载均衡 和 服务调用组件
- hystrix & hystrix dashboard 服务断路器 和 服务监控组件
- zuul、gateway 服务网关组件
- config 统一配置中心组件
- bus 消息总线组件
......
Springcloud是一个由众多独立子项目组成的大型综合项目,原则每个子项目上有不同的发布节奏,都维护自己发布版本号。为了更好的管理springcloud的版本,通过一个资源清单BOM(Bill of Materials),为避免与子项目的发布号混淆,所以没有采用版本号的方式,而是通过命名的方式。这些名字是按字母顺序排列的。如伦敦地铁站的名称(“天使”是第一个版本,“布里斯顿”是第二个版本,"卡姆登"是第三个版本)。当单个项目的点发布累积到一个临界量,或者其中一个项目中有一个关键缺陷需要每个人都可以使用时,发布序列将推出名称以“.SRX”结尾的“服务发布”,其中“X”是一个数字。
伦敦地铁站名称 [了解]
大版本说明
SpringBoot | SpringCloud | 关系 |
---|---|---|
1.2.x | Angel版本(天使) | 兼容Spring Boot 1.2.x |
1.3.x | Brixton版本(布里克斯顿) | 兼容Spring Boot 1.3.x,也兼容Spring Boot 1.4.x |
1.4.x | Camden版本(卡姆登) | 兼容Spring Boot 1.4.x,也兼容Spring Boot 1.5.x |
1.5.x | Dalston版本(多尔斯顿) | 兼容Spring Boot 1.5.x,不兼容Spring Boot 2.0.x |
1.5.x | Edgware版本(埃奇韦尔) | 兼容Spring Boot 1.5.x,不兼容Spring Boot 2.0.x |
2.0.x | Finchley版本(芬奇利) | 兼容Spring Boot 2.0.x,不兼容Spring Boot 1.5.x |
2.1.x | Greenwich版本(格林威治) | 兼容Spring Boot 2.1.x,不兼容1.x |
2.2.x | Hoxton | 兼容Spring Boot 2.2.x |
实际开发版本关系
spring-boot-starter-parent | spring-cloud-dependencies | ||
---|---|---|---|
版本号 | 发布日期 | 版本号 | 发布日期 |
1.5.2.RELEASE | 2017年3月 | Dalston.RC1 | 2017年未知月 |
1.5.9.RELEASE | Nov,2017 | Edgware.RELEASE | Nov, 2017 |
1.5.16.RELEASE | sep, 2018 | Edgware.SR5 | Oct,2018 |
1.5.20.RELEASE | Apr, 2019 | Edgware.SR5 | Oct, 2018 |
2.0.2.RELEASE | May, 2018 | Finchley.BUILD-SNAPSHOT | 2018年未知月 |
2.0.6.RELEASE | Oct, 2018 | Finchley.SR2 | Oct, 2018 |
2.1.4.RELEASE | Apr,2019 | Greenwich.SR1 | Mar,2019 |
2.2.5.RELEASE | Hoxton.SR6 |
一般使用最后的这两个
微服务:基于单个应用围绕业务进行拆分,拆分出来每一个服务独立项目 单独部署 运行在自己计算机进程里面 基于分布式服务管理
# 0.说明
- springboot 2.2.5.RELEASE
- springcloud Hoxton.SR6
- java8
# 1.创建springboot项目 指定版本为 2.2.5版本
# 2.引入springcloud的版本管理
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>cn.su</groupId>
<artifactId>springcloud_parent</artifactId>
<version>1.0-SNAPSHOT</version>
<!--继承springboot的父项目-->
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.2.5.RELEASE</version>
</parent>
<!--自定义properties属性-->
<properties>
<maven.compiler.source>8</maven.compiler.source>
<maven.compiler.target>8</maven.compiler.target>
<java.version>1.8</java.version>
<spring-cloud.version>Hoxton.SR6</spring-cloud.version>
</properties>
<!--全局管理springcloud版本,并不会引入具体依赖-->
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>${spring-cloud.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
</project>
所谓服务注册中心就是在整个微服务架构单独抽取一个服务,这个服务不完成项目中任何业务功能,仅仅用来在微服务中记录微服务以及对整个系统微服务进行健康状态检查,以及服务元数据信息存储
# 1.服务注册中心
- 可以对所有的微服务的信息进行存储,如微服务的名称、IP、端口等
- 可以在进行服务调用时通过服务发现查询可用的微服务列表及网络地址进行服务调用
- 可以对所有的微服务进行心跳检测,如发现某实例长时间无法访问,就会从服务注册表移除该实例。
springcloud支持的多种注册中心Eureka、Consul、Zookeeper、以及阿里巴巴推出Nacos。这些注册中心在本质上都是用来管理服务的注册和发现以及服务状态的检查的。
# 0.简介
- https://github.com/Netflix/eureka/wiki
- Eureka是Netflix开发的服务发现框架,本身是一个基于REST的服务。SpringCloud将它集成在其子项目spring-cloud-netflix中, 以实现SpringCloud的服务注册和发现功能。
Eureka包含两个组件:Eureka Server和Eureka Client。
1、创建项目并引入eureka server依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--引入 eureka server-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
2、编写配置application.properties
# eureka server 默认端口号
server.port=8761
#指定服务注册中心的地址
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
3、开启Eureka Server,入口类加入注解
@SpringBootApplication
@EnableEurekaServer // 开启Eureka Server服务
public class EurekaServerApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaServerApplication.class, args);
}
}
4、访问Eureka的服务注册页面 http://localhost:8761
注意:在项目启动成功之后默认在eureka server管理界面中出现UNKNOW 一个未知应用
在微服务架构中服务名称代表服务唯一标识,至关重要,服务名称必须唯一 使用时必须通过如下配置指定服务名称
# 指定服务名称 唯一标识 注意:服务名不能出现下划线,默认服务名不区分大小写,推荐服务名大写
spring.application.name=EUREKASERVER
5、虽然能看到管理界面为什么项目启动控制台报错?
- 出现上述问题原因:eureka组件包含 eurekaserver 和 eurekaclient。
server是一个服务注册中心,用来接受客户端的注册。client的特性会让当前启动的服务把自己作为eureka的客户端进行服务中心的注册,当项目启动时服务注册中心还没有创建好,所以找不到服务的客户端组件就直接报错了,当启动成功服务注册中心创建好了,日后client也能进行注册,就不再报错啦!
6、关闭Eureka自己注册自己
# 不再将自己同时作为客户端进行注册,让当前应用仅仅是服务注册中心
eureka.client.register-with-eureka=false
# 关闭eureka client立即注册
eureka.client.fetch-registry=false
7、再次启动,当前应用就是一个单纯Eureka Server,控制器也不再报错
发现注册中心也没有自己了
1、创建项目并引入eureka client依赖
<!--引入eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
2.编写配置application.properties
server.port=8989
spring.application.name=EUREKACLIENT
# 指定服务注册中心地址
eureka.client.service-url.defaultZone=http://localhost:8761/eureka
3、开启eureka客户端服务
@SpringBootApplication
@EnableEurekaClient //让 当前微服务作为一个eureka client进行服务注册
public class EurekaClientApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaClientApplication.class, args);
}
}
4、先启动之前的8761的服务注册中心,在启动eureka客户端服务
1、自我保护机制
- 默认情况下,如果Eureka Server在一定时间内(默认90秒)没有接收到某个微服务实例的心跳,Eureka Server将会移除该实例。但是当网络分区故障发生时,微服务与Eureka Server之间无法正常通信,而微服务本身是正常运行的,此时不应该移除这个微服务,所以引入了自我保护机制。Eureka Server在运行期间会去统计心跳失败比例在 15 分钟之内是否低于 85%,如果低于 85%,Eureka Server 会将这些实例保护起来,让这些实例不会过期。这种设计的哲学原理就是"宁可信其有不可信其无!"。自我保护模式正是一种针对网络异常波动的安全保护措施,使用自我保护模式能使Eureka集群更加的健壮、稳定的运行。
2、微服务修改减短服务心跳的时间
eureka.instance.lease-expiration-duration-in-seconds=10 #用来修改eureka server默认接受心跳的最大时间 默认是90s
eureka.instance.lease-renewal-interval-in-seconds=5 #指定客户端多久向eureka server发送一次心跳 默认是30s
3、在eureka server端关闭自我保护机制
eureka.server.enable-self-preservation=false #关闭自我保护
eureka.server.eviction-interval-timer-in-ms=3000 #超时3s自动清除[默认60*1000 1分钟]
4、尽管如此关闭自我保护机制还是会出现警告
官方并不建议在生产情况下关闭
官方停止更新说明
1、创建3个eureka server服务
有两种创建方式
2、引入eureka server依赖
3、添加配置文件
node1:
sever.port=8761
eureka.client.service-url.defaultZone=http://localhost:8762/eureka,http://localhost:8763/eureka
node2:
sever.port=8762
eureka.client.service-url.defaultZone=http://localhost:8761/eureka,http://localhost:8763/eureka
node3:
sever.port=8763
eureka.client.service-url.defaultZone=http://localhost:8761/eureka,http://localhost:8762/eureka
4、依次启动EurekaServer
注意: 若以第二种方式创建,每次启动项目前,都需要修改springcloud_01eureka_server的application.properties,然后再启动
5、启动Eureka Client
先修改配置文件
server.port=8989
spring.application.name=EUREKACLIENT
eureka.client.service-url.defaultZone=http://localhost:8761/eureka,http://localhost:8762/eureka,http://localhost:8763/eureka
这样即便某一个Eureka Server挂了也不影响业务
如果想搭建client集群,只需要修改端口号即可,但一定要保证服务名一致
# springcloud netflix eureka
- 作用:在微服务架构中充当服务注册中心
- 两个角色:eureka server 服务注册中心、eureka client 微服务
- 不好消息:eureka 1.0 (稳定) 2.0版本停止更新
- 不在推荐使用eureka 服务注册中心 1. 最新版停止更新 2.每次必须手动通过代码形式创建服务注册中心
1、下载consul
2、安装consul
3、根据解压缩目录配置环境变量(推荐)
4、查看consul环境变量是否配置成功,执行命令出现如下信息代表成功
5、启动consul服务
6、访问consul的web服务端口;http://localhost:8500
# 管理界面介绍
- dc1: 数据中心名称 datacenter 默认为dc1 指定数据中心启动 consul agent -dev -datacenter=aa
- services: 当前consul服务注册中心列表 默认:client server同时启动,自己注册自己 会出现一个consul服务
- nodes: 从来查看consul集群结点
- key/value:可以往consul中存储一些数据
- acl: Access Controls 版本控制
1、创建项目并引入consul客户端依赖
<!--引入consul依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-consul-discovery</artifactId>
</dependency>
discovery 服务注册&发现
2、编写properties配置
server.port=8889
spring.application.name=consulclient8889
#注册consul服务的主机
spring.cloud.consul.host=localhost
#注册consul服务的端口号
spring.cloud.consul.port=8500
#指定注册的服务名称 默认就是应用名
spring.cloud.consul.discovery.service-name=${spring.application.name}
3、编写启动类
@SpringBootApplication
@EnableDiscoveryClient // 通用服务注册中心客户端注解 代表 consul、zookeeper、nacos client
public class ConsulClientApplication {
public static void main(String[] args) {
SpringApplication.run(ConsulClientApplication.class, args);
}
}
4、启动
5、直接启动consul client 出现如下问题
- 原因:consul server 检测所有客户端心跳,
但是发送心跳时client必须给与响应才能使该服务正常使用
在现有客户端中我们并没有引入健康检查依赖,所有导致健康检查始终不会通过,导致服务不能使用
#关闭consul服务的健康检查[不推荐]
spring.cloud.consul.discovery.register-health-check=false
默认情况consul监控健康是开启的,但是必须依赖健康监控依赖才能正确监控健康状态,所以直接启动会显示错误,引入健康监控依赖之后服务正常
<!-- 这个包是用做健康度监控的-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
# 1.CAP定理
- CAP定理:CAP定理又称CAP原则,指的是在一个分布式系统中,一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance)。CAP 原则指的是,这三个要素最多只能同时实现两点,不可能三者兼顾。
`一致性(C):在分布式系统中的所有数据备份,在同一时刻是否同样的值。(等同于所有节点访问同一份最新的数据副本)
`可用性(A):在集群中一部分节点故障后,集群整体是否还能响应客户端的读写请求。(对数据更新具备高可用性)
`分区容忍性(P),就是高可用性,一个节点崩了,并不影响其它的节点(100个节点,挂了几个,不影响服务,越多机器越好)
# 2.Eureka特点
- Eureka中没有使用任何的数据强一致性算法保证不同集群间的Server的数据一致,仅通过数据拷贝的方式争取注册中心数据的最终一致性,虽然放弃数据强一致性但是换来了Server的可用性,降低了注册的代价,提高了集群运行的健壮性。
# 3.Consul特点
- 基于Raft算法,Consul提供强一致性的注册中心服务,但是由于Leader节点承担了所有的处理工作,势必加大了注册和发现的代价,降低了服务的可用性。通过Gossip协议,Consul可以很好地监控Consul集群的运行,同时可以方便通知各类事件,如Leader选择发生、Server地址变更等。
# 4.zookeeper特点
- 基于Zab协议,Zookeeper可以用于构建具备数据强一致性的服务注册与发现中心,而与此相对地牺牲了服务的可用性和提高了注册需要的时间。
如何解决微服务的服务间通信问题?
总结:在springcloud中服务间调用方式主要是使用 http restful方式进行服务间调用
如何在java代码中发起HTTP方式请求?
网络编程
说明:
1、创建两个服务并注册到consul注册中心中
- users 代表用户服务 端口为 9999
- orders 代表商品服务 端口为 9998
`注意:这里服务仅仅用来测试,没有实际业务意义
2、引入依赖
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-consul-discovery</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
3、添加配置文件
# users服务
server.port=8888
spring.application.name=USERS
spring.cloud.consul.host=localhost
spring.cloud.consul.port=8500
# orders服务
server.port=9999
spring.application.name=ORDERS
spring.cloud.consul.host=localhost
spring.cloud.consul.port=8500
4、在订单服务中提供服务方法
@RestController
@RequestMapping("order")
public class OrderController {
private static final Logger log = LoggerFactory.getLogger(OrderController.class);
@GetMapping()
public String demo() {
log.info("order demo....");
return "order";
}
}
5、在用户服务中使用restTemplate进行调用
@RestController
@RequestMapping("user")
public class UserController {
private static final Logger log = LoggerFactory.getLogger(UserController.class);
@GetMapping
public String invokeDemo() {
log.info("user demo....");
RestTemplate restTemplate = new RestTemplate();
String orderResult = restTemplate.getForObject("http://localhost:9999/order", String.class);
log.info("调用订单服务成功:{}", orderResult);
return "调用订单服务成功, 结果为:" + orderResult;
}
}
6、启动服务
7、测试服务调用
总结
发现问题:
解决方案:
自定义负载均衡解决策略
public String randomHost() {
List<String> hosts = new ArrayList<>();
hosts.add("localhost:9999");
hosts.add("localhost:9990");
int i = new Random().nextInt(hosts.size() - 1);
return hosts.get(i);
}
Ribbon负载均衡原理
# 1.项目中引入依赖
- 说明:
1.如果使用的是eureka client 和 consul client,无须引入依赖,因为在eureka,consul中默认集成了ribbon组件
2.如果使用的client中没有ribbon依赖需要显式引入如下依赖
<!--引入ribbon依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>
@GetMapping
public String invokeDemo() {
log.info("user demo....");
// 1. 使用discovery Client形式调用
List<ServiceInstance> serviceInstances = discoveryClient.getInstances("ORDERS");
serviceInstances.forEach(serviceInstance -> {
log.info("服务主机:{} 服务端口:{} 服务地址:{}", serviceInstance.getHost(), serviceInstance.getPort(), serviceInstance.getUri());
});
String result = new RestTemplate().getForObject(serviceInstances.get(0).getUri() + "/order", String.class);
return "ok" + result;
}
@GetMapping
public String invokeDemo() {
log.info("user demo....");
// 2. 使用LoadBalancerClient进行服务调用
ServiceInstance serviceInstance = loadBalancerClient.choose("ORDERS"); // 默认轮询
log.info("服务主机:{} 服务端口:{} 服务地址:{}", serviceInstance.getHost(), serviceInstance.getPort(), serviceInstance.getUri());
String result = new RestTemplate().getForObject(serviceInstance.getUri() + "/order", String.class);
return "ok" + result;
}
// 3.使用@loadBalanced
@Configuration
public class BeansConfig {
@Bean
@LoadBalanced
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
}
@Autowired
private RestTemplate restTemplate;
@GetMapping
public String invokeDemo() {
log.info("user demo....");
// 使用@LoadBalanced 注解
String result = restTemplate.getForObject("http:" + "ORDERS" + "/order", String.class);
return "ok" + result;
}
我们发现:及时使用Ribbon实现了负载均衡策略,但是服务路径仍然写死在代码中,不利于维护
# 1.ribbon负载均衡算法
- RoundRobinRule 轮询策略 按顺序循环选择 Server
- RandomRule 随机策略 随机选择 Server
- AvailabilityFilteringRule 可用过滤策略
`会先过滤由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问
- WeightedResponseTimeRule 响应时间加权策略
`根据平均响应的时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高,刚启动时如果统计信息不足,则使用
RoundRobinRule策略,等统计信息足够会切换到
- RetryRule 重试策略
`先按照RoundRobinRule的策略获取服务,如果获取失败则在制定时间内进行重试,获取可用的服务。
- BestAviableRule 最低并发策略
`会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务
# 1.修改服务默认随机策略
- 服务id.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule
`下面的products为服务的唯一标识
products.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule
官方停止维护说明
String restTemplateForObject = restTemplate.getForObject("http://服务名/url?参数" + name, String.class);
存在问题:
说明:
1、服务调用方法引入依赖OpenFeign依赖
<!--Open Feign依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
2、入口类加入注解开启OpenFeign支持
@SpringBootApplication
@EnableDiscoveryClient
@EnableFeignClients
public class CategoryApplication {
public static void main(String[] args) {
SpringApplication.run(CategoryApplication.class, args);
}
}
3、创建一个客户端调用接口
@FeignClient("PRODUCT") // 指定调用服务调用名称
@RequestMapping("/product")
public interface ProductClient {
@GetMapping()
String product();
}
4、使用feignClient客户端对象调用服务
@RestController
@RequestMapping("/category")
public class CategoryController {
private static final Logger log = LoggerFactory.getLogger(CategoryController.class);
@Autowired
private ProductClient productClient;
@GetMapping
public String category() {
log.info("category service....");
String product = productClient.product();
return "category ok!!!" + product;
}
}
服务与服务之间,不仅仅是调用,往往在调用过程中还伴随着参数传递
参数传递有两种方式
@PathVariable("")
@RequestParam("")
// 定义一个接受零散类型参数接口 路径传参
@GetMapping("/test/{name}/{age}")
public String test1(@PathVariable("name") String name, @PathVariable("age") Integer age) {
log.info("name:{} age:{}", name, age);
return "test ok , 当前服务端口为:" + port;
}
@GetMapping("/test/{name}/{age}")
String test1(@PathVariable("name") String name, @PathVariable("age") Integer age);
@GetMapping
public String category() {
log.info("category service....");
String result = productClient.test("小陈", 23);
return "category ok!!!" + result;
}
// 定义一个接受零散类型参数接口 queryString
@GetMapping("/test1")
public String test1(String name, Integer age) {
log.info("name:{} age:{}", name, age);
return "test ok , 当前服务端口为:" + port;
}
@GetMapping("/test1")
String test1(@RequestParam("name") String name, @RequestParam("age") Integer age);
@GetMapping
public String category() {
log.info("category service....");
String result = productClient.test1("小陈", 23);
return "category ok!!!" + result;
}
post方式一般用于对象的传递 application/json方式
// 先创建一个实体
public class Product {
private Integer id;
private String name;
private Double price;
private Date bir;
public Product(Integer id, String name, Double price, Date bir) {
this.id = id;
this.name = name;
this.price = price;
this.bir = bir;
}
}
@PostMapping("/test2")
public String test2(@RequestBody Product product) {
log.info("product:{}", product);
return "test2 ok,当前服务端口为:" + port;
}
@PostMapping("/test2")
String test2(@RequestBody Product product);
@PostMapping("/test2")
public String test2(@RequestBody Product product) {
log.info("product:{}", product);
return "test2 ok,当前服务端口为:" + port;
}
接收数组类型参数
// 定义一个接口接收数组类型参数
@GetMapping("/test3")
public String test3(String[] ids) {
for (String id : ids) {
log.info("id:{}", id);
}
return "test3 ok,当前服务端口为:" + port;
}
@GetMapping("/test3")
String test3(@RequestParam("ids") String[] ids);
@GetMapping
public String category() {
log.info("category service....");
String result = productClient.test3(new String[]{"21", "222", "555"});
return "category ok!!!" + result;
}
接收集合类型参数
// 定义一个接口接收集合类型参数 // springmvc 不能直接接受集合类型参数, 如果想要接收集合类型参数必须放入对象中,使用对象的方式接收才行
@GetMapping("/test4")
public String test4(ArrayList<String> ids) {
ids.forEach(id -> log.info("id:{}", id));
return "test3 ok,当前服务端口为:" + port;
}
@GetMapping("/test4")
String test4(@RequestParam("ids") String[] ids);
@GetMapping
public String category() {
log.info("category service....");
String result = productClient.test4(new String[]{"21", "222", "555"});
return "category ok!!!" + result;
}
返回对象类型
@GetMapping("/test5/{id}")
public Product getProduct(@PathVariable("id") Integer id) {
log.info("id:{}", id);
return new Product(id, "连衣裙", 23.23, new Date());
}
@GetMapping("/test5/{id}")
Product getProduct(@PathVariable("id") Integer id);
@GetMapping
public Product category() {
log.info("category service....");
Product product = productClient.getProduct(21);
log.info("product:{}", product);
return product;
}
返回list类型
// 声明调用商品服务根据类别id查询一组商品信息
@GetMapping("/products")
public List<Product> findByCategoryId(Integer categoryId) {
List<Product> list = new ArrayList<>();
list.add(new Product(1, "sss", 20.20, new Date()));
list.add(new Product(2, "xx", 20.21, new Date()));
list.add(new Product(3, "xxxx", 20.22, new Date()));
log.info("id:{}", categoryId);
return list;
}
@GetMapping("/products")
List<Product> findByCategoryId(@RequestParam("categoryId") Integer categoryId);
@GetMapping
public List<Product> category() {
log.info("category service....");
List<Product> products = productClient.findByCategoryId(1);
products.forEach(product -> log.info("product:{}", product));
return products;
}
超时说明
调用超时会出现如下错误:
1、模拟超时
2、进行客户端调用
3、修改OpenFeign默认超时时间
在调用方配置
feign.client.config.PRODUCT.connectTimeout=5000 #配置指定服务连接超时时间
feign.client.config.PRODUCT.readTimeout=5000 #配置指定服务等待超时时间
#feign.client.config.default.connectTimeout=5000 #配置所有服务连接超时
#feign.client.config.default.readTimeout=5000 #配置所有服务等待超时
说明
- 往往在服务调用时我们需要详细展示feign的日志,默认feign在调用是并不是最详细日志输出,因此在调试程序时应该开启feign的详细日志展示。feign对日志的处理非常灵活可为每个feign客户端指定日志记录策略,每个客户端都会创建一个logger默认情况下logger的名称是feign的全限定名需要注意的是,feign日志的打印只会DEBUG级别做出响应。
- 我们可以为feign客户端配置各自的logger.lever对象,告诉feign记录那些日志logger.lever有以下的几种值
`NONE 不记录任何日志
`BASIC 仅仅记录请求方法,url,响应状态代码及执行时间
`HEADERS 记录Basic级别的基础上,记录请求和响应的header
`FULL 记录请求和响应的header,body和元数据
1、开启日志展示
feign.client.config.PRODUCTS.loggerLevel=full #开启指定服务日志展示
#feign.client.config.default.loggerLevel=full #全局开启服务日志展示
logging.level.com.baizhi.feignclients=debug #指定feign调用客户端对象所在包,必须是debug级别
2、测试服务调用查看日志
官网:https://github.com/Netflix/Hystrix
In a distributed environment, inevitably some of the many service dependencies will fail. Hystrix is a library that helps you control the interactions between these distributed services by adding latency tolerance and fault tolerance logic. Hystrix does this by isolating points of access between the services, stopping cascading failures across them, and providing fallback options, all of which improve your system’s overall resiliency.
说明
作用
服务雪崩
在微服务之间进行服务调用,由于某一个服务故障,导致级联服务故障的现象,称为雪崩效应。雪崩效应描述的是提供方不可用,导致消费方不可用并将不可用逐渐放大的过程。
图解雪崩效应
如存在如下调用链路:
根本原因: 在调用链路中链路中某一服务因为执行业务时间过长,或者是大规模出现异常导致自身服务不可用,并把这用不可用放大的情况
类似于保险丝
服务降级说明
# 1.共同点
- 目的很一致,都是从可用性可靠性着想,为防止系统的整体缓慢甚至崩溃,采用的技术手段;
- 最终表现类似,对于两者来说,最终让用户体验到的是某些功能暂时不可达或不可用;
- 粒度一般都是服务级别,当然,业界也有不少更细粒度的做法,比如做到数据持久层(允许查询,不允许增删改);
- 自治性要求很高,熔断模式一般都是服务基于策略的自动触发,降级虽说可人工干预,但在微服务架构下,完全靠人显然不可能,开关预置、配置中心都是必要手段;sentinel
# 2.异同点
- 触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;
- 管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务边缘服务开始)
# 3.总结
- 熔断必会触发降级,所以熔断也是降级一种,区别在于熔断是对调用链路的保护,而降级是对系统过载的一种保护处理
1、项目中引入hystrix依赖
<!--引入hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
2、开启断路器
@SpringBootApplication
@EnableCircuitBreaker //用来开启断路器
public class Products9998Application {
public static void main(String[] args) {
SpringApplication.run(Products9998Application.class, args);
}
}
3、使用HystrixCommand注解实现断路
//服务熔断
@GetMapping("/product/break")
@HystrixCommand(fallbackMethod = "testBreakFall" )
public String testBreak(int id){
log.info("接收的商品id为: "+ id);
if(id<=0){
throw new RuntimeException("数据不合法!!!");
}
return "当前接收商品id: "+id;
}
public String testBreakFall(int id){
return "当前数据不合法: "+id;
}
从上面演示过程中会发现如果触发一定条件断路器会自动打开,过了一点时间正常之后又会关闭。
那么断路器打开条件是什么呢?
5、断路器打开条件
- 较低级别服务中的服务故障可能会导致一直到用户的级联故障。当对特定服务的调用超过circuitBreaker.requestVolumeThreshold(默认:20 个请求)并且失败百分比大于circuitBreaker.errorThresholdPercentage(默认:>50%)定义的滚动窗口metrics.rollingStats.timeInMilliseconds(默认:10 秒)时,电路打开并且不进行调用。在出现错误和开路的情况下,开发人员可以提供回退。
# 原文翻译之后,总结打开关闭的条件:
- 1、 当满足一定的阀值的时候(默认10秒内超过20个请求次数)
- 2、 当失败率达到一定的时候(默认10秒内超过50%的请求失败)
- 3、 到达以上阀值,断路器将会开启
- 4、 当开启的时候,所有请求都不会进行转发
- 5、 一段时间之后(默认是5秒),这个时候断路器是半开状态,会让其中一个请求进行转发。如果成功,断路器会关闭,若失败,继续开启。重复4和5。
# 面试重点问题: 断路器流程
6、默认的服务FallBack处理方法
@GetMapping("/product/hystrix")
@HystrixCommand(fallbackMethod = "testHystrixFallBack") //通过HystrixCommand降级处理 指定处理的方法
public String testHystrix(String name) {
log.info("接收名称为: " + name);
int n = 1/0;
return "服务[" + port + "]响应成功,当前接收名称为:" + name;
}
//服务降级处理
public String testHystrixFallBack(String name) {
return port + "当前服务已经被降级处理!!!,接收名称为: "+name;
}
# 服务降级: 站在系统整体负荷角度 实现: 关闭系统中某些边缘服务 保证系统核心服务运行
Emps 核心服务 Depts 边缘服务
1、客户端openfeign + hystrix实现服务降级实现
2、开启openfeign支持服务降级
feign.hystrix.enabled=true #开启openfeign支持降级
3、在openfeign客户端中加如Hystrix
@FeignClient(value = "PRODUCTS",fallback = ProductFallBack.class)
public interface ProductClient {
@GetMapping("/product/hystrix")
String testHystrix(@RequestParam("name") String name);
}
4、开发fallback处理类
@Component
public class ProductClientFallBack implements ProductClient {
@Override
public String testHystrix(String name) {
return "我是客户端的Hystrix服务实现!!!";
}
}
Hystrix Dashboard的一个主要优点是它收集了关于每个HystrixCommand的一组度量。Hystrix仪表板以高效的方式显示每个断路器的运行状况。
1、项目中引入依赖
<!--引入hystrix dashboard 依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
2、入口类中开启hystrix dashboard
@SpringBootApplication
@EnableDiscoveryClient // 注意:默认只要引入discovery client 依赖 该注解无须显示声明 自动注册
@EnableHystrixDashboard
public class HystrixDashboardApplication {
public static void main(String[] args) {
SpringApplication.run(HystrixDashboardApplication.class, args);
}
}
3、启动hystrix dashboard应用
4、在需要监控的服务入口类中加入监控路径配置
@Bean
public ServletRegistrationBean getServlet() {
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/actuator/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
5、通过监控界面监控
Unable to connect to Command Metric Stream 可以在
Hystrix Dashboard 模块的配置文件下添加:
hystrix:
dashboard:
proxy-stream-allow-list: "*"
官方地址:https://github.com/Netflix/Hystrix
Hystrix(版本 1.5.18)足够稳定,可以满足 Netflix 对我们现有应用程序的需求。同时,我们的重点已经转移到对应用程序的实时性能做出反应的更具适应性的实现上,而不是预先配置的设置(例如,通过自适应并发限制)。对于像 Hystrix 这样有意义的情况,我们打算继续将 Hystrix 用于现有应用程序,并利用 resilience4j 等开放和活跃的项目用于新的内部项目。我们开始建议其他人也这样做。
Netflix Hystrix 现已正式进入维护模式,对更大的社区有以下期望:Netflix 将不再积极审查问题、合并拉取请求和发布新版本的 Hystrix。我们已经在每个issue 1891中发布了Hystrix (1.5.18) 的最终版本,以便 Maven Central 中的最新版本与 Netflix 内部使用的最后一个已知稳定版本 (1.5.11) 保持一致。
多年来,Hystrix 为 Netflix 和社区提供了良好的服务,向维护模式的过渡绝不表明 Hystrix 的概念和想法不再有价值。相反,Hystrix 激发了许多伟大的想法和项目。我们感谢 Netflix 以及更大的社区中的每一个人,感谢这些年来对 Hystrix 所做的所有贡献。
小结:
网关统一服务入口,可方便实现对平台众多接口进行管控,对访问服务的身份认证、防报文重放与防数据篡改、功能调用的业务鉴权、响应数据的脱敏、流量与并发控制,甚至基于API调用的计量或者计费等等。
路由转发:接收一切外界请求,转发到后端的微服务上去;
在服务网关中可以完成一系列的横切功能,例如权限校验、限流以及监控等,这些都可以通过过滤器完成为什么需要网关?
网关组件在微服务中架构
Zuul is the front door for all requests from devices and web sites to the backend of the Netflix streaming application. As an edge service application, Zuul is built to enable dynamic routing, monitoring, resiliency and security.
# 0.原文翻译
- https://github.com/Netflix/zuul/wiki
- zul是从设备和网站到Netflix流媒体应用程序后端的所有请求的前门。作为一个边缘服务应用程序,zul被构建为支持动态路由、监视、弹性和安全性。
# 1.zuul版本说明
- 目前zuul组件已经从1.0更新到2.0,但是作为springcloud官方不再推荐使用zuul2.0,但是依然支持zuul2.
# 2.springcloud 官方集成zuul文档
- https://cloud.spring.io/spring-cloud-netflix/2.2.x/reference/html/#netflix-zuul-starter
This project provides a library for building an API Gateway on top of Spring WebFlux. Spring Cloud Gateway aims to provide a simple, yet effective way to route to APIs and provide cross cutting concerns to them such as: security, monitoring/metrics, and resiliency.
该项目提供了一个库,用于在 Spring WebFlux 之上构建 API 网关。Spring Cloud Gateway 旨在提供一种简单而有效的方式来路由到 API,并为它们提供横切关注点,例如:安全性、监控/指标和弹性。
特性:
<!--引入gateway网关依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
server:
port: 7979
spring:
application:
name: GATEWAY
cloud:
consul:
host: localhost
port: 8500
gateway:
routes:
- id: category_router # 路由对象唯一标识
uri: http://localhost:8786/
predicates: # 断言 用来配置路由规则
- Path=/category
- id: product_router # 路由对象唯一标识
uri: http://localhost:8787/
predicates: # 断言 用来配置路由规则
- Path=/list
- 测试通过网关访问用户服务: http://localhost:7979/category/findOne?productId=21
- 测试通过网关访问商品服务: http://localhost:7979/list/findOne?productId=1
java配置类方式配置路由
@Configuration
public class GatewayConfig {
@Bean
public RouteLocator customRouteLocator(RouteLocatorBuilder builder) {
return builder.routes()
.route("category_route", r -> r.path("/category").uri("http://localhost:8786"))
.route("product_route", r -> r.path("/list").uri("http://localhost:8787"))
.build();
}
}
访问网关路径
path规则可以写一个,写多个,支持通配符配置
gateway:
routes:
- id: product_router
uri: http://localhost:8787/
predicates:
- Path=/list, /product/**
management:
endpoints:
web:
exposure:
include: "*" #开启所有web端点暴露
动态路由以及负载均衡转发配置
spring:
application:
name: gateway
cloud:
consul:
host: localhost
port: 8500
gateway:
routes:
- id: user_route
#uri: http://localhost:9999/
uri: lb://users # lb代表转发后台服务使用负载均衡,users代表服务注册中心上的服务名
predicates:
- Path=/user/**
- id: product_route
#uri: http://localhost:9998/
uri: lb://products # lb(loadbalance)代表负载均衡转发路由
predicates:
- Path=/product/**
discovery:
locator:
enabled: true #开启根据服务名动态获取路由
版权说明 : 本文为转载文章, 版权归原作者所有 版权申明
原文链接 : https://blog.csdn.net/su2231595742/article/details/122400752
内容来源于网络,如有侵权,请联系作者删除!