网络弹性介绍

网络弹性也称为运维弹性,是指网络在遇到灾难事件时快速恢复和继续运行的能力。灾难事件的范畴很广泛,比如长时间停电、网络设备故障、恶意入侵等。


超时时间

工作中常常会碰到这样的开发、测试场景,比如:“对方处理请求时间过长,没有及时响应,我们的程序要怎么处理来确保不会无限期地等待”。常见的处理方式是被调用方使用 sleep 语句模拟响应时间过长,调用方设定请求超时时间过短,来造成请求超时的结果。但是这种处理方法有很多的弊端,第一:本属于网络弹性层的东西,却需要在代码中体现;第二:超时时间设置过长可能导致过多的延迟、设置过短可能导致不必要的失败,因此超时时间需要动态调整。基于上面两个弊端,Istio 使用虚拟服务来优雅实现超时处理。

Istio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHP


Istio 超时实例

本实例需要结合 Istio 故障注入模拟被调用方响应请求慢的场景,有关 Istio 失败注入之延迟请参考本人的另外一篇博文,简单到让你分分钟轻松完爆。

该实例的架构图如下:

Istio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHP

架构说明如下,本实例就是模拟客户端调用 nginx,nginx 将请求转发给 tomcat 的常见功能。tomcat 响应请求设置为 5s(通过故障注入实现,相当于 sleep 5s 逻辑),nginx 设置 client 的请求超时时间为 2s。因为 nginx 需要在 2s 内返回给 client,而 nginx 请求 tomcat 却需要 5s,因此模拟 client 调用 nginx 超时的情景。

该实例资源文件一共有 4 个,分别如下:

client.yaml 文件

资源内容如下图所示:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: client
spec:
  replicas: 1
  selector:
    matchLabels:
      app: client
  template:
    metadata:
      labels:
        app: client
    spec:
      containers:
      - name: busybox
        image: busybox
        imagePullPolicy: IfNotPresent
        command: ["/bin/sh", "-c", "sleep 3600"]

deploy.yaml

资源内容如下图所示:

---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx
  labels:
    server: nginx
    app: web
spec:
  replicas: 1
  selector:
    matchLabels:
      server: nginx
      app: web
  template:
    metadata:
      name: nginx
      labels:
        server: nginx
        app: web
    spec:
      containers:
      - name: nginx
        image: nginx:1.14-alpine
        imagePullPolicy: IfNotPresent
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: tomcat
  labels:
    server: tomcat
    app: web
spec:
  replicas: 1
  selector:
    matchLabels:
      server: tomcat
      app: web
  template:
    metadata:
      name: tomcat
      labels:
        server: tomcat
        app: web
    spec:
      containers:
      - name: tomcat
        image: docker.io/kubeguide/tomcat-app:v1
        imagePullPolicy: IfNotPresent

svc.yaml

资源内容如下图所示:

---
apiVersion: v1
kind: Service
metadata:
  name: nginx-svc
spec:
  selector:
    server: nginx
  ports:
  - name: http
    port: 80
    targetPort: 80
    protocol: TCP
---
apiVersion: v1
kind: Service
metadata:
  name: tomcat-svc
spec:
  selector:
    server: tomcat
  ports:
  - name: http
    port: 8080
    targetPort: 8080
    protocol: TCP

vs.yaml

Istio 虚拟服务资源内容如下所示:

---
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: jiuxi-nginx-vs
spec:
  hosts:
  - nginx-svc
  http:
  - route:
    - destination:
        host: nginx-svc
    timeout: 2s
---
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: jiuxi-tomcat-vs
spec:
  hosts:
  - tomcat-svc
  http:
  - fault:
      delay:
        percentage:
          value: 100
        fixedDelay: 5s
    route:
    - destination:
        host: tomcat-svc

此虚拟服务有两个知识点。

第一:故障注入:

第二:调用超时:


超时实例部署

在上面我们编写完样例,下面准备部署。

Istio 注入

需要对 client 和 deploy 资源文件进行 Istio 注入,将 client、nginx、tomcat 都放入到网格中。本人是手工注入 Istio 方式,如果你设置了自动 Istio 注入不会影响,一样可以轻松完爆。

执行成功后,通过 kubectl get pods 查看 Istio 注入情况:

Istio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHP

部署 k8s service

部署 svc.yaml:

部署 Istio 虚拟服务

部署 vs.yaml:


超时实例设置

因为要用到 nginx 对 tomcat 的转发功能,因此需要对 nginx 做一些设置:

登录 nginx pod:

编辑 nginx 配置文件:

添加和修改如下内容:

Istio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHPIstio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHP

编辑完后,再执行如下语句验证配置和让配置生效:

Istio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHPIstio 网络弹性 实践 之 故障注入 和 调用超时-LMLPHP

自此,整个样例配置和部署完毕。


超时实例验证

登录 client,执行如下语句:

执行如下语句:

执行结果如下所示:

/ # time wget -q -O - http://nginx-svc
wget: server returned error: HTTP/1.1 504 Gateway Timeout
Command exited with non-zero status 1
real	0m 2.02s
user	0m 0.00s
sys	0m 0.00s

说明 timeout 样例运行成功。

也可以同样验证故障注入效果,执行如下语句:

/ # time wget -q -O - http://tomcat-svc
<!DOCTYPE html>
<html lang="en">
...
</html>
real	0m 5.01s
user	0m 0.00s
sys	0m 0.00s

执行效果是请求 5s 后才会返回,说明 Istio 故障注入(延迟 5s)运行成功。

08-21 19:31