openthings

openthings

关注
发信
关注(28)粉丝(399)

Kubernetes 1.21.0高可用集群快速升级及扩容

Kubernetes 1.21.0已经正式发布，高可用集群也可以直接升级(hub.docker.com已经停更，使用registry.cn-hangzhou.aliyuncs.com/google_containers)。快速升级（含国内镜像快速下载链接）包括升级kubeadm/kubectl/kubelet版本、拉取镜像、升级Kubernetes集群三个主要步骤。参考《Ubuntu上软件锁定版本不更新》安装特定DockerCE版本。

  • K8s 1.21.x与1.20.x的镜像版本变化：
    • k8s.gcr.io/kube-apiserver:v1.21.0
    • k8s.gcr.io/kube-controller-manager:v1.21.0
    • k8s.gcr.io/kube-scheduler:v1.21.0
    • k8s.gcr.io/kube-proxy:v1.21.0
    • k8s.gcr.io/pause:3.4.1
    • k8s.gcr.io/etcd:3.4.13-0
    • k8s.gcr.io/coredns/coredns:v1.8.0

遇到问题可以参考：

Kubernetes 1.21.0高可用集群快速升级及扩容-LMLPHP

提前将镜像传送到相应节点上，然后在任何一个master节点运行下面的命令即可完成升级。

kubeadm upgrade apply v1.21.0

在当前的集群中新增节点：

  • 第一步，重新创建certificate key和token：
sudo kubeadm init phase upload-certs --upload-certs

### Got:
# [upload-certs] Using certificate key:
# 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78

# Add certificate-key for Multi Master Node.
kubeadm token create --print-join-command --certificate-key 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78
  • 第二步，增加Worker节点：
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383
  • 第三步，增加master节点：
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt
    --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383
    --control-plane --certificate-key 440a880086e7e9cbbcebbd7924e6a9562d77ee8de7e0ec63511436f2467f7dde

在arm上部署kubernetes参考：

升级时出现一些小错误，后来解决了：

1、升级kubeadm/kubectl/kubelet版本

设置中国区的软件源，参考： kubernetes for china

sudo apt install kubeadm=1.21.0-00 kubectl=1.21.0-00 kubelet=1.21.0-00

查看该版本的容器镜像版本：

kubeadm config images list

输出如下：

~# kubeadm config images list

k8s.gcr.io/kube-apiserver:v1.21.0
k8s.gcr.io/kube-controller-manager:v1.21.0
k8s.gcr.io/kube-scheduler:v1.21.0
k8s.gcr.io/kube-proxy:v1.21.0
k8s.gcr.io/pause:3.4.1
k8s.gcr.io/etcd:3.4.13-0
k8s.gcr.io/coredns/coredns:v1.8.0

2、拉取容器镜像

原始的kubernetes镜像文件在gcr上，不能直接下载。我原来是把镜像到了阿里云的杭州机房的容器仓库里，拉取还是比较快的。现在hub.docker.com的访问没有问题了，有同学把镜像放到料里面，而且更新还挺及时，可以直接用。

#mirrorgcrio已经没有更新了...
#MY_REGISTRY=mirrorgcrio
MY_REGISTRY=registry.cn-hangzhou.aliyuncs.com/google_containers
K8S_VERSION="1.21.0"

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images from docker.io ......"
echo "=========================================================="
echo ""


## 拉取镜像
docker pull ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION
docker pull ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION
docker pull ${MY_REGISTRY}/etcd:3.4.13-0
docker pull ${MY_REGISTRY}/pause:3.4.1

#docker pull ${MY_REGISTRY}/coredns-arm64:1.8.0
docker pull coredns/coredns:1.8.0

## 添加Tag
docker tag ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION k8s.gcr.io/kube-apiserver:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION k8s.gcr.io/kube-scheduler:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION k8s.gcr.io/kube-controller-manager:v$K8S_VERSION
docker tag ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION k8s.gcr.io/kube-proxy:v$K8S_VERSION
docker tag ${MY_REGISTRY}/etcd:3.4.13-0 k8s.gcr.io/etcd:3.4.13-0
docker tag ${MY_REGISTRY}/pause:3.4.1 k8s.gcr.io/pause:3.4.1

#docker tag ${MY_REGISTRY}/coredns-arm64:1.8.0 k8s.gcr.io/coredns:1.8.0
docker tag coredns/coredns:1.8.0 k8s.gcr.io/coredns:1.8.0

echo ""
echo "=========================================================="
echo "Pull Kubernetes for x64 v$K8S_VERSION Images FINISHED."
echo "into docker.io/mirrorgcrio, "
echo " by openthings@https://my.oschina.net/u/2306127."
echo "=========================================================="

echo ""

保存为shell脚本，然后执行。

3、升级Kubernetes集群

全新安装：

#指定IP地址，1.21.0版本：
sudo kubeadm init --kubernetes-version=v1.21.0 --apiserver-advertise-address=192.168.90.100 --pod-network-cidr=10.244.0.0/16

高可用安装（多master节点）：

sudo kubeadm init --kubernetes-version=v1.21.0 \
--apiserver-advertise-address=192.168.90.100 \
--control-plane-endpoint=192.168.90.100:6443 \
--pod-network-cidr=10.244.0.0/16 \
--upload-certs

先查看一下需要升级的各个组件的版本。

使用kubeadm upgrade plan ，输出的版本升级信息如下：

Components that must be upgraded manually after you have upgraded the control plane with 'kubeadm upgrade apply':
COMPONENT   CURRENT       AVAILABLE
Kubelet     1 x v1.20.4   v1.21.0
            8 x v1.20.4   v1.21.0

Upgrade to the latest version in the v1.20 series:

COMPONENT            CURRENT   AVAILABLE
API Server           v1.20.4   v1.21.0
Controller Manager   v1.20.4   v1.21.0
Scheduler            v1.20.4   v1.21.0
Kube Proxy           v1.20.4   v1.21.0
CoreDNS              1.7.0     1.8.0
Etcd                 3.4.13-0     3.4.13-0

You can now apply the upgrade by executing the following command:

    kubeadm upgrade apply v1.21.0

确保上面的容器镜像已经下载（如果没有提前下载，可能被网络阻隔导致挂起），然后执行升级：

kubeadm upgrade apply v1.21.0

看到下面信息，就OK了。

[upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.21.0". Enjoy!

然后，配置当前用户环境：

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

就可以使用 kubectl version 来查看状态和 kubectl cluster-info 查看服务地址。

  • 如果服务没有起来，测试一下： 
    • 查看服务版本，kubectl version
    • 查看集群信息，kubectl cluster-info
    • 查看服务状态，sudo systemctl status kubelet
    • 查看服务日志，journalctl -xefu kubelet

4、工作节点的升级

每个工作节点需要拉取上面对应版本的镜像，以及安装kubelet的对应版本。

检查版本：

~$ kubectl version

查看Pod信息：

kubectl get pod --all-namespaces

完成。

⚠️注意：1.17后版本，如果使用kubeadm安装为高可用模式，所有master节点都可以被升为最新版本（需要提前把k8s的容器镜像放到节点上去）。

更多参考：

04-19 16:15
Powered by LMLPHP ©2024 openthings 0.063639