K8S的安装部署以及基础知识
Kubernetes(K8S)概述
-
Kubernetes又称作k8s,是Google在2014年发布的一个开源项目。
-
最初Google开发了一个叫Borg的系统(现在命名为Omega),来调度近20多亿个容器。 在积累了数十年的经验后,Google决定重写这个容器管理系统,并贡献给开源
社区, 而这个系统就是Kubernetes。它也是Omega的开源版本。
-
从2014年第一个版本发布以来,迅速得到了开源社区的追捧,目前,k8s已经成为了 发展最快、市场占有率最高的容器编排引擎产品。
-
Kubernetes中文社区 | 中文文档 https://www.kubernetes.org.cn/k8s
安装minikube
设置阿里云镜像
vim /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=http://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=0
安装minikube
curl -LO https://storage.googleapis.com/minikube/releases/latest/minikube-linux-amd64
sudo install minikube-linux-amd64 /usr/local/bin/minikube
安装kubectl
curl -LO https://dl.k8s.io/release/v1.20.0/bin/linux/amd64/kubectl
chmod +x ./kubectl #赋予操作权限
sudo install -o root -g root -m 0755 kubectl /usr/local/bin/kubectl
安装conntrack
yum install conntrack 我们先操作一波
启动minikube
minikube start --vm-driver=none --image-mirror-country="cn"
启动minkube报错解决
Minikube不能成功启动的报错分析及解决方案
Minikube启动前需要对系统环境进行初始化:
启用docker服务
sudo systemctl enable docker.service
关闭防火墙
sudo systemctl stop firewalld
关闭内存交换
sudo swapoff -a
修改为cgroupfs
cat > /etc/docker/daemon.json <<EOF { "exec-opts": ["native.cgroupdriver=systemd"], "log-driver": "json-file", "log-opts": { "max-size": "100m" }, "storage-driver": "overlay2" } EOF
重新加载配置
systemctl daemon-reload
重启docker
systemctl restart docker
关闭selinux
sudo setenforce 0
文件权限
sudo chmod -R 777 /etc/kubernetes/addons/
启动kubelet服务,注意:可能需要第一次允许minikube start后才会拉取kubelet
systemctl enable kubelet.service
初始化时的报警:
1.在使用kubeadm init命令初始化节点刚开始时,会有如下的perflight阶段,该阶段会进行检查,如果其中出现了如下WARNING并且初始化失败了。下面会对下述几个警告进行解决:
kubeadm init ... [init] Using Kubernetes version: v1.15.0 [preflight] Running pre-flight checks [WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/ [WARNING FileExisting-socat]: socat not found in system path
WARNING IsDockerSystemdCheck
解决办法:修改或创建/etc/docker/daemon.json,加入下述内容:{ "exec-opts": ["native.cgroupdriver=systemd"] }
重启docker:
systemctl daemon-reload systemctl restart docker
查看修改后的状态:
docker info | grep Cgroup
2.
WARNING FileExisting-socat
socat是一个网络工具, k8s 使用它来进行 pod 的数据交互,出现这个问题直接安装socat即可:
yum install -y socat
3.
WARNING Firewalld
[WARNING Firewalld]: firewalld is active, please ensure ports [8443 10250] are open or your cluster may not function correctly解决办法:
##暂时关闭防火墙 systemctl stop firewalld.service ##永久关闭 systemctl disable firewalld.service
4.“WARNING Service-Docker`
[WARNING Service-Docker]: docker service is not enabled, please run “systemctl enable docker.service”
解决办法:systemctl enable docker.service
5.
WARNING Service-Kubelet
[WARNING Service-Kubelet]: kubelet service is not enabled, please run “systemctl enable kubelet.service”
解决办法:systemctl enable kubelet.service
6.
WARNING Swap
[WARNING Swap]: running with swap on is not supported. Please disable swap解决办法:
swapoff -a
7.
SELINUX未关闭
Problems detected in kube-addon-manager [13ce287ce3f6]:
error: Error loading config file “/var/lib/minikube/kubeconfig”: open /var/lib/minikube/kubeconfig: permission denied
error: Error loading config file “/var/lib/minikube/kubeconfig”: open /var/lib/minikube/kubeconfig: permission denied
error: Error loading config file “/var/lib/minikube/kubeconfig”: open /var/lib/minikube/kubeconfig: permission denied
解决办法:setenforce 0
或尝试永久关闭SELINUX
8.ERROR FileContent–proc-sys-net-bridge-bridge-nf-call-iptables
[ERROR FileContent–proc-sys-net-bridge-bridge-nf-call-iptables]: /proc/sys/net/bridge/bridge-nf-call-iptables contents are not set to 1解决办法:
echo "1" >/proc/sys/net/bridge/bridge-nf-call-iptables
停止minikube
minikube stop
查看所有deployment
kubectl get deployment
查看所有pod
kubectl get pods
查看节点
[root@VM-12-15-centos download]` kubectl get nodes
NAME STATUS ROLES AGE VERSION
vm-12-15-centos Ready control-plane,master 79m v1.23.1
【解释】
node是⽤于承载运行中的容器的。
有⼀个n
ode,这个node的⻆⾊是master。
k8s也有集群的概念,即:cluster,包含master和node,该节点即是master节点,⼜是node节点。
创建nginx的deployment
[root@zhaowa-edu-01 ~]` kubectl create deployment my-nginx --image nginx:latest
deployment.apps/my-nginx created
【解释】
创建deployment其实有两种⽅式
1.基于命令行配置运行
kubectl create
kubectl run
- 基于yaml配置文件的
kubectl apply -f xxx.yml
查看所有pod信息以及ip和port
[root@zhaowa-edu-01 ~]` kubectl get pods -o wide
NAME READY STATUS RESTARTS AGE IP NODE
NOMINATED NODE READINESS GATES
my-nginx-b7d7bc74d-jgfks 1/1 Running 0 7m35s 172.18.0.3
zhaowa-edu-01 <none> <none>
查看所有service
[root@zhaowa-edu-01 ~]` kubectl get service
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 21h
【解释】
pod是不稳定的。服务可以保证稳定。
双十⼀之前,订单系统需要20个服务实例,双⼗⼀促销阶段,扩容⾄100个服务实例。双⼀之后,对服务缩容⾄30个服务实例。
我们是⼀个稳定的请求⽅式,统⼀个ip的。这个就是service的作用。
查询所有命名空间
[root@zhaowa-edu-01 ~]` kubectl get namespace
NAME STATUS AGE
default Active 21h
kube-node-lease Active 21h
kube-public Active 21h
kube-system Active 21h
【解释】
默认的就是defalut。
其它kube-*的都是k8s系统⾃⼰的命名空间。
将副本数(pod)从1个修改为3个
[root@zhaowa-edu-01 ~] ` kubectl scale deployments/my-nginx --replicas=3
deployment.apps/my-nginx scaled
[root@zhaowa-edu-01 ~] ` kubectl get deploy
NAME READY UP-TO-DATE AVAILABLE AGE
my-nginx 1/3 3 1 19m
[root@zhaowa-edu-01 ~] ` kubectl get pods
NAME READY STATUS RESTARTS AGE
my-nginx-b7d7bc74d-jgfks 1/1 Running 0 19m
my-nginx-b7d7bc74d-r9gsg 0/1 ContainerCreating 0 17s
my-nginx-b7d7bc74d-vr958 0/1 ContainerCreating 0 17s
【解释】
什么是副本个数?
pod的个数
如果我们不指定副本个数的话,那么默认就是⼀个pod
将副本数(pod)从3个修改为2个
[root@zhaowa-edu-01 ~] ` kubectl scale deployments/my-nginx --replicas=2
deployment.apps/my-nginx scaled
[root@zhaowa-edu-01 ~]` kubectl get deploy
NAME READY UP-TO-DATE AVAILABLE AGE
my-nginx 2/2 2 2 22m
[root@zhaowa-edu-01 ~]` kubectl get pod
NAME READY STATUS RESTARTS AGE
my-nginx-b7d7bc74d-jgfks 1/1 Running 0 22m
my-nginx-b7d7bc74d-r9gsg 1/1 Running 0 2m39s
k8s重要概念介绍
组件名称 | 作用 |
---|---|
Cluster | 资源的集合。我们的k8s利⽤这些资源运⾏各种基于容器的应用。是计算、存储和网络资源的集合 |
Master | Cluster的⼤脑。司令部。主要的任务就是用来调度的。决定我们的应用应该放到哪⾥去执行。 为了高可⽤,也可以运⾏多个master。职责是运行容器应用。 |
Node | 来负责运⾏容器应⽤。Node是由Master去管理的,负责监控和容器状态的汇报。 |
Pod | k8s的最小工作单元,包含1orN个容器。 Pod的使用方式: ⼀个pod运⾏⼀个容器 最常⽤的就是这种情况。 ⼀个pod运⾏多个容器 ⼀定是非常紧密相关的⼀组容器,并且需要资源的共享。⼀起启动、⼀起停止。 |
Controller | k8s通过它来管理Pod 包含:Deployment、ReplicaSet、DaemonSet、StatefulSet、Job。 Deployment 就是我们最常⽤的Controller。它可以管理Pod的多个副本。(即:–replicas=3),并且可以确保Pod按照期望的状态去运⾏。 ReplicaSet 它也是管理Pod的多个副本。 我们使⽤deployment的时候,会⾃动的创建ReplicaSet,最终是有ReplicaSet去创建的pod,而我们并不是去直接的使⽤它。 DaemonSet ⽤于每个Node最多只运⾏⼀个Pod副本的创建。 StatefulSet 保证副本按照固定的顺序启动、更新、删除。 |
Service | 为Pod提供了负载均衡、固定的IP和Port pod是不稳定的,ip会变化的。所以我们需要⼀个固定的ip或port。 区别: Controller ——> 负责k8s运行容器的。 Service ——> 负责k8s访问容器的。 |
Namespace | 解决同一个Cluster中,如何区别分开Controller、Pod等资源的问题,资源隔离! |
kubernetes架构
k8s架构图
重要概念
当我们执行部署应用并指定两个副本的时候,执行流程如下所示:
Kuberctl发送部署请求到API Server。
API Server通知Controller Manager创建一个deployment资源。
Scheduler执行调度任务,将两个副本Pod分发到node1和node2上。
node1和node2上的kubelet在各自的节点上创建并运行Pod。
k8s架构中,主要是由Master和Node组成的。
下面我们来针对这两部分进行详细的介绍。
Master
- API-Server
属于前端交互接⼝。提供基于Http/https RESTful API。
接收对应的指令。
- Scheduler
负责决定将pod放到那个Node上去运⾏的。
- Controller Manager
⾮常关键的组件。管理Cluster中的各种资源。
- etcd
负责保存k8s的配置信息和各种资源的状态信息。
如果数据发⽣了变化,etcd会快速通知相关的组件。
Node
- kubelet
创建和运⾏容器。
- kube-proxy
负责我们请求的转发。
如果对于多个副本,它会实现负载均衡。
Deployment
创建资源的方式
- 方式一
用kubectl命令直接创建。
比如:kubectl run nginx-deployment–image=nginx:1.7.9–replicas=2
在命令行中通过参数指定资源的属性。(但是,在K8S v1.18.0以后,–replicas已弃用 ,推荐用 kubectl apply 创建 pods)
- 方式二
通过配置文件和kubectl apply创建。
步骤:
1.编写yml配置文件。(下一页有书写样例,nginx.yml)
2.执行命令:kubectl apply -f /home/muse/nginx.yml
nginx.yml配置文件
- replicas: 2
部署的副本实例数量,默认为1
- metadata:
metadata定义Pod的元数据,至少要定义一个 label。label的key和value可以任意指定
- spec:
描述Pod的规格,此部分定义Pod中每一个容 器的属性,name和image是必需的
构建过程解析
用户通过kubectl——>创建Deployment——>创建ReplicaSet——>创建Pod
Failover
设置了pod数为3个
当Node1异常的时候,会在Node2上面生成新的Pod来维护总数为3个pod
当Node1恢复正常的时候,新创建的pod也依然会在Node2上,并不会做迁移动作。
label
默认配置下,Scheduler会将Pod调度到所有可用的Node。不过有些情况我们可以通过lable将Pod部署到指定的Node,比如将有大量磁盘I/O的Pod部署到配置了SSD的 Node;或者Pod需要GPU,需要运行在配置了GPU的节点上。
- 给k8s-node1添加标签——disktype=ssd
kubectl label node k8s-node1disktype=ssd
- 修改nginx.yml配置文件,指定nodeSelector为上一步新建的label。
nodeSelector:
disktype: ssd
- 重新部署Deployment
kubectl apply -f nginx.yml
- 查看节点的标签信息
kubectl get node --show-labels
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl get node
NAME STATUS ROLES AGE VERSION
zhaowa-edu-01 Ready control-plane,master 22h v1.20.2
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl get node --show-labels
NAME STATUS ROLES AGE VERSION LABELS
zhaowa-edu-01 Ready control-plane,master 22h v1.20.2
beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,kubernetes.io/arch=amd64,kube
rnetes.io/hostname=zhaowa-edu-
01,kubernetes.io/os=linux,minikube.k8s.io/commit=b017ea15ffbf8bcd6ce31e13ba16f59fd40910
79,minikube.k8s.io/name=minikube,minikube.k8s.io/updated_at=2021_09_18T13_04_08_0700,mi
nikube.k8s.io/version=v1.20.0,node-role.kubernetes.io/control-plane=,noderole.kubernetes.io/master=
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl label node zhaowa-edu-01 disktype=ssd
node/zhaowa-edu-01 labeled
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl get node --show-labels
NAME STATUS ROLES AGE VERSION LABELS
zhaowa-edu-01 Ready control-plane,master 22h v1.20.2
beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,disktype=ssd,kubernetes.io/ar
ch=amd64,kubernetes.io/hostname=zhaowa-edu-
01,kubernetes.io/os=linux,minikube.k8s.io/commit=b017ea15ffbf8bcd6ce31e13ba16f59fd40910
79,minikube.k8s.io/name=minikube,minikube.k8s.io/updated_at=2021_09_18T13_04_08_0700,mi
nikube.k8s.io/version=v1.20.0,node-role.kubernetes.io/control-plane=,noderole.kubernetes.io/master=
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl label node zhaowa-edu-01 disktypenode/zhaowa-edu-01 labeled
[root@zhaowa-edu-01 k8sConfigFiles]# kubectl get node --show-labels
NAME STATUS ROLES AGE VERSION LABELS
zhaowa-edu-01 Ready control-plane,master 22h v1.20.2
beta.kubernetes.io/arch=amd64,beta.kubernetes.io/os=linux,kubernetes.io/arch=amd64,kube
rnetes.io/hostname=zhaowa-edu-
01,kubernetes.io/os=linux,minikube.k8s.io/commit=b017ea15ffbf8bcd6ce31e13ba16f59fd40910
79,minikube.k8s.io/name=minikube,minikube.k8s.io/updated_at=2021_09_18T13_04_08_0700,mi
nikube.k8s.io/version=v1.20.0,node-role.kubernetes.io/control-plane=,noderole.kubernetes.io/master=
删除deployment
假设现在配置的是2个pod数。那么如果我们只是删除其中的一个pod,依然会被deployment根据配置,再补充为2个pod。
-
当我们删除掉deployment的时候,pod也会随之自动被删除。
-
删除pod
kubectl delete pod nginx-deployment-7f4fc68488-5v4m7
-
删除deployment
kubectl delete deployment nginx-deployment
-
DaemonSet
Deployment部署的副本pod会分布在各个Node上,每个Node都可能运行好几个副本。
Daemonsetl的不同之处在于:每个Node上最多只能运行一个副本。
Daemon Set的典型应用场景
1.在每个节点上运行存储 Daemon,比如 glusterd或 ceph
2.在每个节点上运行日志收集 Daemon,如 flunentdi或 logstashe
3.在毎个节点上运行监控 Daemon,比如 Prometheus Node Exporter或 collectd
查看k8s自己就用 Daemonsetie运行系统组件
Job
容器按照持续运行时间,可以分为服务类容器和工作类容器。
- 服务类容器通常持续提供服务,需 要一直运行,比如HTTP Server、Daemon等。
- 工作类容器则是一次性任务,比如批处理程序,完成后容器就退出。
Kubernetes的Deployment、ReplicaSet和DaemonSet都用于管理服务类容器;
对于工作类容器,我们使用Job。
Service
-
我们不应该期望Pod是健壮的,而是要假设Pod中的容器很可能因为各种原因发生故障而死掉。
-
Deployment等Controller会通过动态创建和销毁Pod来保证应用整体的健壮性。换句话说,Pod是脆弱的,但应用是健壮的。
-
Service提供了固定的ip和端口,并且里面包含一组pod,即使Pod的ip发生变化,但是面对客户端的是Service的固定ip和端口。
Rolling Update
滚动更新是一次只更新一小部分副本,成功后再更新更多的副本,最终完成所有副本的更新。滚动更新的最大好处是零停机,整个更新过程始终有副本在运行,从而保证
了业务的连续性。