如何基于国产CPU的云平台构建容器管理平台？

返回分页阅读

随着“中兴事件”不断升级，引起了国人对国产自主可控技术的高度关注;本人作为所在单位的运维工程师，也希望能找到一个稳定、能兼容国产CPU的一整套架构方案，来构建IaaS平台和PaaS平台，满足单位对安全自主可控的需求。要基于全国产方式解决公司业务需求至少要在软硬件层面满足，而国内基本都是基于x86解决方案，想找到满足需求的国产化解决方案还是非常困难的事情。但笔者由于一个偶然的机会，接触到了国产的芯片厂商和云计算厂商，并得知他们已经实现了全国产化的云计算平台，笔者也亲自动手体验了安装部署该云计算平台，并在其之上安装部署了容器平台，以下是笔者的分享。

第一节基于国产CPU的服务器

纵观国内能用于商用国产CPU服务器也没几家真实能用的;有的是基于3B1500国产商用28纳米8核处理最高主频达1.5GHz;通过多方查阅相关资料目前性能无法满足云平台需求，而且还不支持虚拟化。

一个偶然机会参加2018年贵州大数据博览会，参会过程中发现一个有意思的事情，就是在阿里云展台看到国产云平台+国产芯片宣传字样。

于是上前跟现场的工作人员进行简单的沟通，了解到国产CPU是由华芯通设计开发，这颗芯片内置48颗物理核心，单核心2.6GHz，64Bit、支持虚拟化!没想到这颗CPU居然支持虚拟化，看来距离我的想法又进一步，起码已经有硬件可以实现了。还了解到目前已经有国产云平台具备商用环境;名字叫ZStack for Alibaba Cloud，据工作人员介绍目前已有业务系统运行在基于华芯通CPU的云平台上，云平台就是ZStack。热心的工作人员带我去华芯通的专柜进行详细参观。

看到实物那一刻，我发现这个跟x86架构的服务器区别并不大，之前一直以为它是一个类似路由器这样的小盒子。没想到ARM服务器工艺已和x86服务器自造工艺无太大差别。

第二节国产云平台

1、哪些云平台支持国产CPU架构？

ZStack作为国内为数不多的自研云平台，根据官网信息已发布基于国产CPU架构的版本，那么完全可以实现基于国产CPU架构来构建国产云平台。

ZStack架构：

这架构图摘自他们的产品白皮书，从架构上看整个逻辑还是比较清晰，各组件依赖度并不高，不会因为管理控制节点故障而影响业务系统。经过仔细研究ZStack架构发现以下特点：

全异步架构：异步消息、异步方法、异步HTTP调用

无状态服务：单次请求不依赖其他请求

无锁架构：一致性哈希算法。

进程内微服务：微服务解耦。

再看看ZStack的功能架构图：

从图里可以发现，服务之间的交互统一走消息队列，整个拓扑结构不再紧密，实现星状的架构，各服务之间只有消息的交互，服务之间基本独立，添加或者删除某个服务不会影响整个架构(只会失去某些功能)。

回到文章的主题上，了解到以上信息后，我们决定使用华芯通CPU+ZStack国产化云平台来实现容器平台管理方案敲定后，接下来就是走借测流程。

通过之前展会联系的华芯通负责人帮忙，在等了2、3个星期之后，机器寄到了单位。

上图是他们的工程机，但做工已经非常精细，完全不输给主流大厂的X86服务器。接下来先部署云平台，之前提到的ZStack是国产化云计算平台的先行者，核心引擎也是完全开源的，笔者通过ZStack的官方网站(//www.zstack.io/product/enterprise/),下载了他们的iso系统，并根据用户手册的图文教程做了烧录，不得不说，整个文档做的非常清晰，很快就完成了准备工作，下面就按照文档进入安装过程。

2、安装云平台

2.1启动ARM服务器，从U盘启动

通过Console连接看到如下一些信息，这是ARM服务器在进行自检。

直到出现以下信息：

按Delete或者ESC建进入BIOS设置。

2.2 ARM服务器BIOS基本设置

2.2.1修改时间

2.2.2快速选择引导设备

选择引导设备后按回车键，快速引导。

2.2.3使用基于VNC方式安装ZStack

当选择引导设备后，将进入启动项选择界面，如下图所示：

选择using VNC模式进行引导启动;

选择usingVNC模式引导启动，即可实现通过VNC图形模式进行安装;

表示启动VNC服务，并自动从DHCP工具获取IP地址同时自动分配默认VNC端口5901;当出现这个界面即可使用VNC viewer客户端进行连接。

2.2.4安装设置

A. 选择安装模式

目前ZStack For ARM有3种安装模式分别对应为：

•企业版管理节点模式

• 计算节点模式

• 专家模式

可根据实施规划进行选择部署,选择建议：

·如果在实施方案中将管理节点独立,则第一次安装时应选择管理节点模式;

·如果用承载云主机,则安装模式为计算节点;

根据实际情况选择好对应的安装模式，然后点击Done按钮;

B. 配置磁盘分区：

·选择磁盘：

选择用于安装ZStack的系统盘。

·配置分区

·自动分区。

下面就分区模式进行说明：

分区模式有UEFI 模式和Legacy模式两种，应与BIOS设置的引导模式一致。

▬ UEFI 模式

/boot：创建分区 1GB

/boot/efi：创建分区 500MB

swap(交换分区)：创建分区 32GB

/(根分区)：配置剩下容量

·网络设置：

选择需要修改的网卡，点击Configure按钮进行配置;

设置密码并开始安装：

各模式安装部署步骤都大同小异，官网可以直接下载用户手册。安装完后的Web UI，非常简洁大方，整个安装过程超级简单，以前一直都是使用OpenStack的，而这回使用ZStack 不到30分钟部署成功，1个小时内3个节点全部部署成功，还顺带初始化了环境。

安装部署结束后，可以看到还有网络拓扑功能

安装总结：

底层硬件是ARM服务器，云平台底层也是基于ARM64位的系统。安装部署超级方便，管理控制层与业务层完全独立，就是说如果管控节点宕掉，根本就不影响业务系统的正常运行，这一点是OpenStack无法实现的。在测试过程中尝试各种断电关机测试，整个平台运行依然不受影响，稳定性非常高。目前在ZStack For ARM 云平台上轻松跑了16个ARM架构的云主机。

如何基于国产CPU的云平台构建容器管理平台？(下篇)

第三节基于ZStack云主机构建K8S集群

这里要提一下，为什么我们不直接使用物理ARM服务器部署K8S集群，这跟单位测试场景有关系，既要使用云主机透传GPU计算卡进行大量的计算，又要实现容器管理平台。况且国外主流的K8S集群通常是跑在虚拟机里面的，运行在虚拟机里面的好处有很多，比如可以实现资源定制分配、利用云平台API接口可以快速生成K8S集群Node节点、更好的灵活性以及可靠性;在ZStack ARM云平台上可以同时构建IaaS+PaaS混合平台，满足不同场景下的需求。

由于篇幅有限下面先介绍一下如何在基于ZStack For ARM平台中云主机部署K8S集群，整个部署过程大概花1小时(这主要是访问部分国外网络时不是很顺畅)。

集群环境介绍：

主机名角色IP地址配置系统版本

K8S-MasterMaster172.120.194.1968vCPU\16G内存Ubuntu-1804-aarch64

K8S-Node1Node172.120.194.1978vCPU\16G内存Ubuntu-1804-aarch64

K8S-Node2Node172.120.194.198 8vCPU\16G内存Ubuntu-1804-aarch64

K8S-Node3Node172.120.194.1998vCPU\16G内存Ubuntu-1804-aarch64

在本环境中用于构建K8S集群所需的资源，为基于ZStack构建的平台上的云主机：

ZStack云主机K8S集群架构

1、准备工作

配置主机名

所有云主机上关闭swap分区否则会报错;该操作只需在云主机环境下执行，物理机环境无需操作。

2、安装部署

2.1安装Docker

# step 1: 安装必要的一些系统工具

# step 2: 安装GPG证书

# Step 3: 写入软件源信息

# Step 4: 更新并安装 Docker-CE

使用daocloud对docker镜像下载进行加速。

2.2安装go环境

2.3 安装kubelet、kubeadm、kubectl

2.4用kubeadm创建集群

2.5 配置kubectl

2.6 安装Pod网络

为了让K8S集群的Pod之间能够正常通讯，必须安装Pod网络，Pod网络可以支持多种网络方案，当前测试环境采用Flannel模式。

先将Flannel的yaml文件下载到本地，进行编辑，编辑的主要目的是将原来X86架构的镜像名称，改为ARM架构的。让其能够在ZStack ARM云环境正常运行。修改位置及内容参考下面文件中红色粗体字部分。

2.7注册节点到K8S集群

分别在K8S-Node1、K8S-Node2、K8S-Node3

如果发现所有节点是NotReady 是因每个节点都需要启动若干个组件，这些组件都是在Pod中运行，且需要到Google下载镜像。使用下面命令查看Pod运行状况：

kubectl get nodes 再次查看节点状态

当所有节点均为 Ready状时，此时就可以使用这个集群了

2.8部署kubernetes-dashboard

克隆kubernetes-dashboard yaml文件

修改kubernetes-dashboard yaml文件,修改内容为下面红色粗体部分。

# ------------------- Dashboard Deployment ------------------- #

注意：如果在部署K8S-Dashboard界面过程中如果则登录UI的时候会报错：

这是因为K8S在1.6版本以后启用了RBAC访问控制策略，可以使用kubectl或Kubernetes API进行配置。使用RBAC可以直接授权给用户，让用户拥有授权管理的权限，这样就不再需要直接触碰Master Node。按照上面部署步骤则可以避免。

至此，基于ARM环境的K8S集群就部署完成了。

第四节全篇总结

先说说关于ZStack安装部署的一些心得，整个ZStack For ARM平台部署到业务环境构建的过程，都是比较流畅的。ZStack产品化程度高，安装过程非常简单，基本上按照官方部署文档1个小时内就能完成3台规模的云平台搭建及平台初始化工作。

ZStack云平台采用独特的异步架构，大大提升了平台响应能力，使得批量并发操作不再成为烦恼;管理层面与业务层面独立，不会因为管理节点意外宕机导致业务中断;平台内置大量实用性很高的功能，极大方便了在测试过程中运维任务;版本升级简单可靠，完全实现5分钟跨版本无缝升级，经实测升级过程中完全不影响业务正常运行。通过升级后能实现异构集群管理，也就是说在ARM服务器上构建管理节点，可以同时管理ARM集群中的资源，也能管理X86架构集群中的资源;同时实现高级SDN功能。

而基于ZStack云主机构建K8S集群时，我们团队在选择方案的时候，也拿物理机和云主机做过一系列对比，对比之后发现当我用ZStack云主机部署K8S集群的时候更加灵活、可控。具体的可以在以下几个方面体现：

1、ZStack云主机天生隔离性好

对容器技术了解的人应该清楚，多个容器公用一个Host Kernel;这样就会遇到隔离性方面的问题，虽然随着技术发展，目前也可以使用Linux系统上的防护机制实现安全隔离，但是从某个层面讲并不是完全隔离，而云主机方式受益于虚拟化技术，天生就有非常好的隔离性，从而可以进一步保障安全。ZStack就是基于KVM虚拟化技术架构自研。

2、受益于ZStack云平台多租户

在物理服务器上运行的大堆容器要实现资源自理，所谓资源自理就是各自管理自己的容器资源，那么这个时候问题就来了，一台物理机上有成千上万个容器怎么去细分管理范围呢？这个时候云平台的多租户管理就派上用处了，每个租户被分配到相应的云主机，各自管理各自的云主机以及容器集群。同时还能对不同人员权限进行控制管理。在本次测试的ZStack For ARM云平台，就可以实现按企业组织架构方式进行资源、权限管理，同时还能实现流程审批，审批完成后自动创建所需的云主机;据说后面发布的ZStack2.5.0版本还有资源编排功能。

3.ZStack云平台灵活性、自动化程度高

通过ZStack，可以根据业务需求，对云主机进行资源定制，减少资源浪费。同时根据自身业务情况调整架构实现模式，比如：有计算密集型业务，此时可以借助GPU透传功能，将GPU透传到云主机，能快速实现计算任务，避免过多繁琐配置。

另外目前各种云平台都有相应API接口，可以方便第三方应用直接调用，从而实现根据业务压力自动进行资源伸缩。但是对于物理服务器来说没什么完整的API接口，基本上都是基于IPMI方式进行管理，而且每个厂商的IPMI还不通用，很难实现资源的动态伸缩。说到API接口，我了解到的ZStack云平台，具备全API接口开放的特点。可以使容器集群根据业务压力自动伸缩。

4、可靠性非常好

为什么这么说呢?其实不难理解，计划内和计划外业务影响少。当我们对物理服务器进行计划内维护时，那些单容器运行的业务必定会受影响，此时可以借助云平台中的热迁移功能，迁移的过程中可实现业务不中断。对于计划外停机，对业务影响基本上都是按天算的，损失不可言表。如果采用云平台方式业务中断时间将会缩短到分钟级别。

上面简单分享了一下用云主机构建K8S集群的一些优点，当然也有一些缺点，在我看来缺点无非就是性能有稍微点损失，总之利大于弊。可以在规划时规避掉这个问题，比如可以将性能型容器资源集中放到物理Node上，这样就可以完美解决了。

最后再说说在ZStack ARM架构的云主机上部署K8S需要注意的地方，为大家提供一些参考。

1、默认Get下来的yaml配置文件，里面涉及的image路径都是x86架构的amd64，需要将其改成arm64。

2、在创建集群的时候，如果采用flannel网络模式则--pod-network-cidr一定要为 10.244.0.0/16，否则Pod网可能不通。

3、云主机环境一定要执行sudo swapoff -a 不然创建K8S集群的时候就会报错。

以上就是我本次的主要分享内容，欢迎大家关注交流。(qq：410185063;mail：zts@viczhu.com)。