云服务器与微服务

① 微服务架构：基于微服务和Docker容器技术的PaaS云平台架构设计

基于微服务架构和Docker容器技术的PaaS云平台建设目标是给我们的开发人员提供一套服务快速开发、部署、运维管理、持续开发持续集成的流程。平台提供基础设施、中间件、数据服务、云服务器等资源，开发人员只需要开发业务代码并提交到平台代码库，做一些必要的配置，系统会自动构建、部署，实现应用的敏捷开发、快速迭代。在系统架构上，PaaS云平台主要分为微服务架构、Docker容器技术、DveOps三部分，这篇文章重点介绍微服务架构的实施。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。

实施微服务需要投入大量的技术力量来开发基础设施，这对很多公司来说显然是不现实的，别担心，业界已经有非常优秀的开源框架供我们参考使用。目前业界比较成熟的微服务框架有Netflix、Spring Cloud和阿里的Dubbo等。Spring Cloud是基于Spring Boot的一整套实现微服务的框架，它提供了开发微服务所需的组件，跟Spring Boot一起使用的话开发微服务架构的云服务会变的很方便。Spring Cloud包含很多子框架，其中Spring Cloud Netflix是其中的一套框架，在我们的微服务架构设计中，就使用了很多Spring Cloud Netflix框架的组件。Spring Cloud Netflix项目的时间还不长，相关的文档资料很少，博主当时研究这套框架啃了很多英文文档，简直痛苦不堪。对于刚开始接触这套框架的同学，要搭建一套微服务应用架构，可能会不知道如何下手，接下来介绍我们的微服务架构搭建过程以及 需要那些 框架或组件来支持微服务架构。

为了直接明了的展示微服务架构的组成及原理，画了一张系统架构图，如下：

从上图可以看出，微服务访问大致路径为：外部请求 → 负载均衡 → 服务网关（GateWay）→ 微服务 → 数据服务/消息服务。服务网关和微服务都会用到服务注册和发现来调用依赖的其他服务，各服务集群都能通过配置中心服务来获得配置信息。

服务网关（GateWay）

网关是外界系统（如：客户端浏览器、移动设备等）和企业内部系统之间的一道门，所有的客户端请求通过网关访问后台服务。为了应对高并发访问，服务网关以集群形式部署，这就意味着需要做负载均衡，我们采用了亚马逊EC2作为虚拟云服务器，采用ELB(Elastic Load Balancing)做负载均衡。EC2具有自动配置容量功能，当用户流量达到尖峰，EC2可以自动增加更多的容量以维持虚拟主机的性能。ELB弹性负载均衡，在多个实例间自动分配应用的传入流量。为了保证安全性，客户端请求需要使用https加密保护，这就需要我们进行SSL卸载,使用Nginx对加密请求进行卸载处理。外部请求经过ELB负载均衡后路由到GateWay集群中的某个GateWay服务，由GateWay服务转发到微服务。服务网关作为内部系统的边界，它有以下基本能力：

1、动态路由：动态的将请求路由到所需要的后端服务集群。虽然内部是复杂的分布式微服务网状结构，但是外部系统从网关看就像是一个整体服务，网关屏蔽了后端服务的复杂性。

2、限流和容错：为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求，限制流量，保护后台服务不被大流量冲垮；党内部服务出现故障时直接在边界创建一些响应，集中做容错处理，而不是将请求转发到内部集群，保证用户良好的体验。

3、身份认证和安全性控制：对每个外部请求进行用户认证，拒绝没有通过认证的请求，还能通过访问模式分析，实现反爬虫功能。

4、监控：网关可以收集有意义的数据和统计，为后台服务优化提供数据支持。

5、访问日志：网关可以收集访问日志信息，比如访问的是哪个服务？处理过程（出现什么异常）和结果？花费多少时间？通过分析日志内容，对后台系统做进一步优化。

我们采用Spring Cloud Netflix框架的开源组件Zuul来实现网关服务。Zuul使用一系列不同类型的过滤器（Filter），通过重写过滤器，使我们能够灵活的实现网关（GateWay）的各种功能。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。

服务注册与发现

由于微服务架构是由一系列职责单一的细粒度服务构成的网状结构，服务之间通过轻量机制进行通信，这就引入了服务注册与发现的问题，服务的提供方要注册报告服务地址，服务调用放要能发现目标服务。我们的微服务架构中使用了Eureka组件来实现服务的注册与发现。所有的微服务（通过配置Eureka服务信息）到Eureka服务器中进行注册，并定时发送心跳进行 健康 检查，Eureka默认配置是30秒发送一次心跳，表明服务仍然处于存活状态，发送心跳的时间间隔可以通过Eureka的配置参数自行配置，Eureka服务器在接收到服务实例的最后一次心跳后，需要等待90秒（默认配置90秒，可以通过配置参数进行修改）后，才认定服务已经死亡（即连续3次没有接收到心跳），在Eureka自我保护模式关闭的情况下会清除该服务的注册信息。所谓的自我保护模式是指，出现网络分区、Eureka在短时间内丢失过多的服务时，会进入自我保护模式，即一个服务长时间没有发送心跳，Eureka也不会将其删除。自我保护模式默认为开启，可以通过配置参数将其设置为关闭状态。

Eureka服务以集群的方式部署（在博主的另一篇文章中详细介绍了Eureka集群的部署方式），集群内的所有Eureka节点会定时自动同步微服务的注册信息，这样就能保证所有的Eureka服务注册信息保持一致。那么在Eureka集群里，Eureka节点是如何发现其他节点的呢？我们通过DNS服务器来建立所有Eureka节点的关联，在部署Eureka集群之外还需要搭建DNS服务器。

当网关服务转发外部请求或者是后台微服务之间相互调用时，会去Eureka服务器上查找目标服务的注册信息，发现目标服务并进行调用，这样就形成了服务注册与发现的整个流程。Eureka的配置参数数量很多，多达上百个，博主会在另外的文章里详细说明。

微服务部署

微服务是一系列职责单一、细粒度的服务，是将我们的业务进行拆分为独立的服务单元，伸缩性好，耦合度低，不同的微服务可以用不同的语言开发，每一个服务处理的单一的业务。微服务可以划分为前端服务（也叫边缘服务）和后端服务（也叫中间服务），前端服务是对后端服务做必要的聚合和剪裁后暴露给外部不同的设备（PC、Phone等），所有的服务启动时都会到Eureka服务器进行注册，服务之间会有错综复杂的依赖关系。当网关服务转发外部请求调用前端服务时，通过查询服务注册表就可以发现目标服务进行调用，前端服务调用后端服务时也是同样的道理，一次请求可能涉及到多个服务之间的相互调用。由于每个微服务都是以集群的形式部署，服务之间相互调用的时候需要做负载均衡，因此每个服务中都有一个LB组件用来实现负载均衡。

微服务以镜像的形式，运行在Docker容器中。Docker容器技术让我们的服务部署变得简单、高效。传统的部署方式，需要在每台服务器上安装运行环境，如果我们的服务器数量庞大，在每台服务器上安装运行环境将是一项无比繁重的工作，一旦运行环境发生改变，就不得不重新安装，这简直是灾难性的。而使用Docker容器技术，我们只需要将所需的基础镜像（jdk等）和微服务生成一个新的镜像，将这个最终的镜像部署在Docker容器中运行，这种方式简单、高效，能够快速部署服务。每个Docker容器中可以运行多个微服务，Docker容器以集群的方式部署，使用Docker Swarm对这些容器进行管理。我们创建一个镜像仓库用来存放所有的基础镜像以及生成的最终交付镜像，在镜像仓库中对所有镜像进行管理。

服务容错

微服务之间存在错综复杂的依赖关系，一次请求可能会依赖多个后端服务，在实际生产中这些服务可能会产生故障或者延迟，在一个高流量的系统中，一旦某个服务产生延迟，可能会在短时间内耗尽系统资源，将整个系统拖垮，因此一个服务如果不能对其故障进行隔离和容错，这本身就是灾难性的。我们的微服务架构中使用了Hystrix组件来进行容错处理。Hystrix是Netflix的一款开源组件，它通过熔断模式、隔离模式、回退（fallback）和限流等机制对服务进行弹性容错保护，保证系统的稳定性。

1、熔断模式：熔断模式原理类似于电路熔断器，当电路发生短路时，熔断器熔断，保护电路避免遭受灾难性损失。当服务异常或者大量延时，满足熔断条件时服务调用方会主动启动熔断，执行fallback逻辑直接返回，不会继续调用服务进一步拖垮系统。熔断器默认配置服务调用错误率阀值为50%，超过阀值将自动启动熔断模式。服务隔离一段时间以后，熔断器会进入半熔断状态，即允许少量请求进行尝试，如果仍然调用失败，则回到熔断状态，如果调用成功，则关闭熔断模式。

2、隔离模式：Hystrix默认采用线程隔离，不同的服务使用不同的线程池，彼此之间不受影响，当一个服务出现故障耗尽它的线程池资源，其他的服务正常运行不受影响，达到隔离的效果。例如我们通过andThreadPoolKey配置某个服务使用命名为TestThreadPool的线程池，实现与其他命名的线程池隔离。

3、回退（fallback）：fallback机制其实是一种服务故障时的容错方式，原理类似Java中的异常处理。只需要继承HystixCommand并重写getFallBack()方法，在此方法中编写处理逻辑，比如可以直接抛异常（快速失败），可以返回空值或缺省值，也可以返回备份数据等。当服务调用出现异常时，会转向执行getFallBack()。有以下几种情况会触发fallback：

1）程序抛出非HystrixBadRequestExcepption异常，当抛出HystrixBadRequestExcepption异常时，调用程序可以捕获异常，没有触发fallback，当抛出其他异常时，会触发fallback；

2）程序运行超时；

3）熔断启动；

4）线程池已满。

4、限流： 限流是指对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并fallback，防止后台服务被冲垮。

Hystix使用命令模式HystrixCommand包装依赖调用逻辑，这样相关的调用就自动处于Hystrix的弹性容错保护之下。调用程序需要继承HystrixCommand并将调用逻辑写在run()中，使用execute()（同步阻塞）或queue()（异步非阻塞）来触发执行run()。

动态配置中心

微服务有很多依赖配置，某些配置参数在服务运行期间可能还要动态修改，比如：根据访问流量动态调整熔断阀值。传统的实现信息配置的方法，比如放在xml、yml等配置文件中，和应用一起打包，每次修改都要重新提交代码、打包构建、生成新的镜像、重新启动服务，效率太低，这样显然是不合理的，因此我们需要搭建一个动态配置中心服务支持微服务动态配置。我们使用Spring Cloud的configserver服务帮我们实现动态配置中心的搭建。我们开发的微服务代码都存放在git服务器私有仓库里面，所有需要动态配置的配置文件存放在git服务器下的configserver（配置中心，也是一个微服务）服务中，部署到Docker容器中的微服务从git服务器动态读取配置文件的信息。当本地git仓库修改代码后push到git服务器仓库，git服务端hooks(post-receive，在服务端完成代码更新后会自动调用)自动检测是否有配置文件更新，如果有，git服务端通过消息队列给配置中心（configserver，一个部署在容器中的微服务）发消息，通知配置中心刷新对应的配置文件。这样微服务就能获取到最新的配置文件信息，实现动态配置。

以上这些框架或组件是支撑实施微服务架构的核心，在实际生产中，我们还会用到很多其他的组件，比如日志服务组件、消息服务组件等等，根据业务需要自行选择使用。在我们的微服务架构实施案例中，参考使用了很多Spring Cloud Netflix框架的开源组件，主要包括Zuul（服务网关）、Eureka（服务注册与发现）、Hystrix（服务容错）、Ribbon（客户端负载均衡）等。这些优秀的开源组件，为我们实施微服务架构提供了捷径。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。

② 微云可能取代AWS、Azure和Google Cloud公共云

云计算市场的许多小规模提供商的云计算服务和产品在速度、成本、灵活性，甚至在本地部署和混合云选项方面都会对全球云计算行业巨头构成挑战。

云计算平台的规模一定很大，对吧?如果云计算的最佳功能是用户只需点击几秒钟并启动一台机器，那么必然需要建设和运营部署大量服务器的大量数据中心。

不过，“大”这个词明迅念是相对的。规模最大的云计算行业巨头AWS、Microsoft Azure、谷歌云可能会占据大部分市场份额，但它们并不能阻碍云计算市场其他提供商的发展。一些规模较小的云计算提供商正在开发利基市场，并采用其他的竞争方式，然而与云计算行业巨头相比，他们的服务器数量确实微不足道。

人们普遍发现，这些“微不足道”的云计算提供商也在全球范围内运营着数十个数据中心，而这些数据中心也拥有足够数量的服务器，只是没有云计算巨头那么多。

事实证明，对于开发激困人员来说，规模并不总是最具吸引力的选择。机器实例几乎是运行在普通操作系统的普通硬件，软件可以迁移以寻找更好的选择。云计算公司在用户界面、复杂功能、速度等方面展开了竞争，有时甚至在规模、价格等看似明显的优势方面的云计算巨头也面临一些竞争。

微服务架构的发展正在孕育更广泛的云计算市场。将工作负载分成N个不同部分的开发人员不需要将自己限制在一个云平台中。当连续的数据包流正在传输时，保持软件在同一数据中心运行是有意义的，但通常可能会将应用程序分解为许多松散链接的代码块，偶尔交换消息，并且不需要最快的响应速度。如果有充分的理由，后台处理和分析功能很容易转移到不同的云平台。如果企业在为系统创建体系结构时非常谨慎，甚至可以将每个微服务放在不同的云平台上。

所有这一切都意味着云计算之战并不局限于规模最大化。以下是十几个规模较小的云计算提供商，他们的云计算产品和服务也有自己独特的优势，它们都很吸引人，但并不是客户唯一的选择。当他们超越规模最大的竞争对手时，人们发现云计算市场是一个令人惊讶的巨大和多样化的市场。

1.Wasabi公司

2.Vultr公司

云计算提供商Vultr公司通过以每小时2.50美元的价格提供最低价格的实例，按小时计费。这台机器只配备512KB的内存，适用于静态Web服务器，但用户可以花费更多的费用购买更大的机器实例。

该公司已经扩展了其产品线，其中包括裸机服务器，这些服务器没有虚拟化层的阻碍。还有专门的服务器，可以减少与攻击者共享同一个服务器的威胁。Vultr公司在全球运营16个数据中心。其云平台的界面很灵活，但是提供的服务有限并且比较基础，可能提供的仅仅是命令行。如果用户希望服务器在引导时运行脚本，则可以使用一个很好的输入字段来键入脚本。但以每月2.50美元的价格计算，要求过高将是错误的。

3.UpCloud公司

UpCloud公司的亮点是提供持久硬盘存储服务，该公司称，它提供比SSD硬盘更快的性能。在启动和持续性能方面甚至可能快50%。用户必须测试其应用程序才能确定，因为速度将根据计算和数据获取的混合而变化。

UpCloud的许多其他部分也令人熟悉。UpCloud在全球运行API、一昌乎系列标准模板和数据中心，其中两个位于赫尔辛基的UpCloud公司总部附近。UpCloud提供公共云托管、私有选项和一些软件层来创建组合。软件定义的网络很快就会到来。

其基本实例提供1GB内存和25GB硬盘存储空间，起价为5美元，并以与竞争对手大致相同的方式向上扩展。UpCloud并不一定能提供更低的价格，但提供更快的磁盘访问。

4.Packet公司

Packet可能规模相对较小，但它提供功能齐全的专门服务器，它们以“裸机”运行客户的应用程序。这意味着客户的I/O和存储操作不会因无限的虚拟化层而陷入困境(至少在客户通过过度的容器化添加自己的虚拟化层之前，这是客户的责任)。

客户需要为采用Packet的机器支付更多费用，但其获得回报更多。c1.large.arm机器配备128GB的内存和32个核心处理器，其价格是每小时1美元，在一个月内累计超过672小时。Packet还采用一些配置较低的服务器，配备8 GB内存和4个核心处理器，每小时只需7美分。

其具备的一个很好的特性是现货定价市场，客户可以在那里出价购买硬件。一些需求放缓时的价格似乎比清单上的价格便宜50%以上。Packet在全球运营18个数据中心，还提供RESTful API，以及使用企业的配置、安全和管理软件的本地版本构建混合云的大量选项。

5.Linode公司

另一家提供小型灵活的Linux机器root访问权限的云计算提供商是Linode公司，其价格每月低至5美元。Linode公司支持全球9个数据中心的10个主要Linux发行版，其运营的第10个数据中心在印度孟买。

如果客户需要安装特定服务，Linode公司的用户社区将共享大量启动脚本，这些脚本将安装正确的软件并自定义配置。这些脚本涵盖了大多数主要应用程序，如WordPress、Plesk、代理服务器、OpenVPN和LAMP堆栈。客户还可以创建自己构建的脚本。

6.Hidora公司

如果客户使用一些标准模型(NoDE.JS、PHP、Java)部署Web应用程序，Hidora公司提供一个PaaS(平台即服务)来适应。该公司认为，其灵活的扩展以更好的价格提供了更好的性能。可以将负载平衡、备份和空闲出站带宽等服务整合到捆绑包中。

Hidora是如何扩展和更新旧的共享托管模型以支持现代微服务架构的一个很好的例子。如果客户想要获得root访问权限，Hidora公司会提供虚拟专用服务器，但客户也可以将Docker容器部署到其Kubernetes集群。

Hidora将其服务器部署在瑞士，并确保它们受到瑞士数据保护法的保护。

7.DigitalOcean公司

DigitalOcean之所以受到开发人员的欢迎，是因为它简化了虚拟机的启动、大小调整和拆除虚拟机的过程，DigitalOcean称之为“Droplets”。在取得一些成功之后，该公司最近扩展了PostgreSQL数据库的更多托管服务、数据桶和Kubernetes集群。Droplet按小时计费，但当月计费的小时数上限为672小时，即四周的小时数，因此每个月的价格都相同。该公司将其价格设置为5美元的倍数，使账单计算更加简单。DigitalOcean公司在全球8个城市拥有并运营12个数据中心。

8.Shared hosting公司

Shared hosting的云服务由共享Web服务器提供。客户在LAMP服务器上租借了一个帐户，上传了其HTML、JavaScript/HP，并按月支付费用，虽然不会给客户提供root权限，但有时会让客户使用Telnet。

许多专门提供这些服务的公司(IONOS、A2、BlueHost、HostGator、InMotion)已经逐渐扩展到云服务器业务，提供虚拟专用服务器和专用服务器。其计费通常按月计算，时间长达三年。

Shared hosting公司似乎对每隔几个小时启动和拆除机器以满足需求飙升的客户感兴趣。尽管如此，它们仍然是一个灵活的选项，可用于小型专用项目。

9.Antsle公司

Antsle公司可能是规模最小的云计算提供商。Antsle公司提供了一款无风扇服务器，可以放在桌面上，通过客户自己的“云托管”仪表板创建Gentoo Linux实例。这个服务器小而安静，提供云计算的大部分灵活性和功能。其CPU功率取决于客户购买的产品，客户可以通过控制物理安全性和保持一切可见性来运行工作负载，从而获得更大的工作量。

Antsle公司还正在为其支持其他硬件的软件版本进行封闭测试。或者客户也可以在裸机服务器Antsle主机中使用相同的界面和软件。