负载均衡算法及实践

轮询选择指的是从已有的后端节点列表中按顺序依次选择一个节点出来提供服务。

优点：试图做到请求转移的绝对均衡。实现简单，使用广泛。

实际使用中各个节点往往都带有不同的权重，所以一般都需要实现带权重的轮询选择。 权重高的被选中的次数多，权重低的被选中的次数少。

优点：是 轮询(Round Robin)法 改良版。适用于服务器配置不一致时，可以将配置好的服务器多干活，配置差的服务器少干活以使机器的负载达到相同的水平。

HAProxy 中实现的一个负载均衡算法。

没有后台服务器的限制，服务器启动时，修改权重也不会生效。增删服务器时，服务器准备就绪后，会立即加入到服务队列中。

通过随机函数，根据后端服务器列表的大小值来随机选择其中一台进行访问。由概率统计理论可以得知，随着调用量的增大，其实际效果越来越接近于平均分配流量到每一台后端服务器，也就是轮询的效果。

与加权轮询法类似，加权随机法也是根据后端服务器不同的配置和负载情况来配置不同的权重。不同的是，它是按照权重来随机选择服务器的，而不是顺序。

源地址哈希的思想是获取客户端访问的IP地址值，通过哈希函数计算得到一个数值，用该数值对服务器列表的大小进行取模运算，得到的结果便是要访问的服务器的序号。

优点：保证了相同客户端 IP 地址将会被哈希到同一台后端服务器，直到后端服务器列表变更。根据此特性可以在服务消费者与服务提供者之间建立有状态的 Session 会话。

HAProxy 中实现的一个负载均衡算法。支持部分 URI（问号之前）和完整 URI 两种模式。

这个算法可以把同一个 URI 的访问发送到同一台服务器上，以最大程度提高缓存命中率。

该算法支持两个可选参数 len 和 depth，后跟一个正整数。仅在需要基于URI的开头来平衡服务器时，这些选项可能会很有用。 len 参数指示算法仅应考虑URI开头的许多字符来计算哈希。请注意，将 len 设置为 1 几乎没有意义，因为大多数URI都以前导 / 开头。

depth 参数指示用于计算哈希的最大目录深度。请求中的每个斜杠都计为一个级别。如果同时指定了两个参数，则在达到任意一个参数时都将停止评估。

哈希算法也有很多中，而且不同算法各有优缺。回头单独开篇整理吧。

HAProxy 中实现的一个负载均衡算法。根据 URL 参数的哈希值来选择服务器。

很明显，这个负载均衡算法只能应用在七层协议上。

HAProxy 中实现的一个负载均衡算法。根据 HTTP Header 中的指定参数名的参数值取哈希来选择服务器。

很明显，这个负载均衡算法只能应用在七层协议上。

最小连接数算法比较灵活和智能，由于后端服务器的配置不尽相同，对于请求的处理有快有慢，它正是根据后端服务器当前的连接情况，动态地选取其中当前积压连接数最少的一台服务器来处理当前请求，尽可能地提高后端服务器的利用效率，将负载合理地分流到每一台机器。

监控服务的响应时间，并根据响应时间排序，选择响应时间最短的服务器。

Netflix Ribbon 项目中实现了该算法。根据文档，这个算法来源于 JCS，它是这样搞的：

假设现在有四个节点，A(wt=10), B(wt=30), C(wt=40), D(wt=20)。

将服务器的所有权重加起来，10+30+40+20=100。则

那么，使用随机数生成器，每次生成 1 到 100 的数字 number，那么：

Netflix Ribbon 项目中实现了该算法。

通过分区过滤函数，将不可用的分区中的服务器踢出可选列表，以使请求只会被转发到可用分区上来降低请求的出错率。

Netflix Ribbon 项目中实现了该算法。

按照文档说明，它是选出熔断器关闭和链接不超过限制的服务器。

这个没有见其他地方在用，这里就不过多介绍了。