当前位置:首页 > 公众号精选 > 架构师社区
[导读]作者|孙玄/陈东 分布式系统中,大部分系统调用都会涉及到负载均衡,例如:客户端发往服务端的请求首先到达反向代理,然后反向代理再通过负载均衡算法将请求转发到业务系统;或者后端业务系统各模块间的调用前,也需要通过负载均衡算法选择到一个目标节点。

传授“带权重的负载均衡实现算法”独家设计思路!

作者|孙玄/陈东

分布式系统中,大部分系统调用都会涉及到负载均衡,例如:客户端发往服务端的请求首先到达反向代理,然后反向代理再通过负载均衡算法将请求转发到业务系统;或者后端业务系统各模块间的调用前,也需要通过负载均衡算法选择到一个目标节点。


一般情况下,我们对负载均衡的要求就是均匀,确保调用方的请求流量能够均匀的发送到我们冗余部署的N个服务节点上,所以负载均衡的算法一般使用随机或轮询都可以保证被调用结点流量的均匀。


真实情况下,往往由于部署服务的服务器性能或资源分配等原因需要我们为服务结点设置不同的权重,权重高的结点可以分配多一些的流量,同时降低权重低的结点的流量比例。


这时负载均衡就不能简单的使用随机或者轮询了,需要添加对权重的支持。接下来我们分析几种带权重的负载均衡算法,并分析一下他们的优缺点:

-     使用随机数     -

设计思路如下:首先经过负载均衡后选择到一个结点,然后我们根据权重值再做一道拦截,按权重按比例放行,实现按降低结点流量的效果。例如我们规定权重的范围从010之间,0拒绝,10放行。权重值越高,分配的流量就越多。


最简单的实现方案,可以使用随机值,假设设置目标结点的权重值为7,当结点被负载均衡选中后,我们生成一个010之间的随机数,小于7放行,大于7则不向目标结点发送请求,需要从新做负载均衡计算,由此实现了将目标结点的流量降低到原来的70%


方案实现起来很简单,但问题也很明显,我们都知道生成随机数的计算会造成CPU的开销,计算权重又发生在RPC调用过程中,所以每次RPC请求都会额外的增加一次随机数计算,累积起来对CPU额外的开销就很大了。我们可以进一步优化一下。

-     随机数组     -

我们可以使用一个随机数组代替上文描述的生成随机数的策略,实现同样效果的同时能够减少CPU的计算量。接下来描述下随机数组算法,同样权重设计为0~10


我们为每个被调用的结点都生成一个随机数组,数组长度为10。空间分配好后用01填充数组,0的个数与结点的权重值一样,同时要保证0在数组中出现的位置是随机的。


我们生成一个代表权重为“4”的随机数组(40)。


和随机数方案类似,我们在完成负载均衡计算后,进行权重拦截。这个时候我们可以通过访问随机数组代替生成随机数的计算,方案描述如下:记录上一次访问随机数组的位置,取数组下一位置元素值,取到0则放行,1则拒绝,重新进行负载均衡计算。方案的思路是,轮询访问随机数组,到达随机效果。因为数组的内容是随机的。


这两种方案思路是一致的,都是在负载均衡计算后再加一道权重拦截。但这样的问题是流量控制不精确,无法实现精确个节点按权重比例分配流量。我们可以换个思路,实现精确的流量控制。


-     轮询加权重负载策略     -

设计思路如下,设计一个权重因子,初始值为所有被调用的结点中最大权重值。负载均衡使用轮询算法,被选中结点权重值大于等于权重因子则可以调用,否则用下一结点的权重值与权重因子比较,一轮循环结束后如果没有选中结点,则降低权重因子,继续通过与权重因子比较进行选择,直到选中为止。权重因子降为0后,恢复为最大权重值。


上述伪代码中几个变量意义如下:

  • i:当前轮询的结点;

  • n:可选择结点数量;

  • cw:权重因子;

  • gcd(s):权重因子每次降低的步长;

  • max(s):所有结点中最大的权重值;

  • W(si):结点Si的权重值;

  • Si:服务结点(S0~Sn-1,共n个)

权重因子的降低步长为所有结点权重值的最大公约数。


假设有4个结点,ABCD,权重值分别为,8642,各结点权重值得最大公约数为2,所以权重降低步长为2,通过上面的伪代码,我们推演下负载均衡的流量分配结果。


初始条件:

  • 1i0开始循环;

  • 2、权重因子为8(伪代码中初始化为0,减权重因子后小于0,被恢复为最大值)



第一次调用:i=0A权重大于等于权重因子(8),可以调用A

第二次调用:i=1B权重小于8,不可以调用,继续循环;

......

第二次调用会选择哪个结点呢,以及后面的调用如何选择的,欢迎大家在评留言给出自己的推演结果。


另外权重因子的降低步长为什么是最大公约数呢?欢迎大家在评论区交流。

特别推荐一个分享架构+算法的优质内容,还没关注的小伙伴,可以长按关注一下:

传授“带权重的负载均衡实现算法”独家设计思路!

长按订阅更多精彩▼

传授“带权重的负载均衡实现算法”独家设计思路!

如有收获,点个在看,诚挚感谢

免责声明:本文内容由21ic获得授权后发布,版权归原作者所有,本平台仅提供信息存储服务。文章仅代表作者个人观点,不代表本平台立场,如有问题,请联系我们,谢谢!

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

9月2日消息,不造车的华为或将催生出更大的独角兽公司,随着阿维塔和赛力斯的入局,华为引望愈发显得引人瞩目。

关键字: 阿维塔 塞力斯 华为

加利福尼亚州圣克拉拉县2024年8月30日 /美通社/ -- 数字化转型技术解决方案公司Trianz今天宣布,该公司与Amazon Web Services (AWS)签订了...

关键字: AWS AN BSP 数字化

伦敦2024年8月29日 /美通社/ -- 英国汽车技术公司SODA.Auto推出其旗舰产品SODA V,这是全球首款涵盖汽车工程师从创意到认证的所有需求的工具,可用于创建软件定义汽车。 SODA V工具的开发耗时1.5...

关键字: 汽车 人工智能 智能驱动 BSP

北京2024年8月28日 /美通社/ -- 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成...

关键字: 亚马逊 解密 控制平面 BSP

8月30日消息,据媒体报道,腾讯和网易近期正在缩减他们对日本游戏市场的投资。

关键字: 腾讯 编码器 CPU

8月28日消息,今天上午,2024中国国际大数据产业博览会开幕式在贵阳举行,华为董事、质量流程IT总裁陶景文发表了演讲。

关键字: 华为 12nm EDA 半导体

8月28日消息,在2024中国国际大数据产业博览会上,华为常务董事、华为云CEO张平安发表演讲称,数字世界的话语权最终是由生态的繁荣决定的。

关键字: 华为 12nm 手机 卫星通信

要点: 有效应对环境变化,经营业绩稳中有升 落实提质增效举措,毛利润率延续升势 战略布局成效显著,战新业务引领增长 以科技创新为引领,提升企业核心竞争力 坚持高质量发展策略,塑强核心竞争优势...

关键字: 通信 BSP 电信运营商 数字经济

北京2024年8月27日 /美通社/ -- 8月21日,由中央广播电视总台与中国电影电视技术学会联合牵头组建的NVI技术创新联盟在BIRTV2024超高清全产业链发展研讨会上宣布正式成立。 活动现场 NVI技术创新联...

关键字: VI 传输协议 音频 BSP

北京2024年8月27日 /美通社/ -- 在8月23日举办的2024年长三角生态绿色一体化发展示范区联合招商会上,软通动力信息技术(集团)股份有限公司(以下简称"软通动力")与长三角投资(上海)有限...

关键字: BSP 信息技术
关闭
关闭