负载均衡的作用是将用户请求分发给不同的服务实例，既可以提高系统的吞吐量，也可以避免因为单一服务实例宕机导致整个系统不可用的情况。

负载均衡算法定义了如何将请求分散到服务实例的规则，优秀的负载均衡算法能够有效提高系统的吞吐量，使服务集群中各服务的负载处于高效稳定的状态。常见的负载均衡算法如下:

1.随机法

      该算法是随机从可用服务列表中选取一个服务实例来分发请求。它的实现非常h简单，一定程度上保证了请求的分散性，但是无法顾及请求分配是否与服务实例的负载能力相符合

 

2.轮询法或者加权轮询法

        该算法将请求轮流分配给现有可用服务列表中的每一个服务实例，轮询法适用于集群中服务中服务实例的负载能力大致相同且请求处理能力差异不大的场景。加权轮询法会根据各个服务实例的权重，额外分配给权重较大者相适应的更多请求。

 

3.Hash法或一致Hash法

       该算法根据请求的某些属性(比如userId)，使用Hash算法将其分散到不同服务实例中，这样保证了相同属性的请求会被转发到相同的服务实例中，可以更好地利用缓存，提高系统的整体性能。改进的一致性Hash算法则基于虚拟节点，在某一个服务实例宕机或不可用后能将其请求平摊到其他服务节点，避免请求分发的目标实例发生剧烈的变化，影响系统的整体处理性能。

 

4.最小连接数法

       该算法将请求分配到当前可用服务列表中正在处理最少请求的服务实例上。该算法需要负载均衡器和各个服务实例之间进行一定量的信息交互，负载均衡器还需要了解集群中各个服务的负载情况。

 

 

负载均衡实现

可参考Dubbo负载均衡的实现进行学习：https://dubbo.apache.org/zh/docs/v2.7/dev/source/loadbalance/#m-zhdocsv27devsourceloadbalance

 

# 负载均衡
Logo
天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

deck.gl TripsLayer 出租车轨迹动画示例实战：从示例运行到着色器原理

TripsLayer 是 deck.gl 中用于渲染**随时间流动的轨迹动画**（如出租车行程、物流路径、迁徙路线）的核心图层。本文以仓库中的最小独立示例 [examples/website/trips](https://link.gitcode.com/i/1442af8f442f4cff39ff546e050fceb5) 为骨架，带你完成从安装依赖、启动应用、理解曼哈顿出租车数据格式，到深入

avatar 天工造物局

Foundry Anvil 中 eth_simulateV1 的 Blob 交易与 Blob Gas 字段规范化：原理、实现与测试验证

本篇技术指南以 [anvil-simulate-blob-transactions.md](https://link.gitcode.com/i/3d2ebe227262de169335eb290af80da8) 这条 changelog 条目为起点，深入剖析 Foundry Anvil 对 `eth_simulateV1` RPC 返回结果中 blob（EIP-4844）交易与 blob gas

avatar 天工造物局

LMCache CLI 实战：用 `lmcache kvcache clear` 管理运行中服务的 KV Cache 状态

本文是一份针对 LMCache 官方 CLI 命令 `lmcache kvcache` 的完整技术指南。该命令用于在**运行中的 LMCache 服务（MP HTTP server）**上管理 KV cache 状态，当前提供 `clear` 子命令，用于清空 L1（CPU 内存）层中缓存的全部 KV 数据。读完本文，你将掌握该命令的完整参数体系、退出码语义、终端/JSON/静默三种输出模式，并能

avatar 天工造物局