“两随机选择”：破解分布式负载均衡的羊群效应

在大型分布式系统中，负载均衡是维持服务稳定性和性能的关键。传统集中式负载均衡器虽能有效分配流量，但存在成本、延迟和单点故障风险。客户端侧的负载均衡若依赖过时信息，易导致“羊群效应”，即请求过度集中于某一服务器，随后又迅速转移，造成资源浪费和性能波动。

研究表明，“两随机选择”（The Power of Two Random Choices）策略，即从两个随机选取的服务器中选择负载较低者，能显著改善此问题。该方法在信息延迟较高的情况下，仍能有效避免羊群效应，并提供接近最优的性能。通过模拟实验对比，在数据更新频率较低时，“两随机选择”的表现远优于纯随机选择或“选择最佳”策略，后者因依赖过时信息而性能急剧下降。

“两随机选择”的优势在于，它结合了基于负载信息的决策（避免了纯随机的低效）和对信息延迟的鲁棒性（优于依赖过时信息的“选择最佳”）。这一简单而强大的机制，为在信息不完全或延迟的分布式环境中优化负载均衡提供了高效解决方案，具有广泛的应用价值。

The power of two random choices - Marc’s Blog

Marc's BlogMarc Brooker