在硬化负载均衡这条路上,字节不是第一个,也不是最后一个
从爱奇艺DPVS
即基于DPDK的4层负载均衡器
负载均衡 - 高并发网关设计原理与实践
到阿里云
推出的面向7层应用
ALB Ingress-云原生网关
阿里云:负载均衡的前世今生
再到腾讯云TGM的
核心组件Region EIP网关
采用可编程设备作为下一代网关
可以看到
四层负载均衡
逐渐硬化成为趋势
软的不行,负载均衡就来硬的
在这条路上
更早做出尝试的是
今天深陷泥潭的Mate公司
SilkRoad方案17年即登上Sigcomm
所以一点也不奇怪
字节跳动主导的硬件负载均衡
Tiara在今年登上第19届USENIX大会
摘要 带状态的四层负载平衡器(LB)部署在数据中心的边界,将互联网流量分配到后端真实服务器。当流量达到Terabits时,传统的软件负载平衡器通过增加昂贵的服务器来实现扩展。最近也有通过交换机加速来有效提升性能,但它们都未能将大量的并发流量卸载到有限的片上SRAM中。 本文介绍了Tiara,一种用于带状态的四层负载平衡器的硬件架构,旨在支持高流量(>1Tbps)、大并发流(>10M)和每秒许多新连接(>1M),而且不需要对流量模型进行任何假设。Tiara的三层架构最佳地利用了异构硬件服务于负载均衡,包括用于快速路径的可编程交换机和FPGA以及用于慢速路径的X86服务器。 Tiara的核心思想是将LB快速路径分为内存密集型任务(真实服务器选择)和吞吐量密集型任务(数据包封装/解码),并将它们分别映射到最合适的硬件中(例如,将真实服务器选择映射到配备大容量的高带宽存储器(HBM)的FPGA中,将数据包封装/解码映射到高吞吐量的可编程交换机中)。 我们已经实现了一个全功能的Tiara原型,实验表明,Tiara可以在配备8块FPGA卡的整体服务器中实现极高的性能(1.6Tbps的吞吐量,80M并发流量,每秒1.8M个新建连接,快速路径的延迟小于4us),并且具有极高的成本、能源和空间效率。
前人方案已经汗牛充栋
Tiara与前辈以及SilkRoad有何不同
最核心就是硬件升级换代带来的软件灵活性
对扩展FPGA的
可编程Server-Switch感兴趣
可以进一步阅读如下相关产品资料
对Tiara和SilkRoad负载均衡方案感兴趣的同学点赞和在看后,在公众号后台回复“tooyum29”可以获取下载地址。