高并发场景下的负载均衡实践 多台云服务器流量分发配置教程
单机扛不住就加机器,加机器就要负载均衡。但很多人以为上了负载均衡就万事大吉,结果会话不同步、文件不一致、数据库成瓶颈、缓存各读各的,并发一上来比单机还乱。
负载均衡分四层和七层。四层(L4)在传输层转发TCP/UDP,不解析HTTP内容,性能好但只能按IP和端口分发。七层(L7)解析HTTP/HTTPS,能按URL、Cookie、Header、域名路由,灵活但性能稍低。云厂商的CLB/ALB/SLB都是七层为主,支持HTTP/HTTPS、按URL转发、健康检查、SSL卸载。
最基础的架构:一台负载均衡加两台Web服务器。负载均衡监听80和443,443上做SSL终止(证书挂在LB上,后端走HTTP或HTTPS),后端服务器池放两台ECS,健康检查配/health接口或根路径,返回200算健康。
会话保持是高并发第一坑。用户登录后请求被分到不同后端,Session不在同一台机器上,登录状态丢了。三种解法:一是Session存Redis,所有后端连同一个Redis,登录状态集中管理;二是负载均衡开IP Hash或Cookie粘滞,同一用户固定到同一后端,但后端挂了会话就丢;三是JWT无状态认证,服务端不存Session,Token里带用户信息,后端只验签名。生产环境推荐方案一加方案三,Redis存会话加JWT做API认证。
文件一致性第二坑。用户上传图片到Web1,下次请求被分到Web2,图片找不到。解法:上传目录用NFS或对象存储共享。正经做法上传走对象存储,前端直传或后端转发,所有Web节点从同一个OSS/COS读文件,不存在不一致问题。如果非要用本地存储,NFS挂同一个目录,但NFS本身可能成单点瓶颈。
数据库是最终瓶颈。两台Web能轻松扛住原来五倍的流量,但MySQL还是那一台,连接数、查询压力全集中过来。优化路径:先加Redis缓存挡读请求;再上MySQL读写分离,写主库读从库;再拆库拆表;最后考虑分布式数据库。别一上来就上MyCAT、ShardingSphere,小站读写分离加缓存就够。
负载均衡算法选什么。轮询适合后端性能一致的场景;加权轮询按机器配置分配比例;最小连接数把请求发给当前连接最少的后端,适合长连接;IP Hash适合需要会话粘滞但不想用Redis的场景。云厂商LB一般支持这些,按业务选。
健康检查配置要合理。检查间隔太短会产生大量健康请求,太长故障发现慢。一般设间隔5秒、超时3秒、连续3次失败标记不健康、连续3次成功标记恢复。检查URL用轻量的/health接口,别检查首页,首页可能涉及数据库查询,检查本身就有开销。
SSL卸载减轻后端压力。负载均衡上终止SSL握手,后端用HTTP通信,后端不用做加解密,CPU省出来处理业务。如果安全要求高必须端到端加密,后端也走HTTPS但用内网IP和自签证书就行。
自动伸缩是进阶玩法。云厂商的弹性伸缩组(ASG)配合负载均衡,CPU超阈值自动加机器,低峰自动减。但自动伸缩要求应用是无状态的、启动脚本能自动加入LB后端、配置管理用Ansible或脚本自动完成。小站手动加机器就够了,自动伸缩适合大促和流量波动大的场景。
成本算清楚。负载均衡本身有实例费加流量费或LCU费,多台机器加起来的成本比单机高。判断标准是:单机性能到顶了(CPU持续80%以上、内存持续85%以上、带宽跑满),或者需要高可用(单机宕机业务不能停),才上负载均衡。为了"以后可能并发高"提前上LB是多花钱。

发表评论