目录
5.Nginx的负载均衡模式(调度模式、调度算法、调度策略)
6.1.3 使用后端服务器自身通过相关机制保持session同步
通过反向代理实现,还可以将nginx接收到的请求转发给多个后端应用服务器处理
Nginx实现负载均衡是通过反向代理实现Nginx服务器作为前端,Tomcat服务器作为后端,web页面请求由Nginx服务来进行转发。 但是不是把所有的web请求转发,而是将静态页面请求Nginx服务器自己来处理,动态页面请求,转发给后端的Tomcat服务器来处理。据了解,Tomcat是属于轻量级的应用服务器,可接受访问量可能会不足,所以我们需要多台Tomcat服务器。并且Tomcat并发量处理能力弱(约Nginx的六分之一),所以需要Nginx方向代理时,进行合理的调用分配。
将nginx接收到的请求转发给其他应用服务器处理
upstream框架中,指令中涉及多个参数,各个参数含义说明如下:
参数 | 含义 |
weight | 服务访问的权重,默认是1 |
max_conns | server的最大并发连接数,仅作用于单worker进程,默认是0,表示没有限制 |
max _fails | 在fail timeout时间段内,最大的失败次数,当达到最大失败时,会在failtimeout秒内这台server不允许再次被选择 |
fail timeout | 单位为秒,默认10秒 |
静态页面请求由nginx自行处理并响应;动态页面请求由nginx通过反向代理转发给后端应用服务器处理。
Nginx 静态处理优势:Nginx 处理静态页面的效率远高于 Tomcat 的处理能力若 Tomcat 的请求量为1000次,则 Nginx 的请求量为6000次Tomcat 每秒的吞吐量为0.6M,Nginx 的每秒吞吐量为3.6MNginx 处理静态资源的能力是 Tomcat 处理的6倍
服务端接收来自客户端的请求中,既有静态资源也有动态资源,静态资源由 Nginx 提供服务,动态资源由 Nginx 转发至后端。
192.168.9.120做nginx服务器
192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
192.168.9.140做tomcat服务器(tomcat:8080)
192.168.9.210服务器:
192.168.9.140服务器:
192.168.9.120服务器:
编写静态测试页面
静态页面
动态页面(浏览器页面使用F5刷新切换)http://192.168.9.120/xy101/test.jsp
概念:基于http、https、mail等七层应用协议的代理转发(根据用户访问请求的URL路径来转发请求),通常用于动静分离应用场景。
配置总结:
- 1)在http配置块中使用upstream定义后端服务器列表名称和节点参数
- http {
- upstream 服务器列表名称 {
- server IP1:PORT1 weight=1;
- server IP2:PORT2 weight=1;
- ......
- }
-
-
- 2)在server配置块中使用location匹配用户请求的动态页面的URL路径,使用 proxy_pass 基于协议代理转发
- server {
- ......
- location ~ .*\.jsp$ {
- proxy_pass http://服务器列表名称;
-
- #用于为后端服务器获取真实的客户端地址
- proxy_set_header HOST $host;
- proxy_set_header X_Real_IP $remote_addr;
- proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
- }
- ......
- }
- ......
- }
概念:基于IP和端口实现的代理转发(根据IP和端口来转发请求),通常用于做网关访问入口的负载均衡器等应用场景。
192.168.9.120做nginx服务器(用作七层代理)
192.168.9.150做nginx服务器(用作七层代理,本机为yum安装的nginx)
192.168.9.111做负载均衡器(用作四层代理)
192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
192.168.9.140做tomcat服务器(tomcat:8080)
192.168.9.150nginx服务器
vim /etc/nginx/conf.d/default.conf
配置静态页面
网页测试
静态页面
动态页面
为方便测试需关闭两个nginx服务器长连接
192.168.9.120
vim /usr/local/nginx/conf/nginx.confsystemctl restart nginx
192.168.9.150
vim /etc/nginx/nginx.conf
systemctl restart nginx
重新取一台虚拟机安装nginx作为负载均衡器
192.168.9.111虚拟机(使用yum安装nginx)
- useradd -M -s /sbin/nologin nginx
- ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_stub_status_module --with-http_ssl_module --with-stream #配置
- make -j2 && make install #编译安装
-
-
对负载均衡器进行配置
192.168.9.111虚拟机
vim /usr/local/nginx/conf/nginx.conf
静态页面
动态页面
配置总结:
- 1)编译安装时需要添加 stream 四层代理模块 ./configure --with-stream
-
- 2)在 http 配置块同层级,一般在 http 配置块上面添加 stream 配置块,在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
- stream {
- upstream 服务器列表名称 {
- server IP1:PORT1 weight=1;
- server IP2:PORT2 weight=1;
- ......
- }
-
- server {
- listen IP:PORT;
- proxy_pass 服务器列表名称;
- }
- }
-
- http {....}
四层反向代理比七层反向代理转发性能更高,七层反向代理比四层反向代理转发功能更多、更灵活。
在upstream配置块里进行设置
轮询(round robin、rr) | 是nginx的默认调度模式,按照时间顺序逐一分配请求 |
加权轮询(weight round、wrr) | 使用weight参数设置权重,weight值越高的节点被分配请求的概率越大 |
least_conn(最少链接、最小连接) | 优先将请求分配给当前连接数最少的节点 |
ip_hash(源地址哈希) | 根据客户端IP做hash缓存调度,会将请求分配给固定的一个节点 |
url_hash(目的地址哈希) | 根据客户端请求访问的URL路径做hash缓存调度,会将请求分配给固定的一个节点。需要另外安装第三方模块支持 |
fdir | 优先将请求分配给响应时间最少的节点,需要另外安装第三方模块支持 |
random | 随机分配请求 |
hash nginx全局变量 consistent | 一致性hash算法,根据nginx全局变量的值来做hash缓存调度 (比如 hash $remote_addr consistent 根据客户端IP做hash缓存调度,是IP_hash的加强版) |
作用:简单说就是优化用户体验,降低网络开销
如果有一个用户访问请求被分配到服务器A,并且在服务器A登录了,并且在很短的时间,这个用户又发出了一个请求,如果没有会话保持功能的话,这个用户的请求很有可能会被分配到服务器B去,这个时候在服务器B上是没有登录的,所以你要重新登录,但是用户并不知道自己的请求被分配到了哪里,用户的感觉就是登录了怎么又要登录,用户体验很不好上。
会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置,LVS,apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定,这样可以减少需要同步session的情况,但是不能杜绝。所以同步session还是要做的。
一致性客户端地址hash算法,基于客户端IP做hash缓存将请求发送给同一个节点服务器来实现会话保持,但是容易导致负载失衡问题。
ip_hash语法:
- upstream backend {
- ip hash:
- server backendl.example.com:
- server backend2.example.com,
- server backend3.example.com down:
- server backend4.example.com:
- }
基于cookie来来判断实现会话保持
语法::
- upstream backend {
- server backendl.example.com:
- server backend2.example.com!
- sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
- }
说明:
设置浏览器中保持cookie的时间expires.
domain:定义cookie的域
path:为cookie定义路径
通过缓存数据库做session同步复制,使用后端节点服务器自身配置通过相关机制保持session同步来实现会话保持