• Nginx+Tomcat负载均衡、动静分离集群


    目录

    1.Nginx负载均衡

    1.1 负载均衡概念

    1.2 负载均衡原理

    1.3 Nginx配置反向代理

    1.3.1 反向代理概念

    1.3.2 反向代理主要参数

    2.Nginx动静分离

    2.1 动静分离的概念

    2.2 Nginx 静态处理优势

    2.3 动静分离原理

    3. Nginx+Tomcat动静分离的实验设计

    3.1 准备三台虚拟机

    3.2 准备动态页面

    3.3 配置Nginx服务器实现动静分离

    3.4 浏览器验证

    4.Nginx反向代理类型

    4.1 七层反向代理

    4.2 四层反向代理配置

    4.2.1 准备虚拟机

    4.2.2 配置另一台Nginx服务器实现动静分离

    4.2.3 配置Nginx负载均衡器用作四层代理

    4.2.4 浏览器验证

    4.2.5 四层代理与七层代理总结

    5.Nginx的负载均衡模式(调度模式、调度算法、调度策略)

    6.Nginx负载均衡会话保持

    6.1 Nginx会话保持实现方式

    6.1.1 ip_hsah 

    6.1.2 sticky_cookie_insert

    6.1.3 使用后端服务器自身通过相关机制保持session同步


    1.Nginx负载均衡

    1.1 负载均衡概念

    通过反向代理实现,还可以将nginx接收到的请求转发给多个后端应用服务器处理

    1.2 负载均衡原理

    Nginx实现负载均衡是通过反向代理实现Nginx服务器作为前端,Tomcat服务器作为后端,web页面请求由Nginx服务来进行转发。 但是不是把所有的web请求转发,而是将静态页面请求Nginx服务器自己来处理,动态页面请求,转发给后端的Tomcat服务器来处理。据了解,Tomcat是属于轻量级的应用服务器,可接受访问量可能会不足,所以我们需要多台Tomcat服务器。并且Tomcat并发量处理能力弱(约Nginx的六分之一),所以需要Nginx方向代理时,进行合理的调用分配。

    1.3 Nginx配置反向代理

    1.3.1 反向代理概念

    将nginx接收到的请求转发给其他应用服务器处理

    1.3.2 反向代理主要参数

    • upstream 服务池名 {   }
    • 作用:配置后端服务器池,以提供响应数据

    upstream框架中,指令中涉及多个参数,各个参数含义说明如下:

    参数含义
    weight服务访问的权重,默认是1
    max_connsserver的最大并发连接数,仅作用于单worker进程,默认是0,表示没有限制
    max _fails在fail timeout时间段内,最大的失败次数,当达到最大失败时,会在failtimeout秒内这台server不允许再次被选择
    fail timeout单位为秒,默认10秒
    • proxy_pass http:// 服务池名
    • 作用:配置将访问请求转发给后端服务器池的服务器处理

    2.Nginx动静分离

    2.1 动静分离的概念

    静态页面请求由nginx自行处理并响应;动态页面请求由nginx通过反向代理转发给后端应用服务器处理。

    2.2 Nginx 静态处理优势

    Nginx 静态处理优势:Nginx 处理静态页面的效率远高于 Tomcat 的处理能力若 Tomcat 的请求量为1000次,则 Nginx 的请求量为6000次Tomcat 每秒的吞吐量为0.6M,Nginx 的每秒吞吐量为3.6MNginx 处理静态资源的能力是 Tomcat 处理的6倍

    2.3 动静分离原理

    服务端接收来自客户端的请求中,既有静态资源也有动态资源,静态资源由 Nginx 提供服务,动态资源由 Nginx 转发至后端。

    3. Nginx+Tomcat动静分离的实验设计

    3.1 准备三台虚拟机

    192.168.9.120做nginx服务器
    192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
    192.168.9.140做tomcat服务器(tomcat:8080)

    3.2 准备动态页面

    192.168.9.210服务器:


    192.168.9.140服务器:

    3.3 配置Nginx服务器实现动静分离

    192.168.9.120服务器:

    编写静态测试页面

    3.4 浏览器验证

    静态页面

    动态页面(浏览器页面使用F5刷新切换)http://192.168.9.120/xy101/test.jsp



    4.Nginx反向代理类型

    4.1 七层反向代理

    概念:基于http、https、mail等七层应用协议的代理转发(根据用户访问请求的URL路径来转发请求),通常用于动静分离应用场景。

    配置总结:

    1. 1)在http配置块中使用upstream定义后端服务器列表名称和节点参数
    2. http {
    3. upstream 服务器列表名称 {
    4. server IP1:PORT1 weight=1;
    5. server IP2:PORT2 weight=1;
    6. ......
    7. }
    8. 2)在server配置块中使用location匹配用户请求的动态页面的URL路径,使用 proxy_pass 基于协议代理转发
    9. server {
    10. ......
    11. location ~ .*\.jsp$ {
    12. proxy_pass http://服务器列表名称;
    13. #用于为后端服务器获取真实的客户端地址
    14. proxy_set_header HOST $host;
    15. proxy_set_header X_Real_IP $remote_addr;
    16. proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
    17. }
    18. ......
    19. }
    20. ......
    21. }

    4.2 四层反向代理配置

    概念:基于IP和端口实现的代理转发(根据IP和端口来转发请求),通常用于做网关访问入口的负载均衡器等应用场景。

    4.2.1 准备虚拟机

    192.168.9.120做nginx服务器(用作七层代理)
    192.168.9.150做nginx服务器(用作七层代理,本机为yum安装的nginx)
    192.168.9.111做负载均衡器(用作四层代理)
    192.168.9.210做tomcat服务器(内含tomcat:8080、tomcat2:8081、tomcat3:8082)
    192.168.9.140做tomcat服务器(tomcat:8080)

    4.2.2 配置另一台Nginx服务器实现动静分离

    192.168.9.150nginx服务器
    vim /etc/nginx/conf.d/default.conf

    配置静态页面

    网页测试

    静态页面

    动态页面


    4.2.3 配置Nginx负载均衡器用作四层代理

    为方便测试需关闭两个nginx服务器长连接

    192.168.9.120
    vim /usr/local/nginx/conf/nginx.conf

    systemctl restart nginx

    192.168.9.150
    vim /etc/nginx/nginx.conf 

    systemctl restart nginx

    重新取一台虚拟机安装nginx作为负载均衡器

    192.168.9.111虚拟机(使用yum安装nginx)

    1. useradd -M -s /sbin/nologin nginx
    2. ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_stub_status_module --with-http_ssl_module --with-stream #配置
    3. make -j2 && make install #编译安装

    对负载均衡器进行配置

    192.168.9.111虚拟机
    vim /usr/local/nginx/conf/nginx.conf


    4.2.4 浏览器验证

    静态页面


    动态页面


    配置总结:

    1. 1)编译安装时需要添加 stream 四层代理模块 ./configure --with-stream
    2. 2)在 http 配置块同层级,一般在 http 配置块上面添加 stream 配置块,在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
    3. stream {
    4. upstream 服务器列表名称 {
    5. server IP1:PORT1 weight=1;
    6. server IP2:PORT2 weight=1;
    7. ......
    8. }
    9. server {
    10. listen IP:PORT;
    11. proxy_pass 服务器列表名称;
    12. }
    13. }
    14. http {....}

    4.2.5 四层代理与七层代理总结

    四层反向代理比七层反向代理转发性能更高,七层反向代理比四层反向代理转发功能更多、更灵活。

    5.Nginx的负载均衡模式(调度模式、调度算法、调度策略)

    在upstream配置块里进行设置

    轮询(round robin、rr)是nginx的默认调度模式,按照时间顺序逐一分配请求
    加权轮询(weight round、wrr)使用weight参数设置权重,weight值越高的节点被分配请求的概率越大
    least_conn(最少链接、最小连接)优先将请求分配给当前连接数最少的节点
    ip_hash(源地址哈希)根据客户端IP做hash缓存调度,会将请求分配给固定的一个节点
    url_hash(目的地址哈希)根据客户端请求访问的URL路径做hash缓存调度,会将请求分配给固定的一个节点。需要另外安装第三方模块支持
    fdir优先将请求分配给响应时间最少的节点,需要另外安装第三方模块支持

    random

    随机分配请求
    hash nginx全局变量 consistent

    一致性hash算法,根据nginx全局变量的值来做hash缓存调度

    (比如 hash $remote_addr consistent   根据客户端IP做hash缓存调度,是IP_hash的加强版)

    6.Nginx负载均衡会话保持

    作用:简单说就是优化用户体验,降低网络开销

          如果有一个用户访问请求被分配到服务器A,并且在服务器A登录了,并且在很短的时间,这个用户又发出了一个请求,如果没有会话保持功能的话,这个用户的请求很有可能会被分配到服务器B去,这个时候在服务器B上是没有登录的,所以你要重新登录,但是用户并不知道自己的请求被分配到了哪里,用户的感觉就是登录了怎么又要登录,用户体验很不好上。

           会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置,LVS,apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定,这样可以减少需要同步session的情况,但是不能杜绝。所以同步session还是要做的。

    6.1 Nginx会话保持实现方式

    6.1.1 ip_hsah 

    一致性客户端地址hash算法,基于客户端IP做hash缓存将请求发送给同一个节点服务器来实现会话保持,但是容易导致负载失衡问题。

    ip_hash语法:

    1. upstream backend {
    2. ip hash:
    3. server backendl.example.com:
    4. server backend2.example.com,
    5. server backend3.example.com down:
    6. server backend4.example.com:
    7. }

    基于cookie来来判断实现会话保持

    语法::

    1. upstream backend {
    2. server backendl.example.com:
    3. server backend2.example.com!
    4. sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
    5. }

    说明:
    设置浏览器中保持cookie的时间expires.
    domain:定义cookie的域
    path:为cookie定义路径

    6.1.3 使用后端服务器自身通过相关机制保持session同步

    通过缓存数据库做session同步复制,使用后端节点服务器自身配置通过相关机制保持session同步来实现会话保持

  • 相关阅读:
    和数链BaaS化服务体系赋能企业数字经济升级发展
    Hive主要介绍
    【软件测试】针对自己开发(或常用)的一个Web系统,结合所学软件测试相关技术,评价项目的可用性、可靠性和安全性
    说一下 ArrayList 和 LinkedList 的区别?
    图的邻接矩阵存储及遍历操作
    LeetCode //C - 901. Online Stock Span
    MongoDB是什么?非关系型数据库的优点?安装使用教程
    ASP.NET Core 6框架揭秘实例演示[20]:“数据保护”框架基于文件的密钥存储
    RPA除了和OCR、NLP技术结合,还能和什么技术结合?
    【Linux基础】2.1 关机、用户(组)、密码相关命令
  • 原文地址:https://blog.csdn.net/2402_83805984/article/details/139469958