• Nginx+Tomcat负载均衡、动静分离群集方案

    一、Tomcat简介

    在现代 Web 服务架构中，Tomcat 和 Nginx 是两个至关重要的组件，负责处理用户请求并实现高性能的服务。本篇博客将深入探讨这些技术的原理和部署配置方法。

    • 最初是由Sun的软件构架师詹姆斯·邓肯·戴维森开发。
    • 安装Tomcat后，安装路径下面的目录和文件，是使用或者配置Tomcat的重要文件。

    二、Nginx负载均衡原理

    Nginx应用

    • 1、Nginx是一款非常优秀的HTTP服务器软件
      • 支持高达50 000个并发连接数的响应
      • 拥有强大的静态资源处理能力
      • 运行稳定
      • 内存、CPU等系统资源消耗非常低
    • 2、目前很多大型网站都应用Nginx服务器作为后端网站程序的反向代理及负载均衡器，提升整个站点的负载并发能力

    Nginx实现负载均衡的原理主要通过以下几个关键步骤

    负载均衡原理

    反向代理原理

    具体过程

    1. 接收请求：Nginx作为反向代理服务器，接收客户端的请求。
    2. 选择后端服务器：根据预先配置的负载均衡算法，Nginx选择一个后端服务器来处理请求。
    3. 转发请求：Nginx将接收到的请求转发给选定的后端服务器。
    4. 返回响应：后端服务器处理请求并生成响应，将响应发送回Nginx。
    5. 返回客户端：Nginx将接收到的响应返回给客户端。

    当使用Nginx服务器作为前端时，可以配置Nginx来进行静态页面的处理，而将动态页面请求转发给后端的Tomcat服务器来处理。由于Tomcat是轻量级应用服务器，可能无法满足所有访问量，因此需要多台Tomcat服务器，并通过Nginx的配置权重来进行负载均衡，以确保请求能够被分发到不同的Tomcat服务器上。

    Nginx配置反向代理的主要参数

    • upstream 服务池名{}
      • 配置后端服务器池，以提供响应数据
    • proxy pass http://服务池名
      • 配置将访问请求转发给后端服务器池的服务器处理

    三、Nginx 负载均衡模式

    • 轮询（默认）：

    每个请求按时间顺序逐一分配到不同的后端服务器，如果超过了最大失败次数后（max_fails，默认1），在失效时间内(fail_timeout，默认10秒)，该节点失效权重变为0，超过失效时间后，则恢复正常，或者全部节点都为down后，那么将所有节点都恢复为有效继续探测。

    • 加权轮询：

    根据服务器的权重分配请求，权重越高的服务器获得更多的请求。优先将客户端请求调度到当前连接最少的服务器。

    • ip_hash ：

    每个请求按访问ip的hash哈希值结果分配，将同一客户端的请求总是发往同一个后端服务器，除非该服务器不可用，可以解决session的问题。但是ip_hash如下问题：当后端服务器宕机后，session会丢失；来自同一局域网的客户端会被转发到同一个后端服务器，可能导致负载不均。

    • ●air（第三方）：

    按后端服务器的响应时间来分配请求，响应时间短的优先分配。需要安装upstream_fair模块才能实现。

    • url_hash（第三方）：

    基于用户请求的uri做hash。和ip_hash算法类似，是对每个请求按url的hash结果分配，使每个URL定向到同一个后端服务器，但是也会造成分配不均的问题，这种模式后端服务器为缓存时比较好，可以提高后端缓存服务器的效率。


    session 共享问题还可以使用sticky_cookie_insert启用会话亲缘关系，基于cookie来判断，使来自同一客户端的请求被传递到一组服务器在同一台服务器。也可用后端服务的 session 共享代替 nginx 的 ip_hash（使用后端服务器自身通过相关机制保持session同步）。

    1. upstream backend {
    2.     server backend1.example.com;
    3.     server backend2.example.com;
    4.     sticky_cookie_insert srv_id expires=1h domain=www.xy101.com path=/;
    5. }

    #说明：需要引入第三方sticky模块才能实现；expires：设置浏览器中保持cookie的时间；domain：定义cookie的域；path：为cookie定义路径

    Nginx 四层代理配置：
    ./configure --with-stream和http同等级：所以一般配置位置只在http上面一段设置，

    1. stream {
    2.     
    3.     upstream appserver {
    4.         server 192.168.80.100:8080 weight=1;
    5.         server 192.168.80.101:8080 weight=1;
    6.         server 192.168.80.101:8081 weight=1;
    7.     }
    8.     server {
    9.         listen 8080;
    10.         proxy_pass appserver;
    11.     }
    12. }
    13.  
    14. http {
    15. ......

    四、Nginx动静分离原理

    动静分离原理
    服务端接收来自客户端的请求中，既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源Nginx转发至后端

    Nginx静态处理优势

    • Nginx处理静态页面的效率远高于Tomcat的处理能力
    • 若Tomcat的请求量为1000次，则Nginx的请求量为6000次
    • Tomcat每秒的吞吐量为0.6M，Nginx的每秒吞吐量为3.6M
    • Nginx处理静态资源的能力是Tomcat处理的6倍

    Nginx 服务器：192.168.80.10:80
    Tomcat服务器1：192.168.80.100:80
    Tomcat服务器2：192.168.80.101:8080  192.168.80.101:8081

    4.1 部署Nginx 负载均衡器

    1. systemctl stop firewalld
    2. setenforce 0
    3.  
    4. #安装所需开发包和编译环境、编译器
    5. yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
    6.  
    7. #创建程序用户，便于准确控制访问
    8. useradd -M -s /sbin/nologin nginx
    9.  
    10. #解压nginx文件
    11. cd /opt
    12. tar zxvf nginx-1.12.0.tar.gz -C /opt/
    13.  
    14. cd nginx-1.12.0/
    15. ./configure \
    16. --prefix=/usr/local/nginx \
    17. --user=nginx \
    18. --group=nginx \
    19. --with-file-aio \                                    #启用文件修改支持
    20. --with-http_stub_status_module \                    #启用状态统计
    21. --with-http_gzip_static_module \                    #启用 gzip静态压缩
    22. --with-http_flv_module \                            #启用 flv模块，提供对 flv 视频的伪流支持
    23. --with-http_ssl_module                                #启用 SSL模块，提供SSL加密功能
    24. --with-stream                                        #启用 stream模块，提供4层调度
    25. ----------------------------------------------------------------------------------------------------------
    26. ./configure \
    27. --prefix=/usr/local/nginx \                           # 指定安装目录为 /usr/local/nginx
    28. --user=nginx \                                         # 指定运行 nginx 的用户为 nginx
    29. --group=nginx \                                        # 指定运行 nginx 的用户组为 nginx
    30. --with-file-aio \                                      # 启用文件异步IO支持
    31. --with-http_stub_status_module \                       # 启用 HTTP Stub 状态模块，用于获取 nginx 的运行状态
    32. --with-http_gzip_static_module \                       # 启用 HTTP gzip 静态压缩模块，用于对静态文件进行 gzip 压缩
    33. --with-http_flv_module \                               # 启用 HTTP FLV 模块，提供对 FLV 视频的伪流支持
    34. --with-http_ssl_module \                               # 启用 HTTP SSL 模块，提供 SSL 加密功能
    35. --with-stream                                           # 启用 Stream 模块，提供 4 层调度功
    1. #编译及安装
    2. make && make install
    3.  
    4. #软链接便于系统识别nginx操作命令
    5. ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
    1.  
    2. #添加nginx系统服务以便系统管理启动、停止、重启
    3. vim /lib/systemd/system/nginx.service
    4. [Unit]
    5. Description=nginx
    6. After=network.target
    7. [Service]
    8. Type=forking
    9. PIDFile=/usr/local/nginx/logs/nginx.pid
    10. ExecStart=/usr/local/nginx/sbin/nginx
    11. ExecrReload=/bin/kill -s HUP $MAINPID
    12. ExecrStop=/bin/kill -s QUIT $MAINPID
    13. PrivateTmp=true
    14. [Install]
    15. WantedBy=multi-user.target
    16.  
    17. #赋权及开启服务、开启开机自启
    18. chmod 754 /lib/systemd/system/nginx.service
    19. systemctl start nginx.service
    20. systemctl enable nginx.service

    4.2 nginx一键部署脚本

    1. #!/bin/bash
    2. #======编译安装nginx服务======
    3. #安装所需开发包和编译环境、编译器
    4. yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
    5. #创建程序用户，便于准确控制访问
    6. useradd -M -s /sbin/nologin nginx
    7.  
    8. #解压安装包
    9. cd /opt
    10. tar zxvf nginx-1.12.0.tar.gz -C /opt/
    11.  
    12. #指定安装路径、指定用户名、组名、启用模块以支持统计状态
    13. cd nginx-1.12.0/
    14. ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_stub_status_module --with-file-aio --with-http_gzip_static_module --with-http_flv_module --with-http_ssl_module --with-stream
    15.  
    16. #编译及安装
    17. make && make install
    18.  
    19. #软链接便于系统识别nginx操作命令
    20. ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
    21.  
    22. #添加nginx系统服务
    23. echo '[Unit]
    24. Description=nginx
    25. After=network.target
    26. [Service]
    27. Type=forking
    28. PIDFile=/usr/local/nginx/logs/nginx.pid
    29. ExecStart=/usr/local/nginx/sbin/nginx
    30. ExecReload=/bin/kill -s HUP $MAINPID
    31. ExecStop=/bin/kill -s QUIT $MAINPID
    32. PrivateTmp=true
    33. [Install]
    34. WantedBy=multi-user.target' > /lib/systemd/system/nginx.service
    35.  
    36. #赋权及开启服务、开启开机自启
    37. chmod 754 /lib/systemd/system/nginx.service
    38. systemctl daemon-reload
    39. systemctl start nginx
    40. systemctl enable nginx

    五、部署Tomcat

    1.部署2台Tomcat 应用服务器（两台相同操作）

    1. systemctl stop firewalld
    2. setenforce 0
    3.  
    4. #解压安装JDK
    5. tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/
    6.  
    7. #设置JDK环境变量
    8. vim /etc/profile
    9. export JAVA_HOME=/usr/local/jdk1.8.0_91
    10. export JRE_HOME=${JAVA_HOME}/jre
    11. export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
    12. export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH
    13.  
    14. #刷新配置文件，使配置生效
    15. source /etc/profile
    16.  
    17. #解压tomcat
    18. tar zxvf apache-tomcat-8.5.16.tar.gz
    19.  
    20. #将文件移动至/usr/local/下并重命名
    21. mv /opt/apache-tomcat-8.5.16/ /usr/local/tomcat
    22.  
    23. #tomcat启动关闭脚本位置
    24. /usr/local/tomcat/bin/shutdown.sh 
    25. /usr/local/tomcat/bin/startup.sh
    26.  
    27. #重新加载服务，并开启，查看是否成功启动
    28. /usr/local/tomcat/bin/startup.sh 
    29. lsof -i:8080
    30. netstat -ntap | grep 8080

    六、配置Nginx动静分离

    6.1.动静分离配置

    1. （1）Tomcat1 server 配置
    2. mkdir /usr/local/tomcat/webapps/test
    3. vim /usr/local/tomcat/webapps/test/index.jsp
    4. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    5. <html>
    6. <head>
    7. <title>JSP test1 page</title>   #指定为 test1 页面
    8. </head>
    9. <body>
    10. <% out.println("动态页面 1,http://www.test1.com");%>
    11. </body>
    12. </html>
    13.  
    14. （2）Tomcat1 server 配置
    15. mkdir /usr/local/tomcat/webapps/test
    16. vim /usr/local/tomcat/webapps/test/index.jsp
    17. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    18. <html>
    19. <head>
    20. <title>JSP test2 page</title>   #指定为 test2 页面
    21. </head>
    22. <body>
    23. <% out.println("动态页面 2,http://www.test2.com");%>
    24. </body>
    25. </html>
    1. vim /usr/local/tomcat/conf/server.xml
    2. <Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    3.   <Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true" />
    4. </Host>
    5.

    这段配置是用来定义 Tomcat 服务器的主机（Host）配置。在这里， 元素定义了 Tomcat 主机的一些属性，其中包括：

    • name="localhost": 定义了主机的名称为 "localhost"。
    • appBase="webapps": 指定了存放 Web 应用程序的基本目录为 "webapps"，这是 Tomcat 默认的应用程序部署目录。
    • unpackWARs="true": 表示当部署 WAR 文件时，自动将其解压缩。
    • autoDeploy="true": 表示自动部署 WAR 文件，如果设置为 true，则 Tomcat 会监视 appBase 目录中的新应用程序并自动部署它们。
    • xmlValidation="false" 和 xmlNamespaceAware="false": 关闭对 web.xml 文件的 XML 验证，以及关闭对 XML 命名空间的感知。

    在 元素内部， 元素用于定义单个 Web 应用程序的上下文配置。在这里，它指定了一个名为 "test" 的Web应用程序的部署路径为根路径（""），并且启用了自动重载（reloadable="true"）。

    1. #重启两台服务
    2. /usr/local/tomcat/bin/shutdown.sh
    3. /usr/local/tomcat/bin/startup.sh

    6.2Nginx server 配置

    1. #准备静态页面和静态图片
    2. echo '
      这是默认目录静态页面
      '       > /usr/local/nginx/html/index.html
    3. mkdir /usr/local/nginx/html/kiki
    4.  
    5. #编辑nginx配置文件
    6. ​vim /usr/local/nginx/conf/nginx.conf
    7.  
    8. ......
    9. http {
    10. ......
    11. #gzip on;
    12. #后端负载服务器的地址
    13. upstream tomcat_server {
    14.   server 192.168.1.20:8080 weight=1;
    15.   server 192.168.1.30:8080 weight=1;
    16. }
    17.  
    18. server {
    19.   listen 80;
    20.   server_name www.tong.com;
    21.  
    22.   charset utf-8;
    23.  
    24.   #access_log logs/host.access.log main;
    25.  
    26. #配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
    27.   location ~ .*.jsp$ {
    28.     proxy_pass http://tomcat_server;  
    29.     proxy_set_header HOST $host;    
    30.     
    31.     proxy_set_header X-Real-IP $remote_addr;            
    32.     proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;  
    33.   }
    34.   
    35.   #配置Nginx处理静态图片请求
    36.   location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
    37.     root /usr/local/nginx/html/kiki;
    38.     expires 10d;
    39.   }
    40.   
    41.   location / {
    42.     root html;
    43.     index index.html index.htm;
    44.   }
    45. ......
    46.

    七、总结

    Nginx与Tomcat的结合可以实现负载均衡和动静分离，同时构建一个高性能的群集系统。

    1. 负载均衡：Nginx作为反向代理服务器，可以将请求分发到多个Tomcat服务器上，以实现负载均衡。通过配置Nginx的upstream模块，可以指定多个Tomcat服务器作为后端服务器，Nginx会根据一定的策略（如轮询、权重等）将请求分发给这些Tomcat服务器，从而提高整个系统的吞吐量和可用性。

    2. 动静分离：Nginx可以将动态请求（如JSP、Servlet等）和静态请求（如HTML、CSS、JavaScript等）分开处理。静态资源由Nginx直接响应，避免了Tomcat的负担，提高了静态资源的访问速度；动态请求则转发至Tomcat服务器进行处理，保证了动态内容的正确性。

    3. 群集系统：通过将多个Tomcat服务器与Nginx结合，可以构建一个高性能的群集系统。Nginx负责接收和分发请求，而Tomcat服务器则负责处理业务逻辑。当集群中的某个Tomcat发生故障时，Nginx可以自动将请求转发到其他正常运行的Tomcat服务器上，保证了系统的稳定性和可靠性。

    总之，Nginx与Tomcat结合可以实现负载均衡、动静分离和构建高性能的群集系统，为Web应用程序提供了强大的性能和可用性支持。

  • 相关阅读:
    基于C语言实现的LL(1)分析
    Springboot整合WebSocket实现浏览器和服务器交互
    leecode#用Read4读取n个字符#相交链表
    JUC并发编程(5)（自定义线程池 + 共享模型之工具2）
    oracle学习42-增加表空间
    基于Dijkstra、A*和动态规划的移动机器人路径规划（Matlab代码实现）
    LeetCode每日一题--有序队列(整理最小表示法)
    如何发现和跟踪 NFT 巨鲸？
    三十二、《大数据项目实战之用户行为分析》Spark SQL操作Hive的几种方式
    如何使用java雪花算法在分布式环境中生成唯一ID？
  • 原文地址：https://blog.csdn.net/weixin_62922268/article/details/139555504