• Nginx+Tomcat负载均衡、动静分离


    Nginx+Tomcat负载均衡、动静分离

    Nginx应用
    Nginx是一款非常优秀的HTTP服务器软件

    支持高达50000个并发连接数的响应

    拥有最大的静态资源处理能力

    运行稳定

    内存、CPU等系统资源消耗非常低

    目前很多大型网站都应用Nginx服务器作为后端网站程序的方向代理及负载均衡器,提升整个站点的负载并发能力。
    Nginx负载均衡实现原理
    Nginx实现负载均衡是通过反向代理实现

    Nginx服务器作为前端,Tomcat服务器作为后端,web页面请求由Nginx服务来进行转发。

    但是不是把所有的web请求转发,而是将静态页面请求Nginx服务器自己来处理,动态页面请求,转发给后端的Tomcat服务器来处理。

    Tomcat是属于轻量级的应用服务器,可接受访问量可能会不足,所以需要多台Tomcat服务器,然后通过Nginx配置权重来进行挑选Tomcat服务器去进行处理,负载均衡的一种策略。

    反向代理的原理

    反向代理方式是指以代理服务器来接受Internet上的连接请求,然后将请求转发给内部网络上的服务器;并将从服务器上得到的结果返回给Internet上请求连接的客户端,此时代理服务器对外就表现为一个服务器。

    通常的代理服务器,只用于代理内部网络对Internet的连接请求,客户机必须指定代理服务器,并将本来要直接发送到Web服务器上的http请求发送到代理服务器中。当一个代理服务器能够代理外部网络上的主机,访问内部网络时,这种代理服务的方式称为反向代理服务。

    Nginx配置反向代理的主要参数
    upstream 服务池名 {}
    
    • 1

    配置后端服务器池,以提供响应数据

    proxy_pass http://服务池名
    
    • 1

    配置将访问请求转发给后端服务器池的服务器处理

    Nginx静态处理优势
    Nginx处理静态页面的效率远高于Tomcat的处理能力,若Tomcat的请求量为1000次,则Nginx的请求量为6000次,Tomcat每秒的吞吐量为0.6M,Nginx的每秒吞吐量为3.6M,nginx处理静态资源的能力是Tomcat处理的6倍。
    
    • 1
    Nginx动静分离原理

    服务端接收来自客户端的请求中,既有静态资源也有动态资源,静态资源有Nginx提供服务,动态资源转发至后端

    image-20220728185203414

    Nginx+Tomcat负载均衡、动静分离实验
    以Nginx作为负载均衡器,Tomcat作为应用服务器
    环境配置:
    Nginx服务器:20.0.0.56:80
    
    Tomcat服务器1:20.0.0.57:8080
    
    Tomcat服务器2:20.0.0.55:8080       20.0.0.55:8081
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    ---------------------------部署nginx负载均衡器(20.0.0.56)--------------------------

    shell脚本一键安装nginx

    image-20220728190508808

    vim nginx.sh
    #!/bin/bash
    #安装依赖包
    yum -y install pcre-devel zlib-devel gcc gcc-c++ make
    
    #创建运行用户、组
    useradd -M -s /sbin/nologin nginx
    
    #配置软件模块
    cd /opt
    tar zxf nginx-1.22.0.tar.gz -C /opt
    cd nginx-1.22.0
    ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_stub_status_module
    
    #编译安装
    make -j2 && make install
    
    #优化配置文件路径,便于系统识别nginx的操作命令
    ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
    
    #添加Nginx服务
    echo '[Unit]
    Description=nginx
    After=network.target
    [Service]
    Type=forking
    PIDFile=/usr/local/nginx/logs/nginx.pid
    ExecStart=/usr/local/nginx/sbin/nginx
    ExecrReload=/bin/kill -s HUP $MAINPID
    ExecrStop=/bin/kill -s QUIT $MAINPID
    PrivateTmp=true
    [Install]
    WantedBy=multi-user.target' > /lib/systemd/system/nginx.service
    
    #赋权、开启服务
    chmod 754 /lib/systemd/system/nginx.service
    systemctl start nginx.service
    systemctl enable nginx.service
    
    --->:wq
    chmod +x nginx.sh
    sh nginx.sh
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42

    image-20220728190926117

    --------------------------部署Tomcat服务器1(20.0.0.57:8080)-----------------------------

    #关闭防火墙
    systemctl stop firewalld
    setenforce 0
     
    #切换至/opt,将安装 Tomcat 所需软件包传到/opt目录下
    apache-tomcat-9.0.16.tar.gz
    jdk-8u201-linux-x64.rpm
     
    #安装JDK
    rpm -ivh jdk-8u201-linux-x64.rpm 
     
    #设置JDK环境变量
    vim /etc/profile
    export JAVA_HOME=/usr/java/jdk1.8.0_201-amd64
    export CLASSPATH=$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar
    export PATH=$JAVA_HOME/bin:$PATH
    #刷新配置文件
    source /etc/profile
     
    #切换至/opt下,解压tomcat包
    cd /opt
    tar -zxf apache-tomcat-9.0.16.tar.gz
     
    将解压后的包拷贝至/usr/local/下并重命名
    cp -rp apache-tomcat-9.0.16 /usr/local/tomcat
     
    #添加用户设置属主属组
    useradd -s /sbin/nologin tomcat
    chown tomcat:tomcat /usr/local/tomcat -R
     
    #重新加载服务,并开启,查看是否成功启动
    /usr/local/tomcat/bin/startup.sh 
    lsof -i:8080
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33

    image-20220728192221349

    image-20220728192806893

    -------------------------部署Tomcat服务器2(20.0.0.55:8080 20.0.0.55:8081)---------------------------

    关闭防火墙
    systemctl stop firewalld
    systemctl disable firewalld
    setenforce 0
    
    
    安装JDK
    cd /opt
    rpm -qpl jdk-8u201-linux-x64.rpm   #查询指定软件包的文件列表
    rpm -ivh jdk-8u201-linux-x64.rpm   #安装软件包,显示详细信息
    java -version  #查看java版本
    
    
    安装Tomcat
    cd /opt
    tar zxvf apache-tomcat-9.0.16.tar.gz
    mkdir /usr/local/tomcat
    mv apache-tomcat-9.0.16 /usr/local/tomcat/tomcat1
    cp -a /usr/local/tomcat/tomcat1 /usr/local/tomcat/tomcat2  #递归复制,连属性一起
    
    
    配置tomcat环境变量
    vim /etc/profile.d/tomcat.sh
    #tomcat1
    export CATALINA_HOME1=/usr/local/tomcat/tomcat1
    export CATALINA_BASE1=/usr/local/tomcat/tomcat1
    export TOMCAT_HOME1=/usr/local/tomcat/tomcat1
      
    #tomcat2
    export CATALINA_HOME2=/usr/local/tomcat/tomcat2
    export CATALINA_BASE2=/usr/local/tomcat/tomcat2
    export TOMCAT_HOME2=/usr/local/tomcat/tomcat2
      
    --->:wq 
    source /etc/profile.d/tomcat.sh
    修改tomcat2中的server.xml文件,要求各tomcat实例配置不能有重复的端口号
    cp /usr/local/tomcat/tomcat2/conf/server.xml /usr/local/tomcat/tomc
    at2/conf/server.xml.bak  #备份
    
    vim /usr/local/tomcat/tomcat2/conf/server.xml
          #22行,修改Server prot,默认为8005 -> 修改为8006
     修改为8081
      #116行,修改Connector port AJP/1.3,默认为8009 -> 修改为8010
    
    
    修改各Tomcat实例中的startup.sh和shutdown.sh文件,添加tomcat环境变量
    vim /usr/local/tomcat/tomcat1/bin/startup.sh
    # -----------------------------------------------------------------------------
    # Start Script for the CATALINA Server
    # -----------------------------------------------------------------------------
    ##添加以下内容
    export CATALINA_BASE=$CATALINA_BASE1
    export CATALINA_HOME=$CATALINA_HOME1
    export TOMCAT_HOME=$TOMCAT_HOME1
      
      
    vim /usr/local/tomcat/tomcat1/bin/shutdown.sh
    # -----------------------------------------------------------------------------
    # Stop script for the CATALINA Server
    # -----------------------------------------------------------------------------
    export CATALINA_BASE=$CATALINA_BASE1
    export CATALINA_HOME=$CATALINA_HOME1
    export TOMCAT_HOME=$TOMCAT_HOME1
      
    vim /usr/local/tomcat/tomcat2/bin/startup.sh
    # -----------------------------------------------------------------------------
    # Start Script for the CATALINA Server
    # -----------------------------------------------------------------------------
    export CATALINA_BASE=$CATALINA_BASE2
    export CATALINA_HOME=$CATALINA_HOME2
    export TOMCAT_HOME=$TOMCAT_HOME2
      
    vim /usr/local/tomcat/tomcat2/bin/shutdown.sh
    # -----------------------------------------------------------------------------
    # Stop script for the CATALINA Server
    # -----------------------------------------------------------------------------
    export CATALINA_BASE=$CATALINA_BASE2
    export CATALINA_HOME=$CATALINA_HOME2
    export TOMCAT_HOME=$TOMCAT_HOME2
    
    启动各tomcat中的/bin/startup.sh
    /usr/local/tomcat/tomcat1/bin/startup.sh
    /usr/local/tomcat/tomcat2/bin/startup.sh
      
    netstat -natp | grep java
    
    浏览器访问测试
    http://20.0.0.55:8080
    http://20.0.0.55:8081
    
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80
    • 81
    • 82
    • 83
    • 84
    • 85
    • 86
    • 87
    • 88
    • 89
    • 90

    image-20220728193450410

    ---------------------------Tomcat 服务器1 (20.0.0.57:8080)配置------------------------------

    [root@localhost opt]# mkdir /usr/local/tomcat/webapps/test
    [root@localhost opt]# vim /usr/local/tomcat/webapps/test/index.jsp
    <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    
    
    JSP test1 page   #指定为 test1 页面
    
    
    <% out.println("动态页面 1,http://www.test1.com");%>
    
    
    ----》:wq
    
    vim /usr/local/tomcat/conf/server.xml
    注释148-149行,160-164行
    164行下插入:
    
    	
    	
    
    ---》:wq
    
    /usr/local/tomcat/bin/startup.sh
    lsof -i:8080
    
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25

    image-20220728195332382


    ---------------------------Tomcat 服务器2 (20.0.0.55:8080 20.0.0.55:8081)配置-----------------------------

    [root@localhost tomcat1]# mkdir /usr/local/tomcat/tomcat1/webapps/test
    [root@localhost tomcat1]# mkdir /usr/local/tomcat/tomcat2/webapps/test
    
    [root@localhost tomcat1]# vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
    <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    
    
    JSP test2 page   #指定为 test2 页面
    
    
    <% out.println("动态页面 2,http://www.test2.com");%>
    
    
    ---》:wq
    
    [root@localhost tomcat1]# vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
    <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    
    
    JSP test3 page   #指定为 test3 页面
    
    
    <% out.println("动态页面 3,http://www.test3.com");%>
    
    
    -->:wq
    
    vim /usr/local/tomcat/tomcat1/conf/server.xml
    注释148-149行,160-164行,删除前面的HOST配置
    164行下插入:
    
    	
    	
    
    ---》:wq
    
    vim /usr/local/tomcat//tomcat2/conf/server.xml
    注释148-149行,160-164行,删除前面的HOST配置
    164行下插入:
    
    	
    	
    
    ---》:wq
    
    /usr/local/tomcat/tomcat1/bin/shutdown.sh 
    /usr/local/tomcat/tomcat1/bin/startup.sh 
    
    /usr/local/tomcat/tomcat2/bin/shutdown.sh 
    /usr/local/tomcat/tomcat2/bin/startup.sh 
    
    
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52

    image-20220728200848316

    image-20220728200903616

    ------------------------------Nginx Server 配置-------------------------

    #准备静态页面和静态图片
    echo '

    这是静态页面

    ' > /usr/local/nginx/html/index.html mkdir /usr/local/nginx/html/img 将R-C.jpg图片传入 /usr/local/nginx/html/img cp /usr/local/nginx/conf/nginx.conf /usr/local/nginx/conf/nginx.conf.bak vim /usr/local/nginx/conf/nginx.conf ...... http { ...... #gzip on; #配置负载均衡的服务器列表,weight参数表示权重,权重越高,被分配到的概率越大 upstream tomcat_server { server 20.0.0.57:8080 weight=1; server 20.0.0.55:8080 weight=1; server 20.0.0.55:8081 weight=1; } server { listen 80; server_name www.dapao.com; charset utf-8; #access_log logs/host.access.log main; #配置Nginx处理动态页面请求,将 .jsp文件请求转发到Tomcat 服务器处理 location ~ .*\.jsp$ { proxy_pass http://tomcat_server; #设置后端的Web服务器可以获取远程客户端的真实IP ##设定后端的Web服务器接收到的请求访问的主机名(域名或IP、端口),默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话,那么后端真实服务器在处理时会认为所有的请求都来在反向代理服务器,如果后端有防攻击策略的话,那么机器就被封掉了。 proxy_set_header HOST $host; ##把$remote_addr赋值给X-Real-IP,来获取源IP proxy_set_header X-Real-IP $remote_addr; ##在nginx 作为代理服务器时,设置的IP列表,会把经过的机器ip,代理机器ip都记录下来 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } #配置Nginx处理静态图片请求 location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ { root /usr/local/nginx/html/img; expires 10d; } location / { root html; index index.html index.htm; } ...... } ...... } [root@localhost conf]# nginx -t nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful [root@localhost conf]# systemctl restart nginx
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58

    image-20220728203924243

    ------------------------------------测试效果--------------------------------------

    测试静态页面效果
    浏览器访问 http://20.0.0.56/

    image-20220728204154512

    浏览器访问 http://20.0.0.56/R-C.jpg

    image-20220728204406375

    测试负载均衡效果,不断刷新浏览器测试
    浏览器访问 http://20.0.0.56/index.jsp

    image-20220728204504346

    image-20220728204533480

    image-20220728204548873

    Nginx四层代理配置
    ./configure --with-stream
     
    和http同等级:所以一般只在http上面一段设置,
    stream {
    	
        upstream appserver {
    		server 20.0.0.57:8080 weight=1;
    		server 20.0.0.55:8080 weight=1;
    		server 20.0.0.55:8081 weight=1;
        }
        server {
            listen 8080;
            proxy_pass appserver;
        }
    }
     
    http {
    ......
    
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    Nginx负载均衡模式
    ●rr 负载均衡模式:
    每个请求按时间顺序逐一分配到不同的后端服务器,如果超过了最大失败次数后(max_fails,默认1),在失效时间内(fail_timeout,默认10秒),该节点失效权重变为0,超过失效时间后,则恢复正常,或者全部节点都为down后,那么将所有节点都恢复为有效继续探测,一般来说rr可以根据权重来进行均匀分配。
    
    ●least_conn 最少连接:
    优先将客户端请求调度到当前连接最少的服务器。
    
    ●ip_hash 负载均衡模式:
    每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题,但是ip_hash会造成负载不均,有的服务请求接受多,有的服务请求接受少,所以不建议采用ip_hash模式,session 共享问题可用后端服务的 session 共享代替 nginx 的 ip_hash。
    
    ●fair(第三方)负载均衡模式:
    按后端服务器的响应时间来分配请求,响应时间短的优先分配。
    
    ●url_hash(第三方)负载均衡模式:
    基于用户请求的uri做hash。和ip_hash算法类似,是对每个请求按url的hash结果分配,使每个URL定向到同一个后端服务器,但是也会造成分配不均的问题,这种模式后端服务器为缓存时比较好。
    
    ●权重
    
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17

    节点失效权重变为0,超过失效时间后,则恢复正常,或者全部节点都为down后,那么将所有节点都恢复为有效继续探测,一般来说rr可以根据权重来进行均匀分配。

    ●least_conn 最少连接:
    优先将客户端请求调度到当前连接最少的服务器。

    ●ip_hash 负载均衡模式:
    每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题,但是ip_hash会造成负载不均,有的服务请求接受多,有的服务请求接受少,所以不建议采用ip_hash模式,session 共享问题可用后端服务的 session 共享代替 nginx 的 ip_hash。

    ●fair(第三方)负载均衡模式:
    按后端服务器的响应时间来分配请求,响应时间短的优先分配。

    ●url_hash(第三方)负载均衡模式:
    基于用户请求的uri做hash。和ip_hash算法类似,是对每个请求按url的hash结果分配,使每个URL定向到同一个后端服务器,但是也会造成分配不均的问题,这种模式后端服务器为缓存时比较好。

    ●权重

    
    
    • 1
  • 相关阅读:
    阿里云服务器带宽可以修改吗?不够用怎么办?
    图的应用1.0-----最小生成树问题
    换根DP总结
    探索Django路由规则(路由匹配、路由命名空间、HTML中的跳转与Django集成、路由传参以及后端重定向)
    【SpringMVC】执行流程
    c++递归分析出依赖的头文件
    ITSS认证现场的评估过程基本步骤
    阿里云国际站代理商:FFmpeg 处理音视频文件的常用方法
    excel制作透视表
    js-聊聊低代码平台
  • 原文地址:https://blog.csdn.net/m0_68295979/article/details/126054210