• Nginx+Tomcat负载均衡、动静分离原理

    目录

    一.Nginx负载均衡

    1.负载均衡概念

    2.负载均衡原理

    3.Nginx反向代理

    3.1.反向代理概念

    3.2.Nginx实现负载均衡的主要配置项

    二.Nginx动静分离

    1.什么是动静分离

    2.动态页面与静态页面区别

    3.动静分离原理

    三.Nginx+Tomcat负载均衡的实验设计

    1.部署nginx负载均衡器

    2.搭建tomcat服务器

    2.1.Tomcat server（192.168.10.103） 配置

    2.2.Tomcat server  （192.168.80.102） 配置

    3.Nginx进行负载均衡和动静分离设置

    3.1.编写Nginx静态资源测试网页

    3.2.进行负载均衡和动静分离配置

    四.Nginx反向代理类型

    1.七层反向代理设置

    1.1.配置

    2.四层反向代理设置

    2.1.配置

    3.Nginx的负载均衡模式（调度模式、调度算法、调度策略)

    4.Nginx负载均衡会话保持

    5.Nginx会话保持实现方式

    5.1.ip_hash 或 一致性hash算法

    5.2.sticky_cookie_insert

    5.3.使用后端服务器自身通过相关机制保持session同步

    一.Nginx负载均衡

    1.负载均衡概念

    服务端接受来自客户端的请求中，既有动态资源也有动态资源，静态资源由 Nginx 提供服务，动态

    资源 Nginx 转发至后端

    2.负载均衡原理

    Nginx实现负载均衡是通过反向代理实现Nginx服务器作为前端，Tomcat服务器作为后端，web页

    面请求由Nginx服务来进行转发。 但是不是把所有的web请求转发，而是将静态页面请求Nginx服

    务器自己来处理，动态页面请求，转发给后端的Tomcat服务器来处理。据了解，Tomcat是属于轻

    量级的应用服务器，可接受访问量可能会不足，所以我们需要多台Tomcat服务器。并且Tomcat并

    发量处理能力弱（约Nginx的六分之一），所以需要Nginx方向代理时，进行合理的调用分配

    3.Nginx反向代理

    3.1.反向代理概念

    将nginx接收到的请求转发给其他应用服务器处理

    3.2.Nginx实现负载均衡的主要配置项

    upstream 服务池名 {   }

    • 作用：配置后端服务器池，以提供响应数据

    proxy_pass http:// 服务池名

    • 作用：配置将访问请求转发给后端服务器池的服务器处理

    upstream框架中，指令中涉及多个参数，各个参数含义说明如下

    weight服务访问的权重，默认是1
    max_connsserver的最大并发连接数，仅作用于单worker进程，默认是0，表示没有限制
    max _fails在fail timeout时间段内，最大的失败次数，当达到最大失败时，会在failtimeout秒内这台server不允许再次被选择
    fail timeout单位为秒，默认10秒
    • proxy_pass http:// 服务池名
    • 作用：配置将访问请求转发给后端服务器池的服务器处理

    二.Nginx动静分离

    1.什么是动静分离

    • 动静分离是让动态网站里的动态网页根据一定规则把不变的资源和经常变的资源区分开来，动静资源做好了拆分以后，我们就可以根据静态资源的特点将其做缓存操作，这就是网站静态化处理的核心思路
    • 动静分离简单的概括是：动态文件与静态文件的分离
    • 伪静态：网站如果想被搜索引擎搜素到，动态页面静态技术freemarker等模版引擎技术

    2.动态页面与静态页面区别

    • 静态资源：当用户多次访问这个资源，资源的源代码永远不会改变的资源
    • 动态资源：当用户多次访问这个资源，资源的源代码可能会发送改变

    3.动静分离原理

    • 服务端接收来自客户端的请求中，既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源由Nginx转发至后端

    三.Nginx+Tomcat负载均衡的实验设计

    1.部署nginx负载均衡器

    192.168.80.101

    1. systemctl stop firewalld
    2. setenforce 0
    3.  
    4. yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make
    5.  
    6. useradd -M -s /sbin/nologin nginx
    7.  
    8. cd /opt
    9. tar xf nginx-1.26.0.tar.gz
    10.  
    11. cd nginx-1.26.0/
    12. ./configure \
    13. --prefix=/usr/local/nginx \
    14. --user=nginx \
    15. --group=nginx \
    16. --with-file-aio \									#启用文件修改支持
    17. --with-http_stub_status_module \					#启用状态统计
    18. --with-http_gzip_static_module \					#启用 gzip静态压缩
    19. --with-http_flv_module \							#启用 flv模块，提供对 flv 视频的伪流支持
    20. --with-http_ssl_module								#启用 SSL模块，提供SSL加密功能
    21. --with-stream										#启用 stream模块，提供4层调
    22.  
    23.  
    24. make -j 2 && make install
    25.  
    26. ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
    27.  
    28. vim /lib/systemd/system/nginx.service
    29. [Unit]
    30. Description=nginx
    31. After=network.target
    32. [Service]
    33. Type=forking
    34. PIDFile=/usr/local/nginx/logs/nginx.pid
    35. ExecStart=/usr/local/nginx/sbin/nginx
    36. ExecrReload=/bin/kill -s HUP $MAINPID
    37. ExecrStop=/bin/kill -s QUIT $MAINPID
    38. PrivateTmp=true
    39. [Install]
    40. WantedBy=multi-user.target
    41.  
    42. chmod 754 /lib/systemd/system/nginx.service
    43. systemctl start nginx.service
    44. systemctl enable nginx.service

    2.搭建tomcat服务器

    tomcat1 和tomcat2（192.168.80.102）

    tomcat3（192.168.10.103）

    1. systemctl stop firewalld
    2. setenforce 0
    3.  
    4.  
    5. #软件包的方式安装jdk环境
    6. tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/
    7.  
    8. vim /etc/profile
    9. export JAVA_HOME=/usr/local/jdk1.8.0_91
    10. export JRE_HOME=${JAVA_HOME}/jre
    11. export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
    12. export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH
    13.  
    14. source /etc/profile
    15.  
    16. tar zxvf apache-tomcat-9.0.16.tar.gz
    17.  
    18. mv /opt/apache-tomcat-9.0.16/ /usr/local/tomcat
    19.  
    20. /usr/local/tomcat/bin/shutdown.sh 
    21. /usr/local/tomcat/bin/startup.sh
    22.  
    23. netstat -ntap | grep 8080

    2.1.Tomcat server（192.168.10.103） 配置

    1. mkdir /usr/local/tomcat/webapps/test
    2. vim /usr/local/tomcat/webapps/test/index.jsp
    3. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    4. <html>
    5. <head>
    6. <title>JSP test3 page</title>   #指定为 test3 页面
    7. </head>
    8. <body>
    9. <% out.println("动态页面 3,http://www.test3.com");%>
    10. </body>
    11. </html>
    12.  
    13.  
    14. vim /usr/local/tomcat/conf/server.xml
    15. #由于主机名 name 配置都为 localhost，需要删除前面的 HOST 配置
    16. <Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    17. 	<Context docBase="/usr/local/tomcat/webapps/test" path="" reloadable="true">
    18. 	</Context>
    19. </Host>
    20.  
    21. /usr/local/tomcat/bin/shutdown.sh 
    22. /usr/local/tomcat/bin/startup.sh

    2.2.Tomcat server  （192.168.80.102） 配置

    tomcat1

    1. mkdir /usr/local/tomcat/tomcat1/webapps/test /usr/local/tomcat/tomcat2/webapps/test
    2.  
    3. vim /usr/local/tomcat/tomcat1/webapps/test/index.jsp
    4. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    5. <html>
    6. <head>
    7. <title>JSP test2 page</title>   #指定为 test2 页面
    8. </head>
    9. <body>
    10. <% out.println("动态页面 2,http://www.test2.com");%>
    11. </body>
    12. </html>
    13.  
    14.  
    15. vim /usr/local/tomcat/tomcat1/conf/server.xml
    16. #删除前面的 HOST 配置
    17. <Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    18. 	<Context docBase="/usr/local/tomcat/tomcat1/webapps/test" path="" reloadable="true" />
    19. </Host>
    20.  
    21. /usr/local/tomcat/tomcat1/bin/shutdown.sh 
    22. /usr/local/tomcat/tomcat1/bin/startup.sh

    tomcat2

    1. vim /usr/local/tomcat/tomcat2/webapps/test/index.jsp
    2. <%@ page language="java" import="java.util.*" pageEncoding="UTF-8"%>
    3. <html>
    4. <head>
    5. <title>JSP test1  page</title>  
    6. </head>
    7. <body>
    8. <% out.println("动态页面 1,http://www.test1.com");%>
    9. </body>
    10. </html>
    11.  
    12.  
    13. vim /usr/local/tomcat/tomcat2/conf/server.xml
    14. #删除前面的 HOST 配置
    15. <Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true" xmlValidation="false" xmlNamespaceAware="false">
    16. 	<Context docBase="/usr/local/tomcat/tomcat2/webapps/test" path="" reloadable="true" />
    17. </Host>
    18.  
    19. /usr/local/tomcat/tomcat2/bin/shutdown.sh 
    20. /usr/local/tomcat/tomcat2/bin/startup.sh

    3.Nginx进行负载均衡和动静分离设置

    3.1.编写Nginx静态资源测试网页

    1. vim /usr/local/nginx/html/index.html
    2. <html>
    3. <body>
    4. <h1> this is Nginx static test !</h2>
    5. <img src="test.png"/>
    6. </body>
    7. </html>

    3.2.进行负载均衡和动静分离配置

    1. vim /usr/local/nginx/conf/nginx.conf
    2. ......
    3. http {
    4. ......
    5. 	#gzip on;
    6. 	
    7. 	#配置负载均衡的服务器列表，weight参数表示权重，权重越高，被分配到的概率越大
    8. 	upstream tomcat_server {
    9. 		server 192.168.80.102:8080 weight=1;
    10. 		server 192.168.80.102:8081 weight=1;
    11. 		server 192.168.80.103:8080 weight=1;
    12. 	}
    13. 	
    14. 	server {
    15. 		listen 80;
    16. 		server_name www.test.com;
    17. 	
    18. 		charset utf-8;
    19. 	
    20. 		#access_log logs/host.access.log main;
    21. 		
    22. 		#配置Nginx处理动态页面请求，将 .jsp文件请求转发到Tomcat 服务器处理
    23. 		location ~ .*\.jsp$ {
    24. 			proxy_pass http://tomcat_server;
    25. #设置后端的Web服务器可以获取远程客户端的真实IP
    26. ##设定后端的Web服务器接收到的请求访问的主机名（域名或IP、端口），默认HOST的值为proxy_pass指令设置的主机名。如果反向代理服务器不重写该请求头的话，那么后端真实服务器在处理时会认为所有的请求都来自反向代理服务器，如果后端有防攻击策略的话，那么机器就被封掉了。
    27. 			proxy_set_header HOST $host;
    28. ##把$remote_addr赋值给X-Real-IP，来获取源IP
    29. 			proxy_set_header X-Real-IP $remote_addr;
    30. ##在nginx 作为代理服务器时，设置的IP列表，会把经过的机器ip，代理机器ip都记录下来
    31. 			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    32. 		}
    33. 		
    34. 		#配置Nginx处理静态图片请求
    35. 		location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|css)$ {
    36. 			root /usr/local/nginx/html;
    37. 			expires 10d;
    38. 		}
    39. 		
    40. 		location / {
    41. 			root html;
    42. 			index index.html index.htm;
    43. 		}
    44. ......
    45. 	}
    46. ......
    47. }

    四.Nginx反向代理类型

    1.七层反向代理设置

    基于http、https、mail等七层应用协议的代理转发（根据用户访问请求的URL路径来转发请求），

    通常用于 动静分离 等应用场景

    1.1.配置

    1. 1）在http配置块中使用upstream定义后端服务器列表名称和节点参数
    2. http {
    3.     upstream 服务器池名称 {
    4.         server IP1:PORT1 weight=1;
    5.         server IP2:PORT2 weight=1;
    6.         ......
    7.     }
    8.  
    9.  
    10. 2）在server配置块中使用location匹配用户请求的动态页面的URL路径，使用 proxy_pass 基于协议代理转发
    11.     server {
    12. 	    ......
    13. 	    location ~ .*\.jsp$ {
    14. 		    proxy_pass http://服务器池名称;
    15. 		    
    16. 			#用于为后端服务器获取真实的客户端地址
    17. 		    proxy_set_header HOST $host;
    18.             proxy_set_header X_Real_IP $remote_addr;
    19.             proxy_set_header X_Forwarded_For $proxy_add_x_forwarded_for;
    20. 		}
    21.     ......
    22. 	}
    23. ......
    24. }

    2.四层反向代理设置

    基于 IP 和 端口 实现的代理转发（根据用户请求的IP和端口来转发请求），通常用于做 网关访问

    入口的负载均衡器 等应用场景

    2.1.配置

    1. 1）编译安装时需要添加 stream 四层代理模块  ./configure --with-stream
    2.  
    3. 2）在 http 配置块同层级，一般在 http 配置块上面添加 stream 配置块，在 stream 配置块里使用upstream定义后端服务器列表名称和节点参数以及使用server配置块定义监听端口和转发配置
    4. stream {
    5.     upstream 服务器池名称 {
    6.         server IP1:PORT1 weight=1;
    7.         server IP2:PORT2 weight=1;
    8.         ......
    9.     }
    10.  
    11.     server {
    12. 	    listen IP:PORT;
    13. 		proxy_pass 服务器池名称;
    14. 	}
    15. }
    16.  
    17. http {....}

    补充：

    • 四层反向代理 比 七层反向代理 转发性能更高于；
    • 七层反向代理 比 四层反向代理 转发功能更多、更灵活

    3.Nginx的负载均衡模式（调度模式、调度算法、调度策略)

    轮询（round robin、rr）是nginx的默认调度模式，按照时间顺序逐一分配请求
    加权轮询（weight round、wrr）使用weight参数设置权重，weight值越高的节点被分配请求的概率越大
    least_conn（最少链接、最小连接）优先将请求分配给当前连接数最少的节点
    ip_hash（源地址哈希）根据客户端IP做hash缓存调度，会将请求分配给固定的一个节点
    url_hash（目的地址哈希）根据客户端请求访问的URL路径做hash缓存调度，会将请求分配给固定的一个节点。需要另外安装第三方模块支持
    fdir优先将请求分配给响应时间最少的节点，需要另外安装第三方模块支持

    random

    		随机分配请求
    hash nginx全局变量 consistent

    一致性hash算法，根据nginx全局变量的值来做hash缓存调度

    （比如 hash $remote_addr consistent   根据客户端IP做hash缓存调度，是IP_hash的加强版）

    4.Nginx负载均衡会话保持

    作用：简单说就是优化用户体验，降低网络开销

    • 如果有一个用户访问请求被分配到服务器A，并且在服务器A登录了，并且在很短的时间，这个用户又发出了一个请求，如果没有会话保持功能的话，这个用户的请求很有可能会被分配到服务器B去，这个时候在服务器B上是没有登录的，所以你要重新登录，但是用户并不知道自己的请求被分配到了哪里，用户的感觉就是登录了怎么又要登录，用户体验很不好上
    • 会话保持都会有时间的限制(映射到固定某一台的服务器除外工如:ip_hash),各种负载均衡工具都会提供这种会话保持时间的设置，LVS，apache等。连php语言都提供了会话保持时间的设定session.gc_maxlifetime会话保持时间的设定要大于session生存时间的设定，这样可以减少需要同步session的情况，但是不能杜绝。所以同步session还是要做的

    5.Nginx会话保持实现方式

    5.1.ip_hash 或 一致性hash算法

    基于客户端IP做hash缓存将请求发送给同一个后端节点服务器来实现会话保持，但是此方法容易导

    致负载失衡问题

    1. 语法:
    2.  
    3. upstream backend {
    4. ip hash:
    5. server backendl.example.com:
    6. server backend2.example.com,
    7. server backend3.example.com down:
    8. server backend4.example.com:
    9. }

    基于cookie来来判断实现会话保持

    1. 语法:
    2.  
    3. upstream backend {
    4. server backendl.example.com:
    5. server backend2.example.com!
    6. sticky cookie insert srv id expires=lh domain=3evip.cn path=/:
    7. }
    8.  
    9. 说明:
    10. 设置浏览器中保持cookie的时间expires.
    11. domain:定义cookie的域
    12. path:为cookie定义路径

    5.3.使用后端服务器自身通过相关机制保持session同步

    通过缓存数据库做session同步复制，使用后端节点服务器自身配置通过相关机制保持session同步

    来实现会话保持

  • 相关阅读:
    基于javaweb的家庭理财系统(java+ssm+jsp+tomcat8+mysql)
    在PostGIS中进行点数据的栅格化
    题目0130-IPv4地址转换成整数
    docker 学习-- 04 实践2 （lnpmr环境）
    有没有一种可能，我可以学好Java的多线程——知识点汇总
    go语言的第三方工具包：govaluate、flag、go-homedir、cast
    2009(408)数据结构有关链表代码题
    我是怎么设计一个消息推送接口的？
    相机摄影入门技巧，数码摄影技巧大全
    【XCTF】【GFSJ0522】【Crypto】【难度1】base64
  • 原文地址：https://blog.csdn.net/F12138X/article/details/139469974