web缓存 加速页面访问,提高响应效率,较低负载压力(nginx, squid ,varnish, cdn)
数据库缓存 缓存被请求高热数据,提高响应,降低关系型数据库(服务端)负载压力(redis MEMcache)
Squid服务器缓存频繁要求网页、媒体文件和其它加速回答时间并减少带宽堵塞的内容。
Squid代理服务器(Squid proxy server)一般和原始文件一起安装在单独服务器而不是网络服务器上。Squid通过追踪网络中的对象运用起作用。Squid最初担当中介,仅仅是把客户要求传递到服务器并存储要求对象的拷贝。如果同一个客户或同一批客户在要求还在Squid缓存(cache)时要求相同的对象,Squid就可以立刻服务,加速下载并保存带宽。
网站经营者将频繁地把Squid代理服务器作为内容加速器、频繁查看内容的缓存和网络服务器的容位负载。内容发布网络和媒体公司采用Squid代理服务器并在整个网络中部署它们来改善浏览者要求编程的体验,特别是在流行内容的负载平衡(load balancing)和处理访问高峰。
Squid是免费提供的开源软件可在免费软件基,金会的GNU通用公共许可证下使用。Squid最开始设计在基于Unix的系统上运行,但是也能在Windows机上运行。
1.传统代理:
必须在客户机的浏览器、下载软件等程序中手动设置代理服务器的地址和端口,然后才能使用代理服务器来访问代理服务器。
2.透明代理:
提供与传统代理相同的功能和服务,器区别在于客户机不需要指定代理服务器的地址和端口,而是通过默认路由、防火墙策略将Web访问重定向,提高访问效率,缓存加速,隐藏真实ip。HTTP 状态码
当浏览者访问一个网页时,浏览者的浏览器会向网页所在服务器发出请求。当浏览器接收并显示网页前,此网页所在的服务器会返回一个包含 HTTP 状态码的信息头(server header)用以响应浏览器的请求。
下面是常见的 HTTP 状态码:
- yum -y install gcc gcc-c++ make
- tar zxvf squid-3.5.28.tar.gz -C /opt/
- cd /opt/squid-3.5.28
-
- ./configure --prefix=/usr/local/squid \ #指定安装目录路径
- --sysconfdir=/etc \ #指定配置文件路径
- --enable-arp-acl \ #MAC地址管控,防止客户端使用IP欺骗
- --enable-linux-netfilter \ #使用内核过滤
- --enable-linux-tproxy \ #支持透明模式
- --enable-async-io=100 \ #异步IO,提升存储性能
- --enable-err-language="Simplify_Chinese" \ #错误信息的显示语言
- --enable-underscore \ #允许URL中有下划线
- --disable-poll \ #关闭默认使用 poll 模式
- --enable-epoll \ #开启epoll模式提升性能
- --enable-gnuregex #使用GNU正则表达式
-
- make -j4 && make install
ln -s /usr/local/squid/sbin/* /usr/local/sbin/
useradd -M -s /sbin/nologin squid
chown -R squid:squid /usr/local/squid/var/ #此目录用于存放缓存文件
vim /etc/squid.conf
- --56行--插入
- http_access allow all #放在 http_access deny all 之前,允许任意客户机使用代理服务,控制规则自上而下匹配
- http_access deny all
- http_port 3128 #用来指定代理服务监听的地址和端口(默认的端口号为 3128)
- --61行--插入
- cache_effective_user squid #添加,指定程序用户,用来设置初始化、运行时缓存的账号,否则启动不成功
- cache_effective_group squid #添加,指定账号基本组
-
- coredump_dir /usr/local/squid/var/cache/squid #指定缓存文件目录
-
- 3.Squid 的运行控制
- #检查配置文件语法是否正确
- squid -k parse
-
- #启动 Squid,第一次启动 Squid 服务时,会自动初始化缓存目录
- squid -z #-z 选项用来初始化缓存目录
- squid #启动 squid 服务
-
- netstat -anpt | grep "squid"
- vim /etc/init.d/squid
- #!/bin/bash
- #chkconfig: 2345 90 25
- PID="/usr/local/squid/var/run/squid.pid"
- CONF="/etc/squid.conf"
- CMD="/usr/local/squid/sbin/squid"
-
- case "$1" in
- start)
- netstat -natp | grep squid &> /dev/null
- if [ $? -eq 0 ]
- then
- echo "squid is running"
- else
- echo "正在启动 squid..."
- $CMD
- fi
- ;;
- stop)
- $CMD -k kill &> /dev/null
- rm -rf $PID &> /dev/null
- ;;
- status)
- [ -f $PID ] &> /dev/null
- if [ $? -eq 0 ]
- then
- netstat -natp | grep squid
- else
- echo "squid is not running"
- fi
- ;;
- restart)
- $0 stop &> /dev/null
- echo "正在关闭 squid..."
- $0 start &> /dev/null
- echo "正在启动 squid..."
- ;;
- reload)
- $CMD -k reconfigure
- ;;
- check)
- $CMD -k parse
- ;;
- *)
- echo "用法:$0{start|stop|status|reload|check|restart}"
- ;;
- esac
-
- #2345是默认自启动级别,如是-代表任何级别都不自启动;90是启动优先级,25是停止优先级,优先级范围是0-100,数字越大,优先级越低。
- chmod +x /etc/init.d/squid
- chkconfig --add squid
- chkconfig --level 35 squid on
- vim /etc/squid.conf
- ......
- http_access allow all
- http_access deny all
- http_port 3128
- cache_effective_user squid
- cache_effective_group squid
- --63行--插入
- cache_mem 64 MB #指定缓存功能所使用的内存空间大小,便于保持访问较频繁的WEB对象,容量最好为4的倍数,单位为MB,建议设为物理内存的1/4
- reply_body_max_size 10 MB #对响应数据做限定,默认值为0,表示不进行限制
- maximum_object_size 4096 KB #定义最大缓存对象,超过大小限制的文件将不被缓存,而是直接转发给用户
-
- service squid restart
- systemctl restart squid
-
- #生产环境中还需要修改防火墙规则
- iptables -F
- iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
#客户机的代理配置
打开浏览器,工具-->Internet选项-->连接-->局域网设置-->开启代理服务器(地址:Squid服务器IP地址,端口:3128)#查看 Squid 访问日志的新增记录中的缓存命中情况
tail -f /usr/local/squid/var/logs/access.logTCP_MEM_HIT/200
nginx服务器日志/var/log/nginx/access.log
Squid服务器:双网卡,内网ens33:192.168.6.156 外网ens36:12.0.0.20
Web 服务器:12.0.0.100
客户机:192.168.6.223-----Squid服务器配置-----
vim /etc/squid.conf
......
http_access allow all
http_access deny all
--60行--修改添加提供内网服务的IP地址,和支持透明代理选项 transparent
http_port 192.168.6.156:3128 transparent
systemctl restart squid
echo 'net.ipv4.ip_forward = 1' >> /etc/sysctl.conf
sysctl -p
#修改防火墙规则
iptables -F
iptables -t nat -F
iptables -t nat -I PREROUTING -i ens33 -s 192.168.6.0/24 -p tcp --dport 80 -j REDIRECT --to 3128 #用于转发http协议
iptables -t nat -I PREROUTING -i ens33 -s 192.168.6.0/24 -p tcp --dport 443 -j REDIRECT --to 3128 #用于转发https协议
iptables -I INPUT -p tcp --dport 3128 -j ACCEPT
关闭客户机的浏览器之前设置的代理服务器的功能后访问 http://12.0.0.100
squid服务器:
在配置文件 squid.conf 中,ACL 访问控制通过以下两个步骤来实现:
(1)使用 acl 配置项定义需要控制的条件;
(2)通过 http_access 配置项对已定义的列表做“允许”或“拒绝”访问的控制。
- acl localhost src 192.168.6.100/32 #源地址为 192.168.6.100
- acl MYLAN src 192.168.6.0/24 192.168.1.0/24 #客户机网段
- acl destinationhost dst 192.168.6.155/24 #目标地址为 192.168.6.155
- acl MC20 maxconn 20 #最大并发连接 20
- acl PORT port 21 #目标端口 21
- acl DMBLOCK dstdomain .qq.com #目标域,匹配域内所有站点
- acl BURL url_regex -i ^rtsp:// ^emule:// #以 rtsp://、emule:// 开头的目标 URL地址,-i表示忽略大小写
- acl PURL urlpath_regex -i \.mp3$ \.mp4$ \.rmvb$ #以 .mp3、.mp4、.rmvb 结尾的目标 URL 路径
- acl WORKTIME time MTWHF 08:30-17:30 #时间为周一至周五 8:30~17:30,“MTWHF”为每个星期的英文首字母
-
- #启动对象列表管理
- mkdir /etc/squid
- vim /etc/squid/dest.list
- 192.168.6.100
- 192.168.1.0/24
-
- vim /etc/squid.conf
- ......
- acl destinationhost dst "/etc/squid/dest.list" #调用指定文件中的列表内容
- ......
- http_access deny(或allow) destinationhost #注意,如果是拒绝列表,需要放在http_access allow all前面
浏览器访问Web服务器 http://192.168.6.15 ,显示被访问被拒绝。
客户端访问:http://12.0.0.100(web主机)