nginx 一把梭
一、Nginx概念浅析
Nginx是一个轻量级的高性能HTTP反向代理服务器,同时它也是一个通用类型的代理服务器,支持绝大部分协议,如TCP、UDP、SMTP、HTTPS等。 Nginx是基于多路复用模型构建出来的,具备资源占用少、并发支持高的特点。 官方解释理论上单节点Nginx同时支持5W并发连接,当然实际生产环境中除非硬件跟上才能达到这个峰值的。 用Nginx代理后,客户端的请求由其进行分发到服务器处理,服务器处理完后再返回Nginx,由Nginx结果返回给客户端。 下面我们建一下环境,了解一下Nginx的高级特性,如动静分离、资源压缩、缓存配置、IP黑名单、高可用保障等等。
二、Nginx搭建
❶服务器创建Nginx目录并进入:
[root@localhost]# mkdir /soft && mkdir /soft/nginx/
[root@localhost]# cd /soft/nginx/ ❷下载Nginx安装包
可以服务器远程工具上传已经下载好的压缩包,也用wget命令服务器在线下载压缩包:
[root@localhost]# yum -y install wget
[root@localhost]# wget https://nginx.org/download/nginx-1.21.6.tar.gz
❸命令解压Nginx压缩包:
[root@localhost]# tar -xvzf nginx-1.21.6.tar.gz ❹下载并安装Nginx所需的依赖库和包:
[root@localhost]# yum install --downloadonly --downloaddir=/soft/nginx/ gcc-c++
[root@localhost]# yum install --downloadonly --downloaddir=/soft/nginx/ pcre pcre-devel4
[root@localhost]# yum install --downloadonly --downloaddir=/soft/nginx/ zlib zlib-devel
[root@localhost]# yum install --downloadonly --downloaddir=/soft/nginx/ openssl openssl-devel
# or 也可yum命令一键安装:
[root@localhost]# yum -y install gcc zlib zlib-devel pcre-devel openssl openssl-devel
# or 然后用rpm命令依次构建每个依赖包;或用以下下指令一键安装全部依赖包:
[root@localhost]# rpm -ivh --nodeps *.rpm ❺cd到nginx目录,执行Nginx配置脚本,提前配置好环境便于后面安装,默认位于/usr/local/nginx/目录: ❻执行命令编译并安装Nginx: ❼回到/soft/nginx/目录,用ls可看到安装nginx后生成的文件。 ❽修改安装后conf目录下的nginx.conf: ❾制定Nginx配置文件并启动:
Nginx其他操作命令:
❿放开80端口,刷新服务器防火墙:
⓫浏览器输入Nginx配的IP或域名访问: 如果你看到了Nginx欢迎界面,那么恭喜你安装成功。
三、Nginx反向代理-负载均衡
先用 SpringBoot+Freemarker 搭建一个简单的WEB项目,然后在该项目中,控制层接口如下:
前端index.html源码:
调整一下nginx.conf
实现负载均衡准备工作做完了,然后重启Nginx,再发布两个web服务,第一个WEB服务启动时,一个服务的端口改为8080,另外一服务端口号改为8090。 这里采用轮询及配置了权重,因此8080一次、8090两次...
Nginx分发请求原理
请求分发原理
Nginx监听了服务器80端口,因此请求先到Nginx;
Nginx会根据location配置规则匹配,再根据请求路径/,定位到location /{}规则;
然后根据location配置的proxy_pass再找到名为nginx_boot的upstream;
再根据upstream配置信息,把客户端请求转发到WEB服务器处理,(多台机器时因Nginx会根据权重比分发请求的次数)
四、Nginx动静分离
不采用ng动静分离情况下,一个客户端请求淘宝首页,就有100+的并发请求到服务器。这样是不是后端服务器的压力就是非常的大了。 如果首页100+的请求中,至少有60+是属于*.js、.css、.html、*.jpg.....这类静态资源的请求呢?。 大多数静态资源长时间是不会变的,如果静态资源的请求在向服务端发起请求之前处理了呢?「动静分离处理后,后端服务器可以减少一半以上的并发量」。
该怎么实现动静分离呢?
①在Nginx目录下创建一个放静态资源目录static_resources: ②把项目的静态资源全放到该目录下,然后后端项目中删除静态资源再打包。 ③再微调nginx.conf配置文件,加一条location匹配规则:
重启nginx和WEB服务,再访问发现原来的静态资源效果依然还在, 会发现 static下的 nginx_style.css 文件已被移除,但效果依然还在
location规则配置
~表示匹配时区分大小写
.*表示任何字符都可出现零或多次,(资源名不受限制)
.表示匹配后缀分隔符.
(html|...|css)表示匹配括号中全部该类型的静态资源
「友情提示:也可把静态资源传到oos上,location配置新的upstream指向」
五、Nginx资源压缩
有了前面的动静分离,试想一下静态资源的Size越小,其传输速度肯定也更快,也会更节省带宽。 因此在部署静态资源时,也用Nginx来压缩静态资源传输,不仅节省带宽资源,也加快响应速度从而并提高系统整体吞吐量。
Nginx提供了三个资源压缩模块:
ngx_http_gzip_module
ngx_http_gzip_static_module
ngx_http_gunzip_module
其中ngx_http_gzip_module是Nginx内置的,可直接用该模块的压缩指令,其实后续的资源压缩操作都是基于它的。
在Nginx中简单配置使用一下:
其中gzip_proxied有多种选择,可根据系统的实际情况决定,释意如下:
off:关闭Nginx对后台服务的响应压缩。
expired:响应头中包含Expires信息,则压缩。
no-cache:响应头中包含Cache-Control:no-cache信息,则压缩。
no-store:响应头中包含Cache-Control:no-store信息,则压缩。
private:响应头中包含Cache-Control:private信息,则压缩。
no_last_modified:响应头中不包含Last-Modified信息,则压缩。
no_etag:响应头中不包含ETag信息,则压缩。
auth:响应头中包含Authorization信息,则压缩。
any:无条件对后端的响应结果开启压缩机制。
配置好了,在原本的index页面中引入一个jquery-3.6.0.js文件测试一下:
压缩前后的差异:
未开启压缩机制前,js文件原始大小为230K,
当配置了压缩后重启Nginx,会发现文件大小从230KB→69KB,这就是差距!
注意点: 如果是图片、视频类型的数据,ng会默认开启压缩机制。 如果.js文件,需指定压缩类型为application/javascript。
六、Nginx缓冲区
先举个例子,接入Nginx后:“客户端→Nginx→服务端”,在这个过程中存在:“客户端→Nginx、Nginx→服务端”两个连接,这两个连接速度肯定不一样的,这样是不是用户的体验感就极差了。
Nginx有一个缓冲区的机制,主要就是为了解决:「两个连接之间速度不匹配造成的问题」 ,有了缓冲后,Nginx代理就暂时把后端的响应存了起来,然后按需供数据给用户端。
我们来了解一下关于缓冲区的配置项:
proxy_buffering:是否启用缓冲机制,默认为on关闭状态。
client_body_buffer_size:设置缓冲客户端请求数据的内存大小。
proxy_buffers:为每个请求/连接设置缓冲区的数量和大小,默认4 4k/8k。
proxy_buffer_size:设置用于存储响应头的缓冲区大小。
proxy_busy_buffers_size:在后端数据没有完全接收完成时,Nginx可以将busy状态的缓冲返回给客户端,该参数用来设置busy状态的buffer具体有多大,默认为proxy_buffer_size*2。
proxy_temp_path:当内存缓冲区存满时,可以将数据临时存放到磁盘,该参数是设置存储缓冲数据的目录。
语法:proxy_temp_path path; path是临时目录的路径
proxy_temp_file_write_size:设置每次写数据到临时文件的大小限制。
proxy_max_temp_file_size:设置临时的缓冲目录中允许存储的最大容量。
非缓冲参数项:
proxy_connect_timeout:设置与后端服务器建立连接时的超时时间。
proxy_read_timeout:设置从后端服务器读取响应数据的超时时间。
proxy_send_timeout:设置向后端服务器传输请求数据的超时时间。
具体nginx.conf配置可参考以下:
ng缓冲也可以适当减少即时传输带来的带宽消耗。
七、Nginx缓存机制
缓存都很熟悉了吧,就性能优化而言,缓存是能大幅度提升性能的方案之一(缓存包含客户端缓存、代理缓存、服务器缓存等)。Nginx的缓存则属于代理缓存。
缓存的好处:
减少了再次向后端或文件服务器请求资源的带宽消耗。
降低了下游服务器的访问压力,提升系统整体吞吐量。
缩短了响应时间,提升了页面加载速度。
先来熟悉一下Nginx中缓存的配置:
proxy_cache_path:代理缓存的路径。
解释一下各参数的意义:
path:缓存的路径地址。
levels:缓存存储的层次结构,最多允许三层目录。
use_temp_path:是否使用临时目录。
keys_zone:指定一个共享内存空间来存储热点Key(1M可存储8000个Key)。
inactive:设置缓存多长时间未被访问后删除(默认是十分钟)。
max_size:允许缓存的最大存储空间,超出后会基于LRU算法移除缓存,Nginx会创建一个Cache manager的进程移除数据,也可以通过purge方式。
manager_files:manager进程每次移除缓存文件数量的上限。
manager_sleep:manager进程每次移除缓存文件的时间上限。
manager_threshold:manager进程每次移除缓存后的间隔时间。
loader_files:重启Nginx载入缓存时,每次加载的个数,默认100。
loader_sleep:每次载入时,允许的最大时间上限,默认200ms。
loader_threshold:一次载入后,停顿的时间间隔,默认50ms。
purger:是否开启purge方式移除数据。
purger_files:每次移除缓存文件时的数量。
purger_sleep:每次移除时,允许消耗的最大时间。
purger_threshold:每次移除完成后,停顿的间隔时间。
proxy_cache:开启或关闭代理缓存,开启时需要指定一个共享内存区域。
proxy_cache_key:如何生成缓存的键。
proxy_cache_valid:缓存生效的状态码与过期时间。
proxy_cache_min_uses:设置资源被请求多少次后被缓存。
proxy_cache_use_stale:当后端出现异常时,是否允许Nginx返回缓存作为响应。
proxy_cache_lock:对于相同的请求,是否开启锁机制,只允许一个请求发往后端。
proxy_cache_lock_timeout:配置锁超时机制,超出规定时间后会释放请求。
proxy_cache_methods:设置对于那些HTTP方法开启缓存。
「proxy_no_cache」:定义不存储缓存的条件,符合时不会保存。
proxy_cache_bypass:定义不读取缓存的条件,符合时不会从缓存中读取。
add_header:响应头中添加字段信息。
$upstream_cache_status:记录了缓存是否命中的信息,存在多种情况:
MISS:请求未命中缓存。
HIT:请求命中缓存。
EXPIRED:请求命中缓存但缓存已过期。
STALE:请求命中了陈旧缓存。
REVALIDDATED:Nginx验证陈旧缓存依然有效。
UPDATING:命中的缓存内容陈旧,但正在更新缓存。
BYPASS:响应结果是从原始服务器获取的。
注:这是Nginx内置变量并不是参数项。
接下来实操配置Nginx代理缓存:
转存失败重新上传取消 第一次访问缓存中没数据,因此没有命中缓存。第二、三次,依旧没有命中缓存,因为缓存配置了缓存的最低条件为:「资源至少要被请求三次以上才会加入缓存」。直至第四次时才命中缓存。这样做的好处是能减少一些无效缓存占用空间。
缓存清理
既然有了缓存那么肯定就存在清理缓存,好比手机app用久了需要清理缓存一样的道理。
如果缓存过多时,不及时清理那么磁盘空间也就会被“吃光”,因此在前面的proxy_cache_path参数中有purger选项,开启后可以自动清理缓存,但这个是商业版的要付费。
所以我们可采用三方引入的ngx_cache_purge模块来替代,先安装该插件:
1、到Nginx安装目录下,创建一个cache_purge目录 2、通过wget命令从github上下载插件压缩文件并解压 3、再去Nginx的解压目录下 4、重新构建一下Nginx,用--add-module的命令添加该插件 5、再次编译刚刚构建的Nginx,「但切记不要make install」 6、删除之前Nginx的启动文件 7、从生成的objs目录中,复制新的Nginx启动文件到原来的位置 8、然后微调 nginx.conf 配置,再添加一条 location 规则: 9、重启Nginx,就可用 http://xxx/purge/xx 清除缓存了。
八、Nginx实现IP黑白名单功能
Nginx主要是通过allow、deny配置项来实现IP黑白名单的
当IP配置很多时全堆在nginx.conf文件中是不友好的,过于冗余,此时可新建两个文件
BlocksIP.conf
WhiteIP.conf
将要禁止/开放的IP添加到对应的文件中,再把这两个文件导入nginx.conf中:
这两个文件导入注意事项: 如果要整站屏蔽/开放就在http中导入; 如果只需一个域名下屏蔽/开放就在sever中导入; 如果只需要针对于某一系列接口屏蔽/开放IP,那么就在location中导入。 也可以通过ngx_http_geo_module、ngx_http_geo_module第三方库去实现IP黑白名单(这种可按地区、国家来屏蔽,且提供有IP库)。
九、Nginx跨域配置
如果是前后端分离、分布式架构、导入三方sdk,跨域问题就必须解决的了。
跨域问题是如何产生的?
其主要原因就在于 「同源策略」 。为了保证用户信息安全,防止恶意网站窃取数据,同源策略是必须的,否则cookie就可以共享。那么http无状态协议下会导致用户的身份信息被盗取。
同源策略包括三点:「协议+域名+端口」 ,即三者都相同的两个请求,才可被看做是同源的,同源策略会限制了不同源之间的资源交互。
Nginx解决跨域 nginx.conf中添加配置即可解决跨域:
在nginx.conf中配置后,刷新配置文件,跨域问题就解决了。
后端用分布式架构时,有时RPC调用也要处理跨域,可后端项目中,继承HandlerInterceptorAdapter类、实现WebMvcConfigurer接口、添加@CrossOrgin注解来解决rpc调用跨域问题。
十、Nginx的防盗链设计
什么是盗链?
「盗链即是指外部网站引入当前网站的资源对外展示」
举个例子帮助理解: 比如某图片a站、b站,a站的图片素材是花钱买的,但b站就直接通过方式照搬用a站的所有图片。 这个时候防盗链是不是就能派上用场了。
Nginx的防盗链机制,跟一个头部字段Referer有关。 该字段主要描述了当前请求是从哪里来的,在Nginx中就可以拿到该值,然后判断是否是本站的资源引用请求,如果不是则不允许访问。
Nginx中有一个配置项valid_referers,刚好可以满足这个需求,用法如下:
none: 表示接受没有Referer字段的HTTP请求访问。
blocked:表示允许 http://或https//以外的请求访问。
server_names:资源请求的白名单,也就是可以指定允许访问的域名。
string:可自定义字符串,支配通配符、正则表达式写法。
按照语法实现如下:
提示: 当然防盗链机制实现这块,也可以用第三方插件ngx_http_accesskey_module,该插件实现了更为完善的设计。 防盗链是无法解决爬虫伪造referers信息来抓取数据。
十一、Nginx大文件传输配置
在一些业务场景下,大文件传输时会存在文件超出限制、传输请求超时等,Nginx也是可以解决的。 文件传输时ng可能会用的配置项: 在传输大文件时,这四个参数值都可以根据自己项目的实际情况来配置。 这里只是作为代理层需要配置的,这里只是把作为网关层的Nginx配置调高一点,调到能够“容纳大文件”传输的程度。
十二、Nginx配置SLL证书
网站接入HTTPS就必须用到SSL证书,因此Nginx中还需监听443端口的请求,HTTPS为了确保通信安全,所以服务端需配置对应的数字证书。
关于SSL证书配置过程:
①先去CA机构或从云控制台中申请对应的SSL证书,审核通过后下载Nginx版本的证书。 ②下载数字证书后,完整的文件总共有三个:.crt、.key、.pem:
.crt:数字证书文件,.crt是.pem的拓展文件,因此有些人下载后可能没有。
.key:服务器的私钥文件,及非对称加密的私钥,用于解密公钥传输的数据。
.pem:Base64-encoded编码格式的源证书文本文件,可自行根需求修改拓展名。 ③在Nginx目录下新建certificate目录,并将下载好的证书/私钥等文件上传至该目录。 ④最后改一下nginx.conf文件,如下:
十三、Nginx的高可用
如果生产中用单个Nginx节点部署,由于Nginx作为整个系统的网关层接入外部流量,一旦Nginx宕机,最终就会导致整个系统瘫痪,对于生产环境无疑是灾难。 因此也必须保障Nginx的高可用。
通过keepalived的VIP机制,实现Nginx的高可用。VIP是指Virtual IP,即虚拟IP。
keepalived在之前单体架构开发时,是一个用的较为频繁的高可用技术,比如MySQL、Redis、MQ、Proxy、Tomcat等都会通过keepalived提供的VIP机制,实现单节点应用的高可用。
Keepalived+重启脚本+双机热备搭建 ①创建一个目录并下载keepalived到Linux中并解压: ②进入解压后的keepalived目录并构建安装环境,然后编译并安装 ③进入安装目录的/soft/keepalived/etc/keepalived/下并编辑配置文件 ④编辑主机的keepalived.conf核心配置文件 ⑤克隆一台之前的虚拟机作为备机,编辑备机的keepalived.conf文件 ⑥新建scripts目录并编写Nginx的重启脚本
Master
Slave
重启脚本 check_nginx_pid_restart.sh
⑦更改编写的脚本文件的编码格式,并赋予执行权限:
⑧因安装keepalived时,是自定义的安装位置,因此需要拷贝一些文件到系统目录中:
⑨将keepalived加入系统服务并设置开启自启动,然后测试启动是否正常:
其他命令:
systemctl disable keepalived.service # 禁止开机自动启动
systemctl restart keepalived.service # 重启keepalived
systemctl stop keepalived.service # 停止keepalived
tail -f /var/log/messages # 查看keepalived运行时日志
⑩测试一下VIP是否生效,通过查看本机是否成功挂载虚拟IP:
测试一下外网是否可以和VIP正常通信: 转存失败重新上传取消 外部通过VIP通信正常,代表虚拟IP配置成功。
Nginx高可用性测试 keepalived的VIP机制主要做了几件事:
一、为部署Nginx的机器挂载了VIP。
二、通过keepalived搭建了主从双机热备。
三、通过keepalived实现了Nginx宕机重启。
如果要配域名改一下nginx.conf的配置:
十四、Nginx性能优化
最后Nginx的性能优化,主要就简单说说效益最高的几个优化项。
优化一:开启长连接配置 用Nginx作为代理服务时,建议开启HTTP长连接,减少客户端握手的次数,降低服务器损耗,具体如下:
优化二、开启零拷贝技术 零拷贝在大多数性能较好的中间件中都有,如Kafka、Netty等,而Nginx中也可以配置数据零拷贝技术,如下:
优化三、开启无延迟或多包共发机制 Nginx中tcp_nodelay、tcp_nopush两个参数是比较关键的性能参数,如下开启:
因此你的项目属于交互性很强的应用,那么可以手动开启tcp_nodelay配置,让应用程序向内核递交的每个数据包都会立即发送出去。但这样会产生大量的TCP报文头,增加很大的网络开销。 相反,有的项目追求的则是更高的吞吐量,对实时性要求并不高,那么则可以开启tcp_nopush配置项。设置该选项后,内核会尽量把小数据包拼接成一个大的数据包(一个MTU)再一起发送出去。 当然若一定时间后(一般为200ms),内核仍然没有积累到一个MTU的量时,也必须发送现有的数据,否则会一直阻塞。
tcp_nodelay、tcp_nopush两个参数是“互斥”的。
如果追求响应速度的应用推荐开启tcp_nodelay参数,如IM、金融等类型的项目。
如果追求吞吐量的应用则建议开启tcp_nopush参数,如调度系统、报表系统等。
tcp_nodelay一般要建立在开启了长连接模式的情况下使用。
tcp_nopush参数是必须要开启sendfile参数才可使用的。
优化四、调整Worker工作进程
Nginx启动后默认只会开启一个Worker工作进程处理客户端请求,而我们可以根据机器的CPU核数开启对应数量的工作进程,以此来提升整体的并发量支持,如下:
注意:工作进程的数量最高开到8个就OK了,8个之后就不会有再大的性能提升。
同时也可以稍微调整一下每个工作进程能够打开的文件句柄数:
操作系统内核(kernel)都是利用文件描述符来访问文件,无论是打开、新建、读取、写入文件时,都需要使用文件描述符来指定待操作的文件,因此该值越大,代表一个进程能够操作的文件越多(但不能超出内核限制,最多建议3.8W左右为上限)。
优化五、开启CPU亲和机制
对于并发编程较为熟悉的伙伴都知道,因为进程/线程数往往都会远超出系统CPU的核心数,因为操作系统执行的原理本质上是采用时间片切换机制,也就是一个CPU核心会在多个进程之间不断频繁切换,造成很大的性能损耗。 而CPU亲和机制则是指将每个Nginx的工作进程,绑定在固定的CPU核心上,从而减小CPU切换带来的时间开销和资源损耗,
优化六、开启epoll模型及调整并发连接数
在最开始就提到过:Nginx、Redis都是基于多路复用模型去实现的程序,但最初版的多路复用模型select/poll最大只能监听1024个连接,而epoll则属于select/poll接口的增强版,因此采用该模型能够大程度上提升单个Worker的性能,如下:
Last updated