Nginx 如何实现高并发?理解原理及其配置调优

Nginx 是如何实现高并发的?

Nginx 采用的是多进程（单线程） & 多路IO复用模型。使用了 I/O 多路复用技术的 Nginx，就成了”并发事件驱动“的服务器。其实现了异步，非阻塞，使用了epoll 和大量的底层代码优化。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

如果一个server采用一个进程负责一个request的方式，那么进程数就是并发数。正常情况下，会有很多进程一直在等待中。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

而nginx采用一个master进程，多个woker进程的模式。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

• master进程主要负责收集、分发请求。每当一个请求过来时，master就拉起一个worker进程负责处理这个请求。
• 同时master进程也负责监控woker的状态，保证高可靠性
• woker进程一般设置为跟cpu核心数一致。nginx的woker进程在同一时间可以处理的请求数只受内存限制，可以处理多个请求。

Nginx 的异步非阻塞工作方式正把当中的等待时间利用起来了。在需要等待的时候，这些进程就空闲出来待命了，因此表现为少数几个进程就解决了大量的并发问题。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

题外话：这和PHP扩展swoole的原理一样文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

每进来一个request，会有一个worker进程去处理。但不是全程的处理，处理到什么程度呢？处理到可能发生阻塞的地方，比如向上游（后端）服务器转发request，并等待请求返回。那么，这个处理的worker很聪明，他会在发送完请求后，注册一个事件：“如果upstream返回了，告诉我一声，我再接着干”。于是他就休息去了。此时，如果再有request 进来，他就可以很快再按这种方式处理。而一旦上游服务器返回了，就会触发这个事件，worker才会来接手，这个request才会接着往下走。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

为什么 Nginx 不使用多线程？

Apache: 创建多个进程或线程，而每个进程或线程都会为其分配 cpu 和内存（线程要比进程小的多，所以worker支持比perfork高的并发），并发过大会耗光服务器资源。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

Nginx: 采用单线程来异步非阻塞处理请求（管理员可以配置Nginx主进程的工作进程的数量）(epoll)，不会为每个请求分配cpu和内存资源，节省了大量资源，同时也减少了大量的CPU的上下文切换。所以才使得Nginx支持更高的并发。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

配置调优

1. 调整worker_processes文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

指Nginx要生成的worker数量,最佳实践是每个CPU运行1个工作进程。了解系统中的CPU核心数，输入文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

grep processor  /proc/cpuinfo  |  wc -l

# 或者htop
htop

2. 最大化worker_connections文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

Nginx Web服务器可以同时提供服务的客户端数。与worker_processes结合使用时，获得每秒可以服务的最大客户端数文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

最大客户端数/秒=工作进程*工作者连接数文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

为了最大化Nginx的全部潜力，应将worker_processes设置为核心一次可以运行的允许的最大进程数1024。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

3. 启用Gzip压缩文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

压缩文件大小，减少了客户端http的传输带宽，因此提高了页面加载速度。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

4.为静态文件启用缓存文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

为静态文件启用缓存，以减少带宽并提高性能，可以添加下面的命令，限定计算机缓存网页的静态文件文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

第三点和第四点 具体看前 《【nginx网站性能优化篇(1)】gzip压缩与expire浏览器缓存》文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

5. Timeouts文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

keepalive连接减少了打开和关闭连接所需的CPU和网络开销，获得最佳性能需要调整的变量:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

client_body_timeout 12;

client_header_timeout 12;文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

keepalive_timeout 15;文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

send_timeout 10;文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

6. 禁用access_logs文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

访问日志记录，它记录每个nginx请求，因此消耗了大量CPU资源，从而降低了nginx性能。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

完全禁用访问日志记录文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

access\_log off;

如果必须具有访问日志记录，则启用访问日志缓冲文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

access\_log /var/log/nginx/access.log主缓冲区= 16k

7. fastcgi 调优文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/38106.html

fastcgi_connect_timeout 600;
fastcgi_send_timeout 600;
fastcgi_read_timeout 600;
fastcgi_buffer_size 64k;
fastcgi_buffers 4 64k;
fastcgi_busy_buffers_size 128k;
fastcgi_temp_file_write_size 128k;
fastcgi_temp_path/usr/local/nginx1.10/nginx_tmp;
fastcgi_intercept_errors on;
fastcgi_cache_path/usr/local/nginx1.10/fastcgi_cache levels=1:2 keys_zone=cache_fastcgi:128minactive=1d max_size=10g;