Nginx学习笔记(一) Nginx架构
Nginx架构
Nginx全程是什么? Nginx ("engine x") 是一个高性能的 HTTP 和 反向代理 服务器,也是一个 IMAP/POP3/SMTP 代理服务器。
daemon守护线程
nginx在启动后,在unix系统中会以daemon的方式在后台运行,后台进程包含一个master进程和多个worker进程。
当然nginx也是支持多线程的方式的,只是我们主流的方式还是多进程的方式,也是nginx的默认方式。
master进程主要用来管理worker进程,包含:接收来自外界的信号,向各worker进程发送信号,监控worker进程的运行状态,当worker进程退出后(异常情况下),会自动重新启动新的worker进程。
worker进程则是处理基本的网络事件。多个worker进程之间是对等的,他们同等竞争来自客户端的请求,各进程互相之间是独立的。一个请求,只可能在一个worker进程中处理,一个worker进程,不可能处理其它进程的请求。
worker进程的个数是可以设置的,一般我们会设置与机器cpu核数一致。更多的worker数,只会导致进程来竞争cpu资源了,从而带来不必要的上下文切换。而且,nginx为了更好的利用多核特性,具有cpu绑定选项,我们可以将某一个进程绑定在某一个核上,这样就不会因为进程的切换带来cache的失效。
惊群现象
每个worker进程都是从master进程fork过来。在master进程里面,先建立好需要listen的socket之后,然后再fork出多个worker进程,这样每个worker进程都可以去accept这个socket(当然不是同一个socket,只是每个进程的这个socket会监控在同一个ip地址与端口,这个在网络协议里面是允许的)。一般来说,当一个连接进来后,所有在accept在这个socket上面的进程,都会收到通知,而只有一个进程可以accept这个连接,其它的则accept失败。
相对于线程,采用进程的优点
进程之间不共享资源,不需要加锁,所以省掉了锁带来的开销。
采用独立的进程,可以让互相之间不会影响,一个进程退出后,其它进程还在工作,服务不会中断,master进程则很快重新启动新的worker进程。
编程上更加容易。
多线程的问题
而多线程在多并发情况下,线程的内存占用大,线程上下文切换造成CPU大量的开销。想想apache的常用工作方式(apache也有异步非阻塞版本,但因其与自带某些模块冲突,所以不常用),每个请求会独占一个工作线程,当并发数上到几千时,就同时有几千的线程在处理请求了。这对操作系统来说,是个不小的挑战,线程带来的内存占用非常大,线程的上下文切换带来的cpu开销很大,自然性能就上不去了,而这些开销完全是没有意义的。
异步非阻塞
异步的概念和同步相对的,也就是不是事件之间不是同时发生的。
非阻塞的概念是和阻塞对应的,阻塞是事件按顺序执行,每一事件都要等待上一事件的完成,而非阻塞是如果事件没有准备好,这个事件可以直接返回,过一段时间再进行处理询问,这期间可以做其他事情。但是,多次询问也会带来额外的开销。
总的来说,Nginx采用异步非阻塞的好处在于:
- 不需要创建线程,每个请求只占用少量的内存
- 没有上下文切换,事件处理非常轻量
淘宝tengine团队说测试结果是“24G内存机器上,处理并发请求可达200万”。
相关文章
- Activiti实战. 3.1基于B/S架构的流程设计器Activiti Modeler
- Java线程池架构(二)多线程调度器
- 这部《从零开始学架构》神书就此霸榜
- 堪称一绝!阿里技术人都用的 Nginx 笔记手册,应用到架构齐全
- 大型网站系统架构的演化
- 《VMware vSphere 6.0虚拟化架构实战指南》——2.4 全新安装后的必要配置
- 《信息存储与管理(第二版):数字信息的存储、管理和保护》—— 1.2 存储架构的发展
- 网站架构从0起步系列文章总目录
- MySQL 逻辑架构
- SwiftUI进阶之 03 App架构应该如何设计 (《代码大全》学习笔记)
- Openstack Sahara组件和架构简介
- 另一个角度的redis--redis 可以看做是c/s架构的软件
- (5.1)mysql高可用系列——高可用架构方案概述
- Android系统架构(图解)
- Python乐园提供Python学习的基地,免费分享与提供基础学习、高级开发、有趣的爬虫、人工智能、系统网站开发、前沿的最新技术、项目架构、以及配套的资料、视频、源码、笔记等等
- 微软称Windows 7安全架构已经过时
- 系统架构设计师-软件架构建模技术
- 刀片服务器架构:高效率vs.厂商锁定,怎么权衡?