当用linux做高并发服务器时,会遇到”Too many open files”的错误。
Linux是有文件句柄限制的(open files),而且Linux默认不是很高,一般都是1024,做高并发生产服务器用其实很容易就达到这个数量。
出现这个错误可能是由于系统的ulimit限制和nginx自身的配置有关系,先来了解下概念。
什么是ulimit?
ulimit命令用来限制系统用户对shell资源的访问。如果不懂什么意思,下面一段内容可以帮助你理解:
假设有这样一种情况,当一台 Linux 主机上同时登陆了 10 个人,在系统资源无限制的情况下,这 10 个用户同时打开了 500 个文档,而假设每个文档的大小有 10M,这时系统的内存资源就会受到巨大的挑战。
ulimit 用于限制 shell 启动进程所占用的资源,支持以下各种类型的限制:所创建的内核文件的大小、进程数据块的大小、Shell 进程创建文件的大小、内存锁住的大小、
常驻内存集的大小、打开文件描述符的数量、分配堆栈的最大大小、CPU 时间、单个用户的最大线程数、Shell 进程所能使用的最大虚拟内存。同时,它支持硬资源和软资源的限制。
简单来说,ulimit描述符可以对用户打开的文件数量进行限制(不止限制打开文件数量),让单个用户不至于打开较多的文件,导致系统奔溃或者资源不足的情况。
在linux中执行ulimit -a 即可查询linux相关的参数,如下所示:
查看配置
ulimit -a
修改配置
ulimit [-SHacdefilmnpqrstuvx] [limit]
默认最大打开文件数(open files)最大数为1024,修改:
ulimit -n 102400 #最大值为655350
命令参数:
-H 设置硬件资源限制.
-S 设置软件资源限制.
-a 显示当前所有的资源限制.
-c size:设置core文件的最大值.单位:blocks
-d size:设置数据段的最大值.单位:kbytes
-f size:设置创建文件的最大值.单位:blocks
-l size:设置在内存中锁定进程的最大值.单位:kbytes
-m size:设置可以使用的常驻内存的最大值.单位:kbytes
-n size:设置内核可以同时打开的文件描述符的最大值.单位:n
-p size:设置管道缓冲区的最大值.单位:kbytes
-s size:设置堆栈的最大值.单位:kbytes
-t size:设置CPU使用时间的最大上限.单位:seconds
-v size:设置虚拟内存的最大值.单位:kbytes
unlimited 是一个特殊值,用于表示不限制
ulimit命令的特点:
1.只对当前tty(终端有效),若要每次都生效的话,可以把ulimit参数放到对应用户的.bash_profile里面;
2.ulimit命令本身就有分软硬设置,加-H就是硬,加-S就是软;
硬限制是可以在任何时候任何进程中设置 但硬限制只能由超级用户提起
软限制是内核实际执行的限制,任何进程都可以将软限制设置为任意小于等于对进程限制的硬限制的值
3.默认显示的是软限制,如果运行ulimit命令修改的时候没有加上的话,就是两个参数一起改变生效;
永久设置
针对所有用户的设置,在/etc/security/limits.conf文件,其是可以对系统用户、组进行cpu、文件数等限制的,通过它可以针对某个用户或全部进行限制。但不能超越系统的限制;
格式:
#<domain> <type> <item> <value>
* soft nproc 102400
domain:表示范围,
a user name #表示某个用户
a group name #表示某个组
the wildcard * #表示所有用户
the wildcard % #筛选过滤用户
type:表示类型
soft表示可以超出,但只是警告
hard表示绝对不能超出
yyonline 案例
# End of file
root soft nofile 65535
root hard nofile 65535
* soft nofile 655350
* hard nofile 655350
查看进程开启的句柄数
lsof -n|awk ‘{print $2}’|uniq -c|sort -nr
统计指定端口的socket连接数
netstat -ant|grep ‘port’|wc -l
关于nginx的 max open files
上面修改了系统的 max open files,并不代表nginx的
先查看 nginx 的 ulimits, 发现nginx 的 max open files 并没有变化
grep ‘open files’ /proc/$( cat /var/run/nginx.pid )/limits
修改 nginx.service
vim /lib/systemd/system/nginx.service # (仅适用于 ubuntu)
添加如下:
[Service]
LimitNOFILE=65535
重启服务:
sudo systemctl daemon-reload
修改 nginx.conf,
添加:以下两点
worker_rlimit_nofile 65535; # (has to be smaller or equal to LimitNOFILE set above)
events {
worker_connections 65535;
}
重启 nginx:
systemctl restart nginx
再查看nginx的 max open files
grep ‘open files’ /proc/$( cat /var/run/nginx.pid )/limits