一、介绍

Nginx按请求速率限速模块使用的是漏桶算法,即能够强行保证请求的实时处理速度不会超过设置的阈值。

二、限流配置说明

1、限流配置

limit_req_zone $binary_remote_addr zone=one:10m rate=10r/s;

  • 第一个参数:$binary_remote_addr 表示通过remote_addr这个标识来做限制,“binary_”的目的是缩写内存占用量,是限制同一客户端ip地址
  • 第二个参数:zone=one:10m表示生成一个大小为10M,名字为one的内存区域,用来存储访问的频次信息。
  • 第三个参数:rate=10r/s表示允许同一个客户端的访问频次是每秒10次,还可以有比如30r/m的。

配置案例:

limit_req_zone $binary_remote_addr zone=one:20m rate=200r/s;
limit_req_zone $binary_remote_addr zone=req_sdk_api:20m rate=200r/s;
limit_req_zone $binary_remote_addr zone=req_host_base_info:20m rate=300r/s;
limit_req_zone $binary_remote_addr zone=req_open_api:40m rate=200r/s;

2、 限流配置使用

案例:

location ^~ /api/open {
        proxy_pass       http://hubble-api-open;
        
        limit_req zone=req_open_api burst=10 nodelay;
        proxy_send_timeout 600;
        proxy_read_timeout 600;
        proxy_connect_timeout 600;

        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}

上面的location中指定了使用哪个限流配置:

limit_req  zone=req_open_api burst=10 nodelay;

limit_req  这个配置项用于调用 limit_req_zone 指定的频率上限,以及可选的补充参数。

  • 第一个参数:zone=req_open_api 设置使用哪个配置区域来做限制,与上面limit_req_zone里zone的name对应。
  • 第二个参数:burst=5,重点说明一下这个配置,burst爆发的意思,这个配置的意思是设置一个大小为5的缓冲区当有大量请求(爆发)过来时,超过了访问频次限制的请求可以先放到这个缓冲区内。假设配置的rate=10r/s,则QPS超过15时,后面的请求才可能会失败
  • 第三个参数:nodelay,如果设置,超过访问频次而且缓冲区也满了的时候就会直接返回limit_req_status指定的状态码,我们设置的是429,如果没有设置,则所有请求会等待排队。建议配置,否则占用太多内存

3、限流返回状态码设置

limit_req_status : 指定拒绝请求时返回的 http code(状态响应码)。

案例:

三、漏桶算法

算法思想是:

  • 水(请求)从上方倒入水桶,从水桶下方流出(被处理);
  • 来不及流出的水存在水桶中(缓冲),以固定速率流出;
  • 水桶满后水溢出(丢弃)。
  • 这个算法的核心是:缓存请求、匀速处理、多余的请求直接丢弃。
    相比漏桶算法,令牌桶算法不同之处在于它不但有一只“桶”,还有个队列,这个桶是用来存放令牌的,队列才是用来存放请求的。
Logo

为开发者提供学习成长、分享交流、生态实践、资源工具等服务,帮助开发者快速成长。

更多推荐