Используйте ngx_http_limit_zone_module следующим образом прописав директив limit_zone и limit_conn в конфигурационном файле nginx.conf

http {
    include       mime.types;
    default_type  application/octet-stream;
    
    limit_zone   one  $binary_remote_addr  4m;
    limit_conn   one  8;
...

Тем самым мы ограничили число подключений в 8 одновременных коннектов с одного IP-адреса и выделили под это кэш (где будут запоминаться адреса, а в последствии высвобождаться) размером в 4 мегабайта.

nginx.org/ru/docs/http/ngx_http_limit_conn_module.html