Nginx之反向代理和负载均衡（一）

vlambda
2021-05-08

Nginx之反向代理和负载均衡（一）

一、基础使用

指令

upstream name {...}，Context http
server address [parameters]，Context upstream

通用参数：

backup：指定当前server为备份服务，仅当非备份server不可用时，请求才会转发到该server。
down：标识某台服务已经下线，不在服务。

upstream name {  server 127.0.0.1 8081;  server 127.0.0.1 backup;  server 127.0.0.1 8080 down;}

二、加权Round-Robin负载均衡算法

功能：在加权轮询的方式访问server指令指定的上游服务，集成在Nginx的upstream框架中
指令

weight：服务访问的权重，默认是1
max_conns：server的最大并发连接数，仅作用于单worker进程。默认是0，表示没有限制
max_fails：在fail_timeout时间段内，最大的失败次数。当达到最大失败时，会在fail_timeout秒内这台server不允许再次被选择。
fail_timeout：单位为秒，默认值为10秒。具有2个功能：

指定一段时间内，最大的失败次数max_fails
到达max_fails后，该server不能访问的时间

对上游服务使用keepalive长连接

功能：通过复用连接，降低nginx与上游服务器建立、关闭连接的消耗，提升吞吐量的同时降低时延。
模块，ngx_http_upstream_keepalive_module，默认编译进nginx，通过--without-http_upstream_keepalive_module移除。
对上游连接的http头部设定（后续会详细说明）

proxy_http_version 1.1;
proxy_set_header_Connection "";

指令：

keepalive connections;
keepalive_requests number;
keepalive_timeout timeout;

//示例server { listen 8011; default_type text/plain; return 200 '8011 server response\n';}
server { listen 8012; return 200 '8012 server response\n';}

upstream rrups { server 127.0.0.1:8011 weight=2; server 127.0.0.1:8012;}
server { server_name blog.zhanghq.xin;
 location / { proxy_pass http://rrups; proxy_http_version 1.1; proxy_set_header Connection ""; }}
//用不同的端口号来模拟多台服务器，8011加了权重weight=2，轮询算法//会按8011两次8012一次的顺序响应。[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response

三、负载均衡哈希算法：ip_hash和hash模块

模块：ngx_http_upstream_ip_hash_module，通过--without-http_upstream_ip_hash_module禁用模块。
指令

语法：ip_hash;
Context：upstream

基于任意关键字实现Hash算法：upstream_hash模块

功能：通过指定关键字作为hash key，基于hash算法映射到特定的上游服务器中

关键字可以含有变量、字符串

模块：ngx_http_upstream_hash_module，通过--without-http_upstream_ip_hash_module禁用模块
指令

语法：hash key [consistent];
Context：upstream

//上述的负载均衡配置加了ip_hash或hash后upstream rrups {        ip_hash;        #hash user_$arg_username; server 127.0.0.1:8011 weight=2; server 127.0.0.1:8012;}
//ip_hash返回示例[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin8012 server response
//hash模块根据参数username返回固定数据[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin?username=c8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin?username=c8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin?username=c8012 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin?username=a8011 server response[root@iZwz9he4lwjhlld6pjd1yaZ sbin]# curl blog.zhanghq.xin?username=a8011 server response

四、一致性哈希算法：hash模块

hash算法在宕机或者扩容时，会引发大量路由变更，可能导致缓存大范围时效。

如图所示，假设原先有4个节点（还没有node5），均匀分布在一个环上，红色节点表示请求的hash值落的点，将会交由最近的服务器节点处理，比如现在node4压力比较大，可以新增一个node5，这样就可以帮node4分担一些压力，而不会造成大范围的缓存失效等问题。

只要在hash key [consistent]后面加个consistent即可。

五、upstream_least_conn模块

功能：从所有上游服务器中，找出当前并发连接数最少的一个，将请求转发到它

如果出现多个最少连接服务器的连接数都是一样的，使用round-robin算法

模块：ngx_http_upstream_least_conn_module，通过--without-http_upstream_ip_hash_module禁用模块。
指令：

语法：least_conn;
Context：upstream

六、upstream_zone模块

功能：分配出共享内存，将其他upstream模块定义的负载均衡策略数据、运行时每个上游服务器的状态数据存放在共享内存上，以对所有nginx worker进程生效
模块：ngx_http_upstream_zone_module，通过--without-http_upstream_zone_module禁用。
指令