限流是当对服务的访问量超过容量时保证服务质量的手段之一。比如当用户增长过快、突发热点、秒杀时,限流机制会通过限制请求的并发规模,从而降低服务的负载。限流是通过限制一个时间窗口内的请求数量来保护系统,一旦达到或超过限制速率(限制速率:单个时间窗口内的请求数)就可以拒绝服务,或者进行排队等待。
早高峰的地铁站限流就是生活中常见的一种限流手段。