一、现象与背景：缓存雪崩、穿透、击穿的并发灾难
1.1 缓存雪崩：雪崩式数据库负载
我们遇到过一个典型的雪崩场景：某电商大促期间，5000 个商品缓存同时过期，导致10 分钟内 100 万次请求直接打到 MySQL，数据库连接池瞬间爆满，QPS 从 2000 次/秒飙升到 20 万次/秒，服务响应时间从 50ms 增加到 1500ms，错误率从 0.5% 上升到 40%。
具体数据：
- 缓存命中率：从 98% 猛降到 10%；
- 数据库 QPS：从 2000 次/秒飙升到 20 万次/秒；
- 服务响应时间：从 50ms 增加到 1500ms；
- 错误率：从 0.5% 上升到 40%。
1.2 缓存穿透：恶意请求的流量洪水
缓存穿透是指查询一个不存在的数据（如无效的用户ID），导致缓存和数据库都返回空，大量无效请求直接打到数据库。例如，攻击者通过伪造用户ID进行高频查询，导致数据库负载激增。
1.3 缓存击穿：热点数据失效的瞬间灾难
缓存击穿是指某个热点数据（如热门商品）在缓存中失效的瞬间，大量并发请求同时访问数据库，导致数据库压力骤增，甚至崩溃。例如，商品ID为1001的缓存失效，10秒内有2000次请求涌入数据库。
二、原理与根因分析：三宗罪的底层机制
2.1 缓存雪崩的根源：集中过期与冷启动
- 集中过期：缓存配置了相同的过期时间，导致大量缓存同时失效；
- 冷启动：系统刚启动时，缓存未加载，大量请求直接打到数据库。
2.2 缓存穿透的根源：无效请求与未处理异常
- 无效请求：攻击者伪造数据，查询不存在的数据；
- 未处理异常：系统未处理空值或异常情况，导致缓存未命中。
2.3 缓存击穿的根源：热点数据失效与并发请求
- 热点数据失效：缓存中的热点数据突然失效，导致大量请求直接访问数据库；
- 并发请求：大量并发请求同时访问数据库，导致数据库连接池耗尽。
三、具体做法：三宗罪的根治方案
3.1 缓存雪崩的解法：随机过期时间 + 预热缓存
- 随机过期时间：为缓存设置随机的过期时间，避免集中失效。
# 设置随机过期时间
SET cache_key "value" NX PX 30d 1h
- 预热缓存：在系统启动时，提前加载热点数据到缓存。
3.2 缓存穿透的解法：布隆过滤器 + 空值缓存
- 布隆过滤器：使用布隆过滤器过滤无效请求，避免查询数据库。
// 布隆过滤器示例
BloomFilter<String> bloomFilter = BloomFilter.create(1000000, 0.01);
- 空值缓存：对查询结果为空的数据，也缓存一段时间，避免重复查询。
3.3 缓存击穿的解法：互斥锁 + 逻辑过期时间
- 互斥锁：在缓存失效时，使用互斥锁确保只有一个线程去加载数据。
# 使用Redis的SETNX命令
SETNX cache_key lock_value
- 逻辑过期时间：设置永不过期的缓存，但在缓存中存储一个逻辑过期时间。
# 设置永不过期的缓存
SET cache_key "value" NX PX 30d
四、踩过的坑：那些年我们踩过的缓存陷阱
4.1 未处理异常导致缓存穿透
在处理用户ID查询时，未处理异常情况，导致缓存未命中，引发缓存穿透。
4.2 互斥锁未及时释放导致死锁
使用互斥锁时，未及时释放锁，导致死锁，影响系统性能。
4.3 逻辑过期时间设置不当导致缓存失效
逻辑过期时间设置不当，导致缓存提前失效，引发缓存击穿。
五、结论与可复用清单
- 缓存雪崩：设置随机过期时间，预热缓存；
- 缓存穿透：使用布隆过滤器，缓存空值；
- 缓存击穿：使用互斥锁，设置逻辑过期时间。
核心原则：
- 缓存失效时，确保只有一个线程加载数据；
- 处理异常情况，避免缓存穿透；
- 设置合理的缓存过期时间，避免集中失效。
可复用清单：
- 使用布隆过滤器过滤无效请求；
- 设置随机过期时间，避免缓存雪崩；
- 使用互斥锁和逻辑过期时间，解决缓存击穿问题；
- 预热缓存，避免冷启动压力。
总结：缓存雪崩、穿透、击穿是分布式系统中常见的问题，通过合理的缓存策略和设计，可以有效避免这些问题，提升系统性能和稳定性。
0赞
0收藏
0评论
2浏览