项目开发中做过哪些性能或成本优化？如何验证效果？

## 作用 性能或成本优化不能只说“加缓存、改异步”，需要围绕明确目标、数据定位、方案权衡和上线验证来说明： - **提升响应速度**：降低接口平均、P95、P99 延迟。 - **提升系统吞吐**：在相同硬件条件下支持更高 QPS/TPS。 - **降低资源成本**：减少 CPU、内存、磁盘、网络、数据库连接、机器数量或云资源消耗。 - **提升稳定性**：降低错误率、超时、GC 停顿、线程阻塞和外部依赖抖动带来的影响。 - **让优化可衡量**：先建立基线，再通过压测、监控和上线后数据证明收益。 ## 原理 ### 1. 先明确范围和目标 - 识别痛点：单接口慢、整体吞吐不足、资源利用不均衡，还是偶发超时。 - 明确指标： - 响应时间：平均延迟、P95、P99。 - 吞吐量：QPS/TPS。 - 资源指标：CPU、内存、磁盘 I/O、网络、连接池、线程池。 - 稳定性：错误率、超时率、GC 频率和停顿时间。 - 成本指标：机器数量、实例规格、数据库压力、带宽和存储消耗。 - 设定可量化目标，例如： - P95 从 500ms 降到 200ms。 - 同等流量下机器数减少 20%。 - 相同硬件下吞吐提升 20%。 ### 2. 先采集基线，再定位瓶颈 优化前需要先记录当前数据，避免凭感觉修改： - **系统层**：通过 `top`、`iostat`、`netstat/ss`、`free` 等观察 CPU、内存、磁盘、网络和连接状态。 - **JVM/应用层**：通过 GC 日志、JMX、`jvisualvm`、`jmc`、`arthas`、`async-profiler` 等分析内存、GC、线程和 CPU 热点。 - **业务指标**：请求量、延迟分布、错误率、缓存命中率、数据库连接池使用率、消息队列堆积等。 - **调用链**：通过 SkyWalking、Zipkin、Jaeger 等分析 RPC、数据库、第三方接口各段耗时。 - **日志**：开启慢日志、错误日志和关键路径耗时日志，生产环境避免大量 DEBUG 日志增加 I/O 压力。 定位时按“整体到局部”推进：先判断瓶颈属于 CPU、内存、磁盘、网络、数据库、应用代码还是外部依赖，再通过线程 Dump、堆 Dump、火焰图或慢 SQL 进一步定位到具体方法、SQL 或接口。 ### 3. 常见优化方向 - **CPU 优化**： - 减少重复计算、复杂循环、频繁序列化和正则处理。 - 优化算法和热点代码。 - 使用缓存保存高频计算结果。 - **内存与 JVM 优化**： - 避免创建过多短生命周期对象和大对象。 - 调整堆大小、新生代比例和垃圾回收器。 - 关注 Full GC、GC 停顿、堆外内存和内存泄漏。 - **I/O 与网络优化**： - 减少同步阻塞 I/O。 - 批量读写、合并请求、控制日志量。 - 关注磁盘 await、IOPS、网络重传、连接数和第三方调用延迟。 - **代码与并发优化**： - 使用批量处理、异步化、并行计算和线程池隔离。 - 降低锁粒度，减少同步阻塞，必要时使用乐观锁、CAS 或无锁方案。 - 使用对象池、连接池复用资源。 - **数据库与缓存优化**： - 通过慢 SQL、执行计划定位全表扫描、回表、深分页等问题。 - 增加或调整索引，优化 SQL，减少 N+1 查询。 - 对高频读场景引入缓存，关注缓存命中率、过期策略和一致性。 - 使用读写分离、分库分表或冷热数据分离应对规模增长。 - **架构层面优化**： - 将非核心链路异步化，通过消息队列削峰填谷。 - 对服务进行拆分或模块化，隔离核心与非核心能力。 - 使用队列、缓冲、批量提交降低突发流量对下游的冲击。 - **外部依赖优化**： - 控制 RPC 和第三方接口调用次数。 - 设置合理超时、重试、熔断和降级。 - 合并调用、增加本地/分布式缓存，避免慢依赖拖垮整体链路。 - **成本优化**： - 根据流量峰谷调整实例规格和副本数量。 - 清理低利用率资源，提升单机吞吐。 - 通过缓存、异步批处理和 SQL 优化降低数据库、带宽和存储成本。 - 在成本、性能和稳定性之间权衡，不为了少量收益引入过高复杂度。 ### 4. 如何验证效果 - **压测验证**： - 使用 wrk、JMeter 等工具构造稳定负载和峰值流量。 - 压测环境尽量接近生产，包括机器规格、数据量、依赖服务和参数配置。 - 对比优化前后的 QPS、平均延迟、P95/P99、错误率和资源消耗。 - **指标对比**： - 对比 CPU、内存、GC、磁盘 I/O、网络、连接池、线程池、缓存命中率、数据库耗时等指标。 - 通过调用链确认耗时是否真正下降，避免瓶颈从一个组件转移到另一个组件。 - **回归测试**： - 验证功能正确性，尤其是缓存一致性、异步消息、并发修改和降级逻辑。 - 检查边界条件、异常场景和高峰流量下是否出现新问题。 - **灰度与线上观察**： - 先小流量灰度，再逐步扩大范围。 - 观察真实流量下的延迟、错误率、资源利用率和业务指标。 - 配置报警和回滚预案，出现异常及时恢复。 - **持续沉淀**： - 记录优化前后数据、方案、风险和最终收益。 - 将关键指标纳入自动化监控和告警。 - 定期回顾，形成“监控—定位—优化—验证—回归”的 PDCA 闭环。