为什么线程池设置线程数推荐为 2N，而 Tomcat 设置 200？

### **为什么一般设置线程数为 `2N`，而 Tomcat 设置 `200`？** **通常，我们建议线程池大小为**： - **CPU 密集型任务**：设置 **线程数 ≈ CPU 核心数 `N`** - **IO 密集型任务**：设置 **线程数 ≈ `2N` 到 `N * (1 + IO等待时间/CPU时间)`** 但 Tomcat 默认最大线程数高达 **200**，远远超过 `2N`，这是因为： 1. **Tomcat 主要处理的是 I/O 密集型任务**（网络请求） 2. **大部分线程处于等待状态**（阻塞在 I/O 上） ## **🔹 1. 计算密集型 vs I/O 密集型任务** ### **计算密集型任务** 对于 **CPU 密集型任务**，线程数一般设为 **`N` 到 `2N`**，目的是**让 CPU 充分利用但不过载**： ```text 线程数 ≈ CPU 核心数 N ``` 例如：**4 核 CPU** → 推荐 `4` 到 `8` 线程。 原因： - 计算密集任务需要 **大量 CPU 计算**，不会有 I/O 阻塞，CPU 使用率是瓶颈。 - 超过 `N` 线程反而 **导致频繁上下文切换（Context Switch），降低效率**。 ### **I/O 密集型任务** Tomcat 处理的是 **I/O 密集型任务**（HTTP 请求、数据库访问、文件 I/O 等），大部分时间 **线程处于 I/O 等待状态**： ```text 最佳线程数 ≈ CPU 核心数 × (1 + I/O等待时间 / CPU时间) ``` 如果： - **CPU 计算时间** = `10ms` - **I/O 等待时间** = `90ms` - **I/O:CPU 比例** = `90/10 = 9` 则： ```text 最佳线程数 = 4 × (1 + 9) = 40 ``` 所以 I/O 密集型任务的线程数应该 **远大于 `2N`**，以便 **充分利用 CPU 时间**。 ## **🔹 2. Tomcat 线程数为什么默认是 `200`？** ### **Tomcat 的任务特点** 1. **主要是 I/O 密集型**：大部分线程都在等待 **数据库查询、网络请求、磁盘读写**。 2. **每个请求都占用一个线程**： - `HTTP 线程` 处理 `Servlet` 请求。 - 业务代码可能会访问 **数据库（JDBC）、远程接口（RPC）**，造成阻塞。 - 若线程数太少，Tomcat **无法同时处理大量请求**。 ### **Tomcat 线程数计算公式** Tomcat 适用于 **Web 服务器**，大部分请求的 **CPU:IO 比例远远大于 `10:1`**，假设 `CPU:IO = 50:1`： ```text 最佳线程数 = 4 × (1 + 50) = 204 ``` 所以 **Tomcat 默认最大线程数 `200`** 是合理的。 > **即使 CPU 核心数少（如 `4`），Tomcat 也能高效处理上百个并发请求！** ## **🔹 3. Tomcat 线程数设置建议** ### **如何优化 Tomcat 线程数？** 1. **如果系统是 I/O 密集型（Web 请求 + 数据库）**： - `maxThreads = 200`（默认值，一般适用） - 但如果请求量大，可增大到 `500`，但 **过高可能导致 CPU 过载** 2. **如果系统是 CPU 密集型（大量计算）**： - 线程数建议降低，例如 `maxThreads = 2N ~ 4N` 3. **如果有异步处理（Async Servlet, NIO）**： - 可适当减少线程，如 `maxThreads = 100` ### **调整 `server.xml` 配置** ```xml <Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" maxThreads="200"/> ``` ## **🔹 4. 什么时候需要调整 Tomcat 线程数？** 1. **高并发请求时，系统响应慢** - **查看 Tomcat 线程数**（是否达到 `maxThreads`）： ```shell ps -eLf | grep tomcat | wc -l # 查看 Tomcat 线程数 ``` - **日志中出现 `Too many threads in use`**： ```log SEVERE: All threads (200) are currently in use ``` 2. **CPU 负载过高** - 线程数太多，导致 **CPU 频繁上下文切换**，可以适当降低。 3. **大量请求在 `waiting` 状态** - `jstack` 查看线程堆栈，发现大量 `WAITING` 线程： ```shell jstack -l <tomcat_pid> ``` ## **🔹 5. 总结** | **任务类型** | **推荐线程数** | **计算方式** | **适用场景** | |-------------|--------------|------------|------------| | **CPU 密集型** | `N ~ 2N` | CPU 核心数 `N` | **大数据计算、AI 训练** | | **I/O 密集型（Web 服务器）** | `N × (1 + I/O:CPU)` | 100~500（视请求量调整） | **Tomcat、Spring Boot API** | | **异步请求 + NIO** | `N ~ 4N` | 使用异步 I/O 方式 | **Netty、NIO WebSocket** | 🔹 **Tomcat 线程数默认是 200，是因为 Web 服务器是 I/O 密集型，CPU 不是瓶颈，线程数远超 `2N` 反而有助于并发请求处理**。