Практическая статья на основе проекта vthreads: Spring Boot 4.1.2, JDK 25, PostgreSQL 17, Kafka 3.9. Один и тот же профиль нагрузки прогоняется дважды — с виртуальными потоками и без них — а затем профили потоков совмещаются на одном графике вместе с нагрузкой.
Репозиторий https://github.com/maxmiracle/vthreads
Содержание
1. Проблема: thread-per-request и блокирующий I/O
2. Как устроены виртуальные потоки
3. Виртуальные потоки в Spring Boot Web
4. Что именно блокируется в этом проекте
5. Схема обработки запроса
6. Методика эксперимента
7. Результаты
7.1. График VT ON
7.2. График VT OFF
7.3. Совмещённый график
8. Объяснение результатов
9. Выводы
10. Ограничения и на что обратить внимание
1. Проблема: thread-per-request и блокирующий I/O
Классическая модель Spring MVC/Tomcat — один запрос на один платформенный (OS) поток. Пока запрос ждёт ответа от базы, Kafka, HTTP-клиента или файловой системы, поток блокируется: он остаётся занятым, но ничего не делает. Пул потоков Tomcat ограничен (server.tomcat.threads.max, по умолчанию 200), поэтому при большом числе одновременных «медленных» запросов:
новые соединения ждут в очереди accept;
растёт latency;
каждый поток занимает память под стек и требует переключения контекста на уровне ОС;
увеличивать пул до тысяч потоков экономически невыгодно.
Именно поэтому долгое время для I/O-нагрузок предлагали reactive-стек (WebFlux) или асинхронные API. Виртуальные потоки (JDK 21+, в JDK 25 — стабильная и доработанная технология) позволяют сохранить привычный императивный код и при этом не держать платформенный поток на каждое ожидание.
2. Как устроены виртуальные потоки
Виртуальный поток (VT) — это поток, планируемый JVM, а не ОС. Он выполняется на небольшом пуле carrier-потоков (по умолчанию ForkJoinPool, parallelism = числу доступных процессоров). Когда виртуальный поток упирается в блокирующую операцию, поддерживаемую JDK (LockSupport.park, CompletableFuture.get, Socket I/O, Thread.sleep и т.п.), JVM размонтирует его: carrier освобождается и выполняет другие виртуальные потоки. Когда ожидание завершается, VT ставится в очередь планировщика и снова монтируется на свободный carrier.