Я, возможно, не до конца понимаю вопрос, но попытаюсь ответить. По моим представлениям JVM состоит из трех основных частей: Runtime, GC и JIT компилятора. Краткий обзор JVM и его рантайма можно найти в главе 3 книги Java Perfomance, авторы Charlie Hunt и Binu John. О работе GC можно почитать в любой из книг, перечисленных в списке литературы. Плюс можно заглянуть в спецификацию JVM docs.oracle.com/javase/specs/jvms/se14/jvms14.pdf. У меня статей на эти темы пока нет, но, возможно, они появятся в будущем.
Java HotSpot JIT компилятор — устройство, мониторинг и настройка (часть 1)