LLM может влезать в контекст и генерировать 200 tok/s, но если она не может найти нужный факт в тексте, толку от этого мало. Поэтому мы захостили 8 локальных LLM и прогнали через NIAH-тесты: тройной хоп, пять дистракторов и контексты до 256K.

Разобрал, как GPU ускоряет инженерные расчёты на примере массового моделирования 2D-траекторий. Сравнил NumPy CPU, CuPy vectorized и CuPy RawKernel на RTX 5090, взятой на GPUGO.