Запуск Open-Sora на 15 ГБ VRAM: Реверс-инжиниринг, monkey-patching и борьба с NaN-ами

[Tassdesu]

Вроде круто, но... Ну вот НЛО, а что дальше?

[researcher_max]

Дальше — лечить семантику. Proof-of-Concept удался: мы доказали, что OOM можно обойти. Теперь нужно придумать, как динамически скейлить латенты на старой T4, чтобы они не взрывали математику. Работаем с тем железом, что есть :)