Livadies Mar 20 at 21:40Запуск Open-Sora на 15 ГБ VRAM: Реверс-инжиниринг, monkey-patching и борьба с NaN-амиLevel of difficultyHardReading time4 minReach and readers7.1KAbnormal programming * CaseTotal votes 2: ↑2 and ↓0+3Add to bookmarks5Comments2
Livadies Mar 22 at 11:18Show previous comment Дальше — лечить семантику. Proof-of-Concept удался: мы доказали, что OOM можно обойти. Теперь нужно придумать, как динамически скейлить латенты на старой T4, чтобы они не взрывали математику. Работаем с тем железом, что есть :)
Запуск Open-Sora на 15 ГБ VRAM: Реверс-инжиниринг, monkey-patching и борьба с NaN-ами