Знакомьтесь, HIGGS — новый метод сжатия LLM от исследователей из Яндекса и ведущих научно-технологических вузов

Так понимаю, что здесь nf4 это нормал флоат - формат представления числа с плавающей точкой.

Вряд ли именно такое расширение у файлов.

Вероятнт, модель в рантайме занимает меньше памяти. Но какой бэкенд может выполнять вычисления в такой точности?

Рекуррентные сети против трансформеров

Статья LoRA изначально была написана для трансформеров, и сейчас является самым популярным методом файнтюнинга LLM (больших языковых сетей)

Разбор классического тестового задания на позицию Python Developer

Кто же создаёт переменную с зарезервированным именем?