Вышел PyTorch 2.6: поддержка Python 3.13 в torch.compile и улучшения в AOTInductor

Разработчики PyTorch выпустили обновление 2.6, в котором добавили поддержку Python 3.13 в torch.compile, включили улучшения в AOTInductor и интегрировали torch.compiler.set_stance — функцию настройки производительности компилятора. Кроме того, это первая версия, которую разработчики не опубликовали в Anaconda.

Что нового в PyTorch 2.6:

• torch.compile получил поддержку Python 3.13;

• Добавили экспериментальную функцию torch.compiler.set_stance, с помощью которой можно выбрать «режим» работы компилятора. Например, при выборе torch.compiler.set_stance("eager_on_recompile") система будет использовать кэшированный скомпилированный код, если это возможно.

• В AOTInductor появилась поддержка PT2-архивов, в которые можно упаковывать все файлы модели для передачи в сторонние окружения. Помимо этого есть функция для упаковки нескольких моделей в один архив.

• Появился инструмент AOTInductor Minifier, с помощью которого можно быстро создавать модули nn.Module. Функция полезна тем, кто часто сталкивается с ошибками при работе с API AOTInductor.

• AOTInductor теперь генерирует код, который зависит только от стабильных интерфейсов в библиотеке libtorch. Это гарантирует обратную совместимость моделей, скомпилированных с помощью AOTInductor.

• Добавили поддержку Float16 для процессоров X86 с аппаратным ускорением для этого типа данных.

Важно отметить, что начиная с PyTorch 2.6 команда проекта не будет публиковать официальные сборки в Anaconda. В отчёте отмечается, что 96,3% разработчиков получают сборки из PyPI. Команда не видит смысла тратить время и силы на поддержку непопулярного источника.