Комментарии 4
Круто! Спасибо, для новичков хорошее введение. Я смог осилить до 3-го пункта, потом стало не совсем понятно для чего мы начали измерять скорость и я сдался)
От заголовка ожидал что в статье будет что-то похожее на инструкцию как запустить hello world
Измерение скорости здесь присутствует только для демонстрации ускорения в Pytorch 2.0. Да, это может вводить в заблуждение. По сути у статьи 2 цели - туториал для запуска и демонстрация ускорения.
Скорее всего вы почти во всем разобрались, что вам нужно для запуска) В 3 пункте главное - это Trainer. Он запускает обучение. Все, что после в 3 пункте - это уже не часть туториал, ее не надо повторять.
4 пункт здесь самый простой. Он своего рода hello world. Там нет обучения, его можно отдельно запустить для любой модели и получить предсказание.
Пробовал, использовать torch.compile в стандартный transformers моделях. Не получается компилировать. Пробовал на t5. Поделитесь опытом, как вы это делаете? И если можно то скиньте какие у вас версии библиотек (обновленные версии)
Начинаем работу с PyTorch 2.0 и Hugging Face Transformers