Пишем свой PyTorch на NumPy. Финал. Запускаем GPT-2

нет, только запуск готовой модели

Пишем свой PyTorch на NumPy. Часть 3. Строим граф вычислений

Я не обучал модель, этим занимались исследователи, я просто взял веса. То что вы описали решается ОГРОМНЫМИ моделями и эта статья не про них