Сооснователь компании OpenAI, экс-директор по ИИ и бывший глава отдела разработки автопилота Tesla Андрей Карпаты выпустил новую 4-х часовую лекцию на Youtube о том, как создать GPT-2 с нуля на Python.

В ролике Карпаты стартует с пустого файла и далее собирает полноценную рабочую ИИ-модель — с пошаговым объяснением.

Сопроводительный материал к новой лекции с подробными комментариями к используемому коду Карпаты выложил на GitHub.

В феврале Карпаты выпустил лекцию на Youtube под названием Let's build the GPT Tokenizer. Это двухчасовая понятная и доступная лекция о токенах и токенизации в ChatGPT и других нейросетях. В видео Карпаты буквально на пальцах показывает, как именно нейросеть GPT читает текст, как дробит его на единицы и что в нём выделяет. Учебный материал поможет начинающим пользователям углубиться в изучение нейросетей, а также лучше понимать их устройство.

Сопроводительный материал к этой лекции с подробными комментариями к используемому коду Карпаты выложил на GitHub.