Все снова пишут про большие языковые модели.

А если чуть отдохнуть?

Пора вспомнить, что до них тоже существовало машинное обучение — и оно вполне умело решать полезные задачи.

Берём телеметрию виртуальных машин, час истории нагрузки и пытаемся предсказать перегрузку за 30 минут до того, как её увидит обычный мониторинг.

Используем классику: временные ряды, численные методы, LSTM и проверка на реальных данных.

И да — это еще работает.

Как раньше: женщины были женщинами, мужчины — мужчинами, колбаса была настоящей, мороженое — вкусным, а каждый юноша писал сам свое ядро линукс.

Генерируем музыку с помощью LSTM, GRU и Transformer на Keras 3

Сегодня попробуем решить довольно простую, но наглядную задачу: обучить нейросеть генерировать музыку.

В качестве представления музыки будем использовать текстовую нотацию ABC, а в роли генеративных моделей сравним три архитектуры:

• LSTM;
• GRU;
• небольшой Transformer.

Цель статьи — не построить state-of-the-art музыкальную модель уровня современных коммерческих генераторов аудио, а на практическом примере показать, как последовательные нейросети учатся структуре данных и прогнозируют следующий элемент последовательности.

В нашем случае элементом будет обычный символ текста.

Весь пример можно запустить в Jupyter Notebook или Google Colab.

Минимально понадобятся:

• Python 3.10+;
• Jupyter Notebook / Google Colab;
• базовое понимание Python;
• желательно GPU, хотя небольшой датасет можно обучать и на CPU.

Русский язык не является для меня родным, поэтому содержательные замечания по статье и коду приветствуются.

Дисклеймер. Материал подготовлен исключительно в образовательных и исследовательских целях. Автор не связан с группой «Руки Вверх» и не планирует получать прибыль от её творчества. Упоминания произведений и отдельные фрагменты используются только для технического анализа в рамках применимых ограничений авторского права, включая право цитирования. Материал не является инструкцией или призывом к нарушению авторских прав.

От RNN до Qwen и Suno: как я бы в 2026 году повторил эксперимент с генерацией песни

В 2019 году я уже проводил похожий эксперимент.

Я собрал тексты песен группы «Руки Вверх», подготовил небольшой датасет, обучил на нём рекуррентную нейронную сеть и попросил её писать новые тексты.

ML-часть проекта могла выглядеть примерно так:

from textgenrnn import textgenrnn

textgen = textgenrnn()

textgen.train_from_file(
    "trans.csv",
    num_epochs=1,
)

textgen.generate(
    3,
    temperature=1.0,
)

По меркам 2019 года это был вполне нормальный учебный проект:

песни
 ↓
датасет
 ↓
RNN
 ↓
новый текст

Прошло семь лет.

Сегодня повторять тот же эксперимент буквально было бы не очень интересно.

Современная языковая модель уже знает русский язык, умеет писать связный текст, понимает инструкции и даже без специального обучения способна создать вполне приличный текст песни.

Поэтому вопрос теперь другой.

Не:

Может ли нейросеть написать песню?

А:

Что сегодня можно сделать с небольшим специализированным корпусом, если сама языковая модель уже умеет почти всё?

И второй, более практический вопрос:

Можно ли пройти весь путь от старого набора текстов до действительно готовой композиции с музыкой и вокалом?

Именно это я и попробую собрать.