Информация
- В рейтинге
- Не участвует
- Откуда
- Россия
- Зарегистрирован
- Активность
Специализация
Ученый по данным, ML разработчик
Старший
Python
Машинное обучение
Deep Learning
Нейронные сети
Математическое моделирование
Computer Science
NLP
Agentic systems
Компьютерное зрение
Математика
Очень спасибо за интересные предложения перед сном! Но с пунктами вашими не соглашусь:
1) По крайней мере в РФ сегменте эти модели редко используют где-то кроме временных рядов. Нет смысла отдельно изучать их заранее. При необходимости при решении задачи + если эти модели оправданы в заданном контексте — велкам. Поправьте, если не прав
2)
RAF и другие разновидности rag для временных рядов, SERAF — узкоспециализированные классы моделей. Здорово, что вы знаете их и, наверное, даже сталкивались с ними на практике. Но зачем это тащить в роадмап? Временные ряды — не самый популярный домен в ML, а раздувать его частными случаями не вижу смысла, всегда можно для конкретной задачи провести ресерч, если того требует проект и позволяют ресурсы. Точно также вы могли бы предложить добавить в роадмап RL, GNN, world models, VLA и прочее. Это не базовые темы, не фундамент, а конкретные семейства алгоритмов, которые хорошо зарекомендовали себя в определенных доменах. Учить все подряд — гарантированно застрять на несколько лет3) Тут можно с пеной у рта спорить о том, в чем отличие между ML, DS, AI и прочими аббревиатурами. Не очень понимаю ваш посыл, к чему это замечание. Это дело вкуса, как мне кажется.
скажу так, что под разные задачи и используют разные подходы в связке, та же линейная регрессия+Фурье или что то другое. Все там индивидуально и выбирается и подбирается исходя из результатов. В каком нибудь высокочастотном трейдинге будут другие подходы— я ни в коем разе не спорю и не отрицаю этого, к чему это замечание? Оно показывает широту ваших знаний, но я не очень понимаю, какое это отношение имеет к роадмапу. Если ваш посыл в том, что в роадмап надо включить максимально широкий перечень знаний — от классических алгоритмов в связке с Фурье до передовых RAG/SERAF/SSM/и прочая, — то это роадмап уже иного смысла: вряд ли среднестатистическому "перекатывающемуся" человеку будет релевантно такое знание без практического применения. Я считаю, такие узкие вещи надо изучать лишь при необходимости — когда, например, подобный стек методов и технологий используется на рабочем проекте/в исследовании и его применения прямо оправдано4)
классический ML ни куда не денется. Как использовался , так и будет использоваться— я ведь и не спорю с этим. Как видите, классический ML есть в роадмапе. К чему вопрос?Напоследок:
Очень странный у вас roadmap. Как NLP, LLM, RAG, агенты относятся к ML? Это скорее DS или отдельно пишут NLP, подразумевая языковые модели. Чаще вижу агентские это ближе DS , ML это про прогноз временных рядов, классификации, регрессии, кластеризации и так далее— опять: это дело вкуса. Я назвал это роадмапом по MLЯ не вижу здесь никаких противоречий. Машинное обучение — более широкое понятие, оно включает в себя NLP, CV, Classic ML, DL, что угодно; оно вообще про моделирование в целом чего угодно. Если ваша претензия к "странности роадмапа" в том, что я не добавил туда конкретные алгоритмы временных рядов, которые вы знаете, и/или упомянул ML вместо DS, то я затрудняюсь понять, в чем роадмап неверен
Похоже, мы реально говорим о разных ролях в ml. Тот путь, который вы описываете, — ML-ресерч. Мой маршрут — больше про более прикладного инженера, и для него полтора года фундаментальной математики до первых практических задач мне кажутся неоправданными
Я бы не говорил про только лишь "МЛ-кодера": в маршруте есть и производные, и backprop, MLE, оптимизация, иные детали. Понимать, что происходит внутри модели под капотом, уметь её отлаживать — обязательная часть, иначе на работе становится очень сложно, придется в любом случае на практике со всеми вещами ознакомиться, даже если в основное обучение какие-то темы оказались упущенными
Я не претендую на роадмап для ресерчера в этой статье. Думаю, стоит добавить это в начало статьи, спасибо за конструктивные замечания
Поэтому джунов практически не готовят
менторыинфоцыгане. Границы грейдов уже давно не такие, как 15 лет назад. И никакого долбления в закрытую дверь)) Ученики и на джунов устраивались, и на синьеров — в зависимости от бекграунда и стремленийкто будет выделять деньги на заведомо убыточный проект ради того, чтобы ии вкорячить очередной в процессы? даже с целью обучить там кого-то из работников. Это не вариант
тоже не согласен. Есть немало задачек сейчас помимо llm/rag/agents, где пригождается классик мл: от регрессии и классификации до всяких recsys/timeseries штук. Да, какие-нибудь svm/naive bayes отмирают, как мне видится по опыту, но бустинги и бэггинги всякие продолжают жить. Даже на текущем проекте решаем в bp кучу регрессий бустингами над табл данными. Не все задачи автоматически решаются агентами/харнессами.
я не соглашусь с вами. Вайнберга изучал, да и Куроша и Фаддеевым, но для алгебры — это оверкилл для "вката")) оттуда процентов 5% используется на практике. К чему все остальные темы?
тоже не согласен. Классическое заблуждение — изучить все книжки ВУЗовского уровня, и что якобы только тогда приоткроется возможность приступить к ML. Я изучал и оба тома Зорича, и Демидовича (анти — это решебник) решал, могу с уверенностью сказать, что оттуда нужны именно те темы, которые я указал в маршруте. Остальные детали нужны для исследовательских позиций
так же. "математическое ожидание как интеграл Лебега" не пригодится на собеседованиях даже. Могут спросить 1 раз на 100, но это в рамках погрешности всё.
Пока вы учите полтора года математику и еще год мл, рынок уже переставит все правила устройства, и вам придется снова приспосабливаться. Спектр знаний для любой области сейчас меняется. С приходом нейронок учиться можно быстрее. Не всегда нужно проштудировать десяток книг для устройства, это алгоритм 10-летней давности, пора пользоваться современными возможностями
статистика говорит об обратном, но вам, похоже, виднее))
уже несколько раз заметил, что роадмап как раз-таки актуален на состояние 2026. И почему "якобы" — загадка для меня
недостаточно только харды знать идеально и иметь 100500 лет опыта. Нужно уметь и по софтам не проседать: правильно отвечать на собесах, правильно рассказывать по свой опыт. Есть люди, у кого проблемы с самопрезентацией, например, но они могут быть супер спецами из своей узкой области, — да, им тяжелее искать работу будет. Но это проблема хардов или софтов? Недостаточно одних хард-скиллов
а где эта иллюзия фигурирует в тексте статьи?
Согласен, с рынком, особенно в РФ, сейчас творится что-то невообразимое. Кучу людей сокращают, немало людей заранее приходит с запросом сменить направление на ML с бэка/фронта/aqa/qa/и т.д. Поэтому для меня тоже не стоит вопрос "зачем это здесь" — ответ на поверхности
P.S. я реально Ян
Похоже, своим предложением сократить маршрут обучения я открыл портал в ад и сейчас в комменты понабежит куча айтишников с опытом, сопоставимым с моим возрастом)) Роадмапов огромное количество в интернете. Я предложил свой структурированный вариант, актуальный на 2026, отдаю его на изучение) Но в ответ получаю претензии, что только лишь продаю свой «курс», хотя несколько раз уже оговорился, что это вообще не обязательно — можно весь путь самостоятельно пройти. Главное, чтобы у человека были желание и усидчивость
Искренне не понимаю, что плохого в обучении людей профессии)) Обычных преподавателей в ВУЗе тоже нужно искоренить как вид? Или претензия именно к менторству? Оно ведь и так существует уже не один год — компании периодически назначают сотрудников «менторами», чтобы те помогали стажерам/джунам, да и не только им. Или одни менторы хорошие, а другие — нет?
Или, может, вы хотите сказать, что айтишником нужно родиться или как минимум оттарабанить несколько лет на стажировке перед устройством? Чтобы, так сказать, все шли по единому пути, который существовал лет 15 назад
Похоже, это вечный холивар между так называемыми«вкатунами»/теми, кому хочется сменить профессию и теми, кто попал сто лет назад в айти. Хотел бы, чтоб вы подробнее раскрыли свое недоумение. Особенно, раз этот комментарий вызвал одобрение со стороны хабровчан :))
Согласен, прочитал как опыт в МЛ вообще, не в менторстве — извиняюсь! Да, менторством 2й год занимаюсь.
Ок, чтобы не было дальнейших недопониманий — поправлю эту формулировку, спасибо за заметку. Напишу что-то вроде "В настоящее время через мое менторство проходит около 30-45 человек, а еще 15+ других уже устроились". Надеюсь, так меньше людей будет чувствовать себя обманутыми)
Давайте дадим администраторам хабра решить этот вопрос. Если удалят пост — я не прав, признаю. Никакого злого умысла — я запостил роадмап. Дальше пусть власть имущие расценят по понятиям))
С первым согласен. Со вторым не соглашусь. Я не гарантирую всем 100%-го результата и 300к/наносек каждому, прямо пишу об этом в лендинге, можете глянуть, если вдруг интересно. Странно, что вы даже не зная меня лично утверждаете, что я некомпетентен в менторстве по МЛ и занимаюсь чистым инфоцыганством) Возможно, вам виднее с вышины опыта, но я сомневаюсь, что числа чего-то значат. Результаты менторства говорят за себя, поэтому моя совесть абсолютно чиста) Есть сомнения — в случае заинтересованности любой может связаться с моими учениками.
Спасибо за коммент! Вижу, что у вас лычка "В IT уже больше 20 лет". Несколько вопросов:
Во-первых, откуда информация про 2х-летний опыт?
Во-вторых, почему из фразы "15 устроившихся и 60 человек" следует, что "3/4 не устраиваются"? Остальные ребята занимаются в настоящий момент на разных этапах: кто-то пришел недавно, кто-то посередине роадмапа, кто-то уже собеседуется. Мне кажется, это должно быть очевидным)) Из всех пришедших за все время покинуло курс человек 5-7 по разным причинам. Никто из дошедших до рынка не покидал курс с поражением
В-третьих, при публикации статьи на хабр есть отдельная категория "роадмап", её я и выбрал.
Уверен, что пост может пригодиться тем, кто не понимает, какой нужен маршрут. Я не настаиваю на покупке моего курса. Роадмап есть — дальше по нему можно идти самостоятельно. Отдельно все могут всегда мне написать при необходимости)
Да, или 15 лет опыта с агентами)) Такие знакомства не обязательны, но будут очень сильным подспорьем к резюме)
Гильбертово пространство не требует сепарабельности, но может иметь её при необходимом и достаточном условии наличия счетного ортонормированного базиса. Гильбертово отличается от Евклидова
-мерностью и полнотой по норме, индуцированной скалярным произведением.
Иногда в литературе Евклидово пр-во еще отождествляют с предгильбертовым пространством — не случайно
Кажется, что это больше относится к теоретическим выкладкам, но не практическим: опасно из конечномерной задачки, особенно если данных немного, переходить в бесконечномерное пр-во (и как?), там порешать задачу и вернуться обратно — ошибка может накопиться немаленькая. Если у вас есть такой кейс из практики, то было бы интересно посмотреть на результаты
Я бы и рад, но в комментариях все решили высказаться про Гильбертово пространство. Пора уже оставить его.. SVM, вызвавший столько споров в комментах, удобнее было бы употребить в терминах изоморфизма пространств, то есть через
: из исходного пространства
переходим в
, решаем там задачу и возвращаемся обратно, поскольку подразумеваем, что между ними есть изоморфизм:
. Это частый трюк не только в мл, но и в математике
Гильбертово пр-во — обобщение Евклидова, поэтому при его упоминании автоматически подразумевается, что оперируем как минимум над Евклидовым пространством.
Я соглашусь, что Гильбертово пр-во куда более полезно в теоремах функционального анализа, где нужно четко определять свойства пространства, в котором мы рассматриваем функции. Для ML 99.9999% такой строгости совершенно не нужно, поэтому здесь упоминания Гильбертовых пр-в возникают как любопытная заметка о том, что такое вообще бывает, и что при достаточной "притянутости за уши" можно назвать тот же kernel method переходом в спрямляющее пространство, где удобно оперировать терминами "Гильбертово пр-во" и проч.
Также хочется отметить, что ни у кого, как правило, при использовании методов ML никогда не возникают в голове мысли наподобие:
— вместо этого берут какой-нибудь подход, алгоритм, метод, шлепают его и смотрят: задача решилась — метрики высокие, лосс упал, обобщающая способность — на высоте, — и после всего этого можно хлопать в ладоши от счастья
Для обычных сценариев применения ML узкоспециализированные знания и уточнения излишни и изыточны
Спасибо за замечания!
Я осознанно опускал некоторые выкладки и детали, потому что это неизбежно приведет к росту порога входа и усложнит восприятия. Преследовал цель дать обзор материала, но не претендовал на ВУЗовскую строгость изложения
В ML, как в любой инженерной сфере, всегда куча предположений и упрощений, которые упрощают выкладки и дают возможность приблизиться к решению задачи хоть как-то. Глупо отрицать прогресс LLMок и прочих современных моделей — им никак не помешал тот факт, что мы храним числа не с бесконечной точностью. Более того, современные модели квантуют в числа с еще меньшей точностью, и это тоже не мешает им работать с ожидаемой точностью и результатом.
В самой математике тоже хватает предположений в разных областях. На то это и математика, чтобы там в стерильных условиях доказывать теоремы и создавать аппарат для практических приложений.
Покажите мне хоть 1 пример численных методов, реализованных программно, которые работают с вещественными числами с бесконечной точностью, я буду рад посмотреть.
Из реальных примеров:
Для реконструкции сейсмических данных (сейсмических трасс) вводится предположение, что земля плоская. Иначе выкладки и формулы невыносимо усложняются. Будет ли кто-то здесь с пеной у рта доказывать, что земля не плоская, если эти нейронные модели для сейсмической интерпретации работают и приносят прибыль?
Географические карты имеют сильную погрешность: у полюсов растяжения и искажения больше, чем у экватора. Все равно все ими пользуются
Отказываться от обучения моделей из-за того, что мы не храним числа в бесконечной точности, — крайне необдуманный поступок
Есть еще много других примеров. Поэтому я считаю, что все комментарии про точность вещественных чисел и прочий скептицизм относительно алгоритмов ML — это чистый снобизм, оторванный от реальных сценариев приложения инженерных методов машинного обучения
Я не сторонник перехода на личности, но если у вас карма -24, то это о чем-то говорит
1.
Я могу еще обобщить и умно сказать, что если есть метрика, то есть и топология. Какая вообще разница?
Хотел бы я посмотреть на такой сценарий. Если приведете пример, будет прекрасно
А что, расстояние между картинками — это какой-то экзотический вид метрик? Что такое картинки как математический объект? Похоже, у вас не хватает знаний для ответа на эти вопросы. Это может быть то же самое евклидово расстояние по желанию. Я могу любую метрику вкорячить для сравнения картинок, как это изменит суть дела?
Я даже не знаю, имеет ли смысл это комментировать. Евклидово пространство — это частный случай Гильбертова пространства. Несколько добавок дают сначала Банахово пр-во, а потом и Гильбертово. Можно бесконечно мусолить теоретические понятия, но как это соотносится с предметом статьи:
Если вам кажется, что приведенное в статье — ненужный "бред гпт", то рекомендую тогда обратиться к другим, более духоскрепным, источникам: труды Фихтенгольца, Зорича, Демидовича, Куроша и т.д.
2.
При запуске обучений всегда присутствует случайность, которую можно фиксировать через seed. При обучении с нуля мы стартуем со случайного состояния, веса инициализируются специальным образом. Это не имеет никакого отношения к типу функции потерь. С чего мы "будем получать разные минимумы при каждом запуске" — функция потерь как-то видоизменяться будет?
3.
Я бы посмотрел, как вы нашли бы на практике набор данных, которые совершенно не зависимы друг с другом. Это еще раз подчеркивает, что либо вы не понимаете предмет разговора, либо дальше пыльных лекториумов теорию не применяли.
Соответственно, ваши последние 2 предложения тоже не вижу смысла комментировать. Рекомендую перед началом дискуссии сначала удостовериться, что вы понимаете тему разговора, и только потом задавать предметные конкретные вопросы и высказывать критику. Ваши комменты — это набор аллюзий со "слабой беременностью", "бредом гпт" и прочей неподкрепленной фактами фантастикой
Спасибо, рад, что удалось узнать что-то новое из статьи!
Думаю, ключевая идея в том, что почти любой kernel method — это про работу в Гильбертовом пространстве признаков (как, например, с SVM). Есть предметные области, где данные могут уже естественно лежат в Гильбертовом пространстве: например, сигналы (задачи с речью)
Еще есть такой раздел ML, как квантовый ML (QML), там объекты описываются в терминах квантовой механики (волновые функции и т.д.) и потому они автоматически попадают в Гильбертовы пространства
А к чему здесь фраза «компьютеры работают в подмножестве натуральных чисел»? Компы оперируют нулями и единицами на низком уровне, но это мешает использовать вещественные числа в программировании алгоритмов ML
На практике в ML хватает, например, 32, 16 бит для хранения чисел, а то и меньше: fp32, fp16; bf16, int8, …; нет смысла хранить
с колоссальной точностью
Спасибо за комментарий!
С неевклидовыми пространствами дела обстоят сложнее, методы там могут применяться немного другие. Например, в том же SVM мы работаем с функциональными пространствами, потому что базис задаем через функции, это уже не Евклидово пространство в своем изначальном понимании (а Гильбертово). Все описанное справедливо в предположении, что мы работаем с Евклидовыми пространствами, а это достаточно широкий класс пространств, которого на этапе погружения в ML более чем достаточно
Если речь про функцию потерь, то замечание хорошее. Но функция потерь может быть как выпуклой, так и Не выпуклой. У выпуклой функции потерь есть лишь единственный глобальный минимум, и нет локальных. На практике ландшафты функции потерь представляют из себя очень шумные поверхности в многомерных пространствах, с огромным количеством локальных минимумов, в которых можно легко застрять
ЦПТ допускает зависимость случайных величин, но она должна быть достаточно слабой. Речи про полную независимость не идет