Что я бы хотел знать про ML System Design раньше

[leventov]

Интересно, какую часть из этих вопросов реально надо решать в работе сейчас, а какая уже решена в платформах типа SageMaker и Vertex AI? (Хотя, я не спорю, что даже если что-то уже решено в платформе из коробки, то ответ на большинство вопросов все равно желательно знать и понимать, как это все работает.)

[baltachev]

Не работал с этими платформами, но по опыту подобные комбайны хорошо решают проблему обучения, хранения, версионирования и шеринга моделей. Но для инференса моделей все-таки зачастую используют кастомные разработки, чтобы можно было гибко настраивать под свои нужды (бизнес логика, latency и т.д)

[Tresimeno]

Эффективнее всего заниматься с опытным ментором раз в неделю. Искать можно на специализированных площадках (Solvery, GetMentor и т.д) или стучаться людям в Linkedin. Также можно использовать платформу для прохождения интервью Prump и его аналоги.

Интересно, а как надо находить таких людей для фейкового интервью в LI? Да и по слову Prump гугл ничего релевантного не выдает. Не то слово, не так ищу?

[baltachev]

Я бы попробовал написать в лс сеньору или тимлиду любой компании, спросить может ли пособесить за вознаграждение. Обычно на таких позициях уже есть опыт собеседования/менторинга.

Название сайта поправил, спасибо за замечание

[dimnsk]

А это точно всё функционал MLEngineer ?

[baltachev]

Зависит от компании/команды. В некоторых больший фокус на тренировку моделей, в других на MLOps, где-то есть отдельные команды дсов для A/B тестов, а где-то всем этим занимается млщик. Поэтому я указал все возможные зоны ответственности и что могут спрашивать.

[dimnsk]

это понятно что функционал резиновый и есть человеки-оркестры
но в теории все же это не все функции MLE

[nikolay_karelin]

Еще стоит упомянуть книгу Machine learning system design от Валерия Бабушкина и Арсения Кравченко ?