Да, это отличный метод. Спасибо за статью! В сочетании с базовыми фильтрами LLM (на входе и на выходе), с помощью SGTM можно получить дополнительный синергичный эффект и в разы повысить безопасность моделей.
Учитывая, что экономика США трещит по швам, топ-менеджеры хвастаются, как они меняют сотрудников на ИИ и компании стремятся активно нанимать более "доступных" программистов из Индии, а также эффект "пробки джунов", не удивительно, что у них там пока еще 7% без работы по специальности после выпуска. Лет через 10 с развитием ИИ будет до 50%. Выживут сильнейшие.
Ну вообще это реальные зарплаты специалистов из топовых компаний, посмотри hh, habr, каналы в tg. Попасть на вакансии реально, только надо честно, ответственно готовиться, знать их стек, после первого провала - не сдаваться, еще пытаться. Также нужно запостить резюме не только на hh (habr Карьера, getmatch и другие порталы в помощь). И да, тут конечно нужна реферальная ссылка, чтобы рекомендовали, это в целом нетрудно реализовать. + надо иметь реальный опыт хотя бы 3-4 года (а не месяца))) в одной сфере айти, не распыляться. На работе - фиксировать все новые и все сложные функции в чек-листы, инструкции, чтобы ускоряться и не ошибаться, это важно. Все петы доработать, красиво оформить, добавить к резюме. Перед собесами знать не только техничку, а вообще специфику компании, культуру, знать с кем собесишься, почитать их статьи. Не надо вообще терять драгоценное, читая каналы про собеседования паровозиками, про то, как обманывать лучше работодателя, пусть даже там подписаны тысячи других. + если ты опытный, профессионал, то не особо устаешь на работе, можешь брать доп. нагрузку или по выходным подрабатывать. Получаешь 250 миддлом на основной + 50 подработка, вот и 300.
Все эти паблики, каналы, где учат обманывать работодателей, набивать себе цену - проблему не решают, а лишь усугубляют. Работодатели сталкиваются на собесах с толпами "вкатунов" в айти, которые идут паровозиками, где-то используют GPT, набивают опыт - и работодатели поднимают планку. Им приходится искать способы находить таких вкатунов, о чем и пишет правильные вещи автор данной статьи. Это вынужденная мера для бизнеса. Вот и получается, что есть нормальные ребята, которые хотят работать у нормальных работодателем, и не могут попасть. А если бы все были честными, и не обманывали, если бы не было вкатунов, работодатели бы видели реальную картину рынка и устанавливали бы более адекватные требования.
Лично я попал в айти после года стажировки бесплатной по вечерам. И то мне потом сказали, что вакансии нет, может быть перезвоним. Я продолжал напоминать о себе, через 3 месяца у них человек ушел, сразу же взяли. Было трудно на старте, можно сказать попал в пекло, но зато научился рассчитывать только на себя. Сейчас оброс знакомствами, есть репутация, харды, стало проще, но все равно обучаюсь каждый день по 3-4 часа минимум, без выходных, праздников, больничных и отпусков. В развитии отдаю приоритет именно хардам.
Поэтому как бы там ни было - надо идти честно, не нужно манипулировать. Это нужно делать в первую очередь ради себя самих, быть профессионалом - с самого начала и до конца, нужно "держать марку". Необходимо выбрать именно свою сферу айти (лучше в тренде - DevOps, SRE, MLOps, Data Engineering и др.), и этот выбор - самый важный, трудный, много всего, тут не надо спешить. Нужно заниматься этим направлением каждый день, любить свою работу, погружаться, быть суперпрофессионалом, дарить всем позитив. И тогда все будет замечательно. Успехов тебе!
ох, ну все, волки прибежали. если цитируешь мой текст, цитируй, пожалуйста, и фразу про "4-5 лет входа в IT". Наверное, инфоцыгане все-таки обещают 4-5 месяцев, но не лет.
Вот все эти дебаты про сломанный найм в целом меркнут в свете компетенций и подготовки китайских специалистов. Там у многих компаний нормально работать "9-9-6" и получать относительно невысокие оклады. Поэтому довольно часто слышу истории, как российские компании нанимают китайских спецов, и почти не слышу историй про наших спецов в Китае. Думаю, пока что у нас в стране с конкуренцией ситуация попроще. В России сейчас даже в условиях "сломанного найма" и "пробки джунов" все еще можно сказать - айтишка привлекательна, прокачаться можно до миддла за 4-5 лет упорного труда и получать отличные деньги (250-350). Это побольше, чем получают многие, например, врачи, которые учились от 6 до 8 лет.
Лучшее решение для кандидатов - не вестись на методы "волков", и не платить "коучам", а вспоминать по успехи и дисциплину лучших IT-специалистов (одному из таких недавно Цукерберг предложил 100 млн. за уход из Open AI в Meta*, признана экстремистской компанией). И максимально соответствовать топовому уровню, брать пример, честно трудиться, учиться и хотя бы немного адаптироваться, готовиться под технологический стек интересующей компании.
Хочешь на работу - постучись, попросись на стажировку, это скорее всего бесплатно и это честный, реальный опыт. Он дорогого стоит. Да и шансов потом туда же трудоустроиться будет больше, чем после "коуча", которому еще и деньги платить.
Поэтому - да, проблема есть и стоит очень остро. Всецело поддерживаю механизмы, предлагаемые автором.
Даже с их повсеместным использованием начинающий специалист с мощной подготовкой, честный, дисциплинированный, искренне любящий айтишку, будет заметен и востребован.
Очень интересная и ценная система! Радует, что разработка отечественная. Хочется верить, что она останется доступной и открытой для большинства российских компаний, кому нужна базовая и в целом надежная защита от атак, а российский рынок Вас поддержит. Разместил статью в своих блогах с указанием автора и ссылкой на первоисточник.
Согласен с Вами. И это неизбежное будущее. То, что мы это уже сейчас осознаем - хоть какое-то преимущество. Поэтому надо готовиться, целенаправленно распределять усилия и стать тем самым немногочисленным классом владельцев роботов.
Очень ценная, пусть и небольшая статья. Действительно, скорость автоматизации, роботизации и, как часто говорят, ИИзации только нарастает. А число рабочих мест, которые уже сократились из-за ИИ - пока никто толком не оценивает. Просто есть пока не сильно ощущаемая, невидимая текучка, которую большинство населения не замечает. Но когда ИИ начнет выносить по 10-20% всех существующих рабочих мест в год - люди начнут считать, проснутся, начнут думать, "куда пойти учиться?". Только - увы - для многих заходить на хардовую техничку с запредельным на тот момент порогом входа (10+ лет) будет уже поздно.
Артем, большое спасибо за интересную статью, узнал для себя новые моменты!
Думаю, можно выделить еще один подход к обеспечению безопасности ИИ - китайский. Суть в том, что в Китае сформирован комплексный подход к ИИ-безопасности, который включает как создание собственных продвинутых ИИ-моделей и фреймворков с упором на этичность и безопасность (например, Qwen Chat, MegEngine), так и жесткое государственное регулирование и стандартизацию, направленные на обеспечение безопасности и правовой ответственности в сфере ИИ. У них установлена ответственность компаний-разработчиков ИИ за риски использования моделей, и, насколько знаю, топовые разработчики ИИ у них находятся на государственном контроле (а некоторых даже не выпускают за границу).
Давно ищу, но, увы, так и не нашел китайских фреймворков для тестирования LLMs типа LLAMATOR. Может быть их нет, может не там ищу. Но, думаю, что обеспечение безопасности ИИ - это очень масштабный и комбинированный процесс, который начинается с нормативно-правового регулирования на уровне государства, с установления ответственности... далее, конечно, переходит на уровень архитектуры обеспечения безопасности ИИ.... продолжается на уровне Red Teaming, мониторинга и тестирования безопасности LLM, AI-agents... и завершается обеспечением безопасной работы рядовых пользователей с нейронными сетями.
Спасибо больше! Очень достойные и ценные комментарии в продолжение поднятой темы. Согласен с Вами по всем пунктам, кое-что взял и себе на заметку. По защите от Data Poisoning attacks планирую написать отдельную статью в этом году, как только найду время, разобрать по полочкам все возможные виды отравлений и как их обнаружить.
Вообще нереально за полгода-год с джуна вырасти до сеньора. В айтишке до миддла-то за полгода с джуна точно не вырасти (минимум 2-3 года надо). А до сеньора надо работать еще больше.
Сейчас на того самого "джуна", который описан в большинстве вакансий на hh или habr учиться надо с нуля года 2-3 минимум! По-хорошему чтобы дорасти до крепкого сеньора такому специалисту потребуется потом еще лет 5! Итого: 7-8 лет сейчас нужно с полного нуля идти до сеньора - и это значит трудно идти, изучая постоянно новое, решая вновь и вновь сложные технические задачи (где каждый раз чуть ли не с нуля погружаешься в техничку!), а то и погружаясь в смежные специальности. И то это 7-8 лет, при условии, что человек четко выбрал IT-направление, специальность и с самого начала бьет в одну цель, погружается глубоко в определенный, востребованный рынком стек, не распыляется.
Это раньше, еще в 2015-2020, да, было и такое, что 5+ лет опыта - уже сеньор. Но порог входа в священную айтишку каждый год растет. А на рынке 2025 года прочно стоит и только нарастает тотальная пробка в большей степени стажеров (в меньше степени джунов!), которые сильно приукрашивают резюме и активно ищут куда бы приткнуться, чтобы сеньоры тратили драгоценное и обучали их года два, демпингуя по зарплате. Смотря на эти красочные резюме, работодатели поступательно поднимают требования к самим стажерам, джунам, миддлам и сеньорам. Учиться приходится все быстрее и быстрее. Поэтому в том числе я согласен с тем, кто сказал: "Число сеньоров на рынке уменьшается".
Да, это отличный метод. Спасибо за статью! В сочетании с базовыми фильтрами LLM (на входе и на выходе), с помощью SGTM можно получить дополнительный синергичный эффект и в разы повысить безопасность моделей.
Очень достойная статья! Спасибо, зафиксировал себе новые моменты!
Очень достойная статья, спасибо! Нашёл в ней интересности, которые возьму на заметку.
К сожалению не смогу прилететь, а очень хочется.
Будет ли запись? )
Учитывая, что экономика США трещит по швам, топ-менеджеры хвастаются, как они меняют сотрудников на ИИ и компании стремятся активно нанимать более "доступных" программистов из Индии, а также эффект "пробки джунов", не удивительно, что у них там пока еще 7% без работы по специальности после выпуска. Лет через 10 с развитием ИИ будет до 50%. Выживут сильнейшие.
Ну вообще это реальные зарплаты специалистов из топовых компаний, посмотри hh, habr, каналы в tg. Попасть на вакансии реально, только надо честно, ответственно готовиться, знать их стек, после первого провала - не сдаваться, еще пытаться. Также нужно запостить резюме не только на hh (habr Карьера, getmatch и другие порталы в помощь). И да, тут конечно нужна реферальная ссылка, чтобы рекомендовали, это в целом нетрудно реализовать. + надо иметь реальный опыт хотя бы 3-4 года (а не месяца))) в одной сфере айти, не распыляться. На работе - фиксировать все новые и все сложные функции в чек-листы, инструкции, чтобы ускоряться и не ошибаться, это важно. Все петы доработать, красиво оформить, добавить к резюме. Перед собесами знать не только техничку, а вообще специфику компании, культуру, знать с кем собесишься, почитать их статьи. Не надо вообще терять драгоценное, читая каналы про собеседования паровозиками, про то, как обманывать лучше работодателя, пусть даже там подписаны тысячи других. + если ты опытный, профессионал, то не особо устаешь на работе, можешь брать доп. нагрузку или по выходным подрабатывать. Получаешь 250 миддлом на основной + 50 подработка, вот и 300.
Все эти паблики, каналы, где учат обманывать работодателей, набивать себе цену - проблему не решают, а лишь усугубляют. Работодатели сталкиваются на собесах с толпами "вкатунов" в айти, которые идут паровозиками, где-то используют GPT, набивают опыт - и работодатели поднимают планку. Им приходится искать способы находить таких вкатунов, о чем и пишет правильные вещи автор данной статьи. Это вынужденная мера для бизнеса. Вот и получается, что есть нормальные ребята, которые хотят работать у нормальных работодателем, и не могут попасть. А если бы все были честными, и не обманывали, если бы не было вкатунов, работодатели бы видели реальную картину рынка и устанавливали бы более адекватные требования.
Лично я попал в айти после года стажировки бесплатной по вечерам. И то мне потом сказали, что вакансии нет, может быть перезвоним. Я продолжал напоминать о себе, через 3 месяца у них человек ушел, сразу же взяли. Было трудно на старте, можно сказать попал в пекло, но зато научился рассчитывать только на себя. Сейчас оброс знакомствами, есть репутация, харды, стало проще, но все равно обучаюсь каждый день по 3-4 часа минимум, без выходных, праздников, больничных и отпусков. В развитии отдаю приоритет именно хардам.
Поэтому как бы там ни было - надо идти честно, не нужно манипулировать. Это нужно делать в первую очередь ради себя самих, быть профессионалом - с самого начала и до конца, нужно "держать марку". Необходимо выбрать именно свою сферу айти (лучше в тренде - DevOps, SRE, MLOps, Data Engineering и др.), и этот выбор - самый важный, трудный, много всего, тут не надо спешить. Нужно заниматься этим направлением каждый день, любить свою работу, погружаться, быть суперпрофессионалом, дарить всем позитив. И тогда все будет замечательно.
Успехов тебе!
ох, ну все, волки прибежали.
если цитируешь мой текст, цитируй, пожалуйста, и фразу про "4-5 лет входа в IT". Наверное, инфоцыгане все-таки обещают 4-5 месяцев, но не лет.
а так - круто, что ты поддержал мой личный бренд.
Вот все эти дебаты про сломанный найм в целом меркнут в свете компетенций и подготовки китайских специалистов. Там у многих компаний нормально работать "9-9-6" и получать относительно невысокие оклады. Поэтому довольно часто слышу истории, как российские компании нанимают китайских спецов, и почти не слышу историй про наших спецов в Китае. Думаю, пока что у нас в стране с конкуренцией ситуация попроще.
В России сейчас даже в условиях "сломанного найма" и "пробки джунов" все еще можно сказать - айтишка привлекательна, прокачаться можно до миддла за 4-5 лет упорного труда и получать отличные деньги (250-350). Это побольше, чем получают многие, например, врачи, которые учились от 6 до 8 лет.
Лучшее решение для кандидатов - не вестись на методы "волков", и не платить "коучам", а вспоминать по успехи и дисциплину лучших IT-специалистов (одному из таких недавно Цукерберг предложил 100 млн. за уход из Open AI в Meta*, признана экстремистской компанией). И максимально соответствовать топовому уровню, брать пример, честно трудиться, учиться и хотя бы немного адаптироваться, готовиться под технологический стек интересующей компании.
Хочешь на работу - постучись, попросись на стажировку, это скорее всего бесплатно и это честный, реальный опыт. Он дорогого стоит. Да и шансов потом туда же трудоустроиться будет больше, чем после "коуча", которому еще и деньги платить.
Поэтому - да, проблема есть и стоит очень остро. Всецело поддерживаю механизмы, предлагаемые автором.
Даже с их повсеместным использованием начинающий специалист с мощной подготовкой, честный, дисциплинированный, искренне любящий айтишку, будет заметен и востребован.
Тимур, благодарю за информативный обзор, это крайне важные рекомендации!
Очень интересная и ценная система! Радует, что разработка отечественная. Хочется верить, что она останется доступной и открытой для большинства российских компаний, кому нужна базовая и в целом надежная защита от атак, а российский рынок Вас поддержит. Разместил статью в своих блогах с указанием автора и ссылкой на первоисточник.
Спасибо за интересный и качественный материал, узнал для себя кое-что новое!
Актуальная тема, всегда интересно узнать видение зарубежных специалистов. Благодарю за перевод и полезную информацию!
Согласен с Вами. И это неизбежное будущее. То, что мы это уже сейчас осознаем - хоть какое-то преимущество. Поэтому надо готовиться, целенаправленно распределять усилия и стать тем самым немногочисленным классом владельцев роботов.
Очень ценная, пусть и небольшая статья. Действительно, скорость автоматизации, роботизации и, как часто говорят, ИИзации только нарастает. А число рабочих мест, которые уже сократились из-за ИИ - пока никто толком не оценивает. Просто есть пока не сильно ощущаемая, невидимая текучка, которую большинство населения не замечает. Но когда ИИ начнет выносить по 10-20% всех существующих рабочих мест в год - люди начнут считать, проснутся, начнут думать, "куда пойти учиться?". Только - увы - для многих заходить на хардовую техничку с запредельным на тот момент порогом входа (10+ лет) будет уже поздно.
Очень достойная и актуальная статья! Спасибо за подробный обзор!
Артем, большое спасибо за интересную статью, узнал для себя новые моменты!
Думаю, можно выделить еще один подход к обеспечению безопасности ИИ - китайский. Суть в том, что в Китае сформирован комплексный подход к ИИ-безопасности, который включает как создание собственных продвинутых ИИ-моделей и фреймворков с упором на этичность и безопасность (например, Qwen Chat, MegEngine), так и жесткое государственное регулирование и стандартизацию, направленные на обеспечение безопасности и правовой ответственности в сфере ИИ. У них установлена ответственность компаний-разработчиков ИИ за риски использования моделей, и, насколько знаю, топовые разработчики ИИ у них находятся на государственном контроле (а некоторых даже не выпускают за границу).
Давно ищу, но, увы, так и не нашел китайских фреймворков для тестирования LLMs типа LLAMATOR. Может быть их нет, может не там ищу. Но, думаю, что обеспечение безопасности ИИ - это очень масштабный и комбинированный процесс, который начинается с нормативно-правового регулирования на уровне государства, с установления ответственности... далее, конечно, переходит на уровень архитектуры обеспечения безопасности ИИ.... продолжается на уровне Red Teaming, мониторинга и тестирования безопасности LLM, AI-agents... и завершается обеспечением безопасной работы рядовых пользователей с нейронными сетями.
Спасибо больше!
Очень достойные и ценные комментарии в продолжение поднятой темы. Согласен с Вами по всем пунктам, кое-что взял и себе на заметку. По защите от Data Poisoning attacks планирую написать отдельную статью в этом году, как только найду время, разобрать по полочкам все возможные виды отравлений и как их обнаружить.
Большое Вам спасибо за такой детальный обзор с конкретными ссылками! Информация полезная - беру в работу!
Достойная статья! Спасибо за полезную инфо!
Вообще нереально за полгода-год с джуна вырасти до сеньора. В айтишке до миддла-то за полгода с джуна точно не вырасти (минимум 2-3 года надо). А до сеньора надо работать еще больше.
Сейчас на того самого "джуна", который описан в большинстве вакансий на hh или habr учиться надо с нуля года 2-3 минимум! По-хорошему чтобы дорасти до крепкого сеньора такому специалисту потребуется потом еще лет 5! Итого: 7-8 лет сейчас нужно с полного нуля идти до сеньора - и это значит трудно идти, изучая постоянно новое, решая вновь и вновь сложные технические задачи (где каждый раз чуть ли не с нуля погружаешься в техничку!), а то и погружаясь в смежные специальности. И то это 7-8 лет, при условии, что человек четко выбрал IT-направление, специальность и с самого начала бьет в одну цель, погружается глубоко в определенный, востребованный рынком стек, не распыляется.
Это раньше, еще в 2015-2020, да, было и такое, что 5+ лет опыта - уже сеньор. Но порог входа в священную айтишку каждый год растет. А на рынке 2025 года прочно стоит и только нарастает тотальная пробка в большей степени стажеров (в меньше степени джунов!), которые сильно приукрашивают резюме и активно ищут куда бы приткнуться, чтобы сеньоры тратили драгоценное и обучали их года два, демпингуя по зарплате. Смотря на эти красочные резюме, работодатели поступательно поднимают требования к самим стажерам, джунам, миддлам и сеньорам. Учиться приходится все быстрее и быстрее. Поэтому в том числе я согласен с тем, кто сказал: "Число сеньоров на рынке уменьшается".