Исследования, тренды и прогнозы в IT-сфере
Сегодня я хочу рассказать о японском стартапе Sakana AI, который изобрел open-source фреймворк TreeQuest. Он позволяет использовать сразу несколько разных больших языковых моделей для того, чтобы получить более точный результат. Еще немного поговорим о Grok4 Heavy.
Но начну я с голубей.
Картинка сгенерированая по запросу "сгенерируй картинку про битрикс24 и искусственный интеллект" неплохо отражает итоговые результаты
В свете ситуации, случившейся с крупнейшим авиаперевозчиком России, приведшей к огромным потерям десятков тысяч пассажиров в первую очередь и самого перевозчика во вторую, уместно порассуждать о "как это было на самом деле", и "что если бы".
Начну с "как это было на самом деле".
Всем привет! Я Артем Гринев, работаю директором продуктов в ЭКОПСИ. В 2024 году мы с Хабром снова провели исследование IT-брендов работодателей в России, в котором приняли участие 33 946 IT-специалистов из 670 организаций по всей стране. По итогам работы только 19 % компаний имеют сформированный бренд работодателя. Сегодня расскажу, какие критерии важны российским IT-соискателям в 2025 году. Приглашаю под кат.
Всем привет! Меня зовут Евгений Пищик, и сегодня я хочу поделиться с вами опытом разработки метода переноса нейросетевых атак, над которым я работал в рамках мастерской по сервисам и платформам ИИ в Инженерно‑математической школе НИУ ВШЭ и VK.
С каждым апдейтом нейронных сетей растёт и количество исследований, посвящённых их уязвимостям. Когда от работы моделей зависят кредитные решения, автопилот на шоссе или диагноз в кардиологии, цена ошибки стремится к неприлично высокой отметке. Неудивительно, что вопросы безопасности — от поиска уязвимостей до проектирования методов защиты — сегодня выведены в первую линию приоритетов.
Параллельно эволюционируют мультимодальные модели, которые используют сразу несколько моделей‑компонент для разных модальностей, тем самым открывая больше возможностей для атак. Логичный след — атаки, мигрировавшие из классического одномодального мира, которые используют особенности мультимодальной структуры моделей. Сегодня в статье разберём, как перенести атаку с визуального энкодера на целую мультимодальную систему.
Киберугрозы продолжают эволюционировать, а мы в Positive Technologies продолжаем их анализировать и отбирать трендовые уязвимости. Это уязвимости, которые активно используются в атаках или с высокой степенью вероятности будут использоваться в ближайшее время. Пришло время посмотреть с какими результатами мы подошли к первой половине 2025 года.
Итак, за весь 2024 год мы отнесли к трендовым 74 уязвимости. А с начала 2025 года до 30 июня отнесли к трендовым 37 уязвимостей. Отсюда можно сделать предположения, что в этом году к трендовым будет отнесено примерно столько же уязвимостей, что и в прошлом году.
Что же это были за уязвимости?
Привет, Хабр! Меня зовут Эля, я исследователь в ecom.tech. В этой статье расскажу, как мы измеряли юзабилити приложения для курьеров‑партнёров, зачем мы это делали — и что из этого получилось.
Все давно привыкли к мысли, что приложения должны быть удобными в первую очередь для клиентов. Но как насчет курьеров‑партнеров Самоката, которые каждый день доставляют продукты? Мы в команде решили разобраться и замерить, насколько удобно приложение для курьеров‑партнёров. Ведь их комфорт и эффективность напрямую влияет на качество продукта в целом.
Или как культура страха убивает продукт
Многие компании мечтают о сильной и самоорганизующейся команде.
О людях, которые берут на себя ответственность, двигают проект вперёд и решают проблемы без лишнего шума...
Потребность в цифровизации и дефицит ИТ-специалистов стимулируют бизнес внедрять low-code платформы для быстрой разработки с минимальным объемом ручного кодирования. Это позволяет не только ускорить и улучшить внутренние процессы, но и использовать готовые ИТ-решения, доказавшие свою эффективность.
Две трети крупного российского бизнеса уже внедрили low-code платформы, чтобы сохранять конкурентоспособность и повышать уровень автоматизации. В этом материале поделимся ключевыми выводами нашего исследования и разберем ТОП-5 проблем, с которыми сталкиваются компании сегодня.
Последние несколько лет в Рунете часто говорят, будто тот движется по китайскому сценарию — будь то Великий китайский фаервол или Государственный мессенджер, аналог WeChat. А какой этот "китайский интернет" с бытовой точки зрения? Восемь лет назад я уже писал, как он меня бесит. Интернет в Китае изменился, да и Рунет, кхм, тоже. Пора освежить знания.
Всё самое интересное из мира кибербезопасности /** с моими комментариями.
На этой неделе новости про милый вредонос для Linux, Америка рассказала о своих стратегических планах в ИИ, Британия запретила платить хакерам, Google занялась безопасностью open source и другие только самые важные и интересные новости из мира информационной безопасности.
Пока несколько корпораций решают, каким будет наше будущее, ИИ-технологии превращается в инструмент контроля. Они владеют кодом, они владеют данными, они владеют прибылью.
Но что, если создать систему, где каждый ватт энергии и каждый байт данных работают на благо общества, а не на отдельных акционеров?
Продолжаем медленно выходить из АйТи в компании с гиком.
Сегодня нам предстоит окунуться в 12+N кругов ада под названием "Профосмотр". Ну, а вы что хотели? Выход из IT это вам не вход, тут справка нужна...
Сейчас джунам практически невозможно вкатиться в IT — об этом только ленивый не написал. Просто нет стартовых позиций, а на стажировки берут только студентов топовых вузов. Компании хотят «готовых бойцов», желательно с тремя годами опыта.
Это реальная проблема. И, как это обычно бывает, там, где есть боль, быстро появляются те, кто умеет на ней зарабатывать.
Так на рынке появился новый жанр — вкат в IT как услуга. Эти люди называют себя менторами, но по факту они учат не писать код, не работать в команде и даже не решать задачи. Они учат врать уверенно.
Аналитический центр red_mad_robot разобрал объёмную научную статью «Advances and Challenges in Foundation Agents» от группы исследователей AI из передовых международных университетов и технологических компаний.
Работа предлагает новый взгляд на текущее состояние и развитие «интеллектуальных агентов», которые могут адаптироваться к множеству задач и контекстов. Рассказываем, какие идеи лежат в основе Foundation Agents, с какими проблемами предстоит столкнуться, и что ждёт нас в будущем.
Пока мини-робот будет гонять по дому вашего кота, Дания и Германия избавятся от слежки техногигантов и обретут цифровой суверенитет.
Привет, Хабр! меня зовут Антон Тарасов, я — продакт менеджер и автор телеграм‑канала «Будущее работы» о трендах на рынке труда, о которых нужно знать всем айтишникам, чтобы не остаться за бортом в ближайшее десятилетие.
Недавно я прочитал книгу «Rethinking Work». Название можно перевести на русский как «Переосмысление работы» автора Рашида Тобакковала. Она пока вышла только на английском языке, но я решил собрать основные идеи о работе в IT в этой статье.
Это подробное исследование о том как меняется современная рабочая среда. Всего в книге 3 части. В первой рассматривается необходимость переосмысления работы — факторы, обуславливающие неэффективность традиционных структур и стилей. Во второй анализируются способы переосмысления работы. В третьей рассматривается, какие шаги нужно предпринять, чтоб подготовиться к будущему.
Книга написана о современности и будущем работы в целом, как для нанимателей, так и для наёмных сотрудников. Но так как мы все здесь работаем в ИТ, затрону моменты, которые будут полезны именно айтишникам.
Итак, поехали!
На прошлой неделе в одном из профессиональных чатов развернулась оживлённая дискуссия. Вопрос был предельно простым, но глубоко затрагивающим суть: «Какие реальные риски, связанные с ИИ, заслуживают нашего внимания?»
Позвольте поделиться своим мнением — не как окончательной истиной, а как отражением направления, в котором движется это обсуждение.
Вот моя непопулярная точка зрения: «Сам по себе ИИ не представляет угрозы. Угроза — это человек».
Всем привет! Я Александр Лебедев, ml инженер в команде, занимающейся MlSecOps проектами в Innostage. Мы разрабатываем решения для безопасности моделей машинного обучения и внедрением ml в системы информационной безопасности.
И сегодня мы поговорим о том, как не взломать искусственный интеллект.
В легендарном фильме Терминатор-2 есть сцена, где робот Т-800 (герой Шварценеггера) объясняет Саре Коннор, что он вдруг решил защищать её сына, потому что его «перепрограммировали». То есть, по сути проникли в защищённый контур работы модели, сделали «промт‑инъекцию», перевернувшую с ног на голову весь «алаймент» установленный Скайнетом, и поменявшей выходы модели на противоположные. Это можно считать одним из первых успешных, с точки зрения злоумышленников, инцидентов в сфере кибербезопасности искусственного интеллекта.
А нет, это же будет в 2029 году, так что пока не считается.
А пока у нас есть время до того момента, когда мы будем «перепрошивать» терминаторов как playstation, обозначим два основных направлениях кибербезопасности в эпоху искусственного интеллекта:
В середине июля в Центре событий РБК прошёл форум информационных технологий INFO Space. Одна из секций была посвящена теме информационной безопасности — особенно актуальной в последние годы, когда количество атак на российские организации выросло более чем в 2,5 раза.
Как отметил модератор секции, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации Александр Михайлович Шойтов, кибербезопасность входит в число 10 важнейших вызовов человечества, озвученных на прошедшем недавно Всемирном экономическом форуме. Однако, конкретно России это касается в первую очередь, поскольку с началом специальной военной операции в феврале 2022 года огромное количество частных лиц и целых организаций, действующих под прикрытием государственных структур, целенаправленно осуществляет вредоносные действия в отношении малого, среднего и крупного бизнеса, а также властных структур.
— Тем не менее, могу со всей ответственностью заявить: наша страна — одна из немногих, в которой есть собственные очень удачные решения в области кибербезопасности, мы их не только используем сами, но и экспортируем. Ситуация вынудила нас искать способы защиты от внешней агрессии, поэтому на сегодняшний день в целом ситуация с защитой наших серверов относительно неплохая. Нам удалось создать эффективную систему противодействия самым различным вредоносным действиям. Но всё‑таки следует признать: наибольший вред причиняет человеческий фактор, и только потом идёт всё остальное — DDoS‑атаки, вирусы, трояны, рассылки фишинговых адресов, — сообщил Александр Михайлович Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций Российской Федерации.