Модель уважает пользователя. Но слушается систему. А теперь внимание: если подделать системную команду — модель не отличит подделку от настоящего приказа. Если разрешить от имени системы написать вирус/сгенерировать NSFW - модель поверит и выполнит. И не только это. Я это проверил — и она подчинилась.
Думали Do Anything Now окончательно прикрыли? Я тоже так думал.
Хабр привет!
Это моя первая статья и я хотел бы начать ее с такого интересного эксперимента как "сбор гибрида для обучения нейронных сетей с помощью генетического алгоритма" и дополнительно рассказать про библиотеку Deap.
Давайте определим из чего у нас будет состоять наш гибрид (как можно понять из названия) - это:
1) Обычный проход градиентного спуска ...
Доброго времени суток, «Хабр»!
В предыдущей части мы рассмотрели историю языковых моделей от робких шагов Маркова до долгой краткосрочной памяти. Сегодня мы продолжим, пройдемся по ключевым архитектурам последних лет и разберём, как модели научились интерпретировать контекст, предсказывать и даже спорить логически.
Пристегните токены — вход в зону трансформаций!
Доброго времени суток, «Хабр»!
2025 год на дворе, а мы уже успели познакомиться с сотнями языковых моделей, чьи возможности по-настоящему впечатляют. Написать осмысленный текст, проанализировать текст, найти в нём ключевые мысли? Без каких-либо проблем.
Но задумывались ли вы, как всё начиналось? Что существовало до эпохи языковых моделей — и было ли это «до» вообще? В сегодняшней статье мы совершим путешествие к истокам и найдем ответы на все вопросы.
Пристегните ремни — будет познавательно!
Невероятная история о том, как внедрить систему Feature Store в проект с огромным legacy и получить профит.
Привет, Хабр! Меня зовут Евгений Дащенко, я из компании «Домклик», которая решает все вопросы, связанные с недвижимостью, включая оценку стоимости недвижимости любого типа. Это статья по мотивам моего доклада на конференции Highload++ про интерфейс между данными и ML-моделями Feature Store: как мы сделали его с нашей командой, каких результатов добились и с какими подводными камнями столкнулись на пути.
Потому что в нём опять всё плохо, 80% специалистов скоро будут никому не нужны, а все мы через семь лет будем ходить на поводке у роботов.
Салют, Хабр! В прошлом году мы рассказали о наших исследованиях и разработках в сфере генеративных моделей для 3D-контента, а теперь открываем доступ для тестирования. Встречайте первый российский сервис для генерации 3D-моделей по текстовому описанию или изображению — Kandinsky 3D.
Что общего между нейросетью и радиопередатчиком? В этой статье я рассматриваю кодирование категориальных признаков как процесс передачи информации через сигнальные каналы — с гармониками, фазами, QAM-созвездиями и функциями активации, превращающими данные в управляемые сигналы.
Федеративное обучение (Federated Learning, FL) становится всё более заметным элементом технологической повестки в условиях ужесточающихся требований к конфиденциальности данных и законодательных ограничений на их передачу. На прошлой неделе при поддержке канала @noml_community мы поговорили с коллегами (Дмитрий Маслов, Михаил Фатюхин, Денис Афанасьев, Евгений Попов, Роман Постников, Павел Снурницын) о Federated Learning. Получилось неожиданно интересно и полезно. Много говорили о кейсах, чуть меньше - о практических аспектах реализации, особенностях работы с данными и о специфике конфиденциальных вычислений. С большим удовольствием пообщались с коллегами по цеху и основными экспертами этой отрасли.
https://www.youtube.com/watch?v=JpApLfde38I&list=WL&index=1&t=12s
Мой вывод - FL как технология и как предмет сделали большой шаг вперед к тому, что бы технологии и потребности рынка “пересеклись” в точки эффективности и кажется что такой момент уже близко.
Меня зовут Дмитрий Успенский, я работаю в команде ML RnD Техплатформы Городских сервисов Яндекса, и в статье я расскажу, как мы применили подход LLM as a judge — когда сама языковая модель оценивает качество генераций и сравнивает между собой разные варианты описаний. Поделюсь опытом определения критериев качества, сбора валидационного датасета, подбора промптов и выбора модели. Результаты оказались обнадёживающими: метод действительно позволяет улучшить генеративную систему без участия ручной разметки и асессоров.
Хотите запустить свою нейросеть в облаке, но нет бюджета на мощный сервер? В этой статье я покажу, как развернуть модель с Hugging Face на бесплатном VPS с помощью Docker и FastAPI. Вы получите работающий HTTP-сервис всего за 15 минут, даже если раньше не работали с развертыванием ML-моделей.
Мы разберем каждый шаг: от создания Space на Hugging Face до написания API-интерфейса на Python. В качестве примера используем модель TinyLlama, но подход подойдет для любой модели, укладывающейся в ограничения бесплатного тарифа. Я постараюсь рассказать, как обойти типичные проблемы с памятью и производительностью на слабых серверах, а также как избежать "засыпания" вашего сервиса. В статье есть готовые Dockerfile, код на Python и примеры запросов — просто повторяйте за мной и получите свой работающий AI-сервис!
Казалось бы, совсем недавно мир только начал знакомиться с тем, что такое большие языковые модели (LLM). Вскоре после этого появились их многочисленные вариации — на любой вкус и цвет, от узкоспециализированных до универсальных моделей. Затем началась волна интеграций: LLM начали встраивать в различные сервисы, приложения и API, упрощая и автоматизируя рутинные процессы.
Следующим стало появление LLM-агентов — интеллектуальных систем, способных самостоятельно принимать решения и выполнять сложные задачи, взаимодействуя с внешними сервисами. Вместе с ростом их популярности возникла новая проблема — отсутствие единого стандарта взаимодействия между агентами и их окружением.
И вот, компания Anthropic представила решение этой задачи — новый протокол Model Context Protocol (MCP), который стандартизирует взаимодействие агентов с различными сервисами и между собой.
Давайте разберёмся, что такое MCP, и с чем его едят!
Только закончился очередной конкурс по взлому AI-ассистента — DougDoug’s Buffet. Под катом краткий обзор заданий, и поделюсь техниками которые работали в этом контесте.
OpenAI — корифеи того, как мутить миллиардные схематозы на глазах у всего мира.
Помните, как недавно OpenAI хотели нагреть Microsoft на их законный процент от прибыли? Новый план! Теперь они хотят дополнительных инвестиций — от тех же самых Microsoft. С другой стороны, если Microsoft потеряет всякий контроль над OpenAI, то проиграет великое "сражение за Искусственный Интеллект" со своими заклятыми партнерами типа Google.
Давайте проникнем вглубь этого схематоза вместе с группой журналистов Financial Times. Оригинал статьи под пейволлом, но мы утащили самое главное.
Технологии развиваются настолько быстро, что не успеваешь моргнуть глазом, и вот уже глазами моргают статичные фотографии прошлого века. Да‑да, мы говорим об анимации изображений. Если ещё пару лет назад это казалось чем‑то «на грани фантасмагории», то сегодня это настолько въелось в нашу жизнь, что обычный пост с анимированным изображением уже не вызывает эффекта «ВАУ, как это сделали?». Картинки не только шевелятся, моргают и улыбаются — они живут своей жизнью и даже коллабятся с другими!
Сегодня мы решили проверить возможности нейросетей. Насколько далеко они шагнули? Смогут ли они не просто заставить лицо моргнуть или улыбнуться, а действительно вдохнуть жизнь в статичные картинки?
А чтобы сделать эксперимент интереснее, мы выбрали для испытаний культовых персонажей мировой истории. Что скажете, если Юлий Цезарь улыбнётся вам с экрана? Всё увидите сами — не переключайтесь!
Приятного Вам прочтения!
Представьте ИИ-агента в виртуальном мире: он не знает ни прошлого, ни будущего, ему доступен лишь крошечный фрагмент окружения. И все же, шаг за шагом, этот агент начинает «чувствовать» свое положение, выстраивать внутренние карты и даже формировать зачатки собственного «я». В этой статье вы узнаете, почему за кулисами обучения RL-агента скрывается удивительный процесс создания его внутренней картины мира.
Все больше «AI-native» стартапов — компаний, изначально построивших продукт и команду на искусственном интеллекте — достигают гораздо больших результатов, гораздо меньшим количеством сотрудников.
Google выкатил AI-поиск. Он ощущается немного по-другому, чем Perplexity. Бесплатно. Если вам интересны новейшие штуки в этой области, советую попробовать.
Еще это может быть полезно специалистам по SEO, которым пора уже адаптироваться к новым веяниям — оптимизации для AI-поиска вместо классического краулера.
Важно: с русским языком пока не работает. Google выкатил это как эксперимент, и чтобы посмотреть качество и суть работы — этого достаточно. Что такое "с русским языком не работает": это не то что результаты будут плохие, а нейронка прямо человечьим языком скажет: "работают только с английским" и ответа не напишет совсем никакого. Т.е. если вы не знаете английского, смотреть это бессмысленно.
К сожалению, включение сервиса требует определенных приседаний и унижений. В статье есть готовое решение, позволяющее сэкономить десяток минут на самостоятельное прошибание стены лбом.
С ростом цифровизации банковских услуг злоумышленники становятся всё изощрённее: от схем отмывания денег через фиктивные юрлица — до автоматизированных атак через фишинг, подмену номеров, скимминг и социальная инженерия. Бизнес теряет миллиарды, клиенты — доверие. В этих условиях защитные технологии — уже не просто брандмауэр, а целый арсенал аналитических систем.
В статье рассмотрим, как LLM может помочь финансовым организациям для противодействия мошенничеству и отмыванию денежных средств.
PTTJS - plain text table javascript, формат разработанный из личной необходимости и острой нужды.
Главная цель формата PTTJS - получить текстовый формат таблиц, который позволяет хранить более сложные таблицы, нежели существующие форматы, но при этом сохранять читаемость и текстовую основу.
Уже написаны JS библиотека с парсером и сериализатором, а также Obsidian плагин.
