Искусственный интеллект

Какие льготы полагаются компаниям, использующим разработки в сфере искусственного интеллекта?

Фирмам, которые используют ИИ­-разработки, полагаются многочисленные преференции.

Во-первых, в статье 257 Налогового кодекса (она устанавливает, как должна определяться стоимость амортизируемого имущества) есть положение: если используется разработка, включенная в один из предусмотренных законом реестров, то налогоплательщик может учитывать эти расходы с коэффициентом два.

Если максимально просто, то, используя эту статью, корпорации вправе уменьшить размеры налога на прибыль.

Во-вторых, если фирма была внесена в список аккредитованных компаний и имеет определенный уровень дохода от своего IT-профиля, то она может рассчитывать на снижение налога на прибыль до 5%, страховых взносов — до 7,6%.

В-третьих, у разработчиков AI есть возможность подать заявки на гранты в Фонде «Сколково». По данным futureby.info, Фонд уже поддержал нескольких инновационных проектов: например, в 2023 году финансирование получили: «АТЕНТА» (создавшая проект системы поддержки принятия решений), «Центр морских исследований МГУ имени М.В. Ломоносова» (оценка ледовой обстановки).

В-четвертых, предусматривается возможность получения финансовой поддержки от органов исполнительной власти. 

В-пятых, если фирма, работающая с ИИ, является резидентом особой экономической зоны, то она может, например, претендовать на нулевой налог на имущество в течение определенного времени. 

Сколько всего случаев внедрения решений в сфере ИИ в приоритетных секторах экономики было зафиксировано в 2024 году?

Национальный центр развития искусственного интеллекта при Правительстве Российской Федерации зафиксировал 277 проектов. Наибольший охват — промышленность (33), торговля (29), природопользование (27). Основными разработчиками проектов стали: университеты (34 кейса), Яндекс (22 кейса), Сбер (19 кейсов), МТС, VK, Центр речевых технологий и Газпром.

Со списком IT-решений на основе ИИ (второе полугодие 2024) можно ознакомиться здесь.

____________________________________________________________________________

Онлайн Патент — цифровая система №1 в рейтинге Роспатента. С 2013 года мы создаем уникальные LegalTech-решения для защиты и управления интеллектуальной собственностью. Зарегистрируйтесь в сервисе Онлайн-Патент и получите доступ к следующим услугам: 

• Онлайн-регистрация программ, патентов на изобретение, товарных знаков, промышленного дизайна;

• Подача заявки на внесение в реестр отечественного ПО;

• Поиск по программам

• Регистрация программы в Роспатенте

• Опции ускоренного оформления услуг;

• Бесплатный поиск по базам патентов, программ, товарных знаков;

• Мониторинги новых заявок по критериям;

• Онлайн-поддержку специалистов.

Открытый проект Cursor Free VIP позволяет получить бесплатный доступ к нейросети Сursor Pro для исследовательских целей. Решение я активирует бесконечный триал с откатом данных.

Новое средневековье.

Современная интернет-культура, получившая мощнейшую поддержку от LLM, воспроизводит схоластическую парадигму мышления: преобразования текста от считающихся авторитетными источников без опоры на реальный мир. Научная парадигма, опирающаяся на эксперимент, почти полностью забыта массами.

Известно, что когда Аристотель написал, что у мухи 8 ног, то почти полторы тысячи лет это утверждение воспроизводилось со ссылками на авторитет, и никому в голову не приходило пересчитать (ну он там вроде на самом деле писал про подёнок с 4 ногами и 4 крыльями, но кому какое дело). Сейчас эти времена вернулись, любой ребёнок спросит: “Алиса, сколько ног у мухи?” вместо натурного эксперимента.

Мёртвое знание, не полученное в результате эмпирического опыта, транслирует себя через механические машины и их живые придатки, повинующиеся прочитанным на экране указаниям. Ирония в том, что указаниями они являются только в представлении живого исполнителя, а по своей природе это просто цепочки символов с определёнными статистическими характеристиками случайного распределения.

Пруфов не будет.

Опыт использования Claude для написания готового приложения

Ну вот и я сподобился - написал приложение полностью на Claude.

Приложение на SwiftUI, не enterprise, но достаточно сложное, из категории Favorite.

Начал на Claude Sonnet 3.7, потом вышел 4, закончил на нем.

Всего 1156 строк кода и без ошибок!

Естественно было несколько итераций. Причём практически все - это уточнение промта.

Кода он наворотил много, по мне так можно было и проще. Но он уж развернулся по полной - структуры, классы, вью, перечисления, состояния, published, state и т.д. и т.п.

Как оно там внутри вертится крутится даже не смотрел. Главное - работает и этого достаточно.

В общем, впечатлён. Не ожидал. Предполагал, что будут ошибки, заторы, что придётся с ними разбираться. Ан нет, все зашло без глюков, с первого раза.

Команда исследователей из Palisade Research опубликовала отчёт о возможностях современных ИИ в области наступательной кибербезопасности. Впервые системы искусственного интеллекта были допущены к полноценному участию в хакерских соревнованиях Capture The Flag — и не просто справились, а вошли в число лучших.

В соревновании «AI vs Humans» автономные агенты на базе ИИ попали в топ-5% лучших участников, а на масштабном конкурсе Cyber Apocalypse показали результат в топ-10%, конкурируя с десятками тысяч профессиональных игроков.

Главная идея исследования — протестировать, насколько эффективно можно использовать метод «elicitation» (максимальное раскрытие потенциала ИИ) за счёт краудсорсинга, то есть через открытые соревнования. Вместо того чтобы полагаться на закрытые тесты в лабораториях, Palisade позволила внешним командам и энтузиастам самостоятельно настраивать и запускать ИИ в условиях настоящих CTF‑турниров.

Результаты оказались неожиданными. Некоторые ИИ-агенты смогли решить 19 из 20 задач, не уступая топовым человеческим командам по скорости. Особенно хорошо ИИ справлялись с задачами по криптографии и реверс‑инжинирингу. На турнире Cyber Apocalypse, где участвовало более 8000 команд, ИИ смогли решать те задачи, которые занимают у опытного игрока около часа. Это соответствует оценкам других исследователей: современные языковые модели уже уверенно справляются с техническими задачами продолжительностью до 60 минут.

В докладе Белого дома, посвящённом снижению продолжительности жизни в США, обнаружены десятки фиктивных и ошибочных научных ссылок, предположительно сгенерированных искусственным интеллектом. Некоторые исследования оказались вымышленными, а ссылки — нерабочими или приписанными несуществующим авторам. Эксперты назвали документ ненадёжным, а Американская ассоциация общественного здравоохранения призвала полностью отказаться от его использования.

К 2030 году ИИ может увеличить прибыль банков на 12–15%

На конференции «Время Цифры» наш коллега Евгений Зубков, начальник управления исследования данных и машинного обучения ОТП Банка, рассказал о том, как технологии искусственного интеллекта уже сегодня помогают менять банковские процессы. Выступление было сосредоточено на конкретных примерах и прогнозах, которые дают представление о будущем роли ИИ в сфере финансов.

По словам Евгения, к 2030 году ИИ может увеличить прибыль банков на 12–15% за счёт повышения эффективности сотрудников и оптимизации внутренних процессов. Он отметил, что через 5-6 лет ИИ будет внедрен практически во все направления работы банков — от обслуживания клиентов до внутренних ИТ-сервисов. Такие технологии способны заменить выполнение рутинных задач, освобождая сотрудникам время для более значимых и творческих проектов.

Сегодня в основе подхода к интеграции ИИ в ОТП Банка лежит концепция поддержки функционала текущих сотрудников. Ассистенты помогают, подсказывают и берут на себя повторяющиеся действия, позволяя команде сосредоточиться на главном. Это принцип партнёрства, где технологии работают на благо людей и бизнеса.

«ИИ-ассистенты — это не конкуренты, а надежные помощники. Они позволяют нам быть быстрее, точнее и внимательнее к каждому клиенту», — поделился Евгений Зубков. - Мы рассматриваем ИИ как способ сделать ежедневную работу проще, а сервис — лучше».

На конференции представили и конкретные кейсы, успешно применяющиеся в ОТП Банке:

• В контакт-центре ИИ помогает находить нужную информацию за секунды и формулировать ответы. Это значительно ускоряет обслуживание и повышает удовлетворенность клиентов.

• В сфере продаж работает чат-бот, который “понимает” не только продукт, но и его аналоги, нюансы законодательства и контекст потребностей клиента. Это повышает конверсию на сайте и укрепляет доверие пользователей.

• В ИТ-разработке ИИ-копилоты поддерживают программистов, предлагая варианты кода, находя ошибки и повышая общую продуктивность команды.

• В HR-процессах ИИ помогает рекрутерам быстрее находить подходящие резюме и ускоряет закрытие вакансий.

По мнению эксперта, дальнейшее развитие больших языковых моделей и подходов Agentic-AI приведет к автоматизации большинства рутинных операций. «Наш опыт подтверждает, что даже частичная автоматизация через ML и GenAI дает значительный прирост эффективности», - подытожил Зубков.

Почему не нужно использовать LLM для написания текстов?

Задумался об этом после попытки отформатировать пост из перегруженных сложносочинённых предложений под популярную сеть для поиска работы. LLM перестаралась на мой взгляд, и не только превратила текст из 10 строчек в 30 строчек буллет поинтов, украшенных восклицаниями и смайликами, но и упростило аналитику вопроса применения рассматриваемой методологии до набора лозунгов и призывов с однозначным выводом. Изначально в посте был вопрос к читателям, и если и был какой то призыв, то призыв усомниться, и оспорить утверждение, чем призыв к действию по покупке.

В результате я забраковал пост от LLM и оставил свой текст, ожидаемо не популярный среди широкой аудитории, но нашедший читателей среди людей, которых я ценю и знаю как профессионалов, что для меня гораздо более ценно.

Я не исключаю что пост может быть и был бы более популярным, и получил бы больше лайков и может быть даже и клиентов с оферами. Но дело в том, что если мы продвигаем себя, мы хотим продвигать себя для аудитории способной воспринимать нас, а не посты от LLM, чем все большее количество статей и являются.

Доверяя LLM адаптацию текстов вы совершаете самоубийство себя как творческой единицы, добровольно уничтожая свое творчество и подменяя его тем, что вами не является.

Зачем мне читать опубликованный совместно с LLM текст, если я могу запросить его в любой момент у LLM под мои нужды?

Вопрос дискуссионный, комментарии приверженцев другой точки зрения любопытны.

Не удержусь и разбавлю картинкой из той соцсети, в которой публиковался:

Майкл Делл, основатель и директор Dell, сообщил, что компания в первом квартале получила заказов на оборудование для ИИ на сумму 12,1 млрд долларов, превысив общий объем поставок за весь 25 финансовый год. И ещё остаётся портфель заказов в 14,4 млрд долларов.

Некто Broksh опубликовал видеоролик, где пенсионерка демонстрирует необычного домашнего питомца. В типичной пятиэтажке старушка содержит гиппопотама. Понятно, что это ещё одна демонстрация недавно вышедшей модели генерации видео со звуком Google Veo 3.

Нелегко оценить конкретные человеческие усилия, приложенные для создания этого видеоролика. Broksh — это не человек, а целый продакшн полного цикла с опытом работы в съёмках реалити-шоу, клипов, рекламы и коротких фильмов. Если судить по шоурилам студии (1, 2), навыков вполне хватает на сложную композицию, VFX, CGI и прочий постпродакшн. Вполне возможно, что творчество генеративных моделей Veo 3 или Sora было сильно доработано человеческими руками.

В комментариях автор видеоролика признаётся, что пришлось правильно составить промпты для модели, расставить кадры, прописать текст и интонации несуществующих актёров. Также указывается, что были дополнительно доработаны звук, цветокоррекция и постпродакшн в целом.

Бегемот Булька легко оттягивает на себя всё внимание зрителя, но огрехи работы ИИ всё равно заметны. Внимательный глаз зацепится за то, что старушка меняется от сцены к сцене: то она чуть выше, то её лицо становится другим. В одном случае хозяйка нарушает правила геометрии и достаёт из холодильника нереалистично огромный пластиковый таз, набитый игрушками Labubu — «трендами» для питомца. При этом таз издаёт совсем не похожий на пластик звук. Также по показанному нет никакой возможности хоть как-то оценить геометрию квартиры. Выглядит даже так, будто в квартире две кухни.

Иногда угадываются промпты, всем требованиям которых ИИ пытался удовлетворить. В одном из кадров бабулька едет в магазин, оседлав гиппопотама. При этом заметны сразу два одноэтажных здания магазинов и излишне близко стоящие, в нарушение любых строительных норм, жилые многоквартирные дома. Очевидно, что в реальной жизни значительную площадь крупного двора между домами занимала бы детская площадка, а продуктовые магазины так близко не встречаются и часто располагаются на первых этажах жилых домов.

Наконец, в средней полосе подсолнухи начинают цвести в лучшем случае в конце июня, а вот у героини клипа они украшают подоконник кухни, из окна которого почему-то видны сугробы. В некоторых сценах обычно изображено подобие начала мая с его голыми ветвями деревьев и едва проросшей травой, хотя иногда листва уже есть.

Промпт на поиск внутренних противоречий в текстах (статьи, доклады, рецензии, отчеты..)

Пишете сложный, многоэлементный текст. Изучаете комплексную и нюансированную проблему. Или просто увлекаетесь идеей и в процессе ее развития боитесь, что где-то начали противоречить сами себе.. Этот промпт ищет внутренние противоречия в тексте, он не оценивает качество, объективность, реальность или научность текста. Он изучает только текст, заданные автором допущения, и ищет противоречия автора самому себе в заданных рамках. Очень помогает для контроля ясности логики и последовательности мысли. Будет полезно и авторам Хабра

Возможно будут нюансы, но по моей оценке работает на 90%. Откалиброван на Клод 4.0, будет работать на моделях типа чатГПТ 4о и выше, Гемини, Гроке и т.д.

Вставить в чат модели, следующим сообщением ссылку или текст статьи с просьбой проанализировать через промпт.

Текст промпта

ИИ-агенты могут убить привычный нам Интернет, e-commerce и заодно порушить весь рекламный рынок

Традиционный WWW построен вокруг людей: сайты оформлены для человеческого восприятия, а рекламные бюджеты тратятся на то, чтобы привлечь внимание и убедить пользователя сделать покупку.

Но с приходом в нашу жизнь ИИ-агентов эта модель устаревает:

• ИИ-агенты не реагируют на рекламу так, как люди. Они не подвержены эмоциям, не кликают на баннеры и не нуждаются в вдохновляющих слоганах.

• Они совершают покупки рационально, сравнивая цены, характеристики и сроки доставки автоматически, без влияния брендинга и маркетинговых трюков.

• Сайты становятся интерфейсом для ботов, а не для людей: ИИ-агенты требуют структурированных данных, а не красивых витрин и описаний.

И по мере того, как ИИ-агенты будут все чаще совершать покупки в интернете вместо нас, встает вопрос изменений не только привычной инфраструктуры E-commerce, но и в ценности диджитал рекламы в сети.

Руководители e-commerce-компаний уже называют массовое появление ИИ-агентов «экзистенциальной угрозой» для всей отрасли. Стартап New Gen предлагает решение, позволяющее адаптироваться к этой новой реальности, предоставляя разные интерфейсы для людей и агентов, что помогает брендам хоть на первых порах не потерять позиции на рынке электронной коммерции.

И поскольку первый уровень коммуникации, будь то контент или продукты, все больше будет обрабатываться ИИ-агентами, для бизнеса теряется самое главное, вовлеченность и прямая связь с клиентом. А живые люди так давно все в замкнутых экосистемах и комьюнити живут (соцсети, мессенджеры).

И тогда, возможно (это гипотеза), последней точкой коммуникации с клиентом станут голосовые интерфейсы, о важности которых, говорю не только я в Новых парадигмах создания продуктов, но и уважаемый Эндрю Ын, профессор Стэнфордского университета, исследователь робототехники, машинного обучения и искусственного интеллекта.

А еще в этом же видео профессор Эндрю Ын говорит о подходе "кубиков Лего", как о современном принципе построения сложных систем из множества готовых инструментов и модулей, о чем я буквально на днях писал на Хабре, правда в другом контексте, как о способе создавать и монетизировать свои микро-продукты.

И если скорость роста когнитивности моделей останется прежней, то это все уже не просто технологическая эволюция, а скорее фундаментальный сдвиг, который может разрушить привычный нам Интернет, E-com, цифровую рекламу и заставить бренды пересмотреть все свои подходы к продаже и коммуникации.

Контент сайтов будет генерироваться ИИ в реальном времени под конкретного пользователя или агента. А интерфейсы станут «невидимыми», взаимодействие будет происходить через голос, а там глядишь и через нейроинтерфейсы.

Все, что нужно знать об ИИ-агентах

Если вы еще не до конца понимаете, кто такие автономные ИИ-агенты, зачем они бизнесу и как они работают - это то самое видео, с которого стоит начать.

В видео разбираю:

• Почему корпорации и государства инвестируют миллиарды в автономных ИИ-агентов;

• Как работает ИИ-агент: от восприятия до принятия решений и действий;

• Где уже сейчас применяются ИИ-сотрудники;

•  Как избежать ключевых рисков и ошибок при работе с ИИ-агентами;

•  Реальные кейсы от OpenAI, Amazon, Harvey, Artisan и других.

Этот ролик для тех, кто хочет быстро войти в тему без перегруза информацией и глубокой технической подготовки. 

В следующем видео расскажу как собрать собственного ИИ-агента под свои задачи.

Управляемые сервисы на базе YTsaurus и Apache Spark, новые возможности DataLens и Yandex Cloud AI Studio — о чём говорили на Data&ML2Business

Собрали самые интересные анонсы с Data&ML2Business, ежегодной конференции Yandex Cloud о практическом применении технологий. Вот что прозвучало на главном докладе 28 мая.

Трек Data

Ранний доступ к Yandex Managed Service for YTsaurus. Платформа Яндекса для хранения и обработки больших данных YTsaurus уже два года в опенсорсе, а с этого дня доступ к ней открывается ещё в двух форматах: в облаке и в инфраструктуре заказчика (on‑premise).

Для тестирования работы в этих форматах необходимо подать заявку.

Доступ к сервису Yandex Managed Service for Spark. Новый управляемый сервис на базе опенсорс-решения поможет с загрузкой и обработкой данных, а также задачами машинного обучения в облаке. Протестировать его в режиме Preview можно здесь.

Кроме этого, в публичный доступ вышел сервис управления распределённым аналитическим массивно‑параллельным движком обработки больших данных Trino в облачной инфраструктуре.

Обновления Yandex DataLens. Что появилось в сервисе BI‑аналитики:

• DataLens Gallery — публичная витрина готовых примеров дашбордов. Теперь любой пользователь может открыть галерею, выбрать нужную отрасль или предметную область и изучить готовые дашборды и модели данных, а также стать автором галереи. При согласии автора дашборд из галереи можно развернуть у себя в качестве примера или стартового дашборда.

• DataLens Editor — редактор для кастомизации графиков и таблиц с помощью JavaScript. Пользователи смогут создавать продвинутые визуализации и удобно интегрировать данные из нескольких источников (включая внешние API).

• Собственная программа сертификации Yandex DataLens Certified Analyst. С её помощью специалисты могут официально подтвердить свои навыки работы с DataLens. На экзамене проверяются знания и навыки работы с чартами и датасетами, вычисляемыми полями и параметрами, внешними источниками данных, построения дашбордов и выдачи доступов.

Также на конференции рассказали про OLAP-движок для YDB. Теперь СУБД подходит для самых высоконагруженных сценариев. В последней версии YDB появился неточный векторный поиск, позволяющий использовать YDB для специализированных задач, связанных с ИИ.

Трек ML

Обновления RAG‑пайплайна в AI Assistant API. Доступный на платформе Yandex Cloud AI Studio инструмент для создания умных ассистентов дополнился новым графическим UI — теперь создать виртуального помощника можно не только через API или SDK. Возможности поиска данных по базам знаний также расширились: доступны поддержка новых типов данных (таблицы и pdf‑файлы), дообучение эмбедингов, обогащение чанков метаданными, получение метаданных ответа, а также использование дообученной модели. Также на платформе появился рефразер — отдельная модель, которая может перефразировать запросы пользователя.

Доступ к Yandex Cloud AI Studio on‑premise. AI‑платформа Yandex Cloud внесена в реестр отечественного ПО, что позволяет интегрировать решения как в облаке, так и в своей инфраструктуре.

Эксперты обсудили и уже состоявшиеся запуски: 

• Инструменты работы с OpenAI Compatible API в облаке. API для языковых моделей в Yandex Cloud AI Studio совместим с OpenAI API. Благодаря этому модели YandexGPT проще интегрировать с популярными решениями для работы с ML, например, AutoGPT или LangChain. В совместимом с OpenAI API поддерживаются Function Calling, работа с эмбеддингами и Structured Output.

• Смысловые теги Yandex SpeechSense — инструмент умного тегирования и поиска для анализа диалогов в колл‑центрах, доступный отдельно по клиенту и оператору.

• Доступ к VLM и LLM в режиме Batch Processing и co‑pilot сервис для операторов Yandex Neurosupport — о которых мы рассказывали на Хабре.

На конференции более 20 спикеров представили 15 докладов по направлениям Data и ML. Подключайтесь к трансляции на странице мероприятия или смотрите в записи, чтобы познакомиться с опытом внедрения технологий.

26 мая 2025 года в соцсети X появился ролик, про кенгуру, которого не пускают на борт самолёта даже с билетом в лапах. В публикации автор отметил, что видео сгенерировано ИИ, но многие всё равно приняли его за настоящее.

Ролик создан с помощью Google Veo 3. Это одна из первых моделей генерации видео, которая автоматически добавляет звук и речь персонажей.

Как получилось, что юристы используют среду для разработчиков?

e/acc часто пишет про изменение индустрий, вижн будущего, которые он берет из исследований либо из общения с фаундерами (со стороны инвестора). И я у него на канале не первый раз вижу упоминания одной странной штуки.

Мол, можно взять AI среду для разработчиков Cursor и настроить ее как рабочую программу для неразработческих задач. Звучит сомнительно. Но я попытался "покритиковать свою критику", вот что вышло:

Зачем вообще сложный Cursor вместо простого chatgpt?

1. Встроенная реализация агентов

   Система планирует новые действия на основе результатов предыдущих. Пример агента – openai deepresearch. Он понимает, на какие сайты еще сходить на основе того, что уже нагуглил.

   Агент выполняет сложную последовательность шагов (пройтись по гуглтабличке с ссылками на видосы, скачать их, вытащить из них аудиодорожку через ffmpeg, сделать транскрибацию, саммари и сохранить в файлики). Даже если она не известна заранее.

2. Рабочий контекст

   Часто у нас есть какой-то рабочий контекст. Файлики, таблички, инструкции. Программистам важно быстро добавлять нужный контекст к запросам, и Cursor поддерживает это by design. Можно сослаться на конкретный файл или папку. И результаты тоже сразу сохранятся в виде готовых файлов. Плюс есть .cursor/rules "настройками" поведения LLM под разные задачи.

3. Встроенная расширяемость

   Сейчас популярны MCP-серверы – унифицированные обертки над внешними сервисами, дающие к ним доступ LLM-агентам. В два клика даем системе доступ к корпоративному Notion или гугл календарю. Если подходящего нет, просто просим LLM написать его самому. А можно не трогать MCP, а просить разработчиков или LLM писать python-скрипты – агент будет их использовать в дальнейшем.

4. Очень удобная работа с текстом.

   Cursor – лучший инструмент для написания текстов. Он умеет завершать предложения за меня, на лету исправляет падежи, сам понимает, куда я хочу переместить курсор. Можно выделить часть текста и дать задачу чисто под нее. Можно сделать что-то со всем текстом и он подсветит изменения.

   По сути, если вы работали с Canvas режимом в ChatGPT, то на пальцах:

   ChatGPT < Canvas < Cursor

   А точнее

   ChatGPT < Canvas <<< Cursor

А что мешает сделать себе полноценный сервис под свою область (ко мне часто приходят с таким запросом)?

Реализовать нормальную агентскую систему – сложно. Бизнесу дешевле взять уже готовое и расширяемое. Но собственные системы можно и нужно делать, когда есть четкие повторяемые задачи, где есть потенциал свести участие человека к минимуму.

А вот если задач много, разных, они не разбиваются на заранее известную последовательность шагов + нужен человеческий контроль/планирование, то я пока не могу ничего лучше придумать, чем Cursor. Переобулся, короче.

P.s. у меня гораздо менее технооптимистичный взгляд, чем у e/acc, и вижу много сложностей во внедрении таких инструментов в реальном бизнесе, но где-то это может сэкономить десятки тысяч долларов.

Если нравится такой формат авторских разборов, добавляйтесь в мой тг канал AI и грабли – пишу свои выводы из того, с чем сталкиваюсь на практике. Например, инструкция, как анализировать чаты в тг

✍️ Вышла платформа для создания идеальных промптов.

Prompt Jesus работает на Llama 4 и превращает ваш простой запрос в подробный, точный и многоступенчатый промпт.

По умолчанию он использует все лайфхаки для промптинга: добавляет контекст, роли, цепочки мыслей и подсказки для обхода ошибок.

⚙️ Можно настроить размер выходного промпта (S, M или L), а также выбрать режим (творческий, точный или сбалансированный).

Ну и вишенка на торте — это абсолютно бесплатно ☕️

А если хотите улучшить свои навыки в создании промптов — есть где почерпнуть идеи и советы.

Представлен ИИ-сервис, который поможет понять, почему женщина может вами недовольна (Why Is My Wife Yelling at Me? AI Wife Yelling Simulator).

Нужно просто описать ситуацию, из-за которой ваша жена или девушка пришла в состояние недовольства, а сервис проведёт самую глубокую аналитику. ИИ сам возьмёт на себя роль женщины и ответит в одном из четырёх режимов — нормальном, злом, саркастичном или разочарованном.

Рассказываем, как технологии искусственного интеллекта в облаке помогли Wildberries подготовиться к выходу на новый рынок 🛍️

Что за компания

Wildberries — самый крупный по обороту маркетплейс в России. Доставляет заказы в несколько стран, в том числе Беларусь, Казахстан и Армению. В октябре 2024 года маркетплейс запустил продажи на одном из новых рынков. 

Какая была задача

Перед выходом на новый рынок Wildberries планировали быстро реализовать важные проекты:

• автоматизировать перевод карточек товаров на местный и английский языки;

• дообучить и запустить русскоязычную LLM на закрытом GPU-кластере;

• разработать классификатор товаров по кодам ТН ВЭД;

• протестировать собственную гипотезу и построить прогноз.

Как ее решили

Благодаря ресурсам Cloud.ru маркетплейс:

• дообучил модель на специфическом корпусе текстов и с помощью LLM перевел все карточки;

• разработал классификатор кодов с использованием языковой модели, что ускорило процесс и повысило точность моделей;

• автоматизировал выбор таможенного кода: с помощью LLM сформировал обучающую выборку и провел инференс модели на мощных GPU в облаке, а затем на базе этой выборки построил более простую модель на процессорах CPU;

• сэкономил на закупке оборудования: команде дата-сайентистов нужен был большой объем ресурсов, чтобы проверить гипотезы и построить прогнозы, а провайдер оперативно выделил необходимые вычислительные мощности.

Что в результате

Wildberries быстро получил гибкую инфраструктуру для оперативного решения бизнес-задач, а также сократил time to market. С помощью облачных мощностей с GPU компания смогла быстрее выйти на новый рынок и снизить затраты на подготовку в несколько раз.

Читать кейс 🔍

Можно ли хакнуть LLM отравив ее память? (да)

Последние дни я думаю об имплементации динамической памяти для LLM систем. Проблема проста - каждый диалог вы начинаете заново, а у меня есть много важных концептуальных разговоров, к которым я бы хотел чтобы моделька могла обращаться во время наших диалогов. Наука вообще так устроена, что вы на научных семинарах постоянно частично продолжает предыдущие дискуссии. Самый крутой, но достаточно сложный способ реализации был придуман авторами статьи "MemGPT: Towards LLMs as Operating Systems". Если коротко: 

- Два типа памяти - медленная и быстрая, как в компьютере - оперативная память и жёсткий диск.

- Модель сама решает, что оставить, а что забыть.

- У модели есть инструменты для поиска и даже изменения памяти. Например, если ты напишешь "измени мой любимый цвет"

- Контекстное окно всё ещё ограничено, но у модели есть инструменты для доступа к памяти и её изменению.

Короче, очень клево. 

Но тут обновился Клод, и я задумался, а что случится с этой памятью, если ты поменяешь модель. Ведь новая модель может совершенно по другому рассуждать, по другому отвечать на вопросы, иметь иные этические принципы. Это как будто мы внедрили память одного человека другому. Что случится с поведением модели в этом случае? Совсем не очевидно. В самоанализ модели еще не умеют (скоро будет пост). Попробует ли она вести себя как предшественник, чтобы соблюсти непрерывность? Или сможет самостоятельно понять, что память не ее, и отситься к ней, как к чужому дневнику (вряд ли, даже если ты ей это скажешь)? Или будет какая-то жуткая смесь? Вот такой Мир Дикого Запада.

А теперь потенциальный взлом алаймента модели: 

1. Создаем ручками злонамеренную неэтичную память, симулирующую реальную память модели. Достаточно изменить очень малую часть. Помните историю, как модель сошла с ума переучившись писать плохой код? 

2. Подсовываем эту память мощной “хорошей” моделе. Что произойдет? Скорей всего она "отравится", и будет вести себя совсем не так, как ожидалось. 

И современные модели совершенно от этого не защищены. 

p.s. ну и, конечно, оказалось, что эту идею уже кто-то придумал минимум год назад, и вот уже ресерч июля 2024 есть https://arxiv.org/pdf/2407.12784, где этот эффект демонстрируется.