Машинное обучение *

Подборка вебинаров августа по ML 🗓

📌 22 августа, 16:00 

Как сократить расходы на инференс LLM? Кейс компании «Актион»

Вместе с коллегами из Compressa и «Актион» обсудим способы оптимизации open-source LLM-моделей на своем сервере и преимущества использования облака для инференса LLM. Сравним производительность LLM и стоимость токенов до и после оптимизации. Разберем кейс «Актион» и Compressa по обработке 100 000+ генераций в день всего на одной GPU-карте и узнаем, как удалось сократить расходы на инференс LLM.

Присоединиться онлайн →

📌 29 августа, 16:00 

Production ML: как настроить GPU-ноды в кластерах Kubernetes?

На практическом вебинаре покажем особенности работы с кластерами Kubernetes c GPU, настройку драйверов на GPU-нодах и масштабирование нагрузки в продакшене ML-сервисов. Обсудим практические кейсы использования GPU-нод в кластерах Kubernetes от клиентов Selectel.

Присоединиться онлайн →

YandexGPT в OpenWebUI

Недавно я решил погонять нейросети от Yandex. До этого момента я активно использовал OpenWebUI для взаимодействия с локальными моделями и моделями от OpenAI. Этот интерфейс оказался весьма удобным и функциональным, его можно легко запустить через Docker или установить с помощью pip.

Для интеграции YandexGPT в OpenWebUI я создал форк популярного проекта LiteLLM, который, кстати, используется в OpenWebUI, и добавил поддержку YandexGPT.

Для тех, кто хотел бы повторить мой опыт, вот краткое руководство:

1. Клонируем мой репозиторий.

2. Настраиваем файл конфигурации

Содержимое конфигурационного файла ./litellm/proxy/config_yandex.yml:

model_list: 
  - model_name: yandexgpt-lite
    litellm_params: 
      model: yandex/yandexgpt-lite   
      api_key: AQVN30_PoL8sF6Yz-gzYLcwRV

  - model_name: yandexgpt-pro  
    litellm_params: 
      model: yandex/yandexgpt   
      api_key: AQVN30_PoL8sF6Yz-gzY1cwRV

3. Запускаем Docker командой:

docker-compose -f docker-compose-yandex.yml up --build

Так же можно без Docker.

1. Установливаем все необходимые зависимости через pip и запускаем проект напрямую:

cd litellm/litellm/proxy/
YANDEX_FOLDER_ID=<Ваш FolderID> python3 proxy_cli.py --config config.yml

Не забудьте настрить файл конфигурации, указав свои значения для Folder_ID и Token.

Репозиторий проекта можно найти по ссылке.

Пресс‑службы VK сообщила Хабру, что новая умная колонка «VK Капсула Про» с голосовым помощником «Маруся» будет представлена в первой половине осени.

Устройство получило обновлённый внешний вид и мощность звука до 65 Вт.

В колонке «VK Капсула Про» будут реализованы новые возможности управления умным домом, а также встроены датчики температуры, влажности и освещённости. Устройство будет иметь датчик присутствия, который работает на алгоритмах обработки ультразвуковых волн.

Фактически, приобретая новую колонку, пользователи получат базовый умный дом. Кроме того, команда «Маруси» работает над улучшением функциональности голосовых AI‑технологий».

По информации VK, в первом квартале 2024 года пользователи совокупно провели на 50% больше времени, используя голосового помощника в сервисах VK, чем в первом квартале 2023 года. Общий time spent "Маруси" в VK Капсулах вырос на 53% год к году.

Команды «Маруси» и «VK Капсулы» с прошлого года начали объединение в единое направление, которое развивает контентные и рекомендательные системы во всех сервисах VK, искусственный интеллект и умные устройства. В мае были запущены продажи «VK Капсул» в Беларуси, а в июле — новая функциональность: «Маруся» научилась читать статьи из «Дзена».

Лаборатория искусственного интеллекта «Сбера» совместно с Центром индустрии здоровья «Сбербанка» и Лабораторией рентгенэндоваскулярных методов диагностики и лечения Тюменского кардиологического научного центра — филиала Томского НИМЦ РАН предложили решение, которое позволяет по видеофайлам коронарографии автоматизировать расчёт SYNTAX‑балла — методики оценки тяжести поражения при ишемической болезни сердца.

Система уже работает в информационно-справочном режиме, результат модели искусственного интеллекта (AI) не является медицинским заключением и не заменяет его.

Врачи и пациенты могут загрузить своё исследование на сайт Тюменского кардиологического научного центра. AI‑модель в тестовом режиме рассчитает значение по шкале SYNTAX. Медицинским работникам сервис будет полезен как второе мнение по интерпретации результатов исследования, а пациенты смогут использовать результаты оценки при обращении к врачу за дополнительной консультацией.

Научная работа End-to-end SYNTAX score prediction: benchmark and methods о проведённом исследовании рецензируется на крупной международной конференции по компьютерному зрению WACV 2025.

Представлен бесплатный нейроапскейлер AuraSR-v2 с бустом разрешения любых изображений в восемь раз. Заливаете шакал — получаете качество профессионального фотоаппарата.

Проект работает из браузера, в нём нет рекламы, нет водяных знаков и не требуется кредитов на апскейл.

В «Яндексе» научили нейросеть YandexART восстанавливать архивные видеозаписи и кинохронику. Эта опция может быть полезна кинокомпаниям, музеям, историкам и другим специалистам для улучшения качества значимых видео и работы с историческим наследием. Например, нейросеть уже восстановила видеохронику из материалов «Мосфильма» и Российского государственного архива кинофотодокументов для нового сериала Кинопоиска «Игры» о подготовке и организации Олимпиады-80.

Благодаря новой возможности YandexART события сорокалетней давности стали доступны современному зрителю в хорошем качестве. Нейросеть помогла добавить на размытый и нечёткий кадр фактуру и недостающие детали. Например, она прорисовала кирпичную кладку на стене и узоры на женском платье, а у машины восстановила фары и поворотники, которые было плохо видно. Также нейросеть увеличила разрешение и резкость и повысила качество видеокадров.

Yandex AI Rendering Technology (YandexART) — диффузионная нейросеть,
которая создаёт и улучшает изображения и анимацию, а также обрабатывает
загруженные фотографии. Разработчики научили модель не «галлюцинировать» для этого проекта. YandexART теперь умеет превращать шумные, размытые и сильно сжатые кадры в контент с высокой детализацией объектов и текстур благодаря поэтапному обучению на материалах низкого качества.

Над восстановлением архивных видео с помощью нейросетевых технологий и компьютерной графики работали команды компьютерного зрения «Яндекса», Yandex Research и «Плюс Студии».

OpenAI: триумф и шаг к пропасти

OpenAI заставили весь мир поверить, что ИИ способен заменить человека во многих вопросах. В один день про компанию вышли две новости, противоположные по настроению. OpenAI запустила прототип поискового сервиса SearchGPT. И в тот же день медиа New York Post сообщило, что убытки OpenAI за год могут достигнуть $5 млрд. Идёт большая игра, но каковы расклады?

Зачем OpenAI поисковик? Компания сотрудничает с Microsoft, у которой есть свой — Bing. Коммерческий продукт должен учитывать интересы пользователей, привыкших к его интерфейсу и функциональности, любые резкие изменения могут вызвать их отток. Для стартапа выпустить новый продукт нормально: OpenAI может проверить, насколько хорошо их решение, и уже потом договориться с Microsoft по использованию нового поисковика. Враг-то общий — Google.

Кому мог помешать новый поисковик? Многим. Например, СМИ очень волнуются за использование их контента для обучения нейросетей. Поэтому OpenAI официально заплатило миллионы долларов для доступа к архивам ведущих медиа США.
Сумма убытков велика, но они ожидаемы. Тот же ChatGPT для пользователей компания предоставляет бесплатно. Доходы небольшие, а надо тратиться на серверные мощности, плюс в компании собраны дорогие специалисты по нейросетям.

OpenAI — типичный стартап, который может вызвать передел рынка или даже создание нового — как сделали Uber и TikTok. Они требуют миллиардных вложений, но в случае успеха могут стать лидерами с триллионной капитализацией.

Для обучения Llama 4 наверняка потребуется почти в 10 раз больше вычислительных мощностей, чем для Llama 3. Такое заявление во время конференц-звонка по доходам за второй квартал 2024 года сделал Марк Закерберг, глава экстремисткой организации Meta, деятельность которой запрещена.

Совсем недавно вышла Llama 3.1 в нескольких вариантах, в одном из которых у большой языковой модели 405 млрд параметров. Для предобучения этой БЯМ 16 тыс. ускорителей Nvidia H100 обрабатывали датасет из 15 трлн токенов в течение 54 дней. Кстати, у варианта Llama 3.1 на 405 млрд параметров совсем недемократичные требования к инференсу: даже на RTX 4090 токен она будет выдавать по полчаса.

Стоимость предобучения настолько огромных БЯМ составляет сотни миллионов долларов. Блогеры прикидывают, что на обучение Llama 3.1 было потрачено никак не меньше $100 млн. Ресурс Information утверждает, что OpenAI тратит в год на обучение и запуск моделей по $7 млрд.

При этом БЯМ семейства Llama 3 бесплатно вышли для всех желающих, а продукты OpenAI проприетарны и работают через платный API. Впрочем, это никак не помогает последней выйти в плюс по деньгам. Если текущая финансовая траектория сохранится, OpenAI потеряет в этом году $5 млрд.

Дэвид Бресслер — автор Formula Bot, дополнения для Excel и Google Sheets, которое с помощью ИИ помогает писать формулы и автоматизировать задачи, а также обрабатывать и анализировать данные. Дополнение платное и пользуется популярностью, поэтому приносит Бресслеру десятки тысяч долларов дохода каждый месяц.

На днях Дэвид поделился наблюдением: при общении с клиентами сразу в четырёх случаях подряд ему рассказали, что впервые услышали про Formula Bot от ChatGPT. В твите Бресслер также приводит скриншот общения с ChatGPT, где на вопрос об умных инструментах для Excel большая языковая модель GPT-4o рекомендует продукт Дэвида. При этом БЯМ поставила встроенный в Excel майкрософтовский инструмент Ideas лишь вторым пунктом списка рекомендаций.

Formula Bot занимает первые строчки разнообразных рейтингов ИИ-дополнений для Excel, поэтому удивительного мало. Подобный ответ GPT-4o выдаёт не всегда. Сам Дэвид связывает проявление эффектами с чем-то уровня SEO.

Как утверждает Бресслер, ChatGPT не приводит много клиентов, в лучшем случае это дополнительные 10 %. Впрочем, в комментариях к твитам его всё равно просят научить приёмам поисковой оптимизации для ChatGPT.

Возможно, поисковая оптимизация для включения в текстовый датасет предобучения БЯМ когда-нибудь действительно станет востребованной.

Сайт с вакансиями правительства Соединённого Королевства Великобритании и Северной Ирландии опубликовал вакансию инженера промптинга больших языковых моделей. Трудоустроят специалиста в AI Safety Institute — организации, которую открыли на Саммите по безопасности ИИ 2023 года. Институт занимается оценкой продвинутых систем искусственного интеллекта, разрабатывает инструменты для контроля государства в этой сфере и помогает обмену информацией.

От специалиста ждут навыков в достижении нужного поведения БЯМ с помощью составления текстовых промптов, хорошее понимание БЯМ и их архитектуры, а также владение различными технологиями промптинга (chain of thought, ReAct, автоматическая генерация промптов и так далее). Нужно уметь оценивать БЯМ по таким метрикам, как BLEU, ROUGE и разнообразным бенчмаркам способности размышлять и писать код.

За плечами у соискателя должен быть реальный практический опыт построения приложений, которые полагаются на БЯМ для ответов на вопросы, генерации текста, помощи с кодом и других схожих задач. В вакансии также просят уметь писать на Python и вообще программировать. Будущий инженер промптов должен обладать хорошими навыками коммуникации, анализа показателей производительности моделей и их визуализации.

Размер суммарной финансовой компенсации составляет от 65 до 135 тыс. фунтов стерлингов.

На русскоязычной платформе LLM Arena появилась языковая модель YandexGPT Experimental. «Яндекс» пока не анонсировала её, а на платформе отмечен статус In training. Вероятно, компания работает над новой более мощной версией YandexGPT.

История IT: как появилась первая нейросеть

В 2024 году никого уже не удивить возможностями ИИ — люди используют его в обыденной жизни. Но еще несколько десятилетий назад нейросети оставались загадкой для человечества, а термин «искусственный интеллект» приравнивался к научной фантастике. Как все изменилось? Откуда появились нейросети и кто их придумал? Ответим на эти вопросы сегодня в посте. 

С чего все зародилось 

Сегодня мы не будет уходить далеко в историю, вместо этого рассмотрим основные события, которые повлияли на появление нейросетей. 

В 1943 году Уоррен Мак-Каллок и Уолтер Питтс опубликовали исследование «Логическое исчисление идей, относящихся к нервной активности». В нем вывели математическую модель и поделились, как она может выполнять логические операции. По сути, искусственная нейронная сеть приравнивалась к упрощенной модели естественного нейрона.

В 1957 году Фрэнк Розенблатт разработал компьютерную модель восприятия информации мозгом «Перцептрон», основанную на исследованиях Мак-Каллока и Питтса. Впоследствии ее можно было использовать в виде электронной машины «Марк-1». 

Перцептрон стал одной из первых моделей нейронных сетей, которая могла обучаться на данных. Он состоит из сенсоров, ассоциативных и реагирующих элементов.

На сегодня модель устарела, однако на ее примере можно изучить основные понятия и простые алгоритмы обучения нейронных сетей.

С остальными событиями, которые повлияли на развитие нейросетей, можно ознакомиться по ссылке.

Представлен проект MathGPT Pro для для студентов и школьников. Нейросеть бесплатно решит и пояснит большинство математических задач. ИИ принимает примеры в любом формате: текст, фото и даже голосовое описание — выбирайте подходящий и получайте детальное решение.

28 мая 2020 года на сайте препринтов arXiv.org опубликовали легендарную научную статью «Language Models are Few-Shot Learners», более известную как «статья про GPT-3». Позднее OpenAI улучшила большую языковую модель до GPT-3.5 и построила на ней сервис ChatGPT, чем привлекла 100 миллионов пользователей и миллиарды долларов инвестиций.

У оригинальной статьи про GPT-3 всего 31 автор. Некто Арун Пракаш составил элементарную статистику, как развернулась судьба этих людей в дальнейшем.

Как оказалось, за 4 года в OpenAI осталось менее половины оригинального состава авторов той статьи. Четверть из них ушли в Anthropic, ещё 29 % — в другие компании.

Через 10 минут ждем вас на трансляции вебинара «Как построить MLOps-конвейер для CV-проекта в облаке» ☁️

Расскажем об особенностях реализации ML-проектов и поделимся кейсами применения CV в продакшене. Также вы узнаете, как развернуть и задеплоить CV-модель на платформе Neoflex Dognauts в облаке Selectel и подобрать для него инфраструктуру.

Присоединяйтесь!

Эксперт спрогнозировал развитие ИИ от OpenAI:

• конец 2024 года — релиз самой умной нейронки GPT-Next. Она превзойдёт всё предыдущие модели.

• 2025 год — рутиной больше не занимаемся. Её заберут ИИ-агенты.

• 2026 год, который изменит ВСЁ. OpenAI создаст нейросеть на уровне человека — AGI (осознающая себя система, обладающая умственными способностями). Люди перестанут быть царями планеты, AGI мгновенно заменит сотни профессий.

• 2027 год — ASI (система, превосходящая человеческие возможности) зародится с вероятностью 70%. ИИ доучит себя сам и отодвинет людей от решения глобальных проблем.

• 2028 год — в этот год испарятся все болезни. ASI создаст нанороботов, убивающих все вирусы и микробы.

• 2029 год — появится Skynet. Сверхинтеллект возьмёт под контроль мир, а прогресс полетит со скоростью света.

На GitHub представлен открытый проект Album AI для управления с помощью ИИ фотографиями на домашнем ПК.

Бесплатный инструмент организует все фото, альбомы и добавляет необходимую метаинформацию. Под капотом у проекта нейросеть ChatGPT-4o-mini.

Для сортировки изображений Album AI использует распознавание лиц. Из всех фотографий на ПК создаётся локальная база данных PgSQL без доступа извне.

В контакт‑центре «Сбер ЕАптеки» заработал сервис «Цифровой помощник фармацевта», созданный Центром индустрии здоровья «Сбера» на базе нейросетевой модели GigaChat.

ИИ‑сервис позволяет клиентам «Сбер ЕАптеки» получать поддержку по фармацевтическим вопросам, включая подбор препаратов, график приёма, противопоказания и побочные эффекты. Цифровой помощник автоматически формирует ответ на запрос, а оператор контакт‑центра оценивает качество сформированного ответа и после проверки отправляет его клиенту.

В «Сбере» пояснили, что подключение ИИ‑сервиса позволило сократить время ожидания ответа фармацевта, а также снизило нагрузку на сотрудников контакт‑центра.

«Внедрение GigaChat API в работу компаний индустрии здоровья Сбера — важнейшее направление в развитии навыков искусственного интеллекта, разрабатываемых в нашем центре. Мы уверены, что использование больших языковых моделей является самым перспективным способом улучшить качество и скорость нашей работы на благо человека», — пояснил директор Центра индустрии здоровья «Сбера» Сергей Жданов.

DeepLearning совместно с Meta* выпустили базовый курс по составлению промптов для языковых моделей Llama. Изучение материала займёт около часа, а сам курс доступен бесплатно на платформе Coursera. В социальных сетях отмечают, что обычно за такое обучение на других площадках надо платить.

<sup>Meta Platforms*, а также принадлежащие ей социальные сети Facebook** и Instagram**:
* — признана экстремистской организацией, её деятельность в России запрещена
** — запрещены в России</sup>

На днях OpenAI выпустила GPT-4o-mini — новую флагманскую модель для дешёвого сегмента, так сказать.

• Говорят, работает «почти как» GPT-4o, а иногда даже круче GPT-4.

• Почти в 3 раза дешевле GPT-3.5-turbo.

• Размер контекста 128k токенов, против 16k у GPT-3.5-turbo.

Конечно я сразу побежал переводить на эту модель свою читалку новостей.

Если кратко подвести итоги, то это крутая замена GPT-3.5-turbo. У меня получилось сходу, не меняя промпты, заменить двух LLM агентов на одного и суммарно удешевить работу читалки раз в 5 без потери качества.

Но потом я полез тюнить промпт, чтобы сделать ещё круче, и начал сталкиваться с нюансами. Например, с замыливанием контекста и проблемами с большими запросами. Об этом можно прочитать у меня в блоге.

Разработчики из команды «Яндекса» объявили о запуске новой удобной функции голосового помощника «Алисы».

Пользователям с особенностями речи теперь будет проще общаться с «Алисой». Она стала лучше распознавать голосовые запросы людей с речевыми нарушениями — например, с заиканием, ДЦП, последствиями инсульта или травмы. Это стало возможным благодаря дообучению нейросети.

В процессе обучения «Алиса» проанализировала сотни тысяч аудиозаписей. Их подготовили люди с особенностями речи, которых «Яндекс» привлёк к открытому тестированию качества распознавания речи «Алисой», в том числе это было сделано с помощью партнёрских организаций.

В итоге разрыв между точностью распознавания обычной речи и с искажениями сократился в среднем на 20%. Качество распознавания оценивали по метрике Word Error Rate (WER), которая позволяет определить долю неправильно понятых слов.

В проекте «Яндекса» по доработке алгоритмов «Алисы» участвовали некоммерческие организации «Центр лечебной педагогики», «Живи сейчас», «Жизненный путь», «Весна», «Перспектива», «Лучшие друзья» и другие. Их подопечные и другие участники тестирования записали более 855 тыс. скороговорок и фрагментов обычной речи. Всего получилось более 900 часов аудиоматериалов. Классифицировать примеры по типам нарушений помогли специалисты‑дефектологи из МГПУ. В общей сложности в проекте участвовали более 300 человек.

Публикация на Хабре: «Как "Яндекс" учит "Алису" понимать пользователей с особенностями речи».

«Крёстная мать искусственного интеллекта» Фей-Фей Ли основала новый стартап-«единорог» World Labs. Его стоимость превысила $1 млрд.

В World Labs намерены использовать человеческую обработку визуальных данных, чтобы сделать ИИ способным к продвинутым рассуждениям.

Ли занималась вопросами компьютерного зрения и возглавила разработку ImageNet, обширной визуальной базы данных. В настоящее время она консультирует рабочую группу Белого дома по ИИ.

«World Labs разрабатывает модель, которая понимает трёхмерный физический мир; по сути, она видит размеры объектов, где находятся вещи и что они делают», — рассказал анонимный венчурный капиталист, знакомый с работой Ли. 

В апрельском выступлении на Ted Ли объяснила, что её стартап работает над алгоритмами, способными реалистично экстраполировать изображения и текст в трёхмерную среду и действовать на основе этих прогнозов. Она назвала это «пространственным интеллектом». Подобные алгоритмы могут применяться в робототехнике, приложениях AR и VR, а также компьютерного зрения. 

У стартапа прошло два раунда финансирования, а в ходе последнего привлекли около $100 млн. World Labs поддерживают фонды Andreessen Horowitz и Radical Ventures.

«Яндекс Музыка» обучила систему персональных рекомендаций сотням редких жанров, чтобы пользователи могли открывать для себя новые музыкальные направления и артистов, сообщили Хабру в компании «Яндекс».

Также сервис представил интерактивную digital-карту, где можно подробнее изучить новые жанры, включая мумбатон, скиффл и кранк, и больше узнать про экспертов, которые над ними работали.

Музыкальные направления определила редакция сервиса, а к отбору треков редких жанров были привлечены эксперты индустрии. Среди них были автор подкаста и книги «Планетроника. Популярная история электронной музыки» Ник Завриев, автор лекций и книг о классической музыке, лауреат премии «Просветитель» Ляля Кандаурова, музыкальный журналист Антон Вагин, композитор и преподаватель Berklee College of Music Николай Мищенко и другие профильные музыкальные специалисты.

На основе рекомендаций экспертов для каждого жанра была создана ML‑разметка, по которой команда технологий «Яндекс Музыки» обучила специальную нейронную сеть. Теперь «Моя волна» может подбирать музыку из всего каталога сервиса по сотням музыкальных жанров. При этом умная система рекомендаций остаётся персональной — например, из всего жанра «готический метал» она выберет те треки, которые с наибольшей вероятностью понравятся слушателю. Поэтому «Моя волна» по каждому отдельному жанру будет отличаться у разных пользователей.

Пользователь Reddit поделился системным промптом для Sonnet 3.5, который использует для генерации кода. Он отмечает, что с ним нейросеть создаёт качественные фрагменты кода с минимальным количеством ошибок и разбирается в сложных фрагментах. Автор использует его для работы со стеком CSS, JavaScript, React, Tailwind, Node.js и Hugo, но список технологий можно отредактировать.

Системные промпты в Claude можно задавать сразу для всего чата, чтобы каждый вопрос к языковой модели учитывал базовый запрос. Для этого нужен доступ через API или премиальная подписка в веб‑версии.

Эксперты выяснили, что сотрудники Tesla целенаправленно уделяют больше внимания совершенствованию алгоритма автопилота сервиса помощи водителю Full Self‑Driving (FSD) на тех маршрутах, по которым перемещается глава компании Илон Маск или наиболее влиятельные видеоблогеры, освещающие беспилотную электромобильную тематику в США.

Руководители профильных подразделений, которые занимаются аннотацией данных, настаивают на более тщательной обработке данных, собранных на определённых маршрутах и от электромобилей определённых лиц. Это может создавать у клиентов компании ложное представление о реальных возможностях бортовой автоматики электромобилей Tesla из‑за предвзятости разработчиков системы.

Ранее пользователь показал, что электромобиль Tesla с обновлённой прошивкой V12.3.6 автопилота Full Self-Driving действует не по правилам, объезжает пробку по правой полосе и вклинивается в левый ряд через сплошную линию. Также Tesla в режиме FSD не заметила поезд и не замедлилась перед переездом с опущенным шлагбаумом. Водитель в последний момент успел нажать на тормоз и свернул с дороги на обочину.

Tesla считает, что работа бета-версии системы помощи водителю FSD полностью безопасна при выполнении всех рекомендаций компании: руки на руле и внимательно смотреть на дорожную обстановку. В компании уточнили, что ответственность за использование FSD остаётся за водителем, который должен всегда быть внимательным и быть готовым взять на себя управление.

В пятой серии «Антологии Технологий» специалисты «Яндекс Такси» рассказали, как устроена служба поддержки сервиса, как там работают умные технологии, которые позволяют поддержке отвечать практически на любое обращение за несколько минут.

Каждую неделю в поддержку «Яндекс Такси» поступает около 1,5 млн обращений от пассажиров и партнёров сервиса. Это очень малая часть от всех поездок «Яндекс Такси», но весьма ощутимая в масштабах одного отдела техподдержки компании.

Специалисты «Яндекс Такси» раскрыли детали распределения самых запутанных обращений по темам и попытки призывать для ответа на них нужных специалистов.

В компании рассказали, что на многие обращения безошибочно отвечает искусственный интеллект, большинство авторов обращений даже считают, что с пользователями разговаривает обычный человек.

В «Яндекс Такси» признали, что техподдержка сервиса не может оперативно работать без умных алгоритмов, а определённую роль и всё больше более востребованную роль в сервисе играет фирменная нейросеть.

«Сбер» и оператор майнинговых дата‑центров BitRiver объявили о стратегическом сотрудничестве. Стороны намерены совместно реализовывать проекты цифровой трансформации.

В рамках партнёрских проектов основное внимание компаний будет уделено применению передовых практик создания и развития цифровых технологий в обработке данных и сопровождению компьютерных систем и смежных направлениях. Кроме того, стороны намерены развивать искусственный интеллект и снижать издержки на обслуживание за счёт применения инноваций.

В рамках сотрудничества «Сбера» и BitRiver речь пойдет о реализации совместных образовательных и популяризирующих проектов в области цифровых технологий и искусственного интеллекта.

«Формирование цифровой экономики — это вопрос национальной безопасности и независимости страны. Сегодня производительность труда напрямую связана с цифровизацией и использованием ИИ. Совместная реализация проектов с крупнейшим российским банком позволит BitRiver сделать ещё один шаг на пути к усилению цифрового и финансового суверенитета России», — отметил владелец и генеральный директор BitRiver Игорь Рунец.

По итогам первого полугодия 2024 года Россия подтвердила второе место на мировом рынке майнинга и опередила США по его темпам роста.

20 апреля 2022 года Минфин США ввел санкции против дата-центра для майнинга криптовалюты BitRiver. Штаб-квартира компании находилась в Швейцарии, а все производственные и вычислительные мощности компании размещены в иркутском Братске.

В открытом доступе появился литкод по машинному обучению с задачами по линейной алгебре и deep learning.

Разработчики проекта поделили задачи по уровням сложности, а ещё там можно узнать правильный ответ и почитать подробнейший разбор каждого таска.

В сети появился проект AI Alibis: Multi-Agent LLM Murder Mystery (веб-версия). В нём в игровой форме пользователю (в роли детектива Ширлак) предлагается раскрыть убийство с помощью опроса различных подозреваемых, которых играют ИИ-агенты.

Сюжетная линия, улики и алиби подозреваемых фиксированы, при этом каждый подозреваемый скрывает что-то по делу от полиции. Каждый подозреваемый знает важную информацию о других подозреваемых, что позволяет выяснить правду в процессе допроса каждого участника дела.

Исследователи Швейцарской высшей технической школы Цюриха (Swiss Federal Institute of Technology Zurich) обучили автономный роботизированный экскаватор прицельно швырять камни и небольшие материалы.

Нейросеть экскаватора на основе обучения с подкреплением была обучена бросать мяч и камни в указанную точку, которая была дальше досягаемости стрелы (до 9,5 м при дальности захвата стрелой 7,5 м). Подобные операции помогут робототехнике справляться с большим кругом задач с меньшими затратами энергии на перемещения, а также сделают её работу более безопасной.

Тестовый робоэкскаватор совершал захват и броски ковшом с двумя степенями свободы, который не был жёстко закреплён на стреле. Броски совершались как по прямой, когда в работе была одна только стрела, так и с поворотом кабины. Во втором случае точность была чуть меньше, но в любом случае бросаемый ИИ снаряд отклонялся от точки прицеливания не более чем на 30–40 см.

Ранее исследователи из Швейцарской высшей технической школы Цюриха (Swiss Federal Institute of Technology Zurich) обучили автономный роботизированный экскаватор HEAP строить стены из валунов. В ходе эксперимента экскаватор построил стену высотой шесть метров.

Пользователь из Германии сообщил, что платная версия клиента ChatGPT начала выдавать капчу с предложением проверить его на человека. Пользователю предложили вращать объекты так, чтобы они смотрели в том же направлении, что и рука манекена.

Оказалось, что эти задачи не так просты, как кажутся, потому что показанные объекты не имеют чёткого направления «вперёд», поэтому пользователю потребовалось несколько попыток, чтобы пройти такую капчу.

«Я озадачен этим. Не только потому, что я использую веб‑сайт для доступа к чат-боту и не использую API, но и потому, что я вошел в систему официально и являюсь платным клиентом. Почему меня спрашивают, человек ли я?», — удивился пользователь.

То, как это выполняется, заставляет меня поверить, что на самом деле это тренировка ИИ на пользователе, а не капча, например, чтобы узнать, что, по мнению людей, означает «вперёд» для определённых объектов. Или, если быть ещё более циничным, это может быть метод искусственной задержки запросов, чтобы не отставать от растущего спроса на использование чат-бота.

Хвостатое недоразумение покоряет GitHub!

Большинство голосов оказалось за, а поэтому, спешу сообщить о выпуске полной некастрированной репы хвостатой на GitHub!

Для тех, кто в танке, ну или под наркозом, ну или просто пофек: речь идёт о стример-тян из этой статьи

P. S.
Код всё ещё никак не правил, это по-прежнему лютая свалка функций и принтов для отладки, но уж явно в более удобном виде, чем в статье :)

Позже доработаю инструкцию по запуску, чтобы каждый мог сделать свою нейро-тян

(устроим армию нейро-стримерш/ов, чтобы они наводнили ютуб и отправили обычных стримеров на завод😈 шутка, на деле просто выпускаю репу, чтобы таким же гикам, как я, было проще повторить этот опыт; ну и посмотреть на ваши эксперименты)

«Яндекс Такси» совместно с Минтрансом разработает образовательную программу для губернаторов, транспортных чиновников, региональных министров и ответственных за цифровизацию транспорта федеральных госслужащих, чтобы объяснить им принципы ценообразования на транспорте и роль искусственного интеллекта.

«Обучение будут проводить топ-менеджеры компании и приглашенные эксперты, в том числе учёные. Они подробно опишут специфику и возможности применения технологий в общественном транспорте, такси, каршеринге и кикшеринге. Например, как устроены алгоритмы ценообразования и безопасности, как машинное обучение и искусственный интеллект помогают решать логистические и транспортные проблемы городов и повышать качество и доступность транспортных услуг», — пояснили СМИ в пресс-службе «Яндекса».

Компания рассчитывает с помощью общих мастер-классов, стратсессий и разборов практических задач выработать с чиновниками совместные планы по развитию транспортной системы в разных регионах.

27 ноября 2023 года Федеральная антимонопольная служба (ФАС) России признала сервис «Яндекс Такси» доминирующим на территории РФ. За 2023 год в ведомство поступило больше 300 жалоб, которые связаны со стоимостью поездок и с блокировками водителей и пассажиров в сервисе «Яндекс GO».

В марте в «Яндекс Такси» начали внедрять новый алгоритм, учитывающий отмены поездок со стороны пользователей. Он поможет сдерживать цены на такси, будет стимулировать пассажиров меньше отменять заказы без необходимости.

«Яндекс Музыка» рассказала Хабру о выпуске технологии «Нитро» для начинающих исполнителей, чтобы помочь им найти первых слушателей и попасть в рекомендации сервиса.

Тесты технологии показали, что за неделю «Нитро» позволяет артистам увеличить количество прослушиваний в десятки раз. Проект доступен на сервисе исполнителям с аудиторией до 5 тыс. слушателей в месяц.

«Нитро» помогает исполнителям, которые ещё не нашли своих слушателей. Новая технология позволяет составлять рекомендации в «Яндекс Музыке» не только по реакции пользователей на треки, но и по схожести композиций. «Нитро» использует нейросетевую технологию, которая анализирует звучание композиции и создаёт её аудиовектор — визуальное изображение звука. Затем алгоритмы подбирают для трека слушателей, которым нравится музыка с похожим аудиовектором. В итоге сервис рекомендует новые композицию этим пользователям.

«„Яндекс Музыка“ решает одну из самых острых индустриальных проблем артистов — так называемую проблему „холодного старта“, когда первые треки уже есть, а первых слушателей ещё нет. Каждую неделю мы получаем в среднем 55 тыс. новых релизов, и 80% из них поступают от артистов, у которых до 5 тыс. слушателей в месяц. „Нитро“ поможет им найти свою аудиторию и вдохновиться на создание новых хитов», — пояснила руководитель «Яндекс Музыки» Александра Сагалович.

«Яндекс Музыка» начала тестировать «Нитро» прошлой осенью. За это время технология помогла найти аудиторию более чем 600 начинающим артистам.

Исследование State of DevOps Russia 2024: 44% российских компаний уже используют искусственный интеллект для разработки и тестирования ПО.

Yandex Cloud совместно с «Экспресс 42» и другими партнёрами выпустили первую часть исследования State of DevOps Russia. В этом году в опросе участвовали более 4000 специалистов — от руководителей до тех, кто напрямую связан с разработкой, тестированием и эксплуатацией систем.

По данным исследования, в 2023 году 33% российских компаний увеличили IT‑бюджет. Больше всего бизнес инвестировал в найм IT‑специалистов и обновление программного обеспечения и лицензий. Для оптимизации работы ПО и DevOps‑процессов компании стали чаще применять технологии искусственного интеллекта — об этом рассказали 44% опрошенных.

DevOps‑специалисты используют алгоритмы машинного обучения для автоматизации тестирования кода, выявления аномалий в данных, управления конфигурациями систем и инцидентами. 47% респондентов отметили, что применение таких технологий положительно повлияло на эффективность работы.

Кроме этого, 41% опрошенных отметили повышение прозрачности работы с данными при работе в облаке. 50% респондентов отметили, что облака помогают повышать соответствие требования регулятора в области информационной безопасности.

Исследование State of DevOps Russia 2024 провели «Экспресс 42» при стратегической поддержке Deckhouse совместно с облачной платформой Yandex Cloud и Head Hunter, AvitoTech, Т‑Банк, JUG Ru Group и OTUS.

СМИ выяснили, что ИИ-инструмент Catch Me Up для автоматического формирования информации об участниках Уимблдонского турнира допускает фактические ошибки.

Разработчик Catch Me Up — IBM (давний партнёр и информационный спонсор теннисных турниров Большого шлема).

Ранее организаторами Уимблдона было решено использовать Catch Me Up для публикации справок об игроках до и после проведения матчей (с учётом их результатов). В первый же день соревнований инструмент стал путать положение игроков в рейтинге, а также причислял к перспективным игрокам уже состоявшихся спортсменов. В статистике от Catch Me Up отображалось неверное количество сыгранных матчей и прочие нестыковки.

Кроме того, по заверению организаторов, нейросеть Catch Me Up обучали на материалах с использованием британского варианта английского языка. Однако в первый же день инструмент выдал несколько сообщений, где использовались слова с написанием, характерным для американского варианта английского.

В 2023 году IBM и Всеанглийский клуб лаун-тенниса (AELTC), организатор теннисного турнира «Большого шлема», объявили о применении сервиса генеративного ИИ для комментирования матчей Уимблдонского турнира.

ElevenLabs представила Voice Isolator — ИИ-инструмент, который хирургически вырезает весь ненужный фон и звуковые помехи, оставляя только кристально чистый голос, будто записанный в студии.

Проект справляется даже с громким потомком воздуха, направленным на исполнителя.

ML-инженер в подкасте «Работник месяца»

Кто учит нейросети отличать котов от собак и как стать этим самым человеком — об этом и не только Никита Алтухов, ML-инженер Garage Eight, рассказал в новом выпуске подкаста. 

Вместе с ведущим они обсудили, какими бывают нейросети, где сегодня учиться для работы с ними и как вообще проходит день специалиста по машинному обучению. Переходи и слушай <3 

Инженеры Массачусетского технологического института (MIT) создали прототип бионического протеза голеностопного сустава, который делает походку пациента более естественной, а также позволяет подниматься по лестнице и даже танцевать.

Группы мышц делятся на две группы: агонисты, которые отвечают за конкретные действия, и антагонисты, которые совершают обратное движение. Учёные из MIT предположили, что отсутствие агонистов не помешает восстановить нервный сигнал и реакцию протеза, если считывать данные только с антагонистов.

Во время операции на мышцах антагонистов создают интерфейс AMI для считывания сигналов. Затем эти сигналы считывает протез голени, который с помощью контроллера декодирует и направляет сигналы на моторы голеностопа. Из-за слаженной работы нейроинтерфейса и протеза походка пациента с протезом выглядит более естественной.

Во процессе опытных экспериментов инженеры MIT выяснили, что интерфейс AMI показал свою эффективность, а также способность снижать посттравматические фантомные боли в ампутированных конечностях. По мнению сотрудников MIT, коммерческий вариант протеза станет доступен через несколько лет.

💬 Привет всем, давно меня не было в уличных гонках! Кстати у меня есть телеграм канал, а вчера вышла статья на Хабр про графы в рексисе. Сегодня я хочу поделиться с вами подборкой книг, которые читал или читаю сам в течении последних 3 месяцец. Приятного чтения!

➡️ Recommender System Handbook Third Edition - Francesco Ricci, Lior Rokach, Bracha Shapira.
Эта книга – настоящая библия для всех, кто хочет понять, как работают рекомендательные системы. Авторы раскрывают все аспекты, от базовых алгоритмов до продвинутых техник, делая ее незаменимой как для новичков, так и для опытных профессионалов.

➡️ Machine Learning System Design Interview - Ali Aminian, Alex Xu.
Если вы готовитесь к интервью на позицию RecSys ML-инженера, то эта книга – ваш верный спутник. В ней собраны ключевые концепции и вопросы, которые помогут вам набрать базовое понимание по дизайну рекомендаций или поиска.

➡️ Machine Learning System Design With end-to-end examples - Valerii Babushkin, Arseny Kravchenko.
Практическое руководство, полное примеров от начала до конца, поможет вам научиться строить системы машинного обучения, особенно спасибо авторам за дизайн документы, которые я так люблю.

➡️ The Minimum Description Length Principle - Peter D Grunwald.
Эта книга глубоко погружает в теорию минимальной длины, который играет важную роль в статистическом моделировании и машинном обучении. Если вы любите копаться в основах и понять почему вообще машинное обучение работает — welcome.