Машинное обучение *

Разработчики из команды «Яндекса» объявили о запуске новой удобной функции голосового помощника «Алисы».

Пользователям с особенностями речи теперь будет проще общаться с «Алисой». Она стала лучше распознавать голосовые запросы людей с речевыми нарушениями — например, с заиканием, ДЦП, последствиями инсульта или травмы. Это стало возможным благодаря дообучению нейросети.

В процессе обучения «Алиса» проанализировала сотни тысяч аудиозаписей. Их подготовили люди с особенностями речи, которых «Яндекс» привлёк к открытому тестированию качества распознавания речи «Алисой», в том числе это было сделано с помощью партнёрских организаций.

В итоге разрыв между точностью распознавания обычной речи и с искажениями сократился в среднем на 20%. Качество распознавания оценивали по метрике Word Error Rate (WER), которая позволяет определить долю неправильно понятых слов.

В проекте «Яндекса» по доработке алгоритмов «Алисы» участвовали некоммерческие организации «Центр лечебной педагогики», «Живи сейчас», «Жизненный путь», «Весна», «Перспектива», «Лучшие друзья» и другие. Их подопечные и другие участники тестирования записали более 855 тыс. скороговорок и фрагментов обычной речи. Всего получилось более 900 часов аудиоматериалов. Классифицировать примеры по типам нарушений помогли специалисты‑дефектологи из МГПУ. В общей сложности в проекте участвовали более 300 человек.

Публикация на Хабре: «Как "Яндекс" учит "Алису" понимать пользователей с особенностями речи».

«Крёстная мать искусственного интеллекта» Фей-Фей Ли основала новый стартап-«единорог» World Labs. Его стоимость превысила $1 млрд.

В World Labs намерены использовать человеческую обработку визуальных данных, чтобы сделать ИИ способным к продвинутым рассуждениям.

Ли занималась вопросами компьютерного зрения и возглавила разработку ImageNet, обширной визуальной базы данных. В настоящее время она консультирует рабочую группу Белого дома по ИИ.

«World Labs разрабатывает модель, которая понимает трёхмерный физический мир; по сути, она видит размеры объектов, где находятся вещи и что они делают», — рассказал анонимный венчурный капиталист, знакомый с работой Ли. 

В апрельском выступлении на Ted Ли объяснила, что её стартап работает над алгоритмами, способными реалистично экстраполировать изображения и текст в трёхмерную среду и действовать на основе этих прогнозов. Она назвала это «пространственным интеллектом». Подобные алгоритмы могут применяться в робототехнике, приложениях AR и VR, а также компьютерного зрения. 

У стартапа прошло два раунда финансирования, а в ходе последнего привлекли около $100 млн. World Labs поддерживают фонды Andreessen Horowitz и Radical Ventures.

«Яндекс Музыка» обучила систему персональных рекомендаций сотням редких жанров, чтобы пользователи могли открывать для себя новые музыкальные направления и артистов, сообщили Хабру в компании «Яндекс».

Также сервис представил интерактивную digital-карту, где можно подробнее изучить новые жанры, включая мумбатон, скиффл и кранк, и больше узнать про экспертов, которые над ними работали.

Музыкальные направления определила редакция сервиса, а к отбору треков редких жанров были привлечены эксперты индустрии. Среди них были автор подкаста и книги «Планетроника. Популярная история электронной музыки» Ник Завриев, автор лекций и книг о классической музыке, лауреат премии «Просветитель» Ляля Кандаурова, музыкальный журналист Антон Вагин, композитор и преподаватель Berklee College of Music Николай Мищенко и другие профильные музыкальные специалисты.

На основе рекомендаций экспертов для каждого жанра была создана ML‑разметка, по которой команда технологий «Яндекс Музыки» обучила специальную нейронную сеть. Теперь «Моя волна» может подбирать музыку из всего каталога сервиса по сотням музыкальных жанров. При этом умная система рекомендаций остаётся персональной — например, из всего жанра «готический метал» она выберет те треки, которые с наибольшей вероятностью понравятся слушателю. Поэтому «Моя волна» по каждому отдельному жанру будет отличаться у разных пользователей.

Пользователь Reddit поделился системным промптом для Sonnet 3.5, который использует для генерации кода. Он отмечает, что с ним нейросеть создаёт качественные фрагменты кода с минимальным количеством ошибок и разбирается в сложных фрагментах. Автор использует его для работы со стеком CSS, JavaScript, React, Tailwind, Node.js и Hugo, но список технологий можно отредактировать.

Системные промпты в Claude можно задавать сразу для всего чата, чтобы каждый вопрос к языковой модели учитывал базовый запрос. Для этого нужен доступ через API или премиальная подписка в веб‑версии.

Эксперты выяснили, что сотрудники Tesla целенаправленно уделяют больше внимания совершенствованию алгоритма автопилота сервиса помощи водителю Full Self‑Driving (FSD) на тех маршрутах, по которым перемещается глава компании Илон Маск или наиболее влиятельные видеоблогеры, освещающие беспилотную электромобильную тематику в США.

Руководители профильных подразделений, которые занимаются аннотацией данных, настаивают на более тщательной обработке данных, собранных на определённых маршрутах и от электромобилей определённых лиц. Это может создавать у клиентов компании ложное представление о реальных возможностях бортовой автоматики электромобилей Tesla из‑за предвзятости разработчиков системы.

Ранее пользователь показал, что электромобиль Tesla с обновлённой прошивкой V12.3.6 автопилота Full Self-Driving действует не по правилам, объезжает пробку по правой полосе и вклинивается в левый ряд через сплошную линию. Также Tesla в режиме FSD не заметила поезд и не замедлилась перед переездом с опущенным шлагбаумом. Водитель в последний момент успел нажать на тормоз и свернул с дороги на обочину.

Tesla считает, что работа бета-версии системы помощи водителю FSD полностью безопасна при выполнении всех рекомендаций компании: руки на руле и внимательно смотреть на дорожную обстановку. В компании уточнили, что ответственность за использование FSD остаётся за водителем, который должен всегда быть внимательным и быть готовым взять на себя управление.

В пятой серии «Антологии Технологий» специалисты «Яндекс Такси» рассказали, как устроена служба поддержки сервиса, как там работают умные технологии, которые позволяют поддержке отвечать практически на любое обращение за несколько минут.

Каждую неделю в поддержку «Яндекс Такси» поступает около 1,5 млн обращений от пассажиров и партнёров сервиса. Это очень малая часть от всех поездок «Яндекс Такси», но весьма ощутимая в масштабах одного отдела техподдержки компании.

Специалисты «Яндекс Такси» раскрыли детали распределения самых запутанных обращений по темам и попытки призывать для ответа на них нужных специалистов.

В компании рассказали, что на многие обращения безошибочно отвечает искусственный интеллект, большинство авторов обращений даже считают, что с пользователями разговаривает обычный человек.

В «Яндекс Такси» признали, что техподдержка сервиса не может оперативно работать без умных алгоритмов, а определённую роль и всё больше более востребованную роль в сервисе играет фирменная нейросеть.

«Сбер» и оператор майнинговых дата‑центров BitRiver объявили о стратегическом сотрудничестве. Стороны намерены совместно реализовывать проекты цифровой трансформации.

В рамках партнёрских проектов основное внимание компаний будет уделено применению передовых практик создания и развития цифровых технологий в обработке данных и сопровождению компьютерных систем и смежных направлениях. Кроме того, стороны намерены развивать искусственный интеллект и снижать издержки на обслуживание за счёт применения инноваций.

В рамках сотрудничества «Сбера» и BitRiver речь пойдет о реализации совместных образовательных и популяризирующих проектов в области цифровых технологий и искусственного интеллекта.

«Формирование цифровой экономики — это вопрос национальной безопасности и независимости страны. Сегодня производительность труда напрямую связана с цифровизацией и использованием ИИ. Совместная реализация проектов с крупнейшим российским банком позволит BitRiver сделать ещё один шаг на пути к усилению цифрового и финансового суверенитета России», — отметил владелец и генеральный директор BitRiver Игорь Рунец.

По итогам первого полугодия 2024 года Россия подтвердила второе место на мировом рынке майнинга и опередила США по его темпам роста.

20 апреля 2022 года Минфин США ввел санкции против дата-центра для майнинга криптовалюты BitRiver. Штаб-квартира компании находилась в Швейцарии, а все производственные и вычислительные мощности компании размещены в иркутском Братске.

В открытом доступе появился литкод по машинному обучению с задачами по линейной алгебре и deep learning.

Разработчики проекта поделили задачи по уровням сложности, а ещё там можно узнать правильный ответ и почитать подробнейший разбор каждого таска.

В сети появился проект AI Alibis: Multi-Agent LLM Murder Mystery (веб-версия). В нём в игровой форме пользователю (в роли детектива Ширлак) предлагается раскрыть убийство с помощью опроса различных подозреваемых, которых играют ИИ-агенты.

Сюжетная линия, улики и алиби подозреваемых фиксированы, при этом каждый подозреваемый скрывает что-то по делу от полиции. Каждый подозреваемый знает важную информацию о других подозреваемых, что позволяет выяснить правду в процессе допроса каждого участника дела.

Исследователи Швейцарской высшей технической школы Цюриха (Swiss Federal Institute of Technology Zurich) обучили автономный роботизированный экскаватор прицельно швырять камни и небольшие материалы.

Нейросеть экскаватора на основе обучения с подкреплением была обучена бросать мяч и камни в указанную точку, которая была дальше досягаемости стрелы (до 9,5 м при дальности захвата стрелой 7,5 м). Подобные операции помогут робототехнике справляться с большим кругом задач с меньшими затратами энергии на перемещения, а также сделают её работу более безопасной.

Тестовый робоэкскаватор совершал захват и броски ковшом с двумя степенями свободы, который не был жёстко закреплён на стреле. Броски совершались как по прямой, когда в работе была одна только стрела, так и с поворотом кабины. Во втором случае точность была чуть меньше, но в любом случае бросаемый ИИ снаряд отклонялся от точки прицеливания не более чем на 30–40 см.

Ранее исследователи из Швейцарской высшей технической школы Цюриха (Swiss Federal Institute of Technology Zurich) обучили автономный роботизированный экскаватор HEAP строить стены из валунов. В ходе эксперимента экскаватор построил стену высотой шесть метров.

Пользователь из Германии сообщил, что платная версия клиента ChatGPT начала выдавать капчу с предложением проверить его на человека. Пользователю предложили вращать объекты так, чтобы они смотрели в том же направлении, что и рука манекена.

Оказалось, что эти задачи не так просты, как кажутся, потому что показанные объекты не имеют чёткого направления «вперёд», поэтому пользователю потребовалось несколько попыток, чтобы пройти такую капчу.

«Я озадачен этим. Не только потому, что я использую веб‑сайт для доступа к чат-боту и не использую API, но и потому, что я вошел в систему официально и являюсь платным клиентом. Почему меня спрашивают, человек ли я?», — удивился пользователь.

То, как это выполняется, заставляет меня поверить, что на самом деле это тренировка ИИ на пользователе, а не капча, например, чтобы узнать, что, по мнению людей, означает «вперёд» для определённых объектов. Или, если быть ещё более циничным, это может быть метод искусственной задержки запросов, чтобы не отставать от растущего спроса на использование чат-бота.

Хвостатое недоразумение покоряет GitHub!

Большинство голосов оказалось за, а поэтому, спешу сообщить о выпуске полной некастрированной репы хвостатой на GitHub!

Для тех, кто в танке, ну или под наркозом, ну или просто пофек: речь идёт о стример-тян из этой статьи

P. S.
Код всё ещё никак не правил, это по-прежнему лютая свалка функций и принтов для отладки, но уж явно в более удобном виде, чем в статье :)

Позже доработаю инструкцию по запуску, чтобы каждый мог сделать свою нейро-тян

(устроим армию нейро-стримерш/ов, чтобы они наводнили ютуб и отправили обычных стримеров на завод😈 шутка, на деле просто выпускаю репу, чтобы таким же гикам, как я, было проще повторить этот опыт; ну и посмотреть на ваши эксперименты)

«Яндекс Такси» совместно с Минтрансом разработает образовательную программу для губернаторов, транспортных чиновников, региональных министров и ответственных за цифровизацию транспорта федеральных госслужащих, чтобы объяснить им принципы ценообразования на транспорте и роль искусственного интеллекта.

«Обучение будут проводить топ-менеджеры компании и приглашенные эксперты, в том числе учёные. Они подробно опишут специфику и возможности применения технологий в общественном транспорте, такси, каршеринге и кикшеринге. Например, как устроены алгоритмы ценообразования и безопасности, как машинное обучение и искусственный интеллект помогают решать логистические и транспортные проблемы городов и повышать качество и доступность транспортных услуг», — пояснили СМИ в пресс-службе «Яндекса».

Компания рассчитывает с помощью общих мастер-классов, стратсессий и разборов практических задач выработать с чиновниками совместные планы по развитию транспортной системы в разных регионах.

27 ноября 2023 года Федеральная антимонопольная служба (ФАС) России признала сервис «Яндекс Такси» доминирующим на территории РФ. За 2023 год в ведомство поступило больше 300 жалоб, которые связаны со стоимостью поездок и с блокировками водителей и пассажиров в сервисе «Яндекс GO».

В марте в «Яндекс Такси» начали внедрять новый алгоритм, учитывающий отмены поездок со стороны пользователей. Он поможет сдерживать цены на такси, будет стимулировать пассажиров меньше отменять заказы без необходимости.

«Яндекс Музыка» рассказала Хабру о выпуске технологии «Нитро» для начинающих исполнителей, чтобы помочь им найти первых слушателей и попасть в рекомендации сервиса.

Тесты технологии показали, что за неделю «Нитро» позволяет артистам увеличить количество прослушиваний в десятки раз. Проект доступен на сервисе исполнителям с аудиторией до 5 тыс. слушателей в месяц.

«Нитро» помогает исполнителям, которые ещё не нашли своих слушателей. Новая технология позволяет составлять рекомендации в «Яндекс Музыке» не только по реакции пользователей на треки, но и по схожести композиций. «Нитро» использует нейросетевую технологию, которая анализирует звучание композиции и создаёт её аудиовектор — визуальное изображение звука. Затем алгоритмы подбирают для трека слушателей, которым нравится музыка с похожим аудиовектором. В итоге сервис рекомендует новые композицию этим пользователям.

«„Яндекс Музыка“ решает одну из самых острых индустриальных проблем артистов — так называемую проблему „холодного старта“, когда первые треки уже есть, а первых слушателей ещё нет. Каждую неделю мы получаем в среднем 55 тыс. новых релизов, и 80% из них поступают от артистов, у которых до 5 тыс. слушателей в месяц. „Нитро“ поможет им найти свою аудиторию и вдохновиться на создание новых хитов», — пояснила руководитель «Яндекс Музыки» Александра Сагалович.

«Яндекс Музыка» начала тестировать «Нитро» прошлой осенью. За это время технология помогла найти аудиторию более чем 600 начинающим артистам.

Исследование State of DevOps Russia 2024: 44% российских компаний уже используют искусственный интеллект для разработки и тестирования ПО.

Yandex Cloud совместно с «Экспресс 42» и другими партнёрами выпустили первую часть исследования State of DevOps Russia. В этом году в опросе участвовали более 4000 специалистов — от руководителей до тех, кто напрямую связан с разработкой, тестированием и эксплуатацией систем.

По данным исследования, в 2023 году 33% российских компаний увеличили IT‑бюджет. Больше всего бизнес инвестировал в найм IT‑специалистов и обновление программного обеспечения и лицензий. Для оптимизации работы ПО и DevOps‑процессов компании стали чаще применять технологии искусственного интеллекта — об этом рассказали 44% опрошенных.

DevOps‑специалисты используют алгоритмы машинного обучения для автоматизации тестирования кода, выявления аномалий в данных, управления конфигурациями систем и инцидентами. 47% респондентов отметили, что применение таких технологий положительно повлияло на эффективность работы.

Кроме этого, 41% опрошенных отметили повышение прозрачности работы с данными при работе в облаке. 50% респондентов отметили, что облака помогают повышать соответствие требования регулятора в области информационной безопасности.

Исследование State of DevOps Russia 2024 провели «Экспресс 42» при стратегической поддержке Deckhouse совместно с облачной платформой Yandex Cloud и Head Hunter, AvitoTech, Т‑Банк, JUG Ru Group и OTUS.

СМИ выяснили, что ИИ-инструмент Catch Me Up для автоматического формирования информации об участниках Уимблдонского турнира допускает фактические ошибки.

Разработчик Catch Me Up — IBM (давний партнёр и информационный спонсор теннисных турниров Большого шлема).

Ранее организаторами Уимблдона было решено использовать Catch Me Up для публикации справок об игроках до и после проведения матчей (с учётом их результатов). В первый же день соревнований инструмент стал путать положение игроков в рейтинге, а также причислял к перспективным игрокам уже состоявшихся спортсменов. В статистике от Catch Me Up отображалось неверное количество сыгранных матчей и прочие нестыковки.

Кроме того, по заверению организаторов, нейросеть Catch Me Up обучали на материалах с использованием британского варианта английского языка. Однако в первый же день инструмент выдал несколько сообщений, где использовались слова с написанием, характерным для американского варианта английского.

В 2023 году IBM и Всеанглийский клуб лаун-тенниса (AELTC), организатор теннисного турнира «Большого шлема», объявили о применении сервиса генеративного ИИ для комментирования матчей Уимблдонского турнира.

ElevenLabs представила Voice Isolator — ИИ-инструмент, который хирургически вырезает весь ненужный фон и звуковые помехи, оставляя только кристально чистый голос, будто записанный в студии.

Проект справляется даже с громким потомком воздуха, направленным на исполнителя.

ML-инженер в подкасте «Работник месяца»

Кто учит нейросети отличать котов от собак и как стать этим самым человеком — об этом и не только Никита Алтухов, ML-инженер Garage Eight, рассказал в новом выпуске подкаста. 

Вместе с ведущим они обсудили, какими бывают нейросети, где сегодня учиться для работы с ними и как вообще проходит день специалиста по машинному обучению. Переходи и слушай <3 

Инженеры Массачусетского технологического института (MIT) создали прототип бионического протеза голеностопного сустава, который делает походку пациента более естественной, а также позволяет подниматься по лестнице и даже танцевать.

Группы мышц делятся на две группы: агонисты, которые отвечают за конкретные действия, и антагонисты, которые совершают обратное движение. Учёные из MIT предположили, что отсутствие агонистов не помешает восстановить нервный сигнал и реакцию протеза, если считывать данные только с антагонистов.

Во время операции на мышцах антагонистов создают интерфейс AMI для считывания сигналов. Затем эти сигналы считывает протез голени, который с помощью контроллера декодирует и направляет сигналы на моторы голеностопа. Из-за слаженной работы нейроинтерфейса и протеза походка пациента с протезом выглядит более естественной.

Во процессе опытных экспериментов инженеры MIT выяснили, что интерфейс AMI показал свою эффективность, а также способность снижать посттравматические фантомные боли в ампутированных конечностях. По мнению сотрудников MIT, коммерческий вариант протеза станет доступен через несколько лет.

💬 Привет всем, давно меня не было в уличных гонках! Кстати у меня есть телеграм канал, а вчера вышла статья на Хабр про графы в рексисе. Сегодня я хочу поделиться с вами подборкой книг, которые читал или читаю сам в течении последних 3 месяцец. Приятного чтения!

➡️ Recommender System Handbook Third Edition - Francesco Ricci, Lior Rokach, Bracha Shapira.
Эта книга – настоящая библия для всех, кто хочет понять, как работают рекомендательные системы. Авторы раскрывают все аспекты, от базовых алгоритмов до продвинутых техник, делая ее незаменимой как для новичков, так и для опытных профессионалов.

➡️ Machine Learning System Design Interview - Ali Aminian, Alex Xu.
Если вы готовитесь к интервью на позицию RecSys ML-инженера, то эта книга – ваш верный спутник. В ней собраны ключевые концепции и вопросы, которые помогут вам набрать базовое понимание по дизайну рекомендаций или поиска.

➡️ Machine Learning System Design With end-to-end examples - Valerii Babushkin, Arseny Kravchenko.
Практическое руководство, полное примеров от начала до конца, поможет вам научиться строить системы машинного обучения, особенно спасибо авторам за дизайн документы, которые я так люблю.

➡️ The Minimum Description Length Principle - Peter D Grunwald.
Эта книга глубоко погружает в теорию минимальной длины, который играет важную роль в статистическом моделировании и машинном обучении. Если вы любите копаться в основах и понять почему вообще машинное обучение работает — welcome.