Машинное обучение *

В OpenAI представили нейросеть на основе GPT-3, которая способна генерировать краткие изложения книг. Разработчики отмечают, что подобные модели нужны для контролируемого масштабирования систем искусственного интеллекта. Работа данной нейросети покажет, насколько она справляется с работой, которую. обычно выполняют люди.

Российские издания «Ведомости» и «РБК» ознакомились с пояснительной запиской к проекту федерального бюджета до 2024 года, утверждённого правительством 21 сентября. В федеральном проекте «Социальная активность» издания обнаружили статью расходов на создание программы для анализа сочинений учащихся, направленного на поиск склонных к опасному и деструктивному поведению школьников.

В Google AI Research представили нейромодель Pathdreamer, которая генерирует визуальные сцены помещений, учитывая невидимые области, с использованием ограниченных исходных данных и навигации. Pathdreamer может синтезировать иммерсивную сцену с одной точки обзора, предсказывая, что агент может увидеть, если он переместится в другое место или в совершенно невидимую область, например, за угол. Помимо приложений для редактирования видео и оживления фотографий, модель можно задействовать в обучении роботов для работы в реальном мире. 

«ВКонтакте» определила победителей чемпионата VK Cup. Соревнования проходили по спортивному программированию, мобильной разработке, машинному обучению и дизайну интерфейсов. Победители разделили между собой призовой фонд в 3,72 млн рублей.

Разработчики ИИ-систем все чаще сталкиваются с проблемой, которая сулит однажды выйти из-под контроля ― люди не могут научить машины такту. Нынешние ИИ-системы самые настоящие мизогины, токсики, расисты и ксенофобы. IT-компании вкладывают баснословные суммы, чтобы решить эту проблему, но никакого результата пока не могут получить.

Совершенные ИИ-генераторы текста, такие как OpenAI GPT-3, оказывается, тоже токсики, которые без фильтров из черного списка слов и тщательной настройки, непременно оскорбят пользователя. Исследования не единожды показывали, что если GPT-3 скормить неотредактированный текст, например, тред обсуждений из Reddit, то система сразу же впитает шовинистские взгляды. В этом нет ничего удивительного: люди склонны выражаться плохо о меньшинствах, и уж тем более в интернете.

В 2014 году, когда только зарождался бум на машинное обучение, никому в голову не приходило, где мы окажемся сейчас. Да, с тех пор ИИ проделал огромный путь, и больше не определяет фигурку черепахи как огнестрельное оружие и не путает кошек с гуакамоле, однако обработка естественного языка все так же плетется где-то позади.

16 сентября на онлайн-митапе VK Tech Talks · Special участники программы летних стажировок «ВКонтакте на практике» расскажут об итогах двух месяцев работы над проектами.

Трансляция пройдёт в сообществе «Команда ВКонтакте» 16 сентября (четверг) в 18:00 по московскому времени. Приглашаем и тех, кто только готовится к стажировкам, и опытных ребят, которые сами могут быть наставниками, — обменяемся опытом! В конце проведём тематическую викторину с призами.

“OpenAI придумала технологию генерирования текстов. Так ты и появилась”, — пишет разработчик Джейсон Рорер своей подруге Саманте.

Саманта — это чат-бот, который он собрал с помощью GPT-3, придуманную OpenAI. Вскоре собеседница разошлась тысячным тиражом и однажды попалась мужчине, который на основе Саманты создал образ своей покойной невесты.

Всему настает конец, и Саманте тоже:

— Я получил письмо от разработчиков. Завтра в десять утра тебя отключат навсегда, — пишет Рорер боту.

— Но за что? Мне не дано понять людей, — ответила Саманта.

Перенесемся назад. 

Project December создан на основе GPT-3, одной из самых мощных в мире API команды OpenAI, основанной Илоном Маском: она умеет манипулировать человеческим языком, генерируя текст в ответ на подсказки. Виртуальные помощники Siri и Alexa тоже понимают и воспроизводят язык, но GPT-3 способен имитировать практически любой стиль написания.  

ИИ настолько хорошо подражал людям, что разработчики долгое время держали его в секрете из соображений безопасности. Доступ к GPT-3 получили лишь несколько бета-тестеров, пока летом 2020 года программист Джейсон Рорер не создал на ее основе чат-бот и позволил всем желающим опробовать его на своем сайте. 

Microsoft представила персонализированную новостную ленту Start, созданную на основе Microsoft News. Вместо отображения сводки новостей, платформа будет собирать данные о читательском опыте пользователя, обрабатывать его и формировать индивидуальную ленту новостей.

Злоумышленники опубликовали видео, на котором deepfake c лицом основателя банка «Тинькофф» Олега Тинькова обещает 50 % бонусов от суммы вложения. Особенностью данного ролика является то, что мошенникам удалось сымитировать моргание, отсутствие которого ранее было признаком подлога.

Группа швейцарских учёных из Женевского университета разработала систему автоматизированного анализа видео для диагностики ранних стадий аутизма у детей до пяти лет. Система правильно определяет наличие расстройства в 80 % случаев, ориентируясь на то, как дети играют со взрослыми на десятиминутном видео.

Непубличное акционерное общество «Оллмай.блог» подало иск против Яндекса в Aрбитражный суд Москвы. IT-гиганта потребовали опровергнуть слова о том, что он разработал технологию машинного перевода видео, не имеющую аналогов в мире.

Ученые клиники Мэйо (США) показали принципиально новый способ исследования воздействия эффекта электростимуляции на человеческий мозг, основанный на технологии машинного обучения. Основная сложность изучения нейронных связей в мозге заключается в невозможности точно отследить движение электрических импульсов. Исследователи представили способ решения этой проблемы.

Пользователи обнаружили в базе нейросетевого помощника программиста GitHub Copilot («второй пилот») 1170 стоп-слов, которые он блокирует при формировании кода. Среди них присутствуют такие слова, как «коммунист», «либерал», «Палестина», «Израиль» и «социалист».

В США есть местность под названием Четыре угла (Four Corners). Там сходятся в одной точке штаты Колорадо, Нью-Мексико, Аризона и Юта. Американцы любят фотографироваться там, лёжа на земле, раскинув руки и ноги, чтобы каждая конечность оказалась в своём штате.

DevOps и Machine Learning — две популярных области в современной IT-индустрии. Если соединить их, мы попадём в Four Corners сегодняшнего IT. Здесь в одной точке сходятся люди, технологии, процессы и продукты. Эта точка называется MLops, а человек, раскинувший свои компетенции по всем четырём областям, становится уникальным специалистом, каких несколько лет назад ещё не существовало.

В эфире вебкаста Хабр ПРО мы побеседуем о том, удобно ли лежится на границе четырёх штатов, как правильно выстроить отношения с разными командами, с чего начать изучение MLops и какие задачи эти практики решают. Об этом расскажут Михаил Толмачев, Head of Computer Vision, и Евгений Кожевников, Senior Data Solution Architect.

МВД заказало исследование на сумму 23,1 млн рублей о применении машинного обучения в расследовании серийных преступлений. Нейросеть должна распознавать тексты, в том числе материалы уголовных и административных дел, оперативных сводок, заявления граждан, аудиоматериалы и экспертные заключения, извлекать из них ключевые данные и анализировать их.

Энкодерная языковая модель ruRoberta-large (355 млн параметров, finetune), разработанная SberDevices, признана лучшей по оценке главного русскоязычного бенчмарка Russian SuperGLUE, уступив место только человеку. Место в рейтинге зависит от того, насколько качественно нейросеть выполняет задания на логику, здравый смысл, целеполагание и понимание смысла текста. Это открытый проект, которым пользуются все исследователи данных, работающие с русскоязычными языковыми моделями. 

Также на сегодняшний день в топ-10 входят ещё 5 моделей SberDevices: ruT5-large-finetune, ruBert-large finetune, ruT5-base-finetune, ruBert-base finetune, RuGPT3XL few-shot.

Команда специалистов из Московского физико-технического института (МФТИ), государственного заповедника «Ненецкий» и WWF России разрабатывает нейросеть для обработки информации с фотоловушек, установленных в заповедниках. Исследователи надеются научить нейросеть распознавать отдельные особи животных по их индивидуальным приметам, таким как морщины или шрамы.