Эксплуатация уязвимости в чатботе Microsoft Tay (март 2016 года)

В то время как одни учёные совершенствуют системы машинного обучения, другие учёные совершенствуют методы обмана этих систем.

Весной 2016 года компания Microsoft была вынуждена «усыпить» своего чатбота Тэй — программу ИИ, которая моделировала личность и стиль разговора 19-летней девушки и обладала функцией самообучения. Разработчики надеялись, что Tay с каждым днём будет становится всё умнее, впитывая опыт разговоров с тысячами пользователей интернета. Вышло иначе. Множество твитов Тэй пришлось удалить из-за вопиющего расизма и неполиткорректности.

Спустя три года специалисты из университета штата Мичиган и лаборатории TAL AI подвели научную основу под хулиганство интернет-троллей. Они разработали систему Reverse Dialogue Generator (RDG) — «обратный генератор диалогов». Он заставляет нейросетевой чатбот сказать именно ту фразу, которую вы хотите.

Понятно, что RDG и сам представляет собой нейросеть. Если вкратце, он тоже обучается на диалогах людей, как и нормальные нейросетевые чатботы, только получает подкрепление не за выход, а за вход: если генерируемый вход соответствует заданному.

В Google попытались создать чат-бота, максимально похожего на человека. Результатом разработок стала Meena — модель, работающая на основе нейросетей. По оценке Google, чат-бот способен достигнуть большей «человечности» в беседе по сравнению с другими моделями.

В последнее время в интернет СМИ появляется очень много информации о том, что чатботы в скором времени убьют мобильные приложения. Так ли это на самом деле?

Всего пару лет назад большинство интернет-пользователей было уверено, что популярные социальные сети «убьют» практически все мессенджеры. Но сегодня наблюдается совершенно противоположная тенденция. В начале 2016 года в самых востребованных мессенджерах было больше активных пользователей, чем в социальных сетях. Популярные приложения для общения ежедневно пополняются новыми участниками. Приведем количество активных пользователей мессенждеров в месяц на данный момент:

Согласно отчету Deloitte, AI-платформы позволят государственным организациям экономить 1,2 миллиарда часов и 41,1 миллиарда долларов в год на Service Desk и управлении услугами за счет автоматизации рутинных задач. При этом, аналитики отмечают, что чатботы помогут использовать возможности систем ИИ для автоматизации бизнес-процессов.

В этом материале говорим о пользе чатботов для предприятий и ITSM-процессов, а также о том, какие AI-решения предлагают в ServiceNow.

Популярность диалоговых систем тесно связана с термином “искусственный интеллект”. Такие системы обычно основаны на нейросетях и других моделях машинного обучения.
Однако, такой подход порождает неожиданные трудности

Поведение можно лучше контролировать, добавив в систему немного математической строгости. На помощь приходят классические алгоритмы — те самые, которые рассказывают в олимпиадных школах и используют на АСМ.

А под катом — палиндроматические сэндвичи, алгоритмизированные официанты, немного теории формальных языков и рассказ о том, к чему мы это все.

Чатботы и искусственный интеллект для понимания естественного языка (NLU – Natural Language Understanding) тема достаточно горячая, про нее не раз говорилось на Хабре. Тем не менее достаточно редко попадаются верхнеуровневые и структурированные обзоры этих технологий и рынка в целом. В своей статье мы попробуем немного разобраться, чем обусловлен спрос на эти технологии, как выглядит современная диалоговая платформа для NLU, какие компании и разработки присутствуют на этом рынке.

Как мы уже писали в своей первой статье, мы в Just AI специализируемся на технологиях искусственного интеллекта для понимания естественного языка (NLU). У нас есть своя платформа для разработки разговорных ассистентов, как текстовых, так и голосовых. Платформа имеет развитую функциональность для решения NLP-задач (кластеризация логов, поиск семантически близких фраз и др.) и собственный язык разработки (Just AI DSL). С использованием DSL команда лингвистов-разработчиков пишет код сценариев чатботов, интеграционные модули для связи с внешними системами, а также автотесты.

В этой статье мы расскажем о созданном нами инструменте для разработки ботов под разные платформы, в том числе для Яндекс Диалогов, без знания DSL и навыков программирования.

Сегодня в нашем дайджесте история одного PWA, проблемы раскрашивания, 10 фактов к 10-летию App Store, распознавание текста за 10 минут, прототипирование, цвета, микровзаимодействия и много другого!

Про автоматизацию общения с клиентами сегодня не пишет только ленивый. Но вот как начать ее использовать на практике — об этом рассказывают редко.

Мы в Just AI понимаем, что автоматизация — это тренд, и знаем, как она может помочь вашему малому и большому бизнесу. И сегодня решили написать увлекательный туториал о том, как с помощью Google таблиц и конструктора ботов Aimylogic можно без труда и без программирования автоматизировать первую линию общения с вашими клиентами, чтобы получить из этого реальную пользу, а не просто создать очередного бесполезного чат-бота.

Новостные издания так и разливались: «В 2016 году переход к парадигме ботов принесет куда более далеко идущие и интересные последствия, чем переход от веба к приложениям, который произошел в прошлом десятилетии».

Чат-боты были На Очереди В Тренд.


Наши надежды парили в заоблачных высях. Индустрия ожидала новой эры инноваций с горящими глазами и хвостом трубой: пришло время общаться с машинами. Это казалось логичным. Все знаки указывали на безумный успех. Обмен сообщения вышел на пик! Диалоговый маркетинг стал новомодным термином! А WeChat! А Китай!

К тому же становилось очевидным, что на рынке этих дурацких приложений с их трудоемкой разработкой предложение сильно превышает спрос.

На Mobile World Congress 2017 чат-боты занимали все первые полосы. Организаторы конференции ссылались на «всеобщее согласие с тем, что в будущем внимание брендов и корпораций неизбежно сместится на чат-боты». Фактически единственный серьезный вопрос состоял в том, кто именно монополизирует рынок; то, что чат-боты «взлетят», не подлежало сомнению:

«Появится ли платформа, которая займет доминирующее положение в экосистеме чат-ботов и личных помощников?»

Год спустя мы получили ответ на этот вопрос: нет. Потому что не возникло даже самой экосистемы, в которой можно было бы доминировать.

14 ноября в Москве пройдет Conversations – первая в России конференция для разработчиков и бизнеса, посвященная технологиям conversational AI, разговорного искусственного интеллекта. Настоящее и будущее индустрии разговорного AI на Conversations обсудят эксперты Яндекс, Google, Huawei, МТС, Mail.ru, iPavlov, «Кошелек», HeadHunter, Voximplant, «Наносемантика», Digital Intelligence и другие компании. Организатор события – Just AI.

О чем конференция?

К 2019 году, по данным Strategy Analytics и Canalys, доступ к виртуальным голосовым помощникам будут иметь более половины всех смартфонов, а число умных колонок в домах по всему миру превысит 100 миллионов устройств. Не сдают позиции и чатботы: Juniper Research прогнозируют, что экономия от их внедрения к 2022 году вырастет в 400 раз и составит более 8 миллиардов долларов в год.

Чтобы эти прогнозы сбылись, экосистема вокруг разговорного AI должна постоянно развиваться. На конференции Conversations разработчики, вендоры и представители бизнеса – ритейла, финтеха, телекома – смогут вместе разобраться, как превратить разговорный AI из мирового тренда, от которого многого ждут, в инструмент, которым все действительно пользуются.

О чем расскажут хедлайнеры?

Все знают: догфудить собственный продукт (ну, есть корм своей собаки – разрабатывать продукт, который сам же используешь) – это правильный во всех отношениях принцип. Работая над конструктором чатботов Aimylogic, мы в Just AI прекрасно представляли, каким он должен быть, но поначалу не догфудили – наши NLU-инженеры обычно сразу пишут код. И поэтому решили пойти по пути lean startup: выкатить бету, собрать ранний фидбэк от пользователей и писать Aimylogic по-живому. Рассказываем, как мы вместе с пользователями шли от беты к релизу.

Я поговорил с Михаилом Ларионовым, который сделал фантастическую карьеру от разработчика инди-игр в России до руководителя разработки платформы Facebook Messenger в Калифорнии. Теперь Миша делает свои продукты про то, что ему по душе — например, про развитие сообществ. Это седьмое в серии интервью с мастерами своего дела о продуктовом подходе, изменении поведения и предпринимательстве.

27-28 июня в Санкт-Петербурге пройдет конференция Conversations – единственное в России событие, посвященное технологиям разговорного искусственного интеллекта. Как разработчикам заработать на conversational AI? Каковы плюсы, минусы и скрытые возможности разных диалоговых платформ и методологий? Как повторить успех чужих голосовых навыков и чатботов с AI, но не повторять чужие эпик-фейлы? В течение двух дней участники Conversations и эксперты Google, Яндекс, МТС, Just AI, Мегафон, BRLab, Ozon Travel, DPD, EORA, Аэроклуб ИТ, Ready for Sky будут разбирать цифры, прогнозы, свежие кейсы и технологические тренды разговорного AI.

Пока Google готовил глобальное обновление для русскоязычного Ассистента – с новыми голосами, блэкджеком и встроенными оплатами, мы решили создать для него собственную игру. Мы экспериментировали с жанрами, сюжетом, пасхалками, озвучкой и внутриигровыми платежами. В итоге получился дико интересный опыт, который может повторить каждый, кто хочет сделать первый шаг в геймдев через голос. На примере квеста «Мир Лавкрафта» делимся соображениями об играх для голосовых ассистентов: как разработать и какие есть возможности для монетизации.

Вот уже почти год Яндекс вручает денежную Премию Алисы за самые популярные и интересные навыки для своего голосового ассистента. Анна Савинкова, не будучи программистом, гейм-девелопером или ux-дизайнером, разработала голосовой квест «Цитадель» в двух частях, каждой из которых удалось завоевать Премию в категории «Игры и развлечения».

Под катом — ее история про поиск инструмента для разработки, сложности голосовой навигации по игре, проектирование «рюкзака с артефактами» с помощью JavaScript, настройки health points с укусами волков и исцеляющими шматками сала, эксперименты с аудиторией и продвижением голосовой игры в соцсетях. Вдруг этот опыт поможет выиграть и вам. Ну а картинка на тему «Как разработать призовой навык своими руками», а заодно — оригинальная иллюстрация к «Цитадели».

Начнём с новостей. Вчера Яндекс.Облако анонсировало запуск сервиса бессерверных вычислений Yandex Cloud Functions. Это значит: ты пишешь только код своего сервиса (например, веб-приложения или чатбота), а Облако само создаёт и обслуживает виртуальные машины, где он запускается, и даже реплицирует их, если возрастает нагрузка. Думать вообще не надо, очень удобно. И плата идёт только за время вычислений.

Впрочем, кое-кто может вообще не платить. Это — разработчики внешних навыков Алисы, то есть встроенных в неё чатботов. Написать, захостить и зарегистрировать такой навык может любой разработчик, а с сегодняшнего дня навыки даже не надо хостить — достаточно залить их код в облако в виде той самой бессерверной функции.

Но есть пара нюансов. Во-первых, ваш питонячий код может требовать каких-то зависимостей, и затаскивать их в Облако — нетривиально. Во-вторых, любому нормальному чатботу нужно хранить где-то состояние диалога (stateful поэтому); как сделать это в бессерверной функции проще всего? В третьих, а как вообще можно быстро-грязно написать навык для Алисы или вообще какого-то бота с ненулевым сюжетом? Об этих нюансах, собственно, статья.

Пока боты неспособны беседовать так, как люди. Но исследователи ИИ из Facebook уже активно проникают в эту область; это может серьёзно повлиять на мессенджеры компании, и не только

В 2015 году чатботы были очень популярной темой. Одним из наиболее раскрученных был M от Facebook, который, по задумкам компании, должен был стать гибким ботом общего назначения, способным на очень многое – заказ товаров, доставку подарков, резервирование столиков в ресторане и планирование путешествий. Однако шумиха оказалась слишком громкой для полученного результата. Когда Facebook проверила своего М на 2500 человек из области залива Сан-Франциско, программа не справилась с большинством порученных ей задач.

26 ноября в Москве пройдет Conversations – конференция по разговорному искусственному интеллекту для разработчиков и бизнеса. Про инструменты, кейсы, фейлы, модели монетизации, перспективы и ограничения рынка будут говорить МТС, МегаФон, Билайн, Tikkurila, Банк Открытие, Яндекс.Облако, Speech Analytics, Cardif, iPavlov, «ДоДо пицца», МФТИ и другие интересные компании (например, международное аналитическое агентство Canalys!).

В общем, если вы неравнодушны к речевой аналитике и NLU, разрабатываете скиллы для голосовых ассистентов или чатботов, изучаете диалоговые платформы, хотите прокачать себя в voice UX/UI (или просто интересуетесь индустрией conversational AI), добро пожаловать под кат! Там подробнее про хедлайнеров и промокод на покупку билета.

Сегодня решил-таки описать последний проект, т.к. это прикольное и в то же время не стандартное решение.

Начало

Есть большой сегмент магазинов, услуг и вообще бизнес моделей, по которой все продажи строятся через соцсети. Проекты не имеют сайтов, CRM, даже не планируют их заводить. Пока вы небольшие, то не думаете об автоматизации или оцифровке, а переписываетесь в директе, и всё хорошо. Но если поток заявок большой, то надо что-то делать.