Разработка навыков для Алисы. Опыт работы с голосовыми интерфейсами, советы начинающим

    Всего месяц назад мы захотели попробовать себя в создании расширения для функционала Алисы — навыков. По опыту общения в чате поддержки Яндекс Диалогов сложилось впечатление что уже есть, чем поделиться с начинающими особенностями работы над голосовыми интерфейсами.

    В заметке хочу рассказать свои впечатления от трех недель работы нашего детского новогоднего навыка Снегурочки и о вопросах и ответах в чате разработчиков диалогов.



    Для профессионала в VUI в заметке не будет ничего нового, но дельные советы и комментарии от опытных приветствуются. Пишу впервые, прошу не судить строго.

    Почему стоит обратить внимание на Алису?
    Зачем все это: голос, навыки?
    Как создать навык?
    Общий подход и типичные ошибки.
    Текущие недостатки платформы.

    Почему стоит обратить внимание на Алису?


    Если за рубежом голосовые помощники уже стали обыденностью, многочасовые разговоры с роботом уже утекают в сеть, то у нас это пока остается на уровне взаимодействия с навигатором, болтовни детей с Алисой, баловством гиков с умными домами. Мало кто из моих знакомых заносит заметки и напоминания с помощью Siri, хотя, на мой взгляд — это один из самых удобных вариантов ее использования. С большой вероятностью в наступающем году эта ситуация изменится в лучшую сторону, ведь фундамент уже заложен:

    • Алисе исполнился только год, она учится, но уже многое умеет.
    • Выход Яндекс станции — думаю, постепенно она будет становиться умнее и более функциональной.
    • Появление в продаже в декабре первых недорогих партнерских мини-колонок.
    • Запуск школы Алисы для обучения разработчиков созданию навыков
    • Анонсированы серьезные улучшения инфраструктуры Яндекс Диалогов, в частности, «discovery навыков» — средство для удобного поиска и ранжирования навыков от сторонних разработчиков

    Все это мне подсказывает, что мы находимся в начале развития голосовых интерфейсов в России и потому мы решили начать изучение этих технологий.

    Зачем все это: голос, навыки?


    Думаю, многим уже понятно преимущество голосовых интерфейсов в некоторых случаях, но не лишним будет напомнить: иногда это самый подходящий вариант. Например, в автомобиле или на кухне занимаясь приготовлением еды, при любой другой деятельности, где руки заняты, удобнее отдавать команды голосом. Например, уже давно есть роботы-медсестры, управляемые голосом, помогающие при хирургических операциях.

    Голос — привычный людям интерфейс взаимодействия. Пожилые люди и дети без особых проблем осваивают этот метод для получения информации и управления гаджетами.

    Для людей с нарушением зрения голос и слух — являются еще более важным каналом взаимодействия с окружающей средой. Судя по чату Яндекс.Станции такая категория людей очень оценила появление такого устройства, облегчающего их жизнь.

    Продолжать перечислять кейсы не буду, если интересно, то можно детальнее узнать обо всем этом из специальной литературы.

    Навык — это программа реализующая некий диалог, который запускается заданной командой активации в Алисе и расширяющий возможности голосового помощника от Яндекса.

    Как создать навык?


    Есть уже некоторое количество хороших сторонних навыков, но еще много ниш, которые можно занять и сделать по-настоящему интересный и полезный навык.

    По созданию их есть несколько статей, в том числе и на Хабре. Есть документация, есть краткие общие рекомендации. Не стану сильно углубляться в технические детали реализации, т.к. хотелось бы поделиться общими подходами для начинающих.

    Технически навык очень похож на бота, с тем отличием, что он не может сам отправить сообщение, а только ответить на запрос пользователя.

    Вот небольшой список ресурсов которые помогут начать:Библиотеки и ресурсы для Яндекс Диалогов

    Неофициальный FAQ по работе с Яндекс Диалогами.

    В документе собраны актуальные и не очень ссылки и вопросы-ответы.
    Вышеупомянутый чат Яндекс Диалогов.

    Для начала разработки нужен аккаунт на Яндексе, сервер, на котором будет находиться и выполняться код нашей программы, вебсервер и само приложение, написанное на любом удобном вам языке, который сможет обеспечить работу по https протоколу.

    Детали реализации своих навыков я тут приводить не буду, если будет запрос от сообщества, то уделю этому внимание в отдельной статье. Тем более что подобные материалы уже есть.

    Оставлю только пример простого навыка на PHP с комментариями который, думаю, позволит сделать быстрый старт новичку.

    В репозитории находится скрипт для создания простой среды для разработки, который запускает встроенный в PHP вебсервер и используя сервис serveo.net делает локальный порт доступным из интернет:



    Сохраняем урл https://******.serveo.net — это будет урл вашего вебхука. В отличие от ngrok этот урл не изменяется со временем, не надо менять его в настройках диалога. Можете проверить доступность вебхука введя в браузере этот урл — должен вернуться json с ошибкой. Это нормально, мы не передали скрипту необходимых параметров.

    Далее регистрируем сам навык по ссылке:



    Выбираем пункт «Навык в Алисе»



    Заполняем все поля согласно подсказкам и документации диалогов:



    В поле webhook url вводим полученный ранее урл.

    Пробуем сохранить, если следовали приведенным инструкциям все должно отработать с первого раза.

    В данной статье по реализации только посоветую обратить особое внимание системе логирования действий пользователя. Я все проблемные участки взаимодействия пользователя, например, ожидаю «да | нет» а получаю иное, записываю в лог и тут же транслирую (отдельным процессом для скорости работы вебхука) в телеграм-канал для оперативного отслеживания и реагирования.

    Общий подход и типичные ошибки.


    Как я и предполагал, подходы привычные в обычной веб-разработке или разработке телеграм ботов тут мало подходят. Основное отличие — частая непредсказуемость ответов. Платформа диалогов позволяет добавлять кнопки с четкими ответами на вопрос, но пользователь часто отвечает совсем не то, что ожидает программист, привыкший следовать четкой логике.

    Пример.

    Вы хотите выучить еще одно стихотворения?
    [да] [нет]

    Ожидаем что человек ответит да или нет, но нам приходило много других вариантов:

    • Да.
    • да да
    • конечно хочу
    • да мама а что у нас кушать?
    • надоело
    • какая погода в Новосибирске?

    Все это происходит по нескольким причинам. Человек может применять различные утвердительные фразы: «конечно», «ну да», «ага», «давай» и т.п. также как и отрицательные. Бывает, что он не вовремя начал отвечать на вопрос, Алиса еще не слушает ответ, а человек уже начинает говорить, в итоге мы слышим часть фразы. Или наоборот, после того как человек ответил, он продолжает разговор с другим собеседником «в реале». Так же пользователь навыка может просто не понимать, что находится внутри стороннего диалога, и делает привычные алисо-запросы без выхода командой «хватит».

    Если мы просто повторим тот же вопрос, не распознав правильный ответ, то это может раздражать пользователя и приводить к разочарованию в вашем навыке и в голосовых интерфейсах в целом. Потому следует уделять сообщениям об ошибках отдельное внимание, иногда лучше переформулировать вопрос, уточнить его, а не задавать его снова. На тот же самый вопрос пользователь скорее всего ответит то же самое, просто громче.

    Так же следует стараться предусмотреть различные варианты ответов пользователя, выделять смысловую часть. В зависимости от ситуации иногда лучше один раз ошибиться в пользу неверного распознавания ответа, а не заставлять пользователя ответить четко. Если в ожидаемые ответы добавить что-то с паттерном (да *), то чаще будет срабатывать так как надо, а случаи, когда нам ответили «да отстань ты уже» будут уже как исключение и ничего критичного в логике программы не произойдет. Если, конечно, нам нужен точный ответ, из-за неверного распознания которого, в системе будут необратимые последствия, то тогда следует добиться от пользователя внятного ответа. Либо в случае если мы не уверены в ответе, то можем спросить дополнительно недостающую информацию.

    Каждый из случаев взаимодействия следует рассматривать отдельно.

    В приведенном выше примере мы столкнулись с тем, что пользователи просят стихотворение покороче или про какого-то персонажа («а есть покороче?», «давай про снегурочку»).

    Тут у нас появляются варианты — либо добавлять новые уровни меню, но не забывать о «человечности» диалога или реагировать на такие запросы в соответствии с ожиданиями пользователя, но явно их не предлагая.

    Как мы в начале ни продумывали эту диалоговую часть, мы поняли, что реальное использование лучше покажет желания пользователя, потому свой первый навык начали с минимальным функционалом, постепенно добавляя возможности нашей Снегурочки, а также реакции на востребованные, но непредусмотренные нами заранее запросы.

    Использование сторонних API

    Обратили внимание, что для предоставления в своих навыках каких-то полезных функций, разработчики прибегают порой к чрезмерному использованию сторонних API. Однако не стоит забывать, что время ответа вашего webhook не должно превышать 1,5 секунды. Иногда это может стать причиной отрицательного опыта пользователя с навыком, который то отвечает корректно, то пишет: «что-то пошло не так».

    Особенности распознавания именованных сущностей: не все имена, города распознаются корректно, и потому желательно предусмотреть это в своем навыке. Мы пока, чтобы не лишать возможности ребенка с нераспознанным Яндексом именем общаться со Снегурочкой пришлось прибегать к некоторым «костылям». Сразу учитывайте это при разработке, чтобы потом не огорчать пользователей с именами Слава или Надежда, например. Надеемся, Яндекс вскоре это поправит.

    Произношение слов

    Существующий инструмент тестирования синтеза речи не всегда соответсвует тому, что будет у вас в навыке на самом деле. Не ленитесь предусмотреть механизмы добавления tts к любым вашим ответам. Мы понадеялись на движок Яндекса, и часть фраз в нашем навыке теперь уже сложно разметить для более качественного произношения (без больших изменений в коде). Учтем на будущее.

    Очень помогли простые, но достаточно эффективные PHP функции для нечеткого сравнения слов:
    similar_text(), levenshtein(), в других языках тоже есть подобные инструменты. Ну, и, конечно, регулярные выражения, куда без них.

    Эти функции позволили, например, принять корректно ответ на загадку с частично верным ответом — не точно распознанный, в разных склонениях.

    Это, конечно, для специалистов по NLP (Обработке естественного языка) будет выглядеть несерьезно, но, повторюсь, заметка — для начинающих.

    Текущие недостатки платформы


    Кратко обозначу основные претензии разработчиков к Яндекс Диалогам, которые заметил в чате.

    Долгая, часто кажущаяся нелогичной, модерация. Бывает, что ваш навык не проходит модерацию по причине того, что у вас, скажем, слишком общее имя навыка, например, «погода в Крыму» при том, что уже есть навык с подобным именем — «Погода в Северодвинске». Так понимаю, что связано это с тем, что раньше требования к именам и активационным словам были проще и сыну маминой подруге тому вот парню повезло, а у вас так уже не получится. Ищите другую фразу или попробуйте использовать бренд.

    Не всегда документация соответсвует действительности. Сама платформа развивается быстро, документация не поспевает, трактуется пользователями и представителями яндекса иногда по-разному.

    Платформа пока предоставляет лишь базовые средства для дебага навыков.
    При добавлении навыка в панель разработчика ваш вебхук уже должен отвечать правильно, или просто произойдет ошибка валидации. Что за ошибка, какой JSON был отправлен и какой пришел — мы не увидим. Если же вам удалось добавить навык, то у вас будет минимальная панель с содержимым лишь последнего запроса-ответа и все! Никаких средств проверить как это будет в реальности работать и звучать на устройстве до модерации нет. Есть сторонний эмулятор, который достаточно нестабильно работает, не во всех браузерах, да и не соответсвует текущему протоколу.

    Есть и другие пожелания и запросы от разработчиков, такие как: интеграция с умным домом, определение собеседника по его голосу, возможность выбирать голоса для навыков с более качественной генерацией, интеграция платежных систем, интеграция с Яндекс аккаунтом, в том числе для работы с навыком с разных устройств под одним пользователем, продуманная система приватных навыков. Но это — функции требующие тщательной проработки и, с точки зрения безопасности, удобства. Думаю, Яндекс сможет предоставить эти возможности, когда реализует это на должном уровне. Однако, проблемы с модерацией, дебагом и местами неактуальной документацией могут сильно мешать начинающим освоится в платформе.

    Помогает то, что в чате поддержка стабильно отвечает, так же организовалось уже более менее опытное и отзывчивое сообщество, которое очень помогло мне, поможет и вам. На многие претензии поддержка достаточно оперативно реагирует сообщениями «приняли к сведению», «про документацию знаем, исправим», «насчет модерации решаем». Ок, мы ждем с нетерпением.

    Для быстрого старта советую опубликовать приватный навык, они сейчас проверяются с минимальными требованиями:

    • Навык проверяется на имя и активационную фразу, так как база общая для всех разработчиков.
    • Вебхук должен корректно отвечать на запросы.
    • Приватный навык должен сообщать о том, что навык закрытый в своем приветственном обращении. Чтобы пользователь, случайно запустивший его, был уведомлен.

    Совет из чата:

    Однажды опубликованный навык можно использовать для тестирования своих других диалогов в ожиданиях модерации путем проксирования запросов с опубликованного вебхука на разрабатываемый, фильтруя по user_id.

    Вывод


    В целом сами голосовые интерфейсы показались очень интересной темой, все более востребованной в будущем, планирую больше погружаться в нее, читая специальную литературу, инструкции и советы зарубежных аналогичных сервисов (Google, Amazon, Siri, etc.).

    Еще раз напомню о яндексовской школе Алисы, если кого-то как и меня заинтересовала эта тематика.

    Еще несколько ссылок по теме:

    Блог Яндекс Диалогов
    Youtube канал Яндекс Диалогов
    Легкий диалог
    Книга Designing Voice User Interfaces
    Natasha: библиотека для извлечения именованных сущностей
    Телеграм канал, информирующих о новых навыках
    Неофициальный каталог навыков
    Поделиться публикацией

    Комментарии 11

      +2
      Для быстрого старта советую опубликовать приватный навык, они сейчас проверяются с минимальными требованиями:

      Навык проверяется на имя и активационную фразу, так как база общая для всех разработчиков.


      Почему база фраз общая для всех разработчиков, если навык при-ват-ный? Меня этим Алиса отторгнула от себя. У меня есть аккаунт Яндекса и колонка, дайте мне в рамках моего акка делать, все, что я хочу, безо всяких модераций! Хоть погоду в Крыму, да что угодно, это мой умный дом, как хочу, так и командую, хоть матом. И не собираюсь публиковать эти «навыки».

      Чушь какая-то.
        +1
        Мне логичным кажется перед запуском дискавери навыков сделать чистку от мертвых навыков как минимум.
        Претензии по поводу этих недоприватных навыков самые частые в чате, думаю Яндекс что-то думает по этому поводу. Просто если это сделать то сделать это нужно хорошо, привязка просто по user_id мне кажется тоже костылем но немного другого уровня.
        user_id, насколько понял, генерируется на устройстве при установке. Он никак не привязан к аккаунту, потенциальный пользователь его не видит.
        0
        А звонить-то она когда научится по записаной книжке? Ну вот правда — с точки зрения меня как пользователя, допустим, навигатора с Алисой — это бред и адски неудобно. Потому в дороге постоянно сваливаюсь обратно в google…
          0
          Как говорят часто в поддержке
          Традиционно не раскрываем сроки

          Наверное тот же случай ;)
          +2
          А чего-же взрослая Снегурочка неопубликованная?
            0
            Если этот комментарий наберет 1000 лайков — опубликуем! ;)
            +1
            С диалогами пока еще очень сыро. Не хватает готовых инструментов для работы по распознаванию текста и его анализа. А без этого можно делать только диалоги с жестко заданным алгоритмом.
            Попробовал сделать игру угадай животное (что-то похожее на акинатора), в результате убедился, что без сложных алгоритмов по проверки ввода пользователя и модерации приложение не жизнеспособно. Оно довольно быстро забилось странными фразами и ругательствами, за что, видимо, и было снято с публикации спустя пару месяцев.
              0
              А поделиться можете? может реанимируем — интересно.
                +1
                Не вижу смысла реанимировать, надо полностью переделывать.

                Очень простая программа, основанная на дереве поиска («Угадай животное»). По этому же принципу работает и известный сайт «akinator».

                Первоначальное состояние базы знаний: (большое? (да — слон) (нет — мышь))

                Программа начинает поиск с корня дерева, задавая пользователю вопросы, стоящие в узлах. Да — влево, нет — вправо. Когда программа доходит до листа, то:

                1) животное вычислено -> компьютер выиграл
                2) животного нет в БЗ -> компьютер спрашивает «чем ваше животное отличается от...» и добавляет в дерево поиска новый узел.

                  0
                  Ну тут главное иметь хорошую базу чтоб навык работал интересно, так понимаю.
                  Я как-то навскидку искал такие базы, ровно то же хотел сделать, но не нашел. Думал можно эту почистить и дать вторую жизнь навыку.
                    0
                    У меня на старте была база из 2 животных, далее поиграл несколько раз и животных стало с десяток. А потом уже заполняли другие игроки.
                    Сама база pastebin.com/RthBtSh1
                    Если будут вопросы, по структуре — задавайте.
                    Смешной момент из базы:
                    Свинью люди б*** вы что тупые смотрите что вы пишите в отличии от других животных то а алиса все это потом запоминает и использует и диалог тогда получается тупой либо адекватно отвечайте либо удалите на*** яндекс

            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

            Самое читаемое