Конечно, слышали и многому учимся. Технически мы сделали наши дообученные Llama-2 70b примерно одновременно, но про нашу модель правильнее сказать "третья коммерчески доступная", среди моделей, развернутых на инфраструктуре и с интерфейсом в виде продукта.
Saiga Team - это профессиональная команда, которую мы очень уважаем. И думаем, что Saiga 70b, открытая модель, сопоставима с нами и моделями этого уровня. Будем рады сравнению и попробуем и сами его сделать.
Илья, спасибо за комментарий (не токсичный, все ок!)! Действительно, вы правы, примерно так все и есть. И мы не видим здесь чего-то зазорного. Цель нашей статьи как раз в том, чтобы рассказать, что уже сегодня можно сделать на базе Llama-2, не имея эксклюзивного доступа к суперкомпьютерам, ресурсам и данным, а не в том, как создать свою LLM с нуля.
Мы рассказываем о том, что постарались предложить один из подходов к сравнению результатов работы моделей и применить его на практике. Наши тестовые данные открыты, там пока 200 вопросов, структурированных по темам, которые нужны на практике - нам и нашим клиентам. Мы применили их к разным моделям и сделали тест открытым - любой желающий может расширить его и сравнить результаты всех текущих и будущих моделей самостоятельно.
Да, один из наших клиентов, Банк АкБарс, как раз решал таким образом, как вы описали, задачу по внутренним обучениям: по сути, бот в Телеграме играл роль консультанта по обучению. Вот тут про него мы рассказывали.
По структуре боты похожи на личный кабинет на edtech-платформах и приложениях, но самостоятельная разработка бота на конструкторе сэкономила время и деньги компании. В 2020 году, когда командировки стали невозможны, значение удаленного обучения возросло — чат-бот обучил 2726 человек, в 27 удаленных регионах удовлетворенность обучением выросла с 62 до 75%.
Там же, по ссылке, вузовский кейс, но немного другой — бот для абитуриентов. Но принцип тот же, что и для защиты: бот отвечает на бесконечные типовые вопросы.
Добрый день.
Aimybox – опенсорсное решение, а значит, бесплатное.
В самой коробке платить нужно будет за ASR/TTS (распознавание и синтез речи), – но и тот есть бесплатный, если приложение на андроид (как раз который используется в статье); а также за диалоговую систему, если писать кастомные навыки.
Дальше мы в статьях будем пользоваться JAICF как диалоговой системой, он также опенсорсный; но можно использовать платные аналоги. В самом JAICF для понимания текста можно использовать паттерны (бесплатно) или NLU-систему типа RASA или CAILA (платно).
Да, очень многие вас в этом поддержат. Мы думаем, какое-то время придется подождать — и пока навыки станут качественными, удобными с точки зрения UX, хорошо продуманными, и пока сам этот новый паттерн взаимодействия с ассистентами и интернет-сервисами станет привычной и неотъемлемой частью жизни (ну притом, что голос — самый естественный инструмент и так). Например, когда вам попадется (а вопрос с дискавери, удобным поиском навыков еще не решен) классный навык для кухни — не только таймер, но и, предположим, поиск рецептов или инструкции по всяким кухонным делам. У Alexa есть такой, причем для умного экрана — учень здорово, навык популярен.
В общем, это вопрос времени. Мобильные приложения в сторах поначалу тоже были несоверешенны, и посмотрите на них сейчас) Экосистема Алисы развивается очень быстро, но развитие — в любом случае процесс.
Да-да, получил) Все призы Яндекса в рамках Премии Алисы — денежные. Размер наград там варьируется от 50 до 150 тысяч рублей за премиальный навык. Суммы могут меняться месяц от месяца, но Яндекс их не скрывает — обо всем подробно пишет в блоге Яндекс.Диалогов.
Получается, что денежный профит от разработки навыков можно получать тремя способами: зарабатывать на премиях, разрабатывать навыки для Алисы по заказу брендов и через внутреннюю монетизацию (например, через рекламу или когда будут реализованы встроенные покупки, что особенно актуально для игровых скиллов). Как-то так.
Ну а экосистема любого голосового ассистента тем лучше, чем навыки разнообразнее, полезнее и интереснее, чем больше у них интеграций с реальным миром.
Денис, спасибо за фидбек! По поводу экрана: мы скоро откроем для публики новый продвинутый инструмент для разработки навыков и других AI-решений с разговорным интерфейсом, в которых как раз можно будет реализовать работу со списками и разные нестандартные кейсы. В т.ч. на Kotlin.
Вообще перечислять больше двух вариантов — только путать пользователя. Можно сделать ход конем: «Есть свежая газета N — показать ее или поискать другой вариант?».
Тут сложно не согласиться. Какие-то слабые места, конечно, можно отработать, создавая навыки для Алисы самостоятельно (та же вариативность ответов — это все вопрос качества проработки сценария). Но, кстати, Яндекс старается отрабатывать фидбэк. И если вы поделитесь замечаниями по «Сказкам» с разработчиками, они прислушаются, у вас ведь резонные вопросы. Еще есть телеграм-канал для разработчиков навыков Алисы — @yadialogschat, там тоже можно поделиться мыслями.
Альтернативные вопросы — дело обычное. Например, когда у нас спрашивают «Ты будешь борщ или окрошку?», мы или выбираем один из вариантов, или отказываемся, или зачем-то отвечаем не на поставленный вопрос. В последнем случае автор вопроса может переспросить иначе, чтобы уточнить. Так и с голосовым ассистентом.
Возможно, проклятье, что тяготеет над этим поместьем Дюран (ну, которое на картинке), настолько сильное, что даже игровые иллюстрации сеют смуту и хаос :(
Борис, большое спасибо за обратную связь! Дообучали на 8 Nvidia Tesla A100 40GB
Запрещена к коммерческому использованию была только первая версия Llama. Llama2, которую мы использовали в качестве базовой модели, разрешена.
Конечно, слышали и многому учимся. Технически мы сделали наши дообученные Llama-2 70b примерно одновременно, но про нашу модель правильнее сказать "третья коммерчески доступная", среди моделей, развернутых на инфраструктуре и с интерфейсом в виде продукта.
Saiga Team - это профессиональная команда, которую мы очень уважаем. И думаем, что Saiga 70b, открытая модель, сопоставима с нами и моделями этого уровня. Будем рады сравнению и попробуем и сами его сделать.
Илья, спасибо за комментарий (не токсичный, все ок!)! Действительно, вы правы, примерно так все и есть. И мы не видим здесь чего-то зазорного. Цель нашей статьи как раз в том, чтобы рассказать, что уже сегодня можно сделать на базе Llama-2, не имея эксклюзивного доступа к суперкомпьютерам, ресурсам и данным, а не в том, как создать свою LLM с нуля.
Мы рассказываем о том, что постарались предложить один из подходов к сравнению результатов работы моделей и применить его на практике. Наши тестовые данные открыты, там пока 200 вопросов, структурированных по темам, которые нужны на практике - нам и нашим клиентам. Мы применили их к разным моделям и сделали тест открытым - любой желающий может расширить его и сравнить результаты всех текущих и будущих моделей самостоятельно.
Да, один из наших клиентов, Банк АкБарс, как раз решал таким образом, как вы описали, задачу по внутренним обучениям: по сути, бот в Телеграме играл роль консультанта по обучению. Вот тут про него мы рассказывали.
По структуре боты похожи на личный кабинет на edtech-платформах и приложениях, но самостоятельная разработка бота на конструкторе сэкономила время и деньги компании. В 2020 году, когда командировки стали невозможны, значение удаленного обучения возросло — чат-бот обучил 2726 человек, в 27 удаленных регионах удовлетворенность обучением выросла с 62 до 75%.
Там же, по ссылке, вузовский кейс, но немного другой — бот для абитуриентов. Но принцип тот же, что и для защиты: бот отвечает на бесконечные типовые вопросы.
Такого в тексте не было :)
Aimybox – опенсорсное решение, а значит, бесплатное.
В самой коробке платить нужно будет за ASR/TTS (распознавание и синтез речи), – но и тот есть бесплатный, если приложение на андроид (как раз который используется в статье); а также за диалоговую систему, если писать кастомные навыки.
Дальше мы в статьях будем пользоваться JAICF как диалоговой системой, он также опенсорсный; но можно использовать платные аналоги. В самом JAICF для понимания текста можно использовать паттерны (бесплатно) или NLU-систему типа RASA или CAILA (платно).
В общем, это вопрос времени. Мобильные приложения в сторах поначалу тоже были несоверешенны, и посмотрите на них сейчас) Экосистема Алисы развивается очень быстро, но развитие — в любом случае процесс.
Получается, что денежный профит от разработки навыков можно получать тремя способами: зарабатывать на премиях, разрабатывать навыки для Алисы по заказу брендов и через внутреннюю монетизацию (например, через рекламу или когда будут реализованы встроенные покупки, что особенно актуально для игровых скиллов). Как-то так.
Ну а экосистема любого голосового ассистента тем лучше, чем навыки разнообразнее, полезнее и интереснее, чем больше у них интеграций с реальным миром.