Pull to refresh

Comments 44

А где CIFG брали, сами писали? На чем сеть реализовывали?

На стадии экспериментов что-то более сложное, чем LSTM, GRU, писали сами.

Т.е. CIFG писали сами, но в CIFG особого смысла не оказалось: обычный LSTM из коробки проще и такого же качества.

Обучение у нас написано на keras + tensorflow, инференс - на tflite.

Прочитал статью и тут же поставил клавиатуру попробовать, и правда хороша. Свай по ощущениям справляется лучше, чем в других клавиатурах...

Спасибо! Возможно, когда-нибудь напишем более подробно про наш нейросвайп.

Ваша клавиатура просто замчательна, но вот с чем я столкунлся (извините, что не по теме NN). На S23 Ultra я весьма часто пользую DeX-mode (это когда я подключаю телефон через док станцию к монитору и работаю в режиме ПК). И если у меня по умолчанию в обычном режиме выбрана ваша клавиатура, то при переходе в режим ПК и подключении физической клавиатуры - она у меня не работает. Из-за этого приходится по умолчанию использовать Samsung Keyboard, которой в части кирилических текстов до вашей весьма далеко.

Спасибо! Обязательно попробуем разобраться с этой проблемой.

Попробовал вашу клавиатуру. Замечательные подсказки.

Однако при использовании dex mode (Samsung S10) к сожалению нажатие cmd+space не меняет язык.

Приходится перевыбирать клавиатуру от Samsung и обратно.

То же самое поведение у гугловской Gboard.

Никогда не юзал свайп в клавиатурах, но свайп в Яндекс.Клавиатуре очень удобный.

UFO just landed and posted this here

По нашим замерам, скорость ввода свайпом в 2-3 раза быстрее обычного побуквенного ввода.

К сожалению, чтобы научиться писать свайпом нужно затратить некоторое время, но это время очень быстро окупается.

UFO just landed and posted this here

Даже быстрее слепого двухпальцевого метода? )

Свайп работает только для относительно простых слов. На сложных удаление написанного с последующим ручным вводом ломает всю скорость, проще печатать как обычно, средняя скорость примерно такая же, но более предсказуемо. Думаю, надо научится предугадывать, где свайп ошибётся и набирать эти слова вручную, затем возвращаясь опять к свайпу, но это как-то сложно, у меня не получается. Много раз пытался использовать свайп, хватает на пол часа максимум

Всегда его юзал, после ухода собственно Swype, которым и пользовался, долго искал замену и реально у Яндекса сейчас, по моим ощущениям, лучший вариант (по крайней мере для русского языка). Причем так было не всегда, поначалу работал плохо, я даже им сюда возмущенные комменты писал, типа Яндекс столько лет с русским языком работает, у вас просто обязан быть хороший свайп. С какой-то версии сильно шагнули вперед (причем еще до нейросвайпа, с ним я кстати принципиальной разницы не заметил).

Ваша клавиатура часто за меня выполняет задания в dualingo. Слово за словом подсказывает всё предложение. Что конечно круто для неё. Но получается что клавиатура учится, а я не учусь.

В настройках можно отключить подсказки, а потом вернуть обратно. Но это, конечно, не очень удобно.

Skyeng на Гугл клавиатуре как-то отключает подсказки и свайпы

Можно ли настроить вашу клавиатуру, чтобы она ну совсем не ходила в сеть? даже за gif и в яндекс на сервера.

Такой настройки на данный момент нет.

Походы в сеть нужны, как минимум, для загрузки и обновлений словарей.

А как максимум чтобы ещё и рекламу контекстную пихать, да?

Да, интересен вопрос: используются ли введённые слова для составления профиля интересов пользователя?

Никак не используется - это, просто, технически невозможно.

Т.к. мы полностью обезличиваем ввод (удаляем всё, что похоже на телефоны, почты, адреса и т.д.) и агрегируем по всем пользователям.

Введенные слова используются только для обучения языковых моделей - и то только с разрешения пользователя.

В настройках отключить подключение к мобильной и вай фай сетям.

Про разное поведение клавиатуры в разных приложениях я поначалу думал, что мне показалось. Не помню в каком конкретно приложении, но несколько раз удивлялся, что клавиатура как-то непривычно работает и ошибок при вводе становится больше.

Сейчас неприятный баг наблюдаю, такое ощущение что с новой моделью появился. Клавиатура иногда слова с ошибками стала предлагать в подсказках. Раньше никогда такого не было.

Можете написать в форму обратной связи клавиатуры?

Мы обязательно рассмотрим и постараемся разобраться.

Спасибо.

Да, если ещё раз попадётся, постараюсь заскринить.

Вот бы ещё эта сетка сразу при установке клавы появлялась...


При полной блокаде от интернета сразу после установки, приложение подсказок совсем не выдаёт. Даже на английском

При полной блокаде от интернета сразу после установки, приложение подсказок совсем не выдаёт. Даже на английском

Скорее всего, словари не успевают скачаться. Но все равно какие-то подсказки, пусть и не очень хорошие, должны быть. Попробуем разобраться.

Спасибо!

Словарей внутри установщика нет? Подскажите, как можно проверить, что они все скачались, перед тем как зарезать интернет для клавиатуры?

Да, словари не встроены в клавиатуру.

Можно зайти в "настройки -> языки" и посмотреть, какие словари уже скачаны.

Но без интернета уже скачанные словари не будут обновляться.

Как я понял из статьи, тут уже обученная языковая модель, а зачем ещё что-то обновлять?

Мы постоянно переобучаем и улучшаем языковую модель.

Зачем использовать LSTM или GRU, когда уже давно есть SRU и SRU++?

Мы брали те архитектуры, которые использовались в статьях от гугла и самсунга.

В планах есть попробовать и другие архитектуры, такие как: QRNN, RWKV, RetNet.

Добавлю SRU в этот список. Спасибо.

Если честно, то веры в другие архитектуры особой нет: трансформер выдает примерно такое же качество, как и LSTM. А лучше трансформера что-то придумать сложно.

SRU - это не какая-то новая, особенная архитектура. Это просто еще один вариант написания формулы для RNN с гейтами, как и GRU. Но там одно, очень важное отличие от LSTM и GRU - скрытое состояние не умножается на матрицу весов; умножается лишь вход. При итерировании там лишь поэлементное умножение и сложение. А это означает, что
1) можно сделать matmul на всю входную последовательность разом, перед циклом, что ускоряет процесс.

2) но самое главное - фичи получаются независимыми друг от друга => их вычисление успешно параллелится => можно ускорить за счет GPU (в отличие от LSTM и GRU).

https://arxiv.org/abs/1709.02755

Тогда уж лучше использовать RWKV: полный параллелизм, свой аналог аттеншена и рекуррентный инференс.

RWKV похож на очередную попытку аппроксимировать n^2 связей аттеншена какой-то другой, более простой функцией. Помнится, уже ведь были какие-то линейные варианты "смотрим только по вертикали\горизонтали\диагонали", варианты с фиксированным окном контекста или с dilated (когда аттеншен на каждый 1\2\3\4\5\итд токен) контекстом. А RWKV аппроксимирует через экспоненциальное затухание.

Кнопку Backspace сделайте больше, а лучше настраиваемой. А то замучался попадать по ней !

Это у нас есть в планах, обязательно сделаем.

И со скоростью надо что-то сделать. Стирать большой текст - мучение

Очень часто при переходе в поиск программ на Айфоне перестаёт работать переключение языков. И да, не надо предлагать первым вариантом слова, которые я никогда не писал. Более частое слово должно быть приоритетнее!

Особенно это касается слов, начинающихся на буквы, расположенные по краям клавиатуры/экрана

Sign up to leave a comment.