У меня занимает около 4 секунды на ответ, память поднимается до 60% максимум (около занято 18.3 ГБ из 32 ГБ), но у меня комп еще довольно шустрый.
Но эту связку уже оптимизировать. Например, через:
Стриминг (Streaming): Самое важное. Нужно заставить TTS озвучивать текст по словам/предложениям по мере их выдачи из LLM, не дожидаясь конца всей генерации. Это снизит воспринимаемую игроком задержку с 4 секунд до 1 секунды.
Перенос на GPU: Максимально задействовать VRAM видеокарты для инференса LLM и Whisper.
Модели поменьше: Заменить 7B модель на более легковесные аналоги вроде Qwen (1.8B/4B) или Phi-3-mini, что сократит потребление памяти вдвое.
Я вначале сам пробовал DialoGPT (от Microsoft). она совсем не зашла: я ее попросил отыгрывать фэнтези-персонажа, но ответы были слишком простые, а потом сразу Mistral, вот на ней и остановился.
Зависит от уровня общения. Не все готовы открыто поправлять — меня, например, поправляли. Более того, прямо сейчас за мной сидит тайванец, и он говорит, что не поправляют обычно из вежливости.
В целом это похоже на ситуацию, когда за границей украинца, белоруса или латвийца называют русским.
Но при этом всё индивидуально. Я, например, знаю девушку из Гонконга, которая подчёркивает, что она именно из Гонконга, а не из Китая :D С Тайванем всё же отдельная и более сложная история.
В России часто не делают особой разницы, но как человек, который постоянно общается с тайваньцами, могу сказать: если назвать их китайцами, они, скорее всего, обидятся ))
Когда у этой новости было 100 просмотров, тут было +25 уже. Хоть не палились бы так. У этого черепа @go_shanвсе новости накручены, но с этим вряд ли что-то сделаешь: таков Хабр уже давно.
Лол, что за бред? Причём тут Line? Это все равно что сказать, что Телеграм - российский госмессенджер, потому что условный Медведев и прочие депутаты могут писать там новости.
Вы вообще в теме разбираетесь?
Line никто никого не заставляет использовать, Line просто популярен в стране. Используй что удобно и что хочется.
В отличие от конкурентов, она умеет обрабатывать сразу несколько картинок, комбинируя их в единый результат, при этом тщательно сохраняя лица, контекст и целостность объектов.
На самом деле, тут чисто проблема Японии. Вариаций записи адреса очень много, и формы по разному сделаны - поэтому браузер часто подставляет не те данные в соответствующие поля. Ну и чтобы каждый раз на новых сайтах не записывать это - придумали такое. Типа сделал свой интернет-магазин - прикрутил просто ввод этого кода для удобства пользователей.
У них там революции маркетплейсов еще не произошло? Проблема множества магазинов с независимой регистрацией уже давно решена.
Так в России тоже куча всяких мелких интернет-магазинов, и даже сайтов доставки еды (хотя в новости нет про это упоминаний, но может тоже прикрутят), один конкретный ресторан и чтобы заказать - вводишь адрес. Но в России формы и адреса удобнее.
Ну, учитывая, что я пользуюсь своим Quest 2 почти каждый день и иногда больше часа без перерыва, - так бы и Vision Pro пользовался. При этом качество-то шлема там на высоте, тут вопрос цены.
Привет! Записал :)
Неа, не записывал.
Но запишу тогда до конца недели.
Привет! Спасибо большое, рад, что статья зашла!
У меня занимает около 4 секунды на ответ, память поднимается до 60% максимум (около занято 18.3 ГБ из 32 ГБ), но у меня комп еще довольно шустрый.
Но эту связку уже оптимизировать. Например, через:
Стриминг (Streaming): Самое важное. Нужно заставить TTS озвучивать текст по словам/предложениям по мере их выдачи из LLM, не дожидаясь конца всей генерации. Это снизит воспринимаемую игроком задержку с 4 секунд до 1 секунды.
Перенос на GPU: Максимально задействовать VRAM видеокарты для инференса LLM и Whisper.
Модели поменьше: Заменить 7B модель на более легковесные аналоги вроде Qwen (1.8B/4B) или Phi-3-mini, что сократит потребление памяти вдвое.
Я вначале сам пробовал
DialoGPT(от Microsoft). она совсем не зашла: я ее попросил отыгрывать фэнтези-персонажа, но ответы были слишком простые, а потом сразуMistral, вот на ней и остановился.Там надо разные просто попробовать еще.
Это не только в России было, в Японии вот тоже сегодня заметил.
Зависит от уровня общения. Не все готовы открыто поправлять — меня, например, поправляли. Более того, прямо сейчас за мной сидит тайванец, и он говорит, что не поправляют обычно из вежливости.
В целом это похоже на ситуацию, когда за границей украинца, белоруса или латвийца называют русским.
Но при этом всё индивидуально. Я, например, знаю девушку из Гонконга, которая подчёркивает, что она именно из Гонконга, а не из Китая :D
С Тайванем всё же отдельная и более сложная история.
В России часто не делают особой разницы, но как человек, который постоянно общается с тайваньцами, могу сказать: если назвать их китайцами, они, скорее всего, обидятся ))
Когда у этой новости было 100 просмотров, тут было +25 уже. Хоть не палились бы так. У этого черепа @go_shanвсе новости накручены, но с этим вряд ли что-то сделаешь: таков Хабр уже давно.
Лол, что за бред? Причём тут Line? Это все равно что сказать, что Телеграм - российский госмессенджер, потому что условный Медведев и прочие депутаты могут писать там новости.
Вы вообще в теме разбираетесь?
Line никто никого не заставляет использовать, Line просто популярен в стране. Используй что удобно и что хочется.
Лариса Долина
:)
У меня она даже работать не стала
Так
Soraже тоже умеет.Плотный, но не такой тяжёлый как в России или на западе. Акцент все равно часто на овощи, рыбу и рис.
Яндекс даже свой Speedtest не смогли нормально сделать?
Яндекс Интернетометр
Google Speed Test
Защищённость подтверждается разве что количеством уязвимостей.
https://linkmeter.net местоположение не расшарил - он в итоге даже работать не стал.
На самом деле, тут чисто проблема Японии. Вариаций записи адреса очень много, и формы по разному сделаны - поэтому браузер часто подставляет не те данные в соответствующие поля. Ну и чтобы каждый раз на новых сайтах не записывать это - придумали такое. Типа сделал свой интернет-магазин - прикрутил просто ввод этого кода для удобства пользователей.
Так в России тоже куча всяких мелких интернет-магазинов, и даже сайтов доставки еды (хотя в новости нет про это упоминаний, но может тоже прикрутят), один конкретный ресторан и чтобы заказать - вводишь адрес. Но в России формы и адреса удобнее.
Так в статье речь про интернет-магазины. Все официальные письма приходят на адрес регистрации.
То есть чтобы вручную не вбивать каждый раз адрес на новом интернет-магазине - вбиваешь код, и будет действовать только там.
Ну, учитывая, что я пользуюсь своим Quest 2 почти каждый день и иногда больше часа без перерыва, - так бы и Vision Pro пользовался. При этом качество-то шлема там на высоте, тут вопрос цены.