Генерацию текста я б малине доверять не стал, тут как раз можно использовать облако\runpod. А вот анализ голоса и синтез TTS - это запросто. У spchat заявлена поддержка RPi4, Piper как раз изначально под малину делали.
Отредактировать комментарий уже не могу, поэтому раскрою мысль отдельно.
llamacpp - позволяет запускать GGUF-модели. Основной плюс - умеет делить модель между VRAM и RAM, и запускать модели целиком из RAM, хоть и с огромным ударом по скорости. На маках М-серии удар не такой сильный, там вполне можно использовать для запуска +70B.
KoboldCPP - питоний гуй поверх llamacpp, в основном удобен именно тем, что настройки можно нащёлкать вместо написания простыней в командной строке. Бонусом интегрирует в себя веб-интерфейс, Whisper STT (преобразование речи в текст) и SD.cpp (переделка StableDiffusion на крестах). Есть форк с интеграцией ROCm для запуска на Radeon.
TabbyAPI - реализация EXL2. Работает быстрее, чем llama, и не тормозит при большом размере контекста. Главный минус - жёстко ограничен размерами VRAM, не умеет отгружать "лишние" части модели в RAM.
vLLM - почти чистый Transformers, умеет загружать "оригинальные" модели. Вроде как умеет отгружать лишнее в RAM, но в целом больше заточен под работу с GPU-фермами. Главный минус - модели на FP16 зело жирные (Llama 3 8B в FP16 весит 16 гигабайт сама по себе, а ведь ещё память под контекст нужна). Есть методы "сжатия" NF4 и bitsandbytes, но они сильно бьют по "умственным" способностям модели. Насколько мне известно, это единственный способ запустить vision-модели не прибегая к костылям с подгрузкой внешнего mmproj.
oobabooga - огромный комбайн из всего и вся, позволяет запускать модели, смешивать их, перетренировывать, писать бенчмарки и ещё по мелочи. Сам по себе модели не запускает, но в комплекте идут несколько разных движков (AWQ, GPTQ, EXL2, Llamacpp и чистый Transformers) и REST API для генерации текста.
Магазин приложений вроде как работает, а вот обновления прошивки с сервера стянуть - это уже проблема. Причём на шлеме это ещё можно обойти через андроидовский WireGuard, а вот с Touch Pro такой фокус уже не катит.
Вроде того. Разработчик может повесить заглушку типа "у вас приложение некошерное, скачайте из GP", насколько я понимаю. Вполне себе usecase для приложений от банков, например, чтоб пользователей отучить ставить версии с APKPure.
Т.е. давайте под шумок выпилим меинтейнеров из всех тех стран, которые волею судьбы оказались в составе СССР на момент Финской войны? Нравы и идеи-то общие, получается.
Может, и можно. Просто в сообщении выглядит как ни к селу, ни к городу.
Личное ИМХО - для меня это на том же уровне, что и "бывшие" россияне, которые уехали в условную Латвоманию, а потом оттуда рассказывают, какая Россия на самом деле замечательная страна, и как они ею гордятся изо всех щелей. Вот только обратно что-то ехать не хотят.
Если в шутере одновременно зажать A и D, например, как отреагирует игра?
Обычно, персонаж просто останавливается на месте, как будто ни A, ни D не зажата. Но вообще зависит от движка и пряморукости разработчиков.
Snap Tap - это что-то типа NKRO наоборот (хотя и не совсем фантомное нажатие\ghosting). NKRO позволяет нажать сколько угодно клавиш за раз, а SnapTap шлёт информацию только о последней нажатой клавише. То есть, если нажать и удерживать A, и затем тапать по D, то клавиатура будет посылать информацию о D, когда она нажата, и информацию об A, когда D отпущена. A + D такая клавиатура не пошлёт.
На видео хорошо показывают, как это выглядит со стороны OS\игры.
Ну так самое время им становиться. Цель есть, представление реализации - тоже, судя по всему. Осталось только документацию покурить да сделать, но ведь это дело плёвое.
МГТС в Москве как-то странно режет. Прямой OVPN до сервера подключается, но после подключения пакеты не ходят. Стоит замаскировать OVPN - всё работает как должно.
У DualSense свои драйвера со своими тараканами. Софт от Sony ставить не надо, но всё равно, что-то дополнительно ставить придётся (DS4Windows, Steam или надеяться на использование SDL2 в целевой программе). У триггеров отдельные заморочки, там либо поддержка от разработчика, либо костыли через DSX.
Генерацию текста я б малине доверять не стал, тут как раз можно использовать облако\runpod. А вот анализ голоса и синтез TTS - это запросто. У spchat заявлена поддержка RPi4, Piper как раз изначально под малину делали.
Отредактировать комментарий уже не могу, поэтому раскрою мысль отдельно.
llamacpp - позволяет запускать GGUF-модели. Основной плюс - умеет делить модель между VRAM и RAM, и запускать модели целиком из RAM, хоть и с огромным ударом по скорости. На маках М-серии удар не такой сильный, там вполне можно использовать для запуска +70B.
KoboldCPP - питоний гуй поверх llamacpp, в основном удобен именно тем, что настройки можно нащёлкать вместо написания простыней в командной строке. Бонусом интегрирует в себя веб-интерфейс, Whisper STT (преобразование речи в текст) и SD.cpp (переделка StableDiffusion на крестах). Есть форк с интеграцией ROCm для запуска на Radeon.
TabbyAPI - реализация EXL2. Работает быстрее, чем llama, и не тормозит при большом размере контекста. Главный минус - жёстко ограничен размерами VRAM, не умеет отгружать "лишние" части модели в RAM.
vLLM - почти чистый Transformers, умеет загружать "оригинальные" модели. Вроде как умеет отгружать лишнее в RAM, но в целом больше заточен под работу с GPU-фермами. Главный минус - модели на FP16 зело жирные (Llama 3 8B в FP16 весит 16 гигабайт сама по себе, а ведь ещё память под контекст нужна). Есть методы "сжатия" NF4 и bitsandbytes, но они сильно бьют по "умственным" способностям модели. Насколько мне известно, это единственный способ запустить vision-модели не прибегая к костылям с подгрузкой внешнего mmproj.
oobabooga - огромный комбайн из всего и вся, позволяет запускать модели, смешивать их, перетренировывать, писать бенчмарки и ещё по мелочи. Сам по себе модели не запускает, но в комплекте идут несколько разных движков (AWQ, GPTQ, EXL2, Llamacpp и чистый Transformers) и REST API для генерации текста.
ComfyUI тут не при чём, гуглите TabbyAPI, KoboldCCP и oobabooga.
Магазин приложений вроде как работает, а вот обновления прошивки с сервера стянуть - это уже проблема. Причём на шлеме это ещё можно обойти через андроидовский WireGuard, а вот с Touch Pro такой фокус уже не катит.
Вроде того. Разработчик может повесить заглушку типа "у вас приложение некошерное, скачайте из GP", насколько я понимаю. Вполне себе usecase для приложений от банков, например, чтоб пользователей отучить ставить версии с APKPure.
Т.е. давайте под шумок выпилим меинтейнеров из всех тех стран, которые волею судьбы оказались в составе СССР на момент Финской войны? Нравы и идеи-то общие, получается.
Может, и можно. Просто в сообщении выглядит как ни к селу, ни к городу.
Личное ИМХО - для меня это на том же уровне, что и "бывшие" россияне, которые уехали в условную Латвоманию, а потом оттуда рассказывают, какая Россия на самом деле замечательная страна, и как они ею гордятся изо всех щелей. Вот только обратно что-то ехать не хотят.
Эк у него душа-то болит за Карелию, будучи гражданином США, проживающим в США, последние лет 14.
Более того, у openjdk в репо написано, что их образы помечены как deprecated. Вместо них предлагают использовать образы amazoncorretto, они сделаны на базе образа amazonlinux, который собран от alpine 3.17.
Видимо, та самая "эффективная коммуникация" из числа их ценностей
А есть статьи на Хабре/разборы по этому поводу? Звучит как крайне интересная история.
Более того, на 4090 Crysis можно запустить прям с самой видяхи.
Обычно, персонаж просто останавливается на месте, как будто ни A, ни D не зажата. Но вообще зависит от движка и пряморукости разработчиков.
Snap Tap - это что-то типа NKRO наоборот (хотя и не совсем фантомное нажатие\ghosting). NKRO позволяет нажать сколько угодно клавиш за раз, а SnapTap шлёт информацию только о последней нажатой клавише. То есть, если нажать и удерживать A, и затем тапать по D, то клавиатура будет посылать информацию о D, когда она нажата, и информацию об A, когда D отпущена. A + D такая клавиатура не пошлёт.
На видео хорошо показывают, как это выглядит со стороны OS\игры.
Пару дней назад в какой-то новости человек давал ссылки на e-sim модули, которые вставляются вместо обычной симки.
Ничего страшного, дедушка Оруэлл настанет в любом случае, зато у вас появится важный навык, которым можно и хлеб с маслом заработать (в теории).
Ну так самое время им становиться. Цель есть, представление реализации - тоже, судя по всему. Осталось только документацию покурить да сделать, но ведь это дело плёвое.
Ради интереса решил почитать, что будет, если в данной ситуации поменять "СИМ" на "автомобиль". Там довольно занимательный тяни-толкай со всех сторон.
С СИМ будет ещё интереснее.
Обычно, "красное - хорошо, зелёное - плохо" - это китайский задвиг. У них и прибыль/убыль на графиках рисуется цветами "наоборот".
МГТС в Москве как-то странно режет. Прямой OVPN до сервера подключается, но после подключения пакеты не ходят. Стоит замаскировать OVPN - всё работает как должно.
У DualSense свои драйвера со своими тараканами. Софт от Sony ставить не надо, но всё равно, что-то дополнительно ставить придётся (DS4Windows, Steam или надеяться на использование SDL2 в целевой программе). У триггеров отдельные заморочки, там либо поддержка от разработчика, либо костыли через DSX.