В агентском режиме можно запустить и gpt-oss:20b (который на macbook на 32мб озу идет). Так что вполне, но согласен, что сейчас гораздо выгоднее подписки использовать: и дешевле и намного лучше. Вот, если вдруг перестанут работать, тогда и думать будем (есть ощущение, что все и сразу не перестанут).
Спасибо за статью, интересно было про Nix больше узнать.
У меня проекты Java/Kotlin, TypeScript, Python. Нигде проблем с глобальными инструментами нет. Так что DevContainers обычно не нужны: иногда что-то низкоуровневое в зависимостях (типа x86 GPU библиотеки), тогда использую, но без Nix. Видимо, это больше для низкоуровневых экосистем (Go/Rust).
Ладно, не важно, мы в каких-то разных мирах живем. Я исключительно как выбор одной из коробок (и для этого табличка выше вполне подходит), вы хотите еще улучать коробки.
> эксплуатацию, поддержку, отлажку
ну, девопсы запустили очередной микросервис, ничего особенного
> поиск ошибок и повышение качества на нужных доменах
вот этим "прикладники" как раз редко занимаются: либо считается, что работает, либо выбирают другое решение, либо вообще отключают функционал.
я правильно понимаю, что Yandex/Сбер/Т сервисы позволяют себя дообучать? Если да, то не знал, может быть даже интересно на свой голос и лексикон дообучить.
Я может что-то не понимаю, но зачем исправлять ошибки и тренировать рекурентную модель? Я думал, что датасет (звуковые файлы) скрамливается этому приложению, текст на выходе сверяется с ожидаемым и формируется циферка для таблички.
Зачем сравнивать? Чтобы показать, все то, что описано выше (Галлюцинации, translatese, ...) в каких-то цифрах. Тогда проще принимать решение какое решение использовать: сойдет качество на бесплатном ПО или лучше доплатить и получить лучше качество.
Конечно, статье уже год, но добавлю свои 5 копеек, т.к. она гуглится и прочее:
Как сервер до сих пор использовать на практике не возможно, т.к. нет клиентов к Redis, Postgres и тем более к другим сетевым БД. Это печально, но факт. Вроде бы что-то и есть (https://github.com/madhead/kn-redis), но там в репозитарии всего 4 комита 4 года назад, т.е. все-таки самим нужно писать и поддерживать. А уж что проще для БД, чем текстовый протокол Redis.
Конкретно про Kotlin Native бенчмарки не искал, но уже давно были сравнения Java и С++. Да, JVM медленнее стартует, но работает быстро, иногда даже быстрее за счет своих оптимизаций в runtime.
`и для высокопроизводительных задач можно рассматривать сочетание Kotlin Native + Ktor + KStore для хранения данных` -- все-таки KStore для мобилок, локально хранить данные на сервере странно, т.к. непонятно что делать с бекапами, масштабированием и прочим.
В итоге, Kotlin Native перспективен для консольных утилит (быстро стартует, нет внешних зависимостей -- примерно как у golang), для слабых устройств (быстро стартует, малый размер, ест мало памяти, легко поставлять(один файл)), для сценариев быстрого масштабирования (типа облачных лямбда-функций), для поставок коммерческих решений (как вариант обфускации кода). Насколько эти перспективы реализованы пока что непонятно: полазил по их сайту, не понял, видимо, нужно отдельно искать, а они, в основном, про мобилки.
Интересно сравнение Kotlin Native с JVM Native -- может Kotlin Native на серверах сейчас вообще не нужен, если он будет хуже (тем более с учетом скудности библиотек)
Тем кросскомпиляции не раскрыта, поэтому скорее ее нет, что хуже, чем golang.
Что имеется в виду? Я же правильно понимаю, что данных для обучения нет, а есть уже готовые "бинарники" модели и код, чтобы их запускать?
Может быть лучше было бы, если бы вообще не выкладывали -- т.к. такая бесплатная версия убивает (не дает появится) действительно открытой версии.
Gemma поставляется с инструментами "ответственного ИИ". Это важно, т.к. открытые модели сложнее контролировать. Инструменты позволяют создавать правила и отлаживать модель.
Непонятно почему открытые модели сложнее контролировать. Потому что код этого контроля обычно не пишут (не открывают)? Или?
Вывод, к сожалению, пока что другой: современный Kubernetes (у всех провайдеров) все еще предоставляется не как чистая услуга, а клиенту нужно иметь своих devops, которые в нем разбираются.
В этом случае, уже часто непонятно зачем брать услугу K8s, а не виртуалки, если все равно есть инженеры которые это поддерживают. Или не так?
Почему сразу изоляция? Нужно продавать не только в России.
Опять же, это постепенное движение. Его нужно делать, а не обсирать любой шаг...
Объясните мне тупому почему сборка серверов должна быть иностранной? А это неплохой кусок маржи сам по себе. На его базе можно и дальше локализовывать производство.
Нет, это как с экологичностью: ее можно увеличить, но 100% вряд ли будет. Все-таки мир уже давно глобален, что-то, но придется докупать у союзных стран.
Замена вендоров готовых систем (сервера, схд, мфу) -- шаг вперед, но, понятно, не полный. Далее нужно переходить и на собственную компонентную базу.
При этом банк готов поддержать подобные решения, если они будут подходить под заявленные требования.
А вот эта фраза действительно несколько огорчает. Основное заявленное требование хотя бы для критичных систем должно быть российское производство, а остальное уже под это подстраивается, а не наоборот... Так можно реально доиграться
Надеюсь, хотя бы на наш софт полностью перейдут -- уже хоть какая-то возможность бороться с рисками и проблемами. И не к 2030 году...
Что работает? Да, я написал, что в маке Ранчер и эту новую штуку можно использовать через консоль. Как поставить докер-совместимое окружение (чтобы была команда docker), но без лицензионного ограничения docker desktop через консоль без gui приложения в маке не знаю. Знаете — поделитесь.
Здравствуйте, спасибо за статью, интересно.
По идее "начинать абзац с новой страницы" и "все буквы большие" можно настроить в стилях шаблона docx, AST для этого не нужен.
backlog.md — это приложение, просто название странное
В агентском режиме можно запустить и gpt-oss:20b (который на macbook на 32мб озу идет). Так что вполне, но согласен, что сейчас гораздо выгоднее подписки использовать: и дешевле и намного лучше. Вот, если вдруг перестанут работать, тогда и думать будем (есть ощущение, что все и сразу не перестанут).
Спасибо за статью, интересно было про Nix больше узнать.
У меня проекты Java/Kotlin, TypeScript, Python. Нигде проблем с глобальными инструментами нет. Так что DevContainers обычно не нужны: иногда что-то низкоуровневое в зависимостях (типа x86 GPU библиотеки), тогда использую, но без Nix. Видимо, это больше для низкоуровневых экосистем (Go/Rust).
Ладно, не важно, мы в каких-то разных мирах живем. Я исключительно как выбор одной из коробок (и для этого табличка выше вполне подходит), вы хотите еще улучать коробки.
> эксплуатацию, поддержку, отлажку
ну, девопсы запустили очередной микросервис, ничего особенного
> поиск ошибок и повышение качества на нужных доменах
вот этим "прикладники" как раз редко занимаются: либо считается, что работает, либо выбирают другое решение, либо вообще отключают функционал.
я правильно понимаю, что Yandex/Сбер/Т сервисы позволяют себя дообучать? Если да, то не знал, может быть даже интересно на свой голос и лексикон дообучить.
Я может что-то не понимаю, но зачем исправлять ошибки и тренировать рекурентную модель? Я думал, что датасет (звуковые файлы) скрамливается этому приложению, текст на выходе сверяется с ожидаемым и формируется циферка для таблички.
Зачем сравнивать? Чтобы показать, все то, что описано выше (Галлюцинации, translatese, ...) в каких-то цифрах. Тогда проще принимать решение какое решение использовать: сойдет качество на бесплатном ПО или лучше доплатить и получить лучше качество.
https://github.com/ggerganov/whisper.cpp
Было бы интересно сравнить с https://github.com/openai/whisper -- как бесплатной базы.
Спасибо за статью, было интересно.
У меня примерно то же самое, только только NextCloud и планшет Apple.
Единственно, Apple совместимые метки, как по мне, недорого и получше (все-таки iPhone'ов побольше, чем Samsung в среднем по больнице).
Конечно, статье уже год, но добавлю свои 5 копеек, т.к. она гуглится и прочее:
Как сервер до сих пор использовать на практике не возможно, т.к. нет клиентов к Redis, Postgres и тем более к другим сетевым БД. Это печально, но факт. Вроде бы что-то и есть (https://github.com/madhead/kn-redis), но там в репозитарии всего 4 комита 4 года назад, т.е. все-таки самим нужно писать и поддерживать. А уж что проще для БД, чем текстовый протокол Redis.
Конкретно про Kotlin Native бенчмарки не искал, но уже давно были сравнения Java и С++. Да, JVM медленнее стартует, но работает быстро, иногда даже быстрее за счет своих оптимизаций в runtime.
`и для высокопроизводительных задач можно рассматривать сочетание Kotlin Native + Ktor + KStore для хранения данных` -- все-таки KStore для мобилок, локально хранить данные на сервере странно, т.к. непонятно что делать с бекапами, масштабированием и прочим.
В итоге, Kotlin Native перспективен для консольных утилит (быстро стартует, нет внешних зависимостей -- примерно как у golang), для слабых устройств (быстро стартует, малый размер, ест мало памяти, легко поставлять(один файл)), для сценариев быстрого масштабирования (типа облачных лямбда-функций), для поставок коммерческих решений (как вариант обфускации кода). Насколько эти перспективы реализованы пока что непонятно: полазил по их сайту, не понял, видимо, нужно отдельно искать, а они, в основном, про мобилки.
Интересно сравнение Kotlin Native с JVM Native -- может Kotlin Native на серверах сейчас вообще не нужен, если он будет хуже (тем более с учетом скудности библиотек)
Тем кросскомпиляции не раскрыта, поэтому скорее ее нет, что хуже, чем golang.
Что имеется в виду? Я же правильно понимаю, что данных для обучения нет, а есть уже готовые "бинарники" модели и код, чтобы их запускать?
Может быть лучше было бы, если бы вообще не выкладывали -- т.к. такая бесплатная версия убивает (не дает появится) действительно открытой версии.
Непонятно почему открытые модели сложнее контролировать. Потому что код этого контроля обычно не пишут (не открывают)? Или?
Вывод, к сожалению, пока что другой: современный Kubernetes (у всех провайдеров) все еще предоставляется не как чистая услуга, а клиенту нужно иметь своих devops, которые в нем разбираются.
В этом случае, уже часто непонятно зачем брать услугу K8s, а не виртуалки, если все равно есть инженеры которые это поддерживают. Или не так?
Почему сразу изоляция? Нужно продавать не только в России.
Опять же, это постепенное движение. Его нужно делать, а не обсирать любой шаг...
Объясните мне тупому почему сборка серверов должна быть иностранной? А это неплохой кусок маржи сам по себе. На его базе можно и дальше локализовывать производство.
Т.е. предлагается лечь в гроб и ничего не делать? В чем конструктив в текущей ситуации, а не про прошлое?
Согласен, что все далеко не хорошо, но это не значит, что любые шаги в правильном направлении нужно объявлять попилом бюджетов.
Надо все закупать. И то, и то.
И радоваться, когда есть прогресс.
При этом тоже огорчаюсь, что он слишком медленный, но я просто сторонний наблюдатель.
Не производится. И мне это тоже не нравится -- об этом мой абзац про огорчает.
При этом закупка серверов российской сборки увеличивает локализацию. Это не что-то итоговое, но шаг в правильном направлении.
да, главное, что российский. Падение раз в час можно купировать и на программном уровне. Полное отключение работы (и внезапное) гораздо хуже.
Нет, это как с экологичностью: ее можно увеличить, но 100% вряд ли будет. Все-таки мир уже давно глобален, что-то, но придется докупать у союзных стран.
Замена вендоров готовых систем (сервера, схд, мфу) -- шаг вперед, но, понятно, не полный. Далее нужно переходить и на собственную компонентную базу.
А вот эта фраза действительно несколько огорчает. Основное заявленное требование хотя бы для критичных систем должно быть российское производство, а остальное уже под это подстраивается, а не наоборот... Так можно реально доиграться
Надеюсь, хотя бы на наш софт полностью перейдут -- уже хоть какая-то возможность бороться с рисками и проблемами. И не к 2030 году...
Так или иначе пропагандировать бесплатно работать неделю неправильно. Даже если люди от отчаяния на это соглашаются.
Что работает? Да, я написал, что в маке Ранчер и эту новую штуку можно использовать через консоль. Как поставить докер-совместимое окружение (чтобы была команда docker), но без лицензионного ограничения docker desktop через консоль без gui приложения в маке не знаю. Знаете — поделитесь.