Тут ключевое "с библиотекой". Сам питон тут — хреновина, которая просто делает удобные ручки к библиотекам, написанным далеко не на питоне. И основная работа делается далеко не им, а оптимизированными кем-то библиотеками на чём-то компилируемом, причём, возможно, со вставками на ассемблере, как libjpeg-turbo, от которого pillow таки зависит.
Вобщем, не надо про то, что "интерпретируемый, а быстрее". В обработке графики он не особо участвует.
По моим наблюдениям, ломаться начинает при увеличении количества сотрудников примерно в районе числа Данбара, причём, похоже, независимо от направления деятельности компании.
Если с этой стороны смотреть — да. Но работать будет только в условиях, когда удалённое апи таки доступно. Иногда хочется более автономного. В рабочих задачах (текст суммаризировать или ещё чего подобное без отправки персональных данных за пределы организации) или в более гуманитарных (добавить в Home Assistant чуть-чуть интеллекта в условиях проблем с сотовым инетом за городом).
В случае перезапуска эксперимента — стоит посмотреть на более новые модели, так как qwen3-coder даже 480b всё-таки устарел и с той поры много чего вышло, включая qwen3-coder-next (даже локальная 80b версия значительно лучше, по словам активно использующих) и qwen3.5, которые есть как в апи, так и для автономного запуска.
Ну и в любом случае стоит иметь план Б — апи может внезапно стать слишком платным, к примеру. Или недоступным, что на моей памяти чаще.
Для целей "изобразить сознание" их достаточно. В qwen3-coder размером 30b активируются как раз 3b, а не все 30.
Вобщем, модель мелкая, но если не спрашивать её о чём-то конкретном типа года основания чего-то — общаться можно. В проекте больше не особо и надо, по-моему.
Судя по тому, что там предполагалось использовать старую mistral-7b, более новая ministral-3 даже с 3b будет более "умной" и достаточно быстрой на любой видеокарте, на которой запустится. В случае 4-битной квантизации — видеокарта может быть от 4ГБ. Это на CPU будет медленно, особенно при больших промптах (собственно, на CPU я и выяснил требования к памяти, так что могу ошибаться).
Думаю, любая относительно сложная деятельность руками прокачивает мозг. Главное, чтоб мелкая моторика задействовалась. А будет это каллиграфия, игра на гитаре, лего или ещё какая скульптура — это без разницы. Лишь бы регулярно в детстве.
Длинные тире в некоторых случаях набираются несложно — в линуксе достаточно просто настроить клавиатуру и использовать Compose Key. В моём случае это lv3:ralt_switch,misc:typo в дополнительных настройках клавиатуры и далее через RAlt и "-" получаю длинное тире.
А вообще, если статья готовилась в чём-то типа ворда или аналогов, то они минусы таки заменяют на длинные тире и надо отдельно ковыряться, чтобы это не делалось.
Другой вопрос, что сама идея вынести часть мышления на аутсорс заманчива, но вот конкретно это — не мышление, а хреновая память на базовые вещи и обходится не галлюцинациями нейросетки, не запросом в поисковик, а собственноручно написанной шпаргалкой. Причём, желательно, без автодополнения, каждую букву набирать самостоятельно — есть шанс, что хоть что-то запомнится.
Ровно до тех пор, пока не понадобится редкоиспользуемая команда, которая уже вымылась из истории. Или вообще никогда там не была, так как делается один раз на свежем сервере.
Другой вопрос, что непонятно, накой делать что-то повторяющееся руками. Ситуация повторяется каждые N дней — что мешает автоматизировать? Есть же тот же ансибл, в котором есть модуль unarchive. Вобщем, по-моему, вместо того, чтобы закрутить шуруп хотя бы отвёрткой за неимением шуруповёрта, его тут вбивают молотком.
Гм... Из недавнего опыта времён ковида — нетбук с дебианом отлично работал на 4ГБ ОЗУ + zramswap на 2ГБ под LXDE. Задачи — браузер, geany, документация в pdf, документы в libreoffice. Не скажу, что нетбук сам по себе быстрый, но память там не выжиралась. Ну или вы не умеете в интерпретацию вывода команды free.
"Если вы не любите кошек — вы просто не умеете их готовить"
Тут ключевое "с библиотекой". Сам питон тут — хреновина, которая просто делает удобные ручки к библиотекам, написанным далеко не на питоне. И основная работа делается далеко не им, а оптимизированными кем-то библиотеками на чём-то компилируемом, причём, возможно, со вставками на ассемблере, как libjpeg-turbo, от которого pillow таки зависит.
Вобщем, не надо про то, что "интерпретируемый, а быстрее". В обработке графики он не особо участвует.
https://habr.com/ru/news/927878/ — напомнило
Для задач десктопа. Написано же "в роли компактной рабочей станции".
В домашних задачах за пределы 16ГБ не выходил, а на работе — регулярно, правда, без "взаимодействия с облачными сервисами".
По моим наблюдениям, ломаться начинает при увеличении количества сотрудников примерно в районе числа Данбара, причём, похоже, независимо от направления деятельности компании.
Если с этой стороны смотреть — да. Но работать будет только в условиях, когда удалённое апи таки доступно. Иногда хочется более автономного. В рабочих задачах (текст суммаризировать или ещё чего подобное без отправки персональных данных за пределы организации) или в более гуманитарных (добавить в Home Assistant чуть-чуть интеллекта в условиях проблем с сотовым инетом за городом).
В случае перезапуска эксперимента — стоит посмотреть на более новые модели, так как qwen3-coder даже 480b всё-таки устарел и с той поры много чего вышло, включая qwen3-coder-next (даже локальная 80b версия значительно лучше, по словам активно использующих) и qwen3.5, которые есть как в апи, так и для автономного запуска.
Ну и в любом случае стоит иметь план Б — апи может внезапно стать слишком платным, к примеру. Или недоступным, что на моей памяти чаще.
Для целей "изобразить сознание" их достаточно. В qwen3-coder размером 30b активируются как раз 3b, а не все 30.
Вобщем, модель мелкая, но если не спрашивать её о чём-то конкретном типа года основания чего-то — общаться можно. В проекте больше не особо и надо, по-моему.
А, немного невнимательно прочитал. Аишка хотела на неё переключиться.
Вобщем, в любом случае, ministral-3, как минимум, новее. С конкретно 3b дело имел — работает лучше, чем saiga-mistral-7b.
Судя по тому, что там предполагалось использовать старую mistral-7b, более новая ministral-3 даже с 3b будет более "умной" и достаточно быстрой на любой видеокарте, на которой запустится. В случае 4-битной квантизации — видеокарта может быть от 4ГБ.
Это на CPU будет медленно, особенно при больших промптах (собственно, на CPU я и выяснил требования к памяти, так что могу ошибаться).
А если чуточку поднастроить, то ещё и не вопил. Но трещал (атс была педальношаговая).
к опросу очень подходит песня из типа-перевода фильма "Ночной дозор":
И треснул мир напополам и поперёк,
В потёмках вдоль и от угла наискосок
АПВС?
Не знаю, как сделан предпросмотр в махе, но подозреваю, что не так, как в телеге, так что тыкать и деанонимизироваться всё равно будут.
У меня завелось на виртуалке с blissos путём приёма смс на лежащий рядом телефон.
И если его отрубить — отвалится какой-нибудь предпросмотр картинок, вставленных через url :-)
Угу. Но опенсорсный опенвпн с гост-алгоритмами не совместим с openvpn-gost от криптокома.
Думаю, любая относительно сложная деятельность руками прокачивает мозг. Главное, чтоб мелкая моторика задействовалась. А будет это каллиграфия, игра на гитаре, лего или ещё какая скульптура — это без разницы. Лишь бы регулярно в детстве.
И это тоже. Но тут, похоже, даже на чистой, но солёной воде не проверяли.
Испаряется, оставляя растворённое. Море же. Соль...
Длинные тире в некоторых случаях набираются несложно — в линуксе достаточно просто настроить клавиатуру и использовать Compose Key. В моём случае это
lv3:ralt_switch,misc:typoв дополнительных настройках клавиатуры и далее через RAlt и "-" получаю длинное тире.А вообще, если статья готовилась в чём-то типа ворда или аналогов, то они минусы таки заменяют на длинные тире и надо отдельно ковыряться, чтобы это не делалось.
Другой вопрос, что сама идея вынести часть мышления на аутсорс заманчива, но вот конкретно это — не мышление, а хреновая память на базовые вещи и обходится не галлюцинациями нейросетки, не запросом в поисковик, а собственноручно написанной шпаргалкой. Причём, желательно, без автодополнения, каждую букву набирать самостоятельно — есть шанс, что хоть что-то запомнится.
Ровно до тех пор, пока не понадобится редкоиспользуемая команда, которая уже вымылась из истории. Или вообще никогда там не была, так как делается один раз на свежем сервере.
Другой вопрос, что непонятно, накой делать что-то повторяющееся руками. Ситуация повторяется каждые N дней — что мешает автоматизировать? Есть же тот же ансибл, в котором есть модуль unarchive. Вобщем, по-моему, вместо того, чтобы закрутить шуруп хотя бы отвёрткой за неимением шуруповёрта, его тут вбивают молотком.
Гм... Из недавнего опыта времён ковида — нетбук с дебианом отлично работал на 4ГБ ОЗУ + zramswap на 2ГБ под LXDE. Задачи — браузер, geany, документация в pdf, документы в libreoffice. Не скажу, что нетбук сам по себе быстрый, но память там не выжиралась. Ну или вы не умеете в интерпретацию вывода команды free.
"Если вы не любите кошек — вы просто не умеете их готовить"