Здесь пример обработки двух PDF по 100 килобайт с платёжками за два месяца. Время предобработки, когда сеть молчит - 3 секунды, общее время генерации - 12 секунд.
Это Ryzen 9 + RTX 3090 Ti 24G. Время точно не замерял, по ощущениям между этими моделями большой разницы по времени не было и все довольно быстро. Без фото - очень быстро, с фото может задуматься после загрузки на 2-3 секунды далее выдает ответ примерно с той же скоростью, что на текстовом.
Два примера: 12b и 27b. Выводы в результатах совершенно правильные. По скорости работы - 4b работает без GPU на уровне скорости чтения выдаваемого текста.
Из проверенного могу предложить self-hosted решение Mailcow dockerized. Работает хорошо, но нужно иметь в виду несколько моментов:
Для почты нужно использовать чистый IP, не занесённый в различные черные списки;
Обязательно нужно добавить обратный DNS, который по IP адресу резолвит домен (делается у хостера);
Внимательно настроить все прочие DNS записи, включая DKIM и SPF;
Чтобы перехватыввть почту, направленную на неизвестные адреса, нужно добавить специальный ящик (гуглить "mailcow catchall").
Это из самого необходимого.
Если нужно проще, то можно создать почту у хостера, например reg ru, но там могут быть свои подводные камни, как очень маленькое место под почту (20-30 гигабайт это мало). Самый критичный момент (в рег ру) - отсутствие поддержки групповых адресов - тут даже не знаю что сказать как такое возможно, но из нет.
+1 кейс на разбор полётов в vk.com как можно было п.. потерять ещё одного клиента на ровном месте из-за совершенно тупой идеи: взять и перевести всех на платный тариф за пол месяца. Даже не вдаваясь в технические детали: неработоспособности UI mail.ru помоги Даше понять, что могло бы пойти не так...
Выглядит неплохо. Но я бы сильно не надеялся на обещания пожизненной бесплатности. Вообще очень странно выглядит, что на рынке полностью отсутствуют предложения для некоммерческих организаций вроде школ. Даже Microsoft в прошлые времена предлагали MSDN Academic Alliance буквально за копейки для учебных учреждений.
Посмотрите в сторону mailcow: dockerized. Вполне рабочий вариант. Вот ещё полезная статья, которая подсветила некоторые вопросы, которые оставались от стандартного мануала (недоступна с российских IP).
Я вначале не до конца понял, что имеет в виду @mainfrm, но после переноса домена стало понятно, что весь мир уже знает актуальные адреса, а вся почта внутри мейла продолжает ходить по локальным, одному ему известным MX. Причём даже с частных адресов на мейл письма не доходили.
Один раз нужно было воспользоваться техподдержкой по причине ошибочной блокировки аккаунта из-за якобы превышения числа ящиков. Вот примерный тайминг реакции техподдежки:
6 декабря создан тикет.
10 декабря пришёл ответ, что тикет закрыт с формулировкой "Ваш запрос передан ответственным специалистам. Пожалуйста, ожидайте."
18 декабря новый тикет с вопросом о статусе предыдущего.
6 января второй тикет закрыт с формлуировкой, что "Вам нужно было принять новые условия, там должно появиться окно с кнопкой".
7 января третий тикет с дополнительным уточнинем, что в заблокированном аккаунте это сделать невозможно, никакого окна не появляется, и что кроме того мы их уже своевременно принимали и проблема с блокировкой не в этом.
17 января вопрос наконец-то был решён.
Т.е. какие-то базовые ответы типа пробовали ли вы очистить куки и выключить и включить могут быть даны за несколько рачбоих дней. Решить вопрос - может занять больше месяца.
Папки не по русски там явно из-за того, что к их названию нужно было применить кодировку UTF7, т.е. эти крякозябры нужно прогнать через функцию https://www.novel.tools/decode/UTF-7 пример онлайн, а так оно должно бы быть реализовано в библиотеке.
Ну там не обязательно этой услугой пользоваться, можно просто поставить импорт через IMAP, в принципе нормально утянет. Но что ящики могут оказаться большими, и тех гигабайт что входят в тариф, немного, мягко говоря - это факт. Но в целом это решаемый вопрос если пересмотреть подход к архивированию старых писем и удалению с сервера. Но да, неудобно, спорить тут не о чем. Но платить по 200 тысяч в месяц тоже несколько неудобно получается, настолько неудобно, что уже удобнее как план C взять свой сервер и настроить там mailu без каких-либо существенных ограничений ни по чему (за такой бюджет).
Посмотрите предложения хостеров и регистраторов доменов, там есть значительно более адекватные по цене предложения для простого почтового хостинга без мессенджеров, видеозвонков, дисков и подобного. Поиск по ключевым словам "почтовый хостинг для домена".
Информация пришла в письме с официального аккаунта vk.
Также 7 октября было еще такое письмо:
Это косвенно может указывать на то, что возможно в окончательном варианте будут 100 бесплатных пользователей, а текущая рассылка проводилась только по клиентам с числом аккаунтов от 100 до 300, это лишь моё предположение.
Спасибо. Сложно сказать, думаю для начала переустановлю все с нуля, включая полный сброс роутера. Возможно какое-то наследние из предыдущих экспериментов. А так это Ultra KN-1810, так что проблем быть не должно.
Да, такая серия логов периодически возникает, но не после такого сообщения:
После него все перестаёт работать, и маршруты не перезагружаются. Зато они перезагружаются после такого фрагмента:
В принципе это объясняет моменты, когда всё начинает работать ни с того ни с сего - обновляется DHCP lease.
Думаю что нужно покопать в init.d где инициализируется DHCP и добавить туда вызов перезагрузки. Только не уверен, что это происходит в /opt. Похоже нужно будет доставлять ssh server.
Предварительные результаты такие: на другом роутере развернул систему (провайдер тот же что у меня) там проблем не было. На своем переустановил все с нуля, начиная от установки поддержки OPKG, вроде работает некоторое время, после чего перестаёт. Пока насколько понял момент падения соответствует появлению в системном логе, доступном из админке сообщения
Да, нужно 24+
Значительно больше вариабельность вывода и зачастую неправильная агрегация. Время инференса 9 секунд.
Иногда вывод может зациклиться:
Здесь пример обработки двух PDF по 100 килобайт с платёжками за два месяца. Время предобработки, когда сеть молчит - 3 секунды, общее время генерации - 12 секунд.
Это Ryzen 9 + RTX 3090 Ti 24G. Время точно не замерял, по ощущениям между этими моделями большой разницы по времени не было и все довольно быстро. Без фото - очень быстро, с фото может задуматься после загрузки на 2-3 секунды далее выдает ответ примерно с той же скоростью, что на текстовом.
Также хорошо обрабатывает PDF.
Два примера: 12b и 27b. Выводы в результатах совершенно правильные. По скорости работы - 4b работает без GPU на уровне скорости чтения выдаваемого текста.
Из проверенного могу предложить self-hosted решение Mailcow dockerized. Работает хорошо, но нужно иметь в виду несколько моментов:
Для почты нужно использовать чистый IP, не занесённый в различные черные списки;
Обязательно нужно добавить обратный DNS, который по IP адресу резолвит домен (делается у хостера);
Внимательно настроить все прочие DNS записи, включая DKIM и SPF;
Чтобы перехватыввть почту, направленную на неизвестные адреса, нужно добавить специальный ящик (гуглить "mailcow catchall").
Это из самого необходимого.
Если нужно проще, то можно создать почту у хостера, например reg ru, но там могут быть свои подводные камни, как очень маленькое место под почту (20-30 гигабайт это мало). Самый критичный момент (в рег ру) - отсутствие поддержки групповых адресов - тут даже не знаю что сказать как такое возможно, но из нет.
+1 кейс на разбор полётов в vk.com как можно было п.. потерять ещё одного клиента на ровном месте из-за совершенно тупой идеи: взять и перевести всех на платный тариф за пол месяца. Даже не вдаваясь в технические детали: неработоспособности UI mail.ru помоги Даше понять, что могло бы пойти не так...
Выглядит неплохо. Но я бы сильно не надеялся на обещания пожизненной бесплатности. Вообще очень странно выглядит, что на рынке полностью отсутствуют предложения для некоммерческих организаций вроде школ. Даже Microsoft в прошлые времена предлагали MSDN Academic Alliance буквально за копейки для учебных учреждений.
Посмотрите в сторону mailcow: dockerized. Вполне рабочий вариант. Вот ещё полезная статья, которая подсветила некоторые вопросы, которые оставались от стандартного мануала (недоступна с российских IP).
Большое спасибо за комментарий!
Я вначале не до конца понял, что имеет в виду @mainfrm, но после переноса домена стало понятно, что весь мир уже знает актуальные адреса, а вся почта внутри мейла продолжает ходить по локальным, одному ему известным MX. Причём даже с частных адресов на мейл письма не доходили.
Один раз нужно было воспользоваться техподдержкой по причине ошибочной блокировки аккаунта из-за якобы превышения числа ящиков. Вот примерный тайминг реакции техподдежки:
6 декабря создан тикет.
10 декабря пришёл ответ, что тикет закрыт с формулировкой "Ваш запрос передан ответственным специалистам. Пожалуйста, ожидайте."
18 декабря новый тикет с вопросом о статусе предыдущего.
6 января второй тикет закрыт с формлуировкой, что "Вам нужно было принять новые условия, там должно появиться окно с кнопкой".
7 января третий тикет с дополнительным уточнинем, что в заблокированном аккаунте это сделать невозможно, никакого окна не появляется, и что кроме того мы их уже своевременно принимали и проблема с блокировкой не в этом.
17 января вопрос наконец-то был решён.
Т.е. какие-то базовые ответы типа пробовали ли вы очистить куки и выключить и включить могут быть даны за несколько рачбоих дней. Решить вопрос - может занять больше месяца.
Один раз пришлось столкнуться с их службой поддержки - ответ пришёл дней через 20.
Папки не по русски там явно из-за того, что к их названию нужно было применить кодировку UTF7, т.е. эти крякозябры нужно прогнать через функцию https://www.novel.tools/decode/UTF-7 пример онлайн, а так оно должно бы быть реализовано в библиотеке.
Ну там не обязательно этой услугой пользоваться, можно просто поставить импорт через IMAP, в принципе нормально утянет. Но что ящики могут оказаться большими, и тех гигабайт что входят в тариф, немного, мягко говоря - это факт. Но в целом это решаемый вопрос если пересмотреть подход к архивированию старых писем и удалению с сервера. Но да, неудобно, спорить тут не о чем. Но платить по 200 тысяч в месяц тоже несколько неудобно получается, настолько неудобно, что уже удобнее как план C взять свой сервер и настроить там mailu без каких-либо существенных ограничений ни по чему (за такой бюджет).
Посмотрите предложения хостеров и регистраторов доменов, там есть значительно более адекватные по цене предложения для простого почтового хостинга без мессенджеров, видеозвонков, дисков и подобного. Поиск по ключевым словам "почтовый хостинг для домена".
На сайте пока никаких изменений нет https://biz.mail.ru/docs/saas/tariffs-bills/tariffs/index.html
Информация пришла в письме с официального аккаунта vk.
Также 7 октября было еще такое письмо:
Это косвенно может указывать на то, что возможно в окончательном варианте будут 100 бесплатных пользователей, а текущая рассылка проводилась только по клиентам с числом аккаунтов от 100 до 300, это лишь моё предположение.
Вопрос про смысл шокотерапии. Можно было бы более изящно всё обставить, сохранив пользовательскую базу.
Спасибо. Сложно сказать, думаю для начала переустановлю все с нуля, включая полный сброс роутера. Возможно какое-то наследние из предыдущих экспериментов. А так это Ultra KN-1810, так что проблем быть не должно.
Да, такая серия логов периодически возникает, но не после такого сообщения:
После него все перестаёт работать, и маршруты не перезагружаются. Зато они перезагружаются после такого фрагмента:
В принципе это объясняет моменты, когда всё начинает работать ни с того ни с сего - обновляется DHCP lease.
Думаю что нужно покопать в init.d где инициализируется DHCP и добавить туда вызов перезагрузки. Только не уверен, что это происходит в /opt. Похоже нужно будет доставлять ssh server.
Предварительные результаты такие: на другом роутере развернул систему (провайдер тот же что у меня) там проблем не было. На своем переустановил все с нуля, начиная от установки поддержки OPKG, вроде работает некоторое время, после чего перестаёт. Пока насколько понял момент падения соответствует появлению в системном логе, доступном из админке сообщения
dhcpd
Server starting service.