Ну что вы в самом деле! Люди кушать хотят здесь и сейчас. Им что, по-вашему, пойти сказать начальству: "Мы все сделали, что вы хотели, все заблокировали, больше ничего не требуется, увольняйте нас"? Да нет, конечно, будут сидеть и придумывать все новые и новые объекты для блокировки, даже если никто и не просит. Тут ведь половина страны за зарплату в 30 тыс. удавит кого угодно, и плевать на последствия...
iDRAC и iLO я никогда не смогу поставить ни себе, для своих проектов, ни малому бизнесу. А вот nanoKVM могу. Совсем разные уровни. Но это не значит, что если энтерпрайз монстры там где-то халявят, то nanoKVM вообще должен безопасности не иметь...
Есть такая штука. Не нашел ничего, что хотя бы отдаленно имело отношение к безопасности, а это прямо ой. Не вижу защиты от перебора паролей (какой-нибудь аналог fail2ban). И хотя бы port knocking уж можно было сделать. Такое страшно оставлять глядящим в инет.
Tailscale не использую и никому не рекомендую. Устройство как раз хорошо тем, что полностью автономно.
Стоило упомянуть, что У Stable Diffusion, в отличие от Midjorney, есть ещё такая вещь, как разные модели, да и самой Stable Diffusion несколько версий, основные - 1.5, SDXL и Flux. Суммарно это даёт невероятное число комбинаций на любой вкус и для любого железа.
Так вот, в наших дальних гребнях я видел только конторы, которые с точки зрения IT и "говноконторами"-то назвать не получится, настолько там все плохо...
Я с теста железа на коробке начинаю, чтоб проверить включение и правильное определение компонентов. Может быть, процесс и не ускоряет, но в случае проблем сильно спасает нервы.
Но я часто собираю ретро, там вообще много проблем.
Да нужен-то всего один белый IP - обычно у человека один дом и один интернет-провайдер. В России это пока стоит 150-200 рублей, и при этом все работает и в случае мобильных операторов тоже.
Я ещё понимаю, когда целую кучу точек в разных местах надо связать, но вот как раз для pet-проекта проще иметь домашний белый IP.
ComfyUI, по крайней мере на ПК, поддерживает огромное количество других моделей. Рекомендую попробовать что-нибудь более интересное, например, FLUX (и не оригинальный, а тюнингованные модели на его основе) или то, что было после.
Там одно дело установить, а другое дело - пользоваться. Ещё неизвестно, где больше подводных камней. ;)
На самом деле SteamOS - последняя надежда. Что там Майкрософт будет или не будет делать, это ещё бабушка надвое сказала, а SteamOS уже есть. Пока только для консолей, на другое железо нормально установить тяжело, но работы уже ведутся.
Ну и ChromeOS, ноутбуками с которой завалены американские школы.
Наверно, самый правильный коммент во всем обсуждении - и самый игнорируемый.
Именно так, судя по всему, и происходит - человечество во всех сферах своего бытия получает все больше и больше новых инструментов и возможностей и т.д., но постоянно за ними не успевает!
Когда-то говорили, что хирург, который будет оперировать без анестезии - не хирург. Да, были такие времена, и тогдашние хирурги возмущались, мол, как это так, оперировать, когда пациент ничего не чувствует?
Ну потом говорили, что врач, которому нужен рентген, не врач вовсе - и так далее, на каждое нововведение.
Я использую text-generation-webui на 3090 и Tesla P40 (24 + 24 Гб), там ничего настраивать не надо, для квантизованных GGUF просто надо указать пропорцию разделения модели между двумя "памятями".
Для начинающих на самом деле можно просто накатить на винду oobabooga text-generation-webui и экспериментировать с теми моделями, которые поместятся в видеопамять (или в оперативную память, если вы не против медленных ответов). Домашний сервер для этого не нужен.
Отлично подходит для простых задач и для общего понимания принципов общения с LLM, а так же для перебора моделей.
На 48 гигах VRAM (две 3090 или одна 3090 и что-то типа Tesla P40) уже можно запускать квантизованные 72B для теста, а это серьезно.
Если оставить в стороне рекламу и невыдуманность истории, то получается, что автор выгорел от работы в офисе.
Печально, когда у человека нет перспективы. Я уж не стану рассказывать, как себя чувствуешь, когда фактически у тебя на руках умирают люди... Это, конечно, будет черезчур для обычных офисных работников. Но вот фильм "Идеальные дни" я бы очень автору порекомендовал.
Диск заменить бы на твердотельник на переходнике и ещё добавить адаптер CF- или SD-карт (или оба). Из звука я бы взял либо ESS 1868/1869 и навесил бы на нее современный Midi-чип Dream (SAM2695), либо уж Sound Blaster AWE64 с памятью. Это бы и в ДОСе, и под виндой идеально работало. Хотя на такой машине можно попробовать и SB Live! 5.1, хотя вот эта как раз может и не заработать нормально.
Скоро всем будет не до ИТ от слова совсем...
Ну что вы в самом деле! Люди кушать хотят здесь и сейчас. Им что, по-вашему, пойти сказать начальству: "Мы все сделали, что вы хотели, все заблокировали, больше ничего не требуется, увольняйте нас"? Да нет, конечно, будут сидеть и придумывать все новые и новые объекты для блокировки, даже если никто и не просит. Тут ведь половина страны за зарплату в 30 тыс. удавит кого угодно, и плевать на последствия...
Меня глубоко травмировала клавиатура, лежащая на корпусе в километре над столом. Если смогу пережить эту травму, то продолжу читать.
iDRAC и iLO я никогда не смогу поставить ни себе, для своих проектов, ни малому бизнесу. А вот nanoKVM могу. Совсем разные уровни. Но это не значит, что если энтерпрайз монстры там где-то халявят, то nanoKVM вообще должен безопасности не иметь...
Есть такая штука. Не нашел ничего, что хотя бы отдаленно имело отношение к безопасности, а это прямо ой. Не вижу защиты от перебора паролей (какой-нибудь аналог fail2ban). И хотя бы port knocking уж можно было сделать. Такое страшно оставлять глядящим в инет.
Tailscale не использую и никому не рекомендую. Устройство как раз хорошо тем, что полностью автономно.
Стоило упомянуть, что У Stable Diffusion, в отличие от Midjorney, есть ещё такая вещь, как разные модели, да и самой Stable Diffusion несколько версий, основные - 1.5, SDXL и Flux. Суммарно это даёт невероятное число комбинаций на любой вкус и для любого железа.
Смог дочитать статью только до половины.
Так вот, в наших дальних гребнях я видел только конторы, которые с точки зрения IT и "говноконторами"-то назвать не получится, настолько там все плохо...
Я с теста железа на коробке начинаю, чтоб проверить включение и правильное определение компонентов. Может быть, процесс и не ускоряет, но в случае проблем сильно спасает нервы.
Но я часто собираю ретро, там вообще много проблем.
Вот это прямо вот главный аргумент. Полиции на улицах, особенно в спальных районах региональных центров просто не видно...
Ух! За $18 в месяц можно купить 2-3 VPS за рубежом и 3-4 в России! И ещё останется на белый статистический IP для дома.
Да нужен-то всего один белый IP - обычно у человека один дом и один интернет-провайдер. В России это пока стоит 150-200 рублей, и при этом все работает и в случае мобильных операторов тоже.
Я ещё понимаю, когда целую кучу точек в разных местах надо связать, но вот как раз для pet-проекта проще иметь домашний белый IP.
ComfyUI, по крайней мере на ПК, поддерживает огромное количество других моделей. Рекомендую попробовать что-нибудь более интересное, например, FLUX (и не оригинальный, а тюнингованные модели на его основе) или то, что было после.
Там одно дело установить, а другое дело - пользоваться. Ещё неизвестно, где больше подводных камней. ;)
На самом деле SteamOS - последняя надежда. Что там Майкрософт будет или не будет делать, это ещё бабушка надвое сказала, а SteamOS уже есть. Пока только для консолей, на другое железо нормально установить тяжело, но работы уже ведутся.
Ну и ChromeOS, ноутбуками с которой завалены американские школы.
Abobe Acrobat (не Reader) обычно нужен, потому что все остальное - корявые поделки, в которых все время чего-то важного не хватает.
Наверно, самый правильный коммент во всем обсуждении - и самый игнорируемый.
Именно так, судя по всему, и происходит - человечество во всех сферах своего бытия получает все больше и больше новых инструментов и возможностей и т.д., но постоянно за ними не успевает!
Когда-то говорили, что хирург, который будет оперировать без анестезии - не хирург. Да, были такие времена, и тогдашние хирурги возмущались, мол, как это так, оперировать, когда пациент ничего не чувствует?
Ну потом говорили, что врач, которому нужен рентген, не врач вовсе - и так далее, на каждое нововведение.
Пойдете к такому лечиться? :)
Я использую text-generation-webui на 3090 и Tesla P40 (24 + 24 Гб), там ничего настраивать не надо, для квантизованных GGUF просто надо указать пропорцию разделения модели между двумя "памятями".
Для начинающих на самом деле можно просто накатить на винду oobabooga text-generation-webui и экспериментировать с теми моделями, которые поместятся в видеопамять (или в оперативную память, если вы не против медленных ответов). Домашний сервер для этого не нужен.
Отлично подходит для простых задач и для общего понимания принципов общения с LLM, а так же для перебора моделей.
На 48 гигах VRAM (две 3090 или одна 3090 и что-то типа Tesla P40) уже можно запускать квантизованные 72B для теста, а это серьезно.
Если оставить в стороне рекламу и невыдуманность истории, то получается, что автор выгорел от работы в офисе.
Печально, когда у человека нет перспективы. Я уж не стану рассказывать, как себя чувствуешь, когда фактически у тебя на руках умирают люди... Это, конечно, будет черезчур для обычных офисных работников. Но вот фильм "Идеальные дни" я бы очень автору порекомендовал.
Диск заменить бы на твердотельник на переходнике и ещё добавить адаптер CF- или SD-карт (или оба). Из звука я бы взял либо ESS 1868/1869 и навесил бы на нее современный Midi-чип Dream (SAM2695), либо уж Sound Blaster AWE64 с памятью. Это бы и в ДОСе, и под виндой идеально работало. Хотя на такой машине можно попробовать и SB Live! 5.1, хотя вот эта как раз может и не заработать нормально.