Это все, конечно здорво, но мне хотелось бы поддерживать влажность меньше, чем минимальная уставка доступная для осушителя. И больше нуля.
Вы не сможете, по-двум причинам: а) В компрессорных "больших" осушителях эта установка зашита намертво для защиты холодильной установки; б) Полупроводниковые мелкие осушители, на элементах пельтье, имеют слишком маленький COP, их вы можете хоть круглые сутки держать включенными, при 400 Вт потреблении, в комнате 15 квадратов, они могут снизить с 90% до 80%, и на этом все. У меня их было около десятка, на этом я съел собаку, и оставил один, самый эффективный. Кстати кондиционер у которого COP 9000BTU (это около 2.7 кВт) - тоже в целях безопасности снижает влажность не ниже определенного предела.
Ну и иметь данные о влажности до и после, чтобы глядя на графики принимать решения о том, что и как делать дальше.
Эта игрушка будет актуальна первые несколько дней. Потом осушитель (если он и есть) будет крутиться в штатном режиме, безо всяких графиков и анализов.
Комфортная для человека влажность воздуха в помещении - 50%. Это - плюс-минус самая обыкновенная окружающая среда в типичной квартире или доме. Там где влажность by design повышенная - во-первых люди не живут, во-вторых исправляется самым обыкновенным вентилятором подвязанным на выключатель света, или даже 24\7, что является неплохой практикой и способствует циркуляции свежего воздуха.
Ваши "графики" просто скажут что вентилятор должен быть включен круглосуточно, но я вам это и без графиков скажу.
Вероятно для вас это всё и правда не нужно...
Графики - нет, не нужны. Влажность воздуха - это абсолютный, предсказуемый и весьма инертный параметр. Разницу между 40% и 50% вы не ощутите. А бытовые приборы позволяют держать определенный уровень и без графиков.
Впрочем осушитель у меня есть, и я даже могу читать с него данные и им управлять в любом режиме. Вот реально в любом, могу даже его выключить, если вы на этой странице напишете три раза "ку". Но не делаю это, потому что к умному дому это не относится, это такая же автоматика как и например холодильник.
У осушителей стоит свой гигрометр, при том не дерьмо типа DHT22, а герметичный, с калибровкой и так далее. Чем отличаются?
Ну например разводкой. Вот эта вся лапша что на фото, через год будет наполовину разъедена коррозией, а еще через год отвалится.
***
Вытяжка просто подключается к выключателю света, и она просто должна работать, вне зависимости от того что там показали какие-то датчики. А современные малошумные - так вообще могут работать всегда, и это в общем-то нормальная практика связанная не только с влажностью, а и в целом с чистотой воздуха.
***
Вот знаете, у меня ассистент по команде может продиктовать номер машины припаркованной на улице перед домом (с камеры видеонаблюдения), самостоятельно подавать показания счетчика в облэнерго, кормить кота после "мяу", обесточивать дом и заводить удаленно автомобиль, но вентилятор сюда подключить я бы ни за что не догадался. Это же лютый оверинжиниринг.
Полноценный локальный голосовой ассистент - это то, что умеет в контекст.
Ну вот например вы говорите "Алиса, какая температура за окном?", Алиса вам отвечает "Двадцать градусов", вы переспрашиваете "А сейчас?", и Алиса не команду просит уточнить, а снова дает температуру. Вы говорите "Если температура сядет ниже двадцати градусов, включи обогрев на двадцать три" - и Алиса это выполняет.
Ну или там говорите "Вася, через час включи лампочку в туалете", и Вася через час ее включает.
***
Вот на такую реализацию я бы посмотрел. Но к сожалению с вероятностью в 98%, это будет очередное - Алиса, сколько время? - Извините, команда не распознана. - Алиса, который час? - 17:00.
***
Свою систему я делал с подключением по витой паре, еще до событий, хотя несколько wifi-устройств осталось. И знаете, я несказанно этому рад. Когда включается РЭБ (время сейчас такое) - wifi всё. Все эти zigbee естественно тоже.
***
while (WiFi.status() != WL_CONNECTED) { delay(500); Serial.print("."); }
Скажите, а что будет если у вас по какой-либо причине не включится роутер, или не выдаст адрес? ;)
Как астматик, заявляю: не интересно. Нам интересно, чтобы не было приступов, на что напрямую влияет комплекс лечения. Ну еще и процент заряда небулайзера перед долгим выходом из дому.
А лечить астму надо и при 40% влажности, и при 80% влажности.
Уже не первый раз наблюдаю подобную ситуацию, когда "педагоги", да и в целом государственные люди, пишут и делают большой объем какой-то ерунды, не владея даже базовым пониманием о предмете.
Ладно, человек может ошибиться, когда декларирует что не воспринимает системы не дающие понимания что происходит на уровне железа, и тут же берет огороженный ESP32.
Но в чем суть умного дома-то - разве сложно почитать и понять? Ладно, об этом позже.
Даже программируя это бесполезное устройство, автор, он же преподаватель понаступал на детские в общем-то грабли.
Ну вот например, датчик дыма MQ-2 разогревается и сушит воздух. Использование их в одной коробке неизбежно повлияет на измерение, как и использование гигроскопичного корпуса.
Вопрос-исследование на тему "почему эта штука превратится в тыкву, если вдруг глюканет роутер" - пусть будет заданием на повышение квалификации педагога.
А вообще, умный дом - это не датчики и моргание светом, а комплекс взаимосвязанных устройств, могущих работать в одной связке. Включать телевизор командой "Телевизор, включись" - это просто автоматика. Умным домом оно станет, когда уходя из дому вы скажете "Телевизор, включись через час после моего ухода, если влажность станет выше 50%".
Вот это должно быть в статье, а не паттерны и принципы :)
Вы понимаете разницу между "шимить" и обесточивать?
В первом случае - вы нажали рубильник, запустили систему, и она там что-то коммутирует по своим алгоритмам. Вырубили - процесс прекратился, цепь обесточена.
Во втором случае, у вас рубильником является сам полупроводник, и он может как самопроизвольно включиться, так и не выключиться.
Типовая схема любого блока управления устройством через шину, неважно кондиционера это, или гибридного инвертора - подразумевает использование микросхемы, например CH341 или даже STM32, питающейся от встроенного блока питания, подключенного к той же сети, что и коммутируется. Там нет никаких контуров, там ИБП + линейник, подающие GND и VCC на микруху, и эти же GND и VCC на дырку с данными, вне зависимости от того USB это, UART, или RS232.
Кстати знаете почему нельзя измерять напряжение в сети, осцилографом, питающимся от этой же сети?
Статьи я писать не буду. Приборы конструировать нужно не по статьям с Хабра, а по знаниям из книг или других источников.
Вы немного отстали от современности, или сознательно проигнорировали упоминание счетчика.
В современных цифровых счетчиках, еще и программируемых удаленно, которые во всяком случае ставят у нас в Незалежной - мощность отсечения прописана и определяется программно, а отсекается моментально.
Есть такая штука в электрообеспечении жилых домов, называется "паспортная мощность". Это количество ватт, прописанных в договоре, оно не стандартно, а выбирается хозяином при подключении к энергосети. Соответственно - чем больше мощность - тем дороже подключение.
Естественно, обыкновенные автоматы не производятся под широкий спектр токов, поэтому раньше можно было читерить, при стройке дома например, взяв и заплатив себе 2кВт по паспорту, но по факту тебе ставили максимально приближенный на 16А, и ты получал шаровые 3.5 кВт. Соответственно можно было купить 4 кВт, и тогда ставили следующий на 25А, а это уже 5.5 кВт.
Сейчас, паспортная мощность вбивается при установке счетчика в сам счетчик, при чем не обязательно при проводке электросети, а и просто при замене счетчика - после поверки, поломки, подключения иного тарифа, и тд.
И что значит "неадекватно много ТЭНов"?
У меня на столитровом бойлере 2 ТЭНа по 1000 Вт. Электрочайник - 2 кВт. Это значит что если бы у меня эти двое управлялись ESP32\SSR, то при подаче электричества (например после планового отключения из-за ремонта на улице) - в сети бы моментально появилось 3 киловатта, которых оказалось бы достаточно для срабатывания моего счетчика.
Гальваноразвязка стоит на цифре, но не на питании.
За обесточенный от фазы провод - разумеется брался, и не раз.
И мне не то что бы не нравятся симисторы, просто я не сторонник шуток с электрическим током (бездумного применения технологий), поскольку видел последствия.
Контраргументация с дивана "ай, можно же поставить на технологию X технологию Y" работает только в пределах дивана, а в реальной жизни превращается в смерти от удара электрическим током, и выгоревшие дома, если вдруг эту технологию Y почему-то не поставили.
Поэтому использовать симистор для управления узлами устройства - ок, обусловено схемотехникой, и подразумевается by design.
Использовать любой прибор без гальванической развязки для автоматики - обесточивания устройств, находящихся вне зоны контроля, тем более высокомощных нагревательных - харам.
И это мы с вами до сих пор обсуждали высоковольтную часть. Можем обсудить низковольтную. Как вам залипание оптопары из-за пробоя фототранзюка от нагрева? Как раз то чем грешат SSR-ки: послал нолик на цифровой пинчик, система отрапортовала что выключено - а не выключено. И кипятильничик греет, греет, кипятит, кипятит, потом испаряет, потом плавит, а потом поджигает. А как вам паразитное напряжение на цифровых пинах МК, которое кстати говоря присутствует там не всегда, методом тыка его можно и не выявить, а инженерные навыки ардуинщиков на кипятильниках не позволят поставить подтягивающий резистор? А как вам 20-миллисекундное состояние единицы при включении некоторых МК, например ESP32, которого не хватает для щелканья реле, но хватает для щелканья симистора, из-за чего при подаче питания на устройство, все его исполнительные механизмы вздрагивают, и если это будут к примеру несколько ТЭНов - то они выбьют (заметьте, не могут выбить, а выбьют) встроенный в счетчик автомат?
Отвечать на комментарий - одно. Собирать устройство, не имея инженерных навыков - другое.
Эммм... Выключение прибора - это частный случай управления прибором.
Инженеры кстати никогда не называют это "выключением", они зовут это "обесточиванием", соответственно если в цепи находится хоть миллиампер - устройство уже не выключено.
Ну а в процессе функционирования "включать - выключать" типа полицейской люстры - это без проблем. Но в статье же звучит включение кипятильника, а не цветомузыки.
Коммутация нагрузки - это ее физическое отключение. А хотите я вам еще интересный пример приведу?
Есть коммутируемое вашими симисторами устройство. В нем порт для диагностики. В этот порт подключен USB-кабель. Который в свою очередь подключен к компьютеру. Тот через обыкновенный ATX-овый блок питания подключен в розетку - в ту же сеть, что и коммутируемое устройство.
Вопрос: какова разность потенциалов между любым проводом кабеля и физической землей?
Лучше, хуже, можно, не можно - это не совсем электротехнические критерии.
Там вон стоит плач, что эти ваши codex'ы/claud'ы/etc умудряются удалять файлы и запускать малвари без спроса. Так что я бы не рисковал это запускать ни на чем, кроме дедушкиного Pentium III =)
При этом сама статья посвящена практическому запуску, конфигурации, API и первичному бенчмаркингу.
Вот примерно так работает ваш "практический" запуск.
Ollama не тождественна llama.cpp: она использует llama.cpp как один из ключевых компонентов, но добавляет собственный слой управления моделями, API и конфигурацией.
Она полностью тождественна llama.cpp, потому что является враппером над движком.
А то почему-то слои нарезает именно llama.cpp (из лога олламы):
llama_model_loader: loaded meta data with 25 key-value pairs and 291 tensors
llm_load_tensors: offloading 32 architectural layers to GPU
llm_load_tensors: offloaded 32/32 layers to GPU
llm_load_tensors: VRAM used: 4620.12 MiB
/v1/chat/completions и /completion корректно называть эндпоинтами.
Только если не знать нативное название. Но нативное название метода - "метод".
Утверждение, что Flash Attention ничего не ускоряет, также слишком категорично: снижение обмена с памятью и потребления памяти в ряде сценариев даёт прирост производительности.
Утверждение сродни утверждению, что "нажатие на педаль газа ускоряет машину". Как бы нажатие на педаль газа открывает дроссельную заслонку - так бы сказал инженер. Здесь - то же самое. В конечном итоге - да, ускоряет (хоть и не везде), но цель - совершенно другая.
Тезис о том, что в 2026 году локальные LLM запускали уже все, тоже вряд ли универсален.
Безусловно. Но статья написана слишком витиевато для тех, кто в первый раз. И к тому же с ошибками.
Материал рассчитан на инженеров, которым нужен воспроизводимый путь от сборки до рабочего API.
Нет, на этих материал точно не рассчитан.
Инженерия - это четкое понимание механизма работы, а "подбирание параметров" - это скорее вредные советы из ютубчика или инстаграммчика.
Вот взять даже ваш export CUDACXX=/usr/local/cuda/bin/nvcc
Инженер - прекрасно знает, что абсолютное местоположение файла зависит от нескольких условий, и поэтому пишет корректный export CUDACXX=`which nvcc`
Описание параметров - явно не инженерное, и можно сказать далекое от правды.
-ngl (--n-gpu-layers) - Для слабых GPU можно снизить число, чтобы часть вычислений ушла на CPU.
Вот например с чего вы это взяли? Любой GPU даже слабый - всегда будет быстрее вычислять, поскольку вычислительных конвееров у него априори больше чем у процессора. А есть еще iGPU, использующие общую память, в этом случае он тем более будет быстрее процессора
-t (--threads) - Количество потоков CPU для вычислений. По умолчанию — все доступные ядра. Можно ограничить, чтобы не нагружать систему.
Ну разве это инженерное объяснение?
"На этапе инференса (генерации текста) модель выполняет огромное количество умножений матриц, llama.cpp умеет разбивать эти задачи на части, и выполнять их в параллельных потоках. Большое количество потоков вынуждает процессор тратить больше времени на переключение контекста и координацию потоков между задачами, чем на сами вычисления". Для инженеров стоит упомянуть еще и про P\E ядра современных процессоров. Хотя мы это и так знаем.
Складывается ощущение, что вы просто поставили llama.cpp на компьютер, оно у вас почему-то заработало, и вы решили опыт одного компьютера масштабировать на все. Сойдет для статьи "как я первый раз запустил llama.cpp", но вот для инженерной - слабовато. Мы ведь злые люди, и не любим когда математику изучают методом тыка =)
Ещё хотел спросить если кто может помочь, все модели какие запускал, все всё время сваливаются в постоянные циклы wait user say...и так до бесконечности.
Нужны грязные подробности.
А так же хотелось бы подробнее про API llama узнать. Может в этом можно найти решение зацикливания?
А щелкать контактами в момент 0 и не надо, у нас же стабильная синусоида. Щелкайте в момент 1В, или -1В. Даже если к щелчку будет 0.1В-0.7В - контакты вам простят.
Вы не сможете, по-двум причинам: а) В компрессорных "больших" осушителях эта установка зашита намертво для защиты холодильной установки; б) Полупроводниковые мелкие осушители, на элементах пельтье, имеют слишком маленький COP, их вы можете хоть круглые сутки держать включенными, при 400 Вт потреблении, в комнате 15 квадратов, они могут снизить с 90% до 80%, и на этом все. У меня их было около десятка, на этом я съел собаку, и оставил один, самый эффективный. Кстати кондиционер у которого COP 9000BTU (это около 2.7 кВт) - тоже в целях безопасности снижает влажность не ниже определенного предела.
Эта игрушка будет актуальна первые несколько дней. Потом осушитель (если он и есть) будет крутиться в штатном режиме, безо всяких графиков и анализов.
Комфортная для человека влажность воздуха в помещении - 50%. Это - плюс-минус самая обыкновенная окружающая среда в типичной квартире или доме. Там где влажность by design повышенная - во-первых люди не живут, во-вторых исправляется самым обыкновенным вентилятором подвязанным на выключатель света, или даже 24\7, что является неплохой практикой и способствует циркуляции свежего воздуха.
Ваши "графики" просто скажут что вентилятор должен быть включен круглосуточно, но я вам это и без графиков скажу.
Графики - нет, не нужны. Влажность воздуха - это абсолютный, предсказуемый и весьма инертный параметр. Разницу между 40% и 50% вы не ощутите. А бытовые приборы позволяют держать определенный уровень и без графиков.
Впрочем осушитель у меня есть, и я даже могу читать с него данные и им управлять в любом режиме. Вот реально в любом, могу даже его выключить, если вы на этой странице напишете три раза "ку". Но не делаю это, потому что к умному дому это не относится, это такая же автоматика как и например холодильник.
Соответственно терминал дублирует голосовой ввод.
У осушителей стоит свой гигрометр, при том не дерьмо типа DHT22, а герметичный, с калибровкой и так далее. Чем отличаются?
Ну например разводкой. Вот эта вся лапша что на фото, через год будет наполовину разъедена коррозией, а еще через год отвалится.
***
Вытяжка просто подключается к выключателю света, и она просто должна работать, вне зависимости от того что там показали какие-то датчики. А современные малошумные - так вообще могут работать всегда, и это в общем-то нормальная практика связанная не только с влажностью, а и в целом с чистотой воздуха.
***
Вот знаете, у меня ассистент по команде может продиктовать номер машины припаркованной на улице перед домом (с камеры видеонаблюдения), самостоятельно подавать показания счетчика в облэнерго, кормить кота после "мяу", обесточивать дом и заводить удаленно автомобиль, но вентилятор сюда подключить я бы ни за что не догадался. Это же лютый оверинжиниринг.
Полноценный локальный голосовой ассистент - это то, что умеет в контекст.
Ну вот например вы говорите "Алиса, какая температура за окном?", Алиса вам отвечает "Двадцать градусов", вы переспрашиваете "А сейчас?", и Алиса не команду просит уточнить, а снова дает температуру. Вы говорите "Если температура сядет ниже двадцати градусов, включи обогрев на двадцать три" - и Алиса это выполняет.
Ну или там говорите "Вася, через час включи лампочку в туалете", и Вася через час ее включает.
***
Вот на такую реализацию я бы посмотрел. Но к сожалению с вероятностью в 98%, это будет очередное - Алиса, сколько время? - Извините, команда не распознана. - Алиса, который час? - 17:00.
***
Свою систему я делал с подключением по витой паре, еще до событий, хотя несколько wifi-устройств осталось. И знаете, я несказанно этому рад. Когда включается РЭБ (время сейчас такое) - wifi всё. Все эти zigbee естественно тоже.
***
Скажите, а что будет если у вас по какой-либо причине не включится роутер, или не выдаст адрес? ;)
Время компиляции важно только если код писать методом тыка, что вообще надо запретить на законодательном уровне.
В остальных случаях - один раз скомпилировали написанный код, потом раза два-три во время дебага, да и на этом все.
Чтобы что? Ну вот я знаю что у меня влажность после купания 90%, без купания 50%. И что мне с этим делать?
Как астматик, заявляю: не интересно. Нам интересно, чтобы не было приступов, на что напрямую влияет комплекс лечения. Ну еще и процент заряда небулайзера перед долгим выходом из дому.
А лечить астму надо и при 40% влажности, и при 80% влажности.
Ну вот. А у автора лампочка не будет светить, если роутер глюкнется.
Да и фанерная коробка быстрее полыхнет, чем заводская розетка, сделанная из поликарбоната или нейлона.
З.Ы. Покажите человека, которому вообще нужно знать какая влажность у него в доме.
Уже не первый раз наблюдаю подобную ситуацию, когда "педагоги", да и в целом государственные люди, пишут и делают большой объем какой-то ерунды, не владея даже базовым пониманием о предмете.
Ладно, человек может ошибиться, когда декларирует что не воспринимает системы не дающие понимания что происходит на уровне железа, и тут же берет огороженный ESP32.
Но в чем суть умного дома-то - разве сложно почитать и понять? Ладно, об этом позже.
Даже программируя это бесполезное устройство, автор, он же преподаватель понаступал на детские в общем-то грабли.
Ну вот например, датчик дыма MQ-2 разогревается и сушит воздух. Использование их в одной коробке неизбежно повлияет на измерение, как и использование гигроскопичного корпуса.
Вопрос-исследование на тему "почему эта штука превратится в тыкву, если вдруг глюканет роутер" - пусть будет заданием на повышение квалификации педагога.
А вообще, умный дом - это не датчики и моргание светом, а комплекс взаимосвязанных устройств, могущих работать в одной связке. Включать телевизор командой "Телевизор, включись" - это просто автоматика. Умным домом оно станет, когда уходя из дому вы скажете "Телевизор, включись через час после моего ухода, если влажность станет выше 50%".
Вот это должно быть в статье, а не паттерны и принципы :)
Вы понимаете разницу между "шимить" и обесточивать?
В первом случае - вы нажали рубильник, запустили систему, и она там что-то коммутирует по своим алгоритмам. Вырубили - процесс прекратился, цепь обесточена.
Во втором случае, у вас рубильником является сам полупроводник, и он может как самопроизвольно включиться, так и не выключиться.
Типовая схема любого блока управления устройством через шину, неважно кондиционера это, или гибридного инвертора - подразумевает использование микросхемы, например CH341 или даже STM32, питающейся от встроенного блока питания, подключенного к той же сети, что и коммутируется. Там нет никаких контуров, там ИБП + линейник, подающие GND и VCC на микруху, и эти же GND и VCC на дырку с данными, вне зависимости от того USB это, UART, или RS232.
Кстати знаете почему нельзя измерять напряжение в сети, осцилографом, питающимся от этой же сети?
Статьи я писать не буду. Приборы конструировать нужно не по статьям с Хабра, а по знаниям из книг или других источников.
Вы немного отстали от современности, или сознательно проигнорировали упоминание счетчика.
В современных цифровых счетчиках, еще и программируемых удаленно, которые во всяком случае ставят у нас в Незалежной - мощность отсечения прописана и определяется программно, а отсекается моментально.
Есть такая штука в электрообеспечении жилых домов, называется "паспортная мощность". Это количество ватт, прописанных в договоре, оно не стандартно, а выбирается хозяином при подключении к энергосети. Соответственно - чем больше мощность - тем дороже подключение.
Естественно, обыкновенные автоматы не производятся под широкий спектр токов, поэтому раньше можно было читерить, при стройке дома например, взяв и заплатив себе 2кВт по паспорту, но по факту тебе ставили максимально приближенный на 16А, и ты получал шаровые 3.5 кВт. Соответственно можно было купить 4 кВт, и тогда ставили следующий на 25А, а это уже 5.5 кВт.
Сейчас, паспортная мощность вбивается при установке счетчика в сам счетчик, при чем не обязательно при проводке электросети, а и просто при замене счетчика - после поверки, поломки, подключения иного тарифа, и тд.
И что значит "неадекватно много ТЭНов"?
У меня на столитровом бойлере 2 ТЭНа по 1000 Вт. Электрочайник - 2 кВт. Это значит что если бы у меня эти двое управлялись ESP32\SSR, то при подаче электричества (например после планового отключения из-за ремонта на улице) - в сети бы моментально появилось 3 киловатта, которых оказалось бы достаточно для срабатывания моего счетчика.
Гальваноразвязка стоит на цифре, но не на питании.
За обесточенный от фазы провод - разумеется брался, и не раз.
И мне не то что бы не нравятся симисторы, просто я не сторонник шуток с электрическим током (бездумного применения технологий), поскольку видел последствия.
Контраргументация с дивана "ай, можно же поставить на технологию X технологию Y" работает только в пределах дивана, а в реальной жизни превращается в смерти от удара электрическим током, и выгоревшие дома, если вдруг эту технологию Y почему-то не поставили.
Поэтому использовать симистор для управления узлами устройства - ок, обусловено схемотехникой, и подразумевается by design.
Использовать любой прибор без гальванической развязки для автоматики - обесточивания устройств, находящихся вне зоны контроля, тем более высокомощных нагревательных - харам.
И это мы с вами до сих пор обсуждали высоковольтную часть. Можем обсудить низковольтную. Как вам залипание оптопары из-за пробоя фототранзюка от нагрева? Как раз то чем грешат SSR-ки: послал нолик на цифровой пинчик, система отрапортовала что выключено - а не выключено. И кипятильничик греет, греет, кипятит, кипятит, потом испаряет, потом плавит, а потом поджигает. А как вам паразитное напряжение на цифровых пинах МК, которое кстати говоря присутствует там не всегда, методом тыка его можно и не выявить, а инженерные навыки ардуинщиков на кипятильниках не позволят поставить подтягивающий резистор? А как вам 20-миллисекундное состояние единицы при включении некоторых МК, например ESP32, которого не хватает для щелканья реле, но хватает для щелканья симистора, из-за чего при подаче питания на устройство, все его исполнительные механизмы вздрагивают, и если это будут к примеру несколько ТЭНов - то они выбьют (заметьте, не могут выбить, а выбьют) встроенный в счетчик автомат?
Отвечать на комментарий - одно. Собирать устройство, не имея инженерных навыков - другое.
О дааа. Был у меня такой сосед-умник-обогреватель. Показываю чем закончилось:
https://www.youtube.com/shorts/H2ExFEu9JqM
А вот оскорблять не нужно :)
Эммм... Выключение прибора - это частный случай управления прибором.
Инженеры кстати никогда не называют это "выключением", они зовут это "обесточиванием", соответственно если в цепи находится хоть миллиампер - устройство уже не выключено.
Ну а в процессе функционирования "включать - выключать" типа полицейской люстры - это без проблем. Но в статье же звучит включение кипятильника, а не цветомузыки.
Потому что мы обсуждаем коммутацию, а не прыжки.
Коммутация нагрузки - это ее физическое отключение. А хотите я вам еще интересный пример приведу?
Есть коммутируемое вашими симисторами устройство. В нем порт для диагностики. В этот порт подключен USB-кабель. Который в свою очередь подключен к компьютеру. Тот через обыкновенный ATX-овый блок питания подключен в розетку - в ту же сеть, что и коммутируемое устройство.
Вопрос: какова разность потенциалов между любым проводом кабеля и физической землей?
Лучше, хуже, можно, не можно - это не совсем электротехнические критерии.
Там вон стоит плач, что эти ваши codex'ы/claud'ы/etc умудряются удалять файлы и запускать малвари без спроса. Так что я бы не рисковал это запускать ни на чем, кроме дедушкиного Pentium III =)
Вот примерно так работает ваш "практический" запуск.
Она полностью тождественна llama.cpp, потому что является враппером над движком.
https://github.com/ollama/ollama - можете здесь тыкнуть на код управления слоями моделей?
А то почему-то слои нарезает именно llama.cpp (из лога олламы):
llama_model_loader: loaded meta data with 25 key-value pairs and 291 tensorsllm_load_tensors: offloading 32 architectural layers to GPUllm_load_tensors: offloaded 32/32 layers to GPUllm_load_tensors: VRAM used: 4620.12 MiBТолько если не знать нативное название. Но нативное название метода - "метод".
Утверждение сродни утверждению, что "нажатие на педаль газа ускоряет машину". Как бы нажатие на педаль газа открывает дроссельную заслонку - так бы сказал инженер. Здесь - то же самое. В конечном итоге - да, ускоряет (хоть и не везде), но цель - совершенно другая.
Безусловно. Но статья написана слишком витиевато для тех, кто в первый раз. И к тому же с ошибками.
Нет, на этих материал точно не рассчитан.
Инженерия - это четкое понимание механизма работы, а "подбирание параметров" - это скорее вредные советы из ютубчика или инстаграммчика.
Вот взять даже ваш
export CUDACXX=/usr/local/cuda/bin/nvccИнженер - прекрасно знает, что абсолютное местоположение файла зависит от нескольких условий, и поэтому пишет корректный
export CUDACXX=`which nvcc`Описание параметров - явно не инженерное, и можно сказать далекое от правды.
Вот например с чего вы это взяли? Любой GPU даже слабый - всегда будет быстрее вычислять, поскольку вычислительных конвееров у него априори больше чем у процессора. А есть еще iGPU, использующие общую память, в этом случае он тем более будет быстрее процессора
Ну разве это инженерное объяснение?
"На этапе инференса (генерации текста) модель выполняет огромное количество умножений матриц, llama.cpp умеет разбивать эти задачи на части, и выполнять их в параллельных потоках. Большое количество потоков вынуждает процессор тратить больше времени на переключение контекста и координацию потоков между задачами, чем на сами вычисления". Для инженеров стоит упомянуть еще и про P\E ядра современных процессоров. Хотя мы это и так знаем.
Складывается ощущение, что вы просто поставили llama.cpp на компьютер, оно у вас почему-то заработало, и вы решили опыт одного компьютера масштабировать на все. Сойдет для статьи "как я первый раз запустил llama.cpp", но вот для инженерной - слабовато. Мы ведь злые люди, и не любим когда математику изучают методом тыка =)
Возьметесь рукой за "обесточенный" провод не глядя?)
Нужны грязные подробности.
https://github.com/osllmai/llama.cpp/blob/main/examples/server/README.md
А щелкать контактами в момент 0 и не надо, у нас же стабильная синусоида. Щелкайте в момент 1В, или -1В. Даже если к щелчку будет 0.1В-0.7В - контакты вам простят.