Обновить
4

Пользователь

0,3
Рейтинг
10
Подписчики
Отправить сообщение

Запускаем языковую модель на ESP32 со скоростью 400 токенов/с — как это возможно?

Уровень сложностиСложный
Время чтения9 мин
Охват и читатели25K

ESP32-S3 — микроконтроллер за несколько сотен рублей: два ядра Xtensa LX7 на 240 МГц и 512 КБ внутренней SRAM. Языковые модели на нём уже запускали: крошечная stories260K, 260 тысяч параметров, но это настоящая Llama-2 с вниманием, RoPE и SwiGLU. Известные запуски дают около двух десятков токенов в секунду.

Я взял ту же модель и тот же чип и выжал из них 406 токенов в секунду. Это в 18 раз быстрее наивной версии на одном ядре. Никакого разгона и внешних ускорителей: только квантование, векторные инструкции, второе ядро и много возни с памятью.

В этой статье мы разберём, как устроен этот разгон по шагам: где модель держать, как заставить работать редкие SIMD-инструкции ESP32-S3, почему после ускорения матриц узким местом стало внимание и как убедиться, что после всех оптимизаций модель выдаёт тот же текст, что и эталон.

Читать далее

Как я за месяц перевела команду с SQL-промптов на мультиагентную систему и сэкономила команде 200 часов

Уровень сложностиПростой
Время чтения8 мин
Охват и читатели17K

Привет! Меня зовут Дарья Воронкина. Я строила и руководила командой DataHub в медтех-компании OneCell (цифровая патология — ИИ ищет опухоли и метастазы на гистологических стеклах), а сейчас консультирую компании по переходу в AI-native режим.

Расскажу, как примерно за месяц я перевела свою команду с ручных промптов на систему агентов, которая ведет операционку сама. Получилось быстро во многом потому, что за плечами годы ML-инженерии и роль лида — я уже привыкла мыслить системами, данными и процессами, оставалось переложить это на агентов. Дальше — что получилось, что сломалось и какие выводы я унесла. Будет полезно тем, кто уже собирает агентов и хочет довести их до прода.

Читать далее

Claude Code на Windows: что я прописал агенту, чтобы он перестал спотыкаться

Уровень сложностиСредний
Время чтения4 мин
Охват и читатели11K

Большая часть материалов про Claude Code написана под macOS и Linux. У меня часть задач завязана на Windows, в первую очередь браузерная автоматизация с живыми профилями Chrome, поэтому агент работает прямо в нативном окружении, без WSL. Сам Claude Code под Windows ведёт себя стабильно. Проблемы возникают на стыке с окружением: PowerShell 5.1, кодировки, имена процессов, PATH.

Каждую такую мелочь я в итоге записывал агенту в память, чтобы он больше не наступал туда же. Набралось пять штук, плюс блок для CLAUDE.md в конце, который можно забрать себе целиком. Если вы тоже на Windows и без WSL, возможно, это сэкономит вам пару вечеров.

Читать далее

Ladder на экране 0.96": программирую ПЛК тремя кнопками

Уровень сложностиСредний
Время чтения10 мин
Охват и читатели8.6K

Я сделал контроллер на ESP8266, который можно программировать прямо на нем самом: на маленьком экране OLED 0.96" и всего тремя кнопками.

Программа пишется на языке Ladder Diagram. А во время работы эта же схема показывает, что происходит с процессом: какие контакты замкнуты, какие значения на входах, что включено на выходах. Компьютер для этого не нужен.

Читать далее

Файловая система на микросхеме SPI NOR Flash w25q16j

Уровень сложностиПростой
Время чтения15 мин
Охват и читатели6.6K

В этом тексте я попробовал научиться пользоваться микросхемой w25q16j. Это энергонезависимая 133MHz SPI Nor flash память объемом 2 MByte.

Поддерживает QSPI и исполнение прошивок из SPI (XIP).

Далее будет перевод даташита с английского на русский и некоторые комментарии со стороны разработчика проивки.

Читать далее

Утилита CANcat (или CAN-Мессенджер)

Уровень сложностиПростой
Время чтения4 мин
Охват и читатели18K

Недавно я купил себе CAN-трансивер USB2CANFD_V1 и с удивлением обнаружил насколько же простой и лаконичный протокол заложили разработчики в прошивку STM32G0B1CBT6. Это протокол SLCAN. По сути serial CLI. И это оказалось очень кстати, ведь в программировании микроконтроллеров порой приходится работать с UDS протоколом. Как известно, UDS протокол работает поверх сетевого протокола ISO-TP. В этом тексте я написал под SLCAN простую отладочную утилиту для отладки процесса передачи данных по протоколу ISO-TP (ISO 15765-2).

Читать далее

Декларативный подход к текстовым протоколам в Embedded на Си. Фреймворк TACT

Уровень сложностиСредний
Время чтения8 мин
Охват и читатели7.1K

Я занимаюсь разработкой встраиваемых систем уже несколько лет и не раз сталкивался с проблемой, когда было необходимо написать UART драйвер или систему для работы с каким-либо внешним модулем, используя текстовый протокол, будь то протокол AT-команд или что-то подобное. Чаще всего это модули GNSS, модуль GSM, ESP или т.п. Набор управляющих команд для таких модулей бесконечно огромен, и каждая из них часто требует отдельной обработки. Итогом получается нужно писать свой обработчик и парсер под каждую команду, через колбэки или некую машину состояний их последовательно вызывать и пытаться как-то организовать цепочку выполнения, а про обработку ошибок я вообще молчу.

Да, существуют библиотеки и готовые решения в рамках какой-либо операционной системы или набора SDK под конкретный чип. Но что делать, когда на столе лежит микроконтроллер с 20кб свободной RAM, где тебе надо не только команды эти обрабатывать, но еще и весь остальной функционал устройства реализовывать? Нужно что-то универсальное, независимое от платформы.....

Читать далее

Что и как делать с поливом на умной даче?

Время чтения5 мин
Охват и читатели15K

Покупая дачу, мы отнюдь не планировали проводить на ней все теплые месяцы. К теплому морю хочется всегда, а летом особенно. И отказывать себе в этом удовольствии мы не намерены. Правда, наши желания сильно ограничены возможностями. А именно – необходимостью поливать сад, потому что за пару недель без дождей все засохнет... даже в Подмосковье. Поэтому уже в первый дачный сезон я озаботился меня озадачили строительством системы, которая позволила бы эту проблему решить.

Читать далее

Text‑to‑image на ESP32: диффузионный трансформер в микроконтроллере

Уровень сложностиСложный
Время чтения14 мин
Охват и читатели23K

Stable Diffusion хочет видеокарту с 4–8 ГБ памяти. Flux хочет 12 ГБ, а лучше 24. А у меня на столе лежит ESP32-S3 — микроконтроллер, отладочная плата с которым стоит несколько сотен рублей, у которого 512 КБ оперативной памяти, два ядра по 240 МГц и ни одного тензорного ядра.

Вопрос был простой: можно ли заставить эту штуку рисовать картинки по тексту? Не «отправить промпт в облако и показать ответ», а честно прогнать диффузию на самом чипе.

Спойлер: можно. Пишешь «улыбающаяся девушка со светлыми волосами», и через 5,4 секунды ESP32 выдаёт лицо 64×64. Внутри латентная диффузия с трансформером (DiT), int8-квантование, ассемблер под векторные инструкции S3 и некоторое количество грязных трюков. В общем — всё, как вы любите.

Читать далее

Заводим C++ корутины на микроконтроллере

Уровень сложностиСредний
Время чтения15 мин
Охват и читатели12K

Мне давно было интересно попробовать запустить корутины на микроконтроллере, но стандарт С++ совершенно не учитывает мир embedded с его ограничениями и не даёт возможности создать корутину в статической памяти.

Недавно я обнаружил что LLM агенты уже могут реализовывать довольно сложные задачи самостоятельно с неплохим качеством кода.

И тут я понял - чего бы не попробовать сделать своё расширение для clang с корутинами, которые гарантированно не используют аллокации и поверх этого реализовать небольшую операционную систему на корутинах для микроконтроллера.

Читать далее

Пять MQTT‑брокеров на AWS: соединения, задержки и поведение под нагрузкой

Уровень сложностиСредний
Время чтения13 мин
Охват и читатели7.7K

Сколько сообщений в секунду выдерживает MQTT‑брокер? Без описания нагрузки этот вопрос почти ничего не говорит. Приём сообщений от множества устройств, доставка одного сообщения тысяче подписчиков и обслуживание сотен тысяч соединений нагружают сервер по‑разному.

Я сравнил Mosquitto, EMQX, FlashMQ, HiveMQ Community Edition и XMQ на одном AWS‑стенде. Меня интересовали доставленная скорость, задержка и потребление CPU и памяти, а также то, что происходит, когда брокер не успевает за заданной нагрузкой.

Сразу обозначу свою заинтересованность: я разработчик XMQ. Генератор нагрузки xmq_scn также входит в этот проект. Поэтому рядом с результатами нужны версии, сценарии, конфигурации и исходные отчёты: читатель должен иметь возможность проверить эксперимент.

Читать

Протоколы семейства TCP/IP. Теория и практика

Уровень сложностиСредний
Время чтения23 мин
Охват и читатели361K
image

В сети можно найти огромное количество материала о том, как функционируют сети на базе стека протоколов TCP/IP, а также как писать компьютерные программы с сетевыми возможностями. При рассмотрении компьютерных сетей часто углубляются в описание физических основ и структур данных, передаваемых по сети, а при рассмотрении сетевого программирования основное внимание уделяют интернет-сокетам.

Но при изучении и исследовании хочется большего, например, поэкспериментировать с пакетами сетевых протоколов. Многие сетевые протоколы реализованы в ядре операционной системы, и что-либо изменить может оказаться сложной задачей, так как это требует навыков в написании драйверов для операционной системы. Но использование специализированных библиотек позволяет работать с протоколами на низком уровне из пространства пользователя.

В ходе работы над статьёй я написал небольшое приложение, которое послужит отправной точкой для понимания компьютерных сетей и семейства протоколов TCP/IP. С приложением можно экспериментировать, получая дополнительные знания.

Приложение — простое и понятное и, надеюсь, упростит изучение материалов статьи. Ведь именно радость первой победы даёт мотивацию, достаточную для того, чтобы потратить гораздо больше времени на изучение темы.

В статье изложены наиболее важные с моей точки зрения понятия, которые должен знать любой программист, хоть как-то сталкивающийся с компьютерными сетями. Так что без теоретических сведений не обошлось.
Читать дальше →

Представлен шрифт C64 Keyboard, воссозданный по фотографиям классических клавиш ретро-ПК Commodore 64 из 1982 года....

Охват и читатели4.1K

Представлен шрифт C64 Keyboard, воссозданный по фотографиям классических клавиш ретро-ПК Commodore 64 из 1982 года. Оригинальный шрифт отличают выверенные очертания и единообразные пропорции (Download TTF, OTF, Webfont, Complete package).

Читать дальше →

MQTT и Modbus: cравнение протоколов, используемых в шлюзах для IoT

Время чтения6 мин
Охват и читатели53K
В становлении интернета вещей важны не только совершенно новые технологии. Неоценимую роль здесь играет возможность интеграции с разработками прошлых лет. А ключевой момент такой интеграции – связь. Существует немало протоколов, которые позволяют огромному количеству разнообразных «вещей» подключаться к интернету и взаимодействовать друг с другом.

image

Сегодня мы расскажем о паре взаимодополняющих протоколов, которые нашли применение в IoT. Первый – это Modbus. Он служит для организации связи между устройствами, расположенными недалеко друг от друга. Второй – MQTT. Он обладает гораздо более широкими возможностями, поддерживает работу в локальных сетях и в Интернете. С его помощью можно организовать обмен данными между «вещами» в глобальных масштабах.
Читать дальше →

MQTT-SN + ESP8266

Время чтения9 мин
Охват и читатели13K

В процессе поисков более легковесного протокола, похожего на полюбившийся мне MQTT для проекта беспроводных датчиков отслеживания положения на базе ESP8266 - оказалось, что существует, но пока не сильно распространена, версия протокола с названием MQTT For Sensor Networks (MQTT-SN).

“MQTT-SN спроектирован как можно более похожим на MQTT, но адаптирован к особенностям беспроводной среды передачи данных, таким как низкая пропускная способность, высокие вероятность сбоя в соединениях, короткая длина сообщения и т.п. Также оптимизирован для дешевых устройствах с аккумуляторным питанием и ограниченными ресурсами по обработке и хранения.”

В интернете довольно мало информации о данном протоколе, ковыряние в которой и стало основой для написание данной заметки.

Читать далее

Сравнение популярных брокеров MQTT с открытым исходным кодом

Уровень сложностиСредний
Время чтения11 мин
Охват и читатели59K

MQTT (Message Queue Telemetry Transport) — легковесный протокол обмена сообщениями для публикации/подписки сообщений, на настоящий момент этот протокол является основным стандартом в Интернете Вещей (IoT). Брокер MQTT — главный узел (серверное ПО) для подключения IoT устройств и обмену сообщений между ними. На текущий момент доступно более 20 брокеров MQTT с исходным кодом, что затрудняет выбор архитекторами и разработчиками программного обеспечения. В статье будут рассмотрены и сравнены некоторые из самых популярный MQTT-брокеров.

Читать далее

Протокол MQTT: концептуальное погружение

Время чтения12 мин
Охват и читатели341K
Протокол Message Queuing Telemetry Transport (MQTT) используется в течение многих лет, но сейчас он особенно актуален благодаря взрывному росту IoT: и потребительские, и промышленные устройства внедряют распределённые сети и граничные вычисления (edge computing), а устройства с постоянной трансляцией данных становятся частью повседневной жизни.

Это означает, что лёгкие, открытые и доступные протоколы со временем станут ещё важнее. В этой статье приводится концептуальное погружение в MQTT: как он работает, как используется сейчас и как будет использоваться в будущем.
Читать дальше →

Кейс: как мы беспроводные датчики температуры сделали

Уровень сложностиПростой
Время чтения5 мин
Охват и читатели22K

Появилась у меня однажды идея, что было бы здорово разработать свое электронное устройство, попробовать на себе опыт разработки и производства, пройти путь от идеи до коробки, ну и собственно иметь прикладную пользу в своей основной работе.

Мы прошли 2 полноценных итерации, учли все недочеты первой версии и сделали уже как нужно во второй. Занимаемся всем уже пару лет, сделали кучу тестов в том числе на реальных объектах, обвешали ими торговый центр, а в октябре 2025 года первый раз продал датчики другой организации, но все по порядку.

Читать далее

Как современные программы решают типовые проблемы сервисных служб в сфере отопления, вентиляции и кондиционирования

Время чтения7 мин
Охват и читатели2.2K

Мы составили рейтинг ТОП-10 самых распространенных проблем, с которыми сталкиваются владельцы сервисных служб в сфере ОВиК на стадии роста и масштабирования. Провели живой опрос предпринимателей и поняли, что вскрыли огромную проблему. Как перестать терять заявки, которые сыпятся на диспетчера из разных источников? Как не тратить уйму времени на обзвоны мастеров и корректировку графиков? Как отслеживать передвижение специалистов на карте? Как исключить повторные выезды специалистов? Как навести порядок в закрывающих документах и складском учете? Как не терять деньги из-за некомпетентности новичков? Как быстро выявлять халатность и воровство?

Читать далее

Кейс: как мы корпус контроллера делали

Время чтения4 мин
Охват и читатели14K

Я уже долгое время вынашиваю идею разработать свой собственный контроллер для вентиляционных установок. За все время работы в области автоматизации и диспетчеризации инженерных систем накопился приличный опыт и понимание как это все должно работать и выглядеть. На рынке было уже достаточно много решений с разным подходом и в разном ценовом сегменте, но с уходом западных брендов их стало существенно меньше и это одна из причин, которая подтолкнула делать первые шаги в разработке контроллера.

Читать далее

Информация

В рейтинге
2 418-й
Зарегистрирован
Активность

Специализация

Технический директор, Директор по информационным технологиям
От 3 000 000 ₸
Управление проектами
Автоматизация процессов
Управление компанией
Разработка ТЗ
Оптимизация бизнес-процессов