Мать, видюха, память, звук и вот это всё
Я хотел разработать собственный AI-процессор, нашёл openTPU, купил FPGA за $50 с 4ГБ памяти, подключил её к обычному мини-ПК и запустил на ней языковую модель.
Я тепломеханик, начальник отдела в проектной организации, не программист. С августа ковыряю форк llama.cpp: хочу, чтобы большие MoE‑модели нормально шли на обычном домашнем ящике, где видеокарта на 6 ГБ, 24 ГБ памяти и SATA‑диск. Полигоном была gpt‑oss-20b. Итог пока обидный: выиграл штатный флаг ‑fit, на длинном запросе он в 2,44 раза быстрее привычного ‑ngl 99, а мои ускорения поверх него не дали ничего. Зато по дороге я собрал неплохую коллекцию способов, которыми замер скорости врет, и пару настроек, которые пригодятся любому владельцу небольшой видеокарты.
Российское ПО + оборудование в одном решении ещё не ПАК для Минцифры, но почти ПАК. Эксперты будет отдельно смотреть на программную и аппаратную части, права на них и главное — действительно ли они образуют единый комплекс.
Давайте разбираться, как включить ПАК в реестр Минцифры в этом году, что проверить и как подготовиться, чтобы получить заветные налоговые льготы от государства.
Обычный ноутбук плохо переносит внешние факторы вроде влаги, пыли, падений на пол. А еще иногда на лэптопы садятся, что тоже не очень хорошо влияет на работоспособность девайса. Короче, работу с большинством моделей можно назвать тепличной. Но что, если нужен лэптоп на стройке или буровых работах? Для таких условий выпускают спецмодели. В этом материале мы собрали несколько интересных девайсов, которые крайне хорошо защищены. О них сегодня и поговорим.
Привет, Хабр! Продолжаю изучение испанских барахолок. В этот раз кроме кофеварок, проводов и старых ноутбуков встретилось несколько крайне интересных вещей, о которых спешу рассказать. Тут и компьютер Sony со встроенным кассетником, и трехдисковый музыкальный центр с прозрачной крышкой, и прибор для настройки телевизионных антенн. В общем, посмотреть было на что. Обо всем этом — в новой статье. Поехали!
Хотел домашний Kubernetes, который уносится в рюкзаке. Получился кластер из четырёх RK3588 на Talos и Cozystack: control‑plane, NVMe, виртуалки и отдельный BMC на OpenWrt.
Как я добавил в QUAD 3 прямой выбор входов: реверс ARM-прошивки, бинарный патч и 64 байта здравого смысла.
Привет, я Дмитрий, MLOps-инженер в Selectel.
Современный ландшафт AI-ускорителей изобилует всевозможными устройствами: GPU, TPU, NPU, LPU и прочими удивительными аббревиатурами. Китайские компании активно участвуют в этой колоссальной гонке, и в данном материале я расскажу, как мы тестировали AI-ускоритель от Alibaba Group.
В первую очередь мы хотели понять, что за устройство перед нами и как его можно использовать в наших стандартных сценариях для инференса — прежде всего в качестве ноды для облачного Kubernetes или как самостоятельный dedicated-сервер. Что ж, давайте разбираться.
В ряде задач производительность упирается не в скорость вычислений, а в обмен данными с памятью. Решить эту проблему можно, если выполнять часть операций прямо там, где хранятся данные. Например, в своей LPDDR5X-PIM Samsung разместила вычислительные блоки внутри банков DRAM. Разберем, как это работает, какие операции можно перенести в память и что технология показала в Llama 3.1 8B.
В этом году платить за зарубежные облака из России стало почти невозможно. С апреля закрыта оплата сервисов Apple, Google Play не принимает платежи с 2022 года, а Notion отключил российских пользователей ещё в сентябре 2024 года. В комментариях к таким новостям всегда советуют одно и то же: поднимите свой сервер и забудьте о подписках. Я решил проверить этот совет на цифрах. Поднял на своём компьютере Immich, Nextcloud, Vaultwarden и AFFiNE, замерил, сколько им нужно памяти, и сравнил стоимость за пять лет с Яндекс 360 и Облаком Mail. Цены собраны 28 сентября 2026 года. Облако выиграло не на любом объёме: есть граница, после которой свой сервер экономит до 175 тысяч рублей за пять лет. Где она проходит и почему её почти не сдвигает даже б/у железо, разберу по порядку.
Привет, Хабр! Ну что, я таки починил игровой ноутбук от Lenovo. Это оказалось не так просто, но все получилось. Напомню, это «залитик», то есть лэптоп, пострадавший от жидкости, — самая неприятная категория ремонтов. В первой части я нашел причину, по которой Lenovo IdeaPad Gaming 3-15ACH6 не включался и не заряжался. После «купания» пробило мультиконтроллер ENE KB9022QD и на одной из линий питания оказалось около 20 Ом. Стоило снять чип, как сопротивление выросло до килоом, а дежурные 3,3 В снова появились (правда, после принудительного замыкания контактов входных ключей). У меня были просто огромные сомнения относительно работоспособности девайса. Но что поделать — кто не рискует, тот не играет в ААА-тайтлы. Так что оставалось дождаться нового EC из Китая, поставить его на место и записать прошивку.
Контроллер на днях приехал, и я вернулся к материнке. С пайкой особенных приключений не ожидал: корпус крупный, ножки на виду, под микроскопом работать удобно. А вот с программатором все оказалось сложнее. Это был квест, который мне удалось пройти. А потом еще и зарядник… Ну да ладно, давайте обо всем по порядку.
Казалось бы, есть два фактора, которые должны были хоть как-то замедлить, а то и вовсе остановить развитие индустрии китайских портативных консолей (да, тех самых, которые прошли путь от стрёмных клонов PSP до маст-хэва на полке каждого геймера) — кризис памяти и факт, что железо с форм-факторами, кажется, достигло пика своей формы.
Однако нет, ни то ни другое не останавливает уже узнаваемые за пределами тусовки любителей бренды выпускать по несколько релизов в год, проводить презентации и даже экспериментальные анонсы.
За годы в нише накопилась куча девайсов, настолько большая, что новичку в этих ваших «анберниках» разобраться с ходу как будто и не получается. Поэтому сегодня, за примерно месяц с лишним до очередной «черной пятницы», я окунулся в рынок китайского портатива и собрал лучшие предложения за последний год.
Порой, когда погружаешься в исходный код драйверов и даташиты на железо, удивляешься тому, какие интересные инженерные решения использовались в устройствах прошлых лет. И пожалуй самым диковинным таким решением можно назвать подход AMD к разработке видеочипов в нулевых годах.
В этой статье всё как вы любите — подробная предыстория, анализ зацепок, изучение исходного кода и ответ на вопрос: что же общего между коммуникатором из 2007'ого, смартфоном 2009'ого, ноутбуком 2012'ого и Xbox 360?
Электричества в офисной серверной больше не хватает, а купленный под ИИ сервер устаревает раньше, чем окупается. Всем привет! На связи Андрей, руководитель отдела продуктов клиентской безопасности в Selectel. Разбираем свежий опрос Uptime Institute среди 800 владельцев и операторов ЦОД — куда и почему переезжает инфраструктура.
Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, prefill и decode, NVLink и InfiniBand, tensor/pipeline parallelism, MoE, CPU, RAM и NVMe и смотрим, где на практике заканчивается производительность GPU-кластера.
У нашего ИИ‑оркестратора более девяноста инструментов: работа с таблицами, документами, почтой, задачами, веб‑страницами, презентациями и так далее
При обработке запросов модель на каждом шаге выбирает, какой из них вызвать. Вопрос, который периодически всплывает: сколько из них ей показывать за раз — все или только те, что подходят к запросу?
Наш оркестратор умеет работать как с большими облачными моделями, так и с маленькими, которые помещаются на бытовой видеокарте. Минимальный рабочий вариант: RTX 3090 24Gb + Qwen3.6 27B.
Цель — заставить минимальный рабочий вариант выполнять корпоративные задачи с приемлемым качеством и с приемлемой скоростью.
Ясно что, для малой и большой моделей способ выбора инструментов должен отличаться, но как найти оптимальный вариант вопрос сложный.
Обычно оркестратор показывает модели весь список инструментов и она уже решает какой нужно выбрать для ответа на запрос. Так делают Hermes, OpenClaw и Ouroboros. Ни один из них не выбирает инструменты по тексту запроса. У некоторых для слабых моделей и маленького контекста есть режим, где модели дают только каталог — имя и короткое описание — и инструмент «подключить», так что нужное она находит и загружает сама. Эти агенты рассчитаны на фронтир‑модели уровня Claude и GPT-5, которые держат сотню инструментов без потерь. Моя задача другая: работать на локальной 27B в закрытом контуре. Для неё узкий набор измеримо лучше.
Как устроен узкий набор
Схема простая. Перед основным вызовом модели работает роутер: по тексту запроса он выбирает раздел — «датасеты», «почта», «презентации»... — и внутри раздела подраздел. Модель получает недевяносто описаний инструментов, а около двадцати. О существовании остальных на этом шаге она не знает.
В современных ноутбуках меня пугает только одно: в моделях дешевле 1.000$ чаще всего дискретного GPU вообще нет и роль видеоускорителя выполняет урезанный Arc/RDNA, а в некоторых случаях совсем уж слабый UHD Graphics. И хотя на современных встройках вполне можно поиграть в AAA года эдак до 2023'его, 720P гейминг на минималках даже с апскейлингом выглядит так себе на 2.5K матрице...
Недавно ребята из Blackview предложили на обзор свой новый ноутбук с RTX 5060, i7-13650HX и 300Гц 2.5K матрицей - Gamibook 16. Я решил сделать честный обзор - с бенчмарками в портативном/десктопном режиме, тесте игр, скорости компиляции проектов на C++/C#, а также разборкой и осмотром конструктива устройства. Интересно? Тогда жду вас под катом!
Весной девяносто восьмого года у меня на полу стояла картонная коробка из-под телевизора, в которую продавец на радиорынке сгрузил все, что я купил за полгода экономии на обедах, и я честно не понимал, что из этого куда втыкается, хотя уже месяц читал «Компьютерру» и распечатки из ФИДО, которые таскал мне приятель.
Внутри лежали материнская плата в антистатическом пакете, процессор Pentium 166 в пластиковой коробочке, две планки памяти по восемь мегабайт, винчестер на два гигабайта, дисковод, сидюк, видеокарта, звуковуха, корпус формата AT и тонкая книжечка мануала к материнке, которую я в итоге перечитал больше раз, чем любой учебник за первый курс.
Собирал я его три вечера и одну ночь, за это время успел дважды решить, что все сгорело, один раз действительно кое-что спалить и в итоге получить машину, на которой Quake шел достаточно бодро, чтобы друзья приходили посмотреть и оставались до утра.
Этим летом я собирал племяннику компьютер на Ryzen и где-то между распаковкой кулера и первым включением поймал себя на том, что мне скучно, потому что все, ради чего я когда-то сидел над мануалом до трех ночи, теперь делает за меня прошивка, а мне остается вставлять детали туда, куда они физически влезают.
Клавиатуру для игр часто сдвигают или поворачивают, чтобы освободить место для мыши. Сравниваем обычные клавиатуры и игровые кейпады и рассказываем, как просьба добавить правую половинку к кейкапду привела к появлению асимметричной клавиатуры Space Mission 62
DLSS 5 — великолепнейшая технология, позволяющая почувствовать фотореализм в старых играх…
Нет… Не то… DLSS 5 — это отвратительнейший нейрослоп, который портит игры… Опять не то…
Короче… Я запустил там Pong, Wolfenstein 3D, подёргал за разные ползунки. И протестировал больше 80 игр на своей шкуре — вот что понял (как пользователь).
П.С. В статье запрятан «Губозакаточный дед»