Обновить

Моя лента

Тип публикации
Порог рейтинга
Уровень сложности
Предупреждение
Войдите или зарегистрируйтесь, чтобы настроить фильтры

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

По статистике, среди рядовых пользователей настольных компов самая распространенная видеокарта имеет 16 ГБ видеопамяти. По опросам GaugeDB, такие карты занимают 27,21% рынка. У меня как раз видеокарта NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ видеопамяти GDDR6X, которая на текущий момент стоит 900$. До сего момента главной проблемой было то, что на видеокарте такого класса невозможно было запустить LLM-агента, который будет достаточно умным и достаточно быстрым. Если запускаешь умную модель типа Qwen 3.8 27B (Dense архитектура), то на выходе получаешь 10-20 токенов в секунду. А для комфортной работы кодинг-агента надо 100-150 токенов в секунду.

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом
Статья

Пишем свою мобильную ОС с нуля на Rust. Часть 4: GUI, SQLite и DOOM

Время на прочтение11 мин
Охват и читатели281

Прошёл год с момента выхода первой части. Тогда нам удалось вывести изображение на экран настоящего телефона. Это была проверка того, что идея в принципе реализуема.

Дальше началась глубокая системная работа, и вывод на экран пропал из кода ядра. Зато появились изоляция памяти, HAL, процессы и capability-модель. Теперь, встав на ноги, ОС наращивает userspace-слой. На экран вернулась картинка — уже с окнами, кнопками и приложениями для телефона, Raspberry Pi и QEMU. На телефоне заработал и тачскрин.

Эта часть будет обзорной: посмотрим, как теперь устроены связи между программами, файловая система и поддержка C и C++, запустим SQLite и DOOM. А в конце напишем своё GUI-приложение — калькулятор. В третьей части он выводил результат в UART. В этой сделаем калькулятор с окном и кнопками.

Читать далее

Новости

Статья

Давай отлаживать по TCP

Уровень сложностиСложный
Время на прочтение5 мин
Охват и читатели857

Когда в моей Среде разработки К дошла очередь до отладчика, выбор был такой: по HTTP - проще, но с глюками, знакомыми по мобильной разработке; по TCP - быстрее, но протокол закрытый: им штатная среда говорит с тонким клиентом. Я выбрал TCP: снял обмен с провода и повторил его. RSA-1024 с PKCS#1 v1.5, 192 байта на тройном DES, NTLM, контрольная сумма по полям GUID и идентификатор, который нельзя делать случайным. Рассказываю, где спотыкался и что получилось: точки с условием, шаги, стек, локальные, вычисление и остановка по ошибке - на живом клиенте.

Читать далее
Новость

Arrowmax представила умную отвёртку с камерой и нейросетью для подбора бит

Время на прочтение1 мин
Охват и читатели1.5K

Arrowmax анонсировала умную электрическую отвёртку со встроенной камерой, которая распознаёт винты по снимку и подсказывает, какую насадку следует использовать. Помимо отвёртки в комплект входит 52 биты из инструментальной стали класса S2.

Читать далее
Статья

Сборка личного домашнего сервера под фото/видео с удалённым доступом: Ubuntu Server + Immich

Уровень сложностиПростой
Время на прочтение8 мин
Охват и читатели1.5K

Мы живём с вами в достаточно непростое время, и многим людям хотелось бы хранить свои личные файлы, фото и видео не где-то там, а у себя дома. Да, для этого нужны определённые минимальные навыки, короткая проверка: если вы можете воткнуть ethernet в роутер и поставить пару пакетов в linux – вы справитесь.

Читать далее
Статья

ПаровоJSик: как мы не нашли тренажер для JS/TS-собеседований на русском и сделали свой

Уровень сложностиПростой
Время на прочтение3 мин
Охват и читатели1.4K

Нас двое. Один недавно искал работу и ходил по собеседованиям, второй сам собеседует кандидатов и раз за разом видит, как люди спотыкаются на одних и тех же задачах: debounce, глубокое сравнение объектов, форма с валидацией.

Готовиться к таким задачам на русском оказалось почти негде, особенно если вы пишете на JS или TS не только во фронте, но и на бэке. Поэтому мы сделали ПаровоJSик. Под катом рассказываем, что внутри, как тесты запускаются прямо в браузере и что будет дальше.

По вагонам!
Новость

Исследователь нашёл способ взломать Telegram через анимированные стикеры без участия пользователя

Время на прочтение3 мин
Охват и читатели1.4K

На конференции OffensiveCon Tokyo 28 октября исследователь безопасности Сайфелдин Азиз (Saifeldeen Aziz) представил результаты годового исследования Telegram. По его словам, ему удалось объединить уязвимости библиотеки обработки анимированных стикеров с ошибками серверной проверки файлов и добиться выполнения произвольного кода в Telegram для iOS без каких-либо действий со стороны пользователя.

В основе атаки лежит библиотека rlottie, которую Telegram использует для воспроизведения анимированных стикеров формата TGS. Это сжатые JSON-файлы с описанием векторной анимации. Клиент самостоятельно разбирает их содержимое и отрисовывает кадры.

Читать далее
Статья

Пять месяцев приручал GoClaw. В итоге плюнул и написал свою систему

Уровень сложностиСредний
Время на прочтение12 мин
Охват и читатели2.5K

Или о том, почему десять пользователей иногда полезнее тысячи звёзд на GitHub.

Пять месяцев я пытался собрать из существующих open-source-компонентов нормальную управляемую среду для корпоративной разработки с ИИ-агентами. Разобрался во всех сортах этого добра, и в итоге пришлось написать свое.

Читать далее
Пост
Домашняя страница BTDigg
Домашняя страница BTDigg

Недавно я себе поменял язык интерфейса на русский на всех устройствах, ибо решил что английский я уже знаю достаточно и тренировать дополнительно мне его не надо

Сегодня же решил зайти на BTDigg и был поражён этой всей дореформенной орфографией

Конечно legacy-код это известная проблема, но насколько я помню до Петра I (да и после, продолжительное время) торрентов не существовало :D

Теги:
0
Комментарии0
Статья

От языка к действию: как устроены агентные ИИ‑системы

Уровень сложностиСредний
Время на прочтение10 мин
Охват и читатели1.9K

LLM умеет рассуждать и генерировать ответы, но что делать, если системе нужно самостоятельно выполнять задачи, взаимодействовать с внешними сервисами и проверять результаты своих действий? Здесь начинается территория ИИ‑агентов, где появляются новые архитектурные решения и сложности. Разбираемся, как устроены агентные системы, какие подходы к планированию и взаимодействию агентов существуют и что необходимо учитывать при их разработке.

Изучить агентные системы
Новость

Apple представила MacBook Pro с сенсорным OLED‑экраном и динамическим островом вместо «чёлки»

Время на прочтение2 мин
Охват и читатели2.9K

Apple представила MacBook Pro с сенсорным OLED‑экраном диагональю 14,2 и 16,3 дюйма. Устройство также получило динамический остров вместо «чёлки», чип M5 Pro / M5 Max и накопитель объёмом до 16 ТБ.

Читать далее
Новость

Вышла Gemini 4 Carbon: поиск уязвимостей, кодинг и работа несколько дней подряд

Время на прочтение2 мин
Охват и читатели3K

Google DeepMind представила Gemini 4 Carbon — новую флагманскую модель с упором на кибербезопасность, программирование и длительные агентные задачи. По заявлению компании, Carbon получила 59 баллов в Artificial Analysis Intelligence Index v5.0 и вышла на первое место рейтинга.

Carbon рассчитана на задачи, которые не заканчиваются одним запросом. Во внутренних испытаниях Google модель работала автономно по несколько дней: разбиралась в больших кодовых базах, искала причины ошибок, исправляла баги и продолжала работу после неудачных попыток.

Читать далее
Статья

Дежурство недели: еженедельный рейтинг на Flask и SQLite без крона

Уровень сложностиПростой
Время на прочтение3 мин
Охват и читатели2.9K

В прошлых статьях я рассказывал, как устроен мой тренажёр инцидентов, и разбирал кейс с 502 Bad Gateway. Сегодня утром я релизнул два новых режима: «дежурство недели» и публичный профиль игрока. Покажу, как они устроены: там нет ни крона, ни новых таблиц, и всё равно есть пара мест, где легко ошибиться.

Читать далее
Статья

Подозрительные процессы в Linux: как найти неизвестную службу, сетевое соединение и автозапуск

Уровень сложностиПростой
Время на прочтение8 мин
Охват и читатели2.7K

— Практическое руководство для начинающих специалистов Blue Team: проверяем процессы, службы systemd, сетевые соединения и задания cron без установки дополнительных инструментов.

Представим ситуацию: сервер неожиданно начал потреблять больше ресурсов, появились неизвестные сетевые соединения, а после перезагрузки снова запускается процесс, который администратор вроде бы уже останавливал.

Это не обязательно означает взлом. Причиной может быть неисправное приложение, некорректная конфигурация службы, резервное копирование или обычная задача обслуживания.

Но иногда подобные признаки указывают на нежелательную активность. В этом случае специалисту важно понять три вещи:

Читать далее

Ближайшие события

Пост

Необратимость

Что делает систему неэргодической? Необратимость.

Когда потери необратимы, проигрыш ставки означает не просто потерю этой конкретной ставки, но и потерю всех будущих ставок, а значит, и доходов, которые они могли бы принести.

Большинство важных решений в жизни неэргодичны:

Инвестиции: потеря 10 млн руб. означает потерю не только этих 10 млн руб., но и всех будущих доходов, которые они могли бы принести.

Карьера: некоторые поступки могут стоить вам не только текущей работы, но и всех будущих, если из-за них вы станете человеком, которого никто не хочет нанимать.

Здоровье: от некоторых травм невозможно полностью восстановиться.

Джефф Безос не вывел бы Amazon на вершину, не овладев искусством принятия решений. В письме акционерам в 2015 году он предложил разделять решения на два типа - обратимые и необратимые:

«Одни решения являются важными и необратимыми или почти необратимыми — это односторонние двери. Если вы прошли через нее и вам не нравится то, что вы увидели на другой стороне, вы не можете вернуться туда, где были раньше. Такие решения должны приниматься методично, осторожно, медленно. Это решение первого типа. Но большинство решений не таковы — они легко изменяемы, обратимы, это двусторонние двери. Если вы приняли неоптимальное решение, вам не придется жить с его последствиями слишком долго. Вы можете открыть дверь и вернуться назад. Решения второго типа могут и должны приниматься быстро». - Джефф Безос из письма акционерам Amazon в 2015 году.

Хорошего дня! заходите на тг канал https://t.me/TradPhronesis

Теги:
-1
Комментарии0
Статья

Как немножко обмануть сервер

Уровень сложностиПростой
Время на прочтение22 мин
Охват и читатели3.6K

В прошлых статьях я рассказывал, как "немножко обманывать" игрока и давать ему ощущение естественного поведения игры, про давно известные приёмы, которые широко опробованы в сингловых играх. Но всё меняется, когда появляется сеть и логику приходится разносить между сервером и клиентами, и выясняется, что матч не должен одновременно владеть инвентарём, аккаунтами и прочим хозяйством игры, а компьютер, на котором игра запущена, внезапно... принадлежит игроку, а не разработчику. Если мы по недосмотру доверили клиенту право сообщать серверу, где находится персонаж, сколько у него денег и кого он только что убил, то рано или поздно найдётся человек, который трактует эти права гораздо шире, чем предполагал разработчик.

Обязательно находится Вася, который играет давно и на рейтинг ему в общем-то пофиг, но проигрывать он не любит. Не любит настолько, что готов потратить на подготовку к матчу больше денег и времени, чем на сам матч, а его соперник заводчанин Василий, который приходит вечером после работы и хочет просто поиграть, имеет средний компьютер, домашний Wi-Fi через две стены и реакцию уставшего человека. Василий иногда выигрывает, но чаще проигрывает, и его это в целом устраивает, пока он уверен, что проигрывает честно.

Васю клеймят позорным словом "читер" и представляют как человека с аимботом, который неестественно быстро переводит прицел на головы противников за стеной, и это, наверное, самый зрелищный вариант и его легко показать в ролике и легко заклеймить в комментариях. Но технически аимбот всего лишь один из простейших представителей большого семейства способов сказать игре неправду, причём неправда работает в обе стороны. И если можно подменить то, что видит другой игрок, то можно и увидеть то, чего видеть не положено, или вмешаться в обмен данными, или вообще не трогать клиент, а эксплуатировать людей, экономику и доверие саппорта команды разработчика. Вася, разумеется, пробовал всё... иначе, какой же он Вася, а иногда это еще и способ получить работу, стать белым и уважаемым "консультантом по безопаности" и ломать игровые сервисы за зарплату, но это уже другая история

Читать далее
Статья

KassiOS: слой в стиле Kaspresso поверх XCUITest, проверенный на сломанном банке

Уровень сложностиСредний
Время на прочтение9 мин
Охват и читатели3.3K

Я пришёл в нативное iOS-тестирование из Appium, и простой логин на XCUITest раз за разом обрастал waitForExistence, ретраями и самописными хелперами. Так появился KassiOS — слой в стиле Kaspresso поверх XCUITest: тап с общим бюджетом ожидания, который не повторяется после отправки, перечитывание поля после ввода, понятные сообщения о падениях, параметризованные тесты.

Чтобы проверить, ловят ли тесты баги, я прогнал их против ChaosBank — приложения с включаемыми дефектами — и написал утилиту, которая включает дефекты по одному и показывает, какой из них прошёл незамеченным. Рассказываю, что из этого вышло, какие баги нашлись в самом фреймворке и кому он подойдёт, а кому нет.

Читать далее
Новость

Вышла утилита SimSlim, которая снижает расход памяти симуляторов Xcode с 4 ГБ до 900 МБ

Время на прочтение1 мин
Охват и читатели3K

Разработчики MobAI выпустили утилиту SimSlim, которая уменьшает потребление ресурсов симуляторов Xcode, отключая лишние фоновые процессы. В тестах Mac с чипом M1 Pro и 16 ГБ памяти одновременно поддерживал работу 12 симуляторов.

Читать далее
Новость

Amazon сократила 250 разработчиков из подразделения устройств

Время на прочтение1 мин
Охват и читатели2.8K

Amazon сократила около 250 рабочих мест в подразделении устройств и сервисов. По данным источников внутри компании, сокращения затронули преимущественно разработчиков программного обеспечения. 

Читать далее
Статья

Периодические функции как функции активации в нейросетях

Уровень сложностиСложный
Время на прочтение13 мин
Охват и читатели3.4K

В данной статье мы рассмотрим применение периодических функций в качестве функций активации в нейросетях. Мы проведём сравнительные эксперименты на простых сетях и посмотрим, как периодические активации (например, sin) ведут себя по сравнению с классическими непериодическими — tanh, sigmoid и ReLU.

Читать далее
Статья

«6 − 2 = 3»: как мы проверяем кодом задания, которые пишет языковая модель

Уровень сложностиСредний
Время на прочтение7 мин
Охват и читатели3.3K

Мы делаем учебную игру: человек пишет цель своими словами («таблица умножения», «дроби за 5 класс», «английский для поездки»), а игра строит под неё путь из локаций. В каждой локации — порция из пяти заданий. Готовых курсов нет: тема может быть любой, поэтому задания пишет языковая модель (Claude от Anthropic) — под цель, уровень и последние ответы игрока.

Придумывает задания модель хорошо, а считает плохо. В октябре мы разобрали 68 жалоб «Задание с ошибкой?» — игроки отправляют их кнопкой прямо из урока. Типичные случаи:

Читать далее
1
23 ...