В пьяном дурмане (это наркоз от попоболи) я продолжал разработку своего AI-трейдера, воспользовался вашими предложениями в телеграм (огромное спасибо за подсказку), и кое-что получилось:
Добавлены бусты LightGBM (LGBMRegressor) и CatBoost (CatBoostRegressor). Теперь обучаю три модельки, сравниваю результаты и выбираю лучшую.
Переписал по 500 раз все методы, включая обучение моделей, торговую стратегию и тесты.
И вот результат тестовой торговли модельки на исторических данных:
Начальный баланс: 1000 USDT
===== Отчёт по сделкам =====
Всего сделок: 66
Винрейт: 40.91%
Средний PnL: 44.82 USDT
Максимальная просадка: -35.63%
Финальный баланс: 3958.17 USDT
В общем, готов богатеть. И пусть только попробует не показать такой результат на реальном бабле!)))
В бой не пускал, пока играюсь с обучением ML-модели для предсказания направления цены, торговыми стратегиями, и тестирую на исторических данных. В общем, нашел игрушку на ближайшее время.
По технологиям ничего экстраординарного, всё скромненько:
Python — ну а что же еще? pandas, numpy — для работы с данными и вычислениями. scikit-learn и joblib — для обучения и сохранения ML-модели. matplotlib — для построения графиков. requests — для HTTP-запросов к OKX API.
Если будет что-то интересное на выходе, отпишусь тут и в телеграм-канале.
Привет! Мы на Хабр Карьере собираем сотни онлайн-курсов в IT или digital на маркетплейсе курсов и каждую неделю делаем подборки обучений для тех, кто хочет учиться какой-то специализации с нуля или для тех, кто уже в профессии, но чувствует, что хочет прокачать навыки.
Собрали подборку для тех, кто хочет перейти в бэкенд. Вообще все курсы по специализации можно посмотреть здесь, а ниже оставляем ссылки по ключевым навыкам:
Базовые концепции программирования: сортировки, графы, очереди, деревья, хэш-таблицы и др. Применяются для оптимизации решений и подготовки к собеседованиям.
JavaScript — язык для веб-интерфейсов и серверной логики (через Node.js). TypeScript — его надстройка с типизацией, упрощающая масштабируемую разработку.
Компилируемый язык от Google с простым синтаксисом и встроенной поддержкой параллелизма. Используется в highload-системах, DevOps и backend-разработке.
Когда тебя спрашивают про Питон, а ты только “Летающий цирк“ смотрел.
Всем добрый день! На днях позвонил товарищ и сказал, что проходит курс по Питону.
Сказал что понимает, что я пишу на 1С, но может ли он ко мне обращаться с вопросами. Хороший повод посмотреть что это за язык. Нужно какое-то ТЗ.
Пусть в SQL есть таблица «Prices» с двумя колонками. «Product», «Price». Требуется посчитать и вывести среднюю стоимость.
Средняя стоимость = Сумма/количество различных позиций.
Задача стоит. На чём её решать?
Есть компьютер с Windows 11.
В качестве движка БД думаю поставить SQLite. Так же нужно установить Python.
IDE наверное будет перебором, поэтому поставлю Sublime Text с каким-нибудь плагином. Так-с. Что я знаю о Python. Он полный по Тьюрингу. Блоки определяются отступами. Есть объекты…. Вроде всё.
Приступим. Что нам понадобится:
1. Установленная SQLite.
2. Созданная БД с нужными данными.
3. Объект «Подключение» в Python.
Так-с SQLite. На https://www.sqlite.org/download.html есть собранный для Windows. В принципе логично, но всё равно приятно… Ага, вот и первый нюанс. Есть DLL и есть tools.
Ситуация: два подхода к валидации API-ответов — я использую Pydantic, считая его удобным, многофункциональным, проще поддерживаемым и современным. Мой коллега предпочитает jsonschema, не видя причин для смены, считая что он может всё тоже самое. Противостояние на совместном проекте привело к разделению зон покрытия: я взял eshop, он — pim. Я неистово топлю за Pydantic но не могу убедить коллегу...
Не тратя время на исследования, ИИ выдал базу:
Удобство и поддержка — pydantic упрощает модели через аннотации, делая обновления быстрыми. jsonschema требует ручных генераций схем, что трудоемко.
Производительность — pydantic в 10 раз быстрее на больших данных благодаря Rust. jsonschema медленнее при вложенных структурах.
Гибкость — pydantic предлагает кастомные валидаторы и интеграцию с OpenAPI. jsonschema универсален для кросс-платформ, но кастомизация сложнее.
Интеграция с тестами — pydantic легко работает с PyTest и Allure. jsonschema требует настройки.
Обучение — pydantic имеет сильное сообщество (360 млн скачиваний) и документацию. jsonschema требует знания JSON-стандарта.
Вывод: Pydantic выигрывает в большинстве ситуаций, если не сказать что во всех.
Безусловно, брать ответ ИИ не рассмотрев его под лупой, на сегодняшний день, это глупо: он далеко не всегда учитывает контекст, реальный опыт и множество других факторов которые могут повлиять на правильное решение.
Очевидно что я не смогу убедить коллегу, и пока мы на низком старте, у меня не будет наглядных примеров по преимуществу. А когда они появятся будет уже слишком поздно - что в целом меня конечно не особо расстраивает.
А может я не прав?
Приглашаю к обсуждению:
Какой инструмент вы предпочитаете для валидации API в автотестах и почему?
Бывали ли случаи, когда смешивание Pydantic и jsonschema вызвало проблемы? Или наоборот, помогало?
Стоит ли разделять подходы в одном проекте, как это сделали мы?
Возможно я не так понял формат постов, т.к. ожидал тут увидеть возможность голосования как в статьях. Принять и простить)
Представлен обучающий курс по Python под названием Advanced Python Mastery от Дэвида Бизли, автора нескольких книг-бестселлеров по этому языку программирования и одного из главных знатоков Python. В базе курса представлены данные по работе на уровне процессора и компилятора до продвинутых концепций программирования на Python и самых актуальных фреймворков, а также десятки материалов с PyCon.
После 9 месяцев постоянного вайбкодинга могу сказать что это буллщит.
Ты хреново излагаешь мысли, так как не понимаешь нюансов - получаешь херовый сервис. Нет, код прекрасный, он логичен и эффективен. Просто ты сам виноват, ибо ты не умеешь не вносить каждым наивным проптом вида "fix it, accelerate endpoint" все больше интерференции и в конечном итоге все больше энтропии. Банально сервис дублирует твой неструктурированный и противоречивый поток мыслей и превращает его в странный конструкт.
Это ладно я еще +- айтишник, могу сказать что хей, тут ты зря кешируешь результат, избыточно, а тут вообще можно просто из бд вытянуть и не сверять каждый раз с ответом API. Что творится у людей без представления о комьютер саенс представить страшно представить.
Предлагаю термин вайбинжиниринг. И он работает только в сочетании с технофашизмом. Вайбинжиниринг требует чтобы ты четко проектировал, описывал правила работы и проверял что они не противоречат друг другу. Вайбинжиниринг требует с самого начала делать public/dev логирование, обмазываться линтерами, делать семантическую разметку, запускать перфоманс тесты, писать всегда с юнит тестами и покрывать тест сценарии, совершенно жуткого гайда по тому как описывать схему в openapi и ошибки. И кучи еще чего
И все это в связке надо пару раз проверять на семантическую энтерференцию и контекст юзейдж. Тогда да, будет прекрасный мир будущего.
P.S. Пост от балды от очередного условного вайбкодера ради интереса прикладной автоматизации на работе.
Что делает данный код? Читает сообщения из first-topic, парсит из них поле user типа str, выполняет вашу логику обработки, отправляет новое сообщение в another-topic. Просто? Удобно? Да!
Что нам дает такой подход?
Декларативное описание, чего мы хотим. Не надо руками создавать коннекты и рулить потоком выполнения
В PEP 798 предлагается расширить возможности коллекций (списки, словари, множества) и генераторов, разрешив операции распаковки (* и **) внутри выражения.
Способ позволит лаконично в одну строку объединять произвольное количество итерируемых объектов в одну коллекцию:
[*it for it in its] # список с объединением итерируемых элементов в 'its'
{*it for it in its} # множество с объединением итерируемых элементов в 'its'
{**d for d in dicts} # словарь с комбинацией словарей в 'dicts'
(*it for it in its) # генератор с объединением итерируемых элементов в 'its'
В данный момент объединение списков мы осуществляем с помощью циклов:
# с помощью генератора
its = [[1, 2], [3, 4], [5]]
new_list = [x for it in its for x in it]
# с помощью метода extend
new_list = []
for it in its:
new_list.extend(it)
# для множеств и словарей с помощью метода update
new_set = set()
for it in its:
new_set.update(it)
new_dict = {}
for d in dicts:
new_dict.update(d)
# также возможно использовать генераторную функцию (yield)
def new_generator():
for it in its:
yield from it
Предложение распространяется также на асинхронные выражения.
В данный момент предложение находится на стадии черновика.
Как создать мультиаккаунт-ферму для любых целей: от TikTok до Amazon
Мультиаккаунтинг — основа множества задач: от продвижения в соцсетях и тестирования антифрод-систем до арбитража трафика, отзывов, заказов и автоматизации серых схем. Эта статья — техническое руководство по созданию собственной мультиаккаунт-фермы.
1. Зачем нужна мультиаккаунт-ферма
Массовое создание и управление аккаунтами востребовано в:
Q1: Если сейчас есть задача по-быстрому сбацать что то с формами под винду - какая есть альтернатива дельфи?
Q2: А если так же быстро накидать, только кроссплатформенное приложение и без зависимостей?
И мой ответ
A: Не находишь, что 3000$ за кроссплатформенный дизайнер форм слишком дорого? Даже за хороший.
Собственно, порылся в памяти и в википедии, проверил что там еще живое и набросал списочек визуальных дизайнеров для Linux - приложеньиц. По названию язык программирования и фреймворк легко идентифицируется.
Все может использоваться бесплатно и без особых претензий на функциональность. Единственное, иногда бывает нужно еще нарисовать какой то чарт/график и загрузить/записать данные в БД/XML/JSON - с этим могут быть нюансы с конкретным вариантом.
С чем то я работал, с чем то нет, актуальные версии вживую не проверял.
GNOME Builder (ex.Anjuta). GTK multilang IDE
Cambalache (ex.Glade) - GTK form builder
Qt Creator
FLUID for FLTK
wxFormBuilder for wxWidgets
Projucer for JUCE
Ultimate++
NetBeans GUI design tool for Java Swing
TKproE (TCL/TK Programming Environment)
Lazarus
MSEide+MSEgui Pascal
GTK# Visual Designer MonoDevelop (retired)
Xamarin.Forms GTK Backend (discontinued for NET MAUI)
Для чего инженеру комьюнити, конференции и митапы?
Гость нового выпуска «AviTalk» — Евгений Афонасьев, тимлид разработки Antifraud. Женя рассказывает про истоки инженерной карьеры, первые вызовы и рост до позиции тимлида. Вместе с ведущей Стасей Кошман разбираемся:
как отличаются процессы найма в Авито для разработчиков и менеджеров?
что такое Antifraud и каковы его задачи?
как организована жизнь комьюнити и почему полезно ими заниматься?
что дают конференции и как попасть в программный комитет?
Подписывайтесь на канал AvitoTech в Telegram, там мы рассказываем больше о профессиональном опыте наших инженеров, проектах и работе в Авито, а также анонсируем митапы и статьи.
Обновлён бесплатный обучающий Python репозиторий «Think Python, 3rd edition» на GitHub, где есть вся база от основ синтаксиса до продвинутых концепций ООП. Материалы четко структурированы, множество примеров кода. Все оформлено в Jupyter‑notebook — материал легко читается, а по содержанию легко найти нужный раздел.
Automate Your Daily Tasks in 10 Minutes: A Practical Guide to n8n for Beginners
Until 2022, I thought automation was only large companies. But in 2022 I discovered n8n, and everything changed. Now, I automate routine work, reports, and even whole business processes—sometimes in under 10 minutes. Here’s how it works, what surprised me, and what you can try today.
In 2022, I deployed n8n on a separate VPS to demonstrate the ability to process design data from Revit and show that it's like working in Dynamo or Grasshopper, but for data managers and automation pipelines outside of Autodesk products.
But it was hard to get experts interested in 2022 - at the time, n8n was still in its early stages: there were no Python nodes, no LLM integration, and most workflows took weeks to create, relying on scattered blog posts and incomplete examples on forums.
Fast forward to 2025, and everything has changed.
Today, thanks to native LLM nodes, you can simply ask ChatGPT, Claude, or any advanced AI assistant to generate automation n8n pipelines — whether for validating parameters or producing custom QTO tables — and get ready-to-run workflows in seconds.
Why Bother with Automation?
Let’s be honest: most “office work” is repetitive. Copy-paste, renaming files, sending the same email—again and again. It’s boring and, more importantly, wastes hours every week. For me, automation started as an experiment, but quickly became a must-have. Once you automate your first task, you won’t want to go back.
What is n8n and Why Use It?
n8n (pronounced “n-eight-n”) is a free, open-source tool for automating anything—emails, file operations, notifications, even AI tasks. The best part? No coding needed. You just drag, drop, connect blocks, and press play. It runs on Windows, Mac, or Linux. I set up my first workflow in under 15 minutes.
How I Got Started (And You Can Too)
Install Node.js (from the official site, takes 2 minutes)
Install n8n with one command
Open n8n in your browser (local or online)
Start building: drag blocks (“nodes”) to connect apps, add logic, or even call ChatGPT to write emails for you!
The next “wow moment” for me was connecting n8n to AI tools like Claude and ChatGPT. Need to generate text, analyze data, summarize, or respond to messages? Just add a ChatGPT node—no API coding, just your prompt.
Short on time? n8n has a big library of ready-made templates. You can find workflows for almost any need: document processing, cloud backups, database syncs, even advanced stuff like BIM/CAD data processing. Grab a template, tweak it for your needs, done.
Lessons Learned and Tips
Don’t overthink: Start simple. Even automating one small task (like downloading attachments from email) pays off.
Debug as you go: n8n makes it easy to see where something breaks—just follow the logs, tweak, and re-run.
Experiment: The community is active and shares real-life examples. Some of my best workflows came from GitHub repos or the official n8n library.
Combine tools: I use n8n with spreadsheets, databases, cloud storage, and AI. Everything connects!
Why You Should Try It
After a few weeks, I realized how much time I was saving. Reports that took 30 minutes now take 2. Integrations that seemed impossible (like sending BIM data to a spreadsheet, then to Teams) were suddenly simple.
Automation isn’t just for techies anymore. With tools like n8n, anyone can build and run real workflows—saving hours, reducing errors, and focusing on what really matters.
В Академии Selectel есть небольшой тест на владение синтаксисом Python. Он позволит оценить свои знания и отыскать пробелы. Вопросы подобраны для тех, кто уже не пугается None, но продолжает разбираться, что происходит «под капотом». Бонусом — подборка полезных материалов для изучения Python!
Бесплатные курсы Route 256 от Ozon Tech для QA-инженеров
Route 256 — это 2 месяца онлайн-вебинаров и воркшопов от команды экспертов Ozon Tech. Программа состоит преимущественно из практики на базе реальных задач бигтеха, что помогает студентам получить уверенный опыт в автотестировании на Python.
Этим летом Route 256 открывает набор в направлении QA Automation на Python для middle- и junior-специалистов. Занятия проходят вечером, поэтому курсы удобно сочетать и с учёбой, и с работой.
3 августа состоится отборочный контест для поступления на курс. Он будет включать алгоритмические задачи и тест. Ученики middle-направления по окончании курса могут получить оффер в команду, а junior-участники — приглашение на оплачиваемую стажировку.
Если вы хотите получить знания команды разработки ведущего e-com России, заявку стоит подать уже сейчас.
Скачать. Бесплатно, установка не требуется. Кому нужно видеть код приложения - смотрите. Может ругаться Виндовс антивирус, потому что программа без лицензии. Если кто может с ней помочь - прошу написать. Ни на что не претендую, если больше нравится Обсидиан - рад за вас, но не искренне.
Новое в "Заметках с котом":
- все ИИ-функции по отдельным заметкам теперь открываются при нажатии по коробке.
- добавлены функции для пакетной обработки содержимого папок (волшебная палочка при наведении на папку)
- теперь можно быстро открывать и большие файлы.
- можно менять цвета папок в Избранном. Рекомендую добавить в Избранное хотя бы одну папку.
Исправлены ошибки:
неправильное распознавание кодировки. Оставил только utf-8 и windows-1251 - повысил точность их распознавания.
сбой пути при сохранении новой заметки
изредка ии-функции выдают ошибки, теперь их видно (раньше были скрыты)
3 июля, в четверг, в 19:00 (мск) — приходите на митап про Python в Санкт-Петербурге или подключайтесь онлайн.
О чём будут доклады?
🟣 Это не те метрики, что вы ищете. Разберёмся, почему стандартного экспортёра может не хватать, и как написать свой на Python. 🟣 Кодогенерация: как компьютеры учатся писать код за нас. Поговорим про прошлое, настоящее и будущее кодогенерации в разных языках программирования. 🟣 Ruff: как не положить всё, переходя на новые правила? Поговорим про линтеры, форматтеры и подводные камни при переходе на Ruff. 🟣 Секреты успеха змеи в мире пауков. Обсудим, как мы применяли scrapy и playwright в ЮMoney, чтобы создать сервис модерации сайтов.
Нечеткое ассамблирование нейросетей для классификации на Python
Для ансамблирования нейросетей обычно используют простые методы, например, в задаче классификации, выбирают класс, за который проголосовало большинство моделей. Но что если рассматривать моделей, как экспертов, для которых мы можем оценить уровень точности? В этом посте я расскажу о своем подходе Fuzzy Vote, который использует нечеткую логику для объединения предсказаний моделей. Метод написан с помощью библиотеки fuzzyops, доступной через pypi. В библиотеке реализованы различные методы работы с нечеткими числами, поддерживаются вычисления на CUDA.
Идея метода
Каждая модель рассматривается как эксперт, который предсказывает вероятность принадлежности к классу и имеет определенную степень доверия. Эту информацию можно отразить через нечеткое число, в котором центр - это вероятность, ширина - неопределенность и высота - степень доверия.
Далее каждая модель "голосует" нечетким числом, числа агрегируются, и полученное число дефаззифицируется в одно значение. Полученное четкое число используется для классификации.
Генерация треугольного и гауссового нечеткого числа:
from fuzzyops.fuzzy_numbers import Domain, FuzzyNumber
def build_triangular(domain, centre, width, height):
a, b, c = centre - width/2, centre, centre + width/2
fn = domain.create_number("triangular", a, b, c)
return fn * height
def build_gauss(domain, centre, sigma, height):
fn = domain.create_number("gauss", sigma, centre)
return fn * height
import numpy as np
from sklearn.metrics import roc_auc_score
def evaluate_fuzzy(probs_mat, y_true, acc_vec, **kwargs):
scores = np.array([
aggregate_sample(row, acc_vec, **kwargs)
for row in probs_mat
])
scores = (scores - scores.min()) / (scores.max() - scores.min() + 1e-12)
return roc_auc_score(y_true, scores)
Как это сработало в задаче классификации пневмонии
Я обучил три модели (VGG19, ResNet50, DenseNet121) на датасете Chest X-Ray Pneumonia, взяв предобученные веса и переобучив классификатор на одну эпоху.
Результаты на валидационном и тестовом сете
Метод Fuzzy-Vote дал лучшую точность, чем любая отдельная модель или простой majority vote метод. По ROC-AUC он не обошёл VGG19, но обошёл остальные методы, включая дискретный ансамбль. При этом метод не требует сложных архитектур или переобучения: он просто работает поверх уже полученных вероятностей.
Fuzzy-Vote — это простой, но гибкий способ агрегации предсказаний с учетом точности и уверенности каждой модели. Особенно полезен в случаях, когда:
модели сильно различаются по качеству
обычный majority vote даёт просадку
хочется объединить разные модели без дополнительного обучения
Но метод еще требует доработки, он не учитывает, например, confusion matrix каждой модели, чтобы учесть ошибки разного рода. Библиотека fuzzyops позволяет реализовать метод с минимумом кода и достаточно гибкой настройкой.
С полным кодом тренировки моделей и агрегирования можно ознакомиться по ссылке.
Скачать. Бесплатно, и установка не требуется. Подробности о приложении написаны в прошлой новости. Кому нужно видеть код приложения - обновил и его. Ни на что не претендую, если больше нравится Обсидиан - никто вас не трогает.
Теперь можно менять стили редактора.
Исправлено несколько ошибок. Появилась возможность быстро создать большую структуру папок. Третья иконка слева сверху. Улучшены ИИ-функции. Да, есть и другие ИИ-функции, помимо вызова кота при клике на коробку. Открываются нажатием на волшебную палочку после нажатия по файлу. Теперь Заметки нормально работают с большим количеством файлов и автоматически удаляют из избранного файлы, которые были удалены или перемещены. Доработан интерфейс. Спасибо всем, кто ответил в комменты и на почту.
Скачать. (ссылка обновлена) Бесплатно, и установка не требуется.
Разрабатываю по фану — потому что мне самому не хватало чего-то простого, лёгкого и по делу.
Это приложение для личных заметок не претендует на звание "универсальной системы управления знаниями", не строит из себя ракетный двигатель и СОВСЕМ не пытается быть новым Обсидианом. Это просто удобное место, куда можно быстро спрятать мысль, идею или список покупок.
Что умеет:
Работает только с текстом: .txt, .md, .markdown, .mdown
Создаёт новые заметки в формате Markdown (но без наворотов — как в старые добрые)
Не держит тебя в облаке, не шифрует данные в своём формате — всё лежит на диске, как тебе привычно
Левое окно показывает структуру папок — полупрозрачные папки = пустые (нет файлов или подпапок)
Двойной клик по папке — запоминается как начальная при следующем запуске
Одинарный клик — раскрывает содержимое
Если в буфере есть текст — он автоматически попадёт в новую заметку. Буфер очищается.
Поиск: по тексту, по названиям файлов, по содержимому. С историей. А еще есть Избранное.
Настройки? Пока только для нейросетевых функций и ответов ИИ-кота (его можно позвать, кликнув по коробке), который может что-то подсказать или прокомментировать с долей сарказма.
Про искусственный интеллект:
Поддерживает OpenRouter — регистрируешься, получаешь 50 бесплатных запросов в день
Хватает за глаза для личных заметок, резюме текстов, генерации идей или перевода мыслей во что-то собранное
ИИ-кот ведёт себя не особо прилично.
В чем отличие от Обсидиана:
Обсидиан — это космический шаттл для заметок. А мы тут катаемся на велосипеде — быстро, удобно и без инструкции.
Просто. Не нужно ничего устанавливать — скачал, запустил, пишешь.
Лёгкий. Всё приложение весит 17 Мб.
Минимум функций. Не запутаешься. Никаких плагинов, графов, связей и внутренних ссылок.
Стиль свой. Не такой серьёзный, как Обсидиан.
Бесплатный ИИ здесь не только для управления, а еще для подколов и помощи.
Короче: Если устал от систем, которые требуют обучения, миграции каждые полгода... и выглядят как база данных космического корабля — это приложение для тебя. Просто открываем, пишем, сохраняем. ИИ критикует и помогает, если нужно, но не навязывается.
Горячие клавиши: Ctrl + N - создать заметку Ctrl + P - создать папку Ctrl + F - искать текст в открытом файле Ctrl + S - сохранить файл Ctrl + колёсико - изменение размера шрифта
Осваиваем азы компьютерного зрения с библиотекой Pillow на одноплатном компьютере Lichee Pi 4A
Наш первый шаг — загрузить изображение, определить его цветовую модель и получить информацию о размере и границах.
from PIL import Image
from PIL import ImageFilter
img = Image.open(“flower.jpg”)
print(img.size, img.format, img.mode)
Эта базовая информация пригодится для дальнейшей работы с изображением.
Меняем цвет пикселя
К отдельным пикселям можно обращаться с помощью метода load() из библиотеки Pillow. Так мы сможем изменять цветовые значения точечно, а это основа для различных операций по обработке изображений.
Открываем white.jpg с помощью Pillow:
from PIL import Image
img = Image.open("white.jpg")
obj = img.load()
Выбираем пиксель с координатами (25, 45) и меняем его цвет:
Метод load() позволяет напрямую работать с массивом пикселей изображения: читать, модифицировать и анализировать отдельные элементы, не копируя данные в отдельные структуры. Это особенно важно для задач, которые требуют высокую производительность при обработке больших изображений.
Почему был выбран Lichee Pi 4A, как создать виртуальное окружение Python, установить подходящую среду разработки и научиться базовым приемам работы с изображениями — читайте в подробном туториале.
Solomon Deal: как мы строим систему гарантирования сделок на TON без посредников
Как Telegram-бот, смартконтракт на Tact и теория игр позволяют заключать безопасные сделки в децентрализованной среде
TL;DR
Бот написан на Python, работает поверх Telegram
Смартконтракты на языке Tact в сети TON
Арбитраж между пользователями с мотивацией по теории игр
Судьи выбираются случайно, голосуют анонимно, получают награду
Средства хранятся только в смартконтракте, бот не имеет доступа
Бэкэнд — это сам Telegram-бот с возможностью fail-safe восстановления
Почему это вообще нужно?
Криптовалюты за последние годы доказали свою состоятельность как средство хранения стоимости и спекуляции. Но как средство обмена — по-прежнему работают слабо. Главная причина — отсутствие доверительного слоя: нет привычных гарантий, судов, посредников. Если кто-то кого-то обманул, то в децентрализованной среде — это почти всегда необратимо.
В фиатной системе роль "гаранта" берёт на себя государство. В блокчейне же — эта роль должна быть перераспределена. Мы решили попробовать построить этот слой заново: на основе смартконтрактов, Telegram и игрового баланса мотиваций.
Архитектура решения
Бэкенд: Python-бот, работающий в Telegram. Почему Telegram?
Нет необходимости в покупке DNS и выделенного сервера с белым IP, или аренды VPS
Смартконтракты: написаны на языке Tact, развёрнуты в сети TON. Исходники контракта открыты и доступны для аудита: verifier.ton.org
Взаимодействие с блокчейном реализовано через два механизма:
tonconnect — используется для взаимодействия с кошельками пользователей (предложение подписать и отправить транзакцию)
pytoniq — Python-библиотека для прямого взаимодействия с liteserver: чтение блоков, анализ транзакций, отправка собственных транзакций
Модель безопасности и хранения средств
Ключевая идея: ни бот, ни сервер не имеют доступа к средствам. Все деньги, относящиеся к сделке, проходят только через смартконтракт.
Судейская оплата (небольшие суммы) обрабатывается централизованно — чтобы избежать накладных расходов на комиссии и реализовать массовую рассылку выплат без дорогих операций на уровне блокчейна.
Если бот или сервер по каким-то причинам недоступен:
При заключении сделки пользователи получают инструкцию на случай отказа сервера
Смартконтракт включает таймер, по завершению которого средства можно разблокировать вручную, если управление смартконтрактом через бот невозможно
Разрешение споров: распределённый арбитраж
Как работает:
В случае конфликта обе стороны присылают свои версии (текст, сканы, PDF, видео)
Рандомно выбирается набор судей из числа зарегистрированных
Судьи голосуют, не зная друг друга. Механизм — Soft Majority Voting (SMV)
После последнего голоса результат отправляется в смартконтракт, и средства автоматически перечисляются победившей стороне
Мотивация:
Судьи получают награду за участие
Если судья голосует против большинства, его рейтинг уменьшается в 2 раза
Но рейтинг восстанавливается с каждым последующим делом (механизм "прощения")
Потери за ошибку размазаны на 8 последующих дел, чтобы не демотивировать участвовать
Как оформляется сделка?
Пользователи могут описывать условия простым текстом или прикладывать документы
Ни текст, ни документы не анализируются автоматически
Смартконтракт выступает только как условный хранитель средств, который получает извне команду: "перечислить A или B"
Таким образом судьи не могут украсть средства, и вся логика спора отделена от самого контракта
Сложности и находки
Работа с TON и Tact — это одновременно увлекательно и сложно. Документации по многим библиотекам либо нет, либо она устарела. Периодически приходится идти напрямую к разработчикам — и, к счастью, они действительно открыты к диалогу. Несколько багов нами были найдены прямо в приложениях кошельков и библиотек.
Что дальше?
Возможные направления развития и создание следующих модулей:
Привет, меня зовут Александр, я аналитик в Альфа-Банке. Однажды я устал, что на Feature Store, на платформе для дата-инженеров (DE) и дата-саентистов (DS), невозможно ничего найти.
Поиск по контексту отсутствует. Приходится руками шерстить огромное количество ETL-проектов в поисках той самой полезной информации, полагаясь сначала на удачу, а после — на опыт и помощь коллег.
Feature Store сама по себе — платформа, которая должна упрощать работу коллег с большими данными, упрощает бюрократию жизненного цикла создания ETL, ввода моделей в промышленную эксплуатацию. Но какой же поиск там...В общем, хотелось бы улучшить процесс по поиску данных в ней.
В данном примере мы создаём класс Pipe с перегрузкой метода __or__.
Метод __or__. был добавлен для поддержки синтаксиса X | Y, как замена typing.Union и также используется для указания, что переменная или функция могут принимать несколько различных типов значений.
import typing
int | str == typing.Union[int, str] # True
class Pipe:
def __init__(self, value):
self.value = value
def __or__(self, other):
if callable(other):
return Pipe(other(self.value))
else:
raise ValueError("Right operand must be callable")
def multiply_2(x):
return x * 2
def add_3(x):
return x + 3
changed_num = Pipe(5) | multiply_2 | add_3 # 5 * 2 + 3
print(changed_num.value) # 13
Более "сложный" пример добавил в статью как вариант для валидации атрибутов класса.
Помимо интеграции с Google Calendar, мы реализовали вложенные цепочки эскалации. Теперь в chain можно добавить другой chain (nested), благодаря чему размер конфигурационного файла уменьшится.
Мы хотим создать достаточно гибкую, но не перегруженную систему цепочек эскалации, чтобы на проектах разной величины вы могли использовать IMPulse так как вам удобно. Для этого в комментариях расскажите, какой самый сложный кейс уведомлений / эскалации вам необходимо было реализовать. Например: во вторник нужно дёргать Антона, через 5 минут Олега, а по средам - только дёргать Геннадия, в остальное время, если severity == 'critical', звонить Грише. Будем рады почитать самые сложные варианты и предложить наше универсальное решение для них.
Остаёмся на связи в нашем Telegram канале - там можно общаться / задавать вопросы.
Спойлер: принципиальное решение проблемы - найдено. Купил маленькую коробочку на "мейнстримной" архитектуре, на которой все цветет и пахнет.. кроме моего внутреннего(ну и внешнего, че уж там) инженера) Так что решение выкинуть железку - можно не предлагать
Так вот, пока я писал код, и готовил сборочные скрипты ничто не предвещало беды - я спокойно потестил код локально, написал Dockerfile для сборки на poetry. Настало время развернуть это все на NAS - казалось бы ARM уже давно мейнстрим, но тут понеслось
python как всегда лишь удобный биндинг к куче платформозависимого кода) подавляющее большинство python-зависимостей под arm/v7 приходится компилировать
готовых бинарников polars под arm/v7 - тоже нет
Никаких блокеров к тому, чтобы собрать polars под arm/v7 я не нашел. Но скомпилить его нативно на 4Гб ОЗУ - не получится, даже с минимальными оптимизациями. Нужна кросс-компиляция. Благо с rust и maturin(которым собирается polars) - это несложно, target armv7-unknown-linux-gnueabihf в хорошем tier-е поддержки
забегая чуть вперед указываем окружение для сборки аллокатора jemalloc(по умолчанию в polars) под 32k страницу
Итак, усложняем сборку Docker(см. repro) - используем кросс-компиляцию, энв-переменные, QEMU, охапку дров и теперь у нас есть приложка, которая успешно стартует в докере на целевой железке. Вот только за рамками самых примитивных тестов - OOM-ится, причем память точно есть, никакой OOM-киллер процесс не убивает(на всякий случай смотрим лимиты cgoup) - оно "шамо":
memory allocation of 1345920 bytes failed
(подробные логи можно посмотреть по ссылкам в конце поста)
Что же делать?
пробуем mimalloc - он использует для конфигурации рантайм(getconf), эффект - тот же
пробуем env-крутилки, в частности arena_reserve может стоит просто меньше резервировать - но нет, просто больше попыток, но по факту все равно OOM
И вот на этом месте я застрял. Я не большой спец по системному программированию - не понимаю куда копать
Общение с поддержкой QNAP свелось к
Справедливости ради они еще дали советов что попробовать, но это я уже попробовал до них
Пытался отлаживать приложение в gdb - никаких аномальных трейсбэков во время OOM не увидел: rust честно пытается аллоцировать большой raw_vec(трейс есть в вопросе на stackoverflow)
Как-то глубоко копать переменные не получается, т.к. дебаг-символы для бинарника polars получаются слишком большими
BFD: error: /app/.venv/lib/python3.12/site-packages/polars/polars.abi3.so(.debug_str) is too large (0x498a9fd1 bytes)
Я сделал небольшое repro на голом расте - там эта проблема не воспроизводится, значит базово бинарная совместимость - в порядке
Есть несколько гипотез, но я не знаю как их проверить
возможно, кривая вся адресация, но ее проверить я тоже не могу
возможно, стоит чего-нибудь половить в ядре bpf-ом, но что..
кастомное ядро 4.2.8 кастомный дистриб(QTS) не богат средствами отладки - как я понял там запускается busybox набор утилит
А мне бы хотелось все-таки дожать диагностику и однозначно ответить на вопрос: это лыжи не едутя не умею собирать приложения под нужное окружение или все-таки целевая платформа не умеет выполнять корректно собранное? Не потому что эту проблему нельзя решить по-другому, а потому что в том, чем пользуешься - хочется разбираться.
Пишите в комментах ваши соображения. Если что-то удастся прояснить - буду держать читателей поста в курсе
Мы все с вами привыкли, что в питоне можно "зарайзить" исключение в любой момент: raise Exception Но, что если в какой-то момент времени мы не можем вызывать исключение?
Простейший пример: что произойдет при запуске такого скрипта?
# ex.py
class BrokenDel:
def __del__(self):
raise ValueError('del is broken')
obj = BrokenDel()
del obj
print('done!') # будет ли выведено?
Тут может быть два варианта:
Или del вызовет ValueError и программа завершится
Или случится какая-то магия, ошибка будет вызвана, напечатается, но программа продолжится
» python ex.py
Exception ignored while calling deallocator :
Traceback (most recent call last): File "/Users/sobolev/Desktop/cpython/ex.py", line 3, in __del__ raise ValueError('del is broken')
ValueError: del is broken
done!
Знакомьтесь – unraisable exceptions 🤝
Как оно работает?
В некоторых местах C кода у нас есть необходимость вызывать исключения, но нет технической возможности. Пример, как выглядит упрощенный dealloc для list?
static void
list_dealloc(PyListObject *op)
{
Py_ssize_t i;
PyObject_GC_UnTrack(op); // убираем объект из отслеживания gc
if (op->ob_item != NULL) {
i = Py_SIZE(op);
while (--i >= 0) {
// уменьшаем счетчик ссылок каждого объекта в списке
Py_XDECREF(op->ob_item[i]);
}
op->ob_item = NULL;
}
PyObject_GC_Del(op);
}
А, как вы можете знать, чтобы в C коде вызвать ошибку, нужно сделать две вещи:
Взывать специальное АПИ вроде PyErr_SetString(PyExc_ValueError, "some text")
И вернуть NULL как PyObject * из соответствующих АПИ, показывая, что у нас ошибка. Если вернуть NULL нельзя, то мы не можем поставить ошибку в текущий стейт интерпертатора. А тут у нас void и вернуть вообще ничего нельзя. Потому приходится использовать вот такой подход с unraisable exception
Они создают ошибку, но не выкидывают её обычным способом, а сразу отправляют в специальный хук-обработчик. Данный хук не производит классическое "выбрасывание" исключения, а просто его печатает по-умолчанию. Ниже посмотрим, как его можно кастомизировать.
В питоне оно используется где-то 150 раз. То есть – прям часто. Примеры:
Ошибки при завершении интерпретатора, попробуйте сами:
Я сделал своего первого Telegram-бота — WebCheck. Мониторинг сайтов прямо в Telegram
Привет!
Меня зовут Александр, и я решил поделиться с вами своим первым публичным Telegram-ботом. Я давно хотел реализовать что-то полезное и практичное — в итоге получилось то, чем сам теперь пользуюсь каждый день.
Знакомьтесь: WebCheck— бот, который следит за доступностью сайтов, SSL-сертификатами и доменами.
🧠 Что умеет бот
Проверяет, доступен ли сайт (HTTP-код);
Показывает, сколько дней осталось до окончания SSL-сертификата;
Проверяет, когда истекает регистрация домена;
Присылает уведомление, если:
сайт стал недоступен;
до окончания SSL-сертификата осталось 14 дней или меньше;
до окончания регистрации домена осталось 14 дней или меньше;
Позволяет экспортировать логи и список сайтов в CSV;
Есть админ-интерфейс для контроля всех добавленных сайтов.
Получаете оповещения, если с ресурсом что-то не так
Бот абсолютно бесплатный, ничего не требует — просто добавил сайт, и бот сам всё контролирует.
👨💻 Технически
Бот написан на Python с использованием:
aiogram v3
PostgreSQL
APScheduler
Shell-команд (whois, curl, openssl) для большей точности
Контейнеризирован в Docker, база хранится вне контейнера, а вся логика максимально простая и прозрачная.
🔐 А ещё я сделал бот для дешифровки VNC
Если вдруг работаете с .vnc файлами или UltraVNC — может пригодиться мой мини-инструмент: @DecryptVNC_bot— он расшифровывает VNC-пароли прямо в Telegram.
🙏 Буду рад, если протестируете
Это мой первый бот, и я был бы благодарен за фидбек. Если найдёте баг, захотите предложить улучшение — пишите. Буду дорабатывать и развивать.
Новый тайпчекер для Python от авторов ruff и uv, написанный на Rust
Вышло видео про новый тайпчекер и lsp: ty (старое название red-knot) от авторов ruff и uv. Пока по первым впечатлениям – бомба! Не смотря на версию 0.0.0a8 🌚
Из плюсов:
Быстрый
На расте
Куча новых фичей для типов
Полная спецификация
Интеграция с ruff и IDEшками
Из минусов:
Пока есть баги (но их поправят, конечно же)
Нет плагинов (и скорее всего никогда не будет)
Софт от молодой и маленькой компании
Как сделать поддержку ty и mypy вместе? А если использовались ty_extensions?
Представлен бесплатный гайд по изучению языка программирования Python за 100 дней от истории создания языка и его работы на уровне процессора и памяти до мощнейших фреймворков и комплексных алгоритмов. Задачи равномерно распределены. Каждый урок объёмный и разжеван досконально — поймет даже полный нуль в кодинге. Любое объяснение подкрепили примерами кода.После разделов есть сборники задач разного уровня сложности, чтобы железно зафиксировать знания.
Недавно ревьюил один интересный PR в CPython: в питон добавили еще один способ форматировать строки. Теперь – со специальным АПИ для внешних интеграций. Расскажу: как и зачем.
Основная причина: использовать f строки удобно, но нет никакого АПИ для перехвата момента "вставки" или интерполяции значений. Например, при форматировании html или sql – требуется специальным образом делать escape для значений. И раньше код вида f"{template}" представлял собой дыру в безопасности и потенциальное место для XSS.
string.templatelib.Template
Новый префикс t не будет создавать объект str, он будет создавать объект класса string.templatelib.Template:
Обратите внимание, что при создании template – у нас не произошло форматирование сразу. Мы создали объект, у которого есть свойства strings и interpolations, из которых можно собрать финальную отформатированную строку.
Давайте посмотрим на примере. Допустим, мы хотим формировать URL из наших данных:
>>> domain = 'example.com'
>>> query = 'python string formatting is too complex'
>>> template = t'https://{domain}?q={query}'
И сам код логики форматирования, где мы будем вставлять значения разным способом. Если у нас шаблон query, то мы будем использовать quote_plus для его форматирования. Остальные значения – будем вставлять как есть:
>>> from string.templatelib import Template, Interpolation
>>> from urllib.parse import quote_plus
>>> def format_url(template: Template) -> str:
... parts = []
... for part in template:
... match part:
... case str() as s: # regular string
... parts.append(s)
... case Interpolation(value, expression='query'):
... parts.append(quote_plus(value))
... case Interpolation(value):
... parts.append(value)
... return ''.join(parts)
Сегодня я исправил баг с типизацией, который случайно нашёл когда делал ошибки.
Вот этот отрывок: void main() { int x = "h"; } обрабатывался как правильный синтатикс. Теперь нет.
И я добавил цикл do-while. Правда в нём есть проблема: в конце если выражения = false то он ещё раз выполняет и потом останавливает цикл do-while. Ну, пока что так.
Пример цикла do-while:
void main() {
int a = 10;
do {
a = a + 1;
} while (a > 2);
}
Только вывод не то что "a" это 1 а 0. Правда, сил нету добавлять ненужные части кода для исправления.
Ну. Хотя бы работает как то. А то когда в первый раз делал этот цикл то вообще нечего не работало.
От картотеки Лумана к современным графам: учим языки программирования с методом Цеттелькастен
В середине XX века социолог Никлас Луман разработал метод организации информации Цеттелькастен (Zettelkasten). Он создавал множество заметок и, чтобы не терять знания, начал вести картотеку. Система нумерации и ссылок помогала ориентироваться в карточках. У каждой заметки был уникальный номер, отражающий тему и дополнения.
Спустя полвека идеи Лумана остаются актуальными. Более того, появились программные обеспечения для ведения базы знаний. Заметки сохраняются в облаке и отображаются в виде графа.
Все заметки Дмитрия в виде графа
Веб-разработчик в YADRO Дмитрий сохраняет заметки в сервисе Obsidian. Дмитрий услышал о ПО от инженера и блогера Николая Тузова и понял, что система, похожая на картотеку, ему близка.
Программа оказалась понятной, легко адаптируемой под разные задачи. Когда Дмитрий перенес данные из Notion в Obsidian, образовалось несколько графов: по Go, хешированию и базам данных. В этой базе знаний все концепции в Go пересеклись в двух точках — интерфейсе и горутинах. Есть еще слайсы, но в основном все «лучи» сходятся именно в эти две точки.
Как Дмитрию удалось упорядочить большие объемы знаний и кому он рекомендует Цеттелькастен, читайте в статье →
Сегодня на данный момент я пишу компилятор C в байткод.
Вы скажете: но C же в машинный код компилируется? В моём случае нет. Лишь в байткод.
Вот правила которые мой C поддерживает:
цикл do-while, цикл while, условие if-else, цикл for (возможно)
Из операций: +, -, /, *, ==, !=, <, >
Декларация переменных только с инициализацией (не int x;) а (int x = 5;)
Присваивание (типо a = a + 1;) можно при созданной переменной
Из типов данных только два: int, char
Функции не обещаю но возможно будут
А то что уже есть:
if-else, while
Декларация переменных
Присваивание переменных
Все типы данных
Все операции
Сделать факториал уже можно. Вот пример факториала 5:
int n = 5;
int f = 1;
while (n > 1) {
f = f * n;
n = n - 1;
}
Вывод:
Execution finished
n: 0
f: 120
Вот как он работает:
С помощью регулярок лексер получает нужный токен и тег
Парсер строит AST
Компилятор делает байткод
Виртуальная машина выполняет его
Вот так всё работает.
Все инструкции байткода (на данный момент):
FETCH переменная - положить на стек значение переменной
PUSH число - положить на стек число
POP - я не помню зачем это ведь это не нужно будет нам
ADD, SUB, MUL, DIV - бинарные операции
NOTEQ, EQ, LT, GT - реляционные операции
JMP адрес - перейти по адресу
JNZ адрес - перейти по адресу если на вершине стека не 0
JZ адрес - перейти по адресу если на вершине стека 0
PASS - игнорировать
STORE имя - сделать переменную если она есть и её тип данных
соответствует типу данных значения
TSTORE имя - декларация переменной
HALT - конец программы
Вот так. На данный момент в проекте где-то 400 строчек кода но это с комментариями и всеми пустыми строками.
