Pull to refresh
8K+
4
Темирхан@NullPilot

User

5
Rating
5
Subscribers
Send message

Presidio на практике: русский язык, свои правила и LiteLLM

Level of difficultyMedium
Reading time5 min
Reach and readers6.2K

Как скрывать имена и контакты перед отправкой текста во внешнюю LLM и возвращать их после ответа? Разбираю Presidio: настройку русского языка, собственные правила и интеграцию с LiteLLM. Сравниваю три конфигурации на 20 вымышленных текстах и показываю, где часть адреса остается открытой.

Читать далее

ReAct-агент изнутри. Модель, инструменты и управляющий цикл

Level of difficultyEasy
Reading time10 min
Reach and readers6.7K

Как запрос языковой модели превращается в чтение файла или запуск команды? Разберем устройство ReAct-агента: кто выбирает действие, кто выполняет инструмент и как результат попадает в следующий запрос. Сначала посмотрим на схемы обмена, затем - на реализацию цикла на Python без агентных фреймворков. Код примера доступен на GitHub.

Читать далее

Oracle показала, что у технологической ИИ-революции могут закончиться деньги

Level of difficultyMedium
Reading time8 min
Reach and readers98K

Искусственный интеллект обещал изменить мировую экономику. Но пока компании рассказывают о революции производительности, инвесторы начинают задавать значительно более приземлённый вопрос:

Кто заплатит за сотни миллиардов долларов, уже потраченных на эту революцию? История Oracle показывает, что проблема может возникнуть задолго до того, как закончится спрос на ИИ.

Прошу обратить внимание на событие, которое произошло в сентябре 2026 года. Оно осталось практически незамеченным за пределами финансового и технологического сообщества.

Читать далее

LLM Sandbox: изолированная среда для исполнения кода от LLM [часть 1, теория]

Level of difficultyMedium
Reading time10 min
Reach and readers8.4K

В большинстве бизнес-сценариев LLM перестала быть просто чат-ботом. Современные модели становятся частью агентских систем: у них есть инструменты, доступ к файлам, терминалу, браузеру, базам данных. Они не только отвечают на вопросы, но и выполняют действия.

В этой статье (ее первой части) разберём среду изолированного исполнения кода: песочницу (sandbox).

Представим ситуацию: пользователь загружает Excel-файл, просит проанализировать таблицу, найти аномалии и на основе анализа создать PowerPoint-презентацию. В чистом виде LLM не умеет читать файлы, строить графики и создавать презентации. Однако может написать код, который всё это сделает.

И тут появляется вопрос: где этот код запускать?

Генерируемый агентом код может быть ошибочным или, в случае с промпт инъекцией, намеренно опасным. Поэтому для безопасного исполнения кода агенту нужна песочница или изолированная среда.

В этой статье разберём:
- основные риски исполнения кода в неизолированной среде;
- что такое песочница и её ограничения;
- какие бывают подходы к реализации песочницы;
- вариант логики работы агента с песочницей.

Читать далее

Как мы построили корпоративную LLM-платформу: архитектура, грабли и выводы

Level of difficultyMedium
Reading time11 min
Reach and readers14K

Обычно внедрение AI в компаниях происходит по такому сценарию: собрали одного ассистента, показали руководству, получили аплодисменты. Потом второго, третьего — и через полгода получается зоопарк с разными ключами, моделями и неконтролируемым бюджетом.

Вместо набора разрозненных ассистентов мы сразу пошли в платформу. В статье рассказываем, из чего она состоит, как эволюционировало наше железо, зачем понадобилось два слоя наблюдаемости и почему маркетплейсный RAG ломается на PDF-файлах. С графиками, схемой архитектуры и выводами, которые сами хотели бы прочитать год назад.

Читать далее

Закрытый Jev против открытой Laya: сравниваем decision-модели в RAG-реранжировании

Level of difficultyMedium
Reading time10 min
Reach and readers8K

Можно ли заменить облачный Jev локальной Laya? Проверил обе модели и три специализированных реранкера на SciFact, FiQA и NFCorpus. Сравнил качество поиска, время обработки двадцати документов и потребление видеопамяти. Код и результаты доступны на GitHub.

Читать далее

Как работает etcd с Kubernetes и без него

Reading time23 min
Reach and readers52K

Если вы когда-либо взаимодействовали с кластером Kubernetes, скорее всего, он был основан на etcd. etcd лежит в основе работы Kubernetes, но несмотря на это, напрямую взаимодействовать с ним приходится не каждый день.

Этот перевод статьи от learnk8s познакомит вас с принципами работы etcd, чтобы вы могли глубже понять внутреннюю работу Kubernetes и получить дополнительные инструменты для устранения неполадок в вашем кластере. Мы установим и сломаем кластер etcd с тремя нодами и узнаем, почему Kubernetes использует etcd в качестве базы данных.

Читать далее

Jev и обычные LLM: сравниваем качество, скорость и стоимость

Level of difficultyMedium
Reading time13 min
Reach and readers7.6K

Сравнил Jev и обычные LLM на трёх задачах: определение спама, выбор категории комментария и оценка негатива. Проверил качество ответов, скорость и стоимость на русском и английском. Отдельно посмотрел, распознают ли модели повторный вопрос в длинной истории комментариев.

Читать далее

Information

Rating
958-th
Registered
Activity

Specialization

Бэкенд разработчик, Фулстек разработчик
Ведущий
Python
SQL
Git
PostgreSQL
Docker
ООП
MySQL
Базы данных
Разработка программного обеспечения
Алгоритмы и структуры данных