AI-агент своими руками: память, браузер, задачи и навыки — без боли

[it_police]

Статья чуть устарела, полежала весь май в песочнице. Я чуть допилил Ануфрия, но стараюсь, чтобы он оставался таким же простым, в архитектурном плане. Если будут вопросы, рад ответить.

[SurMaster]

Без боли то оно может и без боли, но:

1. Агент имеет доступ к терминалу через shell=True. Реализованный черный список команд обходится банальным разделением через ; или &&. Любая prompt-инъекция из интернета или файлов проекта может выполнить rm -rf или выкачать ваши ключи или еще чего натворить. Вывод: запускать строго в изолированном Docker-контейнере.

2. В коде зачем -то фигурируют ссылки на телеграмм канал t.me/itpolice. Намеренно?

3. main.py на 700+ строк, копипаст парсинга поисковой выдачи, пустые блоки except и неиспользуемые импорты. Короче - код сырой. Я бы не стал такое запускать на реальном хосте без допиливания надфилем. В целом - интересно, issue оставил вам

[it_police]

О, спасибо, что изучили код) Да, main выглядит печально, но моя основная задача - сделать архитектуру простой и наглядной. В этом файле содержатся базовые инструменты и инструкции для LLM, разнести их не составит большого труда. Но сейчас пробежавшись глазами сразу понятно, как оно работает, буквально за пару минут.

В коде фигурируют ссылки на мой канал, это тоже намеренно сделано, просто привет от автора.

Доступ к терминалу агент имеет полный, насморя на встроенные ограничения, иногда и промпт инъекция может не понадобиться, чтобы LLM под галюном их обошла. Поэтому запускать его лучше в изолированной среде, это верно.

И да, каждый разработчик должен допилить Ануфрия напильником под себя. Я же пытаюсь создать удобную базу, чтобы допилить совего агента было как можно проще.

[gachkovsky]

Хочу попробовать. Он полностью бесплатный или за токены нужно платить?

[it_police]

Агент - это всего лишь алгоритм над большой языковой моделью. Если использовать провайдера LLM, то конечно, придется платить. Если развернуть LLM локально, то работать будет автономно и бесплатно. Но для хороших моделей нужно достаточно мощное железо, а для топовых домашнего железа все равно не хватит...