Обновить

Интеграции - Есть! Толку - нет :(

Давайте представим, что софтинка про документооборот - это рыба в воде. С жабрами, такая, хвостом и плавниками - прям адаптированная вся.

А теперь, представим, что управление задачами - это горный барс - стремительный, ловкий и хищный, красивым мехом покрытый.

Продолжаем дальше - бухгалтерский учет - пусть будет мудрым кротом, который организует схематоз проходов под землей - все корешки под контролем.

И вот все три сущности у нас есть, встает вопрос - как это всё связать друг с другом?

Удача то какая - все три решения заявляют - “У нас есть интеграции”!

Вот только среда существования у всех разная, функционал, предназначение, базовая логика - всё разное! И что надо? Вытаскивать рыбу на сушу или закапывать барса под землю? С чем “интегрировать” жабры? Со слепыми глазами?

Чтобы сочленить разные инструменты необходимо понимание-модель-схема верхнеуровневой рабочей системы, а ее ни в одном из перечисленных инструментов. Нет по определению. Они все специализированные и в чужом огороде не разбираются.

PS: И чо? Задача - интересная. Работаю в эту сторону :)

Теги:
Всего голосов 1: ↑1 и ↓0+3
Комментарии0

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

По статистике, среди рядовых пользователей настольных компов самая распространенная видеокарта имеет 16 ГБ видеопамяти. По опросам GaugeDB, такие карты занимают 27,21% рынка. У меня как раз видеокарта NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ видеопамяти GDDR6X, которая на текущий момент стоит 900$. До сего момента главной проблемой было то, что на видеокарте такого класса невозможно было запустить LLM-агента, который будет достаточно умным и достаточно быстрым. Если запускаешь умную модель типа Qwen 3.8 27B (Dense архитектура), то на выходе получаешь 10-20 токенов в секунду. А для комфортной работы кодинг-агента надо 100-150 токенов в секунду.

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

Публикации