Глухой телефон для ИИ: мы замерили физику LLM-графов и поняли, почему добавление агентов всё ломает

[denoiselab]

Хорошая статейка, я про это готворил еще в начале прошлого месяца в одном чатике. Вот вам ребят новая задачка, необходимо выяснить какие топологии графов будут устойчивы и понять сколько их будет. Я полагаю, что будет некая даже система по аналогии с той что у нас сейчас есть с чистыми нейронками. То есть вместо нейронов у вас мультиагенты. В целом, это весьма закономерная идея. Могу дать вам подсказку - построение/синтез надежных систем из ненадежных элементов. Это уже целый раздел математики такой есть.

[aak204]

Спасибо за отличный комм! Вы ударили в самую точку. Именно классическая теория синтеза надежных систем из ненадежных элементов стала для нас главным ориентиром.

Ваша «новая задачка» уже в активной разработке у меня :) Мы собрали измерительный стенд и прямо сейчас краш-тестируем разные топологии (Star, Tree, Chain) под атаками на фронтир-моделях. Могу дать небольшой спойлер: результаты оказались весьма контринтуитивными, особенно когда мы включили моделям internal reasoning. Плоские графы рассыпаются совсем не так, как ожидалось. Будет 2 часть и обновленный репо!