Комментарии 2
Ваша статья тянет на создание Агента по инспектированию "своих" LLM - посмотрите пожалуйста в эту сторону. Вы создаете Агента который сразу проводит тестирование LLM Заказчика, показывает что необходимо перенастроить, в идеале - периодически запускается для понимания что изменилось и как под это подстроиться. Уверен, что за такого Агента будут Вам платить, сам бы точно заплатил, особенно если бы был референс или история использования этого Агента, статистика по % успешности решения им задач. Подумайте, почему нет?!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Почему self-hosted LLM падает в проде