Опыт гуманитария в дообучении LLM с помощью WebUI Text Generation

[Jogker]

"Юристов, которые смогли бы дообучить языковую модель под свои задачи, думаю, единицы." - и заплакал...

[aladkoi]

Подход абсолютно неверный. Нужно было запускать RAG и подключать русскоговорящую модель. RAG работает на уровне openapi протокола и ему неважно, через что запущена модель.

[powerman]

Зависит от задачи. Если задача - дать доступ модели к содержимому локальных документов, то да, RAG или агент+MCP. Но в статье задача "дообучить", и тут RAG не поможет.

[lavr2004]

Отличная статья, спасибо большое.

Я сам опытный программист, но к теме LLM отношусь с беспокойством, а ваша настойчивость и любознательность обозначили для меня как эта тема выглядит в общем и какие бывают тонкости.

Было очень интересно почитать. Вы большой молодец!

[stilrambler]

По моему мнению путь тупиковый. Нормальную модель не до обучите а простые модели бесполезны. Сейчас работаю над подобной проблемой. На мой взгляд. Нужно идти по пути RAG промт нейросеть.