Yandex GPT + Excel: Автоматизация анализа данных через Python

[Quartsevvv]

Запрос к llm выполняется по каждой строке таблицы?

[ganzyukvolodya]

Да, запрос выполняется по каждой строчке
Для теста не стал группировать в батчи, хотя мысль такая была

[Quartsevvv]

Тоже баловался с локальной llm. Делал http запросы к lm studio, писал на vba. Пока бросил затею, так как обрабатывать 1 строку 1 секунду сомнительно (скорость практически не меняется при простых запросах до 100 токенов к 8 млрд и 30 млрд моделям), ну а обрабатывать больше одной строки за раз - значит повышать риск ответа с ошибками (модель может начать искажать результат)

[AS-Sterh]

Попробуйте гигачат от Сбера. Дешевле. Интеграция тоже очень простая. И да, если дадите в промте примеры правильно определенной категории и неправильной, ответы будут точнее.

[Endeverall]

Привет! А как, на первом скрине соответствие товара категории происходил анализ? Только лишь исходя из наименования товара, или доп признаки были?

[ganzyukvolodya]

Привет
Да, анализ в категории происходил только на основе наименования
Yandex GPT (как и другие lightweight-модели) работает с текстом, без дополнительных атрибутов

[Endeverall]

Понял, спасибо! Подобное у себя в отделе хочу реализовать, но довольно скептически отношусь использовать только наименование товара, тк встречаются сокращения, да такие, что не понятно без контента или описания, что это за товар.

[ganzyukvolodya]

В запросе можно спокойно добавить вид номенклатуры или любой другой атрибут из справочника, надо пробовать.
Если сокращение адекватное, то он должен справится, смотря какая задача стоит