Comments 8
Спасибо, что обращаете внимание на эту тему — про неё почему-то мало говорят, все радуются облакам и не думают, куда уходят их данные. Сам ни разу не пожалел, что выбрал вектор локальных нейросетей: всё крутится на своём железе, и спится спокойнее)
У вас замечательные статьи ! Хотелось бы с вами пообщаться лично. Напсал в личку в тг ToxaBes . это ваша телега ?
Спасибо, рад что мои статьи вам заходят! Указанный ТГ аккаунт мне не принадлежит.
Дело в том, что я в принципе не использую Telegram, WhatsApp и другие подобные мессенджеры из-за жестких требований (MiFID II/DORA) европейских регуляторов в финтех/комплаенс проектах, в которых я принимал участие. Проекты завершил, но пока еще не переключился в режим нормального человека, да и не уверен пока, что это мне нужно. Написал вам в личку свою почту.
Спасибо.
Конечно, локальные модели - это хорошо и правильно. И не только из-за утечки данных. Есть же ещё и блокировки, причем двусторонние... Которые будут только нарастать.
Ну и дообучение под свой контекст, непременно.
Позволю вставить свои "пять копеек". На мой субъективный взгляд, БЯМ уже развились достаточно, чтобы смотреть не столько на размерность и общие показатели качества модели, сколько на её применимость к конкретной задаче. В этом смысле 30b-40b модели являются неплохим "локальным полигоном" для оценки применимости ИИ общего назначения к задаче. Если такая модель не способна представить сколь-нибудь вменяемого результата, с высокой вероятностью и "облачные гиганты" будут "жечь токены" без особой пользы, и нужно либо переформулировать задачу, либо менять форматы данных, либо обучать специализированный вариант.
Иллюзия безопасности или как ваши сотрудники прямо сейчас обучают конкурентов