Добрый день! с FastText столкнулся на практике только пару недель назад. Скажите, применим ли данный подход для оригинальной реализации FastText в библиотеке от FB ? Я пока воспользовался встроенным в библиотеку алгоритмом квантизации - он позволяет уменьшить исходную модель в несколько раз.
И еще, каково Ваше мнение - стоит ли тратить такие усилия в настоящее время для оптимизации моделей на FastText при наличии разнообразных дообученных Bert-ов ? С ними я на практике еще не работал, но в ближайшее время планирую использовать для будущей задачи по классификации текстов.
приветствую! спасибо за статью. только сейчас ее увидел) когда прочитал раздел про попытку интерпретировать кадры из роликов и превращать их в вектора, возник вопрос: Вы не пробовали сделать обучение и сопоставлять данные таким образом - вектора текстового описания и вектора распознанных кадров? Если я правильно понял, то сейчас в БД хранится список актуальных для нарезанных роликов текстовых запросов, "привязанных" к видео, а поиск уже осуществляется по ним. Если неверно трактовал, прошу прощения:)
Сейчас работаю над полученным "в наследство" проектом с использованием tf-idf в поиске. своим умом начал доходить до мысли, что веса токенов зависят от длины документа в корпусе. Благодаря этой статье получил подтверждение гипотезе - спасибо!
Никита, спасибо за курс! после выпуска Moscow Python, где ты про него рассказал, сразу отправился смотреть) Лайк за обложки для видосов - оригинально, ни на что не похоже (в лучшем смысле этого слова) :)
очень люблю читать про инженерные изыски создателей старых игр, которые были сильно ограничены аппаратными возможностями. Приставок у меня никогда не было - уже в то время (90-е) у меня был компьютер. В плане графики и геймплея тогда, помню, впечатлили Twisted metal, Tomb rider - особо удивила вода, в которой можно было плавать) ну и Duke Nukem 3D - это было что-то невероятное по восприятию)
спасибо за материал! Благодаря статье теперь разобрался в концепциях "геттеров" и "сеттеров". И понятно, почему стоит использовать property().
спасибо за обе статьи! получил удовольствие от стиля)
Добрый день!
с FastText столкнулся на практике только пару недель назад.
Скажите, применим ли данный подход для оригинальной реализации FastText в библиотеке от FB ?
Я пока воспользовался встроенным в библиотеку алгоритмом квантизации - он позволяет уменьшить исходную модель в несколько раз.
И еще, каково Ваше мнение - стоит ли тратить такие усилия в настоящее время для оптимизации моделей на FastText при наличии разнообразных дообученных Bert-ов ?
С ними я на практике еще не работал, но в ближайшее время планирую использовать для будущей задачи по классификации текстов.
Спасибо!
приветствую! спасибо за статью. только сейчас ее увидел)
когда прочитал раздел про попытку интерпретировать кадры из роликов и превращать их в вектора, возник вопрос:
Вы не пробовали сделать обучение и сопоставлять данные таким образом - вектора текстового описания и вектора распознанных кадров?
Если я правильно понял, то сейчас в БД хранится список актуальных для нарезанных роликов текстовых запросов, "привязанных" к видео, а поиск уже осуществляется по ним.
Если неверно трактовал, прошу прощения:)
Сейчас работаю над полученным "в наследство" проектом с использованием tf-idf в поиске. своим умом начал доходить до мысли, что веса токенов зависят от длины документа в корпусе. Благодаря этой статье получил подтверждение гипотезе - спасибо!
Никита, спасибо за курс! после выпуска Moscow Python, где ты про него рассказал, сразу отправился смотреть)
Лайк за обложки для видосов - оригинально, ни на что не похоже (в лучшем смысле этого слова) :)
спасибо за материал, классно!
очень люблю читать про инженерные изыски создателей старых игр, которые были сильно ограничены аппаратными возможностями.
Приставок у меня никогда не было - уже в то время (90-е) у меня был компьютер. В плане графики и геймплея тогда, помню, впечатлили Twisted metal, Tomb rider - особо удивила вода, в которой можно было плавать) ну и Duke Nukem 3D - это было что-то невероятное по восприятию)
Трансляция, конечно, только что прошла, но ее запись можно посмотреть:
https://www.youtube.com/watch?v=DQacCB9tDaw&t=8s&ab_channel=OpenAI
Либо непосредственно на самом сайте OpenAI:
https://openai.com/