Как стать автором
Обновить

Комментарии 11

sbfactory.ru отечественный инструмент
16-е: BatchURLScraper — бесплатное решение для относительно несложных повседневных задач скрейпинга
Спасибо за статью. Добавлю в закладки.
Люблю всякие базы данных собирать и анализировать.
Подкиньте пожалуйста не облачные варианты и которые больше для разработчиков и желательно с открытым кодом. Меня к примеру интересует парсер с моделью издатель-потребитель, с ротацией айпи, настраиваемым воркфлоу, горизонтальным масштабированием потребителей. Я как-то искал но ничего не нашёл годного, сейчас пилю свой велосипед.
Только самому писать. Все эти облачные решения заточены на то, чтобы вы пришли, оно не заработало на чуть чуть сложноватом сайте, и вы им понесли тысячи золота за кастом-решение. И потом ещё по доллару за 100 строк данных.
Scrapy не годится? Довольно кастомизируемая вещь. Вот, например, ротация прокси.

Хорошо бы цены сравнить. Так то оно конечно здорово, но какие-то запредельные тарифы что у люминати, что у октопарсера.
Остальных не смотрел, для моих целей просто набора проксей с небольшим приложением оказалось достаточно.

А что насчет аймакрос? Кто-нибудь может подсказать, есть ли существенные отличия аймакроса от упомянутых в статье инструментов?
Представляем вашему вниманию список топ 15 инструментов для парсинга 2021 года.

Подскажите, а кто вы? Какие (насколько сложные) задачи вы пробовали решить этими инструментами? По каким критериями сформировался топ?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории