Как стать автором
Обновить
0
Рейтинг
INFATICA.io
INFATICA is global peer to business proxy network

Data as a Service: что это такое, технические сложности и как их обойти с помощью резидентных прокси

Блог компании INFATICA.io Big Data *
Recovery mode


Data as a Service (DaaS) – относительно новая модель дистрибуции данных, которая подразумевает, что информация сбором, управлением и хранением нужной информации компании и пользователи занимаются не самостоятельно, а делегируют эту задачу специализированным провайдерам.

Сегодня мы поговорим о плюсах этой модели, существующих технических трудностях и способах их решения.

Зачем это нужно


Проще всего важность данных и, соответственно, услуг сервисов, которые их дают компаниям, можно понять с помощью цифр. Так по статистике, число поисковых запросов с добавлением фразы «рядом со мной» (near me) выросло на 900%. Это говорит о растущем запросе на персонализацию среди пользователей. А для предоставления персонализированного сервиса необходимо где-то взять данные о пользователей, его предпочтениях, предыдущем опыте, иначе он так и останется частью «серой массы». Но сделать это не так просто.

Согласно различным исследованиям, список распространенных проблем при использовании Big Data состоит из:

  • отсутствия знаний и навыков по работе с ними и их структурированию (46% случаев),
  • недостаток технических возможностей (56%),
  • ограниченная пропускная способность систем аналитики, которые не справляются с объемами данных (38%),
  • недостаток понимания того, как применить данные после их получения (25%).

DaaS-провайдеры позволяют компаниям решить все эти проблемы. Они дают им уже готовые наборы данных, созданные по заранее определенным требованиям. Само собой, данные обычно «заточены» под конкретную отрасль, отвечают на конкретные вопросы бизнеса. В идеале, такие датасеты достаточно легко интерпретировать и принять на основе этой информации важные бизнес-решение.



Изображение: rocketsource.co

Звучит заманчиво – компании, которые умеют работать с данными и обладают соответствующей инфраструктурой, помогают тем, кому нужна информация, и зарабатывают на этом. Но не все так просто, и главная проблема для DaaS-сервисов здесь – недостаточно просто иметь инфраструктуру для сбора данных, нужно еще и уметь собирать корректные данные. Поговорим об этой проблеме подробнее.

Главная проблема DaaS


Как вообще происходит сбор данных DaaS-компаниями? По большому счету, у них просто есть мощная инфраструктура и скрипты для сбора данных в интернете – будь то сайты или поисковые системы. Такие скрипты называют краулерами (от англ. crawl) или скрейперами (англ. scrape).

Например, если компании-заказчику нужна информация для работ по поисковой оптимизации своего сайта, то ей может быть нужна информация о сайтах-конкурентах (какие целевые слова они используют, как выглядит выдача поисковых систем по этим словам и т.п.). Для сбора этих данных бот-скрейпер заходит на нужные сайты из списка и проходит по ним, скачивая нужную информацию.

На этом этапе может оказаться, что владельцы сайта, как и поисковая система, совсем не рады тому факту, что кто-то пытается выкачать данные. Активность такого бота наверняка попытаются заблокировать. Обычно для работы таких скрейперов используют серверные IP-адреса без их регулярной. Вычислить и заблокировать бота в такой ситуации нетрудно – и для этого есть большое количест антибот систем.

И это еще самый лучший вариант, потому что нередки случаи, когда владельцы бизнеса стремятся ввести конкурентов в заблуждение и «подсовывают» их ботам-скрейперам искаженные данные. В итоге собранный таким образом датасет может содержать заведомо некорректные данные. Нетрудно представить себе последствия того, что на основе ошибочной информации будут приняты важные бизнес-решения – в лучшем случае они окажутся бесполезны, в худшем компания может понести огромные убытки.

Решение: резидентные прокси


Решить главную проблему DaaS-сервисов можно с помощью использования резидентных прокси для скрейпинга данных. В отличие от серверных IP, которые предоставляются хостинг-провайдеров, что можно легко автоматически проследить с помощью специального ASN-номера, с резидентными прокси все не так просто.

Резидентные IP выдаются владельцам жилья интернет-провайдерами. Соответствующие отметки ставятся во всех связанных базах данных. Существуют специальные сервисы резидентных прокси, которые позволяют пользоваться резидентными адресами. Infatica – как раз такой сервис.

Запросы, которые краулеры сайтов-агрегаторов отправляют с резидентных IP, выглядят так, будто бы они идут от обычных пользователей из определенного региона. А обычных посетителей никто не блокирует – в случае интернет-магазинов это потенциальные клиенты.

В итоге использование ротируемых прокси от Infatica позволяет гарантировать качество собираемых данных – ведь запросы скрейперов с резидентных адресов никто не будет блокировать.

Другие статьи по теме использования резидентных прокси для бизнеса:


Теги:
Хабы:
Всего голосов 20: ↑16 и ↓4 +12
Просмотры 4.4K
Комментарии Комментировать

Информация

Дата основания
Местоположение
Сингапур
Сайт
infatica.io
Численность
11–30 человек
Дата регистрации
Представитель
Infatica