Вот она чудесная сила открытого кода! :) Когда выкладывал даже не думал, что кому-то он пригодится, просто жалко было удалять код проекта, на который потрачено прилично времени.
Мы тоже очень расстроены текущим состоянием 1stat. Пожелание — группировать нс сервера провайдеров, автоматически и с возможностью вручную передать список своих серверов (например, у нас — они в непохожих разных доменах).
Проект открытый — его можно развивать и улучшать. Уже почти прикрутил историю скриншотов, среднее время отклика. Может получится уговорить Григория добивать его сервис проверки на вирусы =)
Это не баг, мы не ставили задачу знать всех провайдеров =). Но при этом — хорошая идея, отписался ниже, если поможете сделать такое соответствие — будет здорово.
В данный момент есть группировка по провайдерам http://firststat.ru/?type=ns&date_start=2016-5-27&date_end=2016-5-27&sort_f=domain&sort_type=desc&aggregate=1&typep=all, но она берет в рейтинг, тот ns, на котором больше всего доменов на текущий момент, что тоже не очень корректно. В конце пришли к выводу, что более правильный вариант, это проверять все DNS доменов на наличие в них наименования провайдера. То есть если хотя бы один из ns содержит наименование провайдера, то этот домен относится к этому провайдеру. Этот принцип применен в сводной статистике — http://firststat.ru/summary-stat?zone=ru и скоро также выведем статистику по этому принципу в таблице. Если же один провайдер имеет совсем не похожие ns, то они отобразятся как разные провайдеры — единственный способ учитывать такие моменты, корректировать их вручную.
> проверять все DNS доменов на наличие в них наименования провайдера
Это несколько неправильно. Например, у нас есть домены с нс серверами в старом домене knutov.net и в новом после ребрендинга много лет назад dobrohost.ru. И есть еще два домена с нс серверами, относящимися к нашим вдс, совсем в других доменах. С 1stat можно было отправить список нс серверов и потом всё группировалось правильно.
(был бы проект на перле — я бы дописал нужную функциональность, но увы).
За списком NS серверов нужно следить — это большая проблема. Опять же Вы правильно сказали — домены на других серверах есть не только у Вас, актуализировать информацию для ТОП 20 будет не очень сложно (далее сложнее), но это в любом случае ручная работа. Постоянно придется обновлять. В данном случае более корректно смотреть по количеству доменов на AS.
В текущей версии сайта — это вывод агрегированных данных из БД. Если есть желание, в понедельник могу набросать интерфейс для сопоставления NS, MX, сетей, AS c провайдером и предоставить его Вам =)
У маленьких хостингов нет своих сетей, они берут в аренду IP адреса у тех же дата-центров. У более или менее больших — почти всегда есть своя AS.
Без своей AS невозможно управлять связанностью, балансировать мощные DDOS, оптимизировать маршруты, создавать CDN, решать проблемы плохих маршрутов. Я уже не говорю о банальном переезде в другой ДЦ. На определенной стадии развития хостингу необходима собственная AS и если посмотреть статистику у всех крупных хостингов есть своя AS. Это один из компонентов качества услуги.
Статистика распределения доменов по AS, IP, NS, MX и прочим параметрам