Pull to refresh
40
0
Gordon Freeman @daocrawler

Информационные системы

Send message
Есть некоторые сомнения. Наркоту хостить — не от правообладателей бегать.
Не удержался, посмотрел контекст "израиля", все-таки популярная тема, входит в топ-100. Вот что там происходит:
сверхдержавы вотчины израиля
светозарным сынам израиля
святости величию израиля
святые земли израиля
севере израиля так
силу сыны израиля
Слова в них просто не влезли. Это Tableau.
Смещается по радуге от большего(фиолетовый) значения частоты употребления к меньшему(синий), аналогично размеру блоков.
Стемминг не делался.
Контекст gtgt:
bigger boobs gtgt
biggest thing gtgt
bioshock gifs gtgt

Контекст доски:
board доска опознаний
dating доска объявлений
надежный поставщик доска
Совершенно не обязательно 200 ok.

Пример:

404 Not Found
Server=nginx 1.1.19
Date=Fri, 01 Jan 2016 12:37:16 GMT
X-Malware-Sinkhole=Arbor Networks
Connection=close
content-length=0

Доменов, с заголовком Sinkhole = 32.
Приоткройте завесу тайны: на чем написан краулер? Как долго обрабатывалось 5М доменов и на каких мощностях?


В рамках данной статьи раскрытие технических особенностей системы не предполагалось.

Еще интересно, сколько доменов вам ответили, что они DNS sinkhole?

Что вы имеете в виду?
В основном это сайты, скрипты которых генерируют дикое количество ошибок, пример: itect.ru

Information

Rating
Does not participate
Registered
Activity