Pull to refresh

Comments 45

Хабр растёт. Что не может не радовать
Можно конечно, но нужен список юзер-агентов. Я так сходу не помню.
Интересно, что реальная нагрузка получается выше, чем даже при DDoS атаках.

Кстати, график нарисован с помощью RRDTool?
Cacti использует RRDTool для отрисовки графиков
Не выше. Просто очень сжат график.



Это ддос в 10 мегабит.
Черная полоса всегда идет параллельно зеленной, это значит что habrahabr всегда ддосят? Но лишь изредка ддос превышает количество запросов от пользователей, роботов и т.д.?
Это значит, что нежелательный трафик присутствует практически всегда
Около 800 000 запросов приходят от роботов и разного рода агрегаторов.

У этого есть и положительная сторона — данная статья уже проиндексирована гуглом.
Гугол в этом деле один из самых деликатных.
Очень интересная проблема.
У меня тоже была одна задача, в которой требовалось отличить реальный поток юзеров от роботов.
Если хабр её у себя выполнит, он сможет лимитировать запросы роботов.
Требутся только контролировать частоту и ограничивать её тем, кто превышает нормы.
Я (юзер) вполне могу генерить по 2-3 запроса в секунду (в разных табах переходить на следующую страницу, например).
А Хабру надо ограничивать до одного обращения в секунду, на сколько я помню из правил для ботов.
3 нажатия на ссылки в секунду — неплохо. Лично я с такой скоростью материал не усваиваю
Я тоже, но я с большой скоростью его отсеиваю.
Как раз мой пример не связан с усваиванием материала.
Читая главную, я обычно открываю в новых вкладках топики. Пока дочитываю главную, первый открытый топик уже успевает догрузиться и его можно читать.
А вы готовы к даум миллионам? Динамика на графике неплохая :)
Нам известно, что нужно для этого сделать
Ну так, я вчера все-все новости перечитал. Несколько раз :)
Нужен автoрeфрeш на глaвной или минитул как в постах, дабы неломать пальцы об F5.
В постах недавно сделали кнопку обновления комментариев.
Читай внимательно мой комментарий. Я сказал что хорошо бы сделать обновление постов на главной как обновление комментариев в постах.

ПС.
А вообще для удобства нужны хабромышь.
UFO landed and left these words here
В последнее время не так уж часто. Кроме того, в нашем многие вещи не сделаешь без сброса нагрузки.
UFO landed and left these words here
Сложная многоходовка получается.
Хотя при миллионных обращениях хорошо бы подумать о двойнике.
Двойник есть, но сам принцип репликации не чень рулит в этом смысле. Репликация нам больше всего помогает для прозрачного бэкапа.
Вопрос в способе репликации. То, о чём вы говорите, по-хорошему требует репликации мастер-мастер, а это всё равно что бочка с порохом.

Кроме того, все эти движения требуют дополнительного кадрового ресурса.

Habrahabr не livejournal. Здесь такая структура и способы отображения информации, что распределять данные одной сущности на разные сервера несколько сложнее.

Снаружи не видно, чего стоит все эти «приватные блоги», голосования и их отображение.
Это суммарное значение за весь период, представленный на графике
Сейчас уже не должно быть такой проблемы. Исправили
Ну Хромой конечно отжигает. А есть ли такая же статистика, но для каждой страницы? На какую больше всего заходили?
140343 /ajax/auth/ (среди этого где-то 100 000 вчерашнего брутфорса)
79103 /
21042 /blogs/google_chrome/38748/
20870 /redirects/rss/main/
19292 /ajax/suggest/
19187 /ajax/voting/
16017 /api/profile/denplis/ (всё же нахимичили)
14319 /ajax/comments/get_new_comments/
12660 /api/profile/levshino/
12415 /page2/
10610 /blogs/google_chrome/38742/
8962 /new/
7854 /api/profile/castro/
5111 /page3/
4958 /redirects/blog/nlo/33304.html
4901 /blogs/i_am_advertising/38799/
4495 /blogs/google/38807/
4321 /api/profile/bamaboy/
4250 /blogs/google/38677/
4212 /api/profile/sergant4x4/
4208 /blogs/google_chrome/38844/
4093 /blogs/webdev/38596/
4057 /blogs/offtopic/38808/
3813 /ajax/comments/add/
3793 /blogs/webdev/38771/
3142 /blogs/google_chrome/38836/
3093 /api/profile/vlad2000plus/
3048 /blogs/firefox/38741/
3033 /blogs/WiMAX/38760/
2885 /blogs/im/38852/
2874 /blogs/laptop/38735/
2821 /api/profile/habriel/
2800 /new/page2/
10 Мб/с это разве DDoS? Тем более на графике показаны пиковые значения загрузки канала. Для такого проекта как Хабр, это не так уж и много. В своё время приходилось бороться с DDoS лившимся на 1 сервер мощностью до 70 Мб/с естественно атака шла с разных IP и провайдеров постоянно. С подключенным Cisco Guard на бютжетной машине Pentium 4 удавалось восстановить функционирование если мощность атаки снижалась до 30-20 Мб/с. Правда это конечно не в Российском ДЦ.

И это на Pentium 4.
А у вас то явно гораздо более мощный сервер, так что я думаю повода для беспокойства нет.
Ну мы тут как бы не для того собрались, чтобы достижениями мериться. Большой ддос или маленький это к тем, кто его устраивает, наше дело его прикрывать.

Суть в том, что при грамотном подходе полоса атаки не всегда влияет на результат. После анализа вредоносного трафика он в большинстве случаев отсекается однозначно, проблема в том, что далеко не всегда ситуация решается в полностью автоматическом режиме.

Ддос это не всегда атака на процессор/диски/память, иногда это атака на стек протокола или сам канал передачи данных, что реже и куда более ресурсоёмко.
>Ну мы тут как бы не для того собрались, чтобы достижениями мериться.
Я просто пример привёл

Просто я к тому сказал, что нужно воспринимать это как должное. Если проект популярный то так и будет в этом нет ничего удивительного. Наращивайте мощности и ставьте защиту на уровне сервера/скриптов и DDoS не страшен, да и даже канал в 10 Мб/с забить не так уж и просто не говоря о 100/1000.
Мы уже почти достигли того уровня, что воспринимаем это как назойливый насекомых
И правильно, тем более в будущем это уже не станет проблемой с развитием технологий, переходом на новые протоколы и увеличением безопасности.
Sign up to leave a comment.

Articles