Блочное кеширование на стороне клиента

    В последнее время в высоконагруженных сайтах стали все чаще применять технику Partial Caching или блочного кеширования. Достигается это, как правило, за счет применения, казалось бы уже давно забытого, SSI или близких ему технологий (например, ESI). Например, в связках Nginx + Memcached + SSI или Varnish + ESI.

    Недавно и на Хабре тоже появился топик в котором автор описывал данный метод кеширования.

    В данном топике в 3м варианте решения автор предложил читателям топика привести свои варианты решения относительно данной задачи.

    Этому, собственно, и посвящается этот топик.

    Постановка задачи


    В большинстве случаев веб-страница состоит из блоков. Например, для простейшей страницы это блоки: шапка, подвал, правый или левый блок, и блок основного контента. Если сайт более сложный, то и соответственно, таких блоков будет больше, например для хабра это блоки: «последние посты», «последние коментарии», «похожие посты» и т.д. Соответственно возникают проблемы если мы хотим кешировать страницу на уровне представаления, т.е. непосредственно сгенерированный html, т.к. инвалидировать кеш для такой страницы пришлось бы при изменении любого из блоков, размещенного на данной странице.
    Поэтому в большинстве случаев применяется кеширование на уровне модели или данных, которые впоследствии заполняют некий шаблон страницы.

    Здесь-то на помощь и приходит SSI, благодаря данной технологии мы собственно и разбиваем страницу на эти самые логические блоки, и кешируем каждый блок отдельно.

    Пример страницы, использующей SSI вставки:
    <html>
    <body>
    
    <div class="header">
    <!--# include virtual="/header.php" -->
    </div>
    
    <div class="main_content">
    <!--# include virtual="/main.php" -->
    </div>
    
    
    <!--# include virtual="/footer.php" -->
    
    </body>
    </html>
    


    Здесь-то, казалось бы и все хорошо, но есть несколько НО, на которых и хотелось бы задержаться.

    Проблемы


    • Персонализированные блоки — это блоки, содержащие персональные данные какого-то пользователя, например, «Привет, %username%!». На самом деле таких данных может быть очень много, взять ту же анкету на вконтакте. Не путайте их с блоками для авторизированных пользователей! Экземпляров вторых у вас в кеше всего два (для залогиненых и нет), для первых представление прийдется хранить в кеше для каждого пользователя! Cохраняя в мемкеше ключи такого вида {%block_id%}_{%PHPSESSID|user_id%}. А так как у нас кеширование на уровне представления, т.е. помимо данных мы храним еще и кучу html кода, который будет повторяться у нас для каждого пользователя, следовательно, расход памяти под кеш (Memcached) в данном случае очень сильно растет. Я уже не говорю про то, что в большой ферме мемкеш серверов, некоторые сервера время от времени отваливаются и даже с алгоритмом Consistent hashing проблемы все равно остаются
    • На разогревание кеша (обычно после перезагрузок, релизов новых версий и пр.) уходит очень много времени


    Что предлагается?


    А предлагается, собственно следующий механизм кеширования:
    • Блоки, отвечающие за представление, обобщаем для всех пользователей, т.е. выносим из них все персонифицированные данные, чтобы хранить всего один экземпляр блока в кеше для всех пользователей сайта. Что же остается от этих блоков? Правильно, остаются обычные темплейты представления, которые мы и будем передавать пользователю, а каждый пользователь заполнит данный шаблон сам, на стороне клиента, с помощью, JavaScript. Т.е. клиент по запросу к странице получит страницу, состоящую из логических блоков, каждый блок, в свою очередь будет являтся шаблоном. Например
      <html>
      <body>
          <div id="head_block">
              Some {%personified%} data here
          </div>
          <div id="main_block">
              Hello {%username%}!
          </div>
      </body>
      </html>
      


      Ну или, например, так
      <html>
      <body>
          <div id="head_block">
              Some <div id="{%personified%}"></div> data here
          </div>
          <div id="main_block">
              Hello <div id="{%username%}"></div>!
          </div>
      </body>
      </html>
      


    • Для того чтобы заполнять данные джаваскриптом их нужно откуда-то получать. Получать данные мы будем с помощью ифрейма-контейнера ну или с помощью AJAX запроса. Кому как больше нравится. Т.е. страница, которая вернется будет содержать невидимый ифрейм или Input hidden, содержащий URL, обратясь к которому мы получим список УРЛов с данными для каждого блока.
      В итоге, пользователь получает такую страничку
      <html>
      <body>
          <div id="head_block">
              Some <div id="{%personified%}"></div> data here
          </div>
          <div id="main_block">
              Hello <div id="{%username%}"></div>!
          </div>
          <iframe src ="all_blocks_data_urls.php" style="display: none"></iframe>
          <!-- или так -->
          <input type="hidden" name="all_blocks_data_urls" value="all_blocks_data_urls.php" />
      </body>
      </html>
      


    • Скрипт all_blocks_data_urls.php представляет из себя простейший скрипт, который проверяет есть ли кеш для данного пользователя. Выглядит он примерно так:
      <?php
      .......
      $key = $memcached->get($user_id.'all_blocks_data_urls');
      if($key) {
          header("HTTP/1.1 304 Not Modified"); 
          exit; 
      } else {
         // Extracting URLs here and send to user
      }
      ?>
      


      Т.е. в данном случае мы не храним данных в кеше. Ключ по каждой сессии служит для нас семафором, обозначающим пригодная ли версия кеша, которая хранится у пользорвателя или нет. Если пригодная, то просто возвращаем 304 заголовок, и говорим, что данные не обновились, если нет — обновляем список урлов. Лб этом ниже.
    • Итак, как я писал выше. Каждый набор данных для блока у нас представлен URLом, который возвращается по средством запроса к IFRAME по адресу «all_blocks_data_urls.php». На серверной части мы имеем семафор для каждого пользователя, доступный по ключу
      $memcached->get($user_id.'all_blocks_data_urls')
      

      , а также список ключей в мемкеше с сгенерированными урлами для данных в блоках, например имеющих вид:
      $user_id.'_'.$block_id => 'hash_for_url'
      


      Теперь, самое интересное: каждый URL для получения данных специфичный для пользователя, например
      www.site.com?block_id=1&hash=hash_for_url и возвращается с заголовком Expires далеко-далеко в будущем, т.е. мы кешируем данные посредством http заголовков в браузере навсегда.
    • Когда пользователь обновляет данные, привязанные к какому-то логическому блоку, например, раздел образование в соц. сети, то мы сбрасываем ключ в мемкеше для общего блока кеша $memcached->delete($user_id.'all_blocks_data_urls') а также удаляем ключ, который хранит УРЛ с данными для этого блока $memcached->delete($user_id.'_'.$block_id). При следующем запросе к IFRAME-контейнеру скрипт all_blocks_data_urls.php уже не вернет 304 ответ, а заново сформирует УРЛ для недостающего блока и вернет пользователю список, предварительно установив два ключа в мемкеше ($user_id.'all_blocks_data_urls' и $user_id.'_'.$block_id). При этом сами данные, т.е. кеш данных мы нигде не храним! Все кеширование организовано на уровне браузерного кеша у пользователя.
    • После того как клиент получил все УРЛы, указывающие на данные для блоков. Он начинает их запрашивать, т.к. эти УРЛы были отданы сервером с заголовком Expires, то большинство, если не все данные, клиент получит из кеша браузера. Кстати, формат данных можно выбирать какой угодно: JSON, XML, HTML. Можно даже настроить, чтобы это было кастомно в разных форматах! Ну и собственно в конце, с помощью JavaScript мы обрабатываем наши шаблоны и заполняем их пользовательскими данными.

    Итоги


    • Получили блочное кеширование, которое я называю СSI (client side includes), основанное на кешировании http заголовков на стороне клиента, при этом объем данных, которые мы храним в кеше на сервере гораздо сократился
    • В самом что ни на есть смысле отделили логику от представления. По большему счету, используя данный подход, очень легко делать различные layouts для сайтов или кастомные лэйауты. Просто нужно подключать другие JavaScript библиотеки. Опять же, различное представление для различных платформ, в частности мобильных.


    К недостаткам данного метода кеширования могу отнести проблемы с индексированием, т.к краулеры некоторых поисковых систем не обрабатывают JavaScript

    Будет интересно услышать Ваши мнения по поводу подхода и предложения.

    Список ссылок


    Поделиться публикацией
    Комментарии 105
      +12
      ну и главная проблема — это обязательность JS для статичного контента.
        +4
        разве не легче тогда использовать xslt? и просто отдавать статичные xml-данные + персонализированные в 1ом xml`е, а с клиентской стороны браузер сам отрендерит их как надо.
          +2
          Давно все браузеры стали одинаково и полноценно рендерить XSLT?
            –1
            с поддержкой xslt у них явно получше, чем с поддержкой CSS
              0
              Так косячат же зараза. ИМХО, рано ещё отдавать рендеринг браузерам, хотя это было бы замечательно.
                +2
                какие именно косяки мешают тебе жить?
                  0
                  Мне, например, помешало, когда фф молча падал при попытке рендеринга. Методом исключения выяснилось, что ему не нравился тег <br/> в таблице стилей. Сам по себе баг не страшный, но после него осталось ощущение, что как-то с поддержкой xslt в браузерах всё странно…
                    0
                    никогда с таким не сталкивался. видимо уже пофиксили давно.
                      0
                      Вы используете xslt на стороне браузера в живых проектах и у вас никаких проблем с рендерингом не возникает?
                      Если да, то, имхо, было бы здорово написать об этом статью. Потому что техника очень привлекательна, но как-то плохо документирована — статей толковых нет, производители браузеров её особо не рекламируют и ходят мифы о том, что это некроссбраузерно и ненадёжно.
            +1
            Тут будут очень простые преобразования, так что справятся. JS тоже по-разному работает, но как-то изворачиваемся же?
              +3
              >Давно все браузеры стали одинаково и полноценно рендерить XSLT?
              В объеме необходимом для выполнения указанной задачи:
              MSIE — с версии 5 (10 лет)
              FireFox — c рождения (6 лет)
              Safari не позже 2006
              Опера — с версии ~8.57 (4 года)
              Google Chrome — c момента рождения

            +1
            Мнение:
            ифреймы — зло
            кэшировать полный html в memcached — зло
            кэшировать в браузере пользователя — отлично, но не для краулеров. Если сайт закрытый от ботов — можно забить на это. Если не закрытый — надо мозговать.
            Бенчмарки показали, что в некоторых случаях SSI тоже зло. Когда код хорошо оптимизирован, то основная трата времени это установление коннектов к бекенд серверам.
            И согласен с amarao, обязательность JS тоже на руку не сыграет.
              0
              Коммент весьма категоричен. А есть что предложить в качестве альтернативы?
                0
                для HTML кэшей — диск
                вместо iframe — вызов JS на onload или просто вставка JS кода
                  0
                  Диск, не всегда подходит. Хотя для больших кусков или страниц целиком, если бизнес логика позволяет — отличный вариант. Тот же akamai.

                  Но, некоторые блоки, очень быстро инвалидируются, например — последние коментарии на главной странице и прочее.

                  ну и по поводу ифрейма я ниже отписался :-)
                    –6
                    Мое имхо, HTML кэши вообще не нужны. Грубо говоря они пригодны только в одном месте. И модифицировать их намного тяжелее.
                    Ребята, 21й век на дворе. Сгенерить html из данных это тысячные доли секунды. Может конечно и есть случаи. Но я их (слава богу?) еще не встречал.
                      –1
                      ну что же, видимо никакими нагруженными проектами вы не занимались
                      поздравлять вас?
                        –5
                        скоропостижные выводы
                    0
                    Альтернатива — такие же костыли со своими плюсами/минусами. Ждем html5. Или слушаем, что вещает Techmind :).
                    0
                    Ты очень категоричен, Саша :-)
                    отвечаю по пунктам.

                    >ифреймы — зло
                    о, господи, чего вы к этим ифреймам привязались. Это всего лишь транспорт. Используйте <script></script>, input hidden или что-нибудь еще

                    >кэшировать полный html в memcached — зло
                    это не правда, и это факт. В зависимости от задачи, иногда очень удобно и правильно кешировать именно представление, а не данные

                    >Бенчмарки показали, что в некоторых случаях SSI тоже зло.
                    статья не об SSI. А о CSI кешировании, его можно использовать в паре с SSI, кешируя те самые темплеты. А можно вообще не использовать it's up to you.

                    А по поводу коннектов — при изменении одного блока всего 3 запроса (на главную страницу, на общий транспортный ифрейм, и к этому блоку данных).

                    >это обязательность JS для статичного контента
                    Если сайт полностью статический — это другой вид задачи, и другой вид кеширования. Хотя я не много таких в последнее время видел. Покажите мне такой сайт — я скажу как его правильно кешировать.

                    Предложенный мной вариант это не «серебрянная пуля», коих к счастью не бывает, а вариант, который может подойти определенным сервисам
                      –1
                      >о, господи, чего вы к этим ифреймам привязались. Это всего лишь транспорт. Используйте ><script></script>, input hidden или что-нибудь еще
                      C скриптом согласен, но тогда возникнут проблемы блокировки загрузки страницы. Интересно, как можно input hidden кэшировать на стороне пользователя :D.

                      >это не правда, и это факт. В зависимости от задачи, иногда очень удобно и правильно кешировать >именно представление, а не данные
                      Приведи примеры. Ты меня еще в прошлый раз не убедил.

                      >А по поводу коннектов — при изменении одного блока всего 3 запроса (на главную страницу, на >общий транспортный ифрейм, и к этому блоку данных).
                      Согласен.

                      >Предложенный мной вариант это не «серебрянная пуля», коих к счастью не бывает, а вариант, >который может подойти определенным сервисам
                      Угу, но ты ведь просил мнение. Получите, распишитесь ;).

                      Общая идея хороша, но нормальную реализацию можно будет только с html5 сделать :(. Все остальное — костыли над несчастным хтмл. Мое грубое ИМХО.

                        0
                        >C скриптом согласен, но тогда возникнут проблемы блокировки загрузки страницы.

                        ну можно колбек на window.onload повесить, тогда не будет. Да и там же не данные, а список урлов приходит. Не должно быть много

                        >Приведи примеры. Ты меня еще в прошлый раз не убедил.
                        постараюсь найти линки про парадигму кеширования на уровне представления. Грубо говоря, кеширование во вьюхах частей вьюх

                        Кстати, не совсем понимаю зачем ждать html5, т.к. это решение будет работать и с html 3.2
                      0
                      да, кстати, по поводу ифреймов. Почему они могут быть тут уместны.

                      Для краулеров, которые в большинстве своем JS не обрабатывают сейчас ты можешь вернуть
                      Iframы с контентом (ифреймы видимые, чтобы в клоакинге не заподозрили), после этого джаваскриптом их сделать невидимыми для пользователей. И тем же джаваскриптом рассовать данные по странице.

                      Т.е. можно экспериментировать, чтобы сделать дружелюбной для сео.
                        0
                        Хм, разве краулеры стали считать iframe и саму страницу одним единым? Насколько я помню, то как раз наоборот. И некоторые приемы SEO применяют перевод контента в ифрейм, чтоб убрать мусор со страницы.
                          0
                          нет, как одну страницу они не считали и не будут считать, наверное никогда, и наверное, это правильно. Но они могут считать это как разные страницы, т.е. каждый ифрейм как отдельную страницу, и соцно можно индексировать этот контент
                            0
                            лучше ссылку вставлять — тогда если яваскрипт по каким-либо причинам не сработает пользователь сможет пройти по ссылке
                              0
                              а что будет по этой(-тим) ссылкам? сырые данные, скажем, в джейсоне?
                                0
                                хороший повод не использовать жсон ;-)
                      • НЛО прилетело и опубликовало эту надпись здесь
                          0
                          Если гиганты что-то используют ифреймы, это не значит что это круто и его можно использовать.
                          У фейсбука яваскрипта на 1мб, который грузится сразу же. Так что, теперь можно забить на размеры JS?
                        –1
                        к сожалению на медленном канале это будет фэйл
                        алсо задержка может привести к «а вот и страница… так, стоп, где текст??!!!»
                        но это конечно решаемо через всякие картинки Loading..., но всё равно под вопросом
                        и однако если нагружать JS ом, может стоит делать Rich Web Application?
                          0
                          А когда я через GPRS интернет (телефон подключен к ноуту) захожу на maps.google.com у меня тоже карты не сразу открываются и долгое время неотрисованные полигоны висят. И я с этим живу :-) Точнее когда-то жил
                          +4
                          В комментариях написали про то, что SSI это иногда зло. Зло или не зло, не скажу, но вот в чем лично удостоверился несколько месяцев назад. wget'ом с одного сервера, размещенного в той же стойке, что и другой, получаю с него страницу, для которой Apache подключает для обработки PHP. Происходит это за N-ую часть секунды (повторяю несколько раз, что бы получить что-то среднее). Отключаю обработку PHP — получают уще за M-ную часть от N, т.е. значительно быстрее. Подключаю SSI — снова N-я часть.

                          И по статье. Идея правильная. Мы на CMS Magazine недавно начали применять такой подход. Самое удобное, что подошло нам — хранить в тех же куках (когда не смертельно, если куки работать не будут) какие-то данные авторизованного пользователя (например, имя, что бы отображать его на страницах: s3.amazonaws.com/floomby/6_9_2010/g3C8tjiqtE2jpkrzVs9HyA.jpg Это позволяет многие страницы кэшировать вообще в статичный HTML.

                          Ну и используем блочное кэширование редко изменяемых данных.

                          P.S. Может баян, но, упомянув M- и N-, не могу вспомнить старый институтский анекдот. На военной кафедре, полковник: «Летят M… нет… лучше K самолетов. И оба реактивные».
                            0
                            Очень актуальная тема:

                            4 веб серверa (apache)
                            1 база (mysql)
                            все картинки, видео, музыка на CDN

                            20M pageviews/month
                            2M uniques/month

                            Кэширую все что возможно (query cache, file caching, CDN cache, etc)

                            при обычном трафике держит все на ура (Avg load: 2-3). Как только пик, все сервера кроме базы зашкаливают (Load: 30+). Nginx поставить неможем.
                            Если добавить еще один сервер — просто отодвинем пик на время. Незнаю что еще закешировать…
                              +3
                              Даже нельзя поставить nginx на все 4 машины перед апачами?
                                0
                                к сожалению нет, связаны по рукам нашим хостером. если поставим nginx то потеряем супорт
                                +2
                                Систему мониторинга какую-нибудь используете? Если да — что показывают графики в моменты нагрузки? iowait растет в моменты пиков? Что показывает top, iotop? Внутри сервера аппликухи общаются через unix-сокеты или по tcp?
                                Похоже на затыки дисков или сокетов.
                                  0
                                  Внутри все по tcp… я тоже грешу на диски (точнее один диск). все 4 сервера пишут кэш на один nsf mount и затык скорее всего там…
                                    0
                                    NFS не самый лучший выбор для таких нагрузок. Чем обусловлен выбор одного стореджа вместо нескольких? Может сделать хранение распределенным и не держать все на одном диске?
                                      0
                                      к сожалению приходиться все на один диск писать. Сложная система кэширования и администрования непозволяет разбивать дату на несколько серверов.

                                      А какую альтернативу NFS предлагаете? GFS?
                                        0
                                        Тут начинаются догадки, т.к. с сетевыми дисковыми хранилищами не игрался.
                                        Смотрели в сторону GFS, Lustre? Сами диски в каком-либо RAID массиве? SATA, SAS, SSD?
                                          0
                                          Да и поставьте все таки для начала систему мониторинга. Nagios, zabbix, munin. И определитесь точно, что у вас затыкается.
                                            0
                                            monit, collectd
                                            0
                                            можно MogileFS + Perlbal попробовать
                                      0
                                      У вас или слабые сервера приложений, или не оптимизированный код. У меня:

                                      1 сервер приложений (2 x Quad Core Xeon 2.5GHz, nginx + apache), он же выдаёт статику
                                      1 сервер БД (Dual Core Xeon 3GHz, postgresql)

                                      42M pageviews/month

                                      кэширование в memcached только нескольких небольших небольших но очень нужных кусочков xml и json.
                                      кэширование в файлах html и xml для нагруженых разделов сайта.

                                      Всё работает с большим запасом
                                        0
                                        > У вас или слабые сервера приложений, или не оптимизированный код
                                        сайты разные бывают,
                                        например ваши 2 сервера будут тормозить при активном использовании 20ТБ базы
                                          0
                                          Не ваш случай, у вас 4 сервера приложений на один сервер БД
                                        –1
                                        нужно все мониторить, если БД тормозит то нужно не только кешировать но кластер БД сделать, если тормозят скрипты — то критическую часть переписать на C++
                                          +1
                                          дешевле добавить ещё один фронтенд
                                            0
                                            нужно сначала проанализировать, найти узкие места, а потом уже что-то добавлять. если тормоз в БД, то фронтенд не спасет
                                              0
                                              я про «переписать на C++»
                                          0
                                          Одно время мы кэшировали html блоки и полностью страницы на диски. При большой нагрузке тормозило. Отключили кэш — начало летать. Это я к чему? Может у вас там реально большая нагрузка на диски и генерация контента без кэширования пошла бы лучше?
                                            0
                                            20M pageviews/month -> 670K pageviews/day на пяти серверах?
                                              0
                                              на 4х… 5й сервер только для базы
                                                0
                                                Да один фиг, вобщем-то
                                                670K/4 = 170K/сутки на один фронтенд? То есть ~2 запроса в секунду?
                                                  0
                                                  это если размазать по времени
                                                  в реальности ночью может быть и 2 запроса в минуту… днем пик
                                                    0
                                                    «Пик» — это сколько? Вот конкретно, в числовом выражении?
                                          • НЛО прилетело и опубликовало эту надпись здесь
                                              –1
                                              Меня терзают смутные сомнения ещё с тех пор, как я прочитал про подобный прием в «техногете». Если в системе предусмотрено внутреннее блочное кешироание на тороне сервера, то не будет ли это «дешевле» по отношению к ресурсам сервера? Ведь в случае кеширования на стороне клиента, мы плодим дополнительные http-запросы, которые сервер всё рано должен обработать. И, очевидно, на пути пользователь — кеш нам нужна программная прокладка, которая будет возвращать этот кеш. Также очевидно, что она не может состоять из одной строки инклуда файла, ведь данные могут быть конфиденциальные (например возле логина пользователя выводится сколько денег у него на внутреннем счету сайта).

                                              В общем, что я хотел сказать. Нужны реальный цифры чтобы оценить выгоду такого подхода.
                                                +1
                                                много запросов только при первом заходе, а далее подтягиваются только изменившиеся блоки.
                                                  –1
                                                  Допустим. А как узнать изменился блок или нет? На сколько я понимаю принцип работы http-протокола, браузер отправит запрос на сервер и, если получит в ответ «не изменилось», не будет получать данные. Но ведь запрос-то всё равно происходит.

                                                  Да, конечно, можно задать время жизни кеша на клиенте — 10 лет, чтобы бразуер даже не спрашивал. Но как тогда обновлять этот самый кеш? Ну вот изменилось что-то, как заставить пользователя очистить кеш браузера?

                                                  Тут конечно можно придумать что-то типа версий запрашиваемого кеша. Т.е. в зависимости от чего-то давать разные URL для загрузки. Например "?ver=123564". Но, черт знает, это тоже нужно продумать.
                                                    0
                                                    смотри ссылку чуть ниже…
                                                      –1
                                                      >Допустим. А как узнать изменился блок или нет?

                                                      Я же описал в статье как.
                                                      У нас есть общий блок ифрейма (неважно чего на самом деле). Который хранит в себе все блоки. Он отвечает за то, был ли какой-то из блоков изменен. У меня в статье это скрипт all_blocks_data_urls.php По запросу от пользователя смотрится его session_id или user_id и проверяется ключ в мемкеше для него. Это всего лишь флаг в мемкеше. Он не хранит данные, нас интересует только наличие ключа. Если ключ есть — возвращаем 304, и все больше никаких HTTP запросов не будет.

                                                      Также для каждого пользователя в мемкеше хранится список урлов, указывающих на данные для каждого блока для этого пользователя. Если блок изменяется, то этот урл инвалидируется.

                                                      При запросе к странице, после изменения, мы обращаемся к скрипту all_blocks_data_urls.php и он уже не возвращает 304 заголовок, а генерирует новый ответ (отдает урлы неизменившихся блоков и генерирует 1 новый для изменившегося), при этом в мемкеше выставляются снова два флага (общий, и новый урл), сами данные не хранятся!

                                                      Все урлы для блоков возвращаютсяс Expires в будущем, т.е. там запросов больше не будет.

                                                      И того, если у пользователя ничего не менялось, то это 2 запроса — первый к главной странице (там кстати тоже можно сделать кеширование на Etag или Last-Modified), второй к блоку, который вернет 304

                                                      Если что-то менялось, то запросов 3: главная, фрейм-контейнер, запрос к блоку, который изменился.

                                                      Здесь как раз происходит экономия на запросы к серверу и мы его никак не перегружаем, более того, даже память зря не используем.
                                                        0
                                                        зачем нужна эта главная «страница»? что мешает совместить её со списком урлов?
                                                          0
                                                          ну потому что урлы для данных в блоках у каждого пользователя свои, а шаблон главной страницы у всех пользователей общий. Поэтому и ввобился общий контейнер ифрейма, который отвечает за кеширование.
                                                            0
                                                            что мешает грузить «раскладку старницы» в качестве такого же «блока» как и остальные?
                                                              0
                                                              ну блоки они чисто логические, а пользователю-то один шаблон возвращается (вся страница). Который должен быть заполнен.

                                                              Не нужно пытаться смешать данные и представление, им хорошо друг без друга
                                                                0
                                                                зачем запрашвать шаблон _каждый раз_?
                                                                  0
                                                                  ну запрашивать нужно, с if-modified-since или etegом, естественно, и точно также получать 304, пока не произошел редизайн
                                                                    0
                                                                    у вас как часто делается редизайн, что нужно ревалидировать шаблон при каждом заходе на страницу?
                                                                      0
                                                                      я написал, про 304 заголовок при запросе к странице.
                                                                      Или вы и на основную страницу предлагаете ставить экспаер в далекое будущее о_О? Здесь это точно не уместно
                                                                        0
                                                                        я предлагаю грузить эту «основную страницу» также как и все другие блоки =_="
                                                                          0
                                                                          так, главная страница, и так содержит все блоки. Фактически это один большой шаблон. В который входят логические блоки. Данные для которых мы получим после. Т.е. представление для каждого блока оно уже находится на этой основной странице.

                                                                          грубо говоря
                                                                          Hello {%username%}!

                                                                          {% for friend in friends_list %}
                                                                          {%friend.name%} - {%friend.lastname%}
                                                                          {%endfor%}




                                                                          т.е. когда запросили страницу главную. получили что-то вроде такого. А данные для block1 и block2 уже подтягиваем отдельно.
                                                                            0
                                                                            я это понял уже давно. ты меня принципиально не хочешь слышать? зачем нам каждый раз проверять не изменился ли этот долбанный шаблон?
                                                                              0
                                                                              а как часто нужно проверять? о_О по большему счету такая проверка — это мелочь.

                                                                              Я тоже понимаю, что ты имеешь в виду, а именно, поставить и на главный долбаный шаблон — Expire.

                                                                              Но мы не можем так сделать, т.к. чтобы экстренно обновить этот шаблон у всех (скажем, поменять лейаут, забрендировать сайт под рекламную компанию и прочее), то нам прийдется добавлять какой-то гет параметр url?version=123. А это плохо для SEO, т.к. основные внешние страницы должны иметь постоянные урлы. Да и вообще нетолько для СЕО, просто плохо, т.к. некоторые и руками урлы вводят.
                                                                                0
                                                                                Сорри, я протупил. :-) Еще раз весь тред прочитал. Как-то я пропустил это

                                                                                >я предлагаю грузить эту «основную страницу» также как и все другие блоки =_="

                                                                                Да, согласен, можно шаблон тоже так как и все данные получать. Так, может быть даже удобней, если много вариантов этих долбаных шаблонов, при варианте юзер-бейз, кастомизации страницы.

                                                                                Извини, что-то я запарился :-)
                                                                                  0
                                                                                  ну наконец-то! \(^_^)/
                                                                              0
                                                                              <html>
                                                                              <body>
                                                                              <div id='block1'>
                                                                                 Hello {%username%}!
                                                                              </div>
                                                                              <div id='block2'>
                                                                                  {% for friend in friends_list %}
                                                                                      {%friend.name%} - {%friend.lastname%} 
                                                                                  {%endfor%}
                                                                              </div>
                                                                              </body>
                                                                              </html>
                                                                              


                                                                              Извиняюсь, не посмотрел предпросмотр, перед отправлением
                                                              0
                                                              Зачем хранить флаги в мемкеше, если их можно хранить в сесии?
                                                                0
                                                                а сессия где хранится?
                                                                  0
                                                                  независимо от того где она хранится: файлы, база, мемкеш, или просто куки
                                                                  0
                                                                  да, можно и в сессии
                                                          +1
                                                          лучше делать разделение на дайджесты (всегда ревалидируются) и ресурсы (никогда не ревалидируются) как описано тут: habrahabr.ru/blogs/client_side_optimization/90481/
                                                          • НЛО прилетело и опубликовало эту надпись здесь
                                                              0
                                                              Ссылка на профиль пользователя? ;)
                                                                0
                                                                тогда url нужен,
                                                                «генерируемый» id может потребоваться если выводиться список пользователей, но и в таком случае лучше не username а user_id использовать,
                                                                по моему автор просто привел пример, а не кусок реального проекта
                                                                  0
                                                                  Да, возможно. Хотя, может username = user_id? И генерируется url на основе div.id
                                                                  • НЛО прилетело и опубликовало эту надпись здесь
                                                                      0
                                                                      Данный пример можно написать так, суть примера не измениться:
                                                                      Hello {%username%}!
                                                                  +1
                                                                  чтобы быстрей искать, если данные прийдут в формате ключ-значение.
                                                                  чтобы не регекспом колбасить, а делать getElementById по айдишнику этого дива.

                                                                  Но это уже реализация темплетного движка
                                                                  • НЛО прилетело и опубликовало эту надпись здесь
                                                                • НЛО прилетело и опубликовало эту надпись здесь
                                                                  • НЛО прилетело и опубликовало эту надпись здесь
                                                                  • НЛО прилетело и опубликовало эту надпись здесь
                                                                      0
                                                                      Привет, Саша

                                                                      Да, помню, общались.

                                                                      >можно вопрос — а не проще ли тогда полностью javascript templates & json data «метод» использовать так сказать?

                                                                      Если ты имеешь в виду различные JS темплеты типа
                                                                      code.google.com/p/trimpath/wiki/JavascriptTemplates
                                                                      или
                                                                      code.google.com/p/embeddedjavascript/

                                                                      то, да, можно выбирать любой из них.
                                                                      Опять же, все равно как и с помощью чего, а также в каком формате ты будешь забирать данные с сервера.

                                                                      >я просто не особо понял прикола этого метода
                                                                      Главный прикол, заключается в том, что у тебя получается все закешировано, и при этом мемкеш сервера остаются пустые. Т.е. в мемкеше ты на самом деле не хранишь ни данных, ни представления.

                                                                      Если ты используешь SSI или ESI, то там ты вырезаешь из запроса кусок с SESSIONID или user_id, для него генеришь блок представления, и весь этот блок кладешь в свой мемкеш сервер. Если твой сайт — социальная сеть, то там таких блоков будет очень много: друзья, образование, карьера, стена, любимые места и пр. Так вот, каждый такой блок ты хранишь для каждого юзера. Притом хранишь не только данные, а еще и кучу повторяющегося хтмла. Ну и рано или поздно сталкиваешься с проблемой памяти, а также с проблемой постоянно выпадающих серверов мемкеша, если у тебя их over 9000

                                                                      Да, сама идеология другая, это не SSI. Просто похожая идея перенесенная на Client Side
                                                                      • НЛО прилетело и опубликовало эту надпись здесь
                                                                          0
                                                                          ну в любом случае у нас так получается, что где-то этот кеш хранится, либо оперативная память, либо дисковый кеш.
                                                                          В случае памяти, сталкиваемся с проблемой ее размера. В случае диска — дисковые операции медленные. Прийдется делать систему, которая использует что-то совместное. Блоки, которые долго можно хранить — на диск, те которые быстро инвалидируются в мемкеш.

                                                                          Проблемы именно в размерах, не так остро в скорости, нгинкс быстрый.

                                                                          А в варианте, который я описал. Мы вообще ничего не храним на серверной стороне. Сгенерировали данные и отдали. Пользователь получил УРЛ с экспаером. И они уже в браузерном кеше. Инвалидируем посредством предоставления новых урлов. Все данные у клиента хранятся.

                                                                          Или я не совсем вопроса понял? :-)
                                                                          • НЛО прилетело и опубликовало эту надпись здесь
                                                                      0
                                                                      Я надеюсь, у Вашего кусок кода, возвращающего «304 Not Modified», в реальности совсем не такая логика?
                                                                        0
                                                                        я же написал какая у него логика. Проверить изменились ли блоки, если нет — 304, если да — сгенерить список урлов. А что не так с этой логикой?
                                                                          0
                                                                          «Не так» то, что Вы принимаете решение о выдаче 304 на основе внутренних данных сервера. А выдавать 304 можно только если клиент сделал conditional request — то есть послал GET с соответствующим заголовком (например If-Modified-Since как самый распространенный). И только если условие не выполняется, сервер имеет право ответить 304 (см RFC 2616 например).

                                                                          Другими словами, даже если Вы ведете индивидуальный кэш для каждого клиента, браузер об этом ничего не знает и имеет полное право все закешированные страницы Вашего сайта забыть. И тогда, получив на свой обычный GET ответ 304, он, мягко говоря, удивится.

                                                                          Для проверки попробуйте отключить в браузере кэширование вообще — и посмотрите, будет ли Ваш проект работать.
                                                                            0
                                                                            Да я и не надеюсь на браузер как на самый надежный кеш, и вполне допускаю, что он может «забыть» эти страницы. И более того, у меня в браузере кеш всегда отключен.

                                                                            Так вот: если кеш отключен или по каким-то причинам был «забыт», то заголоавки If-Modified-Since или If-None-Match отправляться не будут, и соответственно мой скрипт не вернет для этого запроса ответ 304.

                                                                            Да, вы правы, я не указал этого в коде статьи, чтобы не перегружать код большим кол-вом деталей. Но там должна быть еще проверка анализирующая заголовок f-Modified-Since или If-None-Match чтобы избежать ситуации, описанной вами.
                                                                              0
                                                                              А, ну отлично, именно это я и имел в виду. В таком случае я за Ваш проект спокоен ;)

                                                                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                      Самое читаемое