• Data Lake – от теории к практике. Методы интеграции данных Hadoop и корпоративного DWH

      В этой статье я хочу рассказать про важную задачу, о которой нужно думать и нужно уметь решать, если в аналитической платформе для работы с данными появляется такой важный компонент как Hadoop — задача интеграции данных Hadoop и данных корпоративного DWH. В Data Lake в Тинькофф Банке мы научились эффективно решать эту задачу и дальше в статье я расскажу, как мы это сделали.



      Данная статья является продолжением цикла статей про Data Lake в Тинькофф Банке (предыдущая статья Data Lake – от теории к практике. Сказ про то, как мы строим ETL на Hadoop).

      Читать дальше →
    • Особенности русской разработки

        image

        По роду занятий я часто общаюсь с различными русскими и западными командами. Очень частый вопрос — есть ли какая-нибудь специфика в работе наших и как это влияет на разработку?

        Есть очень неплохая книжка о специфике работы русских вообще. Она называется «Русская модель управления». Ее написал А.П.Прохоров (другой, не олигарх). Не буду ее пересказывать. Основная идея в том, что русские по своей природе могут работать только в двух модах. В нестабильном состоянии они могут свернуть горы. В это время мотивация очень высокая. В стабильном расслабленном состоянии — когда никто не пинает — русские вроде как работают плохо и не сильно утруждаются.

        Книга замечательная и действительно многое объясняет в нашей истории. Обязательно прочтите, если не читали. Но я не готов ее рекомендовать как непосредственное руководство к действию. Выводы из нее следуют довольно-таки однозначные и не очень лестные для страны в целом. Однако на самом деле все не так плохо. Наша специфика не является абсолютно контрпродуктивной. Она дает и преимущества и недостатки.

        Еще один дисклеймер: на реальное поведение людей действует сложившаяся культура в а) команде б) организации в) стране. Причем именно в этом порядке. Есть «прозападные» компании, где влияние наших культурных кодов очень небольшое. В чисто российских компаниях оно просто огромно. Но реально заметить разницу можно только увидев, как различные культуры сталкиваются друг с другом.

        Я буду приводить влияние разных факторов в порядке их важности и силы влияния. Чем выше — тем сложнее это изменить и тем больший эффект это оказывает.
        Читать дальше →
      • Много книг, хороших и разных

          Мой список книг, которые мне хочется прочесть, изрядно вырос, спасибо топику “запасаемся на зиму”. Под катом вы обнаружите список книг, составленный по комментариям в том топике.
          Читать дальше →
          • +109
          • 55,1k
          • 88
        • Чеклист вопросов к проекту: старт, реализация, финал — и 10 советов «в полёт»


            Проверьте свой проект: вы летите или думаете, что летите?

            Ниже вопросы, которые стоит задавать себе на старте проекта и время от времени на его протяжении.

            Контрольные вопросы на старте проекта:


            1. Что конкретно нужно сделать на текущем этапе? В целом? Есть ли чётко определённые цели каждого этапа? Как вы определите, что цели достигнуты? Соответствует ли текущий статус заявленным планам и целям или их необходимо корректировать?
            2. Реалистичны ли эти цели?
            3. Что случится, если цели не будут достигнуты в срок? Каков план действий?
            4. Насколько этот проект значим? Например, зависит ли от него место вашей компании на рынке?
            5. Какую выгоду вам, обществу и инвесторам принесёт проект?
            6. Достаточно ли хорошо спланирован проект? Все ли в вашей команде понимают пункты плана одинаково?
            7. Нужны ли внешние эксперты, например, юристы?
            8. Есть ли у команды опыт работы вместе? Кто будет координировать команду? Важно ли для проекта работать именно вместе — или возможен труд одиночек? Отвечает ли каждый член команды за работу всех остальных?
            9. Можно ли сократить размер команды? Если нет, то почему? Если да, то почему это не сделано?
            10. Как вы будете компенсировать форс-мажоры с персоналом, например, что случится, если ваш ведущий разработчик сломает руку?
            Читать дальше →
            • +39
            • 25,6k
            • 8
          • Обзор специализированных способов обхода блокировок в интернете

              Представляю вашему вниманию обзор и мои субъективные оценки некоторых специализированных способов обхода блокировок со стороны провайдеров или сетевых администраторов.

              1. Аддоны для браузеров


              ZenMate (Chromium-based, Firefox, Android, iOS)

              • Удобство использования: 5/5
              • Скорость: 5/5
              • Шифрование трафика: Да (TLS)
              • Анонимность: Да
              • Проксирование всего трафика: Да
              • Выборочное проксирование: Да

                  Описание:
                      Хороший, быстрый аддон.
                      На момент тестирования было доступно 5 прокси в разных странах.

                  Плюсы:
                      Высокая скорость работы аддона
                      Быстрые прокси

                  Минусы:
                      Требуется регистрация в сервисе
              Читать дальше →
            • [видео] Как поставить человека на место: 10 реальных вопросов про давление в переговорах

                Видео про 8 способов противостояния формуле нужды оказалось неожиданно популярным, набрав 8,000 просмотров за два дня. Мы решили продолжить тему.

                Несколько дней назад мы провели опрос среди наших читателей на тему того, какие вопросы в плане переговоров их волнуют. Получили несколько сотен ответов, привычно утонув в их анализе. Но когда вынырнули, то обнаружили, что многих людей волнует именно тема противостояния давлению в переговорах.

                Мы отобрали 10 самых любопытных, на наш взгляд, вопросов в этой теме и снова заперли в студии Дмитрия Коткина, руководителя Санкт-Петербургской школы переговорщиков ШиП и нашего хорошего друга, чтобы он рассказал, что конкретно делать:



                10 реальных ситуаций, которые удалось осветить — под катом:

                Читать дальше →
              • Серьезное проектирование серьезного магазина. Часть 2. Модули интернет-магазина

                • Tutorial
                В прошлый раз мы написали довольно популярную статью: «Серьезное проектирование серьезного магазина. Часть 1. Исследования», эта статья её логическое продолжение. В этой статье и в последующих мы опишем почти 60 функциональных модулей топовых интернет-магазинов мира, а также подробно разберем интерфейс многих страниц.

                Главная страница интрнет-магазина в axure
                Читать дальше →
              • Бизнес в США из России. Часть III. Бухучет и налоги

                  Ну вот дошли руки до следующей части.
                  Сегоня расскажу что знаю про американский бухучет применительно к к нашей alien`ской конторе и налоги.

                  Это продолжение топиков HOWTO: свой бизнес в США из России,
                  и Бизнес в США из России. Часть II. Деньги и банки.
                  Читать дальше →
                • HOWTO: свой бизнес в США из России

                      Наверняка многие из нас хоть раз думали про себя: «Черт побери, и везет же этим американцам!». Это касается многого, от магазинов с доставкой «только в пределах 48 континентальных штатов» до вполне серьезных контрактов, которые срываются только потому, что потенциальный заказчик в США категорически не желает иметь дело с иностранцами.

                      В этой статье я попробую осветить процесс создания и администрирования американской корпорации для резидента РФ. Наверняка многие из фактов для самих американцев покажутся тривиальными, однако для жителя России все куда сложнее — увы, это данность. Чтоб не сказать — это Родина, сынок. Оговорюсь сразу — я все это проделал более 2 лет назад, так что, некоторые детали могут быть не совсем актуальны. Но вряд ли что-то поменялось принципиально.
                  Читать дальше →
                • Ежемесячные расходы дизайн-студии на электроные сервисы

                    Поговорим о ежемесячных тратах на электронные сервисы, которые необходимы для работы небольшой студии с удалённой командой, занимающейся дизайном в интернете. Давайте посмотрим, какими платными сервисами мы пользуемся в Genue.



                    50$. Basecamp



                    image

                    Простая и удобная система управления проектами от команды 37signals. Это основной инструмент взаимодействия как внутри студии, так и с заказчиками. Все задачи заводятся в виде простых списков и легко меняются местами друг с другом простым перетаскиванием. Каждая задача выглядит как публикация с комментариями. Любой может указывать, кто из команды получит уведомление на email о его комментарии. Можно ограничивать видимость некоторых задач для клиента.
                    Читать дальше →
                  • Как создать концепцию продукта и написать ТЗ на разработку электроники

                    • Tutorial


                    Мы продолжаем серию публикаций о разработке и производстве сложной современной электроники. В предыдущих статьях мы честно рассказали вам о нюансах, связанных с дизайном и изготовлением опытных образцов, с массовым производством, а теперь самое время перейти к вопросам, с которых начинается разработка конструкторской документации (КД) и от которых зависит успех взаимоотношений между заказчиком и разработчиком — создание концепции продукта и написание технического задания. Это первые шаги на пути к выпуску сложных серийных устройств и программного обеспечения (продукта).


                    Читать дальше →
                    • +13
                    • 53,3k
                    • 2
                  • На пути к созданию безопасного веб-ресурса. Часть 2 — разработка

                    • Tutorial
                    Я рад продолжить рассказывать свои взгляды к подходам создания безопасных веб-ресурсов и веб-приложений и перейти от первой части, которая содержит в себе некоторые общеполезные security-инструкции при создании инфраструктуры для проекта, ко второй — разработке самого приложения.

                    Дыра в безопасности не была исправлена, так как продукт-менеджеры хотят новую фичу

                    Читать дальше →
                  • На пути к созданию безопасного веб-ресурса. Часть 1 — серверное ПО

                    • Tutorial
                    Я уже довольно долгое время хочу формализовать все свои мысли, опыт, ежедневно применяемый на практике, и многое другое в одном месте и предоставить их общественности. Уверен, многим этот материал будет полезен. Он посвящен различным моментам в конфигурации серверного ПО Linux и безопасным подходам к созданию сайтов/приложений на php (все же это до сих пор одна из самых популярных связок, хоть её успешно и подвигают другие технологии. Но советы так же легко применимы и к веб-ресурсам на других технологиях).

                    Т.е. речь идет о типичной ситуации. Проект (стартап), купили под него сервер и разворачиваем на нем сайт. Бизнесу не нужно тратить лишних денег на сервера (поэтому будут выбраны наиболее производительные связки ПО), а так же нужно, чтобы все было безопасно, при чем бесплатно :)
                    Много текста. По-другому никак
                    • +148
                    • 96,9k
                    • 47
                  • Первые несколько миллисекунд HTTPS соединения

                    • Перевод
                    После нескольких часов чтения обзоров, Боб с нетерпением нажал на кнопку перехода к оформлению заказа на галлон цельного молока, и…
                    Воу, что только что произошло?


                    Интересно? Прошу под кат
                  • 27+ ресурсов для онлайн-обучения


                      В настоящее время активно развивается система дистанционного обучения, теперь уже не является проблемой получение полноценного образования практически по любому предмету дистанционно. Онлайн-обучение имеет ряд преимуществ – обучение в индивидуальном темпе, свобода и гибкость, доступность, социальное равноправие. В сети появляется все больше сервисов, помогающих получать новые знания.

                      Статья содержит перечень ресурсов для онлайн-обучения, представляющих интерес преимущественно для программистов.

                      Читать дальше →
                    • Избранное: ссылки по IT безопасности





                        Давно хотел написать этот пост с подборкой полезных ссылок, так как очень часто спрашивают подобное (думаю, у многих, кто в этой (да и в других) сфере). Ссылки разбиты на категории.




                        Читать дальше →
                      • Все меньше, и меньше, и меньше… Микро сервера – решение для макро задач


                          Наверное, каждый, кто регулярно занимался расчетом аппаратных платформ под какие-либо задачи, сталкивался с тем, что этот расчет оказывался неверным. На самом деле заранее, особенно на ранних этапах, точно определить будущую нагрузку подчас решительно невозможно, не говоря уже о том, что даже правильно спроектированные мощности рано или поздно все равно потребуют модернизации. Так или иначе, «крупноблочное» серверное обустройство, помимо очевидных преимуществ, имеет один капитальный недостаток: его ресурсами невозможно гибко управлять. Вот почему с тех пор, как это стало технически осуществимым, лучшие умы задумывались о модульном строении аппаратных платформ. Последнее слово в этой области – микро сервера.
                          Читать дальше →
                        • Как стать руководителем

                          • Перевод


                          Мы в Alconost’е очень любим стройную мысль в хорошем изложении. Именно так пишет Бен Хоровиц, в далеком прошлом — обычный программист, а сегодня — соучредитель одного из самых успешных мировых венчурных фондов. В свободное от инвестирования время Бен делится всеми нажитыми знаниями в своем блоге. Мы не можем молчать. Впечатлились и перевели один из его постов, очень уж он хорош и полезен.

                          Управленцы, налетай!

                          Читать дальше →
                        • Сдача сессии по-английски

                            Так получилось, что мне выдалась возможность поучиться в магистратуре в университете City University London. За полгода, которые уже прошли, я увидел много нового, в том числе то, как устроена местная система образования, и успел её оценить.

                            На мой взгляд, подход к процессу обучения студентов за границей достаточно сильно отличается от российского — особенностей довольно много. В частности, процесс построен так, чтобы человеческий фактор в выставлении оценок всегда был минимальный, а знания, данные студенту, были измерены максимально объективно.

                            Так как сейчас у многих читателей Хабра сессия, я решил, что пост на эту тему мог бы быть кстати и хотел бы рассказать о том, каким образом в одном из ВУЗов Лондона проводятся экзамены, и как выставляются оценки за пройденные предметы.
                            Читать дальше →