• Математика для искусственных нейронных сетей для новичков, часть 1 — линейная регрессия

    Оглавление

    Часть 1 — линейная регрессия
    Часть 2 — градиентный спуск
    Часть 3 — градиентный спуск продолжение

    Введение


    Этим постом я начну цикл «Нейронные сети для новичков». Он посвящен искусственным нейронным сетям (внезапно). Целью цикла является объяснение данной математической модели. Часто после прочтения подобных статей у меня оставалось чувство недосказанности, недопонимания — НС по-прежнему оставались «черным ящиком» — в общих чертах известно, как они устроены, известно, что делают, известны входные и выходные данные. Но тем не менее полное, всестороннее понимание отсутствует. А современные библиотеки с очень приятными и удобными абстракциями только усиливают ощущение «черного ящика». Не могу сказать, что это однозначно плохо, но и разобраться в используемых инструментах тоже никогда не поздно. Поэтому моей первичной целью является подробное объяснение устройства нейронных сетей так, чтобы абсолютно ни у кого не осталось вопросов об их устройстве; так, чтобы НС не казались волшебством. Так как это не математический трактат, я ограничусь описанием нескольких методов простым языком (но не исключая формул, конечно же), предоставляя поясняющие иллюстрации и примеры.

    Цикл рассчитан на базовый ВУЗовский математический уровень читающего. Код будет написан на Python3.5 с numpy 1.11. Список остальных вспомогательных библиотек будет в конце каждого поста. Абсолютно все будет написано с нуля. В качестве подопытного выбрана база MNIST — это черно-белые, центрированные изображения рукописных цифр размером 28*28 пикселей. По-умолчанию, 60000 изображений отмечены для обучения, а 10000 для тестирования. В примерах я не буду изменять распределения по-умолчанию.
    Читать дальше →
  • Президент МТС: «Так много мы еще никогда не тратили»

      Мобильный интернет продолжает оставаться ключевым драйвером роста бизнеса операторов связи. Однако доходность от интернет-услуг также падает за счет снижения цен — это часть маркетинговой стратегии и борьбы за рынок. Выход Tele2 на московский рынок усилил эту тенденцию.
      Капитальные затраты оператора МТС за прошлый год составили 96,1 миллиарда рублей, что на 4,2 миллиарда больше, чем в 2014 году.
      «2015 год — действительно рекордный. Так много мы еще никогда не тратили», отметил президент МТС Андрей Дубовсков. Тем не менее, доля этих затрат в выручке, почти не изменилась и составляет чуть более 22%.

      Он пояснил, что капитальные затраты включают развитие сетей передачи данных на всех рынках присутствия, завершение проекта по развертыванию сетей GPON в Москве, модернизацию сетей фиксированной связи в регионах и возобновление оказания услуг связи в Узбекистане. МТС планирует сократить капитальные вложения в 2016 году до 85 миллиардов рублей.
      Читать дальше →
    • 1C: Enterprise Development Tools, или Eclipse на русском



        Встречайте — 1C: Enterprise Development Tools.

        Начну с предыстории.

        Два года назад Борис Нуралиев, директор фирмы «1С», дал большое интервью сообществу INFOSTART.RU. Самым популярным вопросом был про усовершенствование среды разработки для программистов 1С.

        На днях, произошел очень интересный этап в истории развития 1С – была выпущена новая среда разработки под 1С — 1C:Enterprise Development Tools.

        1C:EDT – это новая среда для разработки под «1С: Предприятие 8», которая основана на базе открытой платформы Eclipse.
        Да, да, да – встречайте, во всех странах СНГ и не только – Eclipse с разработкой на русском языке!
        (под катом много больших картинок)
        Читать дальше →
      • Цензура ссылок скайпом (продолжение)

          image

          После недавнего инцидента с блокировкой ссылок на популярный интернет-магазин DealeXtreame (www.dx.com был удален из черного списка около 23 вечера по МСК 11 марта), список блокируемых ссылок значительно расширился. Каким образом он формируется остается неясным ввиду невозможности получить комментарии от представителей компании. Российское отделение скайпа отказывается давать какую либо информацию. Известно, что компания ООО «Косьян Медиа», владеющая сервисом www.aviasales.ru, обратилась за разъяснениями в лондонский офис Skype, ответ пока не получен.
          Читать дальше →
        • Do not be evil

            Сегодня довольно непростой, но, очевидно, знаменательный день. Сегодня Яндексу пришлось пойти на шаг, который, как мне всегда хотелось верить, никогда не придётся делать.

            Мы обратились в регулирующий орган, ФАС, чтобы вернуть равноправные отношения на рынке мобильных устройств. Наше обращение — признание одного неприятного факта. У нас с вами есть все шансы попасть в мир, где только одна компания будет решать, кто получит возможность донести сервисы до людей и чем эти люди смогут пользоваться.

            Мы всегда верили в конкуренцию и право выбора пользователя. Настолько, что даже в наших поисковых результатах с первых дней существования Яндекса стоят ссылки на другие популярные поисковики. Если честно, я всегда был уверен, что и Гугл верит в то же. Что это компания инженеров, производящих крутые продукты. Увы, сейчас очевидно, что помимо технической компании, которая когда-то считала своим лозунгом «Do not be evil», теперь есть и совсем другая – компания, контролируемая юристами и бизнесменами.

            Android давно уже совсем не выглядит открытой OS. И уж точно не выглядит открытой политика конкуренции Google на этой платформе. Например, сейчас мы столкнулись с тем, что вендоры, чтобы продавать в России телефоны с сервисами Яндекса, должны отказаться от всех сервисов Google не только в России, но и во всех остальных странах. При этом правила получения GMS и Google Play для каждого из них могут измениться в любой момент.

            Мы хотим, чтобы в открытой OS условия и лицензии были открыты и прозрачны для всех.
            Читать дальше →
          • Максимально эффективная по скорости работы — серверная схема, для клиент-серверной 1С 8.х

            Предисловие

            Постоянно сталкивался с высказываниями ИТ специалистов «сеть нагружена на 20%… процессоры на 50%… очередей к дискам мало… Значит сеть и сервера справляются… смотрите код в 1С проблемы исключительно там».

            На самом деле происходило следующее ( сервер 1С и SQL разнесены на разные компьютеры): сеть практически использовалась по максимуму(эти "20% загрузки сетевого интерфейса" = «20% полезные данные» + «80% потеря на служебной обработке»). И соответственно из-за малой ширины канала обмена «полезными» данными — SQL сервер с «Сервером 1С» постоянно ожидали друг друга, что вело к малой утилизации ресурсов CPU и дисковой системы.
            Читать дальше →
          • Делегирование: личный опыт



              Любой бизнес, любой масштабный проект опирается прежде всего на команду, поэтому делегирование полномочий — один из необходимых инструментов для построения хорошо работающей системы, дающей положительный результат на выходе. Спроектировать бизнес-процессы, создать базу знаний, найти правильных и подходящих людей, поставить их на «их» места, дать им возможность раскрыться и расти, помогать больше на старте и выходить на контроль ключевых показателей с меньшим участием впоследствии, вот они — компоненты системы.

              Макс Волошин (@willie), директор по развитию Redmadrobot, рассказывает об общих принципах делегирования и практиках внутри компании.
              Читать дальше →
              • +19
              • 33.9k
              • 4
            • 14 вопросов об индексах в SQL Server, которые вы стеснялись задать

              • Translation
              • Tutorial
              Индексы — это первое, что необходимо хорошо понимать в работе SQL Server, но странным образом базовые вопросы не слишком часто задаются на форумах и получают не так уж много ответов.
              Роб Шелдон отвечает на эти, вызывающие смущение в профессиональных кругах, вопросы об индексах в SQL Server: одни из них мы просто стесняемся задать, а прежде чем задать другие сначала подумаем дважды.


              От переводчика
              Данный пост является компиляцией двух статей Роба Шелдона:

              Если вы пишите запросы на языке T-SQL, но плохо понимаете откуда берутся данные, то стоит прочитать данный перевод.
              Если же вы захотите знать больше, то в конце перевода я даю тройку книг с которых следует двигаться дальше.

              Перейти к чтению
            • Как я уехал работать программистом в Швецию (Часть 2)

                На Хабре уже писали про то, как айтишники переезжают в Лондон, Сан-Франциско и некоторые другие зарубежные локации, а также весьма толково про эмиграцию вообще. К своему удивлению, я не нашел аналогичной заметки про Швецию. Поскольку в настоящее время я проживаю в славном городе Стокгольме и работаю в шведской компании, я решил исправить эту ситуацию.
                Читать дальше →
              • Доведите пользователя до… конца воронки

                  Понимание того, что движет пользователем, является одной из ключевых задач при разработке интерфейса приложения или дизайна ресурса. К счастью, Блюма Вульфовна Зейгарник предоставила в наше распоряжение довольно мощный рычаг, который нашел крайне эффективное применение в электронной коммерции.

                  Блюма Вульфовна Зейгарник — гештальт-психолог и психиатр, которая внесла значительный вклад в создание экспериментальной психологии как науки. В 1927 году она обнаружила, что задачам, которые не были завершены по тем или иным причинам, уделяется значительно больше внимания, чем тем, которые имели логичное окончание. Сегодня это явление носит название «эффект Зейгарник».

                  Ниже представлены несколько примеров того, как этот эффект используется в современном веб-дизайне:
                  Читать дальше →
                  • +15
                  • 13.8k
                  • 4
                • NASA подтверждает работоспособность «невозможного» волнового двигателя, не использующего реактивную массу — EmDrive

                  Дисклеймер: данная статья написана неспециалистом в данной области. Коррективровки, замечания и развёрнутые комментарии всячески приветствуются.

                  Суть новости


                  30 июля на 50th AIAA/ASME/SAE/ASEE Joint Propulsion Conference — пятидесятой совместной конференции Американского Института Аэронавтики и Астронавтики, Американского Сообщества Инженеров-Механиков, Сообщества Автомобильных Инженеров и Американского Сообщества Инженерного Образования, посвященной двигательным системам, если кому интересно значение сокращений, представители лаборатории NASA предоставили отчёт, согласно которому EmDrive, двигатель, создающий тягу без выброса реактивной массы, работает.
                  Читать дальше →
                • Сотрудники со стажем в компании более 2 лет зарабатывают на 50% меньше

                    Журнал Forbes обратил внимание на интересную тему, о которой не принято говорить: зависимость зарплаты сотрудника от стажа работы в компании. Выясняется, что на максимальную зарплату могут рассчитывать вовсе не лояльные сотрудники, а совсем наоборот — те, кто часто меняет работу.

                    У этого явления существует несколько причин. Одна из них — кадровая политика большинства компаний, которая устанавливает потолок на максимальное повышение зарплаты сотрудника. В среднем, в 2013 году зарплаты внутри компаний повышались на 3%. Слабые сотрудники могут рассчитывать на прибавку 1,3%, а самые лучшие — на 4,5%, но не более того. Это примерно соответствует уровню инфляции (2,1% за прошлый год).

                    В то же время при смене работодателя средняя прибавка к зарплате составляет от 10% до 20%, а иногда и больше.
                    Читать дальше →
                  • Перестаньте называть себя программистом и другие карьерные советы

                    • Translation
                    Есть один курс, который я бы добавил в программу обучения по всякой инженерной специальности, и он не о компиляторах или сложности алгоритмов. Это “Введение в реальность индустрии”, ибо об этом не говорят и это приводит к никому не нужным обломам. Эта статья претендует стать README.txt для молодого инженера в деле построения карьеры. Ее цель — сделать вас счастливее, заполнив пробелы в образовании относительно того, как работает реальный мир. Я не призываю следовать написанному как подробному руководству, но я надеюсь, что эта информация окажется для вас более ценной, чем то ничто, что вам рассказали об этом в университете.
                    Читать дальше →
                  • Классификация видов тестирования

                    Учил студентов предмету «Тестирование и отладка программного обеспечения» в ИжГТУ. Структуру курса обучения построил на основе классификации видов тестирования.
                    Виды тестирования

                    О ней и будет сей рассказ.
                  • Как готовиться к экзамену PMP опытному руководителю проекта

                      На взгляд абсолютного большинства руководителей проектов, программ и портфелей проектов опыт гораздо более важен, чем какой-либо сертификат. Ведь опыт нарабатывается годами руководства проектами в реальных условиях, а подготовиться к экзамену и получить сертификат можно менее чем за месяц (про это мы писали в предыдущей статье). Однако, иногда даже опытные руководители проектов сталкиваются с ситуацией, когда получение сертификата является если не обязательным, то очень желательным. И, как известно, самым популярным сертификатом в области управления проектами является PMP (Project Management Professional) от PMI (Project Management Institute).

                      Согласно официальному описанию экзамена для получения сертификата PMP требуется как наличие теоретических знаний, так и наличие практического опыта. К сожалению, даже самые опытные руководители проектов не смогут сдать экзамен с положительным результатом без проработки материалов именно для этого экзамена. В этой статье мы попробовали описать, в каких областях знаний можно больше доверять опыту и знаниям, полученным из других источников, а какие следует тщательно проштудировать, так как практический опыт может даже помешать!
                      Читать дальше →
                    • О здравом смысле и руководстве компаний

                      Мы все знаем, что при росте организации решения руководства обычно становятся все более и более неоптимальными, все дальше отходят от здравого смысла. Это связано с общим законом сложных иерархических систем, в которых руководство не выбирается, а назначается (в результате назначаются люди, худшие, чем назначающий руководитель).

                      Это все понятно, но почему руководство в больших организациях зачастую принимает не просто неоптимальные, но абсурдные решения? Почему не руководствоваться ну хотя бы здравым смыслом?
                      Под катом несколько примеров из трудовой биографии старого опытного программиста.
                      Читать дальше →
                    • Облака — ещё дешевле

                      • Tutorial
                      Наверняка вы слышали о сервисах Amazon EC2, Rackspace и им подобным. Может быть даже пользовались. Лично мне бывает нужен иногда личный VPN-сервер. Для этих целей я уже давно держал микро-инстанс на Амазоне, предоставляемый им в течении первого года бесплатно. Плюс использовал для архивов Amazon Glacier, который с его ценой «1 цент за гигабайт в месяц» можно считать тоже почти бесплатным. Но вот год закончился и за EC2 стало нужно платить. Архивы мои тоже разрослись прилично и затраты на Glacier аналогично перестали радовать.

                      Случайно пробежавший мимо обзор сервиса DigitalOcean по-началу оставил меня равнодушным. Ну, облачный сервис, ну виртуалки. Ну да, чуть-чуть дешевле (но не так чтобы уж очень), чего-то аналогичного Glacier вроде бы нет да и вообще оно того не стоит.

                      Я сильно ошибался. Ниже будет рассказано как на базе DigitalOcean сделать себе VPN-сервер в пару десятков раз дешевле такого же на Амазоне и сервис хранения архивов, в бесконечность раз дешевле Glacier.
                      Читать дальше →
                    • 1000+ часов видео по Java на русском

                      • Tutorial
                      Добрый день.
                      Меня зовут Головач Иван, я руковожу небольшой образовательной компанией и преподаю сам:
                      1. Java Core
                      2. Junior Java Developer: Servlet API, JDBC, Maven, JUnit, Mockito, Log4J, основы Spring/SpringMVC, основы JPA/Hibernate, шаблоны/архитектуры MVC/IoC/DAO.
                      3. Multicore programming in Java.


                      Также я веду курс «Scala for Java Developers» на платформе для онлайн-образования udemy.com (аналог Coursera/EdX).

                      В следствии этого у меня скопилось значительно количество ссылок на видео на русском языке по Java как моего авторства, так и моих коллег.

                      (GolovachCourses.com)


                      Здесь собраны несколько вариантов записи моего курса Java Core.
                      Модуль #1 (Procedural Java):
                      Набор июль 2013: #1, #2, #3, #4
                      Набор апрель 2013: #1, #2, #3, #4
                      Набор февраль 2013: #1, #2, #3, #4
                      Набор январь 2013: #1, #2, #3, #4
                      Набор октябрь 2012: #1, #2, #3, #4.
                      Читать дальше →
                      • +102
                      • 1126k
                      • 38