• Мечтают ли андроиды об электропанке? Как я учил нейросеть писать музыку

      На курсах по машинному обучению в Artezio я познакомился с учебной моделью, способной создавать музыку. Музыка – существенная часть моей жизни, я много лет играл в группах (панк-рок, регги, хип-хоп, рок и т. д.) и являюсь фанатичным слушателем.  

      К сожалению, многие группы, большим поклонником которых я был в юности, распались по разным причинам. Или не распались, но то, что они теперь записывают…  в общем, лучше бы они распались.

      Мне стало любопытно, существует ли сейчас готовая модель, способная обучиться на треках одной из моих любимых групп и создать похожие композиции. Раз у самих музыкантов уже не очень получается, может, нейросеть справится за них?

      Источник
      Читать дальше →
    • Методы оптимизации нейронных сетей

        В подавляющем большинстве источников информации о нейронных сетях под «а теперь давайте обучим нашу сеть» понимается «скормим целевую функцию оптимизатору» лишь с минимальной настройкой скорости обучения. Иногда говорится, что обновлять веса сети можно не только стохастическим градиентным спуском, но безо всякого объяснения, чем же примечательны другие алгоритмы и что означают загадочные \inline \beta и \inline \gamma в их параметрах. Даже преподаватели на курсах машинного обучения зачастую не заостряют на этом внимание. Я бы хотел исправить недостаток информации в рунете о различных оптимизаторах, которые могут встретиться вам в современных пакетах машинного обучения. Надеюсь, моя статья будет полезна людям, которые хотят углубить своё понимание машинного обучения или даже изобрести что-то своё.


        image


        Под катом много картинок, в том числе анимированных gif.

        Читать дальше →
      • Применение рекуррентных слоев для решения многоходовок

          image

          История


          Рекуррентные слои были изобретены еще в 80х Джоном Хопфилдом. Они легли в основу разработанных им искусственных ассоциативных нейронных сетей (сетей Хопфилда). Сегодня рекуррентные сети получили большое распространение в задачах обработки последовательностей: естественных языков, речи, музыки, видеоряда и тд.

          Задача


          В рамках задачи по Hierarchy reinforcement learning я решил прогнозировать не одно действие агента, а несколько, используя для этого уже пред обученную сеть способную предсказать последовательность действий. В данной статье я покажу как реализовать “sequence to sequence” алгоритм для обучения этой самой сети а в последующей, постараюсь рассказать, как использовать ее в Q-learning обучении.
          Читать дальше →
          • +31
          • 11.8k
          • 4
        • Подробности разработки генной терапии старения в интервью с «Fight Aging!»

            image

            Как я неоднократно говорил и писал (1, 2), эпигенетический откат видится мне наиболее перспективным, а то и вообще единственным подходом, способным существенно продлить нам жизнь. Почему? Потому что эпигенетика играет ключевую роль в выполнении всей программы развития организма — от эмбриогенеза до танатогенеза. И пока мы не в силах остановить этот процесс, мы можем хотя бы попробовать его периодически откатывать назад. Именно такой подход продлил жизнь прогерийным мышам на 33-50% в опытах группы Бельмонте.

            Верю я в этот подход настолько, что решил организовать проект по его трансляции из научной плоскости в прикладную. Своё видение того, как это реализовать я тоже уже описывал (1, 2). Наиболее оптимальным способом привлечения финансирования на такой проект мне видится краудфандинг. Блокчейн и криптовалюты за последний год вывели возможности краудфандинга на новый уровень, и те проекты, которые раньше не могли и надеяться на привлечение необходимого объема средств, с помощью ICO смогли собрать даже избыточные для их реализации суммы.

            Да, пик сборов в ICO, скорее всего, уже позади, но видя, насколько сырые проекты продолжают привлекать значительные объемы финансирования, мне кажется, у нас есть все шансы собрать достаточную сумму для того, чтобы значительно продвинуться в нашей задаче. Подробно обо всём этом, наших целях и стратегии их достижения я рассказал весьма уважаемому в кругах борцов со старением сайту «Fight Aging!». Привожу перевод этого интервью здесь.
            Читать дальше →
          • Дешёвый метод интерполяции работает не хуже нейросетей


              Сравнение программы RAISR с другими передовыми методами повышения разрешения изображений. Больше примеров см. в сопроводительных материалах к научной статье

              Повышение разрешения изображений, то есть создание фото высокого разрешения на основе одного фото низкого разрешения — очень хорошо изученная научная проблема. Она важна для многих приложений: зуммирование фото и текста, проекция видео на большой экран и т.д. Даже в фильмах детективы иногда умудряются рассмотреть номер автомобиля на кадре с камеры наблюдения, «приблизив» фотографию до предела. И не только номер автомобиля. Тут всё ограничено фантазией и совестью режиссёра и сценариста. Они могут приблизить фотографию ещё больше — и разглядеть отражение преступника в зеркале заднего вида или даже в отполированной металлической головке болта, которым крепится номерной знак. Зрителям такое нравится.
              Читать дальше →
            • Аудиодайджест 7: Научный подход к изучению звука



                Фото brett jordan / CC

                [Аудиодайджест #6]

                Звук – обширная площадка для исследований. В нашем блоге «Мир Hi-Fi» мы уже рассказывали о влиянии музыки на физиологию и продуктивность. На этот раз мы решили сделать подборку из 12 источников, в которых приводятся результаты научных исследований в областях акустики, аудиотехники и восприятия звука.
                Читать дальше →
                • +10
                • 7.6k
                • 1
              • Альтернативы смерти: как победить старение



                  Как современная молекулярная биология смотрит на феномен старения? Как пытаются старение изучать, есть ли надежды на замедление или даже остановку этого процесса? Этим вопросам была посвящена лекция биолога Александра Панчина, с которой он выступил на прошедшем в офисе Mail.Ru Group научно-популярном лектории Set Up.
                  Читать дальше →
                • Google открыла для всех библиотеку машинного обучения TensorFlow

                    «Ещё пару лет назад вы не могли разговаривать с приложением Google в городском шуме или прочитать вывеску на иностранном языке с помощью переводчика Google Translate, или мгновенно найти фотографии своего лабрадуделя, — пишет Google в официальном блоге. — Наши приложения просто не были достаточно умными. Но за короткий промежуток времени они стали намного, намного умнее. Сейчас, благодаря машинному обучению всё это доступно. Несмотря на весь прогресс, которого мы добились, всё ещё остаются возможности для улучшения. Поэтому мы создали совершенно новую систему машинного обучения, которую назвали TensorFlow. Она быстрее, умнее и гибче, чем наша старая система, так что её намного проще приспособить к новым продуктам и исследованиям».

                    Итак, компания Google выложила свою новейшую разработку TensorFlow во всеобщее пользование под свободной лицензией Apache 2.0.
                    Читать дальше →
                    • +22
                    • 28.7k
                    • 8
                  • Поведение и мышление. Загадка эмоций

                      В предыдущей части был описан нейронный механизм того, как мозг кодирует информацию и вытекающий из него механизм памяти. Это можно сравнить с описанием «железа» компьютера. В этой части рассказывается о том, как это «железо» используется, то есть, какая «операционка» управляет работой мозга.

                    • Код мозга и память. Загадка гиппокампа



                        Совсем недавно были объявлены Нобелевские лауреаты 2014 года. Премию по физиологии или медицине разделили американец Джон О`Киф и супруги норвежцы Эдвард Мозер и Мэй-Бритт Мозер. Исследования, которые получили столь высокую оценку, касались небольшого участка мозга, называемого гиппокампом. Это название происходит от греческого ἱππόκαμπος — морской конек, именно на на него чем-то отдаленно похож этот удивительный орган.
                        Читать дальше →