Pull to refresh
67
Karma
0
Rating
Сергей Подлесный @sergeypid

Мышиное обучение

Военное ведомство США должно срочно переосмыслить стратегию в области машинного обучения

Reading time 2 min
Views 14K
Python *Machine learning *Research and forecasts in IT *IT career
Translation
— Скажите государю, что у англичан ружья кирпичом не чистят: пусть что бы и у нас не чистили, а то, храни Бог войны, они стрелять не годятся – внятно выговорил Левша, перекрестился и умер.
Читать дальше →
Total votes 24: ↑20 and ↓4 +16
Comments 89

Отжиг и вымораживание: две свежие идеи, как ускорить обучение глубоких сетей

Reading time 4 min
Views 14K
Algorithms *Image processing *Machine learning *
Translation


В этом посте изложены две недавно опубликованные идеи, как ускорить процесс обучения глубоких нейронных сетей при увеличении точности предсказания. Предложенные (разными авторами) способы ортогональны друг другу, и могут использоваться совместно и по отдельности. Предложенные здесь способы просты для понимания и реализации. Собственно, ссылки на оригиналы публикаций:


Читать дальше →
Total votes 29: ↑29 and ↓0 +29
Comments 21

Эволюционные стратегии как масштабируемая альтернатива обучению с подкреплением

Reading time 6 min
Views 10K
Algorithms *Image processing *Machine learning *
Translation
Изложение статьи от том, что давно известные эволюционные стратегии оптимизации могут превзойти алгоритмы обучения с подкреплением.
Преимущества эволюционных стратегий:

  • Простота реализации
  • Не требуется обратного распространения
  • Легко масштабируется в распределенной среде вычислений
  • Малое число гиперпараметров.
Читать дальше →
Total votes 17: ↑15 and ↓2 +13
Comments 14

40+ приложений технологии машинного обучения для бизнеса

Reading time 6 min
Views 8.2K
Machine learning *
Перевод поста Филиппа Ходжетта, выступавшего недавно на конференции Hollywood Professional Association Tech Retreat. Надеюсь, собранный в одном месте список актуальных сервисов, готовых к интеграции в ваши проекты, и примеров работающего бизнеса на основе машинного обучения будет полезен разработчикам. Предлагаю делиться вашими собственными результатами успешного внедрения проектов, связанных с глубинным обучением.
Пытаясь определить для себя, как мы могли бы использовать машинное обучение в нашем софтовом бизнесе, я составил этот список. Я был слегка шокирован разнообразием способов использования М.О. По сообщению TechCrunch, уже вложено более 10 миллиардов долларов в 1500 стартапов, связанных с М.О. и искусственным интеллектом. В 2017 году прогнозируется увеличение этой суммы в четыре раза! Захотелось поделиться с вами этим списком...
Читать дальше →
Total votes 6: ↑5 and ↓1 +4
Comments 2

Сделай сам веб-сервис с асинхронными очередями и параллельным исполнением

Reading time 5 min
Views 27K
Website development *Open source *Python *Machine learning *Development for Linux *
Tutorial

rq Каждый должен делать свою работу качественно и в срок. Допустим, вам нужно сделать веб-сервис классификации картинок на базе обученной нейронной сети с помощью библиотеки caffe. В наши дни качество — это асинхронные неблокирующие вызовы, возможность параллельного исполнения нескольких заданий при наличии свободных процессорных ядер, мониторинг очередей заданий… Библиотека RQ позволяет реализовать все это в сжатые сроки без изучения тонны документации.


Сделаем веб-сервис на одном сервере, ориентированный на несильно нагруженные проекты и сравнительно длительные задания. Естественно, его применение не ограничивается этими вашими нейронными сетями.

Читать дальше →
Total votes 25: ↑22 and ↓3 +19
Comments 20

Изучаем граф-ориентированную СУБД Neo4j на примере лексической базы Wordnet

Reading time 8 min
Views 22K
Python *Programming *SQL *Data Mining *NoSQL *
Tutorial
СУБД Neo4j — это NoSQL база данных, ориентированная на хранение графов. Изюминкой продукта является декларативный язык запросов Cypher.

Cypher позаимствовал ключевые слова типа WHERE, ORDER BY из SQL; синтаксис из таких разных языков как Python, Haskell, SPARQL; и в результате появился язык, позволяющий делать запросы к графам в визуальной форме наподобие ASCII art. Например, заголовок данной статьи я бы представил в виде графа (Neo4j) — [изучаем] -> (Wordnet). И это почти готовый запрос к базе данных!


Читать дальше →
Total votes 9: ↑8 and ↓1 +7
Comments 0

Новость позвала в дорогу: сверхбыстрый энергоэффективный оптический сопроцессор для больших данных

Reading time 4 min
Views 11K
Data Mining *Algorithms *Image processing *Big Data *Machine learning *


На прошлой неделе Phys.org разразился новостью: стартап LightOn предложил альтернативу центральным процессорам (CPU) и графическим процессорам (GPU) для решения задач анализа больших данных. Авторский коллектив базируется в университете Пьера и Марии Кюри, Сорбонне и всех прочих правильных местах во Франции. Решение основано на оптической аналоговой обработке данных «со скоростью света». Звучит интересно. Поскольку в пресс-релизе не было никаких научно-технических подробностей, пришлось поискать информацию в патентных базах данных и на сайтах университетов. Результаты расследования под катом.
Читать дальше →
Total votes 26: ↑26 and ↓0 +26
Comments 14

Команда Джеффри Хинтона победила в конкурсе компьютерного зрения ImageNet с двукратным преимуществом

Reading time 3 min
Views 31K
Algorithms *Image processing *
Конкурс ImageNet состоялся в октябре 2012 года и был посвящен классификации объектов на фотографиях. В конкурсе требовалось распознавание образов в 1000 категорий.

Команда Хинтона использовала методы deep learning и сверточных нейронных сетей, а также инфраструктуру, созданную в Google под руководством Jeff Dean и Andrew Ng. В марте 2013 года Google инвестировал в стартап Хинтона, основанный при университете Торонто, тем самым получив все права на технологию. В течение шести месяцев был разработан сервис поиска по фотографиям photos.google.com.
Читать дальше →
Total votes 84: ↑80 and ↓4 +76
Comments 36

Новый дизайн Lenta.ru

Reading time 1 min
Views 22K
Design
Lenta.ru обновила дизайн и стала… никакой. По инерции я открываю ее несколько раз в день, но не прочитываю и ухожу. А вам нравится такой дизайн?
Total votes 64: ↑17 and ↓47 -30
Comments 43

Знания предметной области бесполезны. Когда предсказания становятся игрой, эксперты проигрывают

Reading time 4 min
Views 21K
Algorithms *
Translation

Джереми Ховард — президент и «главный по науке» компании Kaggle, превратившей статистическое прогнозирование в спорт.

Peter Aldhous: Kaggle называет себя онлайн-биржей мозгов. Расскажите об этом.

Джереми Ховард: Это веб-сайт, на котором размещают конкурсы по статистическому прогнозированию. Мы провели много удивительных конкурсов. Например, разработка алгоритма оценки студенческих рефератов. Или вот недавно закончился конкурс на разработку системы обучения Microsoft Kinect жестам. Идея состояла в том, чтобы показать контроллеру жест один раз, а алгоритм должен обучиться распознавать такие жесты в будущем. Еще один конкурс — прогнозирование биологических свойств молекул при скрининге на возможные наркотические свойства.

Читать дальше →
Total votes 44: ↑38 and ↓6 +32
Comments 21

Алгоритм Particle Filter в компьютерном зрении: стереовидение

Reading time 6 min
Views 18K
Algorithms *Image processing *
Алгоритм Particle Filter замечателен своей простотой и интуитивной понятностью. Предлагаю собственный вариант его использования в задаче стереоскопического зрения для сопоставления «одной и той же точки» на двух изображениях — с левой и правой камеры. Для реализации (исключительно в целях развлечения) использован Python с библиотеками numpy (матричные вычисления) и pygame (графика и обработка событий мышки). Сам алгоритм Particle Filter без изменений взят из курса Programming a Robotic Car на Udacity. Меня извиняет лишь то, что я честно прослушал весь курс и сделал все домашние работы, включая и реализацию этого алгоритма.

В задаче стереоскопического зрения нужно сопоставлять малые области (например, 8х8 пикселей) на левом и правом кадре. При идеальном расположении камер строго горизонтально, зная разность координаты по оси Х одинаковой области между левым и правым кадром, можно вычислить расстояние до объекта, который изображен в этой области. Понимаю, что звучит запутанно, но на самом деле это легко выводится простейшими геометрическими построениями по правилу подобных треугольников. Например, на видео с недостроенной колокольней, мы видим уходящий вдаль забор с одинаковыми ромбами. Ближний к нам ромб наиболее сильно смещен на правом кадре относительно левого, следующий — чуть меньше и т.д.

Стандартная схема решения такой задачи довольно тяжелая в вычислительном плане. Нужно откалибровать погрешности взаимного расположения камер так, чтобы гарантировать, что горизонтальная линия с координатой Y на левом кадре точно соответствует горизонтали с той же координатой на правом кадре. Затем сопоставить каждой точке (или области ) вдоль горизонтальной линии на левом кадре наилучшую точку на правом кадре (это решается, например, методом динамического программирования, имеющем квадратическую сложность). Тогда у нас будут вычислены смещения по Ох для каждой точки вдоль рассматриваемой горизонтали. И повторить процедуру для каждой горизонтальной линии. Немного сложновато, и уж совсем не похоже на то, как это работает в мозге (мы ведь знаем это, правда?)



Посмотрите, как алгорим Particle Filter решает эту же задачу. На мой взгляд, это очень похоже на биологическую модель, по крайней мере имитируются микро-движения глаза для фокусировки внимания на отдельных фрагментах изображения, и учитывается «предыстория» таких микро-движений.

Читать дальше →
Total votes 32: ↑30 and ↓2 +28
Comments 24

Кандидат на роль Стива Джобса

Reading time 3 min
Views 117K
Research and forecasts in IT *
Покойный Стив Джобс характеризуется как человек, изменивший облик нескольких отраслей экономики — персональные компьютеры, музыкальный бизнес, мобильные телефоны. Человек, мнению которого я доверяю, советует присмотреться к этому персонажу, претендующему на роль визионера и сменщика парадигм.



Знакомьтесь: Элон Маск
Total votes 160: ↑110 and ↓50 +60
Comments 52

Промышленный робот BAXTER умеет адаптироваться и обучаться

Reading time 1 min
Views 47K
Robotics Artificial Intelligence
Пересказ заметки nextbigfuture.com/2012/09/rethink-robotics-reveals-its.html

Baxter — представитель нового поколения промышленных роботов. Он настолько легко адаптируется и обучается, что ему можно просто показать, что нужно делать, совсем как человеку рабочему.



Читать дальше →
Total votes 31: ↑30 and ↓1 +29
Comments 84

Твиттер-боты создают события в международном масштабе

Reading time 2 min
Views 4.8K
Information Security *

Когда Greg Marra (на снимке) построил твиттер-бот @Trackgirl в 2008 году, он просто хотел проверить, сможет ли скрипт на Python проникнуть в социальную сеть реальных людей. Он не ожидал, что люди действительно будут беспокоиться за @Trackgirl, слать ей прямые собщения и интересоваться самочувствием после ее вымышленной травмы.

@Trackgirl отслеживала поток твитов с популярными в данный момент хештэгами, и публиковала их от своего имени. Три раза в день она фолловила 5 человек. Получалось, что она связана с правильными людьми, и другие люди стали фолловить ее, считая, что ее копипасты о беге на длинные дистанции исходили от живого человека. Однажды она твитнула о том, что повредила колено… Тысячи людей интересовались самочувствием скрипта и искренне сопереживали боту.
Читать дальше →
Total votes 94: ↑80 and ↓14 +66
Comments 60

Формирование высокоуровневых признаков с помощью широкомасштабного эксперимента по обучению без учителя

Reading time 5 min
Views 25K
Algorithms *Image processing *
В статье Распознавание лиц человеческим мозгом: 19 фактов, о которых должны знать исследователи компьютерного зрения упоминался экспериментальный факт: в мозге примата имеются нейроны, селективно реагирующие на изображение морды лица (человека, обезьяны и т.п.), причем средняя задержка составляет около 120 мс. Из чего в комментарии я сделал дилетантский вывод о том, что зрительный образ обрабатывается прямым распространением сигнала, и количество слоёв нейронной сети — около 12.

Предлагаю новое экспериментальное подтверждение этого факта, опубликованное concretely нашим любимым Andrew Ng.
Читать дальше →
Total votes 68: ↑64 and ↓4 +60
Comments 68

Навигация в помещениях, где не работает GPS

Reading time 2 min
Views 17K
Global Positioning Systems *Algorithms *


Fraunhofer Research совместно с Bosch разрабатывет систему Smartsense — сенсор для смартфонов с возможностями точной навигации внутри помещений, где не ловится сигнал GPS-спутников.

Читать дальше →
Total votes 21: ↑17 and ↓4 +13
Comments 37

Распознавание лиц человеческим мозгом: 19 фактов, о которых должны знать исследователи компьютерного зрения

Reading time 13 min
Views 60K
Artificial Intelligence
Важной целью исследователей в области компьютерного зрения является создание автоматизированной системы, способной сравняться или превзойти способности человеческого мозга по распознаванию лиц. Результаты психофизических исследований процесса распознавания лиц предоставляют специалистам по компьютерному зрению ценнейшие факты, которые помогут улучшить системы искусственного интеллекта.

Как обычно, предлагаю сокращенный перевод, полный текст доступен в оригинале.

Читать дальше →
Total votes 185: ↑181 and ↓4 +177
Comments 66

Интервью Джеффа Безоса журналу Wired

Reading time 5 min
Views 2.7K
Lumber room
Jeff Bezos, CEO компании Amazon не так известен широкой публике, как покойный Стив Джобс. Про него не снято фильмов и телепередач. Однако, обозреватели считают, что именно он становится «главным по технологиям» в Америке, учитывая, насколько большая часть Интернета основывается на облачных сервисах Amazon. Это интервью некоторые считают главным событием 2011 года в ИТ-журналистике. Предлагаю сокращенный перевод, а оригинал можно почитать здесь.
Читать дальше →
Total votes 42: ↑41 and ↓1 +40
Comments 5

Чему нас не научил профессор Ng

Reading time 6 min
Views 32K
Algorithms *
Как видно по дискуссиям на хабре, несколько десятков хабровчан прослушали курс ml-class.org Стэнфордского университета, который провел обаятельнейший профессор Andrew Ng. Я тоже с удовольствием прослушал этот курс. К сожалению, из лекций выпала очень интересная тема, заявленная в плане: комбинирование обучения с учителем и обучения без учителя. Как оказалось, профессор Ng опубликовал отличный курс по этой теме — Unsupervised Feature Learning and Deep Learning (спонтанное выделение признаков и глубокое обучение). Предлагаю краткий конспект этого курса, без строгого изложения и обилия формул. В оригинале все это есть.
Читать дальше →
Total votes 61: ↑59 and ↓2 +57
Comments 36

Глубина ПО как способность решать незапланированные разработчиком задачи

Reading time 4 min
Views 422
Lumber room
Sandbox
Известный факт: если изделие можно использовать не по прямому назначению, то это говорит о внутренней гармоничности, глубине и качестве такого изделия. С этой точки зрения топор гармоничнее молотка, потому что топором можно прекрасно забивать гвозди и даже небольшие сваи, а вот молотком можно действовать только строго по инструкции завода-изготовителя.
Читать дальше →
Total votes 24: ↑9 and ↓15 -6
Comments 8

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity