Search
Write a publication
Pull to refresh
-30
@ni-coread⁠-⁠only

User

Send message

Матрица-Перематрица

Reading time10 min
Views9.2K

Работа нейронной сети основана на манипуляциях с матрицами. Для обучения используются разнообразные методы, многие из которых выросли из метода градиентного спуска, где необходимо умение обращаться с матрицами, вычислять градиенты (производные по матрицам). Если заглянуть “под капот” нейронной сети, можно увидеть цепочки из матриц, выглядящие зачастую устрашающе. Проще говоря, “нас всех подстерегает матрица”. Пора познакомиться поближе.

Для этого сделаем следующие шаги:

рассмотрим манипуляции с матрицами : транспонирование, умножение, градиент;

построим игрушечную нейронную сеть;

познакомимся с методом обратного распространения ошибки с использованием метода градиентного спуска.

Все шаги сопровождаются примерами кода с использованием только NumPy . Вычисления, не выходящие, впрочем, за рамки элементарной математики, приведены подробно. За индексами придется внимательно следить, но не отчаивайтесь, просто представьте, что каждый индекс - винтик, который надо закрутить, следуя простым правилам, но не пропустить. Если вдруг не разберетесь, ничего страшного - одно из двух: либо сбой в матрице, либо одно из двух.

Red pill

Объясняем на пальцах принцип действия оптимизаторов для нейронных сетей: основные алгоритмы, и зачем они нужны

Reading time10 min
Views29K

Оптимизаторы — важный компонент архитектуры нейронных сетей. Они играют важную роль в процессе тренировки нейронных сетей, помогая им делать всё более точные прогнозы. Специально к старту нового потока расширенного курса по машинному и глубокому обучению, делимся с вами простым описанием основных методик, используемых оптимизаторами градиентного спуска, такими как SGD, Momentum, RMSProp, Adam и др. 

Читать далее

Машина опорных векторов в 30 строчек

Reading time16 min
Views9.6K
В этой статье я расскажу как написать свою очень простую машину опорных векторов без scikit-learn или других библиотек с готовой реализацией всего в 30 строчек на Python. Если вам хотелось разобраться в алгоритме SMO, но он показался слишком сложным, то эта статья может быть вам полезна.
Поехали!

Искусственные нейронные сети. Часть 1

Reading time2 min
Views12K

В этой статье вы познакомитесь с основами работы искусственных нейронов. В последующих статьях мы изучим основы работы нейронных сетей и напишем простейшую нейронную сеть на python.

Читать далее

Анонс: как с помощью машинного обучения выращивают каннабис и помидорки

Reading time2 min
Views7.5K

СЕГОДНЯ, в 20:00 в наших соцсетях выступит Валерия Коган — выпускница физтеха, со-основательница стартапов Fermata и Smartomica.

Лере пришла идея контролировать растения в теплицах за счет машинного обучения, когда ее знакомые рассказали ей о своих проблемах с массовым выращивании огурцов и помидоров. Тогда она с приятелями основала Fermata и начала разрабатывать платформу для мониторинга растений в реальном времени.

В 2019-ом компания привлекла $1,1 млн инвестиций от частного инвестора, а уже в в марте 2020-го, в ходе раунда А получила еще $3,7 млн. инвестиций от британского фонда Massa Innovations и нескольких частных инвесторов.

Кроме агротеха, Лера занимается разработкой новых методов диагностики рака и является приглашенным ученым в Roswell Park Cancer Institute. В Smartomica они разрабатывает технологии анализа медицинских и научных данных для диагностики и лечения онкологических пациентов

522-фз или как умнеют счётчики электричества. Часть 2

Reading time5 min
Views23K

Итак, в разгар пандемии. Когда бюджеты итак трещат по швам, внедряют столь смелый и затратный закон. Зачем?

Ответа тут два. Экономия и контроль.

Читать далее

OpenCV в Python. Часть 3

Reading time4 min
Views53K

Привет, Хабр! Это продолжение туториала по библиотеке opencv в python. Для тех кто не читал первую и вторую части, сюда: Часть 1 и Часть 2, а всем остальным — приятного чтения!


Читать дальше

SpaceX удалось запустить ракету с рекордным числом спутников

Reading time2 min
Views9.4K

Компании SpaceX сегодня удалось успешно провести запуск ракеты-носителя Falcon 9 с рекордным количеством спутников на борту. На орбиту в итоге выведут 143 спутника, это самое большое количество космических аппаратов, выведенных за один раз на орбиту, за всю историю космонавтики.

Правда, далеко не все спутники — это аппараты Starlink. Их сейчас запустили всего 10 штук. Еще 48 систем разработаны компании Planet, которая занимается съемкой поверхности Земли. Еще 36 спутников принадлежат компании Swarm Technologies, которая работает в сфере интернета вещей. Ну и остальные спутники принадлежат другим компаниям.

Как сделать Data Science приложение для Windows (и не только) с графическим интерфейсом с помощью PySimpleGUI

Reading time6 min
Views35K
Работать с Data Science в Jupyter, конечно, очень приятно, но если вы хотите пойти дальше и развернуть свой проект или модель на облачном сервере, то здесь есть много отличных решений — с помощью Flask, Django или Streamlit. Хотя облачные решения по-прежнему самые популярные, часто хочется создать быстрое приложение с графическим интерфейсом. Например:

  • Модель ML тестируется на различных наборах данных. Вы можете перетащить файлы CSV в модель и отрисовать кривую AUS/ROC. Здесь GUI проявит себя прекрасно, правда?
  • Построить случайную переменную или статистическое распределение в заданном диапазоне и динамически управлять параметрами с помощью графического интерфейса.
  • Быстро запустить некоторые задачи обработки или предварительной обработки данных в наборе с помощью GUI вместо того, чтобы писать кучу кода.

В этой статье мы покажем, как создать такой графический интерфейс, потратив минимум усилий на изучение библиотеки Python.


Приятного чтения!

Фронтендер пишет нейронки. Уровень сложности «мартышка и уравнение Беллмана»

Reading time13 min
Views4.8K

Привет.

Количество плюсов под последней статьей говорит о том, что моя подача материала про нейронные сети не вызвала сильного отторжения, поэтому решение - “прочитать, посмотреть что-то новое и сделать новую статью” не заставило себя ждать. Хочется сделать оговорку, что нисколько не претендую на звание того, кто будет учить чему-то и говорить о чем-то серьезном в своей статье. Наоборот, нахожу данный формат - написание статьи или выступление на конференции, способом, когда самому можно чему-нибудь научиться. Ты делаешь что-то, собираешь обратную связь, делаешь что-то лучше. Также это происходит и в нейронных сетях. Кстати о них. 

читать про нейронки

Внимание! Абсолютно доказано — щитни являются живыми ископаемыми

Reading time7 min
Views15K

Щитней, в частности щитней вида Triops cancriformis часто называют «живыми ископаемыми». Ранее в фанерозое я рассказывал о абсолютно доказанном живом ископаемом — коморской латимерии , чей генотип и морфология якобы практически не изменились за многие миллионы лет эволюции.

Щитни, в том числе щитни вида T. Cancriformis имеют похожую историю, ведь согласно русскоязычной википедии они не изменялись около 200 миллионов лет! Более того, именно этот вид щитней якобы обитал уже в позднем Триасе, о чём свидетельствовали остатки этого вида найденные учёными в отложениях возрастом в 237-200 миллионов лет [1].

Читать далее

Самый беззащитный — уже не Сапсан. Всё оказалось куда хуже…

Reading time8 min
Views574K
{UPD 10.02.2021} Евгений Чаркин дал интервью на эту тему gudok.ru/newspaper/?ID=1552569
Под катом мои комментарии на некоторые тезисы.
{/UPD}

Больше года назад хабравчанин keklick1337 опубликовал свой единственный пост «Самый беззащитный — это Сапсан» в котором рассказывает как он без серьёзных ухищрений получил доступ ко внутренней сети РЖД через WiFi Сапсана.

В ОАО «РЖД» прокомментировали результаты этого расследования. «Есть результаты проверки. Почему удалось взломать? Наверное, потому, что злоумышленник. Наверное, из-за этого… Ну, он из „фана“. Юный натуралист. Там уязвимостей, которые бы влияли на утечку каких-то критических данных, нет. Мультимедийный портал „Сапсанов“ функционирует как положено и не нуждается в доработке», — заявил Евгений Чаркин.

То есть вместо того, чтобы выразить благодарность за обнаруженную уязвимость, автора обозвали «злоумышленником» и «Юным натуралистом».

К сожалению, но специалисты РЖД, начиная с директора по информационным технологиям, отнеслись к статье очень пренебрежительно, проигнорировав важное указание автора:
Также оттуда в сеть РЖД есть впн. Если захотите — найдёте её там сами.

И вот, год спустя я попал в сеть РЖД даже не садясь в Сапсан.



Видимо, только этот котэ добросовестно охраняет вокзал.

Как именно я попал в сеть РЖД с пруфами, чего не сделал директор по информационным технологиям ОАО «РЖД» Чаркин Евгений Игоревич и возможные последствия — под катом.
Читать дальше →

Анимации градиентного спуска и ландшафта потерь нейронных сетей на Python

Reading time12 min
Views13K
Во время изучения различных алгоритмов машинного обучения я наткнулся на ландшафт потерь нейронных сетей с их горными территориями, хребтами и долинами. Эти ландшафты потерь сильно отличались от выпуклых и гладких ландшафтов потерь, с которыми я столкнулся при использовании линейной и логистической регрессий. Здесь мы создадим ландшафты потерь нейронных сетей и анимированного градиентного спуска с помощью датасета MNIST.


Рисунок 1 — Ландшафт потерь свёрточной нейронной сети с 56 слоями (VGG-56, источник)
Приятного чтения!

Визуализация пересечений и перекрытий с помощью Python

Reading time6 min
Views13K

Изучение вариантов решения одной из самых сложных задач визуализации данных


Преобладающая задача в любом анализе данных — сравнение нескольких наборов чего-либо. Это могут быть списки IP-адресов для каждой целевой страницы вашего сайта, клиенты, которые купили определённые товары в вашем магазине, несколько ответов из опроса и многое другое.

В этой статье воспользуемся Python для изучения способов визуализации перекрытий и пересечений множеств, наших возможностей, а также их преимуществ и недостатков.


Диаграмма Венна
Приятного чтения!

Как быть билингвом в Data Science

Reading time5 min
Views6.6K
В этой статье я хочу продемонстрировать R Markdown — удобную надстройку для программирования вашего проекта как на R, так и на Python, позволяющую программировать некоторые элементы вашего проекта на двух языках и управлять объектами, созданными на одном языке, с помощью другого языка. Это может быть полезно потому, что:

  1. Позволяет писать код на привычном языке, но при этом использовать функции, существующие только в другом языке.
  2. Позволяет напрямую сотрудничать с коллегой, который программирует на другом языке.
  3. Даёт возможность работать с двумя языками и со временем научиться свободно владеть ими.


Приятного чтения!

Фронтендер пишет нейронки. Уровень сложности «хочу на ручки»

Reading time13 min
Views17K

Рано или поздно, фронтенд - разработчик устает играть со своими фреймворками, устает докучать коллегам - бэкендерам, устает играть в девопс и начинает смотреть в сторону машинного обучения, дата - саенс и вот это вот все. Благо, каждый второй курс для тех кто хочет войти вайти способствует этому, крича на всех платформах, как это легко. Я тоже, насытившись перекладыванием данных из базы в API, а потом из API в таблицы и формы, решил взять небольшой отпуск и попробовать применить свои скилы фронтендера в машинном обучении. Благо, существуют такие люди как Daniel Shiffman и Charlie Gerard, которые своим примером помогают не бросить начатое, увидев первые страницы с математическими формулами.

Читать далее

ИТЭР в 2020 году, часть первая

Reading time10 min
Views22K
Прошедший год, безусловно, сильно выделяется силе слома привычного течения вещей и по количеству внезапно возникших проблем. Особенно сильно эти проблемы могли бы проявиться для большого индустриального проекта, раскинутого на 35 стран и зависящего от государственного финансирования. Тем не менее, можно сказать, что ИТЭР прошел пандемические ограничения и трудности с честью.

image

Строительство, монтаж, производство, координация и связь участников из разных стран — все это быстро перестраивалось по мере изменения обстановки, и в итоге прогресс проекта в 2020 году вышел весьма впечатляющим. Везло проекту и с финансированием, так, главные отстающие — США, в 2020 финансовом нарастили вливания в проект даже выше своих прямых обязательств, покрывая накопленные за предыдущие годы долги. Все это привело к впечатляющему техническому прогрессу, в который мы и окунемся.

Dolby Vision в iPhone 12 — это новая эпоха? Разбор

Reading time8 min
Views11K
Вы заметили? Все протестировали новые iPhone, повертели новый угловатый корпус, сравнили фотографии. И как-то очень мало времени уделили тому, что iPhone умеет снимать видео в самом продвинутом на Земле HDR формате — Dolby Vision.

А между тем, это не какой-то очередной маркетинговый буллшит, типа 3D-видео. Наоборот, появление Dolby Vision в массовом потребительском устройстве — это огромное событие в мире видеопроизводства и видеовещания.

Поэтому сегодня предлагаю поговорить о том, что такое HDR-видео? Чем крут Dolby Vision? Почему Apple снова поступили не как все?


И как новые iPhone изменят, то как будет выглядеть кино. Настоящий HDR лучше один раз увидеть, но мы будем о нём говорить. Поэтому сегодня всё будет, как вы любите: ничего не понятно, но очень интересно.

99% видео, которые мы смотрим, это SDR-контент, то есть видео со стандартным динамическим диапазоном. Но что это за “стандартный” динамический диапазон такой? Откуда появился этот стандарт и почему вообще нужно что-то менять? Вроде смотрю YouTube на смартфоне, кино на телевизоре и всё устраивает. Качество — огонь!

На самом деле, не огонь. SDR чрезвычайно устаревший формат и вот почему.

Роль логического программирования, и стоит ли планировать его изучение на 2021-й

Reading time13 min
Views17K

В русскоязычном интернете достаточно мало информации о логическом программировании, особенно адаптированной для новичков. Эту проблему я попытался отчасти решить в данной статье, рассказав о том, что такое логическое программирование, какие задачи решают с его помощью, и стоит ли вообще это изучать.

Давайте рассуждать логически

Information

Rating
Does not participate
Registered
Activity