В докладе, представленном в декабре на ведущей конференции NeurIPS, Себастьен Бубек из Microsoft Research и Марк Селлке из Стэнфордского университета показали, что нейросети должны быть намного больше, чтобы избежать некоторых проблем в их работе.
Чем кормить ИИ (end)
Sandbox
В данном посте я бы хотел рассмотреть только типичные ошибки, при размышлениях о том, с чего начать делать ИИ. Топик не претендует на истинность в последней инстанции, только пытается указать на явные ошибки.
Под ИИ я понимаю программу, которая может выполнять разнотипные задачи, приводя их к однотипным, которые уже умеет решать.
Человек получает посредством зрения миллионы бит в секунду, осязание дает человеку сотни тысяч бит в секунду, а с помощью слуха человек получает десятки тысяч бит в секунду.
Остальные каналы ощущений дают несравнимо меньший объем информации, очень сложны для реализации, медленны и не имеют возможности для общения(вряд ли можно построить ИИ на основе запаха).
Под ИИ я понимаю программу, которая может выполнять разнотипные задачи, приводя их к однотипным, которые уже умеет решать.
Немного теории
Человек получает посредством зрения миллионы бит в секунду, осязание дает человеку сотни тысяч бит в секунду, а с помощью слуха человек получает десятки тысяч бит в секунду.
Остальные каналы ощущений дают несравнимо меньший объем информации, очень сложны для реализации, медленны и не имеют возможности для общения(вряд ли можно построить ИИ на основе запаха).
Проверяй входящие данные. Исходная причина уязвимости и атаки на Cisco IOS
Information Security *Programming *System Analysis and Design *Perfect code *Industrial Programming *
В пятницу 6 апреля 2018 началась мощная атака на оборудование Cisco.
Много пишут о том, что главная причина, по которой эта атака успешна, это открытые во внешние сети сервисные порты Cisco Smart Install.
Эти порты открыты по умолчанию. А люди в массе своей оставляют то, что сконфигурировано/выбрано/настроено таким, каким оно было по умолчанию. Как видим, на примере этого случая, это касается не только домашних роутеров, но и серьёзного оборудования в крупных компаниях, где цена ошибки значительно выше.
При создании системы вы не имеете права расчитывать на то, что значения по умолчанию, которые следует изменить будут изменены, причём в нужную сторону.
Вы лишь можете заставить изменить эти значения с помощью каких либо ограничивающих использование приёмов. Чему многие будут не рады. «Защита от дурака» это один из примеров этих обязывающих ограничений.
Про выбор по умолчанию
Есть исследование 2003 года «Спасает ли жизни выбор по умолчанию?», в котором есть диаграмма
На русском подробнее.
В ней видно, что число тех, кто готов участвовать в программе донорства органов сильно зависит от того, какой выбор по умолчанию уже сделан в медицинской анкете.
На русском подробнее.
В ней видно, что число тех, кто готов участвовать в программе донорства органов сильно зависит от того, какой выбор по умолчанию уже сделан в медицинской анкете.
Я хочу обратить внимание на корень самой уязвимости. В отчёте есть такая часть:
Как проверить данные во фрейме Pandas с помощью Pandera
Translation
Tutorial
В науке о данных важно тестировать не только функции, но и данные, чтобы убедиться, что они работают так, как вы ожидали. Материалом о простой библиотеке Pandera для валидации фреймов данных Pandas делимся к старту флагманского курса по Data Science.