Как стать автором
Обновить

Комментарии 12

Что-то похожее уже было: geektimes.ru/post/288961/.

При подборе материала рекомендую использовать кастомный поиск по двум сайтам, который я создал. Это значительно проще, чем забивать в поиск сначала «site:habrahabr.ru», а потом «site:geektimes.ru».
Основная проблема искусственного интеллекта в том, что никто до конца не понимает, как он работает

Конечно не понимают, ведь ИИ ещё не создали. А как работают нейронные сети – их разработчики прекрасно понимают. Насколько я далёк от математики, и то – недавно прошёл небольшой курс и более менее разобрался.

Ну речь же не о том, как работают нейросети, а о том, что обученная нейросеть реализует некий алгоритм, который невозможно перевести в привычный «блоксхемный» вид, удобный для понимания человеками. Следовательно, нельзя достоверно предсказать реакцию на событие, которое не происходило ранее.

Промышленного робота «А» запрограммировали прекращать перемещение, если есть сигнал с датчика прикосновения, и мы можем быть уверены, что если на его пути будет велосипед, стена или маленькая девочка в платье с блестками, он остановится. А другого робота «В» заставили самому подстраивать коэфициенты, которые транслируют вход с датчиков в выход на моторы, так, что в условиях, сходных с обучающей выборкой, он будет вести себя как ожидается. А как он отреагирует на условия вне выборки? Вот это как раз и «не понятно до конца» автору статьи

PS надо учить по GTA5, там можно симулировать реакцию людей на аварийные ситуации

Не вижу разницы между


как работают нейросети
и
нейросеть реализует некий алгоритм

Нейронная сеть – это не магия, это строгая математика. Какой алгоритм в неё заложили – так она его и будет реализовывать. И если в алгоритме обучения сети нет ошибок, то на новые данные она будет реагировать очень даже ожидаемо.


Вот это как раз и «не понятно до конца» автору статьи

Автору статьи, в этом случае, надо пройти базовый курс по нейронным сетям, а не бросаться громкими фразами.

Сложно относится серьезно к статьям в которых есть клише типа «Основная проблема чего-то\кого-то», «Ни кто не понимает». Даже если ни кто не понимает, то в чем тут проблема? Вот обычный человек не понимает как работает телевизор, и проблем ни каких не испытывает.

Я такой заголовок читаю как: «Мы (автор статьи и его друзья) не понимаем как работает ИИ, и у нас это вызывает проблемы и стыд.»
Как будто кто-то до конца понимает как работает «естественный» интеллект.
В аналоговой белковой голове гораздо больше тараканов.
Кажется сама проблема высосана из пальца и подайтся журналистами не совсем корректно, в духе рентв.
Вопрос в том, стоит ли доверять бездоказательным решениям, построенным только на опыте сети.
Если ИИ нельзя доверять, то почему же тогда Google делает на него ставку в своей программе Alphabet?
Оператор АЭС тоже мог бы внезапно сойти с ума и устроить катастрофу. Поэтому там дублирование, дежурит не один человек, а несколько. И ядерную ракету можно запустить только два оператора, а не один. Так почему бы не использовать в критически важных задачах три разных нейросети? Пусть решение принимается только, если 2 или 3 нейросети голосуют за него. Одинаковый глюк у разных нейросетей не возникнет.

почему-то мне кажется что достаточно иметь огроменный накопитель на котором будет лог обучения и какие нейроны в каких слоях в какое состояние переключились после прохода картинки по обучению… ну а потом при возникновении спорного момента — достаточно будет достать все нейроны, отработавшие в принятии этого решения и показать исходники которые эти нейроны затрагивали группируя по слоям. чисто в теории тогда можно было бы и увидеть что картинки с гантелями в нейросеть запихивались только в виде культуристов, которые эти гантели и держат в руках а потому как и ребенок, никогда не видевший чего-то — нейросеть точно так же и не будет знать гантели — это часть человека-культуриста или всетаки отдельный предмет? Вот если б вы в своей жизни никогда не сталкивались бы с гантелями отдельно на полках а только слышали о них и видели на картинках с культуристами — вы б никогда б и не поверили что гантели могут быть отдельно от культуриста. ну по крайней мере вам это было бы очень сложно обьяснить.


Так что не все тут так сложно. другое дело что глубинным обучением пытаются сэкономить годы разработок! это ж легко — взял нейросеть 10000х10000х100х100 и скормил её онлайн базу штрафов а потом после обработки — подсовываеш машину а оно тебе сумму какую с этой машины можно надоить. да вникать не надо. но вот если надо — возникнут проблемы — сам-то человек не анализировал то что кормил нейросети… вот и результат для человека странный… ведь человек знает об окружающем мире намного больше чем то что он скармливает машине.

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.