Они обучаются не так как человек, а расставляют очки различным метрикам
А как обучается человек? Никто не знает это настолько, чтобы можно было запрограммировать. Похоже на одно из направлений в ИИ — системы автоматического доказательства мат. теорем. Там обычно отмечают главную проблему: ни один математик не может объяснить, как он доказывает теоремы.
То, что вы называете «мат. модель» и есть принципы работы.
Разве у ОУ и CPU один принцип работы? Книги по нейронным сетям обычно начинают с описания нейрона: строение нейронов, механизм создания и проведения потенциала действия, классификация нейронов (подзаголовки из статьи в вики). Аналогичное описание принципов работы ОУ:
Несмотря на то, что проще и полезнее рассматривать операционный усилитель как чёрный ящик с характеристиками идеального ОУ, важно также иметь представление о внутренней структуре ОУ и принципах его работы, так как при разработке с использованием ОУ могут возникнуть проблемы, обусловленные ограничениями его схемотехники.
Структура ОУ различных марок отличается, но в основе лежит один и тот же принцип. ОУ […] состоят из следующих функциональных блоков:
1) Дифференциальный усилитель. Входной каскад — обеспечивает усиление при малом уровне шума, высокое входное сопротивление. Обычно имеет дифференциальный выход.
2) Усилитель напряжения [и т.д. …] (Операционный усилитель 741, рувики)
Описание принципов работы CPU начинают с описания простейшего составного элемента — триггера. Такое описание позволяет понять принципиальные отличия между аналоговой и цифровой обработкой информации. Что касается не искусственных нейронов, то не совсем понятно, к каким устройствам они ближе: к аналоговым или к цифровым?
Не понял про устранение человеческого фактора. Облачные серверы обслуживают люди, в том числе и системные программисты с максимальными правами доступа. В случае подкупа или шантажа такого программиста он может умышленно сделать дыру в системе для взломщика, а потом постараться замести следы. Так называемая социальная инженерия, к сожалению, и здесь работает на руку злоумышленнику.
И кроме того, в случае облаков возникает опасение: не получится ли ситуация с дитем, у которого семь нянек? Т.е. при разделении обязанностей между службами безопасности банка и облака? Исходя из общих соображений, система надежнее, когда всё сосредоточено в одних руках. Две службы могут просмотреть уязвимость только потому, что каждая из этих служб будет считать, что за данную область отвечает не она.
Не понял: какие принципы? Если, нпр., если мы знаем, как устроен и работает ОУ, то это не поможет нам написать программу, и наоборот, программист, написавший программу для интегрирования, может не суметь сделать хорошее устройство из ОУ и конденсатора, т.к. ОУ и конденсаторы бывают разными, нужно знать, что выбрать. (нпр., допотопный бумажный конденсатор будет плохим выбором и, нпр., знаток конденсаторов может выбрать QBasic для реализации программы, что явно сомнительный выбор ).
Во всем мире работы ведутся в разных направлениях. Нейронные сети — только одно из многих, пусть кажущееся очень перспективным. Вопрос «как оно там внутри?» представляется слишком расплывчатым и не очень важным даже для случаев, в которых мы уверенно можем на него ответить. Возьмем, например, мат. модель интегратора, которую можно реализовать в цифровой форме, как программу для (цифрового) компьютера, а можно в аналоговой — например, в виде электронного устройства, состоящего из операционного усилителя (ОУ) с конденсатором в цепи обратной связи (в статье «Интегратор» Вики есть ряд примеров других устройств-интеграторов). Что ответить на вопрос «как оно там внутри?», если сравнивать два эти интегратора: программу и ОУ или программу+ЭВМ и ОУ? Наверное, можно ответить, что внутри по-разному, но реализуется одна и та же мат. модель (про точность и скорость не говорим). Однако особо большого смысла поставленный вопрос не имеет.
Многие ли компании владельцы облаков готовы взять на себя полную ответственность за безопасность своих клиентов? Нпр., если крупный банк разместит в облаке систему обслуживания своих клиентов, и произойдет серьезный взлом, то возместит ли владелец облака украденные деньги? И найдется ли у него достаточно денег, чтобы возместить полностью?
И да, пятилетний ребенок сможет самостоятельно научиться выигрывать, например играя сам с собой.
М.б. если это вундеркинд. У большинства детей нет таких способностей. Думаю, что и взрослый человек не научится играть, если будет переставлять фигуры то за белых, то за черных. Только играя против кого-то — человека или компьютера, можно научиться хоть как-то играть. При этом полезно почитать книжки по теории шахмат.
Мы можем дать текущему ИИ какой-либо вариант, чтобы он смог понять принцип правил игры, кроме как нанять программистов, которые напишут алгоритм для распознания правил игры в шахматы?
Может быть скрипт, где формальные правила записаны на языке, близком к естественному. Конечно, при наличии программы, которая умеет интерпретировать такой скрипт. Для описания правил шахмат такая программа не имеет особого практического значения, поэтому ее никто и не делает. А вот для карточных пасьянсов описание правил пасьянса через скрипт — очень привлекательный подход. Программисты делают только одну программу — игровой движок, а скрипт для конкретного пасьянса может написать любой человек, т.к. правила написания скрипта не требуют знания программирования. Подобный подход применяется во многих компьютерных играх. Например, в КР2 (упомянута в рецензии) многие непрограммисты, не имеющие доступа к исходному коду игры, сделали много карт-скриптов планетарных битв (их можно найти в Интернете). Единственным инструментом, нужным для этого, является специальный редактор карт. Редактирование проходит в наглядном графическом виде, освоить этот редактор гораздо легче, чем нпр. «Фотошоп».
Компьютер не может самостоятельно определить неприятные для себя условия без подсказки.
На мой взгляд, может и определяет. Уже при загрузке ОС может пожаловаться, что был выключен неправильно, что испорчен диск и т.д.
Сейчас компьютеру нужно все пояснять, подробно и детально — именно это и называется программный код.
На мой взгляд, далеко не всё нужно пояснять каждый раз. Нпр., в Windows API уже зашита куча функций, без которых даже простенькая программа становилась бы чрезвычайно сложной.
ИИ который думает как человек — не особо и нужен
Да. Как он будет думать, потребителям без разницы, главное, чтобы он действовал как адекватный человек.
Я не уверен, есть ли вообще в мире проекты/разработки, которые целенаправленно занимаются именно этим, а не чем-то более прикладным на каком-то заметном уровне.
Шахматные программы и программы Го не прикладные в том смысле, что не выполняют какой-то полезной работы. Может быть только PR разработчиков и спонсора.
Злоумышленники тоже мыслят экономическим категориями и идут к тому, у кого защита с хорошо известными дырками.
Да, в случаях, когда взлом осуществляется ради обогащения — воровства паролей к банковским счетам или шантажа. Но бывают случаи промышленного шпионажа, дискредитации конкурента. Тогда целью является конкретный адресат, и заказчик взлома может не постоять за ценой. А еще существуют сообщества хакеров, где ломают ради престижа: чем сложнее защита — тем престижней ее сломать.
Для начала, тамагочи ничего не чувствовала — запрограммированные вещи — нет еды, издать звук А, не гуляют — издать звук Б, понизить шкалу настроение (то есть отображать грустные смайлики).
М.б. и двухмесячного ребенка реакции схожие?: «нет еды, издать звук А, не гуляют — издать звук» А?
Научившись выигрывать в шашки, он не сможет сам научиться выигрывать в шахматы — разные условия победы.
Всякий пятилетний ребенок «сможет сам научиться выигрывать в шахматы»?
Так если они устроены не так, и не получается сделать такие же возможности, то может и делать надо по-другому? И я не имею в виду реализацию. Совсем необязательно моделировать каждую молекулу.
Если нам нужны такие же возможности, то и принципы должны быть такие же. В шахматных программах такая же модель правил, как и у человека, только закладывается она снаружи.
М.М. Ботвинник более 20 лет пытался создать шахматную программу, пытаясь скопировать в ней свои принципы принятия решений в игре. Но программа так и не заиграла. Только не человеческий, а машинный подход, основанный на альфа-бета алгоритме, принес впоследствии результаты. Модель нейрона для изучения нейрона и принятие машиной решений в задачах ИИ — разные вещи, требующие разных алгоритмов. Каждая модель имеет определенную величину подобия прототипу и эта величина не бывает 100%. В зависимости от целей в моделях пренебрегают кучей свойств. Нпр., любой современный химик знает, что молекула не устроена из шариков и стерженьков, однако «примитивные» шаро-стержневые модели широко используются в современной химии.
А принцип простой — сила тяжести, сила реакции опоры, масса. 3 параметра и несколько законов их изменения.
Еще параметры, характеризующие упругость бочки и необратимые деформации, аэродинамические свойства (парусность). А еще параметры склона: изменения крутизны, распределение камней по размерам и т.д. Однако бочка и склон не используют в явном виде понятие «производная», как и нейрон. Значит ли это, что в модели скатывания бочки по склону мы не должны использовать производную? — Думаю, что не значит.
А я не говорю про программы в целом. Я говорю про существущие алгоритмы.
Хорошо — пусть алгоритмы. Разве им нужен «миллион повторений»?
Волшебство ни при чем.
Что тогда? Есть научный подход, в котором можно увеличивать точность учета свойств, устройства и поведения моделируемого явления, вплоть до достижения требуемой предсказательной силы моделью, а есть танцы с бубном и прочая мистика. Разве есть еще что-то?
Я вот вижу один объективный критерий: при возникновении болевых ощущений человек старается их прервать и больше не допускать. Точно так же, как алгоритм машинного обучения старается не допускать ситуаций, за которые штрафуют его функционал качества.
Кроме некоторых людей и инопланетян (если они существуют), никто и ничто во вселенной не знает математики, равно как физики и химии, однако поведение всех объектов вселенной описывается означенными науками.
Нейроны же не знают математики, значит и описать эти принципы можно не используя сложные математические алгоритмы.
Не значит. К примеру, пустая бочка из-под солярки ничего не знает, но если скатить ее с откоса высокой железнодорожной насыпи, описание ее траектории может потребовать сложного мат. аппарата.
Собаке не нужен миллион повторений, чтобы выучить команды сидеть/лежать.
А кто, когда и где доказал, что любой программе нужен миллион повторений?
На начальном этапе есть некоторое сходство, но есть что-то еще, что никем не учитывается.
Что не учитывается? Волшебство?
Текущие алгоритмы, используемые в нейросетях, работают не так, как естественный интеллект.
Разве «алгоритмы, используемые в нейросетях», должны работать в точности так, как «естественный интеллект»? Шахматные программы «думают» не так, как люди, однако часто побеждают.
Злоумышленники с помощью похожих систем могут отслеживать паттерны поведения, что делают секьюрити-администраторы конкретной сети, какие у них тренды, как они осуществляют анализ и мониторинг своей сети. Имея эти знания, они могут предпринимать какие-то шаги в обход этой защиты. Борьба будет продолжаться.
Похоже, что это инфинитная война. При том, что злоумышленник всегда на шаг опережает защитника: происходит одно или несколько нападений и тогда предпринимаются ответные меры. Вчера написал про книгу Дэвида Минделла «Восстание машин отменяется! Мифы о роботизации», где высказал мнение, что инфинитность войны со взломщиками делает угрозу бунта роботов вполне вероятной.
Думаю один из значимых различий — отсутствие боли (во всех ее смыслах). Человеку очень легко объяснить, где неправильно. Накричать, ударить, наказать голодом и так далее.
Речь о моделировании. Модель может «чувствовать», т.е. оперировать такими понятиями, как «боль», «правильно», «неправильно» и т.д. Нпр., примитивная игрушка тамагочи «чувствовала» боль, голод, скуку и т.д. Несложные враги из многих компьютерных игр обладают инстинктом самосохранения и пытаются победить, а не проиграть.
Следовательно, существует алгоритм «перепрошивки»? И его можно реализовать в кодах машины? — Иначе получим, что не всякий алгоритм реализуем на универсальной машине. Это будет противоречить теории.
Не превзойти, а хоть приблизится может? Пусть с посторонней помощью? Изначально ребенок ничего не знает об «объектах, существующих в мире». За 5 лет с помощью двух или даже одного родителя, который может быть не лучшим педагогом, он узнает очень много. Может ли компания отличных педагогов за 5 лет научить машину тому, что знает пятилетний ребенок? И почему пока это не удавалось?
Описание принципов работы CPU начинают с описания простейшего составного элемента — триггера. Такое описание позволяет понять принципиальные отличия между аналоговой и цифровой обработкой информации. Что касается не искусственных нейронов, то не совсем понятно, к каким устройствам они ближе: к аналоговым или к цифровым?
И кроме того, в случае облаков возникает опасение: не получится ли ситуация с дитем, у которого семь нянек? Т.е. при разделении обязанностей между службами безопасности банка и облака? Исходя из общих соображений, система надежнее, когда всё сосредоточено в одних руках. Две службы могут просмотреть уязвимость только потому, что каждая из этих служб будет считать, что за данную область отвечает не она.
Может быть скрипт, где формальные правила записаны на языке, близком к естественному. Конечно, при наличии программы, которая умеет интерпретировать такой скрипт. Для описания правил шахмат такая программа не имеет особого практического значения, поэтому ее никто и не делает. А вот для карточных пасьянсов описание правил пасьянса через скрипт — очень привлекательный подход. Программисты делают только одну программу — игровой движок, а скрипт для конкретного пасьянса может написать любой человек, т.к. правила написания скрипта не требуют знания программирования. Подобный подход применяется во многих компьютерных играх. Например, в КР2 (упомянута в рецензии) многие непрограммисты, не имеющие доступа к исходному коду игры, сделали много карт-скриптов планетарных битв (их можно найти в Интернете). Единственным инструментом, нужным для этого, является специальный редактор карт. Редактирование проходит в наглядном графическом виде, освоить этот редактор гораздо легче, чем нпр. «Фотошоп».
На мой взгляд, далеко не всё нужно пояснять каждый раз. Нпр., в Windows API уже зашита куча функций, без которых даже простенькая программа становилась бы чрезвычайно сложной.
Да. Как он будет думать, потребителям без разницы, главное, чтобы он действовал как адекватный человек.
Шахматные программы и программы Го не прикладные в том смысле, что не выполняют какой-то полезной работы. Может быть только PR разработчиков и спонсора.
Всякий пятилетний ребенок «сможет сам научиться выигрывать в шахматы»?
Еще параметры, характеризующие упругость бочки и необратимые деформации, аэродинамические свойства (парусность). А еще параметры склона: изменения крутизны, распределение камней по размерам и т.д. Однако бочка и склон не используют в явном виде понятие «производная», как и нейрон. Значит ли это, что в модели скатывания бочки по склону мы не должны использовать производную? — Думаю, что не значит.
Хорошо — пусть алгоритмы. Разве им нужен «миллион повторений»?
Что тогда? Есть научный подход, в котором можно увеличивать точность учета свойств, устройства и поведения моделируемого явления, вплоть до достижения требуемой предсказательной силы моделью, а есть танцы с бубном и прочая мистика. Разве есть еще что-то?
Не значит. К примеру, пустая бочка из-под солярки ничего не знает, но если скатить ее с откоса высокой железнодорожной насыпи, описание ее траектории может потребовать сложного мат. аппарата. А кто, когда и где доказал, что любой программе нужен миллион повторений? Что не учитывается? Волшебство? Разве «алгоритмы, используемые в нейросетях», должны работать в точности так, как «естественный интеллект»? Шахматные программы «думают» не так, как люди, однако часто побеждают.