Комментарии 62
Помимо аргумента Ройтблата о том, что для такого обучения надо слишком много времени, есть еще один: в текущем сверхсвязанном и сверхсложном мире, single-agent оптимизация уже давно неадекватна для решения проблем. Нужны принципиально новые подходы для многоагентной координации на многих уровнях. Я подозреваю что простого подкрепления тут недостаточно не только с практической, но и с теоретической точки зрения.
Почему single-agent? Должно бы масштабироваться и на multiple-agents. А в идеале, чтобы не получать очередные порции несвязной информации, можно конструировать виртуальные копии environment, чтобы увидеть исследованные и не исследованные ситуации, в которые попадал агент. Можно представить ситуацию, вместо того, чтобы посылать агента в опасную ситуацию. Но это, если получится свернуть признаки до общего принципа, например, если агента на полигоне убило бочкой, камнем и так далее, то всех тяжёлых предметов нужно опасаться.
Вот именно! ИИ нужно научить смерти. Тогда дело сдвинется.
при этом само вознаграждение — это просто число, которое ИИ как сложная функция стремится максимизировать
т.е. вознаграждение это не банан, а удовольствие от банана, и в этом ИИ ничем от нас не отличается, ИИ может потенциально взломать свою систему удовольствия, но и мы тоже можем взломать свою
предполагается, что уважающий себя ИИ не будет взламывать свою систему удовольствия, чтобы не деградировать, подобно тому, как этого не делают уважающие себя люди
интеллект ну совершенно никак, от слова совсем, невозможен без языка
Без языка интеллекта там нет даже отдаленно
Как же тогда интеллект появился? Инопланетяне обезьян без интеллекта языку научили?)
И именно языковая структура и позволяет сформироваться интеллекту, в человеческом его восприятии
Это ваше личное восприятие, не надо говорить за всех. У меня например другое восприятие этого термина, по которому интеллект у животных вполне может быть.
а иной интеллект нам и не нужен, ибо с ним по определению невозможно будет коммуницировать
У меня вот с собакой получается коммуницировать. Говорю "иди сюда", она подходит, говорю "иди на место", она уходит. Какое-то неправильное у вас неправильное определение.
по определению невозможно будет коммуницировать
Коммуникация это по определению передача информации. Передача информации от компьютерного ИИ возможна через отладчик и аналогичные способы типа логов или мигания светодиодами.
При этом, например, в физиологии высшей нервной деятельности под интеллектом биологических видов принято понимать (на уровне экспериментальных методов, например тест на пространственную экстраполяцию или тест на поиск орудия) Способность выдать правильное решение задачи минуя фазу проб и ошибок /т.е. материального ответа среды на реакцию/. Похоже кибернетика идет в прямо противоположном направлении от биологии. Тогда интеллект ли это в биолог.понимании???? Или особенная система познания мира альтернативная биологической.
Интеллект вообще - это способность материи отражать движение материи для её преобразования. Закрепляется в случае, когда эффективное преобразование материи позволяет самовоспроизводиться.
А человеческий интеллект имеет общественную природу. Без общества человеческого интеллеката не бывает. Поэтому сильный ИИ как минимум должен уметь общаться с людьми, чтобы перенять накопленный человечеством опыт интеллектуальной деятельности. Сам по себе магическим образом из вычислительной мощности он не появится.
Социальная среда - необходимое условие для полного раскрытия потенциала биологической основы человеческого интеллекта. Без того же языка даже задачу толком не поставишь.
Этот тест, имхо, является единственным корректным определением интеллекта (и сознания тоже).
Этот тест появился в то время, когда наука об ИИ не была настолько развита, и основан на представлениях, которые тогда были. Он не показывает корректно ни сознание, ни интеллект. И мне кажется, сам Тьюринг сказал бы то же самое, если бы знал современное состояние науки.
Ни интеллекта, ни сознания объективно нет. Но у нас (людей) в мозгах есть детектор себе подобных (разумных и сознающих, как нам кажется).
Если детектор есть, значит и интеллект/сознание объективно есть, иначе что бы он детектировал.
Вася детектирует сознание/интеллект у Пети, а Петя у Васи, оба делают вывод о наличии сознании у себя, и возникает коллективная иллюзия, что у всех людей есть сознание.
Дело в том, что например у камней мы интеллект не детектируем, а значит есть некоторое наблюдаемое отличие между Петей/Васей и камнем.
Ну так а в чем противоречие?
В том, что интеллект и сознание объективно есть, а вы говорите, что нет.
Это мы уже дали название этой «магии», так же как дали название цвету.
Это и означает, что эта магия объективно есть. Есть набор наблюдаемых признаков, у него есть название. Это справедливо для любых терминов.
Другими словами, я думаю, что первично тут ощущение наличия «души» у соплеменников.
Не только у соплеменников, у животных тоже наблюдается поведение, которое можно отнести к сознанию или интеллекту. Неважно, как это называть, интеллект или душа, это просто термины, важно что есть некий набор признаков. Если мы называем его "душа", значит задача стоит как "создать душу в компьютере", потому что сейчас мы ее вполне объективно создать не можем. Соответственно, если создадим, это будет вполне объективный (измеримый) результат "создали".
Есть набор наблюдаемых признаков, у него есть название.
Мне кажется тут есть опасность обозвать объективным вообще все.
Всё, что можно померить прибором или сформулировать критерии, применимые к результатам измерения — это объективно. Всё, что нельзя измерить, считается объективно несуществующим.
Цвет объективно есть?
Объективно есть и длина электромагнитной волны и ее восприятие существом. И это не одно и то же.
а вот сознание исчезнет, так как не будет в природе детектора оного.
Нет, оно исчезнет потому что в природе не будет носителя оного. Характеристики носителя сознания и детектирует детектор. Если один человек останется, то сознание у него будет, хотя другого детектора, который бы определил его наличие, нет.
Это если мы считаем, что сознание есть только у человека.
животные останутся
У животных вполне себе есть сознание, потому что у них может быть состояние, которое можно описать как "без сознания".
Например, я не могу сказать, что у моего кота есть «душа»
Душа
лат. anima
Аристотель различает три рода души:
растительная (способная к питанию и размножению);
животная (чьи функции — ощущение и передвижение);
разумная (свойственна только человеку, её функция — мышление).
The word "animal" comes from the Latin animalis, meaning having breath, having soul or living being.
Слова "одушевленный" и "неодушевленный" тоже отсюда произошли. "Кот" — одушевленное существительное.
Возможно собака просто удовлетворяет нашему детектору больше чем кошка.
Или возможно у нее есть интеллект в том же смысле, в котором он есть у человека. Почему надо какую-то другую причину искать?
Да, но это не значит, что какая-то «душа» реально есть.
Как самостоятельная субстанция или физическое поле возможно и нет. Но про это никто и не говорит. Напротив, считается, что интеллект можно реализовать на элементной базе компьютеров, почему и делают всякие нейронные сети.
Материя реально есть, ее характеристики реально есть, определенные значения характеристик мы называем словом "интеллект", значит и он реально есть. Это ничем не отличается от любых других понятий, про которые мы можем сказать, что они реально есть.
Другими словами, в общем то не важно как оно будет внутри устроено. Важно только чтоб наш детектор был «доволен»
Ну так вот дело в том, что внешнее поведение, которое детектирует детектор, зависит от внутреннего устройства. Некоторое устройство дает нужное поведение, некоторое нет. Вот то, которое дает, и называется словом "интеллект", его и хотят повторить в компьютере. И оно существует настолько же объективно, насколько объективно течение воды в реке.
Вопрос: Будем ли мы их воспринимать как живых существ с сознанием или нет?
Так очевидно же, если они будут реагировать на происходящее вокруг аналогично людям, то будем, если не будут, то не будем. Совершенно неважно, каким путем они появились.
Вот компьютеры пока не реагируют аналогично людям, значит есть какие-то объективные различия в обработке информации.
Тест Тьюринга именно об этом и есть. Объективный, измеримый и основанный на реальном природном детекторе.
Детектор не объективный, потому что нельзя сформулировать критерии, по которым он определяет результат. В измерительных приборах важно то, что они работают по известным законам. Ни один прибор, который выдает результат по неизвестным критериям, не будет считаться объективным.
Кроме того, на результат этого природного детектора действует не только измеряемая величина, поэтому его результаты измерения необъективны.
Тест не объективный, потому что может быть ситуация, когда природный детектор показал наличие интеллекта в одном разговоре, но отсутствие в другом. Или ситуация, когда существо с интеллектом не хочет или не умеет говорить.
Также он не показывает уровень интеллекта и не дает критерии для его измерения, а мы точно знаем, что у разных людей разный уровень интеллекта.
Мы можем говорить только о наличии/отсутствии детектора.
Но как он может что-то детектировать, если этого "что-то" нет? Раз детектирует, значит оно есть.
Тем более, что вы оспариваете каждое мое слово.
Ну что ж поделать, если ваши слова связаны с обсуждаемой темой и противоречат известным мне фактам. Я же не отхожу от темы и привожу примеры для пояснения своих слов. Возможно у вас просто слишком много заблуждений по ней.
Детектят какое-то пятно на брюшке и все, чувак свой. Наш детектор вполне мог быть таким же.
Ну так пятно на брюшке объективно существует.
Наш детектор связан с обработкой информации и соответствующим поведением. Мы же определяем хорошие нейросети как умные и правильно действующие в заданной ситуации, хотя внешне на людей они совсем не похожи. Обработка информации это объективно существующая и измеримая вещь. Вот цель как раз сделать такую обработку информации, чтобы наш детектор определял ее результаты как "интеллект". А эти результаты вполне объективно зависят от ее внутреннего устройства, в первую очередь от алгоритмов.
Никакого отношения оно к устройству тушки не имеет.
Пятно на брюшке это следствие генетических особенностей, то есть внутреннего устройства. Детектор не детектит внутреннее устройство, но он детектит внешние проявления этого внутреннего устройства.
Этот признак может быть каким угодно. Даже надпись на лбу «человек».
Да, все верно. Вопрос в том, как сделать такую "надпись на лбу" в компьютере.
Не совсем, я говорю, что интеллект есть, а вы говорите, что нет) Интеллект это та причина внешних проявлений, на которые срабатывает детектор. Раз проявления есть, значит и причина есть, ее не может не быть. Вы почему-то считаете, что эти проявления состоят исключительно из фенотипа существа, хотя есть множество доказательств обратного.
Куда бы мы эту надпись не прилепили, пациент будет абсолютно уверен, что перед ним человек.
Да, верно. Но это уже будет не детектор признаков интеллекта, а детектор надписи "человек".
Да, если у всех людей заменить детектор, то они прилепят надпись "человек" на компьютер и будут считать, что изобрели ИИ. Только это не будет означать, что они изобрели те признаки, на которые срабатывал тот изначальный детектор. И не будет означать, что те признаки объективно не существовали.
Для вас же возможность замены видимо ничего не значит.
Ну как это не значит, я наоборот говорю, что и интеллект и его детектор объективно существуют и определяются своим внутренним устройством. Если заменить устройство, это будет уже что-то другое, а не исходное, и из этого не следует, что исходное объективно не существовало.
Наверное, это звучит странно и неожиданно. Но когда я делал систему антифрода на базе ML, она работала лучше большинства наших специалистов — при том, что я не являюсь специалистом по фроду. Когда мы делали систему прогноза продаж, она работала плохо и неточно. Но любые попытки человека предсказать продажи были намного провальнее.
Картинки человек долгое время различал лучше, чем машина — но вспомним, какой размер датасета вколотила эволюция в зрительную кору.
Так что у нас уже есть средство, которое решает задачу предсказания лучше нас в значительной доле случаев. Осталось решить обратную задачу — задачу управления
Как всегда диванные комментаторы на хабре считают что умнее ученого из дип майнд. Это просто смешно
В изобретательстве есть правило: если задачу долго не удается решить, то это значит, что решается не та задача. Может быть, с учетом этого правила, стоит поискать другую задачу, решение которой приведет к созданию ИИ?
********
«… IT-специалисты спроектировали и разработали всевозможные сложные механизмы и технологии для создания аналогов зрения, языка, мышления, моторики и других способностей, присущих разумной жизни».
Зрение, язык, мышление, моторика, добавлю — обоняние, осязание, слух и т.д. — это действительно способности разумной жизни. Но пока нет гарантии, что, даже создав аналоги этих способностей, будет получен интеллект.
Так, может быть, следует задаться вопросом — зачем разумной жизни, или лучше — интеллектуальному объекту указанные способности?
Это и будет искомая «другая» задача, а для её решения придется ответить на вопрос: какую функцию выполняет интеллект объекта, использующего зрение, язык, мышление и т.д.? Или чуть по-другому: какую цель достигает объект с помощью интеллекта?
Да цель в общем-то ясна, построение информационной модели окружающей среды, вопрос в том, как именно превратить входящую информацию с датчиков в модель.
Извините, позанудствую: А зачем (с какой целью) нужно строить информационную модель окружающей среды?
Хотя, конечно, это не занудство, а способ выяснения ответов на цепочку вопросов «Зачем (с какой целью)?» и т.д. — пока не будет получен ответ, к которому задать очередной вопрос «Зачем (с какой целью)?» не получится… Вот этот ответ и будет целью. Или, лучше — направлением, в котором меняется (эволюционирует) природа. Этот ответ можно принять за аксиому. Правда, пока наши знания не углубятся далее и не заставят искать новый ответ на тот же вопрос «Зачем (с какой целью)?»
Кстати, в одном из Ваших комментариев к Вашей статье "Что такое интеллект?" смутно цель упоминается: «В контексте эволюции модель* повышает выживаемость вида. Остальное это следствия».
*У Вас модель — блок памяти интеллекта, и я надеюсь, что правильно подставил это определение в Ваш комментарий.
А зачем нужно строить информационную модель окружающей среды?
Чтобы с ней взаимодействовать (с окружающей средой), и в конечном итоге для основной цели — выживания существа. Но это неважно, потому что интеллект нужен уже на предыдущем шаге.
Правда, я формулирую пошире: для сохранения (существования, дления, бытия, жизни) объекта. Важно, что не только для «выживания существа», а для сохранения (существования и т.д.) любого объекта. Смотрите, мы же сегодня пытаемся наделить интеллектом компьютер (самый расхожий пример), и автомобиль, и дом, и телевизор, и стиральную машину, и, к сожалению, оружие… Объекты можно перечислять бесконечно. И все эти объекты должны сами прежде всего сохраняться через выполнение своей функции.
С этой точки зрения, что такое интеллектуальный автомобиль? Это автомобиль, который сам стремится сохраниться (продолжить существовать, длиться, быть, «жить»), выполняя при этом свою функцию — перемещать пассажиров и/или грузы. Если объект не выполняет свою функцию, мы его отправляем на свалку, отказываемся от него — объект не «выжил».
Поэтому именно главную цель «сохранение (существование, дление, бытие, жизнь)» надо закладывать в определение интеллекта. Тогда это определение будет операциональным, т.е. может использоваться для разработки и создания интеллектуальных объектов.
Поэтому именно главную цель «сохранение (существование, дление, бытие, жизнь)» надо закладывать в определение интеллекта.
Не надо, так как для достижения этой цели интеллект уже должен быть, чтобы давать результаты обработки информации. Из чего следует, что если закладывать такую цель, то изобрести его не получится. Процесс не может зависеть от своего результата.
А как же обратная связь?
Ну так любая обратная связь предполагает, что есть изначальный процесс прямого получения результата, по которому она будет происходить. Также это понятие связано с одним циклом циклического процесса, а мы говорим про результат такого процесса в целом, после всех циклов для заданной обработки информации.
Ну и что, что не бывает. Без интеллектуальной обработки входящей информации указанная цель в принципе не может появиться, поэтому для определения, какую обработку считать интеллектуальной, она не нужна. Цель подразумевает сравнение текущей и целевой ситуации, для этого сначала нужно перевести информацию с датчиков в какой-то более структурированный вид, это и будет интеллект. Да, результат обработки входящей информации тоже можно использовать как входящую информацию для дальнейшей обработки, но это просто следствие того, что он тоже является информацией. Интеллект связан с обработкой информации, я не очень понимаю, зачем надо обязательнл стремиться добавить какие-то другие критерии.
Почему "не наблюдается"? Что вы подразумеваете под интеллектуальным поведением? Реагирование в соответствии с происходящим в окружающей среде это вполне интеллектуальное поведение. А то что они не так уж много происходящего распознают, ну так на то они и насекомые, у них не так много информационных элементов.
Также надо разобраться, что именно у них там строится. Не любой набор информации это информационная модель. Мы сначала распознаем окружающие объекты один-к-одному, то есть у нас появляются информационные объекты, соответствующие реальным объектам, затем мы их можем обобщить в более абстрактные понятия (все конкретные деревья в понятие "дерево"). Обе этих составляющих являются частями информационной модели, первая это модель текущей ситуации, вторая это модель некоторых более абстрактных зависимостей (схожесть реальных деревьев).
В программах например мы закладываем извне вторую составляющую, и это позволяет нам делать первую, то есть моделировать в программе текущую ситуацию. Если у насекомых эта вторая составляющая сформировалась в ходе эволюции, то это ничем не отличается от программ, у них нет способностей строить эту модель, поэтому и вряд ли можно говорить об интеллекте. Собственно, принцип один, чем больше информационных объектов, моделирующих объекты (процессы, явления, взаимосвязи) окружающей среды распознается, тем больше интеллекта.
DeepMind считает, что обучения с подкреплением хватит для разработки сильной формы искусственного интеллекта