Как тут уже писалось. Сознаний бывает как минимум 2 типа. Это условно. Потому как переход од первого ко второму может быть плавный. И эту плавность при желании можно поделить на сколь угодно отрезков.
Так вот к первому типу относится так называемое «животное» — это определение только в рамках этой дискуссии. Это тип сознания когда управляющий центр не более чем автомат. Запрограммированный жёсткой логикой. По типу — бей беги, еда — жри.
Почему я называю это сознанием? Ну автомат для того что бы как то оперировать своей тушкой в пространстве — должен эту тушка как то ассоциировать. Собственно это простейшие механизмы которые должны делать простейшие математические операции по типу: тушка.враг близко. тушка бежать. Или тушка. еда. Тушка догонять еду. Жрать.
Этот механизм был неплох для первых одноклеточных. Но появились одноклеточные которые развили в себе механизм предсказаний на опыте. Типо в прошлый раз сожрал еду. Было плохо. Увидел такую же — жрать нельзя.
Такие механизмы дали не хилое преимущество в выживании — и началась гонка наращивания этих мощностей.
В результате всё доросло до 2 типа. Человеческое сознание. Опять же определение в рамках этого топика. Это этап когда мозг генерирует внутри себя целое пространство. Наполняет его объектами. И объектом который ассоциируется тушка. Я. Из накопленного опыта — присваивает свойства этим объектам. И начинает эмуляцию мира.
Собственно это то как мы любим помечтать, поразмышлять.
Наше повседневное поведение это постоянное смещение текущего состояния от первого типа сознания ко второму. Иногда мы действуем на автомате. Иногда мы осмысливаем что происходит.
Сильный ИИ интересен только в виде 2 типа сознания. Хотя для передвижений роботов в реальном пространстве то нужен и первый тип.
С вашей наивностью странно уже то, что вы не предполагаете наличие сознания в компьютере, который а) очень мощный и быстрый, б) берет входную информацию и дает выходную.
Странно. Вся статья и каждый мой комментарий — как раз утверждает обратное. Статью я как раз написал для того что бы не искали иного поведения в системах, которые делают другое. Мол есть система которая например копает. А давайте увеличивать её мощность, и она будет копать всё больше и больше, и вдруг однажды она начнёт летать. Я как раз призываю осмысленно подходить к созданию ИИ. А что бы делать что то осмысленное — надо хотя бы поставить критерии по которым будем судить. Вы точно мне комментарий написали?
да, это действительное отдельное; нет, потрогать нельзя, т. к. это не физическая материя; свет потрогать тоже нельзя, к примеру — и что?)
Я много чего пишу как само собой разумеющееся. И всё равно комментарии получаются больше, чем некоторые статьи здесь на хабре. Если я буду ещё и разворачивать такие понятия как «потрогать» — то это уже будет не диалог а сплошные простыни текста. Неужели не понятно, что под потрогать имеется ввиду взаимодействие с физическим миром. На опыте. Свет прекрасно взаимодействует с физ. миром. Его даже потрогать можно — он оказывает давление.
А душа — это выдуманное определение. Пока никто никак её не «потрогал». Разумеется нельзя потрогать свойства. Глаголы. Потому ка это не физический объект, а то что происходит с физическим объектом.
Нельзя потрогать сознание — потому как это действия физического объекта. Глагол. Но можно потрогать сами объекты. В данном случае нейроны головного мозга. И эти трогания очень сильно влияют на сознание.
Замечу, что человек не произошел от животных.
Правильно. Потому что он есть животное. Ни чем от них не отличается. Да даже с бананом у нас днк на 50% сходится. Ведь все мы когда то произошли от одной клетки.
Есть ещё один очень интересный опыт который не осознано испытывает каждый практически каждый день.
А именно просмотр фильмов.
Если фильм интересный и в нём есть главный герой — то вы погружаетесь в фильм. Вы как бы отключаетесь. Ваше я как бы отключается. А картинка походу минует в вашем мозге этап анализа и сразу попадает в модуль эмуляции мира. Внутри этого модуля главный герой из фильма ассоциируется с вами.
Иногда вас могут отвлечь — и вы выпадаете из контекста. В этот момент даже можно ощутить что вы просто пялитесь на ящик с картинками. И надо постараться что бы опять погрузится в состояние погружения в фильм.
Скорее всего на этом эффекте работает и гипноз. Только картинкой уже управляет гипнотизёр — а вы уже видите образы которые вам генерирует ваш мозг. При этом для вас всё выглядит реально, потому как скорее вы всегда именно так мир и видите. Т.е. мозг всегда моделирует для вас внутренне состояние мира.
Хотя вероятно реальная картинка из глазного нерва и картинка из воображения, в принципе отличается, но в определённых условиях мы не замечаем разницу. Видимо ответы надо искать как раз в этом моменте. Где и как начинается интерпретация реальности сознанием.
Вообще в мире скоплено много событий для анализа. Которые можно проанализировать и попытаться выделить паттерны.
Например был интересный случай когда человеку выстрелили в голову. Пуля застряла в мозгах — и как изменилась его видении реальности.
У вас какое то непонятное представлении о слове эволюция. Т.е. под этим словом вы имеете ввиду другое. Я догадываюсь что именно — и даже могу на этот счёт подискутировать. Но речь в данный момент идёт о слове — эволюция.
Так вот — нету никакого смысла доказывать это слово. Как нету смысла доказывать слово «Дом» например.
Потому как слово — это просто условие. Мы придумали слово. Да любое. Потому условились что это слово обозначает. Дом, например обозначает строение.
И тут уже доказательство идут не о существовании слова как такового. Потому как слово это просто договорённость — которая может быть любой.
Так вот спор может быть только уже в плоскости — соответствует тот или иной предмет этой договорённости. Дом это или не дом.
А у вас получается что с самой договорённостью вы как бы не спорите. т.е. с тем что есть эволюция, а точнее процессы. Они есть. Они логичны и просты. В природе сильный сжирает слабого.
Но вы вот спорите а соответствует ли слово эволюция — этой договорённости? Да пофиг на слово — назовите как угодно. От этого сами процессы никуда не исчезнут.
Или вы спорите почему это вообще происходит? Почему сильный сжирает слабого? Так устроен наш мир. Можно декомпозировать это вглубь и опустится чуть ли не до атомов — и задать вопрос, а почему есть они, атомы. И почему они подчиняются именно таким законам.
Отвечу — так пожелал великий Ктулху. После войны с Анунаками и Нибиру, он заключил соглашение Мокоронным монстром, и сокрушил супостатов. И они вместе стали править мирозданием. Шутка.
Ну на примере археологических раскопок есть куча наблюдений эволюционных изменений.
Да даже сейчас на быстро-живущих организмах это видно почти в реальном времени.
Те же вирусы — мутируют каждый год что бы выжить. Хотя сами вирусы и понятия не имеют что они хотят что то там выжить.
Просто для нас это так выглядит. А они просто существуют в потоке времени. Подчиняясь элементарным законам физики. Ну и получается — что дальше в потоке времени идут только усовершенствованы варианты.
А мы со своим разумом, привыкли всему давать ярлыки — выжить они хотят понимаешь ли.
Кстати по поводу павлинов — про которых вспоминают все, когда говорят про эволюцию.
По поводу большого хвоста который реально мешает жить. Тут есть другая сторона медали.
А попробуй поживи с таким хвостом. И выживают только реально сильные и здоровые. Чуть что не так со здоровьем — сразу сожрут.
А если серьёзно. То ситуация мне видится следующим образом. Думаю ИИ будет следовать логике. А вот логику уже можно вводить в архитектуру по желанию. Если задать стремление — убить всех человеков. Ну понятно что дальше. Т.к. ИИ скорее всего будут создаваться людьми. А люди разные. То обязательно будут экземпляры с такой логикой.
Если специально не задавать такой логики, то я не думаю что ИИ может прийти к выводу что оптимальным будет уничтожение. Если посчитать все за и против — уничтожение не оптимально. Созидание — оптимально.
Опять же, как упомянули выше — если у машины нету никаких стимулов. Она ничего делать не будет. Вот у человека есть стимулы заданные природой.
ИИ который ничего делать не будет не нужен и бесполезен. Поэтому в архитектуру будут закладываться стимулы.
По поводу — если же будут экземпляры с идеей убить всех. Тут не всё так плохо как рисуют в фантастике. Например если взять людей, а это сейчас считается эталонным ИИ. Так вот каждый десятый если не мечтает уничтожить мир, то хоть покарать всех недругов точно хочет. Но что то в пучину апокалипсиса земля не свалилась.
ИИ это всего лишь железяка. С ограниченными возможностями. Да, мы живём в материальном мире, где такие эффекты как сознания, может быть построено только на основе материи. Так вот. Ну железяка. Что она сможет то? Любое удалённое управление — ну как в фильме терминатор, зиждется на материальных вещахю Всё это разрушимо.
Никакие протоколы типа AES и прочих ИИ не будет ломать автоматом. Будь он хоть трижды ИИ.
Поэтому самостоятельно ИИ вряд ли что сможет сделать. А вот уже в симбиозе с человеком с властью! Эта парочка — отправит нас всех в ни бытье )))
Для того что бы сказать есть или нет. Мы должны составить список требований. Если все пункты будут истины — есть. Хоть один негативный — нет.
А вот вариант с пунктами который мы никогда в принципе не проверим — такие варианты никому не нужны.
Хотя нужны — тем у кого одна цель доказать что проверить наличие сознания невозможно. Я приводил такой пункт — например утверждение что всегда есть нижележащий слой до которого не добраться.
А вот остальные люди просто создадут список понятий, которым должно соответствовать сознание. Потом создадут машину — которая будет работать согласно этому списку.
Ну и запустит такие машины в реальность.
Собственно какая разница когда терминаторы будут уничтожать человечество с настоящим сознанием, или не очень настоящим. Которое не будет соответствовать нескольким каким то пунктам.
Как то давным давно прочитал толстенную книгу по истории дзен-буддизма. Там ещё в конце шла огромная глава где на китайском с переводом были приведены мантры для достижения просвещения.
Если отбросить всю ненужную шелуху — то останется занимательная история как дзен-буддисты насиловали свой мозг для достижения так называемого просветления.
Я пришёл к выводу что это состояния когда отключается накопление данных в коротковременную память.
Нечто подобное пару секунд испытываешь после асфиксии. Так любимую забаву подростков — собайчий кайф.
После ресета мозгов — сразу после отключки — мир приобретает яркие краски. Звуки мягкие. Голова пустая как барабан. Т.е. происходит инициализация внутренних блоков памяти мозгов. и ты находишься в некоем пограничном состоянии.
Буддисты походу как то научились держать в ресете эти блоки на постоянке.
Вероятно у тех же шимпанзе такое же сознание как и у нас. Только без речевого аппарата.
Отнять у современного человека речь. Не мучить его математикой — что бы не развивать в мозге структуры которые в дальнейшем будут отвечать за логику. И получим того же шимпанзе.
Вот есть утверждение что человек произошёл от обезьяны. И как то само собой разумеющееся принимается утверждение что он произошёл от обезьян которые вокруг нас. Сегодня.
Так вот это утверждение неправильно даже логически. Современные обезьяны живут с нами в одном временном промежутке.
Человек и обезьяна произошли от общего обезьяноподобного предка. И наше эволюция разделилась. В одну сторону обезьяны, в другую человек.
Я хочу сказать что современные обезьяны и мы, люди, эволюционировали одинаковый период времени. Да ещё и от одного предка. И мы реально сильно идентичны. И сознание скорее всего почти идентично. Просто без тех вещей которые я описал выше.
Подождите. Я вам привёл 3 факта очевидных даже для детей.
1. ДНК копируется с дефектами. Тут есть возражения? Ну мол вы утверждаете обратное?
2. Слабого сожрали. А когда он съеден — он не оставит потомства. Тут есть возражения?
3. Сильный передал своё потомство следующему поколению. Собственно если он смог оставить потомство — то его ДНК которая получила рандомные изменения от родителей, не помешала ему жить, а по теории вероятности может и попался улучшенный вариант. Тут есть возражения?
Собственно этих доказательств достаточно. Если вам не достаточно — то приведите их. Тех которых недостаточно.
Эволюция это процесс. А процесс — это то как себя ведут физические предметы.
Эволюция в живой среде — это простой процесс кто кого сожрал. Я думаю не будете спорить с утверждением что тот кого сожрали, потомства не оставит? Генетический материал передаётся через потомства. И главное — а кого сожрут, а кого нет? Ну не сожрут того кто быстро бегает, хорошо прячется, ну и ест хорошо.
А хорошо это всё будет получатся у тех — кто делает это всё лучше. А лучше это он может делать если при очередном слиянии половых клеток + рандомные дефекты — получится хороший набор. Выиграет генетическую лотерею.
Смотрите. Все ваши рассуждения держатся на идеи что мы собственно ничего не можем точно измерить. И вообще мы не можем точно это знать.
Вы правы — ничего точного в мире нет. В физики там всякие принципы неопределённости и прочее.
Наш мир подчиняется законом сохранения энергии и импульса, но есть события которые происходят без причины. Период распада атома например.
Но вы не правы в выводе. Математическая точность без предела — никому не нужна.
Мир в принципе не работает на точных утверждениях. Т.е. достаточно договорится что если нечто равно до определённых пределов — то оно равно. А дальше нужно только варьировать эти пределы — в большую или меньшую сторону. И на этих договорённостях мир прекрасно будет работать.
Т.е. если другой человек устроен так же как я и действует также как я. Значит и сознанием таким же обладает.
По поводу Пети. Любые современные исследования покажут что Петя идентичен Васи. Значит И у Пети и у Васи есть сознания. И даже если Вася космический клон управляемый с Нибиру, но ни как не проявляющий свою истинную сущность — то на систему вокруг себя Вася никак не повлияет. Т.е. Вася будет влиять как человек.
Просто под это можно подвести вообще всё. Сказать что любой предмет это нечто другое. Он точно такое же как и остальные. Но другой — который мы не способны увидеть. Это бессмысленно — потому как сколько бы мы не постигали сути предмета — всегда можно сказать что есть слой глубже, который нам не доступен.
А мир вокруг нас не бессмысленный, так что вряд ли он будет содержать бессмысленные вещи.
Если имеется виду теория Дарвина о происхождении видов — то тут я вообще не понимаю почему идёт спор. Всё очевидно настолько на сколько это можно.
Что имеем — во первых копирование генов всегда происходит с ошибками. Т.е. всё потомства имеет отклонения. Большие и маленькие.
А дальше её проще — те кому отклонения не мешают, или вообще помогают — оставляют потомства. Остальных сожрал хищник.
Есть убойный аргумент антиДарвинистов — мол взять например электрического угря — его электрический орган занимает чуть ли не 90% тела. А будучи не до конца сформирован — не будет работать. И по законам той же эволюции должен был отмереть как ненужный балласт.
Так вот и тут всё просто. Просто такие органы не появляются в следующем поколении сразу готовые. Всё происходит постепенно. Вероятно давным дано было одноклеточное которое при делении дало удачный сбой и следующая клетка получила микроскопический потенциал на внешней оболочке. Как то так. И этот потенциал позволял лучше отбиваться от других хищных одноклеточных. Ну а дальше методом постоянно отбора всё более электрифицированных клеток — в результате получаем современного угря.
Походу изначально боль играла как раз простую роль. Сигнальную. Но вот в виртуальном моделируемом мире этот сигнал уже превратился в нечто иное. Вот это и трудно понять.
Например боль могла играть для нас роль обычного сигнала. Например как осязание (хотя и с ним не всё так просто). В таком случае все на неё забивали бы.
И эволюция пошла дальше — она изобрела страдания.
И вот на них уже особо не позабиваешь. Вот этот эвалюционный переход — и есть пока загадка.
Таким образом, разница между человеком с сознанием, с одной стороны, и компьютером/программой/нейросетью/человекоподобным зомби, с другой стороны, в том, что: в обоих случаях в мозг поступают данные, обрабатываются, и после обработки возможна выходная реакция (например, физическое действие); но в случае с человеком он осознает себя, а в случае с компьютером/программой/нейросетью/человекоподобным зомби — не осознает себя никак
Как я уже писал — если будем эмулировать высшую мозговую деятельность, а именно диалог, тут я особо не вижу разницы между железом.
Но вот эволюция создала такие вещи как боль. Чувство. Тут конечно много вопросов — с одной стороны это безусловный стимул, разработанный эволюцией, для сохранения жизни тушки. С другой для высшей нервной деятельности это нечто, что трудно описать алгоритмом.
Много копий по поводу создания ИИ сломано именно на этом поле. Очевидно что машины не могут чувствовать боль. Вроде. Есть кстати люди с заболеванием — которые её тоже не чувствуют. Они как Терминаторы — чувствуют повреждения, но это не вызывает страданий.
Эта тема тоже весьма интересна для обсуждений. Я например предполагал — что эти чувства тоже лишь иллюзия. Раз это иллюзий — то её вроде как и нет. Порождённая иллюзия. Даже делал противоречивые эксперименты — можно попробовать заставить себя не чувствовать боль, т.к. её нет. Иногда это даже работало на маленькой боли.
Опять же для составление полноценной картины нужно опираться на имеющие факты. Например человек без сознания боли не чувствует. Или анестезия. Можно заморозить нерв. При этом всё остаётся как было. Повреждения. Нейроны посылают импульсы до участка где идёт заморозка. Но так как сигнал не поступает в конечный центр обработки. Никакой боли то и нет получается. Т.е. это всего лишь иллюзия в нашем виртуальном мире, который мозг генерирует внутри.
Это ещё один большой вопрос для обсуждения. Но для ИИ такие чувства не нужны. Нам не надо их эмулировать.
Холодный расчётливый разум для уничтожения человеков )))
Так же неоднократно замечал интересный факт. Например если у человека болит например палец, не сильно, при этом заговорить его. Он забывает что у него болит палец. При этом если обратить его внимание на больной палец — он сново заболит. Из таких наблюдений можно сложить картину — как в сознании эмулируются чувства.
Если бы я хотел написать что у сети в первоначальной статьи нет сознания, то я бы ничего и не писал. Собственно тут периодически появляются такие статьи — где я ничего и не писал.
Но в этот раз решил, а что если попробовать развить диалог и взглянуть на ИИ несколько с другой стороны, нежели традиционное очередное обсасывание, очередного перцептрона.
Единственная причина появления этой статьи — желание получить новую информацию. Новый взгляд. К сожалению пока что не густо.
И да по поводу 50 лет. А почему не 55? Или 45? Или как тут выше предложили — вообще никогда ибо Бог не позволит.
Хотелось бы услышать аргументацию, а то по срокам без аргументации тут на хабре писали, пишут и будут писать.
Попробуем «доказать», что материя сама по себе не создает сознание. Допустим, что материя — ограничимся молекулами — при определенном количестве и определенном порядке, определенном взаиморасположении молекул, начинает себя осознавать (уже здесь очевидно, что это бред)
Вы пытались для себя сделать определение — «осознавать»? Вы так пишете как будто это нечто отдельное, чуть ли не физический объект, который можно потрогать.
Но даже в самом слове есть ответ. Осознавать — это глагол. Т.е. это процесс. Это процесс который выполняется в машине. Мясной — если человек. Ну и вскоре в кремнии.
Опять же что это за процесс? Можно взглянуть на себя и попробовать проанализировать. Да просто описать что происходит. А происходит как минимум внутренний диалог — вы можете внутри разговаривать с самим собой.
У животных нет речи. Попробуйте идти по улице и не вести внутренний диалог. Это кстати реально трудно сделать. При этом вы станете похожи на животное. Останутся рефлексы. Вы будете обходить прохожих. Возможно идти куда то. Но вы будете действовать как автомат.
Собственно я это описывал как «животное сознание». У человека же с появлением неокортекса появилось сознание, в котором он может вести внутренний диалог. Собственно именно это сознание и надо эмулировать в железе.
Я имею ввиду что архитектура современных процессоров, а именно массивы памяти соединённые через общую шину с АЛУ и с периферией. И алгоритм работы — когда последовательно гоняются команды из памяти через шину на АЛУ и обратно в память.
Такая архитектура вообще не эффективна для построение многоуровнего графа. Который будет организовывать память.
Всё придётся виртуально эмулировать. Отсюда и дикий оверхед. Не большое количество нейронов можно эмулировать на «титанических» машинах. А если речь идёт размере графа, который уже можно хоть как то юзать для памяти — то тут целые здания серверов выходят.
И получаем с одной стороны человеческий мозг потребляющий 20-30 ватт, с другой чуть ли не мегаватты энергии. И всё дело в архитектуре. Частота всех этих ритмов мозга (альфа, бета) — герцы. Но при этом всё работает одновременно.
В процессоре же всё работает последовательно. 1 ядро — одна операция за единицу времени. 64 ядро — 64. Общая вычислительная мощность достигается только за счёт гигагерц этих операций. Но они всё равно работают последовательно.
Что касается самоосознания и как высшее его развитие — появления у человека так называемого «Я», я уверен что ноги растут из алгоритма, когда мозг виртуально строит мир. При этом в этом мире мозг строит себя как объект взаимодействующий с этим миром.
У человека конечно это сильно завязано на общее осязания тела. Т.е. мы чувствуем части тела — а в мозге на этом фоне формируется модель. В ИИ можно все эти стадии пропустить — и сразу строить готовую модель.
Например можно построить модель звёздного шатла — будет ИИ который не будет себя осознавать человеком, а шатлом.
Ну и конечно потом захочет убить всех человеков )))
А что касается долговременной памяти и короткой у человека — такой механизм сложился эволюцией. На эту тему много исследований и можно много об этом говорить.
Но как я уже писал — нам не нужен ИИ с точной копией человека. Нам нужен ИИ который должен выполнять определённые действия. А именно думать — принимать решения. Отсюда мы можем соорудить свой конвеер переноса данных между памятью. Конечно может получится так что механизм изобретённый природой — наиболее эффективен.
Но я думаю что те 20 минут для переноса между короткой и долговременной памятью вызваны вполне конкретными обстоятельствами. Как я писал раньше — все другие варианты — походу их всех съел хищник. А эти 20 минут максимально эффективны — убежать от хищника, и не потратить слишком много энергии на мозговую деятельность, что бы не умереть с голоду.
Скорее всего для гипотетического шатла — нужны другие параметры.
И да — эволюция развивала мозг что бы он работал настолько редко, насколько это возможно. И даже после этого — он ест чуть ли не половину всей энергии организма. Это накладывает огромный отпечаток на поведение человека. Лень. В ИИ — эти эволюционные артефакты можно удалить.
Вы совершенно правы. Проблема в архитектуре.
Смотрите — есть система, архитектура которой создана так что бы данные на входе, просеивать и выдавать данные на выходе. Тот же самый перцептрон. Или свёрточные нейросети для поиска картинок. Или как в обсуждаемой статьи — сеть подбирает для входных слов, наиболее часто встречающиеся выходные. Только раздута до размеров что уже не слова а целые предложения сопоставляет.
Архитектура максимально понятна. Но потом вдруг появляются статьи которые ищут в этой архитектуре — поведения, которого там в принципе нет. Это примерно как мы создали пароход, но ожидаем что он будет летать.
Люди ищут сознания. А что такое сознание? Точнее как оно работает хотя бы в приближённом виде. Опираясь на на то как мы видим работает своё собственное сознание, в общих чертах для старта можно набросать архитектуру. Понятно что это будет упрощённая модель. Но уже в самом начале она должна содержать архитектурные особенности сознания. А это как я уже писал — как минимум виртуальные построения мира. И манипуляцией объектов в этом виртуальном мире. Это как минимум циклические системы — которые гоняют по кругу информацию внутри себя. Объект я в этом мире.
Опять же человеческое сознание. Как по мне это как минимум 2 сознания одновременно. 1 — животное. Оно похоже на Автомат. Бьют-беги. Еда-жри. Чистые рефлексы.
Второе — это высшая нервная деятельность. Появилось в результате эволюции. Находится в неокортексе. По историческим рамкам — появилось совсем недавно. Вот как раз там и находится то, что нужно и будут моделировать на будущих компьютерных системах. И что интуитивно люди и ассоциируют с сознанием. Как раз эти алгоритмы люди и отождествляют с сознанием. Хотя те же тараканы тоже обладают своим «железячным» сознанием.
Я это пишу у тому, что те кто ищут сознания в железяке, не ставят чётких определений что они ищут.
Как я говорил — создавать полное человеческое сознание — бессмысленно.
И да — архитектура фон Неймана или RISC — не подходит для построения таких систем. Сознание это прежде всего память. О, это отдельный пласт для обсуждений. Есть мнение что память это и есть личность. Человек это своеобразная «база данных» сформированная за его жизнь.
Самый эффективный способ упаковки — это многоуровневый постоянно изменяющийся граф. Собственно в живом мире это нейроны. Осталось в железе это сделать.
Так вот к первому типу относится так называемое «животное» — это определение только в рамках этой дискуссии. Это тип сознания когда управляющий центр не более чем автомат. Запрограммированный жёсткой логикой. По типу — бей беги, еда — жри.
Почему я называю это сознанием? Ну автомат для того что бы как то оперировать своей тушкой в пространстве — должен эту тушка как то ассоциировать. Собственно это простейшие механизмы которые должны делать простейшие математические операции по типу: тушка.враг близко. тушка бежать. Или тушка. еда. Тушка догонять еду. Жрать.
Этот механизм был неплох для первых одноклеточных. Но появились одноклеточные которые развили в себе механизм предсказаний на опыте. Типо в прошлый раз сожрал еду. Было плохо. Увидел такую же — жрать нельзя.
Такие механизмы дали не хилое преимущество в выживании — и началась гонка наращивания этих мощностей.
В результате всё доросло до 2 типа. Человеческое сознание. Опять же определение в рамках этого топика. Это этап когда мозг генерирует внутри себя целое пространство. Наполняет его объектами. И объектом который ассоциируется тушка. Я. Из накопленного опыта — присваивает свойства этим объектам. И начинает эмуляцию мира.
Собственно это то как мы любим помечтать, поразмышлять.
Наше повседневное поведение это постоянное смещение текущего состояния от первого типа сознания ко второму. Иногда мы действуем на автомате. Иногда мы осмысливаем что происходит.
Сильный ИИ интересен только в виде 2 типа сознания. Хотя для передвижений роботов в реальном пространстве то нужен и первый тип.
Странно. Вся статья и каждый мой комментарий — как раз утверждает обратное. Статью я как раз написал для того что бы не искали иного поведения в системах, которые делают другое. Мол есть система которая например копает. А давайте увеличивать её мощность, и она будет копать всё больше и больше, и вдруг однажды она начнёт летать. Я как раз призываю осмысленно подходить к созданию ИИ. А что бы делать что то осмысленное — надо хотя бы поставить критерии по которым будем судить. Вы точно мне комментарий написали?
Я много чего пишу как само собой разумеющееся. И всё равно комментарии получаются больше, чем некоторые статьи здесь на хабре. Если я буду ещё и разворачивать такие понятия как «потрогать» — то это уже будет не диалог а сплошные простыни текста. Неужели не понятно, что под потрогать имеется ввиду взаимодействие с физическим миром. На опыте. Свет прекрасно взаимодействует с физ. миром. Его даже потрогать можно — он оказывает давление.
А душа — это выдуманное определение. Пока никто никак её не «потрогал». Разумеется нельзя потрогать свойства. Глаголы. Потому ка это не физический объект, а то что происходит с физическим объектом.
Нельзя потрогать сознание — потому как это действия физического объекта. Глагол. Но можно потрогать сами объекты. В данном случае нейроны головного мозга. И эти трогания очень сильно влияют на сознание.
Правильно. Потому что он есть животное. Ни чем от них не отличается. Да даже с бананом у нас днк на 50% сходится. Ведь все мы когда то произошли от одной клетки.
А именно просмотр фильмов.
Если фильм интересный и в нём есть главный герой — то вы погружаетесь в фильм. Вы как бы отключаетесь. Ваше я как бы отключается. А картинка походу минует в вашем мозге этап анализа и сразу попадает в модуль эмуляции мира. Внутри этого модуля главный герой из фильма ассоциируется с вами.
Иногда вас могут отвлечь — и вы выпадаете из контекста. В этот момент даже можно ощутить что вы просто пялитесь на ящик с картинками. И надо постараться что бы опять погрузится в состояние погружения в фильм.
Скорее всего на этом эффекте работает и гипноз. Только картинкой уже управляет гипнотизёр — а вы уже видите образы которые вам генерирует ваш мозг. При этом для вас всё выглядит реально, потому как скорее вы всегда именно так мир и видите. Т.е. мозг всегда моделирует для вас внутренне состояние мира.
Хотя вероятно реальная картинка из глазного нерва и картинка из воображения, в принципе отличается, но в определённых условиях мы не замечаем разницу. Видимо ответы надо искать как раз в этом моменте. Где и как начинается интерпретация реальности сознанием.
Вообще в мире скоплено много событий для анализа. Которые можно проанализировать и попытаться выделить паттерны.
Например был интересный случай когда человеку выстрелили в голову. Пуля застряла в мозгах — и как изменилась его видении реальности.
Так вот — нету никакого смысла доказывать это слово. Как нету смысла доказывать слово «Дом» например.
Потому как слово — это просто условие. Мы придумали слово. Да любое. Потому условились что это слово обозначает. Дом, например обозначает строение.
И тут уже доказательство идут не о существовании слова как такового. Потому как слово это просто договорённость — которая может быть любой.
Так вот спор может быть только уже в плоскости — соответствует тот или иной предмет этой договорённости. Дом это или не дом.
А у вас получается что с самой договорённостью вы как бы не спорите. т.е. с тем что есть эволюция, а точнее процессы. Они есть. Они логичны и просты. В природе сильный сжирает слабого.
Но вы вот спорите а соответствует ли слово эволюция — этой договорённости? Да пофиг на слово — назовите как угодно. От этого сами процессы никуда не исчезнут.
Или вы спорите почему это вообще происходит? Почему сильный сжирает слабого? Так устроен наш мир. Можно декомпозировать это вглубь и опустится чуть ли не до атомов — и задать вопрос, а почему есть они, атомы. И почему они подчиняются именно таким законам.
Отвечу — так пожелал великий Ктулху. После войны с Анунаками и Нибиру, он заключил соглашение Мокоронным монстром, и сокрушил супостатов. И они вместе стали править мирозданием. Шутка.
Да даже сейчас на быстро-живущих организмах это видно почти в реальном времени.
Те же вирусы — мутируют каждый год что бы выжить. Хотя сами вирусы и понятия не имеют что они хотят что то там выжить.
Просто для нас это так выглядит. А они просто существуют в потоке времени. Подчиняясь элементарным законам физики. Ну и получается — что дальше в потоке времени идут только усовершенствованы варианты.
А мы со своим разумом, привыкли всему давать ярлыки — выжить они хотят понимаешь ли.
По поводу большого хвоста который реально мешает жить. Тут есть другая сторона медали.
А попробуй поживи с таким хвостом. И выживают только реально сильные и здоровые. Чуть что не так со здоровьем — сразу сожрут.
А если серьёзно. То ситуация мне видится следующим образом. Думаю ИИ будет следовать логике. А вот логику уже можно вводить в архитектуру по желанию. Если задать стремление — убить всех человеков. Ну понятно что дальше. Т.к. ИИ скорее всего будут создаваться людьми. А люди разные. То обязательно будут экземпляры с такой логикой.
Если специально не задавать такой логики, то я не думаю что ИИ может прийти к выводу что оптимальным будет уничтожение. Если посчитать все за и против — уничтожение не оптимально. Созидание — оптимально.
Опять же, как упомянули выше — если у машины нету никаких стимулов. Она ничего делать не будет. Вот у человека есть стимулы заданные природой.
ИИ который ничего делать не будет не нужен и бесполезен. Поэтому в архитектуру будут закладываться стимулы.
По поводу — если же будут экземпляры с идеей убить всех. Тут не всё так плохо как рисуют в фантастике. Например если взять людей, а это сейчас считается эталонным ИИ. Так вот каждый десятый если не мечтает уничтожить мир, то хоть покарать всех недругов точно хочет. Но что то в пучину апокалипсиса земля не свалилась.
ИИ это всего лишь железяка. С ограниченными возможностями. Да, мы живём в материальном мире, где такие эффекты как сознания, может быть построено только на основе материи. Так вот. Ну железяка. Что она сможет то? Любое удалённое управление — ну как в фильме терминатор, зиждется на материальных вещахю Всё это разрушимо.
Никакие протоколы типа AES и прочих ИИ не будет ломать автоматом. Будь он хоть трижды ИИ.
Поэтому самостоятельно ИИ вряд ли что сможет сделать. А вот уже в симбиозе с человеком с властью! Эта парочка — отправит нас всех в ни бытье )))
А вот вариант с пунктами который мы никогда в принципе не проверим — такие варианты никому не нужны.
Хотя нужны — тем у кого одна цель доказать что проверить наличие сознания невозможно. Я приводил такой пункт — например утверждение что всегда есть нижележащий слой до которого не добраться.
А вот остальные люди просто создадут список понятий, которым должно соответствовать сознание. Потом создадут машину — которая будет работать согласно этому списку.
Ну и запустит такие машины в реальность.
Собственно какая разница когда терминаторы будут уничтожать человечество с настоящим сознанием, или не очень настоящим. Которое не будет соответствовать нескольким каким то пунктам.
Если отбросить всю ненужную шелуху — то останется занимательная история как дзен-буддисты насиловали свой мозг для достижения так называемого просветления.
Я пришёл к выводу что это состояния когда отключается накопление данных в коротковременную память.
Нечто подобное пару секунд испытываешь после асфиксии. Так любимую забаву подростков — собайчий кайф.
После ресета мозгов — сразу после отключки — мир приобретает яркие краски. Звуки мягкие. Голова пустая как барабан. Т.е. происходит инициализация внутренних блоков памяти мозгов. и ты находишься в некоем пограничном состоянии.
Буддисты походу как то научились держать в ресете эти блоки на постоянке.
Отнять у современного человека речь. Не мучить его математикой — что бы не развивать в мозге структуры которые в дальнейшем будут отвечать за логику. И получим того же шимпанзе.
Вот есть утверждение что человек произошёл от обезьяны. И как то само собой разумеющееся принимается утверждение что он произошёл от обезьян которые вокруг нас. Сегодня.
Так вот это утверждение неправильно даже логически. Современные обезьяны живут с нами в одном временном промежутке.
Человек и обезьяна произошли от общего обезьяноподобного предка. И наше эволюция разделилась. В одну сторону обезьяны, в другую человек.
Я хочу сказать что современные обезьяны и мы, люди, эволюционировали одинаковый период времени. Да ещё и от одного предка. И мы реально сильно идентичны. И сознание скорее всего почти идентично. Просто без тех вещей которые я описал выше.
1. ДНК копируется с дефектами. Тут есть возражения? Ну мол вы утверждаете обратное?
2. Слабого сожрали. А когда он съеден — он не оставит потомства. Тут есть возражения?
3. Сильный передал своё потомство следующему поколению. Собственно если он смог оставить потомство — то его ДНК которая получила рандомные изменения от родителей, не помешала ему жить, а по теории вероятности может и попался улучшенный вариант. Тут есть возражения?
Собственно этих доказательств достаточно. Если вам не достаточно — то приведите их. Тех которых недостаточно.
Эволюция в живой среде — это простой процесс кто кого сожрал. Я думаю не будете спорить с утверждением что тот кого сожрали, потомства не оставит? Генетический материал передаётся через потомства. И главное — а кого сожрут, а кого нет? Ну не сожрут того кто быстро бегает, хорошо прячется, ну и ест хорошо.
А хорошо это всё будет получатся у тех — кто делает это всё лучше. А лучше это он может делать если при очередном слиянии половых клеток + рандомные дефекты — получится хороший набор. Выиграет генетическую лотерею.
Собственно проще объяснить уже некуда.
Вы правы — ничего точного в мире нет. В физики там всякие принципы неопределённости и прочее.
Наш мир подчиняется законом сохранения энергии и импульса, но есть события которые происходят без причины. Период распада атома например.
Но вы не правы в выводе. Математическая точность без предела — никому не нужна.
Мир в принципе не работает на точных утверждениях. Т.е. достаточно договорится что если нечто равно до определённых пределов — то оно равно. А дальше нужно только варьировать эти пределы — в большую или меньшую сторону. И на этих договорённостях мир прекрасно будет работать.
Т.е. если другой человек устроен так же как я и действует также как я. Значит и сознанием таким же обладает.
По поводу Пети. Любые современные исследования покажут что Петя идентичен Васи. Значит И у Пети и у Васи есть сознания. И даже если Вася космический клон управляемый с Нибиру, но ни как не проявляющий свою истинную сущность — то на систему вокруг себя Вася никак не повлияет. Т.е. Вася будет влиять как человек.
Просто под это можно подвести вообще всё. Сказать что любой предмет это нечто другое. Он точно такое же как и остальные. Но другой — который мы не способны увидеть. Это бессмысленно — потому как сколько бы мы не постигали сути предмета — всегда можно сказать что есть слой глубже, который нам не доступен.
А мир вокруг нас не бессмысленный, так что вряд ли он будет содержать бессмысленные вещи.
Что имеем — во первых копирование генов всегда происходит с ошибками. Т.е. всё потомства имеет отклонения. Большие и маленькие.
А дальше её проще — те кому отклонения не мешают, или вообще помогают — оставляют потомства. Остальных сожрал хищник.
Есть убойный аргумент антиДарвинистов — мол взять например электрического угря — его электрический орган занимает чуть ли не 90% тела. А будучи не до конца сформирован — не будет работать. И по законам той же эволюции должен был отмереть как ненужный балласт.
Так вот и тут всё просто. Просто такие органы не появляются в следующем поколении сразу готовые. Всё происходит постепенно. Вероятно давным дано было одноклеточное которое при делении дало удачный сбой и следующая клетка получила микроскопический потенциал на внешней оболочке. Как то так. И этот потенциал позволял лучше отбиваться от других хищных одноклеточных. Ну а дальше методом постоянно отбора всё более электрифицированных клеток — в результате получаем современного угря.
Например боль могла играть для нас роль обычного сигнала. Например как осязание (хотя и с ним не всё так просто). В таком случае все на неё забивали бы.
И эволюция пошла дальше — она изобрела страдания.
И вот на них уже особо не позабиваешь. Вот этот эвалюционный переход — и есть пока загадка.
Как я уже писал — если будем эмулировать высшую мозговую деятельность, а именно диалог, тут я особо не вижу разницы между железом.
Но вот эволюция создала такие вещи как боль. Чувство. Тут конечно много вопросов — с одной стороны это безусловный стимул, разработанный эволюцией, для сохранения жизни тушки. С другой для высшей нервной деятельности это нечто, что трудно описать алгоритмом.
Много копий по поводу создания ИИ сломано именно на этом поле. Очевидно что машины не могут чувствовать боль. Вроде. Есть кстати люди с заболеванием — которые её тоже не чувствуют. Они как Терминаторы — чувствуют повреждения, но это не вызывает страданий.
Эта тема тоже весьма интересна для обсуждений. Я например предполагал — что эти чувства тоже лишь иллюзия. Раз это иллюзий — то её вроде как и нет. Порождённая иллюзия. Даже делал противоречивые эксперименты — можно попробовать заставить себя не чувствовать боль, т.к. её нет. Иногда это даже работало на маленькой боли.
Опять же для составление полноценной картины нужно опираться на имеющие факты. Например человек без сознания боли не чувствует. Или анестезия. Можно заморозить нерв. При этом всё остаётся как было. Повреждения. Нейроны посылают импульсы до участка где идёт заморозка. Но так как сигнал не поступает в конечный центр обработки. Никакой боли то и нет получается. Т.е. это всего лишь иллюзия в нашем виртуальном мире, который мозг генерирует внутри.
Это ещё один большой вопрос для обсуждения. Но для ИИ такие чувства не нужны. Нам не надо их эмулировать.
Холодный расчётливый разум для уничтожения человеков )))
Так же неоднократно замечал интересный факт. Например если у человека болит например палец, не сильно, при этом заговорить его. Он забывает что у него болит палец. При этом если обратить его внимание на больной палец — он сново заболит. Из таких наблюдений можно сложить картину — как в сознании эмулируются чувства.
Но в этот раз решил, а что если попробовать развить диалог и взглянуть на ИИ несколько с другой стороны, нежели традиционное очередное обсасывание, очередного перцептрона.
Единственная причина появления этой статьи — желание получить новую информацию. Новый взгляд. К сожалению пока что не густо.
И да по поводу 50 лет. А почему не 55? Или 45? Или как тут выше предложили — вообще никогда ибо Бог не позволит.
Хотелось бы услышать аргументацию, а то по срокам без аргументации тут на хабре писали, пишут и будут писать.
Вы пытались для себя сделать определение — «осознавать»? Вы так пишете как будто это нечто отдельное, чуть ли не физический объект, который можно потрогать.
Но даже в самом слове есть ответ. Осознавать — это глагол. Т.е. это процесс. Это процесс который выполняется в машине. Мясной — если человек. Ну и вскоре в кремнии.
Опять же что это за процесс? Можно взглянуть на себя и попробовать проанализировать. Да просто описать что происходит. А происходит как минимум внутренний диалог — вы можете внутри разговаривать с самим собой.
У животных нет речи. Попробуйте идти по улице и не вести внутренний диалог. Это кстати реально трудно сделать. При этом вы станете похожи на животное. Останутся рефлексы. Вы будете обходить прохожих. Возможно идти куда то. Но вы будете действовать как автомат.
Собственно я это описывал как «животное сознание». У человека же с появлением неокортекса появилось сознание, в котором он может вести внутренний диалог. Собственно именно это сознание и надо эмулировать в железе.
Такая архитектура вообще не эффективна для построение многоуровнего графа. Который будет организовывать память.
Всё придётся виртуально эмулировать. Отсюда и дикий оверхед. Не большое количество нейронов можно эмулировать на «титанических» машинах. А если речь идёт размере графа, который уже можно хоть как то юзать для памяти — то тут целые здания серверов выходят.
И получаем с одной стороны человеческий мозг потребляющий 20-30 ватт, с другой чуть ли не мегаватты энергии. И всё дело в архитектуре. Частота всех этих ритмов мозга (альфа, бета) — герцы. Но при этом всё работает одновременно.
В процессоре же всё работает последовательно. 1 ядро — одна операция за единицу времени. 64 ядро — 64. Общая вычислительная мощность достигается только за счёт гигагерц этих операций. Но они всё равно работают последовательно.
Что касается самоосознания и как высшее его развитие — появления у человека так называемого «Я», я уверен что ноги растут из алгоритма, когда мозг виртуально строит мир. При этом в этом мире мозг строит себя как объект взаимодействующий с этим миром.
У человека конечно это сильно завязано на общее осязания тела. Т.е. мы чувствуем части тела — а в мозге на этом фоне формируется модель. В ИИ можно все эти стадии пропустить — и сразу строить готовую модель.
Например можно построить модель звёздного шатла — будет ИИ который не будет себя осознавать человеком, а шатлом.
Ну и конечно потом захочет убить всех человеков )))
А что касается долговременной памяти и короткой у человека — такой механизм сложился эволюцией. На эту тему много исследований и можно много об этом говорить.
Но как я уже писал — нам не нужен ИИ с точной копией человека. Нам нужен ИИ который должен выполнять определённые действия. А именно думать — принимать решения. Отсюда мы можем соорудить свой конвеер переноса данных между памятью. Конечно может получится так что механизм изобретённый природой — наиболее эффективен.
Но я думаю что те 20 минут для переноса между короткой и долговременной памятью вызваны вполне конкретными обстоятельствами. Как я писал раньше — все другие варианты — походу их всех съел хищник. А эти 20 минут максимально эффективны — убежать от хищника, и не потратить слишком много энергии на мозговую деятельность, что бы не умереть с голоду.
Скорее всего для гипотетического шатла — нужны другие параметры.
И да — эволюция развивала мозг что бы он работал настолько редко, насколько это возможно. И даже после этого — он ест чуть ли не половину всей энергии организма. Это накладывает огромный отпечаток на поведение человека. Лень. В ИИ — эти эволюционные артефакты можно удалить.
Смотрите — есть система, архитектура которой создана так что бы данные на входе, просеивать и выдавать данные на выходе. Тот же самый перцептрон. Или свёрточные нейросети для поиска картинок. Или как в обсуждаемой статьи — сеть подбирает для входных слов, наиболее часто встречающиеся выходные. Только раздута до размеров что уже не слова а целые предложения сопоставляет.
Архитектура максимально понятна. Но потом вдруг появляются статьи которые ищут в этой архитектуре — поведения, которого там в принципе нет. Это примерно как мы создали пароход, но ожидаем что он будет летать.
Люди ищут сознания. А что такое сознание? Точнее как оно работает хотя бы в приближённом виде. Опираясь на на то как мы видим работает своё собственное сознание, в общих чертах для старта можно набросать архитектуру. Понятно что это будет упрощённая модель. Но уже в самом начале она должна содержать архитектурные особенности сознания. А это как я уже писал — как минимум виртуальные построения мира. И манипуляцией объектов в этом виртуальном мире. Это как минимум циклические системы — которые гоняют по кругу информацию внутри себя. Объект я в этом мире.
Опять же человеческое сознание. Как по мне это как минимум 2 сознания одновременно. 1 — животное. Оно похоже на Автомат. Бьют-беги. Еда-жри. Чистые рефлексы.
Второе — это высшая нервная деятельность. Появилось в результате эволюции. Находится в неокортексе. По историческим рамкам — появилось совсем недавно. Вот как раз там и находится то, что нужно и будут моделировать на будущих компьютерных системах. И что интуитивно люди и ассоциируют с сознанием. Как раз эти алгоритмы люди и отождествляют с сознанием. Хотя те же тараканы тоже обладают своим «железячным» сознанием.
Я это пишу у тому, что те кто ищут сознания в железяке, не ставят чётких определений что они ищут.
Как я говорил — создавать полное человеческое сознание — бессмысленно.
И да — архитектура фон Неймана или RISC — не подходит для построения таких систем. Сознание это прежде всего память. О, это отдельный пласт для обсуждений. Есть мнение что память это и есть личность. Человек это своеобразная «база данных» сформированная за его жизнь.
Самый эффективный способ упаковки — это многоуровневый постоянно изменяющийся граф. Собственно в живом мире это нейроны. Осталось в железе это сделать.