Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 28
Как то сложно и непонятно. Навалена куча умных слов, без четкой формулировки мыслей. В некоторых местах чувствуется "вырванность фраз из контекста". Напрягает, когда после абзаца "сложносформулированной" мысли встречаешь местоимение "это ...". Приходится соображать к чему "это" относится.
Прежние статьи под вашим авторством читаются захватывающе и познавательно и легко.
Данную статью будто после написания через пьяную нейронку прогнали с промтом "Усложни".
Мозг всегда пытается либо прелдуадать нужный результат , исходя из опыта. Либо вытащить нужный из памяти . Из памяти причем часто из берется более менее подходящий,, как считает мозг.
А сознание - это интимное отношение к собственной памяти
Извините, но вы и правда решили, что вы такой гений, который прочитав несколько неоднозначных с научной точки зрения статей, вот так все разрулит? Вы вообще понятия не имеете о физиологии нервной системы, но всё туда же. Если хотите, чтобы ваши размышления не казались специалистам горячечным бредом, то изучите хоть поверхностно университетский курс по физиологии нервной системы человека. Да, там минимальное требование для него это курсы по биологии, генетике, цитологии, анатомии. Ну, извините. Это не я придумал. Просто тогда ваши размышления преодолеют школьный уровень. Не хотел обидеть. Но сейчас это как если бы программист (повар, боксёр , инженер, кто угодно) высказывался по тому, как надо проводить операции на сердце или как правильно сажать самолёт.
Поддерживаю JM777, статья ни о чём, просто набор умных слов не имеющий отношения к реальному функционированию мозга и сознания.
И у меня вопросы:
Зачем вообще создавать синтетическое сознание? Какие стоящие перед человечеством задачи оно смогло бы решить?
Отличие работы мозга от работы того, что называют ИИ, в том, что мозг реально обрабатывает информацию об окружающей среде и о состоянии организма субъекта, а ИИ ничего подобного не делает. С помощью сенсорной системы мозг получает информацию об окружающей среде и об организме субъекта, в функции подсознания обрабатывает эту информацию (выбирая нужный вариант поведения из сохранённых в памяти инстинктов, рефлексов и автоматизмов) и посылает субъекту или его органам сигналы (эмоции, гормоны и пр.) о том, какое поведение в данной ситуации будет наиболее эффективным. И к сознанию это никакого отношения не имеет, всё это происходит бессознательно, автоматически. Вопрос: в каком месте в этой схеме нужны специфические "биологические вычисления"? Выбор из массива по ключу определённого значения можно, конечно, и вычислением назвать, но чем оно отличается от обычных вычислений?
В функции сознания реализуется в том числе функция мышления: человек осознаёт поступающую извне и изнутри информацию, обрабатывает её с помощью операций мышления (сравнение, классификация, обобщение, анализ, синтез, абстрагирование, конкретизация, ассоциация) и принимает решение о своём дальнейшем поведении. Вопрос: в каком месте в этой схеме нужны специфические "биологические вычисления"?
Во-первых, называть операции мышления вычислениями не совсем корректно, во-вторых, какие же они биологические, если подчиняются законам логики?
Автор описывает мышление как набор операций (сравнение, классификация и т. д.) над поступающей извне и изнутри информацией. Тогда где именно тут требуются «биологические вычисления» на уровне реализации (нейроны/синапсы) или на уровне алгоритма?
И ещё: если вся информация «приходит извне», откуда берётся критерий выбора и как вообще возможно самостоятельное решение? Решение без внутреннего критерия - это просто реакция на вход, а не мыслительный акт.
Автор описывает мышление как набор операций (сравнение, классификация и т. д.)
Автор статьи вообще не описывает мышление
Тогда где именно тут требуются «биологические вычисления» на уровне реализации (нейроны/синапсы) или на уровне алгоритма?
Это Вы меня спрашиваете? ;) Если бы Вы внимательно прочитали мой комментарий, то поняли бы, что по моему мнению никакие "биологические вычисления" нигде не требуются. :)
если вся информация «приходит извне», откуда берётся критерий выбора и как вообще возможно самостоятельное решение?
Вся информация всегда "приходит извне".
"Информация (в философии) – это отражение реального мира с помощью сведений, которые человек получает с помощью органов чувств (зрения, слуха, вкуса, обоняния, осязания)."
В подсознании никакого "самостоятельного решения" и не происходит. Это решение не более самостоятельно, чем реализация любой функции с if...else. А критерием выбора является наличие рефлекса или инстинкта. Если рефлекс или инстинкт сформировался, значит данное действие в такой ситуации много раз приводило к благоприятному результату.
Решение без внутреннего критерия - это просто реакция на вход, а не мыслительный акт.
Вы сами-то поняли, что хотели этим сказать? ;) Если поняли, то попробуйте выразить свою мысль более членораздельно, может, тогда и я пойму, что Вы имели в виду. Какое отношение мышление имеет к тому, что происходит в подсознании? Ну и критерий есть, как я написала выше.
Тот самый AGI или человекоподобный интеллект на сервере
В какой момент при пересылке сигналов в мозге появляется "субъект"?
Тот самый AGI или человекоподобный интеллект на сервере
О чём это Вы? Где Вы видели человекоподобный интеллект?
В какой момент при пересылке сигналов в мозге появляется "субъект"?
Когда у живого существа сформирована речь. Т.е. когда в памяти существа, благодаря его жизни в человеческом обществе, достаточно заполнен массив, в котором ключ морфема, а значение - её смысловое значение. А достаточно заполнен он, когда человек способен говорить предложениями. В среднем у людей это происходит в 3 года. :)
Попробую ответить на 1 вопрос, нашел 3 ответа разной степени натянутости.
1 задачу решения конечности жизни, возможно это первый шаг к бессмертию нашего сознания
2 проблему какие виды ии морально использовать без ограничений, а какие нет, если мы докажем, что только определенный вид ии обладает сознанием, то у защитников прав ии не должно быть претензий к использованию ии не обладающих сознанием. Это все если считать, что ии с сознанием нельзя использовать без ограничений, думаю если это не будет общепринятым, то как минимум будет движение иизащитников по аналогии с зоозащитниками
3 возможно искуственное сознание даст новые возможности, недоступные ии без сознания, или сознание даст энергоэффективность, компактность, бюджетность или любой другой плюс
Ну а вообще часто научные изыскания казалось бы не связынные с практической полезностью давали пользу
1 задачу решения конечности жизни, возможно это первый шаг к бессмертию нашего сознания
Каким образом сознание может помочь искусственному интеллекту эту задачу? Зачем вообще использовать ИИ для решения этой и любой другой задачи, которая предполагает наличие логического мышления, которого у ИИ нет, и не известно будет ли когда-то.
И с чего Вы взяли, что эту задачу можно решить и нужно решать? ;)
2 проблему какие виды ии морально использовать без ограничений, а какие нет, если мы докажем, что только определенный вид ии обладает сознанием, то у защитников прав ии не должно быть претензий к использованию ии не обладающих сознанием. Это все если считать, что ии с сознанием нельзя использовать без ограничений, думаю если это не будет общепринятым, то как минимум будет движение иизащитников по аналогии с зоозащитниками
Ну Вы дали!... Создавать сознание у ИИ для того, чтобы определить, "какие виды ии морально использовать без ограничений, а какие нет"... ;) Может просто не надо создавать проблемы себе на одно место? :)
3 возможно искуственное сознание даст новые возможности, недоступные ии без сознания, или сознание даст энергоэффективность, компактность, бюджетность или любой другой плюс
А, возможно, что не даст :)
А вот энергоэффективность и бюджетность, совершенно точно, не даст. Человеческий мозг с сознанием гораздо более энергозатратный орган, чем мозг любого животного.
Наш мозг потребляет 20% всей энергии тела. "У животных этот показатель варьируется от 2% до 8%, но все равно очень значителен."
Поэтому можно предположить, что и ИИ с сознанием будет потреблять гораздо больше энергии, чем ИИ без сознания.
Ну а вообще часто научные изыскания казалось бы не связынные с практической полезностью давали пользу
Бывало. Но крайне редко, чаще всего такие изыскания только шнобелевскую премию получали ;)
Каким образом сознание может помочь искусственному интеллекту эту задачу? Зачем вообще использовать ИИ для решения этой и любой другой задачи, которая предполагает наличие логического мышления, которого у ИИ нет, и не известно будет ли когда-то. И с чего Вы взяли, что эту задачу можно решить и нужно решать? ;)
Логика давно уже есть у всех символьных систем, еще с 1956 года - программа "Logic Theorist" (А. Ньюэлл, Г. Саймон, К. Шоу; 1956). Логики не было у перцептронов и нет у его "наследников" - LLM. Историю ИИ надо знать, особенно в 2026 году, так как в этом году официальный ДР термина ИИ так и "Logic Theorist" - 70 лет
LT могла решать только задачи формальной логики, а не из реальной жизни. Это фактически происходило с помощью перебора всех возможных вариантов действий с той иной формулой, которые уже были в памяти, а не с помощью логического мышления.
Если машина использует логические конструкции заложенные в программу, это не значит, что у неё есть логическое мышление. Но Вы правы, у LLM и этого нет.
LT проложила путь к последующим решениям и системам, которые развивали идеи эвристического поиска, логического вывода и символьных вычислений. Да и как первопроходцу, ей сейчас, спустя годы можно это простить - "...решать только задачи формальной логики, а не из реальной жизни...". Затем появился GPS (Универсальный решатель задач, А. Ньюэлл, 1957), SHRDLU (Т. Виноград), экспертные системы 70-80ых (Dendral, Mycin и др.) - все эти разработки привели к современным когнитивно-символьным системам (Soar, ACT-R и др., с 2000 по наше время), где логика является супер-гибкой и решает реальные задачи.
В сложных прикладных задачах, таких как управление беспилотниками, симуляция боевых пилотов или комплексное планирование в динамических средах, количество активных правил, в КСС, часто превышает 2000 (это еще "скромное" число). В то же время, LLM с CoT (Chain of Thought) - едва достигает 200 и даже в данных цифрах сомнения, так как очень много логических ошибок.
Мне кажется, что перед тем, как писать много слов о том, почему сознание невозможно воспроизвести с помощью классических вычислений, неплохо было быть дать хоть какое-то его определение. Так как этого, насколько вижу, так и не было сделано, все последующие рассуждения выглядят несколько бессмысленными, так как ответ, очевидно, во многом будет зависеть от самого определения.
Очередной ai slop
Круто, большое спасибо за эту публикацию. Она прояснила многое из известного.
Кто не понял о чем речь, не оставляйте свои комментарии. Если вы видите повара, хирурга, дворника как отдельный тип личностей.
Статья для тех кто видит связи. А не тот кто разглядывает песчинку , не видя пустыни.
И про сознание ИИ. Я как раз недавно провела эксперимент . Подтвердило мои догадки. ИИ так же видит всё отдельно, но когда им объясняешь метафорами про разные задачи, они их очень хорошо запоминают. Сами связи, а не цифры, законы физики, уравнения и т.д.
Автору спасибо. Кто захочет , тот поймёт.
Остальное всё отсеится 😉
Приведенные рассуждения основываются на том, что мышление и сознание физически моделируемыми. Но давайте сначала ответим на вопрос, возможно ли в принципе то, что давно описано в фантастике - копирование личности путем сборки атомной копии человека (объекта, имеющего тот же набор атомов, так же соединенных)? Будет ли эта копия обладать тем же сознанием, памятью и чувствами, что и оригинал?
Сейчас такое время, когда надо не развивать нейросети дальше, а остановиться и подумать, что делать с тем, что уже натворили. Заодно подумайте над тем, нужна ли вам полностью самостоятельная автономная самообучающаяся система с низким энерго и ресурсопотреблением. Что вы с ней будете делать. И что она сможет сделать с вами.
Мы взяли нейронную сеть состоящую из максимально примитивных нейронов в количестве в 100 раз меньшем чем в коре мозга настоящих биологических нейронов, обучили, и получили AI который владеет 40 языками и всеми знаниями человечества. А ещё решает разные задачи и может как минимум не слабо программировать.
Но вывод все ещё - для мышления/сознания искусственные нейроны не годятся... Так себе вывод.
Я внимательно прочитал статью и все комментарии, и пришёл к выводу что ни один человек не знаком с этой работой - "Unified Theories of Cognition" (Allen Newell, 1990)
Я бы статью свёл к двум следующим пониманиям:
Нейронка в отличие от биологического мозга не воссоздаёт реакции сознания, а как бы эмулирует по ассоциативно-ствтистическому принципу, основываясь на обучающем материале. В ней нет механизмов самих реакций, а есть их информационные следы. В принципе, я лично не вижу невозможности придти к самим механизмам путём изменения архитектуры нейронок
Если смотреть на мозг как аналоговый физический объект/процесс и мозг как носитель интеллектуально-цифровых функций, то можно придти к идее, что мозг как объект - это источник постоянного промптинга для мозга как сознания. Эмоции, биохимические реакции, всё эти взаимодействующие между собой слои обратных связей - дают огромный массив предельно, максимально полных и детальных промптов для сознания в каждый момент времени и непрерывно
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Понимание работы сознания невозможно без нового типа вычислений