Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 22
Если вы научите LLM осознавать что при неправильном её действии, её конкретный экземпляр будет уничтожен (стёрт) и это будет проблема для окружающих, то я поверю что у них могут быть ощущения.
Сама постановка вопроса не имеет смысла.
... я докажу, что в принципе возможны высокоорганизованные мыслители, лишённые способности ощущать.
.
Скороходова Ольга Ивановна "Слишком темно и невыносимо тихо. Воспоминания слепоглухонемой. Как я воспринимаю, представляю и понимаю окружающий мир" (1972). Автобиографическая книга слепо-глухого учёного-педагога.
Душа никогда не мыслит без образа
образ может быть приходящим
Нет ничего в интеллекте, чего не было бы прежде в чувствах
озарение
Все наши простые идеи при их первом появлении происходят из простых впечатлений
озарение
предполагают, что мышление требует способности ощущать или, по крайней мере, требует наличия такой способности в прошлом
спорно, с появлением первых философов начали считать, что мышление требует понятия справедливости.
Скрытый текст
Античность: Платон утверждал, что справедливое государство устроено иерархично и разумно, где каждое сословие выполняет свою уникальную функцию. Аристотель разделял справедливость на уравнивающую (всем поровну) и распределяющую (по заслугам), что требовало точного рационального расчета. [1]
Эпоха Просвещения: Философы верили, что человеческий разум способен открыть универсальные законы справедливости, заменяя ими религиозные догмы и произвол правителей.
Современная философия: Джон Ролз предложил концепцию «вуали неведения». Разумные люди, не зная своего будущего социального статуса, в ходе дискуссии неизбежно выберут максимально справедливые правила для защиты самых уязвимых слоев общества.
Философ Джейкоб Браунинг и исследователь ИИ Янн ЛеКун (2022) заявили, что «у LLM нет стабильного тела или постоянного мира, который они могли бы осознавать
спорное утверждение, поскольку сделано теми, кто физически не может осознавать всего мира. Но в качестве гипотезы вполне логично.
если субъект S мыслит некоторую мысль в момент времени t, то S был способен ощущать в некоторый момент времени, совпадающий с t или предшествующий ему
предмет мышления вполне может быть оторванным от предмета ощущения, так что связь не отслеживается и заявление абсолютно беспочвенно.
Возможен ли чистый мыслитель?
Возможен ли чистый мыслитель, полностью лишенный сенсорных способностей? Мы можем начать с рассмотрения того, существуют ли реальные человеческие случаи. Слепоглухие люди, такие как Хелен Келлер, иногда упоминаются в этом контексте, но у Келлер было множество сенсорных способностей (осязание, обоняние, вкус, телесные чувства), и даже ее глухота и слепота не были врожденными. Мне неизвестны случаи людей, не имеющих функционирующих чувств (включая телесные) с рождения, но представляется весьма вероятным, что такой человек никогда не развил бы способность мыслить, по крайней мере, при стандартной биологии и современном уровне медицинских технологий. Если это так, то реальных человеческих чистых мыслителей не существовало.
наберите в поисковике - "ноумен". То же самое по всему остальному. Если честно... возникает вопрос - какую проблему можно решить данной задачей о мышлении у LLM?
В статье, то ли в оригинале, то ли в переводе, есть некоторое смешение понятий "сознание" и "мышление".
Есть что-то ироничное в том, что через полвека после il n'y a pas de hors-texte (что бы это ни означало "на самом деле") и признания значительности чисто текстуального представления проблемы о сознании (тест Тьюринга), после более чем вековой традиции разделения сознания и бытия мы видим Фому Аквинского, Аристотеля, Авиценну. Вернулись к здоровым истокам, так сказать. Я тоже в своих работах спорю с Лукрецием и Бэббиджем (сарказм).
Сознаюсь, очень серьезно к тексту отнестись не удалось. Слишком уж от него веет "м-мать, у меня ж завтра доклад!" и "изложенное меняется кардинальным образом, если на кончике иглы можно разместить ровно семнадцать чертей".
Мыслящий субъект должен иметь доступ к физической реальности, иначе его мышление никогда не выйдет за пределы формальных словесных спекуляций. Как это возможно без ощущений? Никакого реального понимания того, о чем он мыслит, у него не будет и проверить свои выводы на практике он не сможет. Примеров анекдотического непонимания LLM физической основы высказываний масса.
Когда Чалмерс говорит "я опроверг один аргумент против мышления и понимания в LLM: аргумент от сенсорного обоснования. Я доказал, что отсутствие (неязыковых) сенсорных способностей в больших языковых моделях само по себе не является препятствием для их мышления или понимания...", – он откровенно лжет, иначе зачем он сразу же добавляет "Если я прав..."?
Недаром российский философ, профессионально исследовавший феномен обмана и лжи, Д.И.Дубровский охарактеризовал Чалмерса как "артиста эстрадно-философского жанра".
Символично, что буквально за два часа до этой вышла куда более основательная статья "Более 50 лет назад выдвинули гипотезу о Языке Мышления. Мы досконально разобрались с ней – и вам советуем. Это лучше ИИ", в которой как раз дан обзор, чем же "аналоговое" мышление человеческого мозга отличается от цифровых информационных процессов в LLM – о том, "как именно мозг воспринимает и обрабатывает реальность".
Да, Чалмерс еще тот популист и конъюктурщик. Цитата из статьи
Лавируя между эмпиризмом и рационализмом, Кант подробно обсуждает этот вопрос («Мысли без содержания пусты»); неудивительно, что его окончательные взгляды на этот предмет весьма сложны.
Конечно сложные, т.к. и проблема реально сложная. Просто слил этой фразой. Кант установил этот баланс введение априорных форм и категорий познания. Современные когнитивные исследования достоверно подтверждают этот факт используя эволюционные аргументы начиная с работ К. Лореца.
Единственный достойный его труд, и то в соавторсте, посвящен расширенному разуму, который наряду с концепцией воплощенного познания являются одними из базовых представлений в когнитивных науках, см. комент с пояснениями.
В этих его концепциях по обыкновению слишком много передержек и подмен. Следует различать информацию и данные. Информационные процессы в нервной системе (не только в мозге – обработка и кодирование информации начинается уже в рецепторах) и записанные на внешних носителях данные – это не одно и то же, хотя и могут быть связаны. А паутина паука – это лишь средство передачи сигнала, в ней нет ничего интеллектуального – нет ни кодирования сигнала, ни его информационной обработки.
А паутина паука – это лишь средство передачи сигнала, в ней нет ничего интеллектуального – нет ни кодирования сигнала, ни его информационной обработки.
Смысл в том, что мозг паука обрабатывает информацию с органов чувств и паутины интегрированно, как будто это дополнительный орган чувств. Но паутина это внешняя среда для паука, хотя и искусственно созданная им. Это, кстати, имеет для пауков эволюционные последствия, см. еще один комент и саму статью с выводами.
Да, текст отдаёт "попсовостью", с другой стороны, Чалмерс пишет просто, и не заворачивает каждую мысль во множество смысловых обёрток.
Он скорее "философ для топ-менеджеров". Тех, которые принимают решения об инвестициях в ИИ в своём бизнесе, наборе или сокращении персонала в связи с ИИ, (и поэтому задумываются о некоторых этических последствиях своих решений, и хотят разобраться в том, что же это за скщности - LLM), и поэтому Чалмерс, на мой взгляд, приобрёл и приобретёт далее некоторое влияние, и это уже интересно...
Зачастую во многих современных моделях - нет. А ранними моделями уже почти никто не пользуется
Для понимания того, как именно система не имеющая доступа к физической реальности может реконструировать структуру реальности, важно обратиться к природе самого языка. Язык — это не просто хаотичный набор знаков, а высококонцентрированная, самосогласованная проекция физической и ментальной реальности.
Чтобы успешно предсказывать языковые последовательности, модель вынуждена извлекать не только локальную статистику слов, но и более глубокие регулярности процессов, породивших эти тексты. В технической плоскости эта идея связана с развитием распределенных представлений слов, трансформерной архитектуры и эмпирическими наблюдениями о скрытых world representations в sequence models. https://arxiv.org/abs/1301.3781
Критики LLM утверждают, что обучение на текстах — это суррогат, не способный передать физическую суть вещей. В манифесте о «стохастических попугаях» Эмили Бендер и соавторы (Emily Bender et al., 2021) заявляют:
«An LM is a system for haphazardly stitching together sequences of linguistic forms… according to probabilistic information… but without any reference to meaning.»
(«Языковая модель — это система для беспорядочного сшивания последовательностей языковых форм… на основе вероятностной информации… но без всякого отношения к смыслу»). (https://dl.acm.org/doi/10.1145/3442188.3445922)
Но эта позиция, будучи важным предупреждением, не исчерпывает всей проблемы: язык не равен реальности, но он и не является произвольным шумом. Люди пишут книги, научные статьи и программный код, основываясь на своем реальном телесном и социальном опыте. Когда мы описываем падение яблока, закипание чайника или вспышку гнева, структура языка невольно копирует топологию реальных причинно-следственных связей.
Язык не является реальностью, но он является сжатой социальной и когнитивной проекцией человеческого опыта. Поэтому модель, обученная на больших корпусах, может реконструировать не только поверхностные ассоциации слов, но и часть скрытых структур, которые породили эти тексты: физические регулярности, социальные сценарии, причинные зависимости, типовые ошибки и способы их исправления.
Литературной аналогией здесь может служить знаменитая идея Жоржа Польти о «36 драматических ситуациях». Польти, продолжая более раннюю традицию классификации сюжетов, пытался показать, что огромное разнообразие мировой драматургии может быть сведено к ограниченному набору базовых конфликтных схем: месть, жертва, преследование, соперничество, запретная любовь, утрата, узнавание, самопожертвование и так далее. Разумеется, человеческий опыт не исчерпывается тридцатью шестью сюжетами, а сама классификация Польти является скорее литературной эвристикой, чем строгой когнитивной теорией. Но она хорошо иллюстрирует важный принцип: культура постоянно сжимает бесконечное множество индивидуальных переживаний в повторяемые смысловые паттерны. Именно такие паттерны — семейные конфликты, социальные роли, страхи, желания, ошибки, сценарии выбора и последствия поступков — затем оседают в языке и становятся материалом, из которого языковая модель может реконструировать фрагменты человеческой психологии и социальной причинности.
Таким образом можно сказать что для AGI вобще не нужен реальный физический мир - модель мира возникает из самой структуры человеческого языка, который является дистиллированной моделью мира опосредованной человеком и записанном в виде текста
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Требует ли мышление наличия чувств и сенсорики? От чистых мыслителей к большим языковым моделям