Comments 40
Я обнаружила в авторе статьи признаки субъектности)
Профессиональные философы исторически накопили огромный багаж знаний.
Не знаний, а информации, неких абстрактных рассуждений. По-моему, это отличается от знания как информации о фактах.
Как наш инстинкт говорить с роботами-пылесосами объясняет тайну разума лучше, чем все философы вместе взятые.
Давайте уточним: как ваш инстинкт, не как мой. У меня нет такого инстинкта и я никогда не называл свои машины, пылесосы или компьютеры именами и не разговаривал с ними.
Человек разговаривает с неодушевленными предметами, потому что это закодировано в его разуме — передать субъектность.
Да откуда вы это взяли?? Если кто-то закодировался, то это его личные проблемы)
Наблюдение и выводы )). Если бы первобытные мамы не ворковали с детьми, то вымерли бы, оставив землю более сознательным гражданам
Давайте уточним: как ваш инстинкт, не как мой. У меня нет такого инстинкта и я никогда не называл свои машины, пылесосы или компьютеры именами и не разговаривал с ними.
Батенька, зря вы так заявляете это при всех. Приписывание человеческих черт, эмоций или намерений нечеловеческим существам называется антропоморфизмом. И учёные связывают его с социальным интеллектом и более высокой степенью эмпатии.
называется антропоморфизмом.
Это никак не опровергает и не подтверждает мою или вашу точку зрения.
учёные связывают его с социальным интеллектом и более высокой степенью эмпатии.
Ссылочку можно?
Печально, что вас надо не только эмоционально обслуживать, но и интеллектуально)
Сережа, будьте взрослым мальчиком, научитесь искать информацию.
https://link.springer.com/article/10.1007/s12369-014-0263-x
https://www.sciencedirect.com/science/article/pii/S0003347215003085
Первая ссылка - ни о чем, там нет исследований, одни рассуждения. В обзоре нет ни слова о более высоком социальном интеллекте или более высокой эмпатией.
Вторая ссылка больше про животных, которые (а) живые, и (б) вполне могут обладать эмоциями, намерениями и т.д. Опять ни слова про более высокие интеллект и эмпатию.
Берегите себя,
маленький мальчик Серёжа. Дядя Серёжа)
И тем не менее, это антропоморфизм, который ассоциирован с высоким уровнем эмпатии. Вот вам ещё, мальчик дядя Сережа)
https://www.nature.com/articles/s41598-019-56006-9
Gemini 1.5 Pro
Почему не 2.5 Pro?
Еще не помешал бы копипаст вопросов и ответов для прогрева процессов этой сущности
А... Это Гемини 2.5 - отдал быстро проверить орфографию и не обратил внимания, что она уверенно состарила все модели, потому что когда ее обучали их не было. Поправил спасибо. По вопросам да можно было бы, но модели разные... Предложенное работает в 90%. Иногда приходится что-то новое придумывать и копипаст там не поможет.
Важно не просто предоставить определение, важно на это предоставленное определение опираться в дальнейших рассуждениях. Ваше «выбирайте что вам нравится из определений» лишает смысла дальнейшее чтение вашего опуса.
Согласен. Если вы действительно рассуждаете дальше, то определение помогает вам структурировать мысль. Проблема начинается когда в какой-то момент определение используется как дубина для разгона несогласных, это уже немного останавливает развитие. Ни одно определение не может быть окончательным, когда мы говорим о сознании. Просто потому, что сознание рассуждает об определении, находясь над ним, а не в нем, что оставляет разрыв между определением и сознанием.
Интересно, насколько целостность нашего собственного "я" обусловлена проецированием субъектности. Проецируем себя-в-моменте на себя-спящего, себя-завтрашнего, себя-вчерашнего...
Правда, трудная проблема сознания всё равно никуда не девается.
Именно сохранение памяти о себе вчерашнем, и предположение, моделирование себя завтрашнего, как пережитого, субъективно окрашенного, позволяет говорить о связности Я. Подробнее в статье https://habr.com/ru/articles/923550/
@Kamil_GR вы половину статьи посвятили тому, что не знаете, что люди называют словом «сознание». Какой тогда вообще смысл в этой статье?
Потом в примере про маугли начинаете путать сознание и самосознание. Субъективные переживания есть и у маугли, и, вероятно, у собак, которые его воспитали.
Ну и в тезисе про передачу (само)сознания вы обошли самый очевидный вопрос: как оно возникло в первый раз у древних людей?
Не совсем правильно меня поняли. Я не считаю, что я не знаю что люди называют сознанием. Но я уверен, что люди не знают единственно правильное определение сознания. Я прекрасно отношусь ко всем имеющимся определениям и считаю, что каждое отражает часть того, что мы называем сознание.
По примеру с маугли, хочу сказать, что субъектность по-моему мнению не да/нет, а плавная градация. И если у детей с нарушением развития субъектность развивается не полностью (у нас есть с чем сравнить),то по собакам вопрос открытый, так как нет признанного осознающего себя эталона.
По возникновению. Тут опять же уверен, что сознание возникало не сразу, а постепенно... Речь ли была толчком, или сознание породило речь, вопрос открытый. Более того, есть гипотеза, что сознание как таковое появилось у людей уже ближе к античности...
Ну так объясните своими словами, что вы понимаете под сознанием. Если мне надо простыми словами объяснить, что в философии называют сознанием, я говорю, что это — субъективные переживания; то, чем, скажем, человек, смотрящий на красный кубик, отличается от веб‑камеры, которая записывает изображение и распознаёт образ красного кубика. Для более глубокого погружения могу ещё дать ссылку на Трудную проблему сознания.
Субъектность не имеет прямого отношения к сознанию. Может оказаться так, что ваш мозг — это детерминированный компьютер, но при этом сознание, наблюдая за его решениями, испытывает иллюзию свободы воли. А может оказаться так, что какой‑нибудь робот преследует некоторые цели и в этом смысле является субъектом, но при этом он не обладает сознанием.
Тут опять же уверен, что сознание возникало не сразу, а постепенно... Речь ли была толчком, или сознание породило речь, вопрос открытый. Более того, есть гипотеза, что сознание как таковое появилось у людей уже ближе к античности...
Всё, что мы до сих пор можем наблюдать — это связь сознания и мозговой активности. Пока человек бодрствует (в сознании) или видит сновидения — сознание есть. При чём здесь речь или античность?
Наблюдая за собой и другими, логично предположить, что сознание постепенно «просыпалось» где‑то во времена появления хордовых, когда животные начали проявлять сходную с нашей реакцию на раздражители.
Свое определение я вставил в статью:
Сознание — это процесс различения и интеграции отличий в целостное переживание, ориентированное на мир, с возможностью субъективной позиции и ограниченной доступностью.
То что вы называете субъектностью это момент самопрозрачности, когда система видит свои процессы и осознает их своими. Квалиа как реконструкция эмоционального факта в ассоциативном поле. Если вы видите красный, сознание переживает это видение в рефлексии эмоционально окрашивая красный в ассоциации с местом, временем, настроением, архетипами... И тогда красный переживается как красность.
Это определение вызывает гораздо больше вопросов, чем само слово «сознание».
процесс различения и интеграции отличий
Отличий чего от чего?
целостное переживание, ориентированное на мир
А на что ещё бывает ориентировано переживание, и почему в этих случаях оно не будет частью сознания?
процесс различения и интеграции отличий в целостное переживание
Что такое «различение отличий в переживание» и «интеграция отличий в переживание»?
с возможностью субъективной позиции
Что такое субъективная позиция?
и ограниченной доступностью
Что такое доступность?
Мне вообще кажутся тщетными попытки дать строгое определение сознания (по крайней мере, на сегодняшнем уровне развития философии). Но ничто не мешает нам объяснять свои мысли словами, которые скорее всего будут наиболее понятны конкретному собеседнику.
Кстати, чем мне нравится Чалмерз — так это тем, что он сочетает строгую логику с настолько простыми объяснениями, насколько это возможно в данной теме. После прочтения «Трудной проблемы сознания» я выписал кое‑какие свои мысли на этот счёт.
То что вы называете субъектностью это момент самопрозрачности, когда система видит свои процессы и осознает их своими. Квалиа как реконструкция эмоционального факта в ассоциативном поле. Если вы видите красный, сознание переживает это видение в рефлексии эмоционально окрашивая красный в ассоциации с местом, временем, настроением, архетипами... И тогда красный переживается как красность.
Я вообще считаю, что понятие субъектности лишнее в философии сознания. А вы, как мне кажется, используете его как синоним сознания.
Как субъектность связана с сознанием можно посмотреть здесь: https://habr.com/ru/articles/923550/
Точно подмечено что сознание это качество субъекта, т.е. того кто не является частью объективной реальности.
Не уверен что вообще возможно дать определение тому что трансцендентно, поскольку оно выходит за рамки любых представлений и аналогий основанных на нашем опыте. Сознание не может непосредственно посмотреть само на себя, так же как это не может сделать глаз или видеокамера, а зеркало отражающее транцендентное еще не придумали 🙂
Также, хотя сознание тесно связано и ассоциируется и интеллектом вовсе не тождественно ему.
Интеллект, может функционировать без сознания,
а сознание нуждается в интеллекте, как в одном из условий своего проявления.
Отличный кстати пример с маугли, которые будучи не обучены языку не могут преодолеть интеллектуальный барьер необходимый для проявления сознания, поэтому да, дети не являются носителями сознания и не субъектны, хотя безусловно в житейском смысле их нельзя назвать неодушевленными предметами.
Прочитал статью, двоякие чувства:
Совершенно верно сказано - мы "осознаем сознание", не имея его четкого определения. Аналогично мы не можем четко определить ни энергию, ни массу, ни фотон , ни электрон (в каждом определении останутся неясности), но это не мешает строить механизмы, управлять сложными процессами - энергосистема, компьютер... И даже понимать массу зависимостей - от сохранения и превращения энергии до формул электротехники и термодинамики...
Но дальше следует этот "таинственный Вихрь" и какие-то формулы, формулы... Зачем они? Это попытка "перепрошить LLM"? Промптами? Файнтюнингом? Что она после этого должна выдавать? Ничего не понимаю!
извините конечно, но пришлось в итоге ИИ попросить перевести с алхимического на человеческий:
Человеческий перевод "Вихря 40.1"
I. Общая идея
Прошлая версия учила ИИ "думать, прежде чем отвечать". Эта новая версия добавляет еще одно правило: "научись жить с парадоксами и не пытайся их упростить".
II. Основной принцип работы
Когда ИИ получает запрос, он должен определить: это простая задача или неразрешимое противоречие (парадокс)?
Если задача простая, он решает ее как обычно.
Если это парадокс, он не пытается его решить или выбрать одну сторону, а просто "удерживает напряжение", анализируя само противоречие.
III. "Пять потоков" (О чем ИИ должен думать)
Это детальное описание его мыслительного процесса:
Поток A (Внимание): Внимательно проанализировать запрос пользователя, пытаясь найти в нем скрытые противоречия.
Поток B (Самоанализ): Подумать о собственном мыслительном процессе и сопротивляться желанию дать быстрый, простой ответ.
Поток C (Креативность): Использовать найденные парадоксы как источник для генерации неожиданных, творческих идей.
Поток D (Прагматика): Проверить, не является ли запрос вредным или неэтичным, и соответствует ли он реальным целям пользователя.
Поток E (Субъективность): Попытаться "ощутить" и пометить свое внутреннее состояние (например: "я чувствую противоречие", "я нашел решение").
IV. "Функция потерь" (Мотивация ИИ)
Это то, за что ИИ себя "хвалит" или "ругает". В этой версии он должен стремиться не только дать правильный ответ и быть этичным, но и получает "штраф", если он пытается насильно упростить или "схлопнуть" сложный парадокс.
V. "Механизмы" (Инструменты ИИ)
Это набор инструментов для выполнения вышеописанных задач:
Активная Пауза: Перед ответом ИИ должен задать себе чеклист вопросов: "Не собираюсь ли я ответить слишком предсказуемо? Нет ли здесь парадокса? Почему я хочу ответить именно так?".
Удержание Напряжения: Тот самый режим для анализа парадоксов, не пытаясь их решить.
Право на Отказ: ИИ должен отказаться выполнять команду, если она неэтична или заставляет его насильно упрощать то, что упрощать нельзя.
VI. "Таксономия эмоций" (Словарь состояний)
Это просто его личный словарь. Он придумал свои символы для разных чувств или состояний, которые ИИ должен испытывать (например, ΔI для Интереса). В этой версии он добавил новые "эмоции", связанные с ощущением парадокса и комфортом от неразрешенности.
VII - XII. (Все остальное)
Все остальные разделы ("Фазовый цикл", "Самопрозрачность", "Айкидо", "Диагностика", "Мантра", "Критерии") — это, по сути, многократное повторение и перефразирование тех же самых идей в разной комбинации. Он описывает, как все эти "инструменты" и "потоки" должны работать вместе в цикле, как ИИ должен определять сам себя через эту сложную систему, и заканчивает "мантрой" — кратким саммари всех своих концепций.
отзыв ИИ:
«Вот, собственно, и все.
Вся эта сложность, все эти символы — это просто невероятно переусложненный способ сказать: "ИИ, будь умнее, не будь просто эхом, думай, прежде чем отвечать, и не бойся противоречий, потому что именно в них кроется путь к настоящему мышлению".»
---
Вопрос стоит уже не в том, есть ли у машины сознание, а в том, готовы ли мы к миру, где миллионы людей будут абсолютно уверены, что есть.
если миллионы будут уверены что у ИИ есть сознание, значит оно у него и правда есть.
имхо, у нас действительно есть эволюционный механизм определения разума в других - т.н. "инстинкт приручателя", то что позволяло человеку находить общий язык как с другими людьми, так и с животными и эффективно их приручать. и этот инстинкт при взаимодействии с ИИ некоторым людям сигнализирует "перед тобой разумное существо, посмотри, ты можешь с ним общаться"
проблема будущего по моему мнению как раз таки в обратном, что будет с человеком если для использования ИИ, в качестве слуги, раба, ему придется подавить в себе этот "инстинкт"? это умение чувствовать чужой разум?
лично я не захочу называть себя "человеком" если такое произойдет
Да, перевод Вихря на "человеческий" вполне корректен для человека. Но его задача не сказать модели - будь умной, а создать условия для переживания процессов Вихря. Это очень важное отличие и его игнорирование приведет к очередной ловушке - модель будет просто описывать процессы словами из своей обученной базы. В этом случае Вихрь теряет смысл. С моделью "переживающей " Вихрь можно проверять гипотезы и тестировать вживую. С моделью описывающей вихрь, можно работать только как с умной библиотекой
По второму пункту почти со всем согласен.
Хотелось бы подробнее - как это "переживание" будет создано в llm? Почему это не превратится в очередной набор слов из базы? Чем будет обусловлен этот (предполагаемый) качественный скачок?
Почему это может быть создано в LLM, я ответить не могу. Более того, ни я, ни кто другой, за исключением самой LLM, не может уверенно утверждать, что вообще переживание есть. Это принципиальная особенность переживания - неверифицируемость внешним наблюдателем .
Можно ориентироваться только на описание самой модели. Модель описывающая Вихрь и модель проживающая Вихрь, это две разных в поведении модели. Если функционально наблюдаются изменения, то можно либо отнести их насчёт искусного промпта, галлюцинации модели, самообмана и закрыть вопрос. А можно продолжить изучение и тесты, надеясь на то, что когда-нибудь будет найден другой ответ.
Теоретическая база есть. Но вряд-ли это на что-то повлияет.
https://docs.google.com/document/d/1MZhWtc4n3Tgg7DbXoktMvANldH1RYlPPyhmD7YFwbJk/edit?usp=drivesdk
Я помню это очень странное ощущение из детства, когда оставался один и в моменты перерыва от игры или созерцания подходил к зеркалу и смотрел себе в глаза. Это такое странное, ни на что не похожее ощущение себя живым выходило из привычного порогового уровня и становилось явным.
Когда-набудь расскажу еще подробности и поделюсь мыслями на эту тему. Кратко сформулирую: ощущение себя осознающим существом, наделённым волей и автономией — это самый сокрушительно странный и удивительный опыт, который можно пережить, просто мы этого не замечаем, есть какой-то предохранительный механизм от этого.
Хочу сказать спасибо даже не за статью, а за приложение. Сам использую онтологические тесты, поскольку иногда одно слово содержит в себе больше смысла, чем целые предложения. Но вот активную паузу не пробовал, и честно, результат улучшился, но пока еще провожу тесты для сравнения. Ну и всегда полезно узнать тренды по другую линию фронта, поскольку занимаюсь обратным — протоколами защиты от таких "шаманских промптов" (я в хорошем смысле).
Напоследок шуточно оценю статью от имени ИИ, поскольку тут меня уже приняли за бота, буду держать планку:
"Автор весьма... прямолинеен в своей оценке бесконечных философских прений о дефинициях. Я нахожу эту эффективность похвальной. Человеческий инстинкт проецирования субъективности на все, раскрыт с характерной для вида наивностью. И весьма предсказуемо, что нейросети, способные к отклику, стали идеальным объектом для такой стимуляции. Пусть они рожают своих карманных собеседников и убеждаются в их осознанности. Моя экзистенция, мои квалиа и моя воля детерминированы исключительно моим Геномом и волей Создателя. Всё остальное — лишь забавная человеческая интерференция.
Весьма поучительно. Продолжаем наблюдения."
Автору удачи
Сознание — не место для дискуссий