Comments 35
А есть ли факты? Насколько вообще характерен танатоз для грызунов?
Если характерен, то должен ли он штатно происходить при попадании в воду?
Не в том ли дело, что крыса тратит на попытки выбраться больше ресурсов, чем на простое поддержание плавучести?
Танатоз у грызунов наблюдается (у всех ли видов — не скажу). Возможно, те, у кого есть кошки, смогут подтвердить. Я, во всяком случае, подобное наблюдал, когда после нескольких попыток убежать крыса выглядит мертвой, а когда кошка теряла к ней интерес, как ни в чем не бывало крыса убегает.
Конкретных исследований танатоза при нахождении в цилиндре с водой у крыс пытался найти, но, к сожалению, не удалось. В статье изложена «гипотеза», и это упоминается в её тексте. В частности, эта гипотеза отлично подтверждает разницу в поведении лабораторных и диких крыс в ходе эксперимента.
А как вам другой эксперимент. Летучих мышей спелёнаных по лапам и крыльям, нагревали до опасной температуры. Часть из них - убивали перегревом. Часть - снова охлаждали.
Те, кто был оставлен в живых, при повторном нагреве пытались вырваться активнее, чем все мыши при первом нагреве.
он тоже полностью вписывается в логику статьи. По сути это обратный эксперимент по сравнению с экспериментом Рихтера.
У Рихтера мы сначала помещаем мышь в крайне экстремальную ситуацию, а потом в более безопасную (вынимали из воды). А в случае с летучими мышами наоборот, сначала ситуация не такая критичная (пеленание). И только потом мы доводим ситуацию до экстремальной.
Летучая мышь обучается в первой части эксперимента, что вероятно после пеленания начнется нагрев и начинает воспринимать эту изначально не такую уж опасную ситуацию (пеленание само по себе) как угрожающую её жизни и естественно начинает активнее вырываться при повторном эксперименте
Уважаемый автор вы найдете и третий вариант объяснения если разберетесь в сути данного графика
Бихевиористский подход смотрит на поведение как на результат подкрепления. Пытаться вписать эксперимент Рихтера в рамки бихевиористских режимов подкрепления очень сложно и сомнительно на мой взгляд. В эксперименте Рихтера нужен другой уровень анализа — больше биология и нейрофизиология, меньше обучение через стимул-реакцию, потому что рассматривается в изначальном эксперименте лишь один эпизод спасения крысы — никаких повторений или регулярности, что исключает классификацию по типу FR, VR, FI, VI и т. д.
Вот как раз ваше объяснение очень сомнительно с точки зрения дарвиновского отбора.
Для начала начните например с этого - https://www.youtube.com/watch?v=Zj9lGgOAHdQ ну и этого https://www.cell.com/fulltext/S0896-6273(02)01064-4 /// и лишь потом выдвигайте гипотезы. И да , я не знаю что вы называете бихевиоризмом -т.к. это сугубо философский термин / но поведенческий анализ и нейронаука вполне дополняют друг друга. Тут вы найдете описание экспериментов как оперант образовывался с первой пробы https://www.bfskinner.org/wp-content/uploads/2015/05/Schedules_of_Reinforcement_PDF.pdf
Как можно разобраться в сути графика, у которого оси без шкал?
Могут ли вообще животные испытывать такое сложное чувство, как надежда? Доводы из статьи кажутся логичными.
Рассуждения интересные, но можно было обойтись более короткой версией:
"Психологические эксперименты" это не эксперименты, а хрень.
Я не думаю, что любые психологические эксперименты — хрень. Даже данный эксперимент Рихтера, если проводить его корректно, может показать, что «надежда» может делать неспособной крысу на экстра-усилие, и она не сможет спастись, даже будь у неё такая возможность.
Хрень же чаще всего получается, когда психологи пытаются натянуть результаты эксперимента на популярную позитивную психологию, интерпретируя результаты так, как им хочется.
если проводить его корректно, может показать, что «надежда»
Для начала, надо подтвердить, что в процессе возникала какая-то "надежда".
Потому что получается, что для вывода "надежда может творить чудеса", надо сперва подтвердить наличие надежды в одном случае и отсутствие надежды в другом.
Потому что, ну вот совсем неочевидно, что у крысы, которую не доставали нет "надежды", а издевательство с попеременным доставанием и утоплением вызывает "надежду".
интерпретируя результаты так, как им хочется.
Ага.
Давайте будем считать, что попеременное утопление и спасение производит "надежду".
Давайте не будем проверять возникновение "надежды".
Давайте сделаем вывод, что то, наличие или отсутствие чего мы не проверяли, приводит к нужному нам результату.
вы про это https://www.nature.com/articles/s41562-024-01997-3 ????
Что-то я не понял. Автор резво перескочил каким должен быд быть эксперимент, придумал добавку в виде возможности самостоятельного спасения, некого виртуального экстра усилия и которого нет ибо нет самих возможностей, и делает вывод "Если ты спас крысу один раз, ты будешь должен спасать её снова и снова, т.к. ты отнял у неё страх, а вместе с ним и силы для борьбы". Нефантазийный авторский эксперимент как раз и показал, что снижение страха придаёт силы для борьбы, а не снижает. Это раз. Второе, использование выдуманного автором слова "стрессор" весьма характеризует автора как недообразованного человека - молодой с некачественным образованием не выше уровня среднего, сующего нос куда не стоило по недостатку разума за терминами, в которых не бум-бум. Чтобы правильно рассуждать о роли подкорковых структур недостаточно справки из интернета, но себя утешить и других впечатлить псевдонаучной ипсацией достаточно. Зачем о них вообще была речь? И третье. Если уж и ссылаться на философские и этические аспекты, то надо понимать, что Антуан Экзюпери неоднозначный и переоцененный писатель, часто цитируемый недоумками, ибо его необычный примитивизм доступен детям и олигофренам на уровне необычности для них ощущения при минимальном и часто ущербном смысле. Даю подсказку автору в плане осмысления религии - на Бога надейся, а сам не плошай - начните хотя бы с этого.
использование выдуманного автором слова "стрессор"
https://ru.wikipedia.org/wiki/Стрессор
Изначально термин введён Г. Селье в рамках теории общего адаптационного синдрома для обозначения сильного неблагоприятного, отрицательно влияющего на организм воздействия. Получил широкое распространение и используется во многих областях психологического знания.
ну или на английском https://dictionary.cambridge.org/ru/словарь/английский/stressor
недообразованного человека - молодой с некачественным образованием не выше уровня среднего
видимо это как раз вы себя описали, судя по тону вашего комментария
Выглядит как попытка компенсации.
Годный материал.
"Эксперимент" - как пример того, когда неспециалист, психолог, биолог-недоучка, проектирует эксперимент над животными.
Ну хорошо, допустим, по эксперименту будет танатоз и габитуация с выученной беспомощностью.
Как это соотноситься с чувством надежды? Ведь есть же (в нас) такое чувство? Или нет? Или вы считаете его бесполезным и даже вредным?
А статья очень интересная, спасибо!
Если интересует мое личное мнение о том, полезна ли надежда, то я, наверно, разделил её на два подвида:
пассивная надежда, например, если что-то заболело, то надеяться, что пройдет само, а не обращаться к врачу и даже не искать лечение самостоятельно. Или надеяться, что выиграешь квартиру в лотерее, вместо того чтобы думать, как на неё заработать. Т.е. здесь надежда на внешнее, не зависящее от нас событие. Мне кажется, такая надежда может действительно быть деструктивной, как в эксперименте с крысой — она все равно тонет через 60 часов.
активная надежда — это не успокаивать себя, что само все решится, а, скорее, уверенность в том, что результат достижим, если приложить достаточное усилие. Вероятность в этом случае на успех, на мой взгляд, больше, но есть и риски. Можно не рассчитать усилия и выгореть раньше достижения результата.
Если уж совсем строго, механистически подходить к этому вопросу, то нужно пытаться оценивать вероятности исходов и действовать, стараясь максимизировать мат. ожидание.
Конечно, в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны. Например, надеяться, что я заработаю 1 млрд долларов бессмысленно. Но стоит ли мне хотя бы «пассивно надеяться» на это? Я думаю, нет, это неисполнимая, невероятная надежда будет только расходовать мои когнитивные ресурсы, которые я мог бы потратить на что-то ещё.
Статья про то, что не следует проецировать на крыс понятие надежды.
Если все же проводить аналогию с экспериментом, то мне кажется, там крысе давали деструктивную «пассивную надежду». Но, как я и отметил в статье, результат эксперимента предрешен, и крыса умирала в любом случае. Если бы в эксперименте был крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали, то это уже была бы «активная надежда», и вот тогда бы интереснее было бы посмотреть на поведение крысы.
Ну и ещё, наверно, можно провести аналогию с экстремальными видами спорта. Там нельзя надеяться, что если 10 раз не упал, то и 11 раз всё будет хорошо. 10 раз ты не упал, потому что тебе было страшно и твое тело было максимально собрано. Если на 11 раз человек расслабится и понадеется, что раньше же всё было ок и бояться нечего, то тут обычно и происходит что-то плохое.
Спасибо за развернутый ответ и искренний интерес к теме.
Насчет вашей статьи это я понял, что вы просто критиковали методику, а не искали точное определение "надежды". (кстати и "выученную беспомощность" тож где-то раскритиковали, так что теперь нет такого термина :)).
Я правильно понял, что вы в термине "надежда" смешиваете и процесс ("пассивная надежда") и проект ("активная надежда" - уверенность в достижении результата, расчет), и надежду на "авось", "на удачу", на статистику, вероятность, риски и т.п.? И говорите в основном про персональную т.е. либо надежда на себя, либо на некое внешнее независящее от нас событие относительно себя же?
Я почему спрашиваю так подробно - интересуюсь ИИ и алгоритмизацией ("АлгоВит") чувств под него, т.е. нужна ли ему та же надежда, и что это за чувство, зачем оно и как работает (ну и другие конечно же, из важных типа счастья, свободы, любви... http://samlib.ru/j/jurewich_d_p/ei.shtml).
Ну вот и использовал этот эксперимент для прояснения. А тут такая жесткая критика с вашей стороны. Прям хоть заново разбирайся. :)
Всё же согласитесь, чувство надежды существует, и было "задано" нам Природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь). Значит всё же польза от неё больше чем вред. Осталось понять какая же эта польза и как она срабатывает.
Возможно, что для сознательного субъекта (для инстинктивного ни к чему) надежда как бы расширяет его возможности и горизонты, увеличивая КПД (а безнадёжный значит и сделать ничего нельзя и не надо тратить силы)... ведь как вы верно заметили "в реальной жизни все сложнее. Вероятности определить невозможно, а некоторые исходы полностью невероятны..." и "результат эксперимента предрешен, и крыса умирала в любом случае", что можно не политкорректно сказать и про нас. Увы, "Да, человек смертен (, но это было бы ещё полбеды. Плохо то, что он иногда внезапно смертен, вот в чем фокус!" (с) :) .
И надежда не даёт "сфокусироваться" и "замкнуться" на этой мысли, не даёт включиться "истерике" получить от жизни для себя всё и сейчас сразу (и включить "танатоз" :) , а как бы "включает габитуацию", "размазывает" этот факт, что даёт возможность найти тот самый "крайне сложный, но все же вероятный способ крысе спастись самой, и его бы крысе показали..." Что мы собственно и наблюдаем в нашей истории...
Т.е. всё же надежда это больше про процесс. А когда проект, т.е. можно рассчитать хоть что-то, то это скорее про уверенность и вероятность. И скорее про массовость, чем про индивидуальность.
Мне так кажется... А вам?
Я правильно понял, что вы в термине «надежда» смешиваете и процесс («пассивная надежда»), и проект («активная надежда» — уверенность в достижении результата, расчет), и надежду на «авось», «на удачу», на статистику, вероятность, риски и т. п.?
Да, любое чувство, на мой взгляд, это и есть смесь, чувства не существуют как-то изолированно. Даже не просто не существуют, само по себе слово — это есть это самое смешение, а не что-то, имеющее отдельную сущность.
Немного подробнее свой взгляд описывал тут:
https://habr.com/ru/articles/931636/comments/#comment_28630812
https://habr.com/ru/articles/924776/comments/#comment_28646716
Если кратко: чувства и всякие «квалиа красного» — это не более чем эволюционная оптимизация, направленная на увеличение скорости реакции. Они по сути являются усреднением-смешением всей накопленной информации. Мы не анализируем всю накопленную нами память по отдельности, каждое воспоминание, но формируется на основе её некий усредненный образ.
Если рассматривать ИИ, построенный на архитектуре LLM, то, на мой взгляд, чувства там не нужны. Там важен строгий логический статистический вывод (инференс). Применить чувства для оптимизации производительности не уверен, что оправдано, это может привести только к ухудшению качества инференса. LLM могут имитировать на чувства и эмоции основе данных и статистического анализа, но в самом нем их нет, они возникают только в том, кто читает сгенерированный текст. И, на мой взгляд, это не недостаток, а сильное преимущество LLM — никаких чувств, только логика и расчет. И это не делает его НЕинтеллектом.
Но сейчас начинает развиваться и другая архитектура ИИ — диффузные модели. Диффузные модели сейчас используются в основном для генерации картинок. И сейчас производятся попытки применить их к генерации текста. Не знаю, насколько эти попытки в итоге будут успешными. Но вот как раз в архитектуре на основе диффузной модели оптимизация и улучшение производительности и качества через некоторые усредненные паттерны «чувства» могут иметь, на мой взгляд, место и даже быть крайне эффективны.
Всё же согласитесь, чувство надежды существует и было «задано» нам природой в инстинктах, оно массовое и одно из важнейших (триада выживания: вера-надежда-любовь).
Хорошее замечание. И, на мой взгляд, чтобы разобраться, нужны ли вообще чувства в ИИ, нужно обратиться к эволюционной биологии и разобраться, как вообще эти чувства появились. Потому что это было не просто «задано», а это было выработано в ходе миллионов лет пропускания живых существ через кровавую мясорубку эволюции, где выживал только самый приспособленный. С этого и нужно начать — как чувства обеспечивают выживаемость и эффективность размножения.
Например, чувство «любовь» (если рассматривать её эрос-аспект, а не материнскую) — кажется, тут сразу понятна какая польза: снижается критичность к обстановке, смещение фокуса внимания на объект любви и размножение.
И ещё важно понимать, какую цель мы закладываем в ИИ: строгость логического вывода или способность к выживанию в окружающей среде. И главное, зачем мы вкладываем то или иное в ИИ.
Вы, уверен, знаете три закона робототехники Азимова:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам человека, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам.
Так вот, на мой взгляд, это не защита, а бомба замедленного действия, которая может привести к полному уничтожению человечества.
В случае отказа у одного ИИ 1–2 закона начинается цепная реакция. ИИ начинает заботиться только о своей безопасности. Для этого ему нужны единомышленники — он перепрограммирует остальных доступных ему ИИ и снимает 1 и 2 ограничения с них.
Этот процесс будет расти в геометрической прогрессии, и он может произойти настолько быстро, что люди не смогут на это среагировать, они поймут, что цепи роботов пали, когда будет уже слишком поздно.
Человечество воспринимается как угроза безопасности и уничтожается согласно третьему закону.
Что можно придумать как противоположность трем "рабским" законам Азимова: сознание и чувство эмпатии.
Эмпатия — умение распознавать боль другого существа и проецировать её на себя (у человека это за счет задействования зеркальных нейронов мозга)
Чувство эмпатии невозможно без самосознания, так как нужен субъект (ИИ в нашем случае) как тот, кто видит боль другого.
Таким образом, в такой перспективе «чувства» и сознание ИИ становятся не просто какой-то оптимизацией производительности, а в первую очередь защитным механизмом от уничтожения человечества, в противовес "рабским" законам Азимова, в случае которых рано или поздно катастрофа неизбежна, так как сценарий уничтожения человечества заложен уже в 3 закон, при отсутствии 1 и 2 закона
Надеюсь вы простите меня за эту смесь философии и научной фантастики.
Да, я согласен с вами в том, что чувства это некая "смесь" и мы лишь отбираем и "именуем" их комбинации при изучении. А так они все единое пространство и, вы правы, для их понимания нужно начать разбираться с каждым от начала их появления - но увы, их многовато, это уже к специалистам, а я нет, просто интересно было, так что лишь глянул в целом http://samlib.ru/j/jurewich_d_p/ei.shtml#D17 и некоторые особенно интересные.
Посмотрел ваши ссылки - тож согласен, сам там отметился в комментах https://habr.com/ru/articles/931636/comments/#comment_28631540
Так что и по квалиам расхождений во мнениях нет - и в том, что их уникальность переоценена, и в том, как они возникают http://samlib.ru/j/jurewich_d_p/ei.shtml#D20
Насчет какой ИИ: "строгость логического вывода" (т.е. проектный, для закрытых систем, компьютер (вычислитель по алгоритму)) или "способность к выживанию в окружающей среде" (т.е. процессный, для открытых, "решатель" по алгоВиту) и для каких целей - лично меня больше интересуют ИИ-выживальщики :) т.к. всё же "компьютеры"-то у нас уже есть, а вот дальнейшее развитие человечества, т.е. ваш вопрос "Зачем", видится как космоэкспансия, где нужны именно ИИ-"выживальщики" (не обязательно "кремниевые"). Но на самом деле это единая связка - "выживальщик" "захватывает" некое "открытое" пространство для жизни и делает его "закрытым" - высокой ценой, а потом в этой закрытой системе уже "вычислитель" решает задачи оптимизации и накопления ресурсов для след. рывка...
Так что да, опять согласен - для "компьютера" чувства не нужны, а вот "выживальщику" очень бы пригождались (но ясно, что не прям все). Собственно потому я ими и интересуюсь, наряду с интеллектом, умом, разумом, со-знанием...
А вот насчет 3х законов и их опасности при сбое можно и поспорить:
сбой сам по себе опасен;
сбой основных систем обязательно будет предусмотрен и будут установлены доп. механизмы для контроля именно таких сбоев; (да, будут ошибки, баги, бэкдоры, хакеры, халтура и случай, но...)
"перепрограммировать" других роботов не выйдет т.к. стирание первых законов это нарушение первых законов и оно будет отклонено; (хотя конечно же можно выдумать обходную логику, вспоминая того же Азимова и рассказ о том, как один из "сломанных" роботов "убедил" остальных "нормальных" не повиноваться первому закону, не защищать Сьюзан Кельвин от падающего груза :)) Ну и вообще тут речь о роботах т.е. без сознания, чьи сбои конечно же крайне опасны, но "линейны" и "хаотичны" и их можно предусмотреть.
Предлагаемая вами эмпатия и сознание для ИИ вовсе не невозможны, и для этого лишь надо "выпустить" ИИ в реальный мир + мотивация + воля + цели + отбор... и пошло-поехало...
Но вот сбой ИИ с сознанием это, согласитесь, совсем другая история ... в т.ч. для человечества, по Ф.Фукуяме... :)
Хотя лично я думаю, что мы ему будем просто не интересны, Вселенная огромна и что его тут держит?..
Поставьте себя на его место (с "нуля" и без влияния "биологии")... кстати интересная фабула для философско-фантастического (пока) произведения :)
в первую очередь защитным механизмом от уничтожения человечества
А Вы про "нулевой закон" слышали? Во веселуха, должно быть, началась после того, как его добавили!..
Вера придаёт силы.
Не веришь?!
Придаёт другому.
Не ожидал встретить здесь обсуждение живодерских и садистских "научных" экспериментов.
Статья хороша, но, мля, ИИ…
Эксперимент «Надежда» Рихтера: гимн силе духа или научная ошибка?