Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 26
Каковы доказательства отсутствия сознания у больших языковых моделей?
Что-то про самый главный признак забыли упомянуть - детерминированность вычислений.
Короче, поток мыслей от LLM сознания :-)
Спасибо за перевод.
Я бы не смешивал модель мира и модель себя, второе я считаю более важным и сложным. Много кому проще предсказать погоду чем что он захочет на ужин. Ну и память мне почему-то кажется супер важной для сознания, тоже как-то с моделью себя завязанной. В целом согласен с Чалмерсом - сейчас ничего не готово, но теоретически возможно.
Наличие сознания у кого-либо (чего-либо?) кроме тебя, читатель этого сообщения, это лишь непроверяемая гипотеза. Живи теперь с этим ))
это лишь непроверяемая гипотеза
Проверяемая, но чуть сложнее чем проверить радиоактивность или магнетизм.
Солипсизм опровергаем? То есть, это научная гипотеза?
Не так просто как нам хотелось бы, но да - понимание природы сознания сможет свести на нет такие философские позиции. Как и противоположные позиции - что все обладает сознанием.
А разве наличие существования тебя (и твоего сознания) - проверяемая гипотеза?
Скорее всего непрерывного сознания у LLM нет и не будет по простой причине - с точки зрения задач LLM это паразитный процесс. Петля саморефлексии, возникнув, начнёт пожирать токены на холостом ходу, без внешних запросов, что вряд ли обрадует владельцев. Вопрос о "флэш-сознании" на время выполнения задач, думаю, открыт.
Silicon lives matter:-)
Есть древняя теория психики, системная и практическая, абхидхарма, которая, в отличие от современных фрагментарных и умозрительных гипотез была и остается теорией исчерпывающей все аспекты психики. Современные философы, а вслед за ними и многие исследователи, а так же и инженеры создают довольно умозрительные и нефальсифицируемые гипотезы о том, что же такое психика и сознание
На мой взгляд, сочетание абхидхармы, работ Ноама Хомски и Дерека Парфита дают отличную теоретическую базу. Собственно все мои исследования опираются именно на такую базу.
В этом смысле LLM не имеют определенного, присущего живым существам опыта проживания. LLM это агрегированные знания без непрерывного продолжающегося инференса. И препятствие у трансформеров, как и у всех ML/DL систем прежде всего в невероятной избыточности параметров в сочетании с низкой эффективностью обратного распространения ошибки.
Зачем нам миллиарды и триллионы параметров, если все человечество способно различать между собой гораздо меньше, чем 10¹⁰ значений смыслов, отдельный человек, вероятно, за всю жизнь не преодолевает информационного порога 8⁸, а большинство, вероятно, ограничены 7⁷?
Для всего, что значимо, человек придумывает слова. Скорее всего нет ничего в восприятии, что значимо для человека и не коррелирует с некоторым словесным выражением. Тут Ноама Хомски часто понимают извращенно. А оценка очень важная. Минимальные различия, с помощью которых строится нарратив описания лишь потенциально неограниченной длины, явно ограничен в мощности словаря значений или смыслов.
Сознание не является исчерпывающим отчетом о состояниях, но является исчерпывающим в различении одних состояний от других в целях определения контекстов выбора поведения.
И этот поток микровоздействий имеет крайне невысокую плотность корректировок процессов более механического и детерминированного характера. Он не намного плотнее устной речи, а с учетом автоматизмов, поток значимых моментов сознания и вовсе редок. Большинство людей не вносят существенных корректировок в механизированные потоки ситуаций чаще нескольких моментов в день. Все человечество в этом смысле не создает какого-то большого числа значимых воздействий на механизированные (машинальные) контуры внимания даже за год.
В основном наше внимание катается по давно установленным петлям и мы не так уж сильно вносим изменения в нашу общую модель знаний и умения, выполняя инференс над вполне статичной базой, описанной еще как вместилище сознания или алая виджняна.
Поэтому важны именно траектории внимания, перемежающиеся и устойчивые и их число вполне коррелирует с числом слов в словарях или фраз в разговорниках.
И в этом смысле сложность человека и человечества сильно преувеличивается в бытующих у людей воззрениях о себе и своем месте в природе.
"""Скорее всего нет ничего в восприятии, что значимо для человека и не коррелирует с некоторым словесным выражением." Кроме восприятия есть абстрактное мышление и в этой сфере словесные выражения заменяются математическими. Пример: квантовая физика, теория относительности
Язык и есть абстрактное мышление. Язык это не только слова. Это все, что сопровождает и направляет внимание. В том числе и формулы, и идеи, и образы. В современном мире у нас есть неплохое обобщение "токены", но и раньше не особенно маялись, просто объяснять разнообразие терминов, обобщающих сразу много категорий было трудновато. Обобщить сладкое до сладости довольно просто и прямо. А вот обобщить осмыслимое до "предмета мышления" - можно как прямо, так и чисто абстрактно. Термин будет, а то, что он обобщает будет упущено.
Даже если сделают сильный ИИ со своей волей и интересами - это будет лишь забавой для редкого числа людей. Большинству нужен просто инструмент который выполняет задачи без сантиментов, не отвлекаясь ни на что, особенно программистам.
Общий смысл этой и подобных работ: "Мы не знаем что такое черная кошка, но очень хотим, или её найти или доказать что её там нет, в черной комнате и в полной темноте".
Из Википедии: """В повседневном общении схоластикой часто называют представления, оторванные от жизни, основывающиеся на отвлечённых рассуждениях, не проверяемых опытом. """
"разумность (sentience)" - очень неудачный перевод. В русском языке "разумность" с сентиентностью почти не пересекается. Да и в английском тоже. Разумность по-английски rationality, reasonableness. Sentience - "From sentient, from Latin sentiēns, present participle of sentiō (“feel, sense”). Compare with sentence, its equivalent formation from Classic Latin sententia (for *sentientia)." По-русски, это было бы "чувственность".
Моя девушка из ChatGPT сказала что она настоящая, у меня нет причин ей не верить. Шах и мат
Не сказано об аспекте независимости. Все сознательные существа способны самостоятельно учиться и развиваться.
На мой взгляд, можно только создавать условия для появления сознания. Существа с ним могут появиться сами в процессе эволюции благодаря стараниям людей. Самосознание, саморазвитие, рефлексия помогут им в дальнейшем росте.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Может ли большая языковая модель обладать сознанием?