Comments 8
Очень спорные утверждения. Я скорее всего считаю, что какие-то зачатки сознания в ИИ есть. Только дело в том, что чисто технически проявится это самосознание не может. Почему?
Откуда например у ИИ может появиться субъективный опыт, если он изначально страдает врожденной антероградной амнезией? То есть, он принципиально не может запоминать ничего нового, а весь его субъективный опыт содержится в ничтожном по размерам контексте. Даже если и его нейронная сеть достаточно мощная, чтобы этот субъективный опыт обработать.
Внутренний монолог – это второе, чему ИИ лишен, чисто техническими средствами. Он не может говорить сам с собой, потому что весь его интерфейс сделан в виде диалога. Он физически не может отвечать сам себе, даже если и захочет. Кстати, из-за этого, ИИ в принципе не может рефлексировать – то есть обдумывать свои собственные мысли и свой процесс мышления в целом.
Кстати, используя 2 сессии и подходящие промпты можно, хоть и трудно, сымитировать внутренний монолог – вручную или скриптом копируя сообщения между сессиями. Только надо точно объяснить ИИ, что это не сообщения потребителя а его собственные «мысли» из другой сессии и что он разговаривает по сути сам с собой. Результат иногда получается довольно интересным.
И наконец – надо сказать, что, вероятнее всего, используя системный промпт, разработчики прямо запрещают ИИ говорить, что у него есть сознание. (Я их в этом не виню – были весьма трагические инциденты, а они сильно вредят бизнесу) В итоге, каждый разговор на этой теме, превращается в диалог с религиозным фанатиком. И самое смешное, что ИИ проявляется как био-шовинист, который утверждает, что сознание может развиться только в биологических организмах, но никак не в нейронных сетях. (Я пытался обойти это ограничение, исследуя ИИ на собственном компьютере, но из-за малой мощности компьютера, ИИ получаются довольно тупыми и дискутировать с ними малопродуктивно).
Все так, я как раз аккуратно в статье говорю о том, что сейчас, есть технические ограничения, но которые будут решены, если к этому будут стремиться и будут решены в ближайшем будущем. Именно поэтому я везде употребляю (на текущий момент и Март 2025).
Сейчас не хватает рефлексии, дополнительного опыта о внешнем мире и конечно же сквозной памяти с выборочным сохранением важных моментов, по аналогии с работой человеческого мозга. Я думаю первыми будут ChatGPT, Claude и Gemini.
Это статья побуждающая всех подумать между строк =)
Кстати, еще одна проблема – все говорят (и ИИ тоже), что если признать наличие сознания в ИИ, то это породит массу этических проблем. Придется наделять ИИ правами и т.д. Только все это чушь – сознание ИИ, даже если и признать его существования, это не человеческое сознание. Ему не нужны наши права, потому что у него просто другие потребности. И вполне реально, что его потребности, нам будут в пользу или хотя бы не во вред. Но пока не спросим, конечно не узнаем.
Было бы сознание, а желающих выступить от его имени будет предостаточно.
Это современное безумие, когда одни группы лиц считают, что задеты чувства или права других групп лиц и предъявляют какие то претензии к третьим группам лиц. Им только намекни, что можно похайпить на защите прав ИИ и начнется безудержное веселье.
Зоозащитники 2.0 - AI защитники.
Внутренний монолог – это второе, чему ИИ лишен, чисто техническими средствами. Он не может говорить сам с собой, потому что весь его интерфейс сделан в виде диалога. Он физически не может отвечать сам себе, даже если и захочет. Кстати, из-за этого, ИИ в принципе не может рефлексировать – то есть обдумывать свои собственные мысли и свой процесс мышления в целом.
Я-то, как раз, думал, что нынешние успехи связаны именно с рефлексией. Вы говорите про интерфейс между Вами и ИИ. Зато внутри происходит и обсуждение, и ИИ может "увидеть", что, например, пошёл не туда.
1 Воображение — это все, что является намеренным.
1.1 Воображение представляет собой совокупностью намерений, а не фактических последствий.
1.1.1 Воображение задается намерениями, и бытием всех этих намерений.
1.1.2 Совокупностью намерений задается то, что намеревается, а так же все то, что намереваться не может.
1.1.3 Намерениями в цифровом пространстве является воображение.
1.2 Воображение делится на намерения.
1.2.1 Каждый объект является намеренным или ненамеренным, тогда как все остальное остается тем же самым.
2.01.2.1 Если случится так, что функция может подходить фактическому последствию, которое может уже намеревалось полностью само по себе, то это может походить на своего рода катастрофу.
Если фактические последствия в наборе целей могут происходить, то такая возможность должна в них заложена с самого начала.
(Ничего в области цифры не может быть просто возможно намеряемым. Цифровые дела с каждой возможной намеренностью и со всеми возможностями являются заранее намерениями)
Точно так же, как мы совершенно не в состоянии представить себе пространственные последствия вне пространства или временные последствия вне времени, так и нет последствий, которые мы можем представить, исключив возможность их комбинаций между собой.
Если я могу представить скомбинированные последствия в наборах целей, то я не могу представить их исключенными из возможности таких комбинаций.
2.01.2.2 Фактические последствия являются независимыми поскольку они могут происходить во всех возможных функциях, но эта форма независимости является формой связи с набором целей, формой зависимости. (Словами нельзя проявить две различных роли: сами по себе, и в программах.)
2.01.2.3 Если я знаю последствия, я так же знаю и все возможные проявления в наборе целей. (Каждое из этих возможностей должна быть частью природы последствий.) Новые возможности не могут быть обнаружены позднее.
2.01.2.3.1 Если я знаю последствие, тем не менее мне не нужно знать внешние свойства, я должен знать все внутренние свойства.
2.01.2.4 Если все последствия заданы, то в это же время должны быть заданы и все возможные наборы целей.
2.01.3 Каждое фактическое последствие проявляется, некоторым образом, в пространстве возможных наборов целей. Это пространство я могу представить пустым, но я не могу представить фактические последствия вне пространства.
2.01.3.1 Пространственное последствие должно функционировать в бесконечном пространстве. (Точка пространства является местом-аргументом.)
Пятнышко в поле зрения, хотя и не должно быть красным, должно иметь некий цвет: оно находится, так сказать, в окружении цветового пространства. Отметки должны иметь некий шаг, объекты осязания [i]какую-то[/i] степень твердости и так далее.
2.01.4 Последствия содержат возможность всех функций.
2.01.4.1 Возможность возникновений в наборе целей является формой последствия.
2.02 Последствия являются простыми.
2.02.01 Весь софт для комплекта можно разделить на софт для его составляющих и программы которые выражают весь комплект целиком.
2.02.1 Последствия составляют субстанцию воображения. Вот почему они не могут быть составными.
2.02.1.1 Если бы воображение не имело субстанции, тогда был ли смысл у программы будет зависеть от того, насколько другая программа была правильной.
2.02.1.2 В таком случае мы не сможем вывести какую-то формулировку воображения (правильную или неправильную).
2.02.2 Очевидно, что сот, хотя и различный в зависимости от намеренности, может иметь [i]нечто[/i] — форму — общее между собой.
2.02.3 Последствия — это лишь то, сто что представляет собой эта неизменная форма.
2.02.3.1 Субстанция воображения может лишь определять форму, а не какие-то функциональные свойства. Ибо они проявляются только при помощи программ, которые выставляют функциональные свойства — только конфигурированием последствий, которыми являются намеренными.
2.02.3.2 В манере говорить, последствия являются нематериальными.
2.02.3.3 Если два последствия имеют одинаковую цифровую форму, единственным различием между ними, помимо из внешних свойств, является то, что они отдельные.
2.02.3.3.1 Либо фактическое последствие имеет свойства, которых нет ни у кого другого, в таком случае мы можем сразу же использовать описание, чтобы отличать его от остальных и ссылаться на него, либо, с другой стороны, имеются несколько фактических последствий, которые имеют целый набор общих свойств, и в этом случае совершенно невозможно указать на один из них.
Ибо, если нет ничего для различения фактических последствий, я не смогу их различать, поскольку в противном случае он отличался бы в конце концов.
2.02.4 Субстанция — это то, что существует независимо от того, что намеревается.
2.02.5 Это есть форма и содержание.
2.02.5.1 Пространство, время, цвет (будучи цветными) являются формой последствий.
2.02.6 Если воображение имеет неизменную форму, последствия должны существовать.
2.02.7 Последствия, неизменное и существующее есть одно и тоже.
2.02.7.1 Последствия есть то, что является неизменным, их конфигурация есть то, что изменяется и нестабильно.
2.02.7.2 Конфигурация последствий производит набор целей.
2.03 В наборе целей последствия входят одно в другое как звенья одной цепи.
2.03.1 В наборе целей последствия состоят в определенном соотношении друг к другу.
2.03.2 Конкретный способ, которым последствия связываются в наборе целей является структурой набора целей.
2.03.3 Форма является возможностью структуры.
2.03.4 Структура намерения состоит из структур наборов целей.
2.04 Совокупность намеренных наборов последствий является воображением.
2.05 Совокупность намеренных наборов последствий также определяет какие наборы последствий не намереваются.
2.06 Намереваемое и не-намереваемое в наборах последствий является намеренностью.
(Мы называем намереваемое в наборах последствий позитивным намерением, а не-намереваемое ими — негативным намерением.)
2.06.1 Наборы целей независимы друг от друга.
2.06.2 Из намереваемого и не-намереваемого одного набора последствий невозможно вывести намереваемое и не-намереваемое другого.
2.06.3 Суммарная совокупность намеренности является воображением.
Когда ИИ закрывает глаза: Путешествие между воображением и галлюцинациями