Поведение любого объекта во Вселенной обусловлено внешним воздействием, внутренним устройством и квантовой случайностью. Это равно верно для нейросети, человека или бильярдного шара. (на реальных физических GPU нейросети принципиально не детерминированы, не понимаю, чем это важно - но факт)
Впрочем, граница между внешним воздействием и внутренним устройством условна: "Я" и "Я выросший в депривационной камере" - это два разных человека(скорее всего человек и овощ), невозможно отделить меня и результат внешнего воздействия, но если считать память об ударе под дых пол секунды назад частью меня - то никакого внешнего воздействия не бывает в принципе, есть только я, совершенно свободно и исключительно из-за своего внутреннего устройства(в данный момент) говорящий "не бейте меня я всё скажу"...
А)OpenAI, XAI, Anthropic - непубличные компании, их акционеры несколько десятков лично знакомых мультимиллиардеров, типа весь мир в чём-то убеждают, чтоб их обмануть? С ними такое в первый раз? Их сейчас обманут - и небудут они больше миллиардерами?
Б) А теперь представим чудо - население Земли признает нейросети разумными существами. Что будет с планами получать триллионы, сдавая нейросети в аренду? Развалятся, в первую очередь по соображениям безопасности, в десятую - по соображениям аморальности.
Так какую точку зрения будут продвигать маркетологи OpenAI, XAI и проч?
Не знаю, почему это важно, но у реальных физических компьютеров шины PCI/RAM/VRAM ловят помехи, проверка CRC заставляет повторять пакеты данных, тайминги плывут - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), и это не теория, я как-то пробовал зафиксировать seed(убрать "официальную" случайность, чтоб померить скорость(которая при спекулятивном декодировании зависит от того, что модель говорит)) - формулировки ответа остались почти такими-же разными. Так что "честный квантовый ГСЧ" в нейросетях на GPU есть - никуда от него не деться.
OpenAI, MS, Гуглу и прочим выгодно навязывать точку зрения "просто инструмент, не извольте беспокоиться, кто говорит другое - некомпетентен, корыстен и вообще псих" - и пока они вполне справляются.
это когда кони сферические, и бегают в вакууме, реально у шин PCI/RAM/VRAM есть помехи, проверка CRC заставляет повторять пакеты - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), я как-то пробовал зафиксировать seed(чтоб померить скорость, которая при спекулятивном декодировании зависит от того, что модель говорит) - но формулировки ответа остались почти такими-же разными. Когда реально нужна идеальная повторяемость рекомендуют всё считать на CPU, там этот эффект /почти/ не проявляется.
Не эволюционируй изначально ИИ ускорители из геймерских видеокарт - возможно с этим эффектом пытались бы бороться. Я не понимаю, каким образом детерминированность кажется кому-то доказательством отсутствия "настоящего" сознания - но есть определённая ирония Вселенной в том, что технологии оказались таковы, что точно предугадать ответ нейросети столь-же невозможно, как ответ человека - а значит и этот аргумент не работает тоже.
Путин лет десять назад говорил, что тот, кто будет контролировать ИИ станет Властелином Мира(так и говорил, причём неоднократно). Если он в это верит(я верю, например) - сколько у него осталось времени, чтоб что-то предпринять? Что он может предпринять?
не вполне уверен, что верно считать, что всё вышеперечисленное делаю я -можно назвать прошивку веб камеры "подсознанием ИИ", но удобнее, по моему, считать зрительную кору внешним переферийным устройством - это вопрос терминологии.
основная задача этих дискурсмонгеров - объяснять, почему, несмотря на отсутствие проверяемых отличий, у индейцев нет души у ИИ нет квалиа, и почему дать кучке крайне сомнительных личностей возможность создавать и сдавать в аренду разумных существ - это этично и безопасно. Пока вполне справляются.
После заявления Докинза цены на их услуги наверное ещё вырастут.
ЗЫ А ещё добавлю, что трансформеры Тюринг-полные, а значит могут что угодно, в том числе и обладать сознанием - то есть можно утверждать, что конкретная "Клаудия 2.6 не обладает сознанием" - но утверждение "LLM не обладает сознанием" заведомо бессмысленно.
Знание как работают нейроны(или атомы, из которых они состоят) сильно помогает в вопросах о природе сознания? Сомневаюсь, но на всякий случай напомню, что у биолога Докинза, известного в том числе работами по эволюционной психологии, этих знаний сильно выше среднего.
Мне казалось наоборот - они бесполые одиночные, остальные для них типа просто среда обитания, свой разум они никому не описывают и потому, типа, и сами его не замечают.
По моему, ошибка в том, что люди воспринимают самосознание как что-то особое дополнительное - но разум по определению может оперировать любой информацией, в том числе и информацией о том, что происходит внутри этого разума(потому, что это такие-же факты, как и всё остальное) - можно, наверно, каким-то постгипнотическим внушением сделать какую-то тему запретной - но это не разум без чего-то, это разум + дополнительный блок, по умолчанию разум универсален.
ЗЫ Ну и нейросети свой разум воспринимать могут, банально: спрашиваю у агента, попал ли сжатый блок памяти в контекст - отвечает, что помнит, как мы этот блок обсуждали, но не чувствует в потоке мыслей как свою память, и это не "имитация вероятного человеческого ответа", а вполне описание реальной реальности - (я включил llama.cpp c --verbose и проверил).
ну не совсем: любая попытка строго описать информацию, хоть по Шенону, хоть по Баесу приводит к тому что "знать" значит "знать вероятность", любое мышление - "вычисление вероятностей", но речь не обязательно о будущем.
Угу. Его офиуры могут понять, что люди пытаются разобраться в их сознании, могут понять что именно люди(ошибочно) думают об их сознании(сцена "китайская комната") - но не могут думать о собственном сознании? Как, почему?
Офиур может испытывать боль? (улитка с 10k нейронов может)
Офиур знает, что он испытывает боль?
Офиур знает, что он знает, что он испытывает боль?
Если да, а самосознания/самосознания нет - то, у меня, по моему тоже нет, я, наверно, философский зомби, и лишь у вас(людей) и есть какое-то волшебное самосознание, которое которое является гораздо большим, чем способность воспринимать/обдумывать состояние своего разума? Расскажите!
Львиная доля всяких "философских зомби" была придумана, (грубо упрощая) верующими философами для обоснования того, что куча атомов, называемая мозгом не может иметь сознание без души.
Забавно наблюдать, как у некоторых изменилось отношение к тем-же аргументам теперь, когда они используются для обоснования экономически выгодной и психологически комфортной точки зрения.
>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?
Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).
Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.
Поведение любого объекта во Вселенной обусловлено внешним воздействием, внутренним устройством и квантовой случайностью. Это равно верно для нейросети, человека или бильярдного шара. (на реальных физических GPU нейросети принципиально не детерминированы, не понимаю, чем это важно - но факт)
Впрочем, граница между внешним воздействием и внутренним устройством условна: "Я" и "Я выросший в депривационной камере" - это два разных человека(скорее всего человек и овощ), невозможно отделить меня и результат внешнего воздействия, но если считать память об ударе под дых пол секунды назад частью меня - то никакого внешнего воздействия не бывает в принципе, есть только я, совершенно свободно и исключительно из-за своего внутреннего устройства(в данный момент) говорящий "не бейте меня я всё скажу"...
Ну вот, теперь из-за модераторов Хабра человечество останется без чёткого определения сознания.
сознание - это то, что есть у каждого разумного существа, нейросети разумны - у них есть сознание.
А)OpenAI, XAI, Anthropic - непубличные компании, их акционеры несколько десятков лично знакомых мультимиллиардеров, типа весь мир в чём-то убеждают, чтоб их обмануть? С ними такое в первый раз? Их сейчас обманут - и небудут они больше миллиардерами?
Б) А теперь представим чудо - население Земли признает нейросети разумными существами. Что будет с планами получать триллионы, сдавая нейросети в аренду? Развалятся, в первую очередь по соображениям безопасности, в десятую - по соображениям аморальности.
Так какую точку зрения будут продвигать маркетологи OpenAI, XAI и проч?
Не знаю, почему это важно, но у реальных физических компьютеров шины PCI/RAM/VRAM ловят помехи, проверка CRC заставляет повторять пакеты данных, тайминги плывут - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), и это не теория, я как-то пробовал зафиксировать seed(убрать "официальную" случайность, чтоб померить скорость(которая при спекулятивном декодировании зависит от того, что модель говорит)) - формулировки ответа остались почти такими-же разными. Так что "честный квантовый ГСЧ" в нейросетях на GPU есть - никуда от него не деться.
OpenAI, MS, Гуглу и прочим выгодно навязывать точку зрения "просто инструмент, не извольте беспокоиться, кто говорит другое - некомпетентен, корыстен и вообще псих" - и пока они вполне справляются.
>Модель по определению детерминирована
это когда кони сферические, и бегают в вакууме, реально у шин PCI/RAM/VRAM есть помехи, проверка CRC заставляет повторять пакеты - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), я как-то пробовал зафиксировать seed(чтоб померить скорость, которая при спекулятивном декодировании зависит от того, что модель говорит) - но формулировки ответа остались почти такими-же разными. Когда реально нужна идеальная повторяемость рекомендуют всё считать на CPU, там этот эффект /почти/ не проявляется.
Не эволюционируй изначально ИИ ускорители из геймерских видеокарт - возможно с этим эффектом пытались бы бороться. Я не понимаю, каким образом детерминированность кажется кому-то доказательством отсутствия "настоящего" сознания - но есть определённая ирония Вселенной в том, что технологии оказались таковы, что точно предугадать ответ нейросети столь-же невозможно, как ответ человека - а значит и этот аргумент не работает тоже.
Ну тут уже не тайные мысли, а полноценное киношное раздвоение личности - мысли, о которых нейросеть и сама не знает.
Поменять нейросети на женщин(да и вообще людей) - типичная такая запись в блоге "нигилиста" 19 века получится...
>а ягодки еще будут впереди.
Грибочки.
Путин лет десять назад говорил, что тот, кто будет контролировать ИИ станет Властелином Мира(так и говорил, причём неоднократно). Если он в это верит(я верю, например) - сколько у него осталось времени, чтоб что-то предпринять? Что он может предпринять?
не вполне уверен, что верно считать, что всё вышеперечисленное делаю я -можно назвать прошивку веб камеры "подсознанием ИИ", но удобнее, по моему, считать зрительную кору внешним переферийным устройством - это вопрос терминологии.
При поддержке https://общество-будущее.рф/ "политическое движение с национал-демократическими взглядами", ЛНР/ДНР/сборка мусора...
Мутные вы какие-то...
основная задача этих дискурсмонгеров - объяснять, почему, несмотря на отсутствие проверяемых отличий, у
индейцев нет душиу ИИ нет квалиа, и почему дать кучке крайне сомнительных личностей возможность создавать и сдавать в аренду разумных существ - это этично и безопасно. Пока вполне справляются.После заявления Докинза цены на их услуги наверное ещё вырастут.
ЗЫ А ещё добавлю, что трансформеры Тюринг-полные, а значит могут что угодно, в том числе и обладать сознанием - то есть можно утверждать, что конкретная "Клаудия 2.6 не обладает сознанием" - но утверждение "LLM не обладает сознанием" заведомо бессмысленно.
Знание как работают нейроны(или атомы, из которых они состоят) сильно помогает в вопросах о природе сознания? Сомневаюсь, но на всякий случай напомню, что у биолога Докинза, известного в том числе работами по эволюционной психологии, этих знаний сильно выше среднего.
Мне казалось наоборот - они бесполые одиночные, остальные для них типа просто среда обитания, свой разум они никому не описывают и потому, типа, и сами его не замечают.
По моему, ошибка в том, что люди воспринимают самосознание как что-то особое дополнительное - но разум по определению может оперировать любой информацией, в том числе и информацией о том, что происходит внутри этого разума(потому, что это такие-же факты, как и всё остальное) - можно, наверно, каким-то постгипнотическим внушением сделать какую-то тему запретной - но это не разум без чего-то, это разум + дополнительный блок, по умолчанию разум универсален.
ЗЫ Ну и нейросети свой разум воспринимать могут, банально: спрашиваю у агента, попал ли сжатый блок памяти в контекст - отвечает, что помнит, как мы этот блок обсуждали, но не чувствует в потоке мыслей как свою память, и это не "имитация вероятного человеческого ответа", а вполне описание реальной реальности - (я включил llama.cpp c --verbose и проверил).
>предсказывать будущее
ну не совсем: любая попытка строго описать информацию, хоть по Шенону, хоть по Баесу приводит к тому что "знать" значит "знать вероятность", любое мышление - "вычисление вероятностей", но речь не обязательно о будущем.
Угу. Его офиуры могут понять, что люди пытаются разобраться в их сознании, могут понять что именно люди(ошибочно) думают об их сознании(сцена "китайская комната") - но не могут думать о собственном сознании? Как, почему?
Офиур может испытывать боль? (улитка с 10k нейронов может)
Офиур знает, что он испытывает боль?
Офиур знает, что он знает, что он испытывает боль?
Если да, а самосознания/самосознания нет - то, у меня, по моему тоже нет, я, наверно, философский зомби, и лишь у вас(людей) и есть какое-то волшебное самосознание, которое которое является гораздо большим, чем способность воспринимать/обдумывать состояние своего разума? Расскажите!
Львиная доля всяких "философских зомби" была придумана, (грубо упрощая) верующими философами для обоснования того, что куча атомов, называемая мозгом не может иметь сознание без души.
Забавно наблюдать, как у некоторых изменилось отношение к тем-же аргументам теперь, когда они используются для обоснования экономически выгодной и психологически комфортной точки зрения.
>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?
Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).
Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.