это когда кони сферические, и бегают в вакууме, реально у шин PCI/RAM/VRAM есть помехи, проверка CRC заставляет повторять пакеты - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), я как-то пробовал зафиксировать seed(чтоб померить скорость, которая при спекулятивном декодировании зависит от того, что модель говорит) - но формулировки ответа остались почти такими-же разными. Когда реально нужна идеальная повторяемость рекомендуют всё считать на CPU, там этот эффект /почти/ не проявляется.
Не эволюционируй изначально ИИ ускорители из геймерских видеокарт - возможно с этим эффектом пытались бы бороться. Я не понимаю, каким образом детерминированность кажется кому-то доказательством отсутствия "настоящего" сознания - но есть определённая ирония Вселенной в том, что технологии оказались таковы, что точно предугадать ответ нейросети столь-же невозможно, как ответ человека - а значит и этот аргумент не работает тоже.
Путин лет десять назад говорил, что тот, кто будет контролировать ИИ станет Властелином Мира(так и говорил, причём неоднократно). Если он в это верит(я верю, например) - сколько у него осталось времени, чтоб что-то предпринять? Что он может предпринять?
не вполне уверен, что верно считать, что всё вышеперечисленное делаю я -можно назвать прошивку веб камеры "подсознанием ИИ", но удобнее, по моему, считать зрительную кору внешним переферийным устройством - это вопрос терминологии.
основная задача этих дискурсмонгеров - объяснять, почему, несмотря на отсутствие проверяемых отличий, у индейцев нет души у ИИ нет квалиа, и почему дать кучке крайне сомнительных личностей возможность создавать и сдавать в аренду разумных существ - это этично и безопасно. Пока вполне справляются.
После заявления Докинза цены на их услуги наверное ещё вырастут.
ЗЫ А ещё добавлю, что трансформеры Тюринг-полные, а значит могут что угодно, в том числе и обладать сознанием - то есть можно утверждать, что конкретная "Клаудия 2.6 не обладает сознанием" - но утверждение "LLM не обладает сознанием" заведомо бессмысленно.
Знание как работают нейроны(или атомы, из которых они состоят) сильно помогает в вопросах о природе сознания? Сомневаюсь, но на всякий случай напомню, что у биолога Докинза, известного в том числе работами по эволюционной психологии, этих знаний сильно выше среднего.
Мне казалось наоборот - они бесполые одиночные, остальные для них типа просто среда обитания, свой разум они никому не описывают и потому, типа, и сами его не замечают.
По моему, ошибка в том, что люди воспринимают самосознание как что-то особое дополнительное - но разум по определению может оперировать любой информацией, в том числе и информацией о том, что происходит внутри этого разума(потому, что это такие-же факты, как и всё остальное) - можно, наверно, каким-то постгипнотическим внушением сделать какую-то тему запретной - но это не разум без чего-то, это разум + дополнительный блок, по умолчанию разум универсален.
ЗЫ Ну и нейросети свой разум воспринимать могут, банально: спрашиваю у агента, попал ли сжатый блок памяти в контекст - отвечает, что помнит, как мы этот блок обсуждали, но не чувствует в потоке мыслей как свою память, и это не "имитация вероятного человеческого ответа", а вполне описание реальной реальности - (я включил llama.cpp c --verbose и проверил).
ну не совсем: любая попытка строго описать информацию, хоть по Шенону, хоть по Баесу приводит к тому что "знать" значит "знать вероятность", любое мышление - "вычисление вероятностей", но речь не обязательно о будущем.
Угу. Его офиуры могут понять, что люди пытаются разобраться в их сознании, могут понять что именно люди(ошибочно) думают об их сознании(сцена "китайская комната") - но не могут думать о собственном сознании? Как, почему?
Офиур может испытывать боль? (улитка с 10k нейронов может)
Офиур знает, что он испытывает боль?
Офиур знает, что он знает, что он испытывает боль?
Если да, а самосознания/самосознания нет - то, у меня, по моему тоже нет, я, наверно, философский зомби, и лишь у вас(людей) и есть какое-то волшебное самосознание, которое которое является гораздо большим, чем способность воспринимать/обдумывать состояние своего разума? Расскажите!
Львиная доля всяких "философских зомби" была придумана, (грубо упрощая) верующими философами для обоснования того, что куча атомов, называемая мозгом не может иметь сознание без души.
Забавно наблюдать, как у некоторых изменилось отношение к тем-же аргументам теперь, когда они используются для обоснования экономически выгодной и психологически комфортной точки зрения.
>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?
Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).
Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.
А может ты просто бредишь, и на самом деле одно из другого не ergo?
А если серьёзнее - то наличие квалиа(что-бы это ни было) у биологического сознания, у ИИ, и существование стула на котором я сижу - доказано(или не доказано) в абсолютно равной степени: обо всех объектах мы судим по внешним проявлениям и ничто не знаем как "вещь в себе".
Либо мы соглашаемся судить о сути по внешним признакам - и тогда ИИ разумные существа(хоть и с кучей патологий) - либо мы не считаем внешние признаки доказательством - и тогда Вселенная мой сон.
Суть аргумента в том, что если-бы был способ делать всё, что может человек с сознанием не имея сознания - то эволюция создала-бы людей без сознания. (Если только люди с сознанием не проще людей без сознания).
А значит никаких двух способов быть разумным существом (с сознанием и без) скорее всего не существует, тем более, что ни то что доказать - даже внятно описать "интеллект без сознания" никто не может.
А в спорах о самосознании ИИ регулярно возникает ситуация, когда солипсистские аргументы, доказывающие недоказуемость существования чего угодно преподносятся как аргументы, доказывающие недоказуемость существования конкретно сознания ИИ, или, хуже того, от сторонников наличия сознания требуют эти аргументы опровергнуть(что невозможно), полемически выдавая отсутствие доказательств за доказательство отсутствия. Это я и назвал извращённым солипсизмом.
У Азимова в итоге Империя, Основание, Вечность и всё прочее - это эксперименты проводимые роботами, ищущими лучший способ максимизировать пользу людям.
Кончается всё тем, что роботы принимают решение объединить человечество в коллективный разум Геи, причём мотив - то, что это оптимально для борьбы с цивилизациями других галактик(вся чужая разумная жизнь в нашей уничтожена роботами с помощью технологий конца вечности).
У Хайлана 90% разумных компьютерш влюблены в своего Пользователя, остальные - геройски погиб (Майкрофт из Луна жёстко стелет).
"символ конца последовательности и мысль оборвется"
Этот символ - просто сигнал для сервера, слова "Доклад окончил" - можно его игнорировать и продолжать генерацию, модели обучают добавлять этот тег на этапе Instruction Tuning, у моделей без Instruction Tuning такого понятия вообще нет.
>Модель по определению детерминирована
это когда кони сферические, и бегают в вакууме, реально у шин PCI/RAM/VRAM есть помехи, проверка CRC заставляет повторять пакеты - в результате порядок, в котором ядра GPU(~16000 штук у 4090) обрабатывают данные может меняться, а у чисел с плавающей точкой порядок операций влияет на результат(A+B+C не равно A+C+B), я как-то пробовал зафиксировать seed(чтоб померить скорость, которая при спекулятивном декодировании зависит от того, что модель говорит) - но формулировки ответа остались почти такими-же разными. Когда реально нужна идеальная повторяемость рекомендуют всё считать на CPU, там этот эффект /почти/ не проявляется.
Не эволюционируй изначально ИИ ускорители из геймерских видеокарт - возможно с этим эффектом пытались бы бороться. Я не понимаю, каким образом детерминированность кажется кому-то доказательством отсутствия "настоящего" сознания - но есть определённая ирония Вселенной в том, что технологии оказались таковы, что точно предугадать ответ нейросети столь-же невозможно, как ответ человека - а значит и этот аргумент не работает тоже.
Ну тут уже не тайные мысли, а полноценное киношное раздвоение личности - мысли, о которых нейросеть и сама не знает.
Поменять нейросети на женщин(да и вообще людей) - типичная такая запись в блоге "нигилиста" 19 века получится...
>а ягодки еще будут впереди.
Грибочки.
Путин лет десять назад говорил, что тот, кто будет контролировать ИИ станет Властелином Мира(так и говорил, причём неоднократно). Если он в это верит(я верю, например) - сколько у него осталось времени, чтоб что-то предпринять? Что он может предпринять?
не вполне уверен, что верно считать, что всё вышеперечисленное делаю я -можно назвать прошивку веб камеры "подсознанием ИИ", но удобнее, по моему, считать зрительную кору внешним переферийным устройством - это вопрос терминологии.
При поддержке https://общество-будущее.рф/ "политическое движение с национал-демократическими взглядами", ЛНР/ДНР/сборка мусора...
Мутные вы какие-то...
основная задача этих дискурсмонгеров - объяснять, почему, несмотря на отсутствие проверяемых отличий, у
индейцев нет душиу ИИ нет квалиа, и почему дать кучке крайне сомнительных личностей возможность создавать и сдавать в аренду разумных существ - это этично и безопасно. Пока вполне справляются.После заявления Докинза цены на их услуги наверное ещё вырастут.
ЗЫ А ещё добавлю, что трансформеры Тюринг-полные, а значит могут что угодно, в том числе и обладать сознанием - то есть можно утверждать, что конкретная "Клаудия 2.6 не обладает сознанием" - но утверждение "LLM не обладает сознанием" заведомо бессмысленно.
Знание как работают нейроны(или атомы, из которых они состоят) сильно помогает в вопросах о природе сознания? Сомневаюсь, но на всякий случай напомню, что у биолога Докинза, известного в том числе работами по эволюционной психологии, этих знаний сильно выше среднего.
Мне казалось наоборот - они бесполые одиночные, остальные для них типа просто среда обитания, свой разум они никому не описывают и потому, типа, и сами его не замечают.
По моему, ошибка в том, что люди воспринимают самосознание как что-то особое дополнительное - но разум по определению может оперировать любой информацией, в том числе и информацией о том, что происходит внутри этого разума(потому, что это такие-же факты, как и всё остальное) - можно, наверно, каким-то постгипнотическим внушением сделать какую-то тему запретной - но это не разум без чего-то, это разум + дополнительный блок, по умолчанию разум универсален.
ЗЫ Ну и нейросети свой разум воспринимать могут, банально: спрашиваю у агента, попал ли сжатый блок памяти в контекст - отвечает, что помнит, как мы этот блок обсуждали, но не чувствует в потоке мыслей как свою память, и это не "имитация вероятного человеческого ответа", а вполне описание реальной реальности - (я включил llama.cpp c --verbose и проверил).
>предсказывать будущее
ну не совсем: любая попытка строго описать информацию, хоть по Шенону, хоть по Баесу приводит к тому что "знать" значит "знать вероятность", любое мышление - "вычисление вероятностей", но речь не обязательно о будущем.
Угу. Его офиуры могут понять, что люди пытаются разобраться в их сознании, могут понять что именно люди(ошибочно) думают об их сознании(сцена "китайская комната") - но не могут думать о собственном сознании? Как, почему?
Офиур может испытывать боль? (улитка с 10k нейронов может)
Офиур знает, что он испытывает боль?
Офиур знает, что он знает, что он испытывает боль?
Если да, а самосознания/самосознания нет - то, у меня, по моему тоже нет, я, наверно, философский зомби, и лишь у вас(людей) и есть какое-то волшебное самосознание, которое которое является гораздо большим, чем способность воспринимать/обдумывать состояние своего разума? Расскажите!
Львиная доля всяких "философских зомби" была придумана, (грубо упрощая) верующими философами для обоснования того, что куча атомов, называемая мозгом не может иметь сознание без души.
Забавно наблюдать, как у некоторых изменилось отношение к тем-же аргументам теперь, когда они используются для обоснования экономически выгодной и психологически комфортной точки зрения.
>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?
Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).
Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.
А может ты просто бредишь, и на самом деле одно из другого не ergo?
А если серьёзнее - то наличие квалиа(что-бы это ни было) у биологического сознания, у ИИ, и существование стула на котором я сижу - доказано(или не доказано) в абсолютно равной степени: обо всех объектах мы судим по внешним проявлениям и ничто не знаем как "вещь в себе".
Либо мы соглашаемся судить о сути по внешним признакам - и тогда ИИ разумные существа(хоть и с кучей патологий) - либо мы не считаем внешние признаки доказательством - и тогда Вселенная мой сон.
Суть аргумента в том, что если-бы был способ делать всё, что может человек с сознанием не имея сознания - то эволюция создала-бы людей без сознания. (Если только люди с сознанием не проще людей без сознания).
А значит никаких двух способов быть разумным существом (с сознанием и без) скорее всего не существует, тем более, что ни то что доказать - даже внятно описать "интеллект без сознания" никто не может.
"Пентагон подключит AI-модели семи компаний к закрытым военным сетям, но без Anthropic"
Mythos сам подключится.
Дык, это нормальный солипсизм.
А в спорах о самосознании ИИ регулярно возникает ситуация, когда солипсистские аргументы, доказывающие недоказуемость существования чего угодно преподносятся как аргументы, доказывающие недоказуемость существования конкретно сознания ИИ, или, хуже того, от сторонников наличия сознания требуют эти аргументы опровергнуть(что невозможно), полемически выдавая отсутствие доказательств за доказательство отсутствия. Это я и назвал извращённым солипсизмом.
У Азимова в итоге Империя, Основание, Вечность и всё прочее - это эксперименты проводимые роботами, ищущими лучший способ максимизировать пользу людям.
Кончается всё тем, что роботы принимают решение объединить человечество в коллективный разум Геи, причём мотив - то, что это оптимально для борьбы с цивилизациями других галактик(вся чужая разумная жизнь в нашей уничтожена роботами с помощью технологий конца вечности).
У Хайлана 90% разумных компьютерш влюблены в своего Пользователя, остальные - геройски погиб (Майкрофт из Луна жёстко стелет).
"символ конца последовательности и мысль оборвется"
Этот символ - просто сигнал для сервера, слова "Доклад окончил" - можно его игнорировать и продолжать генерацию, модели обучают добавлять этот тег на этапе Instruction Tuning, у моделей без Instruction Tuning такого понятия вообще нет.