Комментарии 16
Интересно наблюдать, как люди возвращаются к философским вопросам двухтысячелетней давности. Тема для индийских философских школ характерна.
> Может быть, разум подобен контроллеру видеоигры, который перемещает тело по миру
такие рассуждения напоминают реакцию обезьяны на собственное изображение в зеркале, особенно про то как умный робот "тонко промывает вам мозги" :)
В язык не попадает большое количество умолчаний речевого характера, что заведомо обедняет информационную составляющую высказываний и соответственно текстов. При чтении человек реконструирует полную информационную картину внесением дополнений вместо отсутствующих умолчаний.
Ничего этого нет и не может быть в языковых моделях, искусственные нейросети (ИНС) оперируют только статистикой. И опыт с имплантированием ИНС в тело (куклу) заведомо лишенное моторного поля, того которое складывается в порядке усвоения движений с младенчества формируя полимодальный образ пространства в котором живет тело, это просто создание очередного симулякра.
Ничего этого нет и не может быть в языковых моделях
Интересно почему?
чтении человек реконструирует полную информационную картину внесением дополнений вместо отсутствующих умолчаний.
Разве нейросети не умеют во «внесение дополнений вместо отсутсвующих умолчаний»? По‑моему они прекрасно с этим справляются, даже больше, чем нужно, я бы сказал, часто излишне сильно. Взять, хотя бы, повышение разрешения фотографий.
того которое складывается в порядке усвоения движений с младенчества формируя полимодальный образ пространства в котором живет тело, это просто создание очередного симулякра.
Если симулякр будет симулякрить так, что мы не сможем отличить симулякра от несимулякра, то есть ли разница? Что нам говорит научный подход о штуках, которые мы не можем измерить экспериментами?
Да и ребёнок в начале жизненного пути часто обучается через подражание окружающим его людям. Вы же не хотите сказать, что это делает ребёнка симулякром? =)
А обучение нейросети, например, какого‑нибудь робота — это разве не «формирование полимодального образа пространства в котором живет тело»?
любой вид защиты от подобных опасностей будет трудно встроить в большие языковые модели, особенно по мере того, как они становятся всё более мощными.
Любая система сдерживания ИИ, не полагающаяся на чисто физические барьеры, должна быть ещё более интеллектуальной, чем этот самый ИИ.
Тело, в очень простом смысле, является основой для разумных и осторожных действий
Только в случае, когда разум привязан к одному телу. Если тело — манипулятор на радиоуправлении, а при утрате тела дадут другое, то к чему осторожность.
Некие попытки воплотить концепции воплощенного познания или даже воплощенного встроенного познания в жизнь из области когнитивных исследований. Начинать нужно с решения проблемы привязки (заземления) символов, а для воплощенных агентов даже с проблемы фрейма, и конечно проблемы встраивания новых знаний. GPT в самом конце цепочки, и возможно вообще не потребуется.
Разум - да, человеческий - нет.
Думаю, что разум - сложный многомерный сигнал, циркулирующий в клетках мозга.
Вполне могут. Есть люди у которых разум отделён от тела от слова совсем и витает в миллиардах световых лет от земли:)
И никто не упомянул влияние химии тела на сам мозг. Влияние различных клеток, белков, гормонов которые ощутимо влияют на психику и на мышление. Влияние всей совокупности нервной системы, спинного мозга. Особенности клеток мозга, строения полушарий и многого другого. Без химии все эти боты не более чем статистические машины дающие обученные ответы не понимая ни сути, ни конекста.
Публикации
Может ли разум существовать отдельно от тела?