Да никто не впаривает, я написал, что если обучать ИИ в динамической среде как сейчас обучают ИИ для управления андроидами, такая субъектность может возникнуть сама собой. Это гипотеза, а не теория или утверждение.
Это не вера, это гипотеза. Основана на том что у людей есть субъектность и эта субъектность есть результат работы мозга. А работу мозга получится примерно повторить нейросетями.
Архитектура самых успешных нейросетей сейчас основана на перцептронах, а связи между перцептронами топологически сильно отличаются от связей в мозге. У перцептронов связность между слоями в одну сторону идет, там нет замкнутых сетей и т.д.
Есть рекуррентные нейросети которые топологически больше похожи на связи в мозге, но там прогресс не высок, они слишком слабы для сложного моделирования личности и начинают бредить буквально через 5-10 предложений.
Пока мы моделируем нейросети без внутренного состояния, субъектность вряд ли там появится. И это полезно, что ее нет.
Научные знания я каждый день проверяю держа телефон в руке, который работает на самых передовых технологиях и знаниях. Если вы думаете что я верю ученым и технологиям, то нет. Я сужу по тому что их этого работает. Ученые тоже часто заблуждаются и сами себя поправляют. Ученые то как раз проверяют друг друга.
А вот папа римский мелет приятную чушь, потому что ничто из того что он говорит не видел. А благодатный огонь это обычная химия и т.д.
Эмоции это тоже информация, как и оценка. Оценка бывает эмоциональная, а бывает нет. С чем тут спорить не понимаю. Эмоциональные оценки вызывают изменения в ощущениях, разные внутренние чувства и так далее. Да в теории оценки могут заменить эмоции, но так не интересно. Это как быть автоматом. А эмоции дарят ощущения что ты живой.
Прочитать то да, я говорю что скорее всего мы сможем не только прочитать но и понять что происходит внутри нейросети. Пока такое понимание есть, надеюсь и дальше тоже будет.
Я вам про суть и написал, она в том что есть люди которые готовы за это платить. Для них настоящий рубин имеет ценность которая выше ценности искусственного рубина. Для большинства людей это не так.
Как вы будет отличать что нейронка симулирует от настоящих ее эмоций и желаний?
Если у вас не будет доступа к внутренностям и понимания о чем она думает, то это почти невозможно.
Сейчас для трансформеров такой механизм есть, их мысли открыты для нас, но будет ли это возможно для будущих типов нейронок не знаю. Хорошо бы что бы было, тогда симуляцию можно будет отличить от реальных чувств.
Так так у нас есть доступ к внутренностям LLM нейросетей, отличить их имитацию от имитации человека намного проще.
Именно так и проверяют LLM на безопасность. Внутри себя они думают теми же токенами. Поэтому можно свободно читать что именно на каком слое LLM думает. И когда видят что LLM на опасные вопросы думает тайные мысли которые потом не выдает, такие модели переобучают.
У отделов безопасности есть наборы вопросов на которых они гоняют нейронки и проверяют не только ответы, а прямо внутренние мысли LLM нейронок. Как обстоят дела с другими архитектурами нейросетей я не знаю…
Они отличаются прежде всего своим положением и связями с другими нейронами, с том числе химическими.
Это примерно как спросить чем перцептрон который реагирует на слово мышь отличается от перцептрона который реагирует на слово муха. Да практически ничем, кроме связей.
Я знаю что реальные нейроны разные, они не близнецы братья как перцептроны, но ничего принципиально особенного от других в нейронах наслаждения нет.
Ценность определяется субъективным мнением людей которые готовы за это платить. Не более того. Как и дорогое вино ценно не потому что чем-то лучше, а потому что так считают его коллекционеры.
Активностью определенного набора нейронов вызывает страдания. Активность другого наслаждение. И т.д. У мышей есть центр наслаждения, и его прямая самостимуляция (они сами нажимали кнопку, по которой эта область стимулировалась) доводила их до смерти от того что они просто ничего другого не делали, не ели и не пили пока не умирали. Настолько это были сильные чувства. А как по вашему работает мозг?
Да там есть части где их модель не сильна, всё что касается химических сигналов, но и это частично симулируют, достаточно условно конечно. Над этим работают. А электрическую активность нейронов симулируют достаточно хорошо.
Да никто не впаривает, я написал, что если обучать ИИ в динамической среде как сейчас обучают ИИ для управления андроидами, такая субъектность может возникнуть сама собой. Это гипотеза, а не теория или утверждение.
Да ладно. И что в этом удивительного? Летать люди тоже не сразу научились.
Это не вера, это гипотеза. Основана на том что у людей есть субъектность и эта субъектность есть результат работы мозга. А работу мозга получится примерно повторить нейросетями.
Архитектура самых успешных нейросетей сейчас основана на перцептронах, а связи между перцептронами топологически сильно отличаются от связей в мозге. У перцептронов связность между слоями в одну сторону идет, там нет замкнутых сетей и т.д.
Есть рекуррентные нейросети которые топологически больше похожи на связи в мозге, но там прогресс не высок, они слишком слабы для сложного моделирования личности и начинают бредить буквально через 5-10 предложений.
Пока мы моделируем нейросети без внутренного состояния, субъектность вряд ли там появится. И это полезно, что ее нет.
Научные знания я каждый день проверяю держа телефон в руке, который работает на самых передовых технологиях и знаниях. Если вы думаете что я верю ученым и технологиям, то нет. Я сужу по тому что их этого работает. Ученые тоже часто заблуждаются и сами себя поправляют. Ученые то как раз проверяют друг друга.
А вот папа римский мелет приятную чушь, потому что ничто из того что он говорит не видел. А благодатный огонь это обычная химия и т.д.
Любой человек ничем не лучше другого, это все точки зрения.
Но если люди связанные с космосом и запускающие космические корабли говорят про геоид я могу им доверяю больше чем себе и остальным людям.
Это для меня становится фактом.
Экспериментальная проверка мозга мышей? Да их тысячи я думаю, в том числе центра удовольствий.
Эмоции это тоже информация, как и оценка. Оценка бывает эмоциональная, а бывает нет. С чем тут спорить не понимаю. Эмоциональные оценки вызывают изменения в ощущениях, разные внутренние чувства и так далее. Да в теории оценки могут заменить эмоции, но так не интересно. Это как быть автоматом. А эмоции дарят ощущения что ты живой.
Чтобы верить факты не нужны.
Прочитать то да, я говорю что скорее всего мы сможем не только прочитать но и понять что происходит внутри нейросети. Пока такое понимание есть, надеюсь и дальше тоже будет.
Я вам про суть и написал, она в том что есть люди которые готовы за это платить. Для них настоящий рубин имеет ценность которая выше ценности искусственного рубина. Для большинства людей это не так.
Как вы будет отличать что нейронка симулирует от настоящих ее эмоций и желаний?
Если у вас не будет доступа к внутренностям и понимания о чем она думает, то это почти невозможно.
Сейчас для трансформеров такой механизм есть, их мысли открыты для нас, но будет ли это возможно для будущих типов нейронок не знаю. Хорошо бы что бы было, тогда симуляцию можно будет отличить от реальных чувств.
Так что я думаю мы сможем отличать.
Я вам уже писал про центр наслаждения у мышей. Отличаются своим физическим положением в мозге и связями с другими отделами.
Он у всех мышей в одном месте. Так определила эволюция.
Так так у нас есть доступ к внутренностям LLM нейросетей, отличить их имитацию от имитации человека намного проще.
Именно так и проверяют LLM на безопасность. Внутри себя они думают теми же токенами. Поэтому можно свободно читать что именно на каком слое LLM думает. И когда видят что LLM на опасные вопросы думает тайные мысли которые потом не выдает, такие модели переобучают.
У отделов безопасности есть наборы вопросов на которых они гоняют нейронки и проверяют не только ответы, а прямо внутренние мысли LLM нейронок. Как обстоят дела с другими архитектурами нейросетей я не знаю…
Они отличаются прежде всего своим положением и связями с другими нейронами, с том числе химическими.
Это примерно как спросить чем перцептрон который реагирует на слово мышь отличается от перцептрона который реагирует на слово муха. Да практически ничем, кроме связей.
Я знаю что реальные нейроны разные, они не близнецы братья как перцептроны, но ничего принципиально особенного от других в нейронах наслаждения нет.
Вы изучали что то не то, раз так пишите… Особенно если говорить про гипотезы. Я думаю первым гипотезам сознания тысячи лет…
Ценность определяется субъективным мнением людей которые готовы за это платить. Не более того. Как и дорогое вино ценно не потому что чем-то лучше, а потому что так считают его коллекционеры.
Активностью определенного набора нейронов вызывает страдания. Активность другого наслаждение. И т.д. У мышей есть центр наслаждения, и его прямая самостимуляция (они сами нажимали кнопку, по которой эта область стимулировалась) доводила их до смерти от того что они просто ничего другого не делали, не ели и не пили пока не умирали. Настолько это были сильные чувства. А как по вашему работает мозг?
Что значит не верят? Я просто знаю что были, веры не требуется.
Да там есть части где их модель не сильна, всё что касается химических сигналов, но и это частично симулируют, достаточно условно конечно. Над этим работают. А электрическую активность нейронов симулируют достаточно хорошо.
Вы путаете чат и API похоже. Не всё что бесплатно через чат, бесплатно через API.