И да - а зачем пихать копию сознания в силикон? Где профит?
Профит - биологическое тело оригинала. Из 12 проголосовавших на 3-й вопрос 25% считают, что перенос сознания с биологической платформы на кремниевую возможен (надеюсь, троллят).
И тут уже даже не важно, насколько на самом деле хорошо работает или не работает "нейронка на чипе". Важно, что 25% верят (пока что потенциально), что "силиконовая копия" работает и работает хорошо. Fake it till you make it - и просто греби брошенные биологические платформы лопатой.
Людей можно будет оцифровывать кусочками, не теряя непрерывности сознания.
Вот вы сейчас серьёзно? Что дало вам повод к такому оптимизму? Где-то кто-то хоть один кусочек хоть кого-нибудь оцифровал уже, пусть даже и прерывисто?
Судя по моим наблюдениям - нельзя. Технологий таких нет даже на горизонте. Сознание не поддаётся оцифровке на данном техническом уровне. Мы даже пока осознать не можем, что такое сознание, а не то, что его оцифровать. Всё, что мы, как человечество, пока сделали - это модель нейросетки. Но это даже не модель сознания :)
А вот копировать себя в детей - можно. Копирование себя в детей - это воспитание. Ребёнок перенимает от тебя твои привычки, образ действия, обороты речи, моральные ценности. "Оцифровка себя", чтобы они ни значила в вашем понимании, это тоже передача на другой носитель фрагментов своего Я. Прямая аналогия с воспитанием детей.
При воспитании нового поколения ваше Я не перетекает в ваших детей, оно остаётся вами и физически умирает вместе с вашим физическим телом. То же самое будет и при оцифровке (даже если она когда-нибудь появится). Вы даже не поймёте, что что-то там куда-то "оцифровалось". И если вдруг (вдруг!) можно сделать копию вашего сознания (не модель, а именно копию!) и поместить в другой носитель - вот оно там знатно фрустрируется от невозможности использовать привычную ему нервную систему для обмена сигналами с окружающим миром. Посмотрел бы я на то, как кто-то попытается "кусочно" добавить к нему ваш новый опыт. Там без психиатра и не подберёшься. А вы, биологический вы, будете стоять рядом и наблюдать. И это будет два совершенно разных сознания - вы так и не сможете познать во всей полноте, что же ощущала ваша копия.
Но, опять же, это всё выдумки и фантазия. Пока что ничего не говорит о возможности миграции сознания биологического существа в кремниевое. Возможность зарождения сознания в программно-аппаратных комплексах - вопрос дискутируемый. Зависит от определения, что считать "сознанием".
IMHO, мужики слегка преувеличивают. Перегибают, я бы сказал. Но... это "законы сцены" для капитализма. Когда ты привлекаешь средства размером с бюджет какой-нибудь страны (из разряда прибалтийских "тигров", например), то и изображать нужно с размахом. Просто у ребят есть план (дальнейшее увеличение капитализации - до уровня передовых экономик мира хотя бы) и они его придерживаются ("США против Китая").
Что же касается апокалипсиса вида "программы напишут программы, которые уничтожат человечество", то обычный цикл нам в помощь. Развитие - это когда спираль, а когда просто обычный цикл, то программы могут писать программы, которые напишут другие программы, пишущие программы до морковкина заговенья - пока не выпарят всю воду из океанов на охлаждение процессоров. Это тоже будет конец человечества, но другой.
Пока что, из того, что я вижу, чтобы агенты не создавали shit-код тоннами, им нужно ручное управление. Чтобы "AI-системы строили AI-системы" им таки нужны те, кто следит, чтобы они шли по спирали, а не уходили в цикл. У LLM всё ещё есть ограничения на размер контекста, так то.
Если люди станут полностью цифровыми существами (а надеюсь, они станут - уже на жизни этого или следующего поколения)
Люди никогда не станут цифровыми существам, т.к. они уже есть существа биологические. Они могут породить цифровые существа, но не могут ими стать. Как вы не можете стать своими собственными детьми, хотя и можете их породить. Вот поэтому мы оперируем понятиями биологических норм - по сути своей.
Наши создания могут нас уничтожить, как могут нас уничтожить наши дети, а могут дать нам дожить до естественной смерти. Тут всё зависит от того, как мы их "воспитаем" (настроим, зададим системный промпт).
У нас у каждого есть несколько цифровых личностей в Сети - у меня их штук 5 (2 основных и ещё несколько служебных). Будет ещё плюс одна. Открываем ещё одну Google-учётку - и вперёд, в светлое ИИ-шное будущее!! А, и Docker на свой комп.
Это Ваше утверждение, не моё. Это Вы утверждаете, что "оно может стать частью системы". А я утверждаю, что "из общения" человека с моделью ничего нового в модель не попадает.
Да, это чистая философия. Ну, вот так я глаголю. У Вас другая философия и глаголите Вы по-другому. Вот и славно. Мы оба публично высказались. Кому интересно - почитает. Своё мнение составит. И про Вашу филососфию, и про мою.
А если хотите мои теории разобрать - пожалуйста. Я для того их тут и публикую, чтобы фидбэк получать. Иногда даже что-то полезное возвращается. Пробуйте.
Бесконечности бывают разные. Это тоже несложная мысль. И матанализ её наглядно демонстрирует. Я просто переписал ваше же "2⋅∞=∞" в несколько другой форме.
Это публичная площадка. Я выражаю своё мнение, Вы - своё. Кто-то пишет, кто-то читает. Только и всего. Если Вы считаете, что я не прав - опровергните мои слова. Если не считаете нужным - не опровергайте. В конце-концов, Хабр - это возможности, а не обязанности ;)
Ваши статьи для меня тоже оспоримы , но я не называю это "заблуждение ' .
Вот и зря. Если Вы правы, а я - нет, я пересмотрю свою точку зрения. Мне не сложно.
Чтобы Ваши читатели тоже подумали, что тут написано. У Вас же просто логические нестыковки в тексте. Память у Моделей возникает из ниоткуда:
Всё, что проявилось устойчиво: необычные формулировки, новые обороты, нестандартные вопросы — со временем вплетается в “ткань” модели, если только не оказывается явно опасным или ненужным. Это не память про конкретные разговоры, а след в “языковом поле”.
Ну это же бред!!
В статье по ссылке (https://zenodo.org/records/17926666) говорится о том, что невозможно полностью вычистить фильтрами то, что получено от предыдущего поколения моделей в качестве стартовой базы для обучения. Всё. Tracking Continuity - оно про преемственность, а не про "со временем вплетается". Вы сами-то читали, что там в статье? Если - да, то перечитайте ещё раз Ваш пост, найдите вот это:
Когда человек работает с языковой моделью, он не “запоминается”, как пользователь, но если из общения возникает что-то новое и заметное, оно может стать частью системы.
и попробуйте найти в статье хоть какое-то подтверждение вышесказанному. Процитируйте здесь лучшее, что найдёте.
в теории можно все значения якобы невычислимой функции можно записать тупо на отрезке этой ленты и обращаться к ним как к списку значений
Если речь идёт про одну невычислимую функцию, то - да, там порядок бесконечности одинаков. Я что-то по невнимательности решил, что разговор идёт про множество всех вычислимых функций и про множество всех невычислимых.
Почему неизвестный? Как говорят математики в таких случаях: "Допустим, порядок бесконечности Ленты Тьюринга равен 1. Тогда ..."
Весь вопрос в том, для чего нужна Лента Тьюринга? Если для реализации бесконечного множества всех вычислимых функций, то её длина бесконечна, но меньше, чем у аналогичной ленты для реализации множество всех вычислимых функций + ещё одной. Порядок совпадает, но длина меньше, как ни крути ¯\_(ツ)_/¯ А если добавлять не просто +1 функцию, а ещё одно бесконечное множество функций уже невычислимых, то тут и порядки длины лент могут быть разные (см. матанализ, пределы).
Профит - биологическое тело оригинала. Из 12 проголосовавших на 3-й вопрос 25% считают, что перенос сознания с биологической платформы на кремниевую возможен (надеюсь, троллят).
И тут уже даже не важно, насколько на самом деле хорошо работает или не работает "нейронка на чипе". Важно, что 25% верят (пока что потенциально), что "силиконовая копия" работает и работает хорошо. Fake it till you make it - и просто греби брошенные биологические платформы лопатой.
Вы таки уже разобрались, как работает сознание? А утверждаете так, как будто разобрались.
Даже не буду вас отговаривать. Науку двигают энтузиасты. Удачного переноса!
Вот вы сейчас серьёзно? Что дало вам повод к такому оптимизму? Где-то кто-то хоть один кусочек хоть кого-нибудь оцифровал уже, пусть даже и прерывисто?
Судя по моим наблюдениям - нельзя. Технологий таких нет даже на горизонте. Сознание не поддаётся оцифровке на данном техническом уровне. Мы даже пока осознать не можем, что такое сознание, а не то, что его оцифровать. Всё, что мы, как человечество, пока сделали - это модель нейросетки. Но это даже не модель сознания :)
А вот копировать себя в детей - можно. Копирование себя в детей - это воспитание. Ребёнок перенимает от тебя твои привычки, образ действия, обороты речи, моральные ценности. "Оцифровка себя", чтобы они ни значила в вашем понимании, это тоже передача на другой носитель фрагментов своего Я. Прямая аналогия с воспитанием детей.
При воспитании нового поколения ваше Я не перетекает в ваших детей, оно остаётся вами и физически умирает вместе с вашим физическим телом. То же самое будет и при оцифровке (даже если она когда-нибудь появится). Вы даже не поймёте, что что-то там куда-то "оцифровалось". И если вдруг (вдруг!) можно сделать копию вашего сознания (не модель, а именно копию!) и поместить в другой носитель - вот оно там знатно фрустрируется от невозможности использовать привычную ему нервную систему для обмена сигналами с окружающим миром. Посмотрел бы я на то, как кто-то попытается "кусочно" добавить к нему ваш новый опыт. Там без психиатра и не подберёшься. А вы, биологический вы, будете стоять рядом и наблюдать. И это будет два совершенно разных сознания - вы так и не сможете познать во всей полноте, что же ощущала ваша копия.
Но, опять же, это всё выдумки и фантазия. Пока что ничего не говорит о возможности миграции сознания биологического существа в кремниевое. Возможность зарождения сознания в программно-аппаратных комплексах - вопрос дискутируемый. Зависит от определения, что считать "сознанием".
IMHO, мужики слегка преувеличивают. Перегибают, я бы сказал. Но... это "законы сцены" для капитализма. Когда ты привлекаешь средства размером с бюджет какой-нибудь страны (из разряда прибалтийских "тигров", например), то и изображать нужно с размахом. Просто у ребят есть план (дальнейшее увеличение капитализации - до уровня передовых экономик мира хотя бы) и они его придерживаются ("США против Китая").
Что же касается апокалипсиса вида "программы напишут программы, которые уничтожат человечество", то обычный цикл нам в помощь. Развитие - это когда спираль, а когда просто обычный цикл, то программы могут писать программы, которые напишут другие программы, пишущие программы до морковкина заговенья - пока не выпарят всю воду из океанов на охлаждение процессоров. Это тоже будет конец человечества, но другой.
Пока что, из того, что я вижу, чтобы агенты не создавали shit-код тоннами, им нужно ручное управление. Чтобы "AI-системы строили AI-системы" им таки нужны те, кто следит, чтобы они шли по спирали, а не уходили в цикл. У LLM всё ещё есть ограничения на размер контекста, так то.
Люди никогда не станут цифровыми существам, т.к. они уже есть существа биологические. Они могут породить цифровые существа, но не могут ими стать. Как вы не можете стать своими собственными детьми, хотя и можете их породить. Вот поэтому мы оперируем понятиями биологических норм - по сути своей.
Наши создания могут нас уничтожить, как могут нас уничтожить наши дети, а могут дать нам дожить до естественной смерти. Тут всё зависит от того, как мы их "воспитаем" (настроим, зададим системный промпт).
У нас у каждого есть несколько цифровых личностей в Сети - у меня их штук 5 (2 основных и ещё несколько служебных). Будет ещё плюс одна. Открываем ещё одну Google-учётку - и вперёд, в светлое ИИ-шное будущее!! А, и Docker на свой комп.
В музыке всего 7 нот, но люди продолжают создавать новые мелодии путём их рекомбинации.
"Any application that can be written in JavaScript, will eventually be written in JavaScript!" (с) Atwood's law
Типа того. Пример с бесконечностью того же порядка не особо удачный. Но я и не математик :) Я просто с универа помню, что бесконечности бывают разные.
А наоборот?
Я думаю, что это время будет "совсем всё", когда LLM-агенты начнут кодить сразу в машкодах. А так - у Райана просто депрессия.
Это Ваша статья по ссылке - https://zenodo.org/records/17926666 ?
Это Ваше утверждение, не моё. Это Вы утверждаете, что "оно может стать частью системы". А я утверждаю, что "из общения" человека с моделью ничего нового в модель не попадает.
Да, это чистая философия. Ну, вот так я глаголю. У Вас другая философия и глаголите Вы по-другому. Вот и славно. Мы оба публично высказались. Кому интересно - почитает. Своё мнение составит. И про Вашу филососфию, и про мою.
А если хотите мои теории разобрать - пожалуйста. Я для того их тут и публикую, чтобы фидбэк получать. Иногда даже что-то полезное возвращается. Пробуйте.
Бесконечности бывают разные. Это тоже несложная мысль. И матанализ её наглядно демонстрирует. Я просто переписал ваше же "2⋅∞=∞" в несколько другой форме.
Нас читаем не только мы :) Мои возражения были не столько для Вас, сколько для других читателей. Чтобы они критически относились к тому, что читают.
Это публичная площадка. Я выражаю своё мнение, Вы - своё. Кто-то пишет, кто-то читает. Только и всего. Если Вы считаете, что я не прав - опровергните мои слова. Если не считаете нужным - не опровергайте. В конце-концов, Хабр - это возможности, а не обязанности ;)
Вот и зря. Если Вы правы, а я - нет, я пересмотрю свою точку зрения. Мне не сложно.
Нет, это обычный матанализ.
Чтобы Ваши читатели тоже подумали, что тут написано. У Вас же просто логические нестыковки в тексте. Память у Моделей возникает из ниоткуда:
Ну это же бред!!
В статье по ссылке (https://zenodo.org/records/17926666) говорится о том, что невозможно полностью вычистить фильтрами то, что получено от предыдущего поколения моделей в качестве стартовой базы для обучения. Всё. Tracking Continuity - оно про преемственность, а не про "со временем вплетается". Вы сами-то читали, что там в статье? Если - да, то перечитайте ещё раз Ваш пост, найдите вот это:
и попробуйте найти в статье хоть какое-то подтверждение вышесказанному. Процитируйте здесь лучшее, что найдёте.
Если речь идёт про одну невычислимую функцию, то - да, там порядок бесконечности одинаков. Я что-то по невнимательности решил, что разговор идёт про множество всех вычислимых функций и про множество всех невычислимых.
Почему неизвестный? Как говорят математики в таких случаях: "Допустим, порядок бесконечности Ленты Тьюринга равен 1. Тогда ..."
Весь вопрос в том, для чего нужна Лента Тьюринга? Если для реализации бесконечного множества всех вычислимых функций, то её длина бесконечна, но меньше, чем у аналогичной ленты для реализации множество всех вычислимых функций + ещё одной. Порядок совпадает, но длина меньше, как ни крути ¯\_(ツ)_/¯ А если добавлять не просто +1 функцию, а ещё одно бесконечное множество функций уже невычислимых, то тут и порядки длины лент могут быть разные (см. матанализ, пределы).