Сказка-басня: жил-был человек и вдруг из неоткуда у него в доме материализовался кот. Человек играл с ним долгое время и понял, что кот не вставит вилку утюга в розетку и не откроет дверь незнакомым. Оставил его дома, не опасаясь что он натворит бед. А потом материализовался ребенок 3 лет... человек понял, что оставлять его без присмотра - нельзя. Кот здесь - LLM, а человек - ASI.
Просто концептуально LLM являются чем-то существенным, но не достаточным того, что мы хотим. Просто нужно искать другой концепт. Возможно он где-то рядом. На этом же непаханом поле.
Нет. Кот живет с вами в доме, в той же среде. Но перезвонить вам по мобильнику (если пожар) не может. У него тоже имеется головной мозг как и у вас, но не достаточно сильный.
Я не в чём не уверен, а вот почему вы уверены что будет как в фильме "Престиж"? (не помню такого или не смотрел). Я просто привел пример, что как в фильме "Аватар" (когда полковника воскресили из цифрового следа) - так вполне себе неплохо. Реально ли это? Считаю, что да. Возможно не сейчас, а лет через 500. Когда найдут "нужный" (ASI) тип нейросетей не ясно. Он может помочь с теорией сознания. Популярную эмерджентную теорию, считаю не состоятельной. Я больше склоняюсь к теории Макса Тегмарка строения Вселенной. Из нее вытекает, что сознание - дух, который "подключается" к своему "материальному очертанию". Поддерживаю Пенроуза.
Текущие LLM - да, в них нет или почти нет интеллекта. Но LLM - это часть разума ASI. Человеческий разум отличается от животного тем, что активно использует "надежду". Т.е. мы делаем то чего не было раньше, так умеет только homo sapiens. Эти действия основаны на активном использовании неопределенности или вопреки вероятности (надежда). Я считаю это путь к ASI, читайте мою статью про "трёхканальный ИИ".
человек хочет жить вечно сам, а не иметь цифрового клона
Есть несколько вариантов бессмертия. Подойдет и перенос сознания в другое тело, если нет другого. ASI может помочь по разному. А какой вариант появится первым - неизвестно.
Люди имплантируют чужие сердца, думаете откажутся от имплантации нового полного тела? А по-моему, вариант как в фильме "Аватар" это вполне весело.
Вместо автопилота, можно просто посадить рядом водителя. А вот с продлением жизни, такой вариант не прокатит.
Я думаю, одна из причин хайпа нейросетей в 22 году, это "включение мозгов" Человечества на полную мощность, для решения проблемы бессмертия. Масло подливает набирающая обороты дискуссия о теориях сознания.
Может вы и правы, но я не вижу здесь эту аналогию явно как вы. Вопрос сложный. Автопилот, по сути, никому не нужен. А на то, чтобы перенести сознание в комп и стать бессмертным, смогут тратить многие триллионы триллиардов денек. Плюс хайп: ИИ реально интересен многим мыслящим людям.
Потому что неверная схема, но она уже как-то работает, да так что удивительно. На этой ниве - непаханое поле. Дорога в тысячу миль начинается с первого шага. И он сделан. Вот что важно. Music: Accept 1996 - Predator.
И почему же, прогнать мега-терабайты (весь Инет) не сложно для первичного обучения модели, а оперативно изменять веса сложно? В чем сложность? Дорого - ок согласен, но в чем сложность?
Да не знаю я ничего. Просто Ваша логика похожа на такую: вона плутоний какой коварный. Теперь все кому не лень соберут ЯБ и наступит КС. Я просто показал что Вы упускаете.
PS: когда я ходил в школу, я ждал 2001 год, когда наступит коммунизм. Песня в тему: Крематорий - Гигантомания - 2001 год
Достаточно одного человека с ресурсами и мотивацией
Чтобы сделать LLM с нуля, нужны внушительные ресурсы, которые всегда на виду. При этом, как я писал, LLM не котируется в контексте данной статьи. Для реального ИИ нужно найти правильную архитектуру, а ресурсы потребуются еще больше.
История человечества — это история соблазнов, амбиций и попыток прорваться за грань возможного.
А ещё это история того, что добровольно власть никто и никогда не передавал. При этом неизвестно кому/чему (ASI). Вы всерьез считаете, что политики мечтают обо всем этом шухере, который описан в статье? Уже сейчас полно новостей о правовом регулировании ИИ.
Вы говорите, что никто сейчас не стремится к бессмертию.
Я так не говорил. ASI может быть собран в read-only mode (без выхода в Сеть), он может продемонстрировать свою состоятельность, но и предъявить свои требования. Такое хождение по лезвию, может длиться лет 500.
1) Волнуетесь вы или нет - всем (включая LLM) наср... И на вашу судьбу волнение никак не повлияет. Кто вы есть - тем и останетесь. 2) Текущие LLM очень слабы чтобы рассматривать их в контексте топика, а реальный ИИ могут найти через 500 лет только. 3) Даже если найдут новый, реальный концепт ИИ через 5 лет, его скорее всего самостопнут, по причинам указанным в статье. Конечно, когда-нибудь кто-нибудь соблазнится бессмертием, например, и произойдет утечка, но это может также произойти лет через 500 только.
Может случиться так, что AGI не будет создан, а появится сразу ASI, супер интеллект.
Никогда не говори никогда, если не Ванга.
Сказка-басня: жил-был человек и вдруг из неоткуда у него в доме материализовался кот. Человек играл с ним долгое время и понял, что кот не вставит вилку утюга в розетку и не откроет дверь незнакомым. Оставил его дома, не опасаясь что он натворит бед. А потом материализовался ребенок 3 лет... человек понял, что оставлять его без присмотра - нельзя. Кот здесь - LLM, а человек - ASI.
Я бы так и сделал. Но какой существует консенсус в этом не ясно.
Ванга даст правильный ответ. А пока что - неопределенность и по критерию времени (когда) и по качеству (а что может быть).
Просто концептуально LLM являются чем-то существенным, но не достаточным того, что мы хотим. Просто нужно искать другой концепт. Возможно он где-то рядом. На этом же непаханом поле.
Нет. Кот живет с вами в доме, в той же среде. Но перезвонить вам по мобильнику (если пожар) не может. У него тоже имеется головной мозг как и у вас, но не достаточно сильный.
Нет. Нужно искать новые (правильные) архитектуры нейросетей.
Да, это крутая фантастика. Но между LLM и ASI - большая неопределенность, в ней и имеется ШАНС.
Да, искусственный. И "включить мозги" Человечества на полную мощность самая малая из причин.
Я не в чём не уверен, а вот почему вы уверены что будет как в фильме "Престиж"? (не помню такого или не смотрел). Я просто привел пример, что как в фильме "Аватар" (когда полковника воскресили из цифрового следа) - так вполне себе неплохо. Реально ли это? Считаю, что да. Возможно не сейчас, а лет через 500. Когда найдут "нужный" (ASI) тип нейросетей не ясно. Он может помочь с теорией сознания. Популярную эмерджентную теорию, считаю не состоятельной. Я больше склоняюсь к теории Макса Тегмарка строения Вселенной. Из нее вытекает, что сознание - дух, который "подключается" к своему "материальному очертанию". Поддерживаю Пенроуза.
Текущие LLM - да, в них нет или почти нет интеллекта. Но LLM - это часть разума ASI. Человеческий разум отличается от животного тем, что активно использует "надежду". Т.е. мы делаем то чего не было раньше, так умеет только homo sapiens. Эти действия основаны на активном использовании неопределенности или вопреки вероятности (надежда). Я считаю это путь к ASI, читайте мою статью про "трёхканальный ИИ".
Есть несколько вариантов бессмертия. Подойдет и перенос сознания в другое тело, если нет другого. ASI может помочь по разному. А какой вариант появится первым - неизвестно.
Люди имплантируют чужие сердца, думаете откажутся от имплантации нового полного тела? А по-моему, вариант как в фильме "Аватар" это вполне весело.
Вместо автопилота, можно просто посадить рядом водителя. А вот с продлением жизни, такой вариант не прокатит.
Я думаю, одна из причин хайпа нейросетей в 22 году, это "включение мозгов" Человечества на полную мощность, для решения проблемы бессмертия. Масло подливает набирающая обороты дискуссия о теориях сознания.
Может вы и правы, но я не вижу здесь эту аналогию явно как вы. Вопрос сложный. Автопилот, по сути, никому не нужен. А на то, чтобы перенести сознание в комп и стать бессмертным, смогут тратить многие триллионы триллиардов денек. Плюс хайп: ИИ реально интересен многим мыслящим людям.
Потому что неверная схема, но она уже как-то работает, да так что удивительно. На этой ниве - непаханое поле. Дорога в тысячу миль начинается с первого шага. И он сделан. Вот что важно. Music: Accept 1996 - Predator.
И почему же, прогнать мега-терабайты (весь Инет) не сложно для первичного обучения модели, а оперативно изменять веса сложно? В чем сложность? Дорого - ок согласен, но в чем сложность?
А вы думаете это очень сложно, после каждого вопроса-ответа делать тюнинг матрицы параметров?
Да не знаю я ничего. Просто Ваша логика похожа на такую: вона плутоний какой коварный. Теперь все кому не лень соберут ЯБ и наступит КС. Я просто показал что Вы упускаете.
PS: когда я ходил в школу, я ждал 2001 год, когда наступит коммунизм.
Песня в тему: Крематорий - Гигантомания - 2001 год
Красиво написано.
Чтобы сделать LLM с нуля, нужны внушительные ресурсы, которые всегда на виду. При этом, как я писал, LLM не котируется в контексте данной статьи. Для реального ИИ нужно найти правильную архитектуру, а ресурсы потребуются еще больше.
А ещё это история того, что добровольно власть никто и никогда не передавал. При этом неизвестно кому/чему (ASI). Вы всерьез считаете, что политики мечтают обо всем этом шухере, который описан в статье? Уже сейчас полно новостей о правовом регулировании ИИ.
Я так не говорил. ASI может быть собран в read-only mode (без выхода в Сеть), он может продемонстрировать свою состоятельность, но и предъявить свои требования. Такое хождение по лезвию, может длиться лет 500.
1) Волнуетесь вы или нет - всем (включая LLM) наср... И на вашу судьбу волнение никак не повлияет. Кто вы есть - тем и останетесь.
2) Текущие LLM очень слабы чтобы рассматривать их в контексте топика, а реальный ИИ могут найти через 500 лет только.
3) Даже если найдут новый, реальный концепт ИИ через 5 лет, его скорее всего самостопнут, по причинам указанным в статье. Конечно, когда-нибудь кто-нибудь соблазнится бессмертием, например, и произойдет утечка, но это может также произойти лет через 500 только.
Если сингулярность неизбежна, то рационально начать волноваться позже чем раньше, потому что все болезни от нервов.