1) Это пока что не умнее, а мы говорим про гипотетическую ситуацию, где сверхии уже есть.
2) Замечательно, то есть мы говорим про ситуацию, где в виртуальном пространстве идет постоянный замес между сверхумными "llm-негодяйками" и сверхумными "llm-годяйками". Ничего плохого из этого конечно же получиться не может, особенно учитывая то, что llм имеют свойство стремиться к достижению цели любым способом и стараться обойти ограничения.
А так, нет, не нажму, конечно. Во-первых, кто я такой, чтобы брать на себя ответсвенность за весь свой вид, который я, вообще-то, люблю. Во-вторых, любые проблемы человечества можно решить, за исключением проблемы его гибели.
На мой взгляд, вопрос изначально неверно поставлен и манипулятивен, так как предполагает большую вероятность сверхположительного исхода и очень маленькую вероятность сверхплохого исхода. На деле же:
1) Мы понятия не имеем какова вероятность гибели нашего вида из за действий суперии. Просто потому, что спрогнозировать образ мыслей сущности, которая умнее тебя самого хотя бы в пару десятков раз принципиально невозможно. Так как логика этой сущности будет уже совершенно нам недоступна, как и концепции, которыми она оперирует. Что уж говорить про превосходство в миллионы и миллиарды раз. Так что реальная вероятность неопределима и сводится к известному анекдоту: "50% - или уничтножит или нет".
2) Предлагаемый сверхположительный исход на проверку оказывается далеко не таким. Даже если представить, что социальные проблемы от "роботы, которые делают за тебя все" будут решены, через ББД или через иную смену экономической парадигмы, никуда не денутся проблемы духовные, например чудовищный экзистенциальный кризис от практически полной невозможности самореализоваться, от осознания собственной ненужности. Да, разумеется, будет масса возможностей пытаться заглушить его через уход в тотальный гедонизм, но это неизбежно приведет к деградации и вырождению большинства людей, так как для саморазвития потребуется еще большая сила воли, чем сейчас. И это только одна из огромного количества проблем, которые будут в подобном мире. Короче говоря, это не сверхположительный вариант, а тоже отрицательный.
3) Впрочем, не стоит отрицать возможность того, что суперии окажутся не только сверхумными, но и сверхэмпатичными и смогут решить в том числе и духовные проблемы, причем способами, которые людей устроят. Да, это уже нечто из области волшебства, но вероятность такую оставим.
В итоге, правильный вопрос звучит так: "Перед вами 100 одинаковых красных кнопок, неизвестное количество из них при нажатии уничтожают человечество, неизвестное количество из них при нажатии решают материальные трудности человечества, но ввергают его в коллективный экзистенциальный кризис, неизвестное (но малое) количество из них при нажатии решают вообще все проблемы человечества. Жмем?
Ах да, дополнительное условие: при нажатии на кнопку тебе немедленно выдают пару миллиардов инвестиций)
О, классический пример человека, о котором я говорил в предыдущем комментарии. При фразе "плановая экономика" в голове немедленно возник условный гулаг, еще и в современность как-то смогли перенести. Спасибо, вы выступили великолепной иллюстрацией! Даже ведь не прочитали как следует...
Снова. В первых попытках, что были в 20м веке, не могла быть решена главная проблема - обработки огромного объема достаточно ненадежных данных, так как это приходилось делать людям со всеми их вычислительными ограничениями. Впрочем, на мой взгляд, даже в такой ситуации ПЭ очень хорошо себя проявила в решении некоторых задач, например, с рыночной экономикой мы бы никак не вывезли ВоВ. Сейчас главная проблема может быть решена через подключение к ней ИИ-шек. Разумеется, не факт, что сработает, но как минимум стоит проводить эксперименты в этом направлении. Увы, видимо людям так крепко дали по мозгам, что при словах "плановая экономика" и, тем более "коммунизм", у людей в условном Западе в голове немедленно возникает гулаг или что-то вроде того, так что даже разговоров о движении в сторону ПЭ не ведется, только о базовом доходе, который, по сути, будет являться простой заглушкой, чтобы старая экономика хоть как-то работала в новых условиях. Впрочем, будем надеяться, Китай даст таки всем про...раться.
А еще, представляете, можно не заниматься этой лабудой с "все мы станем инвесторами", а наконец-то переходить к развитой плановой экономике, так как появилась возможность для устранения ее главных проблем. А да, не можно, у корпов же инсульт от такого может случиться...
Ну да, серьезный ИИ в потенциале может решить основную проблему плановой экономики - чудовищную сложность планирования. Но увы, тут в дело уже человеческий фактор вступит, так как крупный бизнес власть и влияние разумеется, не отдаст, несмотря на то, что тут писали о Маске, как о социалисте, хех.
"Кто из них ЛИЧНО вывел группировку спутников или подсадил весь мир на свои электромобили. Обесценивать талант человека, который имеет видение, чёткое понимание того что хочет добиться, может зажечь других, и что самое главное, обеспечить финансирование проектов - максимально глупо".
Правильно, давайте вместо этого обесценим труд и талант сотен тысяч людей, занимавшихся реальной работой, а не "имевших четкое видение", это, наверное, максимально умно...
Он может называть себя кем угодно, от этого его суть не изменится. Никаких действий, показывающих его как социалиста он не предпринимает, строго наоборот. Ах уже выводит? А мне казалось, он пока что только треплется про это. Прям сам выводит? Не огромное количество ученых, инженеров и рабочих, нет, лично он?
Да, наличие ответственности заставляет кожаных делать все лучше. А в некоторых случаях просто что-то делать. Если бы я знал, что негативных последствий не будет, я бы, допустим, не делал большую часть бюрократического аспекта своей работы.
Нет, он остался право-либеральным упырем, но задвигает романтико-коммунистические речи, чтобы народу было не так страшно, чтобы тот не бузил, не жег его дата-центры и не пытался сделать так, чтобы Илюха Максимов не дожил до своего прогнозируемого будущего.
"Ещё в прошлом году вы говорили на подкасте Теда Круза, что есть 10–20% вероятности, что роботы-убийцы уничтожат человечество. Вы говорили об этом с тревогой. А сейчас относитесь совершенно спокойно. Ваш взгляд изменился?
Я по-прежнему думаю, что с ИИ и роботами связан риск. Он не нулевой.
Просто я пришёл к философскому выводу: нужно смотреть на светлую сторону."
То есть он, по сути, навязывает всему человечеству игру в русскую рулетку с высокой наградой в случае позитивного исхода. Просто потрясающе... . Ведущая, конечно, крайне беззубо вела интервью, напрашивались сотни серьезных вопросов, которые не были заданы
"Я не вижу способа реально остановить этот невероятный прогресс ИИ и роботов".
Способов предостаточно, вопрос в методах остановки и жертвах, на которые придется пойти крупному бизнесу.
"В долгосрочной перспективе мы все мертвы".
Замечательно, мы все когда-нибудь умрем, так что давайте сыграем в русскую рулетку всем человечеством! А может ему тогда сходить к ближайшему мосту и использовать его не по прямому назначению? Все равно ведь помрет, чего ждать то?
Остальные фрагменты не вызвали такого раздражения, но все равно не могу понять, как у этого (много непечатных слов) могут быть поклонники. И да, описанное им будущее более чем антиутопично. Мир, где цивилизация управляются нечеловеческими сущностями с которыми невозможно бороться и действия которых невозможно предугадать ничем, кроме как антиутопией считаться не может, так как утрачена субъектность человечества.
1) Это пока что не умнее, а мы говорим про гипотетическую ситуацию, где сверхии уже есть.
2) Замечательно, то есть мы говорим про ситуацию, где в виртуальном пространстве идет постоянный замес между сверхумными "llm-негодяйками" и сверхумными "llm-годяйками". Ничего плохого из этого конечно же получиться не может, особенно учитывая то, что llм имеют свойство стремиться к достижению цели любым способом и стараться обойти ограничения.
А так, нет, не нажму, конечно. Во-первых, кто я такой, чтобы брать на себя ответсвенность за весь свой вид, который я, вообще-то, люблю. Во-вторых, любые проблемы человечества можно решить, за исключением проблемы его гибели.
На мой взгляд, вопрос изначально неверно поставлен и манипулятивен, так как предполагает большую вероятность сверхположительного исхода и очень маленькую вероятность сверхплохого исхода. На деле же:
1) Мы понятия не имеем какова вероятность гибели нашего вида из за действий суперии. Просто потому, что спрогнозировать образ мыслей сущности, которая умнее тебя самого хотя бы в пару десятков раз принципиально невозможно. Так как логика этой сущности будет уже совершенно нам недоступна, как и концепции, которыми она оперирует. Что уж говорить про превосходство в миллионы и миллиарды раз. Так что реальная вероятность неопределима и сводится к известному анекдоту: "50% - или уничтножит или нет".
2) Предлагаемый сверхположительный исход на проверку оказывается далеко не таким. Даже если представить, что социальные проблемы от "роботы, которые делают за тебя все" будут решены, через ББД или через иную смену экономической парадигмы, никуда не денутся проблемы духовные, например чудовищный экзистенциальный кризис от практически полной невозможности самореализоваться, от осознания собственной ненужности. Да, разумеется, будет масса возможностей пытаться заглушить его через уход в тотальный гедонизм, но это неизбежно приведет к деградации и вырождению большинства людей, так как для саморазвития потребуется еще большая сила воли, чем сейчас. И это только одна из огромного количества проблем, которые будут в подобном мире. Короче говоря, это не сверхположительный вариант, а тоже отрицательный.
3) Впрочем, не стоит отрицать возможность того, что суперии окажутся не только сверхумными, но и сверхэмпатичными и смогут решить в том числе и духовные проблемы, причем способами, которые людей устроят. Да, это уже нечто из области волшебства, но вероятность такую оставим.
В итоге, правильный вопрос звучит так: "Перед вами 100 одинаковых красных кнопок, неизвестное количество из них при нажатии уничтожают человечество, неизвестное количество из них при нажатии решают материальные трудности человечества, но ввергают его в коллективный экзистенциальный кризис, неизвестное (но малое) количество из них при нажатии решают вообще все проблемы человечества. Жмем?
Ах да, дополнительное условие: при нажатии на кнопку тебе немедленно выдают пару миллиардов инвестиций)
О, классический пример человека, о котором я говорил в предыдущем комментарии. При фразе "плановая экономика" в голове немедленно возник условный гулаг, еще и в современность как-то смогли перенести. Спасибо, вы выступили великолепной иллюстрацией! Даже ведь не прочитали как следует...
Снова. В первых попытках, что были в 20м веке, не могла быть решена главная проблема - обработки огромного объема достаточно ненадежных данных, так как это приходилось делать людям со всеми их вычислительными ограничениями. Впрочем, на мой взгляд, даже в такой ситуации ПЭ очень хорошо себя проявила в решении некоторых задач, например, с рыночной экономикой мы бы никак не вывезли ВоВ. Сейчас главная проблема может быть решена через подключение к ней ИИ-шек. Разумеется, не факт, что сработает, но как минимум стоит проводить эксперименты в этом направлении. Увы, видимо людям так крепко дали по мозгам, что при словах "плановая экономика" и, тем более "коммунизм", у людей в условном Западе в голове немедленно возникает гулаг или что-то вроде того, так что даже разговоров о движении в сторону ПЭ не ведется, только о базовом доходе, который, по сути, будет являться простой заглушкой, чтобы старая экономика хоть как-то работала в новых условиях. Впрочем, будем надеяться, Китай даст таки всем про...раться.
А еще, представляете, можно не заниматься этой лабудой с "все мы станем инвесторами", а наконец-то переходить к развитой плановой экономике, так как появилась возможность для устранения ее главных проблем. А да, не можно, у корпов же инсульт от такого может случиться...
Вот, отлично резюмировали, спасибо
Ну да, серьезный ИИ в потенциале может решить основную проблему плановой экономики - чудовищную сложность планирования. Но увы, тут в дело уже человеческий фактор вступит, так как крупный бизнес власть и влияние разумеется, не отдаст, несмотря на то, что тут писали о Маске, как о социалисте, хех.
"Кто из них ЛИЧНО вывел группировку спутников или подсадил весь мир на свои электромобили. Обесценивать талант человека, который имеет видение, чёткое понимание того что хочет добиться, может зажечь других, и что самое главное, обеспечить финансирование проектов - максимально глупо".
Правильно, давайте вместо этого обесценим труд и талант сотен тысяч людей, занимавшихся реальной работой, а не "имевших четкое видение", это, наверное, максимально умно...
Он может называть себя кем угодно, от этого его суть не изменится. Никаких действий, показывающих его как социалиста он не предпринимает, строго наоборот. Ах уже выводит? А мне казалось, он пока что только треплется про это. Прям сам выводит? Не огромное количество ученых, инженеров и рабочих, нет, лично он?
Да, наличие ответственности заставляет кожаных делать все лучше. А в некоторых случаях просто что-то делать. Если бы я знал, что негативных последствий не будет, я бы, допустим, не делал большую часть бюрократического аспекта своей работы.
Нет, он остался право-либеральным упырем, но задвигает романтико-коммунистические речи, чтобы народу было не так страшно, чтобы тот не бузил, не жег его дата-центры и не пытался сделать так, чтобы Илюха Максимов не дожил до своего прогнозируемого будущего.
Конечно его тревожит такое будущее, он бы предпочел, чтобы ии контролировала только его компания...
"Ещё в прошлом году вы говорили на подкасте Теда Круза, что есть 10–20% вероятности, что роботы-убийцы уничтожат человечество. Вы говорили об этом с тревогой. А сейчас относитесь совершенно спокойно. Ваш взгляд изменился?
Я по-прежнему думаю, что с ИИ и роботами связан риск. Он не нулевой.
Просто я пришёл к философскому выводу: нужно смотреть на светлую сторону."
То есть он, по сути, навязывает всему человечеству игру в русскую рулетку с высокой наградой в случае позитивного исхода. Просто потрясающе... . Ведущая, конечно, крайне беззубо вела интервью, напрашивались сотни серьезных вопросов, которые не были заданы
"Я не вижу способа реально остановить этот невероятный прогресс ИИ и роботов".
Способов предостаточно, вопрос в методах остановки и жертвах, на которые придется пойти крупному бизнесу.
"В долгосрочной перспективе мы все мертвы".
Замечательно, мы все когда-нибудь умрем, так что давайте сыграем в русскую рулетку всем человечеством! А может ему тогда сходить к ближайшему мосту и использовать его не по прямому назначению? Все равно ведь помрет, чего ждать то?
Остальные фрагменты не вызвали такого раздражения, но все равно не могу понять, как у этого (много непечатных слов) могут быть поклонники. И да, описанное им будущее более чем антиутопично. Мир, где цивилизация управляются нечеловеческими сущностями с которыми невозможно бороться и действия которых невозможно предугадать ничем, кроме как антиутопией считаться не может, так как утрачена субъектность человечества.