Никто не будет тратить космические деньги на работу с людьми, если дешевле будет сделать робота. В таком случае массовые смерти могут быть либо а) На производствах беспилотников и боеприпасов, пока их захватывают, либо б) Если роботы закончатся (по вышеуказанным причинам люди будут неподготовленны, это будет отчаянная мера, как дети-солдаты в берлине. После такого войны обычно долго не ведутся. Звучит получше, чем текущая ситуация)
Я скорее про то, что беспилотники, атакующие беспилотники, станут основными боевыми юнитами.
Представьте себе небольшую команду и ии, которые в состоянии управлять целым фронтом из роботов, который захватывает все нужные точки и выводит из строя технику противника.
Во-первых, насколько я понял из цитаты, Юдковский не приравнивал GPT к ИИ. Как исследователь, он абсолютно точно понимает разницу. Безо всяких сомнений (как поймет любой, кто читал МРМ) он боится не того, что есть, а того, что будет и может быть. Пусть апокалипсиса и не случится в ближайшие десять лет, ответы робота уже выглядят страшно.
Во-вторых, GPT-4 проявляет изобретательность в решении задач. Вы скажете, что это китайская комната, а я скажу, что мы сами - тоже китайская комната. Мы - тоже калейдоскоп идей, полученных извне, а также порожденных нашими генами. Когда мы выдаем что-то новое мы просто комбинируем эти идеи и применяем их неожиданным образом для решения прикладных задач. Отголоски этой идеи есть как в паровом двигателе (а что, если эта штука будет вращать колесо, раз она может толкаться), так и в научных теориях (раз скорость света ограничена, то почему бы не существовать объектам достаточной массы, чтобы свет их не покидал). Обе эти идеи, постфактум, лежат на поверхности, пусть вторая и требует серьезной математики (когда вообще у компьютеров были проблемы с математикой). Я вполне могу представить, что языковая модель, обученная как ученый эпохи нового времени, выдвигает обе эти идеи.
И я бы посмотрел, что бы создали Пушкин, Хаббл или Маск, если бы им нужно было выдумывать все из головы, если бы они родились в первобытную эпоху. Нельзя предположить, что сделает ИИ умнее человека, просто потому что нельзя предположить, что сделает сущность умнее тебя в принципе. Однако, мы знаем, что он теоретически мог бы сделать (что угодно, что, что мог бы сделать гений-человек, возведенный в квадрат), а также, что мы не сможем его контролировать. Создать нечто подобное было бы форменным идиотизмом. Именно поэтому люди, достаточно сведущие, чтобы это понимать сейчас паникуют. Потому что если мы не привыкнем к идее контроля над этими разработками, они приведут к тому, что контролировать будут нас.
Полгода назад я оказался в описанной ситуации. Весь институт я удивлялся, как трудно найти работу и решил искать ее после получения диплома. Это была ошибка, оказалось так же трудно)
После пары недель безуспешных поисков я психанул и откликнулся на сто вакансий за один день. Пять из них мне ответили. Я был на трех созвонах и в результате только одна фирма сделала мне предложение о работе.
Я никак не пойму, ирония это, или нет, но, в любом случае, дети это также те люди, кто смотрит весь шлак из популярного на ютубе, потому что их матерям нужно их заткнуть. Дети отходчивы и вполне способны, по достижении сознательного возраста, отличить то, что им нравится, от всего остального. Собственно, это и есть основной критерий качества.
Все детство я был вынужден раз в неделю-две по два часа стоять в церкви и, чтобы скоротать время, читал книжки, которые там продавались. Эта статья напоминает мне рассуждение пожилых авторок и авторов по поводу группы Агата Кристи и Южного Парка. Все книги были наполнены моральной паникой. Если здесь и есть настоящая проблема, то она в том, что некоторые тупые игры словно берут тебя в плен, как те же три в ряд. Или как тик-ток. Игроделы подобрали ключ к нашему вниманию и эту проблему нужно как-то решать. Во всех же остальных отношениях, поверьте, все сами разберутся. Сейчас возможностей в игрострое много, как никогда, но множество идей уже реализованы. Поэтому мы и наблюдаем как активные оголтелые эксперименты, так и стагнацию. Лично я несколько лет ни разу не кликал ни на какую рекламу (Хотя, возможно, по той же причине я едва ли могу читать учебники). В любом случае, единственный способ не играть в плохие игры - не скачивать плохие игры.
Ну, в кои-то веки эта игра работает против фирм, а не против всех остальных. Мне кажется, тот же эффект вынуждает людей покупать приборы с запланированным устареванием. Производители могли бы делать лампочки, работающие годами и смартфоны, где батарею можно заменить легко, однако никому не выгодно поставлять это на рынок. Печальный ложный минимум развития качества.
Но хоть четырехдневка может быть внедрена, раз уж она безвредна.
Я обратился к GPT-3 с психологической проблемой, которую мне не удалось легко нагуглить, поскольку гугл в первую очередь подсунул статьи по первым нескольким словам. Однако, GPT смог сделать все то, для чего люди ходят к психотерапевту:
Описал ситуацию научно-звучащими словами
Дал несколько советов
Упомянул то, что я и так понимал, но не принимал во внимание, что помогло мне сделать из этого выводы.
Разумеется, в общем случае этот подход вряд ли годится, но я результатом доволен.
Группа одарённых школьников во Флориде использовала ChatGPT, чтобы не тратить время на домашние задания
Если выразиться таким образом, создается впечатление, что класс полон тони старков, которые придумали себе способ переложить обыденные обязанности на ИИ, чтобы потратить время с большей пользой. А по факту это банальное списывание.
Никто не будет тратить космические деньги на работу с людьми, если дешевле будет сделать робота.
В таком случае массовые смерти могут быть либо а) На производствах беспилотников и боеприпасов, пока их захватывают, либо б) Если роботы закончатся (по вышеуказанным причинам люди будут неподготовленны, это будет отчаянная мера, как дети-солдаты в берлине. После такого войны обычно долго не ведутся. Звучит получше, чем текущая ситуация)
Я скорее про то, что беспилотники, атакующие беспилотники, станут основными боевыми юнитами.
Представьте себе небольшую команду и ии, которые в состоянии управлять целым фронтом из роботов, который захватывает все нужные точки и выводит из строя технику противника.
Я уверен, что войны рано или поздно трансформируются в компьютерные игры. Поскорее бы.
Если вексель меньше в 64 000 000 раз, то его грань меньше в 400 раз. Так бы и сказали сразу
Хотят блокировать в рф - пусть.
Ей-богу
Мир им, надеюсь, все удастся
Интересный образчик виртуальной археологии.
Во-первых, насколько я понял из цитаты, Юдковский не приравнивал GPT к ИИ. Как исследователь, он абсолютно точно понимает разницу. Безо всяких сомнений (как поймет любой, кто читал МРМ) он боится не того, что есть, а того, что будет и может быть. Пусть апокалипсиса и не случится в ближайшие десять лет, ответы робота уже выглядят страшно.
Во-вторых, GPT-4 проявляет изобретательность в решении задач. Вы скажете, что это китайская комната, а я скажу, что мы сами - тоже китайская комната. Мы - тоже калейдоскоп идей, полученных извне, а также порожденных нашими генами. Когда мы выдаем что-то новое мы просто комбинируем эти идеи и применяем их неожиданным образом для решения прикладных задач. Отголоски этой идеи есть как в паровом двигателе (а что, если эта штука будет вращать колесо, раз она может толкаться), так и в научных теориях (раз скорость света ограничена, то почему бы не существовать объектам достаточной массы, чтобы свет их не покидал). Обе эти идеи, постфактум, лежат на поверхности, пусть вторая и требует серьезной математики (когда вообще у компьютеров были проблемы с математикой). Я вполне могу представить, что языковая модель, обученная как ученый эпохи нового времени, выдвигает обе эти идеи.
И я бы посмотрел, что бы создали Пушкин, Хаббл или Маск, если бы им нужно было выдумывать все из головы, если бы они родились в первобытную эпоху.
Нельзя предположить, что сделает ИИ умнее человека, просто потому что нельзя предположить, что сделает сущность умнее тебя в принципе. Однако, мы знаем, что он теоретически мог бы сделать (что угодно, что, что мог бы сделать гений-человек, возведенный в квадрат), а также, что мы не сможем его контролировать. Создать нечто подобное было бы форменным идиотизмом.
Именно поэтому люди, достаточно сведущие, чтобы это понимать сейчас паникуют. Потому что если мы не привыкнем к идее контроля над этими разработками, они приведут к тому, что контролировать будут нас.
Полгода назад я оказался в описанной ситуации. Весь институт я удивлялся, как трудно найти работу и решил искать ее после получения диплома. Это была ошибка, оказалось так же трудно)
После пары недель безуспешных поисков я психанул и откликнулся на сто вакансий за один день. Пять из них мне ответили. Я был на трех созвонах и в результате только одна фирма сделала мне предложение о работе.
Если компания обеспечивает сервис - поесть обеспечивает, а не откупается
Естественный отбор делает свою работу. Надеюсь, никто не будет винить нейросеть за недостаточную цензуру.
Это изумительно! Это как моддинг в реальной жизни
Я никак не пойму, ирония это, или нет, но, в любом случае, дети это также те люди, кто смотрит весь шлак из популярного на ютубе, потому что их матерям нужно их заткнуть. Дети отходчивы и вполне способны, по достижении сознательного возраста, отличить то, что им нравится, от всего остального.
Собственно, это и есть основной критерий качества.
Все детство я был вынужден раз в неделю-две по два часа стоять в церкви и, чтобы скоротать время, читал книжки, которые там продавались. Эта статья напоминает мне рассуждение пожилых авторок и авторов по поводу группы Агата Кристи и Южного Парка. Все книги были наполнены моральной паникой.
Если здесь и есть настоящая проблема, то она в том, что некоторые тупые игры словно берут тебя в плен, как те же три в ряд. Или как тик-ток. Игроделы подобрали ключ к нашему вниманию и эту проблему нужно как-то решать.
Во всех же остальных отношениях, поверьте, все сами разберутся. Сейчас возможностей в игрострое много, как никогда, но множество идей уже реализованы. Поэтому мы и наблюдаем как активные оголтелые эксперименты, так и стагнацию. Лично я несколько лет ни разу не кликал ни на какую рекламу (Хотя, возможно, по той же причине я едва ли могу читать учебники). В любом случае, единственный способ не играть в плохие игры - не скачивать плохие игры.
О, это замечательно. Может, до бутербродов и компов еще далеко, но гораздо круче, чем свисток.
Ну, в кои-то веки эта игра работает против фирм, а не против всех остальных.
Мне кажется, тот же эффект вынуждает людей покупать приборы с запланированным устареванием. Производители могли бы делать лампочки, работающие годами и смартфоны, где батарею можно заменить легко, однако никому не выгодно поставлять это на рынок.
Печальный ложный минимум развития качества.
Но хоть четырехдневка может быть внедрена, раз уж она безвредна.
Я обратился к GPT-3 с психологической проблемой, которую мне не удалось легко нагуглить, поскольку гугл в первую очередь подсунул статьи по первым нескольким словам.
Однако, GPT смог сделать все то, для чего люди ходят к психотерапевту:
Описал ситуацию научно-звучащими словами
Дал несколько советов
Упомянул то, что я и так понимал, но не принимал во внимание, что помогло мне сделать из этого выводы.
Разумеется, в общем случае этот подход вряд ли годится, но я результатом доволен.
Группа одарённых школьников во Флориде использовала ChatGPT, чтобы не тратить время на домашние задания
Если выразиться таким образом, создается впечатление, что класс полон тони старков, которые придумали себе способ переложить обыденные обязанности на ИИ, чтобы потратить время с большей пользой.
А по факту это банальное списывание.
От уязвимого sha1 к уязвимому sha256))
Но это так.
Спасибо, интересная новость
Ммм, оксид металла - мой любимый материал. Все крутые вещи делаются из оксида металла.
Добро пожаловать в хогвартс