Дальше, если мы говорим не про текущий ИИ, а про будущий AGI умнее людей, - то обсуждать конкретный план уничтожения человечества смысла нет. Так как он почти наверняка не будет таким, как мы себе представляем: https://t.me/RationalShitposting/1052
Готовой подборки текстов под ваш запрос у меня нет, но по второму пункту - вот объяснение, почему вообще у ИИ будет появляться противостояние с людьми: https://t.me/RationalAnswer/1729
Зачем заставлять людей лезть за смартфоном и открывать приложение для перевода, если можно просто перевести сразу в тексте? Тем более, что оригинал приведен прямо там же на скриншоте.
Скажите, пожалуйста, где я могу ознакомиться с конкретными и предметными аргументами тех, кто видит экзистенциальные риски уничтожения всего человечтва от появления AGI?
Это ваш вопрос? Вы же сами спросили, где можно ознакомиться с аргументами, разве нет? 🤔
Невозможно сравнивать нейросети из 2020 или 2023 года с текущими и говорить "минимальные улучшения, принципиально ничего не поменялось". Это же небо и земля. С помощью какой нейросети вы могли создавать приложения в 2020-м с нулевым знанием языков программирования?
подавляющее большинство тех, кто разрабатывает технологию ХХ, будучи, соответственно, предвзяты, видятговорят, что видят в ней огромный риск для человечества, но не конкретизируют, в чём он заключается, и не ведут предметного обсуждения
Ну я так примерно так же могу сказать, что "подавляющее большинство тех, кто смеется над рисками ИИ, предвзяты и просто не погружены в то, что по факту происходит в ведущих AI labs, а также даже не пытаются ознакомиться в деталях с конкретными предметными аргументами тех, кто видит эти риски".
Я не буду спорить, что сейчас у нас нет AGI. Но я не понимаю уверенности в том, что в будущем его не может появиться - учитывая то, что capabilities продолжают видимо расти у нас на глазах, и мы не знаем, какой конкретно следующий шаг является необходимым и достаточным для уровня AGI.
Вы наверное читали очень мало фантастики, попытка привить человеческие чувства и выравнивания ценностей это одна из главных ошибок
Да, безусловно, гораздо лучше, если у людей в виде AGI будет мощный джинн, который способен любую команду истолковать предельно буквально в таком виде, какой будет совершенно не отвечать ценностям людей. Ни в одном из произведений это никогда не заканчивалось ничем плохим.
Ничего не имею против того, чтобы в рамках всестороннего анализа угроз ИИ была широкая дискуссия с профильными экспертами из разных областей. Но пока вижу вместо перехода к важности этой дискуссии тезисы вроде "подавляющее большинство тех, кто разрабатывает технологию ХХ видят в ней огромный риск для человечества? хаха, да они просто Юдковского и научной фантастики перечитали, нет смысла даже это серьезно обсуждать..."
Дальше, если мы говорим не про текущий ИИ, а про будущий AGI умнее людей, - то обсуждать конкретный план уничтожения человечества смысла нет. Так как он почти наверняка не будет таким, как мы себе представляем: https://t.me/RationalShitposting/1052
Готовой подборки текстов под ваш запрос у меня нет, но по второму пункту - вот объяснение, почему вообще у ИИ будет появляться противостояние с людьми: https://t.me/RationalAnswer/1729
Зачем заставлять людей лезть за смартфоном и открывать приложение для перевода, если можно просто перевести сразу в тексте? Тем более, что оригинал приведен прямо там же на скриншоте.
Это ваш вопрос? Вы же сами спросили, где можно ознакомиться с аргументами, разве нет? 🤔
Если вы думаете, что на Хабре 100% посетителей свободно владеют английским, то вам действительно лучше переоценить свои priors
Какой "слив", вы о чем?
Так, на всякий случай уточню: а в чем вы пробовали? В Claude Code? Или в Codex?
Я правильно понял: отсутствие роста мощностей вы доказываете ссылкой на график с прогнозом роста мощностей в 15 раз? Сильно!
- "Никто не пишет конкретные аргументы!"
- "Вот они"
- "Я их не буду читать, простите"
Чем не устраивают конкретные и предметные аргументы здесь? https://ifanyonebuildsit.com/
Невозможно сравнивать нейросети из 2020 или 2023 года с текущими и говорить "минимальные улучшения, принципиально ничего не поменялось". Это же небо и земля. С помощью какой нейросети вы могли создавать приложения в 2020-м с нулевым знанием языков программирования?
Ни по одной из приведенных вами ссылок нет графика прироста мощностей компьюта. А кто вы по профессии?
Статья для таких, как я (не-айтишников)
Ну я так примерно так же могу сказать, что "подавляющее большинство тех, кто смеется над рисками ИИ, предвзяты и просто не погружены в то, что по факту происходит в ведущих AI labs, а также даже не пытаются ознакомиться в деталях с конкретными предметными аргументами тех, кто видит эти риски".
Я не буду спорить, что сейчас у нас нет AGI. Но я не понимаю уверенности в том, что в будущем его не может появиться - учитывая то, что capabilities продолжают видимо расти у нас на глазах, и мы не знаем, какой конкретно следующий шаг является необходимым и достаточным для уровня AGI.
Да, безусловно, гораздо лучше, если у людей в виде AGI будет мощный джинн, который способен любую команду истолковать предельно буквально в таком виде, какой будет совершенно не отвечать ценностям людей. Ни в одном из произведений это никогда не заканчивалось ничем плохим.
Так может считать только тот, кто не пользуется ЛЛМ последние четыре года.
Как самостоятельный независимый агент (в том сценарии, где будет AGI с превосходящими людей способностями).
Ничего не имею против того, чтобы в рамках всестороннего анализа угроз ИИ была широкая дискуссия с профильными экспертами из разных областей. Но пока вижу вместо перехода к важности этой дискуссии тезисы вроде "подавляющее большинство тех, кто разрабатывает технологию ХХ видят в ней огромный риск для человечества? хаха, да они просто Юдковского и научной фантастики перечитали, нет смысла даже это серьезно обсуждать..."
Они уже самоназвались роем, увы!