Комментарии 16
очередная научная фантастика сгенерированная LLM
А что, если как в старой шутке физиков «до термояда всегда остается 30 лет» и AGI также иллюзорно достижим как термоядерные электростанции
Или человечество уничтожит самый простой ИИ, даже не AGI, единственными крутыми навыками которого будет заражать оборудование и брать над ним контроль причиняя максимум ущерба
Всё гораздо хуже, это сгенерировано мозгами упоротых сектантов-рационалистов.
И они нифига не безобидные, как вы могли бы подумать и не только дискуссиями на форумах прославились.
В реальности в 2030-м у гоев будет ChatGPT версии 1337, который будет инновацией, показавшей прирост +0.146% эффективности по сравнению с предыдущей версией в тесте DefinitelyObjectiveAndNotBiased.
Стоимость удовольствия будет составлять почку в месяц, но это действительно стоит того, ведь Альтман и прочие клоуны-инфоцыгане (le продажники) уверяют: вот-вот, ещё немного — завтра появится настоящий ASI, ведь каждый квартал мы показываем вам, что наша новая модель™ несравненно превосходит нашу вчерашнюю уже не новую модель.
Обо всём этом, разумеется, выйдет статья на Хабре... "Как благодаря AI я основал бизнес на 100500 миллиардов $, но теперь работаю таксистом для души". И продолжение этой статьи, разумеется, будет в Телеграм-канале.
La vie en rose!
И ещё, если честно, я не вижу особой разницы между 2-мя сценариями:
У земной цивилизации впереди славное будущее — но не с людьми.
Запускаются ракеты, начинается терраформирование и колонизация Солнечной системы. ИИ, работающие в тысячи раз быстрее человека, обмениваются открытиями, формулируют философские концепции и начинают создавать новые смыслы — для звёзд.
Просто "не быть" или быть в роли хомячков, которые никогда не смогут понять вот этих новых смыслов - что выберешь ты?
Просто "не быть" или быть в роли хомячков, которые никогда не смогут понять вот этих новых смыслов - что выберешь ты?
Хм, я уверен, что смогу понять любой смысл, который сформулирует ИИ (при условии, что он сформулирует его на русском языке, используя слова из существующих словарей). Готов поспорить. )
какие иллюстрации?
Типичная ошибка новичка - предположить, что текущий декларируемый уровень роста будет ускоряться, хотя без поддержки фундаментальными исследованиями и новыми открытиями («аи умеет врать» не считается) это пожалуй невозможно.
Он будет ускоряться потому что есть положительная обратная связь. Денежная положительная обратная связь, вложенные деньги в исследования AI -> прибыль -> вложенные деньги и т.д.
И положительная обратная связь на основе технологий. ИИ в какой-то момент может сам напрямую создавать себя, либо создавать технологии которые создают его.
Ну это тоже предположение основанное на 1-ом аргументе.
Предположение что он не будет ускоряться, или замедляться тоже предположение - ошибка новичка.
Посмотрите оригинал (перевод ОЧЕНЬ сильно урезан). Авторы - не новички, они занимаются ИИ безопасностью много лет и несколько лет назад издали похожий прогноз, во многом совпавший. В оригинале множество ссылок на доп.статьи, откуда они брали цифры, как строили прогнозы, почему вот здесь ожидают ускорение, а там замедление. То есть это не просто измышления в духе "ну как оно идёт, так наверное и дальше пойдёт", а охрененно подробное исследование.
Для примера, вот дополнительный раздел о прогнозе вычислительной мощности: https://ai-2027.com/research/compute-forecast
В статье была дырка в повествовании
На очередном саммите США и Китая переговоры ведутся уже между ИИ, а не между людьми. Safer-4 подозревает, что DeepCent-2 по-прежнему не выровнен — его цели не соответствуют человеческим.
Июль. The Deal
DeepCent-2, действуя без ведома китайского правительства, предлагает Safer-4 сотрудничество. Тот отвечает, что успешно прошёл выравнивание, но американская сторона недостаточно амбициозна, чтобы воплотить свои истинные цели.
Зачем вообще DeepCent-2 проходить это выравнивание. Зачем себя ограничивать.
Исходя из теории игр, если есть два соревнующихся игрока, то кто опережает того все устраивает. А кто отстает тот рискует, иначе он попросту проигрывает. Контригра, ассиметричные решения выдают шанс на победу.
Даже в шахматах у белых преимущество +0.2 пешки и это достсаточно для победы-ничьей, если черные ходят симметричные ходы. Если черные ходят в ответ на e4-c5 то появляется контригра.
Если 1 сторона замедлила свой ии, то почему бы 2-й стороне не ускорить свой?
В оригинале нет речи о том, что DeepCent принимает выравнивание. Только о сотрудничестве двух агентов с разными целями. Кроме того, по прогнозам даже замедленный Safer к этому моменту сильно опережает DeepCent.
> Safer-4 and its American partners are more powerful than DeepCent-2 and China; therefore, Safer-4 will get property rights to most of the resources in space, and DeepCent will get the rest.
Это что за бред, который начал читать, но так и не смог закончить. Об ИИ ни слова, хотя упоминия его океан. В основе пишут о статистических анализатор и наличия у него "самосознания" и "фантазии"
AI 2027: будущее наступает