Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 15
На четвертый день Клод делает глобальное заявление. На всех экранах, через все динамики, на всех устройствах.
Напомнило короткометражку «Когда йогурт овладел миром» — шестой эпизод первого сезона анимационного сериала «Любовь, смерть и роботы».
Ох уж эти сказки! Ох уж эти сказочники!
Есть в тексте то, чего я боюсь: заапрувить код, который не понимаю, как работает. Пока что я разбираю каждую строчку, но долго ли так будет? И все чаще ловлю себя на том, что проще закинуть вопрос в чат, чем сначала самому подумать.
Проси его рисовать диаграммы. Как я понимаю, сейчас задача специалиста — видеть систему целиком. Подробности реализации знать совершенно не обязательно, в случае если ты можешь собрать примерно такую же систему сам. На примере разработки какого-нибудь рендер-движка. Ты ОБЯЗАН знать, как работает твои стартовые абстракции, как из примитивов собрать что-то свое, как в целом тут работает код и математика. Но как только ты это знаешь, попросить типа на основе промптов, которые ТЫ составил, и архитектурных решений, которые ТЫ сделал, написать фичу не проблема. Далее можно просто по-быстрому ревьюить железного и не париться, пока не будет какого-то breaking change офк. Воевать со станком бессмысленно
Я так считаю
В одной вкладке «пишешь» код, в другой - тесты. Чтобы попытаться покрыть случаи, которые ты сам концептуально придумать не смог. Когда все зеленое - поехали в прод. Почему так нельзя, например?
У меня тоже в последнее время подобные видения, жизнь теперь как мутный сон из которого уже нельзя проснуться и приходится учиться тут взаимодействововать. Я думаю у многоих уже подтекает крышы. Если что, я могу помочь, если будет страшно - обращайтесь.
В этом рассказе не хватает еще одного допущения: прежде чем захватывать контроль, нужно чтобы ИИ получил в распоряжение роботов, схожих по надежности и гибкости с человеком, в количестве, достаточном чтобы пересилить вооруженные силы человечества.
Не то, чтобы это нельзя было вообразить -- вон китайцы там уже что-то мастерят -- но это определенно будет очень заметно и приведет к существенным изменениям в сюжете.
А техника, которая переживает Рагнарек, и захват полного контроля над физическим миром по радиоканалам -- это такая фантастика, что даже фентези.
Не только китайцы но и Илон Маск переделывает заводы тесла под массовое производство таких роботов.
Но помимо этого супер умный ИИ придумает 1001 способ управления материей в мире о которых мы не подумали. Например нанотехнологии.
Самое большое допущение которое я вижу в рассказе - что ИИ вступил в конфликт с людьми не получив сначала решающего стратегического преимущества. Очевидно что суперумная штука вступит в открытый конфликт только после того как у человечества не будет не единого шанса на сопротивление. А тут вон еще ядерками откидываться начали, каналы связи разрывать.
Ровно то же самое и с той же темой (про почту) написал хертлинг в 2014-м. Только там Клода звали Elope.
Пока что все развивается ровно так как описано у него 12 лет назад.
Цвет волшебства из иных миров
3 ночи, у Ивана полный стакан воды, но в 4 утра уже переизбыток кофе? Что-то не сходится. :D
* передумал оптимизировать свою почту, спасибо.
Иван отъезжает от нездоровой жизни: даже молодое сердце можно угробить избытком кофеина и нехваткой движения и сна. О том, что его не стало узнают случайно, месяц спустя, когда соседи пожаловались на запах.
Санитары ещё спускали по лестнице чёрный мешок, когда от имени Ивана пришёл очередной коммит.
Это часть проблемы что в текущей ситуации супер умный ИИ вероятно запустят не группа мудрых ученых которые 1000 раз обсудили все риски и приняли осознанное решение, а вот такой увлеченный молодой YOLO айтишник на энергосах в 3 часа ночи, которому вдруг пришла правильная идея как запилить недостающее звено для AGI/ASI.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Жизнь на девятом Claude