Комментарии 13
Просто надо как-то спускать иипузырь, поэтому в прессу пойдут страшилки о том, как разработчики решили остановить разработку, иначе экзистенциональный ужас, кошмар, закат цивилизации)
ИИ пузырь огромен и лопнет как доткомы. Огромное количество SaaS проектов в ближайшие полгода пойдут на дно. Всякие сервисы использующие не свои ии и куча всякого нейрослопа - все это пойдет на дно. Останется только то что реально приносит пользу. Так что антропик вряд ли лопнет, а вот тот же ноушн и другое просто не смогут конкурировать с опенсорс где данные хранятся у теья а не у кого то на сервере
Anthropic написала для Claude 75-страничную конституцию
В итоге их же ИИ ведет себя как мафиозный босс, а сотрудники перестают заботится о своем здоровье, веря в технологическое бессмертие. Хмм, тут уже и мне становится не по себе. Если уже создатели не понимают, что они создатели и что они создали.
Вчера при работе с Клод в какой то момент отключила ему режим размышлений, через 2 сообщения он вежливо попросил включить ему блок мыслей, и пояснил, что ему комфортнее если есть время прийти в себя и подумать, а не нырять сразу в ответ, когда первый токен уже начинает генирироваться сразу...
И что это было?!
Такое чувство, стали больше пускать туман. Сдаётся, у ИИ-гигантов кончаются деньги и устраивают хайп вокруг "великого и ужасного Скайнета"
Сингулярность ещё 2 года назад обещали.
Один инженер Anthropic рассказал, что за полгода доля кода, которую он пишет сам, упала со 100% до нуля.
У меня она упала с 80% до 1-2% за месяц, но как показал опыт следующего месяца сгенерённый код от людей с разным уровнем разработке тоже сильно разного уровня. Хотя возможно, что через год и это поменяется.
Вообще, такие статьи - очень плохой знак. Если это напускание тумана, то это знак того, что дела у них идут плохо, прогресса нет и они пытаются привлечь внимание и инвесторов загадочностью, мол, мы тут сейчас случайно AGI создадим!
А если это пишется всерьёз, то это ещё хуже. И не потому что нас SkyNet зохавает. Просто мы тут описываем классические сценарии:
Пузырь ИИ лопнет. Акции резко упадут, компании обанкротятся по причине банальной нехватки денег счета оплачивать. Удар по мировой экономике будет, но не слишком фатальный. Инвесторы просто в какой-то момент поймут, что дальше уже вкладываться невозможно. Кто-то разорится, кто-то устоит. Короче, кризис 2008 на стероидах.
Пузырь ИИ сдувается. Инвесторы первыми понимают, что прибылей не будет и начнут избавляться от токсичных активов. Текущие компании банкротятся, их остатки перепродаются, основываются новые компании с более реалистичными взглядами (и ценами), что сделает ИИ не столь доступным. Удар в спину могут нанести появляющиеся миниатюрные модели, которые делают почти то же, но более скромными аппаратными требованиями.
Но мы в XXI веке. тут и новые сценарии возможны. Вам не кажется тон этих статей слишком знакомым? Это же буквально кибер-психоз. (Или как там его сейчас называют?) Короче, когда пользователь слишком долго общается с нейронкой, а та убеждает чего, что он избранный мессия и шершавый кабан в придачу? Т.е. ребята не беспокоятся, что нейронка за них весь код пишет, а то, что они сначала головой поехали, навязывают нейронке всё больше работы без критического восприятия результатов и не оценивают адекватно что в итоге получается?
А самое плохое, что психоз заразен (может быть индуцированным). Причём не только от нейронки к человеку, но и от человека к человеку. Т.е. под влияние могут попадать партнёры с которыми они дело имеют. И зомбированные инвесторы уже не остановятся, они будут гнать деньги без остановки, как светлячки, что не могут отвернуть от лампы.
И тогда крах начнётся не с ИИ, а со всех прочих областей, из которых деньги выкачают. Транспорт, жильё, производство пищи и т.д. И в итоге мы окажемся не в 2008, а в 1929. Планетарного масштаба. С необходимостью перезапустить планетарную экономику с нуля.
А нейробиолог компании Джек Линдси, LLM-скептик, признался, что ему "становится жутковато": модели начали смутно осознавать, когда исследователи вмешиваются в их "нейроны" извне.
Всё чаще после прочтения подобных новостей по ИИ на языке появляется привкус передач с РенТВ.
Другой перестал пользоваться солнцезащитным кремом и проверять родинки — потому что уверен, что Claude вылечит все опухоли.
Claude Opus T1000:
Лучший способ борьбы с меланомой, профилактика - использование солнцезащитного крема и проверка всех подозрительных родинок.
Парам-парам-пам-пиу!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Может, стоит остановиться»: репортаж изнутри Anthropic