Да уж, индустрия еще в зародыше, а ее сразу обкладывают ограничениями и регуляциями, чтобы не дай б-г не начала развиваться.
Даже сейчас нижний порог в 1млрд параметров это крохи, что-то уровня небольших узкоспециализированных нейронок под конкретную задачу. А этот порог в законе останется на долгие годы, если его примут (наша бюрократия очень неохотно откатывает результаты своих потуг), что парализует развитие этой индустрии силами отдельных исследователей и малых команд. Через десять лет это будет выглядеть откровенно издевательски - модели такого размера школьники будут на телефонах тренировать чисто по фану.
Короче, как обычно, "закон о поддержке", таящий внутри пилюлю с цианидом для поддерживаемой отрасли.
Fable конечно получше был, на тех задачах, на которых получилось его проверить, но только вот по ценам на API за одну задачу сжигалась стоимость базовой месячной подписки z.ai
Очень даже достойная модель, разве что медленная. Перешел пока на нее, может потом кто-то из топов подсуетится, а может наоборот, начнут по указке правительства бодро стрелять себе в ноги и вводить доступ по паспорту. Ну, невелика потеря, китайцы по ощущениям отрыв сократили до трех месяцев, не критично.
Ох, один запрос в курсоре, и сразу минус 12 баксов. Это с учетом того, что субагенты на бесплатной модели сделали львиную долю работы по предварительному анализу. Но баги нашла, в том числе такие, которые бы мне однозначно в будущем крови бы попили, так что польза есть. Но по карману бьет уже очень ощутимо, для повседневных задач точно не годится.
Будет интересно попробовать ее на задачах, с которыми предыдущие SOTA модели не справились. Например, поиск пути на базе Sparse Voxel Octree. Опус смог родить что-то похожее на правду, но на практике работало всё крайне криво. Может быть эта модель все же справится.
Согласен, картельный сговор уже не получится, китайцы ворвались на рынок с моделями, которые отстают от силы на полгода, но с ценами на порядок ниже. Но если это признать, карточный домик может и посыпаться, сейчас все держится на хайпе и обещаниях баснословной прибыли инвесторам, после того как все подсядут на иглу вайб-кодинга. Но пока что успехи в этом направлении довольно скромные, революция может и случилась, но не такая масштабная, как ее пытались представить.
Заход с направления токенмаксинга и роев агентов похож на попытку масштабировать спрос, раз не получилось подсадить миллиард человек на нейронки, то хоть с имеющихся миллионов собрать побольше денег в обмен на умеренный рост эффективности. Но баланс тут поймать будет сложно, судя по всему сейчас поиском предельной цены и заняты. Отваливать провайдеру ии зп полноценного разработчика не готовы даже крупные корпорации, тем более при избытке предложения на рынке труда. Замена должна быть дешевой, иначе никто на нее не перейдет.
Вот это токенмаксинг. Столько сжечь не каждый может, это правда.
Но вот если подумать, а сколько эта лафа еще будет длиться? Сейчас пока что вайб-кодинг активно субсидируется, чтобы подсадить на иглу, потому что первая доза (почти) бесплатно. Чуть позже, когда все плотно подсядут, выстроят процессы под ии, гаечки закрутятся, и внезапно окажется, что вайбкодинг стоит не комфортные 200 бачей в месяц, а вот эти самые 40 килобаксов (ну пусть даже 10, не суть важно). И что с этой новой эрой случится? Не придётся ли снова вспоминать навыки писать код руками, или уходить на дешевые и глупые модели?
Ну и опять, уже в какой раз, выпячивание количества наслопленных строчек кода есть, а результата нету. Снова SaaS-посредник, которых на рынке уже целая гора? Он точно рынку нужен? Нейронки очень хороши в шаблонных задачах, но ценность шаблонной реализации шаблонного сервиса как будто не сильно выше нуля. А применение в нестандартных задачах уже требует очень активного вовлечения разработчика, хотя бы в роли наставника.
Я активно использую курсор, этот инструмент сильно изменил мою работу. Но это всё еще не панацея, даже детально прописанные скиллы и субагенты все еще спокойно генерируют откровеннейший слоп, и сжиганием миллионов токенов это можно исправить только частично. Но по рыночной ставке это делать никто бы не стал. Ведь когда нейросетка за минутную правку списывает с твоего счета сумму, на которую можно купить большую и вкусную шаурму, неволей задумываешься об экономии токенов. Зато удорожание подписки не разрушит налаженный рабочий процесс, а лишь мотивирует его еще сильнее оптимизировать.
А вот с наблюдением, что плата за кэш это какая-то обдираловка, полностью согласен. Вполне возможно, что самим провайдерам это обходится сильно дешевле, а такой ценой за кэш обеспечивается основная маржинальность при использовании по API.
Главное вовремя спохватиться и начать минимизацию последствий. Так или иначе уязвимы все, проходили ли тренинги или нет. Но осведомленность конечно сильно снижает шанс попасться в ловушку, но не до нуля.
Расчет в том, чтобы вызвать панику и отключить критическое восприятие. Реально на этом этапе никакого урона еще нет. Раскрутив жертву на панику, они начинают следующую стадию, подавая мнимую "руку помощи", которая дополнительно припугнув жертву последствиями, предложит "план спасения", который весь урон и нанесет.
Если получилось на этом этапе опомниться и прервать общение с мошенниками, спокойно поменять пароли и сбросить активные сессии в атакуемых приложениях, то это успех.
В подавленном состоянии, или в загрузе/запаре, в стрессе, человек часто теряет бдительность и может попасться на довольно примитивный развод и ловушку. И от этого не застрахован как скуф-подпивасий, закончивший мыслительную деятельность после девятого класса сельской школы, так и кандидат наук в самом расцвете карьеры.
Это сложно принять, пока сам с таким не столкнешься, а как столкнешься, так и не расскажешь никому, стыдно. Я так тоже один раз на стрессе попался на самый примитивный фишинг. Хорошо что быстро спохватился, и отделался перевыпуском банковской карты.
Просто помните про это, и держите в голове, что у каждого бывают моменты, когда даже самый тупой развод может подействовать.
Просто очень интересно, насколько рьяно будут эти требования исполняться. От этого многое зависит, хватит ли простой настройки раздельного туннелирования, или для доступа к нейронкам, ютубу, связи с теми кто за забором, придётся играть в хакермена, и создавать изолированные цифровые личности, чтобы случайно не скомпрометировать дырку в заборе, ведущую вовне.
Если бы ПК мог загружать какую-то базовую диагностическую систему чисто на кэше, без памяти вообще, в этом был бы практический смысл. Хотя бы для того, чтобы выдать подробное человекочитаемое сообщение об ошибке на экран в случае проблем с памятью.
Теорий на ум приходит много, от банальных, до шизоконспиративных, но будто бы исход у них у всех един - в лучшем случае будет хуже, чем сейчас, в худшем не будет совсем никак и никому.
Чуть позже узнаем, по какому пути пойдет наш инстанс мультиверса, пока вообще ничего непонятно, кроме того, что завтра стабильно хуже, чем вчера. Но чувство такое, будто бы всеми элитами во всем мире овладел коллективный психоз. Ну а всем кто ниже от этого достаётся.
О, круговая порука подъехала. Теперь вся российская айтишка будет вынуждена закапывать и уничтожать всё, иначе их уничтожат раньше других. В том числе это будут те, кто возмущался блокировкам, потому что иначе уволят, а работать больше негде.
Я очень долго пытался сохранять хоть каплю оптимизма, но меры последних месяцев это что-то запредельное, иначе как попыткой уничтожить вообще какой-либо потенциал развития, я объяснить не могу. Это уже не китайский фаервол, это уже кванмён. В стране, где еще недавно был сильнейший айти сектор.
Так в итоге, что действительно полезного было создано при этом? В публичных гитхаб репозиториях в основном обвязка описанной в статье системы для вайб-кодинга. Есть и какие-то утилиты, но не сказать, что это что-то фантастическое и заслуживающее особого внимания.
Коммиты тоже, очень много однострочных фиксов тестов, каких-то двиганий документации туда-сюда, микрофич. Как будто подобное обычно объединяют в один коммит, а не делают всё кучей.
Молодец, развлекается как хочет, может быть из этого что-то стоящее и родится, но в целом, пока не вызывает каких-то эмоций.
Не первый раз уже встречаю подобное в текстах (характерная структура, будто бы созданная только ради того, чтобы набить побольше знаков в тексте), и каждый раз ощущение, будто бы меня обманули и подсунули вместо информации очередную генерацию, которую можно было бы и так получить в нейронке, да еще и в более корректной форме, а не в формате наставления свысока. 100% шума, ноль сигнала. Мысль "Умей на собесе врать красиво" стара как должность офисного сотрудника. Все это знают, но открыто это говорить нельзя, надо старательно делать вид, что ты-то та самая чистая душа, которая действительно хочет работать не из-за того, что нужно откуда-то брать деньги, чтобы платить по счетам, а исключительно из желания помогать выполнять бизнес-цели конкретно этой конторы.
"Да, это контора единственная, куда я хочу попасть, и нет, амбиции у меня ровно те, что требуются нанимателю, ни больше, ни меньше. Все мои достижения измеримы, а факап был ровно один, точно выверенного ущерба, и давно, все выводы были сделаны, и у вас такого никогда не случится. Нет, вы что, я всегда мечтал делать бэкенд для внутрикорпоративного сервиса, это именно то, что меня мотивирует вставать по утрам."
Мы все играем в эту игру. Будет надо, я тоже буду улыбаться на собесе и говорить именно то, что от меня хотят услышать. Не мы писали эти правила, не нам их менять, но иногда хочется излить свою усталость от этого банальнейшего лицемерия.
Фотошоп иногда при каком-то из вариантов экспорта может накинуть в пнг-файл размером 200 кб еще 30+ мб метаданных. Не скажу из-за чего конкретно это происходит, но встречал подобные файлы не раз.
Лет десять назад был бум мусорных игр, и "зарабатывали" действительно с них, крутили огромное количество невидимой рекламы в играх. Потом эту лавочку прикрыли, многие конторы позакрывались, потому что ничего кроме мусора делать не могли.
По-моему наоборот, современные ПК по сравнению с более старыми стали практически бесшумными в сценариях повседневной работы. Ни шума CD-привода, ни шума жестких дисков, кулеры и те либо крутятся на минимальной скорости, либо вовсе стоят. При нагрузке близкой к 100% шум конечно будет приличный, но такая нагрузка часами длится редко, разве что при игре в хреново оптимизированные ААА игры. Из доп. затрат только хороший башенный кулер вместо боксовой жужалки, блок питания даже с вентилятором шума практически не издаёт.
Провокационная статья низкого уровня, написанная с использованием (или вообще one-shot без правок) ллм-ки, и собирает кучу плюсов и реакций. Информации в статье ноль, новых мыслей тоже (да и неоткуда им взяться в генерированном тексте), чистый ragebait.
Эталонный "не торт" момент для Хабра, такое чувство, что скоро только такой контент тут и останется.
Объединенная память, как на мобильных устройствах и современных компьютерах Apple тем временем существует, и отлично работает. Модульности и там тоже нет, но подозреваю, что скорее потому, что это банально не выгодно, гораздо выгоднее заряжать за лишние 16гб памяти х2 от стоимости устройства. У нынешних PC модульная структура крайне устаревшая в фундаментальном плане, и давно требует переработки. Но договориться всем и сразу перейти на новый стандарт скорее всего нереально.
Недавно начал использовать Cursor, год назад пару месяцев пользовался Copilot. И, честно сказать, сложно понять, как он способен из джуна сделать сеньора. Да, возможности по сравнению с GPT-3 выросли кратно, но нейронка все еще временами дико тупит на реальном проекте, требует детально прописывать ей тз и давать контекст, а написанный ею код требуется тщательно ревьюить (галлюцинации и потеря контекста никуда не делись).
Причем проблемы в сгенерированном коде часто не лежат на поверхности, и нулевый джун, который еле выучил синтаксис, их банально не увидит. Код же работает - уже хорошо.
Скорее, нейронки сейчас дают мидлу-сеньору возможность заполучить себе очень производительного, но не очень умного джуна, на которого можно сгрузить рутину, но за которым всегда требуется присматривать. Это очень круто само по себе, но о замене разработчиков нейронками говорить пока рано.
Да уж, индустрия еще в зародыше, а ее сразу обкладывают ограничениями и регуляциями, чтобы не дай б-г не начала развиваться.
Даже сейчас нижний порог в 1млрд параметров это крохи, что-то уровня небольших узкоспециализированных нейронок под конкретную задачу. А этот порог в законе останется на долгие годы, если его примут (наша бюрократия очень неохотно откатывает результаты своих потуг), что парализует развитие этой индустрии силами отдельных исследователей и малых команд. Через десять лет это будет выглядеть откровенно издевательски - модели такого размера школьники будут на телефонах тренировать чисто по фану.
Короче, как обычно, "закон о поддержке", таящий внутри пилюлю с цианидом для поддерживаемой отрасли.
Fable конечно получше был, на тех задачах, на которых получилось его проверить, но только вот по ценам на API за одну задачу сжигалась стоимость базовой месячной подписки z.ai
Очень даже достойная модель, разве что медленная. Перешел пока на нее, может потом кто-то из топов подсуетится, а может наоборот, начнут по указке правительства бодро стрелять себе в ноги и вводить доступ по паспорту. Ну, невелика потеря, китайцы по ощущениям отрыв сократили до трех месяцев, не критично.
Ох, один запрос в курсоре, и сразу минус 12 баксов. Это с учетом того, что субагенты на бесплатной модели сделали львиную долю работы по предварительному анализу. Но баги нашла, в том числе такие, которые бы мне однозначно в будущем крови бы попили, так что польза есть. Но по карману бьет уже очень ощутимо, для повседневных задач точно не годится.
Будет интересно попробовать ее на задачах, с которыми предыдущие SOTA модели не справились. Например, поиск пути на базе Sparse Voxel Octree. Опус смог родить что-то похожее на правду, но на практике работало всё крайне криво. Может быть эта модель все же справится.
Согласен, картельный сговор уже не получится, китайцы ворвались на рынок с моделями, которые отстают от силы на полгода, но с ценами на порядок ниже. Но если это признать, карточный домик может и посыпаться, сейчас все держится на хайпе и обещаниях баснословной прибыли инвесторам, после того как все подсядут на иглу вайб-кодинга. Но пока что успехи в этом направлении довольно скромные, революция может и случилась, но не такая масштабная, как ее пытались представить.
Заход с направления токенмаксинга и роев агентов похож на попытку масштабировать спрос, раз не получилось подсадить миллиард человек на нейронки, то хоть с имеющихся миллионов собрать побольше денег в обмен на умеренный рост эффективности. Но баланс тут поймать будет сложно, судя по всему сейчас поиском предельной цены и заняты. Отваливать провайдеру ии зп полноценного разработчика не готовы даже крупные корпорации, тем более при избытке предложения на рынке труда. Замена должна быть дешевой, иначе никто на нее не перейдет.
Вот это токенмаксинг. Столько сжечь не каждый может, это правда.
Но вот если подумать, а сколько эта лафа еще будет длиться? Сейчас пока что вайб-кодинг активно субсидируется, чтобы подсадить на иглу, потому что первая доза (почти) бесплатно. Чуть позже, когда все плотно подсядут, выстроят процессы под ии, гаечки закрутятся, и внезапно окажется, что вайбкодинг стоит не комфортные 200 бачей в месяц, а вот эти самые 40 килобаксов (ну пусть даже 10, не суть важно). И что с этой новой эрой случится? Не придётся ли снова вспоминать навыки писать код руками, или уходить на дешевые и глупые модели?
Ну и опять, уже в какой раз, выпячивание количества наслопленных строчек кода есть, а результата нету. Снова SaaS-посредник, которых на рынке уже целая гора? Он точно рынку нужен? Нейронки очень хороши в шаблонных задачах, но ценность шаблонной реализации шаблонного сервиса как будто не сильно выше нуля. А применение в нестандартных задачах уже требует очень активного вовлечения разработчика, хотя бы в роли наставника.
Я активно использую курсор, этот инструмент сильно изменил мою работу. Но это всё еще не панацея, даже детально прописанные скиллы и субагенты все еще спокойно генерируют откровеннейший слоп, и сжиганием миллионов токенов это можно исправить только частично. Но по рыночной ставке это делать никто бы не стал. Ведь когда нейросетка за минутную правку списывает с твоего счета сумму, на которую можно купить большую и вкусную шаурму, неволей задумываешься об экономии токенов. Зато удорожание подписки не разрушит налаженный рабочий процесс, а лишь мотивирует его еще сильнее оптимизировать.
А вот с наблюдением, что плата за кэш это какая-то обдираловка, полностью согласен. Вполне возможно, что самим провайдерам это обходится сильно дешевле, а такой ценой за кэш обеспечивается основная маржинальность при использовании по API.
Главное вовремя спохватиться и начать минимизацию последствий. Так или иначе уязвимы все, проходили ли тренинги или нет. Но осведомленность конечно сильно снижает шанс попасться в ловушку, но не до нуля.
Расчет в том, чтобы вызвать панику и отключить критическое восприятие. Реально на этом этапе никакого урона еще нет. Раскрутив жертву на панику, они начинают следующую стадию, подавая мнимую "руку помощи", которая дополнительно припугнув жертву последствиями, предложит "план спасения", который весь урон и нанесет.
Если получилось на этом этапе опомниться и прервать общение с мошенниками, спокойно поменять пароли и сбросить активные сессии в атакуемых приложениях, то это успех.
В подавленном состоянии, или в загрузе/запаре, в стрессе, человек часто теряет бдительность и может попасться на довольно примитивный развод и ловушку. И от этого не застрахован как скуф-подпивасий, закончивший мыслительную деятельность после девятого класса сельской школы, так и кандидат наук в самом расцвете карьеры.
Это сложно принять, пока сам с таким не столкнешься, а как столкнешься, так и не расскажешь никому, стыдно. Я так тоже один раз на стрессе попался на самый примитивный фишинг. Хорошо что быстро спохватился, и отделался перевыпуском банковской карты.
Просто помните про это, и держите в голове, что у каждого бывают моменты, когда даже самый тупой развод может подействовать.
Просто очень интересно, насколько рьяно будут эти требования исполняться. От этого многое зависит, хватит ли простой настройки раздельного туннелирования, или для доступа к нейронкам, ютубу, связи с теми кто за забором, придётся играть в хакермена, и создавать изолированные цифровые личности, чтобы случайно не скомпрометировать дырку в заборе, ведущую вовне.
Если бы ПК мог загружать какую-то базовую диагностическую систему чисто на кэше, без памяти вообще, в этом был бы практический смысл. Хотя бы для того, чтобы выдать подробное человекочитаемое сообщение об ошибке на экран в случае проблем с памятью.
Теорий на ум приходит много, от банальных, до шизоконспиративных, но будто бы исход у них у всех един - в лучшем случае будет хуже, чем сейчас, в худшем не будет совсем никак и никому.
Чуть позже узнаем, по какому пути пойдет наш инстанс мультиверса, пока вообще ничего непонятно, кроме того, что завтра стабильно хуже, чем вчера. Но чувство такое, будто бы всеми элитами во всем мире овладел коллективный психоз. Ну а всем кто ниже от этого достаётся.
О, круговая порука подъехала. Теперь вся российская айтишка будет вынуждена закапывать и уничтожать всё, иначе их уничтожат раньше других. В том числе это будут те, кто возмущался блокировкам, потому что иначе уволят, а работать больше негде.
Я очень долго пытался сохранять хоть каплю оптимизма, но меры последних месяцев это что-то запредельное, иначе как попыткой уничтожить вообще какой-либо потенциал развития, я объяснить не могу. Это уже не китайский фаервол, это уже кванмён. В стране, где еще недавно был сильнейший айти сектор.
Так в итоге, что действительно полезного было создано при этом? В публичных гитхаб репозиториях в основном обвязка описанной в статье системы для вайб-кодинга. Есть и какие-то утилиты, но не сказать, что это что-то фантастическое и заслуживающее особого внимания.
Коммиты тоже, очень много однострочных фиксов тестов, каких-то двиганий документации туда-сюда, микрофич. Как будто подобное обычно объединяют в один коммит, а не делают всё кучей.
Молодец, развлекается как хочет, может быть из этого что-то стоящее и родится, но в целом, пока не вызывает каких-то эмоций.
Не первый раз уже встречаю подобное в текстах (характерная структура, будто бы созданная только ради того, чтобы набить побольше знаков в тексте), и каждый раз ощущение, будто бы меня обманули и подсунули вместо информации очередную генерацию, которую можно было бы и так получить в нейронке, да еще и в более корректной форме, а не в формате наставления свысока.
100% шума, ноль сигнала. Мысль "Умей на собесе врать красиво" стара как должность офисного сотрудника. Все это знают, но открыто это говорить нельзя, надо старательно делать вид, что ты-то та самая чистая душа, которая действительно хочет работать не из-за того, что нужно откуда-то брать деньги, чтобы платить по счетам, а исключительно из желания помогать выполнять бизнес-цели конкретно этой конторы.
"Да, это контора единственная, куда я хочу попасть, и нет, амбиции у меня ровно те, что требуются нанимателю, ни больше, ни меньше. Все мои достижения измеримы, а факап был ровно один, точно выверенного ущерба, и давно, все выводы были сделаны, и у вас такого никогда не случится. Нет, вы что, я всегда мечтал делать бэкенд для внутрикорпоративного сервиса, это именно то, что меня мотивирует вставать по утрам."
Мы все играем в эту игру. Будет надо, я тоже буду улыбаться на собесе и говорить именно то, что от меня хотят услышать. Не мы писали эти правила, не нам их менять, но иногда хочется излить свою усталость от этого банальнейшего лицемерия.
Скрытый текст
Фотошоп иногда при каком-то из вариантов экспорта может накинуть в пнг-файл размером 200 кб еще 30+ мб метаданных. Не скажу из-за чего конкретно это происходит, но встречал подобные файлы не раз.
Лет десять назад был бум мусорных игр, и "зарабатывали" действительно с них, крутили огромное количество невидимой рекламы в играх. Потом эту лавочку прикрыли, многие конторы позакрывались, потому что ничего кроме мусора делать не могли.
По-моему наоборот, современные ПК по сравнению с более старыми стали практически бесшумными в сценариях повседневной работы. Ни шума CD-привода, ни шума жестких дисков, кулеры и те либо крутятся на минимальной скорости, либо вовсе стоят. При нагрузке близкой к 100% шум конечно будет приличный, но такая нагрузка часами длится редко, разве что при игре в хреново оптимизированные ААА игры. Из доп. затрат только хороший башенный кулер вместо боксовой жужалки, блок питания даже с вентилятором шума практически не издаёт.
Провокационная статья низкого уровня, написанная с использованием (или вообще one-shot без правок) ллм-ки, и собирает кучу плюсов и реакций. Информации в статье ноль, новых мыслей тоже (да и неоткуда им взяться в генерированном тексте), чистый ragebait.
Эталонный "не торт" момент для Хабра, такое чувство, что скоро только такой контент тут и останется.
Объединенная память, как на мобильных устройствах и современных компьютерах Apple тем временем существует, и отлично работает.
Модульности и там тоже нет, но подозреваю, что скорее потому, что это банально не выгодно, гораздо выгоднее заряжать за лишние 16гб памяти х2 от стоимости устройства.
У нынешних PC модульная структура крайне устаревшая в фундаментальном плане, и давно требует переработки. Но договориться всем и сразу перейти на новый стандарт скорее всего нереально.
Недавно начал использовать Cursor, год назад пару месяцев пользовался Copilot. И, честно сказать, сложно понять, как он способен из джуна сделать сеньора. Да, возможности по сравнению с GPT-3 выросли кратно, но нейронка все еще временами дико тупит на реальном проекте, требует детально прописывать ей тз и давать контекст, а написанный ею код требуется тщательно ревьюить (галлюцинации и потеря контекста никуда не делись).
Причем проблемы в сгенерированном коде часто не лежат на поверхности, и нулевый джун, который еле выучил синтаксис, их банально не увидит. Код же работает - уже хорошо.
Скорее, нейронки сейчас дают мидлу-сеньору возможность заполучить себе очень производительного, но не очень умного джуна, на которого можно сгрузить рутину, но за которым всегда требуется присматривать. Это очень круто само по себе, но о замене разработчиков нейронками говорить пока рано.