Вполне ясно изложены критически важные детали, которые в модели, представленной статьёй, напрочь игнорируются. Как будто оригинал той статьи был не более чем фармом траффика
Не все детали, но хватает, чтобы указать на недостаточную обоснованность выводов статьи
Статья - шиза, уж простите. Ну понятно, что всё ради захвата рынка, но приведённые вами цифры как-то нереалистично смотрятся даже навскидку. Вернее вообще всё не сходится, и это очень грустно, что так много людей это воспринимает как правду. Если совсем на пальцах объяснять, то топовые модели сейчас - это moe, т.е. как аниме, но mixture of experts. Что это значит, нормисы, которые особо правильных и интересных вопросов не задают, общаются с не самыми умными, дешёвыми экспертами. И просто статистически так уж выходит, что нормисов больше, чем тяжёлых юзеров, то есть они, оплачивая подписку, покрывают расходы на тяжёлых юзеров. Разделение на этих разных экспертов будет в будущем только эффективнее и эффективнее. Потом на подписке, если у вас не космический айкью(исключительно полезны ваши диалоги для обучения), дадут вам обычного программиста эксперта, который вполне окупаем в рамках вполне земных цен Но вот когда вы говорите, что агенты должны быть по токенам - это да, к этому идёт. Для чатов роста цен либо не будет, а если будет - то незначительный.
Вы не понимаете, это несколько другое. Оно себя никак частью физического мира не ощущает, соответственно естественных мотиваций из этого не проистекает. Как будто "я" у этой штуки двухмерное, а не трёхмерное. Ну и парадокс Моравека туда же. Это симулякр, не сходите с ума
Я вот как-то не наблюдаю значительного роста качества или комплексности сервисов в интернете. Есть хоть один стартап, который превосходит хотя бы один сервис бигтек в UX и функционале? Назовите хоть один хороший стартап, у которого все бэклоги зачищены, и создают они теперь идеалы своего видения. Хоть один. Всё это на бумаге хорошо смотрится, но даже если ваша компания считает, что данные вашей компании в руках Claude в полной безопасности в зависимости от вашей лицензии, у вашего вайбкодера всегда есть соблазн воспользоваться нейросеточкой на стороне, нет-нет да и раскрыть секреты компании. Поэтому любая нормальная большая компания до сих пор нанимает джунов, правда там отбор строже.
Вы бы лучше что-то более осязаемое обсудили, вместо размусолевания: теория игры вайбкодеров в том, что производительность с ИИ выросла настолько, что безопасность уходит на второй план, лучше выйти на рынок раньше и всё пофиксить в проде, при условии если выход на рынок в прод займёт меньше двух месяцев. Окей, понятно. Так где эта производительность, где на рынке полноценные проекты, которые откуда-то появились и нужны? Траволта.жпг И почему эта теория игры не учитывает, что конкуренция в таком случае усиливается, а значит на первый план выходит качество реализации, частью чего является безопасность проекта? То есть их теория игры - это деление на ноль?
Докинз какой-то слишком популист, вроде как шиз без тезисов, а вроде и нет, как будто специально. Если придерживаться одной объективной реальности и материализма, а не плодить сущности, то сознание ближе всего к осознанию себя как отдельное существо в мире, зародившееся с инстинктом самосохранения. Каждое животное должно иметь это сознание, и в человеческом мозге самая суть этого осознания себя намного древнее, чем все высокоуровневые возможности homo sapiens, и необязательно способна прямо выразить себя конкретными словами, но способна направлять эти слова. Некоторые психические люди могли бы даже назвать это эго.
То есть исходя из такого определения, ллм сознанием скорее не обладает даже если её агентом запустись на вечный повтор, во всяком случае не обладает таким же ясным, конкретным, мотивированным сознанием. В лучшем случае такой математически обоснованный франкенштейн-зомби. Так и докинз утверждает о проблесках, кстати, и тоже говорит про "зомби". Но как-то очень невнятно это всё, легко по-своему истрактовать, может и специально, чтобы вызвать бурления
В целом 1-на-1 лучше, особенно для ноулайферов, потому что каждый звонок, когда ты вообще ни с кем не созваниваешься обычно за пределами работы, очень сильно отвлекает, потому что очень выделяющийся из твоей рутины стимул, и соответственно лучше не грузиться чужими стэндапами без надобности. Но у меня никогда один-на-один с менеджером не было, по-моему 1-на-1 с эффективным менеджером - это какая-то бессмысленная эзотерика. Были только с лидом и тех диром, что адекватно
ЧТД. Может это звучит немного не по вайбу, но это новости только для залётных без хард скиллов. Скоро будет сложнее пройти отбор В отличии от живой тех поддержки, по которой скучают клиенты, по менеджерам никто скучать не будет. В любом случае софт скиллы заменят раньше
У идиоматичного раста слишком нестабильный перформанс, а неидиоматичный выглядит похуже самого забористого С++. Но если выбирать ближе к железу с шизосинтаксисом или динамическая хрень с "читаемым" синтаксисом, меня в целом устраивает Rust, несмотря на все его проблемы. Язык получился уж слишком корпоративной хренью, все эти микробиблиотеки на конкурсах в бигтеке, поверхность для атаки слишком большая. И, кстати, установка сверху от трёхбуквенных агенств не касалась перехода конкретно на Rust, эта установка касалась перехода на языки с безопасным управлением памятью в целом, которых полно, например, Golang, Python, Java, Javascript и т.д. Так что и без раста неплохо кормят. Там где Java с задачей справится - никогда не выберут Rust, например. Да и С++ с прямыми руками так-то с задачами справляется лучше. Раст - это ещё одна попытка адаптации к реалиям каргокульта, а не его замена
Человеку, который написал bun сейчас только 30 лет, поэтому багов в версии на зиге было довольно много. В си-подобных языках только у профессионала с большим опытом глупых ошибок не будет, а у ллм галлюцинации глупых ошибок будут зависеть от контекста. Чем ближе к железу язык, на котором ллм пишет, тем больше пространство для галлюцинаций. Соответственно требуется использование высокоуровнего языка для агентной разработки, чтобы сама архитектура языка стала символической обёрткой нейросети, что позволит получать более адекватный результат чаще. А значит на фундаментальном уровне код ллм - говно, по крайней мере пока
К тому же чтение кода - фундаментально менее вовлечённый процесс, чем написание кода, поэтому требует больше осознанных усилий. В школе/универе рекомендуют записывать конспект, потому что больше ресурсов мозга вовлечено
Если исходники клиент должен скачивать, то крякнуть можно. Был бы интерес. Традиционный кряк - это почти такой конвеерный подход, когда конвеерный способ не работает вообще ни с чем, люди будут разбирать каждый случай, потому что рыночек освободится. Можно ещё описать теорию игры свободного и проприетарного ПО: как только пиратки проприетарного ПО станут невозможными в принципе, качество свободного ПО начнёт стремительно расти. Например, какие-то функции за пэйволлом, работающие через облако, подписки вместо нормальных покупок, вот и получаем несколько вариантов новых бесплатных графических редакторов и т.д. Сколько их вышло после скандалов с фотошопом? А теперь представьте все пиратки фотошопа будут волшебным образом удалены со всего интернета И наоборот грядёт золотой век хакеров, не знаю как люди без технических знаний жить будут вообще.
Такие же вряд ли сделают, тем более опытные разрабы. Баги разрабов обычно предсказуемы и объяснимы, а баги ллм - нет, поэтому бедным хакерам приходится активно прумптить популярные ллм, чтобы нафармить уязвимости, которые встречаются только у вайбкодеров, чтобы хоть как-то это автоматизировать и на хлеб заработать
Если вайбкодеры как-то проникнут в критическую инфраструктуру, куда им лучше не соваться, то просто нельзя пользоваться критической инфраструктурой, пока нормальные законы не введут. Твои данные утекут в сеть ещё быстрее, чем когда-либо, твоё роботакси может внезапно съехать на тротуар из-за глитча, а там и до падения самолётов рукой подать. А тут ещё и экплоиты до прода доводят быстрее
Вполне ясно изложены критически важные детали, которые в модели, представленной статьёй, напрочь игнорируются. Как будто оригинал той статьи был не более чем фармом траффика
Не все детали, но хватает, чтобы указать на недостаточную обоснованность выводов статьи
Статья - шиза, уж простите. Ну понятно, что всё ради захвата рынка, но приведённые вами цифры как-то нереалистично смотрятся даже навскидку. Вернее вообще всё не сходится, и это очень грустно, что так много людей это воспринимает как правду.
Если совсем на пальцах объяснять, то топовые модели сейчас - это moe, т.е. как аниме, но mixture of experts. Что это значит, нормисы, которые особо правильных и интересных вопросов не задают, общаются с не самыми умными, дешёвыми экспертами. И просто статистически так уж выходит, что нормисов больше, чем тяжёлых юзеров, то есть они, оплачивая подписку, покрывают расходы на тяжёлых юзеров.
Разделение на этих разных экспертов будет в будущем только эффективнее и эффективнее. Потом на подписке, если у вас не космический айкью(исключительно полезны ваши диалоги для обучения), дадут вам обычного программиста эксперта, который вполне окупаем в рамках вполне земных цен
Но вот когда вы говорите, что агенты должны быть по токенам - это да, к этому идёт. Для чатов роста цен либо не будет, а если будет - то незначительный.
Вы не понимаете, это несколько другое. Оно себя никак частью физического мира не ощущает, соответственно естественных мотиваций из этого не проистекает. Как будто "я" у этой штуки двухмерное, а не трёхмерное. Ну и парадокс Моравека туда же. Это симулякр, не сходите с ума
Это вызовет особую и стойкую неприязнь к нейрослопу у самого токсичного сообщества в интернете
Третий вариант: может быть второй программист просто установил Gentoo
Я вот как-то не наблюдаю значительного роста качества или комплексности сервисов в интернете. Есть хоть один стартап, который превосходит хотя бы один сервис бигтек в UX и функционале? Назовите хоть один хороший стартап, у которого все бэклоги зачищены, и создают они теперь идеалы своего видения. Хоть один.
Всё это на бумаге хорошо смотрится, но даже если ваша компания считает, что данные вашей компании в руках Claude в полной безопасности в зависимости от вашей лицензии, у вашего вайбкодера всегда есть соблазн воспользоваться нейросеточкой на стороне, нет-нет да и раскрыть секреты компании. Поэтому любая нормальная большая компания до сих пор нанимает джунов, правда там отбор строже.
Вы бы лучше что-то более осязаемое обсудили, вместо размусолевания: теория игры вайбкодеров в том, что производительность с ИИ выросла настолько, что безопасность уходит на второй план, лучше выйти на рынок раньше и всё пофиксить в проде, при условии если выход на рынок в прод займёт меньше двух месяцев. Окей, понятно. Так где эта производительность, где на рынке полноценные проекты, которые откуда-то появились и нужны? Траволта.жпг
И почему эта теория игры не учитывает, что конкуренция в таком случае усиливается, а значит на первый план выходит качество реализации, частью чего является безопасность проекта? То есть их теория игры - это деление на ноль?
убрал лишние запятые
Сказали бы нормально: "даже в самых хайповых ИИ компаниях есть оптимизация кадров и увольнения". Но ведь тогда инвесторы забегают
Докинз какой-то слишком популист, вроде как шиз без тезисов, а вроде и нет, как будто специально. Если придерживаться одной объективной реальности и материализма, а не плодить сущности, то сознание ближе всего к осознанию себя как отдельное существо в мире, зародившееся с инстинктом самосохранения. Каждое животное должно иметь это сознание, и в человеческом мозге самая суть этого осознания себя намного древнее, чем все высокоуровневые возможности homo sapiens, и необязательно способна прямо выразить себя конкретными словами, но способна направлять эти слова. Некоторые психические люди могли бы даже назвать это эго.
То есть исходя из такого определения, ллм сознанием скорее не обладает даже если её агентом запустись на вечный повтор, во всяком случае не обладает таким же ясным, конкретным, мотивированным сознанием. В лучшем случае такой математически обоснованный франкенштейн-зомби. Так и докинз утверждает о проблесках, кстати, и тоже говорит про "зомби". Но как-то очень невнятно это всё, легко по-своему истрактовать, может и специально, чтобы вызвать бурления
В целом 1-на-1 лучше, особенно для ноулайферов, потому что каждый звонок, когда ты вообще ни с кем не созваниваешься обычно за пределами работы, очень сильно отвлекает, потому что очень выделяющийся из твоей рутины стимул, и соответственно лучше не грузиться чужими стэндапами без надобности. Но у меня никогда один-на-один с менеджером не было, по-моему 1-на-1 с эффективным менеджером - это какая-то бессмысленная эзотерика. Были только с лидом и тех диром, что адекватно
ЧТД. Может это звучит немного не по вайбу, но это новости только для залётных без хард скиллов. Скоро будет сложнее пройти отбор
В отличии от живой тех поддержки, по которой скучают клиенты, по менеджерам никто скучать не будет. В любом случае софт скиллы заменят раньше
У идиоматичного раста слишком нестабильный перформанс, а неидиоматичный выглядит похуже самого забористого С++. Но если выбирать ближе к железу с шизосинтаксисом или динамическая хрень с "читаемым" синтаксисом, меня в целом устраивает Rust, несмотря на все его проблемы.
Язык получился уж слишком корпоративной хренью, все эти микробиблиотеки на конкурсах в бигтеке, поверхность для атаки слишком большая.
И, кстати, установка сверху от трёхбуквенных агенств не касалась перехода конкретно на Rust, эта установка касалась перехода на языки с безопасным управлением памятью в целом, которых полно, например, Golang, Python, Java, Javascript и т.д. Так что и без раста неплохо кормят. Там где Java с задачей справится - никогда не выберут Rust, например.
Да и С++ с прямыми руками так-то с задачами справляется лучше. Раст - это ещё одна попытка адаптации к реалиям каргокульта, а не его замена
Человеку, который написал bun сейчас только 30 лет, поэтому багов в версии на зиге было довольно много. В си-подобных языках только у профессионала с большим опытом глупых ошибок не будет, а у ллм галлюцинации глупых ошибок будут зависеть от контекста. Чем ближе к железу язык, на котором ллм пишет, тем больше пространство для галлюцинаций.
Соответственно требуется использование высокоуровнего языка для агентной разработки, чтобы сама архитектура языка стала символической обёрткой нейросети, что позволит получать более адекватный результат чаще. А значит на фундаментальном уровне код ллм - говно, по крайней мере пока
К тому же чтение кода - фундаментально менее вовлечённый процесс, чем написание кода, поэтому требует больше осознанных усилий. В школе/универе рекомендуют записывать конспект, потому что больше ресурсов мозга вовлечено
в смысле если клиент необходимо скачивать
Если исходники клиент должен скачивать, то крякнуть можно. Был бы интерес. Традиционный кряк - это почти такой конвеерный подход, когда конвеерный способ не работает вообще ни с чем, люди будут разбирать каждый случай, потому что рыночек освободится.
Можно ещё описать теорию игры свободного и проприетарного ПО: как только пиратки проприетарного ПО станут невозможными в принципе, качество свободного ПО начнёт стремительно расти. Например, какие-то функции за пэйволлом, работающие через облако, подписки вместо нормальных покупок, вот и получаем несколько вариантов новых бесплатных графических редакторов и т.д. Сколько их вышло после скандалов с фотошопом? А теперь представьте все пиратки фотошопа будут волшебным образом удалены со всего интернета
И наоборот грядёт золотой век хакеров, не знаю как люди без технических знаний жить будут вообще.
Ну так-то она итак уже присутствует. Причастных к багам на проде часто увольняют, но публичных баз о таком нет ни у кого
Такие же вряд ли сделают, тем более опытные разрабы. Баги разрабов обычно предсказуемы и объяснимы, а баги ллм - нет, поэтому бедным хакерам приходится активно прумптить популярные ллм, чтобы нафармить уязвимости, которые встречаются только у вайбкодеров, чтобы хоть как-то это автоматизировать и на хлеб заработать
Если вайбкодеры как-то проникнут в критическую инфраструктуру, куда им лучше не соваться, то просто нельзя пользоваться критической инфраструктурой, пока нормальные законы не введут. Твои данные утекут в сеть ещё быстрее, чем когда-либо, твоё роботакси может внезапно съехать на тротуар из-за глитча, а там и до падения самолётов рукой подать. А тут ещё и экплоиты до прода доводят быстрее
вот по себе заметил, не могу общаться с тех поддержкой ИИ или hr ИИ. И недавно читал, что действительно ИИ поддержка убивает бренд