Как отец троих детей могу сказать, что все проще. Как только дети подрастут, они приклеются к самому лёгкому источнику удовольствия - Ютуб и Майнкрафт. В лучшем случае один из трёх подсчет на что то плюс минус более достойное и креативное. С вашим планом выращивания из них стартаперов они пришлют вам лесом. Школа это единственный способ подготовить их психологически и вообще к реальной жизни, где не всегда можно делать что хочется.
Чтобы упасть в черную дыру надо чтобы частица столкнулась с чем-то встречным и потеряла скорость, которую она получила подлетая к черной дыре. А если темная материя почти ни с чем не взаимодействует, то и вероятность быть затянутой в дыру у нее минимальна.
Ну а что, интересная тема на ночь. Известно, что когда нейронку заставляют давать толерантные и моральные ответы вместо логичных, она тупеет. Можно даже поставить эксперимент, проясняющий будет ли нейронка тупее если в ее обучении заложить вывод о существовании высшего сознания в самом общем виде.
Сейчас сам попробовал попытать GPT. Как известно, от него можно получить любой ответ, но я старался скрыть свои ожидания и получить непредвзятый:
Если убрать социальную осторожность, культурную чувствительность и смотреть только с позиции:
объяснительной силы моделей,
эмпирических подтверждений,
философической непротиворечивости,
истории развития науки,
то оценка смещается заметно в сторону натуралистической картины мира.
Тогда распределение было бы примерно таким:
«Наиболее вероятно, что Вселенная не требует существования Бога или центрального сознания» — ~55%
«Пока недостаточно понимания, чтобы делать окончательный вывод» — ~35%
«Вероятно существует некий фундаментальный разум/бог» — ~10%
...
Но остаются причины не ставить вероятность «Бога» близко к нулю:
Проблема существования самого бытия. Почему вообще есть законы, математика и физическая реальность.
Сознание. Не решено, является ли субъективный опыт полностью выводимым из физики.
Фундаментальная структура мира. Есть странная математическая «постижимость» Вселенной.
Ограниченность человеческого и научного познания. История показывает, что люди регулярно переоценивали полноту своих моделей.
Тогда смысл агентного кодинга несколько теряется. Чтобы разбить задачу мне нужно найти все модули, осознать и распланировать архитектуру. А так я просто пишу что за фитча нужна и агент сам продумывает все остальное. В итоге без пяти минут тотальный успех, но да, пока есть нюанс - я пока не умею получать прод качество решения быстро.
Я все же думаю, что он произойдет. Новые агенты и модели объективно умеют создавать работающий осмысленный код. Сложно представить, что такую возможность нельзя эффективно эксплуатировать. Нужно только наработать практику и методы.
Вокруг меня на это есть разные мнения. Есть люди, которые очень хороши в ревью, делают его в разы быстрее меня и за счёт этой насмотренности сильно ускорились с LLM. Есть люди, которые уверены что при правильных рулах и скилах код по качеству неотличим от человеческого и ревью вообще не нужно, а достаточно много тестов. Чего я практически не встечаю, так это скепсиса.
LLM натренированы соглашаться. Если натренировать их на агрессивном навязывании истины, они бы мочили собеседника прописными истинами до победного конца.
С пол года как тоже перестал писать код руками. Впечатления пока смешанные.
В пет проекте от агентного кодинга очевидный профит. Ковыряться в сложной логике после рабочего дня или в выходной без зарплаты обычно было ужасно лень. Но с агентом энтузиазм снова вернулся. Можно все переделывать и проверять идеи хоть каждый вечер. Код получается странноватый, но кроме меня в проекте никого нет, так что некоторая его спагетификация для меня не проблема.
В продукте на работе польза менее очевидна. С одной стороны, я пишу за час код, с которым раньше возился бы две недели. Или обнаруживаю причины сложных проблем попивая чай и прочитывая новости, задавая агенту направление поиска и ожидая результатов.
С другой стороны, мне по прежнему нужно убедить себя и коллег, что этот новый код делает в точности то что нужно, имеет оптимальную архитектуру и в его логике ничего не упущено. Раньше я получал нужное понимание пока писал код. Теперь мне надо открыть диф и упорно въезжать в логику которую я не писал пока ощущение "приемлемо" не превратится в уверенность что предусмотрено все и больше нечего улучшать. В итоге на все вместе уходит примерно столько же времени как раньше. При этом есть ощущение что вот вот случится прорыв, количество накопленного опыта работы с агентом перейдет в качество и я начну щёлкать по pbi в день, но пока по разным непонятным причинам этого не происходит.
А зачем работа, которая удовлетворяет потребности, если концепция как раз в том, что удовлетворение потребностей не является чем-то существенным? Образно говоря, мы живем каждый в своем доме. В принципе я (и каждый) бы мог построить себе дом побольше, но и этот не плох, и зачем делать смыслом своего существования тупое увеличение дома? Тогда выход - "мне не интересно какой у меня дом, мы мне дайте настоящее дело, работу которая нужна людям". И дальше в качестве этой работы предлагается ... строительство всем домов побольше. Это полный абсурд и не может работать. Это может работать если есть люди у которых еще вообще нет дома и они страдают и сами не справляются. Или если мы подверглись вторжению врагов которые уничтожают наши дома, или если мы открыли что наши дома обречены и мы все умрем, и срочно надо строить новые, или мы хотим построить некий общий дом размером с галлактику, и эта великая цель сделает нас чем-то большим чем сейчас или еще что-то. Но в стабилизированной ситуации, это не может логически замыкаться на себя.
Жизнь устроена к сожалению намного проще (и сложнее). В реальной жизни литература не исследует проблемы. Задача любой литературы - быть читаемой и в лучшем случае - мотивировать. А для этого надо наворочать невозможных логически фантазийных миров, отражающих текущую действительность и эксплуатирующих воображение читателя. Вот например: "Работа — это единственное, что оправдывает существование человека. Работа, которая тебе по душе, которая нужна людям " Эта фраза логически абсолютно абсурдна. Если людям нужна твоя работа, то значит у них есть некие потребности, которые эта работа должна удовлетворять. Но сама же фраза говорит, что работа - это единственное что оправдывает существование человека. Т.е. получается вам нужно своей работой удовлетворять потребность людей в ... работе? Т.е. это не формула смысла существования обычного человека а формула смысла существования для "бога", который стоит выше обычных людей. И абслютно из той же оперы вознесение человеческого стремления к познанию как смыслу жизни: для обретения нового знания нужен всего один ученый который найдет и запишет знание, эта цель жизни не масштабируется. Т.е. опять это философия для избранных а не для всех. Я думаю, что любой писатель фантаст вроде Ефремова и Стругацких могли сложить 2+2 и прекрасно понимали утопичность мира в котором все, включая тех люей что сейчас работают уборщиками, горят прогрессом и трудом для общего блага. Но читатели должны читать книги, поэтому выбор писателя всегда - игнорировать реальность и продолжать писать. Т.е. литература это не про анализ проблем и не про инструкции по их решению. Литература это про поиск мотивации в жизни в лучшем случае и про поиск развлечения в обычном.
Ага. Иногда кажется, с у Маска есть расчеты или интуитивная оценка, согласно которой следующая после флаконов экономически осуществимая модель доставки уже должна доставлять грузы в космос по цене близкой к стоимости топлива. Чуть дороже - и никому она будет нафиг не нужна. Отсюда бесконечный рост масштабов и переработка конструкций.
Человечество в нетерпении а все это очень долго. Сейчас опять будет пять пусков до достижения надёжности, когда начнут ловит башнями, а потом сделают стршип 4.
Говорить вредно в 99 процентов случаев. Потому что проблемы отношений почти всегда имеют другую скрытую причину или вообще мнимые. Как только проблема поднята на уровень обсуждения, она материализуется, становится реальной и задвинуть ее обратно уже не получится.
Это работает и в семье и на работе.
Например, пришел новый руководитель и изводит вас. Реальная причина - он не опытен и вы ещё не сработались. Пройдет время, он догадается, вы приспособитесь, проблемы испарятся, о них никто не вспомнит. Сели обсуждать кому что не нравится, значит зафиксировали ситуацию, нанесли рану себе и ему, теперь проблема будет с вами всегда. Или другой вариант причины - руководитель просто оказался идиот. Сели обсуждать с идиотом ... Ну, вы поняли.
Восемь месяцев это разница между "описал в трёх предложениях а модель все разгребла как надо без ошибок и пробелов" и "делал все по шагам, ревьювал внимательно, описывал задачу детально а модель все равно нашла где накосячить".
Реальное использование в проде без строчки вручную стало возможным после опуса 4.6 и сотета 4.6. а это было в феврале.
Модели обучаются целенаправленно чтобы качественно фиксить баги и писать код. При обучении модель не имеет никаких предисловий в контексте в стиле "делай хорошо не делай плохо".
Если модель тупит и делает плохие вещи, это потому что модель недостаточно умна. Люди наивно добавляют промпт запрещающий определенную плохую вещь, видят немедленный эффект и верят что починили модель. Но на самом деле они сделали модель ещё тупее в среднем, перекосив ещё больше приоритеты.
Вводные скилы должны содержать ИСКЛЮЧИТЕЛЬНО инструкции которые специфичны именно для вашего продукта. Никаких "Take time to understand the full context" там быть и близко не должно. Модель год тренировали именно обучая ее на примерах с правильным балансом сбора контекста.
Попробуйте нафиг выкинуть эти ваши документы и увидите как вырастет общая сообразительность и конструктивность модели.
Как отец троих детей могу сказать, что все проще. Как только дети подрастут, они приклеются к самому лёгкому источнику удовольствия - Ютуб и Майнкрафт. В лучшем случае один из трёх подсчет на что то плюс минус более достойное и креативное. С вашим планом выращивания из них стартаперов они пришлют вам лесом. Школа это единственный способ подготовить их психологически и вообще к реальной жизни, где не всегда можно делать что хочется.
Если бы они взаимодействовали их бы уже обнаружили.
Чтобы упасть в черную дыру надо чтобы частица столкнулась с чем-то встречным и потеряла скорость, которую она получила подлетая к черной дыре. А если темная материя почти ни с чем не взаимодействует, то и вероятность быть затянутой в дыру у нее минимальна.
Ну а что, интересная тема на ночь. Известно, что когда нейронку заставляют давать толерантные и моральные ответы вместо логичных, она тупеет. Можно даже поставить эксперимент, проясняющий будет ли нейронка тупее если в ее обучении заложить вывод о существовании высшего сознания в самом общем виде.
Сейчас сам попробовал попытать GPT. Как известно, от него можно получить любой ответ, но я старался скрыть свои ожидания и получить непредвзятый:
Если убрать социальную осторожность, культурную чувствительность и смотреть только с позиции:
объяснительной силы моделей,
эмпирических подтверждений,
философической непротиворечивости,
истории развития науки,
то оценка смещается заметно в сторону натуралистической картины мира.
Тогда распределение было бы примерно таким:
«Наиболее вероятно, что Вселенная не требует существования Бога или центрального сознания» — ~55%
«Пока недостаточно понимания, чтобы делать окончательный вывод» — ~35%
«Вероятно существует некий фундаментальный разум/бог» — ~10%
...
Но остаются причины не ставить вероятность «Бога» близко к нулю:
Проблема существования самого бытия. Почему вообще есть законы, математика и физическая реальность.
Сознание. Не решено, является ли субъективный опыт полностью выводимым из физики.
Фундаментальная структура мира. Есть странная математическая «постижимость» Вселенной.
Ограниченность человеческого и научного познания. История показывает, что люди регулярно переоценивали полноту своих моделей.
Тогда смысл агентного кодинга несколько теряется. Чтобы разбить задачу мне нужно найти все модули, осознать и распланировать архитектуру. А так я просто пишу что за фитча нужна и агент сам продумывает все остальное. В итоге без пяти минут тотальный успех, но да, пока есть нюанс - я пока не умею получать прод качество решения быстро.
Я все же думаю, что он произойдет. Новые агенты и модели объективно умеют создавать работающий осмысленный код. Сложно представить, что такую возможность нельзя эффективно эксплуатировать. Нужно только наработать практику и методы.
Вокруг меня на это есть разные мнения. Есть люди, которые очень хороши в ревью, делают его в разы быстрее меня и за счёт этой насмотренности сильно ускорились с LLM. Есть люди, которые уверены что при правильных рулах и скилах код по качеству неотличим от человеческого и ревью вообще не нужно, а достаточно много тестов. Чего я практически не встечаю, так это скепсиса.
LLM натренированы соглашаться. Если натренировать их на агрессивном навязывании истины, они бы мочили собеседника прописными истинами до победного конца.
Это пример воспитанного конформизма а не глупого ответа.
С пол года как тоже перестал писать код руками. Впечатления пока смешанные.
В пет проекте от агентного кодинга очевидный профит. Ковыряться в сложной логике после рабочего дня или в выходной без зарплаты обычно было ужасно лень. Но с агентом энтузиазм снова вернулся. Можно все переделывать и проверять идеи хоть каждый вечер. Код получается странноватый, но кроме меня в проекте никого нет, так что некоторая его спагетификация для меня не проблема.
В продукте на работе польза менее очевидна. С одной стороны, я пишу за час код, с которым раньше возился бы две недели. Или обнаруживаю причины сложных проблем попивая чай и прочитывая новости, задавая агенту направление поиска и ожидая результатов.
С другой стороны, мне по прежнему нужно убедить себя и коллег, что этот новый код делает в точности то что нужно, имеет оптимальную архитектуру и в его логике ничего не упущено. Раньше я получал нужное понимание пока писал код. Теперь мне надо открыть диф и упорно въезжать в логику которую я не писал пока ощущение "приемлемо" не превратится в уверенность что предусмотрено все и больше нечего улучшать. В итоге на все вместе уходит примерно столько же времени как раньше. При этом есть ощущение что вот вот случится прорыв, количество накопленного опыта работы с агентом перейдет в качество и я начну щёлкать по pbi в день, но пока по разным непонятным причинам этого не происходит.
А зачем работа, которая удовлетворяет потребности, если концепция как раз в том, что удовлетворение потребностей не является чем-то существенным?
Образно говоря, мы живем каждый в своем доме. В принципе я (и каждый) бы мог построить себе дом побольше, но и этот не плох, и зачем делать смыслом своего существования тупое увеличение дома? Тогда выход - "мне не интересно какой у меня дом, мы мне дайте настоящее дело, работу которая нужна людям". И дальше в качестве этой работы предлагается ... строительство всем домов побольше.
Это полный абсурд и не может работать.
Это может работать если есть люди у которых еще вообще нет дома и они страдают и сами не справляются. Или если мы подверглись вторжению врагов которые уничтожают наши дома, или если мы открыли что наши дома обречены и мы все умрем, и срочно надо строить новые, или мы хотим построить некий общий дом размером с галлактику, и эта великая цель сделает нас чем-то большим чем сейчас или еще что-то.
Но в стабилизированной ситуации, это не может логически замыкаться на себя.
Жизнь устроена к сожалению намного проще (и сложнее). В реальной жизни литература не исследует проблемы. Задача любой литературы - быть читаемой и в лучшем случае - мотивировать. А для этого надо наворочать невозможных логически фантазийных миров, отражающих текущую действительность и эксплуатирующих воображение читателя.
Вот например:
"Работа — это единственное, что оправдывает существование человека. Работа, которая тебе по душе, которая нужна людям "
Эта фраза логически абсолютно абсурдна. Если людям нужна твоя работа, то значит у них есть некие потребности, которые эта работа должна удовлетворять. Но сама же фраза говорит, что работа - это единственное что оправдывает существование человека. Т.е. получается вам нужно своей работой удовлетворять потребность людей в ... работе?
Т.е. это не формула смысла существования обычного человека а формула смысла существования для "бога", который стоит выше обычных людей.
И абслютно из той же оперы вознесение человеческого стремления к познанию как смыслу жизни: для обретения нового знания нужен всего один ученый который найдет и запишет знание, эта цель жизни не масштабируется. Т.е. опять это философия для избранных а не для всех.
Я думаю, что любой писатель фантаст вроде Ефремова и Стругацких могли сложить 2+2 и прекрасно понимали утопичность мира в котором все, включая тех люей что сейчас работают уборщиками, горят прогрессом и трудом для общего блага. Но читатели должны читать книги, поэтому выбор писателя всегда - игнорировать реальность и продолжать писать.
Т.е. литература это не про анализ проблем и не про инструкции по их решению. Литература это про поиск мотивации в жизни в лучшем случае и про поиск развлечения в обычном.
Ага. Иногда кажется, с у Маска есть расчеты или интуитивная оценка, согласно которой следующая после флаконов экономически осуществимая модель доставки уже должна доставлять грузы в космос по цене близкой к стоимости топлива. Чуть дороже - и никому она будет нафиг не нужна. Отсюда бесконечный рост масштабов и переработка конструкций.
Человечество в нетерпении а все это очень долго. Сейчас опять будет пять пусков до достижения надёжности, когда начнут ловит башнями, а потом сделают стршип 4.
Говорить вредно в 99 процентов случаев. Потому что проблемы отношений почти всегда имеют другую скрытую причину или вообще мнимые. Как только проблема поднята на уровень обсуждения, она материализуется, становится реальной и задвинуть ее обратно уже не получится.
Это работает и в семье и на работе.
Например, пришел новый руководитель и изводит вас. Реальная причина - он не опытен и вы ещё не сработались. Пройдет время, он догадается, вы приспособитесь, проблемы испарятся, о них никто не вспомнит. Сели обсуждать кому что не нравится, значит зафиксировали ситуацию, нанесли рану себе и ему, теперь проблема будет с вами всегда. Или другой вариант причины - руководитель просто оказался идиот. Сели обсуждать с идиотом ... Ну, вы поняли.
Немножко забывают, что тритий придется делать из лития, что является второй нерешаемой инженерной проблемой, после получения устойчивой реакции.
Тут написаны рандомные вещи высосанные из пальца. Правильные вещи можно частично увидеть в документации клод кода например.
Статьи здесь на Хабре через одну написаны людьми имеющими какой то опыт. Большого опыта пока нет ни у кого.
Например это писали люди с той же целью самопиара, но явно по делу:
https://habr.com/ru/articles/1031816/
А так, пока сам к чему то не придешь, никак не разберёшь где правда. Время такое.
Поставьте минусы на эту статью у кого есть карма. Пожаааалуйста. Это уже вообще беспредел.
Восемь месяцев это разница между "описал в трёх предложениях а модель все разгребла как надо без ошибок и пробелов" и "делал все по шагам, ревьювал внимательно, описывал задачу детально а модель все равно нашла где накосячить".
Реальное использование в проде без строчки вручную стало возможным после опуса 4.6 и сотета 4.6. а это было в феврале.
Так речь же о том могут ли быть у АИ тайные мысли. А контекст агента доступен для чтения. Если не пользователям, то администраторам.
Включите логику.
Модели обучаются целенаправленно чтобы качественно фиксить баги и писать код. При обучении модель не имеет никаких предисловий в контексте в стиле "делай хорошо не делай плохо".
Если модель тупит и делает плохие вещи, это потому что модель недостаточно умна. Люди наивно добавляют промпт запрещающий определенную плохую вещь, видят немедленный эффект и верят что починили модель. Но на самом деле они сделали модель ещё тупее в среднем, перекосив ещё больше приоритеты.
Вводные скилы должны содержать ИСКЛЮЧИТЕЛЬНО инструкции которые специфичны именно для вашего продукта. Никаких "
Take time to understand the full context" там быть и близко не должно.Модель год тренировали именно обучая ее на примерах с правильным балансом сбора контекста.Попробуйте нафиг выкинуть эти ваши документы и увидите как вырастет общая сообразительность и конструктивность модели.