Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 241
набор баззвордов :)
Да, еще аджайл забыл добавить, но это уже старая пластинка.
Интересно, как там скрам-мастера поживают, растут ли зарплаты
Они перекрасились в ИИ-тренеров, выступают в больших компаниях с тренингами за пару десятков млн руб, рассказывая, что нужно слопать как в последний раз, как в штатах сбежали сети и прочие байки не имеющие отношения к работе самой компании.
В общем, разводят феерию уровня будущее здесь, агенты в облаке все решат за нас и вообще покайтесь ибо грядет.
Про ПДн и требования работы с ними компания узнает уже после тренинга, когда ИИ-тренер растворился в закате.
Не соглашусь. Очень хороший обзор. То, что вы назвали "баззвордами" - это просто терминология. Актуальная терминология в описании актуальных проблем некоторой области человеческой деятельности. Просто это не та область, к которой вы привыкли и которую понимаете. Попробуйте, для начала, порезать документацию по $mol'у на чанки и засунуть в RAG.
а я уже
дока https://b-on-g.github.io/smalljs/
скилл npx skills add b-on-g/mol_skill --all -g
Мне кажется RAG начал отмирать где-то до харнесов и мультиагентов. Из за того что терминология стоит не в том, как мне хотелось бы формате - кажется надерганной, то есть баззвордами.
я уже слышу год наверно, что RAG умерает или уже, но альтернативы то нет. Если вместо MCP вы можете прикрутить скилл со скриптом и API, то вместо RAG прикручивать нечего. Если только базовый поиск или встроенные решения как SharePoint. Причем там не будет кастомной разметки документов как в своем решении.
хорошо вы так разложили по полочкам.
На мой взгляд надо ещё разделять небольшие и энтерпрайз проекты, с возможными градациями между ними. Поскольку основной хайп идёт как раз на небольших проектах, где инди разработчик и не сталкивается со всеми этими проблема. А вот чем сложнее проект, тем больше вопросов действительно возникает.
Например, основная масса небольших приложений это разнообразные утилиты. И разница в их написании у одного и того же разработчика, если и есть, то совсем небольшая. Поэтому в таком случае достаточно использовать тот же локальный CLAUDE.md и записать туда пару-тройку правил в дополнение к глобальному CLAUDE. Это пример к вопросу, который вы называете как "адаптер, дообученный на нескольких сотнях аккуратно отобранных примеров, чтобы модель писала код “как принято в этом проекте”
Общее впечатление от статье - все безнадежно, что не придумают, то очередной кривой костыль.
Но на самом деле тут есть еще две вещи.
Первое - все о чем тут пишите появилось буквально за 2 года. Хоть и разработка и так была быстроразвивающийся отраслью, но в все же для качественных изменений нужны были десятилетия. А тут годы.
Второе - сами модели тоже быстро развиваются, некоторые прошлые велосипеды как следствие отпадают. Скоро похоже SDD станет не актуальным, и процесс упроститься.
А вот мысль о том, что ускорять следует не только генерацию кода, очень точна - это действительно вызов. Нужно перестраивать всю систему, на это потребуется время и будет болезненно. К этому придем.
Скоро похоже SDD станет не актуальным, и процесс упроститься.
Ну, я, например, приверженец SDD. У меня он очень хорошо себя показывает. Код пишется по спекам, тесты пишутся по спекам. Тесты проверяют код. Спеки - единый источник истины для проекта.
Думаю, что для каждого типа проекта (утилита, скрипт, пет-проект, open-source, коммерческий, чиновничий, инфраструктурный, военный, ...) подходят разные "велосипеды" (метод использования ИИ в разработке). Нет и не будет одного единственного подхода, применимого ко всем типам проектов. В том же вайбкодинге можно спокойно генерировать одноразовые программы без каких-либо тестов, т.к. критерием приёмки является выполнение требуемых действий. Эволюция ПО и вайбкодинг не совместимы. Но SDD - это явный перебор, если нужно собрать shell-скрипт для наведения порядка на сервере.
Первое - все о чем тут пишите появилось буквально за 2 года. Хоть и разработка и так была быстроразвивающийся отраслью, но в все же для качественных изменений нужны были десятилетия. А тут годы.
А с этим полностью согласен. Не очень то и просто в массе разобраться, какой инструмент когда использовать. Время нужно.
А кто проверяет соответствие тестов спекам?
Всё как и у всех - окончательную проверку проводит конечный пользователь :)
Который спеку в глаза не видел :)
А ему и не надо. Спецификации, тесты и код направлены на то, чтобы удовлетворять потребности конечного пользователя. Если ему что-то не заходит, то надо менять код, тесты и спецификации. Можно даже сказать, что конечные пользователи в массе своей и составляют "неформализованную спецификацию". Всё остальное - лишь приближение к ней.
Через пару лет пена осядет, и останется нормальный рабочий стек без лишнего шума. С контейнерами и микросервисами ровно ту же драму проходили
Спасибо. Пойду покажу руководству, кто внедрил в kpi использование AI, чтобы просто использовать.
Если с "ИИ-сингулярностью" ситуация аналогична ситуации с RAG, то за цивилизацию можно быть спокойным. В области разработки и применения RAG наработано достаточное количество алгоритмов, которые адекватно решают поставленные вопросы при грамотно поставленной задаче и отсутствии завышенных ожиданий (хочу точности в 110%!!!).
Ну да, все так и есть, признак молодой технологии, и бума, пока не будет достигнуто какое то плато, все так и будет меняться..
Статья супер, очень порадовала аналогия с велосипедом без седла. Браво!
аналогия с велосипедом без седла
Тема монашек не раскрыта!
Тут не аналогия, а метафора.
Мне больше понравилось само, когда все несутся на велосипедах с горы. Очень меткое сравнение.
Как исторический обзор с логическими переходами "почему придумали костыль инструмент N" читать интересно.
Не понял, какие проблемы останутся не решены и актуальны если прикрутить все придуманные инструменты/костыли.
Пока агент спотыкается на обычном гит-мердже, никакая сингулярность нам точно не грозит
Ну не знаю. Я раньше бывало по полдня делал ребэйзы долгоживущих веток. Сейчас просто говорю агенту и через сколько-то минут результат готов. Или, допустим, я сейчас полюбил группировать множество сделанных вразнобой коммитов в несколько больших, разбитых логиески. Такое руками я бы делать и не взялся. А сейчас раз-два и готово. С валидацией, естественно, исходного и получившегося деревьев.
Главная проблема в токенах и деньгах. По публикациям самих разработчиков таких систем, мультиагентные схемы могут расходовать в разы, а то и на порядок больше токенов, чем один агент, и окупаются далеко не на любой задаче.
Интересно, проявляется ли тут закон Брукса для программистов? Т.е. зависимость числа токенов от числа агентов - она линейная или квадратичная (из-за роста взаимосвязей каждого с каждым)? Если линейная, это терпимо, но вот квадратичная с точки зрения финансов - это жесть.
Интересный вопрос, спасибо. Не думал об этом в таком ключе. По-моему, скорее нет чем да.
Даже в самой сложной системе оркестратор + N исполнителей каналов все равно N, а не N квадрат (звездообразная схема), поэтому зависимость скорее линейная.
Самая сложная система - не оркестратор + исполнители, а когда кворумы, дебаты и прочие топки для токенов собираются
когда кворумы, дебаты и прочие топки для токенов собираются
Вот ща чем‑то знакомым пахнуло
Теперь «F.D.O.M.» выдавала видеоотчет. Выглядел он так: у большого монитора в условном подобии студии сидели несколько виртуальных фигурок простецкого вида (каждый раз система моделировала их заново, чтобы не создавать впечатления, будто у нее внутри обитают некие искусственные существа). Картинка, на которую смотрели фигурки, соответствовала тому, что видели камеры «Либерейтора». При появлении врагов фигурки просыпались и вступали в диалог, напоминающий эмоциональное ток‑шоу категории «B».
Вряд ли такая передача выдержала бы конкуренцию на телевидении. Но в смысле public relations смоделированный подобным образом диалог чрезвычайно выгодно отличался от переговоров живых операторов.
Военные обычно говорили коротко и по делу:
— Долбани‑ка еще раз вон по тому ублюдку в канаве.
А виртуальные фигурки в той же ситуации изъяснялись так:
— Ужасно, что приходится открывать огонь по живому человеку. Но когда я думаю о наших ребятах, в которых может попасть пущенная им пуля, когда я думаю, что он может прятать в кармане гранату или пистолет, я понимаю — этот трудный, практически невозможный выбор все‑таки придется сделать…
Хитрость Пентагона заключалась в том, что сгенерированные подобным образом виртуальные отчеты не навязывались общественности — они хранились в военном архиве и имели статус секретной информации. Но если какой‑нибудь свисткодув из числа военных решался слить информацию на «Wikileaks» или в другие СМИ, те получали вместо жареного компромата патетическое ток‑шоу, где все принимаемые решения были настолько безупречны с нравственной точки зрения, что никакой возможности обвинить в смерти гражданских лиц кого‑то, кроме мертвых гражданских лиц, просто не оставалось.
© Виктор Пелевин. «Зенитные кодексы Аль‑Эфесби»
А мы таки продаем, покупаем или рекламируем? /s
Мыши плакали, кололись, но продолжали жрать кактус...
Пока иышам платят деньги за поедание именно кактусов, у них выбора не очень много
Зачем мышам деньги? Непонятно. Это по поводу аналогий. А если серьезно, то немного задолбало уже, что айтишники плачут, что устали от ит и эйай им делает хорошо. Если без эйай вам плохо, как без вазелина, то может это не для вас? Может что-то другое поискать? Тем более что денежек сейчас в ит меньше стали платить. А тот нейрослоп, что тоннами вываливаю в инет, никому лучше не сделает.
Вот везде поднимается вопрос "Если джуны стали не нужны, то как растить сеньоров?". Собственно ответ уже давно придуман - университеты. Индустрия слишком привыкла полагаться на самообучение работников.
Проблема в том, что при таком бешенном темпе развития учебные программы устареют уже к моменту написания.
Университеты еще менее поворотливые при указанном темпе развития. Но сейчас столько народу в отрасли что пока и текущих мидло-синьоров хватит. А там будет видно опять же как развиваться будет.
Но сейчас столько народу в отрасли что пока и текущих мидло-синьоров хватит.
Их раньше не хватало, а вдруг стало хватать?) Просто денежки подорожали, число новых проектов ужалось, вот и всё. Появятся денежки — проблема на фоне демографии может вспыхнуть ещё острее. А её заранее ещё и бензинчиком полили.
Завидую вашему оптимизму.. А откуда они появятся? Все в долгах как в шелках
Ну и даже если повяятся деньги тем же объемом что и в жирные года - бизнес будет стараться закрыть задачи меньшим количеством людей.
А откуда они появятся? Все в долгах как в шелках
Долг — он того, платежом красен.
Завидую вашему оптимизму
Напрасно, я далеко не оптимист.
А откуда они появятся? Все в долгах как в шелках
Кризисы не впервой происходят, откуда-то деньги появляются внезапно (на самом деле, понятно откуда — перераспределяются и генерируются на фоне роста объёма благ).
бизнес будет стараться закрыть задачи меньшим количеством людей
Он это всегда старается делать. Вопрос в том, получится ли? Пока предпосылок нет.
Кризисы не впервой происходят, откуда-то деньги появляются внезапно (на самом деле, понятно откуда — перераспределяются и генерируются на фоне роста объёма благ).
Да заливы деньгами были, но и закредитованность другая была у государств. Возможности таких заливов сокращаются.
Он это всегда старается делать. Вопрос в том, получится ли? Пока предпосылок нет.
Ну они пытаются. Посмотрим. Скорость разработки в пересчете на одного разраба возрастает все же средняя, а вот выльется ли это в реальное качество закрытия задач бизнеса, вопрос открытый.
Где в том комментарии было слово "лицензирование"???
"В первой половине 2022 года доля работников, имеющих высшее образование, составила 34,9 процента" -- можете рассказать остальным 65%, как они не имеют права работать без высшего.
Если вы вдруг не в курсе, то уже есть высшее программистское, что не мешает значительной доле, если не большинству, айтишников работать без профильного высшего, и никакого закона, запрещающего работать без высшего, нету, и первый комментарий ничего по поводу запрета работать без высшего не писал.
получение диплома это и есть лицензирование
Получение диплома это не лицензирование.
фактически вы получаете право работать в сфере
Это относится только к ряду регулируемых областей типа медицины, но не к айти.
> Собственно ответ уже давно придуман - университеты. Индустрия слишком привыкла полагаться на самообучение работников.
Вы "почему-то" забыли вопрос, на который изначально давался ответ. Вспомним фразу полностью:
'Вот везде поднимается вопрос "Если джуны стали не нужны, то как растить сеньоров?". Собственно ответ уже давно придуман - университеты. Индустрия слишком привыкла полагаться на самообучение работников.'
тут конкретна сказана мысль чтобы ограничить найм выпускниками вузов . она дана на будущее и вообще никак не отражает настоящее положение дел .
Вот покажите мне, где в цитате из @Ellarihan сказано "запретить работать без высшего"??? Чёрным по белому там написано, что "если сейчас сеньоры вырастают из миддлов, миддлы из джунов, а джунов мало, то можно готовить недостающих специалистов сразу уровня сеньора в вузах, потому что как бы вузы для подготовки специалистов и предназначены".
Лице́нзия (от лат. liсentia «право») — разрешение на право либо право на выполнение некоторых действий, которое может удостоверяться (подтверждаться) одноимённым документом.
Я знаю, что такое лицензия. Это слово в тред внесли вы, никто введение обязательного лицензирования не обсуждал.
А теперь давайте представим
Вы меня совсем за дурака держите? Я прекрасно представляю негативные последствия введения обязательного лицензирования; это вы сами себе придумали, что @Ellarihan хочет ввести обязательное лицензирование или обязательное высшее.
и это вырезается из контекста , ну я понял
Я это в своей цитате сохранил. Если для вас "X слишком привыкли полагаться на метод Y, хотя вроде бы есть метод Z, который может помочь" значит "нужно запретить Y, и оставить только Z", я ничем вам помочь не смогу.
Там буквально говорилось что сотрудников МОЖНО готовить в вузах, если вы тут видите призыв к монополии вузов, это ваши проблемы.
Кстати, в критических отраслях IT вышка таки требуется, но вы и без вышки туда скорее всего работать не пойдёте.
Занимательно что я видел то, о чём вы говорили - в парочках вакансий в YADRO и похожих фирмах было буквально указано "вышка в Бауманке, МФТИ, МИФИ, ЛЭТИ".
В своё время на некоторые позиции брали людей, обладающих учёной степенью.
Я знаю места, где выпускники МФТИ и Бауманки играют роль долгоносиков, проедающих ML бюджет компании. При этом за полгода так и не осиливших всем отделом двухнедельную работу одного человека.
Ситуация продолжается не первый год, руководство просто ослеплено дипломами. Ну это их дело.
Я не говорю что все такие, конечно нет, но в последние годы именно в ML их блеск серьезно потускнел.
В быстрорастущей ML сфере диплом перестал быть реальным показателем став просто фильтром.
Так диплом и лицензирование это разные вещи. Получение диплома это просто подтверждение квалификации. Ты можешь например иметь диплом медика, но не пройти аккредитацию, и будешь сидеть с дипломом на другой специальности где она не требуется. Я например тоже имею право работать из-за бумажки, допуска до 10кВ который я каждый год обновляю в ростехнадзоре. У адвокатов например лицезния не нуждается в обновлении, но может быть отозвана. Пассаж про "добивайте" я вообще не понял, вы хотите вообще отменить обязательное образование в сферах где оно необходимо или что?
Университеты тоже должны где-то найти своего преподавательского "джуна", чтобы прокачать его до преподавателя, способного учить и научить неофитов чему-то полезному и современному. Плюс методология, плюс профстандарты и ФГОСы - для их составления тоже нужны специалисты, которые до этого когда-то были джунами.
Проблема в том, что при таком бешенном темпе развития учебные программы устареют уже к моменту написания.
Так было и 10 лет назад, а сейчас вообще пропасть, мне кажется
учебные программы устареют уже к моменту написания.
А мне вот было всегда интересно. Почему? Что такого фундаментального появилось за последние лет 40? Буквально всё что мы сейчас используем базируется на математике, теории сетей и массового обслуживания из 60-х годов. Вот тут как по мне главная проблема вузов - тебе не показывают где и как применяется то чему тебя учат. И да, после вуза что так что так человек должен опыта набраться, готового сеньора вам никто не сделает.
Хотя мне например нравится как дипломная работа в вузах Норвегии выглядит. Это командная работа на 6 человек которую вы выполняете в течение года с распределением ролей. Да и как бы я не относился негативно к советской системе, то как там было поставлено взаимодействие вузов и фабрик, это было сделано правильно. Перекладывать всё только на самообучение или только на вуз глупо.
Путь, когда для каждого проекта нужна lora, приводит к следующему уровню автоматизации. Просто замена алгоритма на спец-нейронку. Хорошо, но сингулярности не будет.
Для сингулярности нужно развитие независимое от людей.
То есть, допустим, модели сейчас "на уровне трёхлетнего ребёнка", не понимают, что происходит а могут что-то делать потому, что в них упихали много данных, сколько у детей нет.
Только ребёнок хочет (и может) узнавать новое самостоятельно (и использовать, пока не получится). На пути к сингулярности модель должна сама находить ошибку (несоответствие) и делать себе lora самостоятельно. А после тренировать (самостоятельно) новую (дочернюю) модель, лишённую этих ошибок.
Ну и вообще, пока не будет обучения прямо в процессе работы (бить модель линейкой по её кривым весам) то ничего путного не выйдет.
Сейчас как загон для диких обезьян, у которых иногда получается писать книгу, а если не получается, то нужно каждый шаг закрывать лишние клавиши.
Пока что мы не знаем что будет, когда всякие антропики перестанут дарить токены и займутся финансами. Подписка за 20 долларов создана лишь для привлечения клиентов и сбора данных, но на деле она глубоко убыточна.
Другой вопрос - датасеты для обучения. Нейронка учится на тексте, изображениях, видео, аудио и все это может сама генерировать. Причем используют ии так активно, что больше половины нового материала - это нейрослоп. Старая информация в относительной безопасности, новая подвержена деградации.
но на деле она глубоко убыточна
Пруфы есть?
Обсуждалась прибыльность/убыточность подписки. По вашей же ссылке сравнивается вся выручка и все расходы, в том числе капитальные.
Ну типа строить датацентры для обслуживания подписчкиков не надо?
"Когда всякие антропики перестанут дарить токены и займутся финансами" (из начального комментария), то первым делом отпадут капитальные расходы. Те подписчики, которые уже есть, они уже обслуживаются уже существующими датацентрами и уже обученными моделями, так что в вопросе убыточности/прибыльности подписок вопрос в разнице между электричеством-амортизацией-долгами и выручкой.
Ну да, а уже построенные датацентры (и всё железо в них) не будут требовать электричества/обслуживания/периодической замены/ремнота...
Скрытый текст
Это суммы радикально меньшие, чем для строительства новых датацентров, инфраструктуры, закупки железа и т.п.
Это суммы радикально меньшие, чем для строительства новых датацентров, инфраструктуры, закупки железа и тому подобное
Строительство бетонной коробки по сравнению с тем, что в ней жужжит — в пределах погрешности.
А при «замене железа» его типа закупать сначала не нада?
Скрытый текст
А при «замене железа» его типа закупать сначала не нада?
Нада, и это входит в амортизацию, которую я упоминал.
Так подписка и ее не окупит. По самым разумным оценкам Антропики продают токены по х3 от себестоимости инференса.
Исходя из этого подписка которая выбирается хотя бы на половину глубоко убыточна. Не выбирающих лимиты хотя бы наполовину я думаю меньшинство. Им проще перейти на тариф подешевле.
По тем же оценкам у OpenAI все еще хуже. У них токены продаются чуть дороже себестоимости.
А вот у китайских моделей все хорошо. Там опенсорс и все четко посчитано. Токены продаются на копейки выше себестоимости, но подписок нет. И все сходится. Ради справедливости у GLM тоже не сходится, но есть обоснованное подозрение что они воруют все репозитории.
Пользуйтесь подписками пока они халявые, потом не будет.
Они строились на заёмные средства, которые надо возмещать. Это, фактически, отложенная часть капитальных расходов. И оборудование надо непрерывно обновлять.
С текущей выручкой антропикам надо 400 лет, что бы только долги покрыть, без амортизации и прочих расходов. Готовы платить 3-4 тысячи баксов за подписку в месяц?))
Я плачу уже 100 долларов, но платил бы и 200, если бы не боялся что при смене тарифа с меня попросят паспорт показать (у коллеги так уже было, он уже потерял аккаунт таким образом).
Да, сейчас цены низкие, но выхлоп такой, что и в несколько раз большие цены я бы заплатил
выхлоп такой, что и в несколько раз большие цены я бы заплатил
@Oceanshiver: По моим наблюдениям про то, что ИИ скоро заменят программистов пишут те, кто ничего не понимает ни в ИИ, ни в программировании.
Другой вопрос - датасеты для обучения. Нейронка учится на тексте, изображениях, видео, аудио и все это может сама генерировать. Причем используют ии так активно, что больше половины нового материала - это нейрослоп. Старая информация в относительной безопасности, новая подвержена деградации.
Чем нейрослоп отличается от графоманства необразованных кожаных, рекламных помоек и CEO мусора? Я вот не уверен, что старая информация в среднем лучше, чем новый нейрослоп, теорема Эскобара так сказать. В любом случае датасеты чистят перед обучением моделей
Ну вот оказывается что лучше, вроде цифры однозначно показывали, что модели обучаемые на результатах генерации других моделей работают хуже.
Видел мнение что это из-за усреднения. В человеческом контенте большая часть "средняя", но есть выбросы - очень хорошие и очень плохие материалы. Нейронка результат своей работы усредняет, выбросы отрезает. Следующая нейронка уже учится только на "средних" данных без выбросов, что сужает ее диапазон знаний и возможностей, при этом ее результат работы будет еще чуточку уже, чем данные на входе. У следующего слоя еще немного уже, и так до полного вырождения.
Пока не придумают как делать гениальные нейронки, чьи результаты выбиваются из общего ряд так же, как выбиваются человеческие гении и безумцы, видимо проблема будет оставаться.
Тем что от нейрослопа у моделей случается “model collapse”, а от графоманства нет. Если обучать модели на сгенеренных картинках, музыке и текстах так просто, то нафига все крупные компании бегают за реальными данными?
Чем нейрослоп отличается от графоманства необразованных кожаных, рекламных помоек и CEO мусора?
Ну, например, тем, что слопящего кожаного можно уволить. А тот, о ком известно, что он раньше не слопил — и дальше слопить не будет.
Первая доза, как известно, бесплатна.
А когда клиент подсел, можно начинать доить.
Символично, что ИИшница при рисовании велосипеда сделала ему два передних тормоза, а систему перенесла на левую сторону. Ну и руль криво установлен.
Не с первого раза и под моим чутким руководством.
Вы ещё не заметили, что передняя звёздочка — с левой стороны велосипеда, а задняя — с правой. Но при этом они как-то всё ещё соединены цепью.
И вот в этом-то и проблема:
@Hemml: Да, всё, в чем ты не разбираешься, нейронка делает хорошо. Но вот то, в чем ты что-нибудь понимаешь, она всегда делает плохо
Если не обращать внимания на детали выхлопа нейросети, то с первого взгляда выглядит отлично — но когда этот выхлоп выкатывают в продакшн, эти нюансы вскоре обнаруживают себя.
передняя звёздочка — с левой стороны велосипеда, а задняя — с правой. Но при этом они как-то всё ещё соединены цепью
Абсолютно не проблема - да сложно, потребует дополнительных направляющих у задней звёздочки, но технически можно. И даже можно рационализировать! Чтоб штаны меньше в цепь попадали.
Так что ждите в магазинах ИИ-спроектированные велосипеды!
Абсолютно не проблема - да сложно, потребует дополнительных направляющих у задней звёздочки, но технически можно.
То есть тот факт, что при таком расположении звёздочек цепь будет проходить через плоскость колеса, Вас совершенно не смущает?
Один из тамошних инженеров-механиков постоянно пытался изобрести нечто новое, но все у него получалось как-то наперекосяк. Однажды он принес начальнику проект коробки передач, одна из ее шестерен была большой, дюймов восьми в поперечнике, и с шестью спицами. Он очень волновался и все спрашивал:
— Ну, как, босс? Как она вам?
— Отлично, — отвечает босс. — Осталось только соорудить на каждой спице пропускник для оси, иначе ваша шестерня вращаться не сможет.
У этого деятеля ось другой шестерни окзалась в аккурат между этими спицами!
А потом босс сказал нам, что такая штука, как пропускник для оси, действительно существует (я решил было, что он шутит). Немцы изобрели ее во время Первой мировой войны, чтобы не позволить английским минным тральщикам зацеплять тросы, на которых держались подводные мины. Тросы с пропускниками проходили через английские тралы, как сквозь вращающуюся дверь. То есть, вообще-то, спроектировать это дело для каждого зубца шестерни было можно, однако босс решил, что тому инженеру с такой задачей лучше не связываться, и велел ему перепроектировать редуктор так, чтобы главная ось вращения проходила где-то в другом месте.
© «Вы, конечно, шутите, мистер Фейнман!»
Ну хоть кто-то заметил, а то я старался, добавлял пасхалок, переделывал...
задняя — с правой
Нет, она тоже с левой, иначе было бы видно втулку, как на переднем. А при увеличении видно, что для наблюдателя втулка за кассетой, то есть с левой стороны велосипеда.
Скрытый текст
Аналогия с велосипедом мне понравилась. Рискну продолжить.
Кто бывал в Японии, тот видел, как много в японских городах велосипедов. Их на городских улицах буквально больше, чем машин! Но так было не всегда - взрыв пришелся на 1970-е, когда машинам стало тесно на дорогах и велосипеды стали банально выигрывать в скорости.
Но - производят эти велосипеды отнюдь не кустари. Это гиганты, причем не автомобильные - например, Panasonic и Yamaha. Средний бизнес - в этом не участвует. Маленькие компании - занисают нишу hand-made, примерно как ручная вышивка: это дорого продантся, но очень мало. И, конечно, массовый техпроцесс имеет весьма мало общего с тем, как это выглядело в 1950-х...
Возвращаясь к нашим баранам - думаю, что нынешнему состоянию рынка жить осталось - увы - очегь недолго. Средний бизнес здесь вряд ли выживет. Мелкий - уйдет в нишу hand-made. Крупный - останется, но полностью поменяется техпроцесс - мелким командам места здесь не вижу, индивидуалам тоже.
Как скоро это случится? Кто знает. Но - вряд ли процесс растянется на много лет. А там - поживем- увидим...
Японские велики, кстати, большей частью делаются в том же Китае - по японским лицензиям.
Но я малость про другое. ИИ, хотим мы того или нет, меняет процесс производства коммерческих программ примерно полностью, и в "доавтомобильное" время этому "велосипеду" возврата уже не будет. Он будет дешеветь, а процесс будет автоматизироваться. Какие при этом будут созданы инструменты - не знаю. Но современным - осталось жить недолго. Не только инструментам, но и общему ИИшному подходу. ИИ останется, но работать будет не так, как сейчас.
Хороший вопрос Вы задали: какие процессы будут автоматизироваться?
Если очень коротко, то мой ответ - процессы, требующие принятия любых промежуточных решений. Например, по архитектуре, выбору СУБД, ресурсам, безопасности, стратегиям и тактикам тестирования, и т.д. и т.п. Сегодня человек пока еще может справиться с этим лучше, чем ИИ, но это очень ненадолго. Грубо говоря, ИИ плохо тестирует не потому, что в принципе не способен это делать хорошо, а потому, что до сих пор это не было его главным узким местом.
Аналогично - при поиске научной литературы гугловский ИИ выдает почти 100% лажи в конкретных ссылках. При этом гуглрвский же не-ИИшный поиск тех же самых источников дает 100% правильный результат. Как Вы думаете, долго ли осталось жить этой "багофиче"? Плохое тестирование - из этой же самой серии. Никудышное код-ревью - тоже.
Помните, совсем не так давно многие с пеной у рта доказывали, что камера телкфона физически неспособна фотографировать документы так, чтобы их можно было прочитать? А ведь ссылались на добротную физику, на дифракцию света в объективе и т.д. Законы физики никто, конечно, не отменял - но документы нынче фотографируются одной левой - в буквальном смысле этого слова.
Басни о том, что ИИ неспособен на нормальный тест или код-ревью, или не в состоянии выбрать нужный набор функций для 100500-й однотипной задачи - из той же самой серии.
А если принятие промежуточных решений автоматмзируется - то что происходит со стоимостью? Покажите хотя бы один обратный пример.
Оговорюсь: особо ответственные разработки - особ статья, сюда ИИ может дойти не обязательно скоро. Но их стартапам и одиночкам доверяли и без ИИ не слишком часто. Уникальные программы - да, но это ниша. Массовые заказы - не вижу здесь больших перспектив для небольших команд. Инструменты - изменятся соответственно.
Оплатите подписку-то)
Вот вам и пытаются показать смысл через баны. Чтобы вы не только сливали регулярно свои данные, но ещё и денег заносили.
Я и сливаю, и заношу - и меня это слабо парит.
Действительно проблема - люди не хотят работать за ценнейшие данные из чатов.
Инвесторы - это такие филантропы с нескончаемыми деньгами? А они 100% этой деятельности оплачивают? И поэтому вы считаете, что эти инвесторы должны и за вас оплачивать эти услуги?
Так к чему тогда жалобы на баны, раз использует направо и налево?
Так потому всё хорошо, что есть такие ограничения. Бесплатное предложение нужно для завлечения и демонстрации, что бы пользователь ознакомился с возможностями, и решил нужна ли ему эта услуга, покупать ли подписку.
А компании решили, нужны ли им такие пользователи :)))
Мы с ИИ ещё в январе 2025 года это обсуждали. Я даже на Хабре это опубликовал, но тогда была другая политика по "нейрослопу".
Оплатите подписку-то
Карпатый, перелогинься!
Не устаю повторять: ИИ хорошо работает, когда пользователь способен ПРЕДСТАВИТЬ себе результат, который он хочет получить. Представить не только оболочку, но и потроха и процесс их производства.
Типа "если мы делаем сервис для миллионов пользователей нужно горизонтальное масштабирование и придётся думать как шардировать данные", "если мы делаем сервис доставки еды, там будет одна из проблем - построение оптимального маршрута курьера, что вообще-то NP полная задача и надо бы провести литературный обзор какие сейчас state of the art алгоритмы", "если мы пишем фронтэнд, то нам нужен TypeScript, иначе мы зафакапимся на динамической типизации".
При этом можно не знать какой именно алгоритм маршрутизации курьеров будет выбран и на какие именно компоненты будет попилен фронтэнд.
Чем-то похоже на написание качественной книги, от которой не будет фейспалмов "почему это произошло??? так не бывает!".
Достаточно выучить пару заклинаний и прочитать их богу машине. В духе "а теперь сделай независимое ревью кода и рефакторинг, обеспечь хорошую производительность и архитектуру".
И в большинстве случаев даже этого будет достаточно. Что-то более сложное нужно только там где есть нетривиальные алгоритмы, а это я думаю единицы процентов от всей ИТ индустрии
ИИ хорошо работает, когда пользователь способен ПРЕДСТАВИТЬ себе результат, который он хочет получить.
Нет, ИИ «хорошо» работает, когда пользователь НЕ способен ПРЕДСТАВИТЬ себе результат, который он хочет получить:
23 подхода к снаряду — а приличного результата всё нет и нет. А адепты ИИ мне грузят — «вроде приемлемый результат, без артефактов», хотя там артефакты прямо‑таки в морду лица тычутся.
У вас не возникает мысли, что текстовые ИИ, про которые и идёт речь, и ИИ для генерации картинок -- это разные вещи?
У Вас не возникает мысли, что мысль в том, что текстовые ИИ глючат не шибко меньше — но на тексте это заметить сильно сложнее, чем на картинке (хотя некоторые всё-таки умудряются и на картинке не заметить).
что текстовые ИИ глючат не шибко меньше
А вот и шибко меньше:
Изображение обычно создаются одним автором за один подход, и их потом не рефакторят и не изменяют, в отличие от программного кода;
Часть неправильно написанного моделью кода подсвечивается линтерами/компиляторами/тестами/прочим, для изображений такого нету;
Текстовые ИИ просто более развиты, потому что на них спрос больше. Какой спрос, такое и развитие.
А вот о том, как вырастить будущих сеньоров, почти никто не думает
Когда придёт время думать, те, кто не думал раньше, будут вынуждены пошариться по карманам в поисках средств. Будет интересно, а многим ещё и очень выгодно. Если бизнес решил отстрелить себе ноги, кто мы такие, чтобы его от этого отговаривать?
Во всех этих модных best practices удручает полное отсутствие какой бы то ни было детерминированности. Раньше под языком программирования лежала математика, под тестами лежала математика, и работоспособность нашего кода была, по сути, математически доказуема (хотя мы - рядовые разработчики - об этом не задумывались и не пытались перевести то, что делаем, на язык формул). А теперь все перешло в разряд какой-то магии: отправь в LLM стенограмму потока сознания и получи результат.
Но "математика" (я бы её на "логику" только заменил) при этом ведь никуда не делась.
хотя мы - рядовые разработчики - об этом не задумывались и не пытались перевести то, что делаем, на язык формул
И чем это определение отличается от вайб-кодинга? ;)
Тогда уж не на логику, а на теорию вероятностей, она и то ближе к персептрону и прочему.
Но мы обычную логику не проходили, только математическую логику, так что для меня логика - подкласс математики.
Но «математика» (я бы её на «логику» только заменил) при этом ведь никуда не делась.
«Но офицер, ремень безопасности из моей машины никуда не делся! Ну и что, что я его не пристёгиваю?»
и работоспособность нашего кода была, по сути, математически доказуема
Нет. Можете поинтересоваться, сколько усилий требует математическое доказательство корректности чего-нибудь (например).
Вы про в общем случае или частном?
Скажем, если я пишу код для системы, являющейся конечным автоматом: лифт, будильник, светофор, мультиварка и т.п.?
Я про то, что "математически доказанно" это уже используемый в айти термин, и значит он совсем не то, что имел ввиду автор комментария, на который я отвечал. Частый случай, например, что нельзя совершить переход из одного состояния в другое ненормативным способом, доказать, конечно, часто можно легко.
Скажем, если я пишу код для системы, являющейся конечным автоматом: лифт, будильник, светофор, мультиварка и т.п.?
А как будет Ваша система вести себя, если у неё в непредусмотренном месте осы гнездо построили?
Вы вообще читаете, на что отвечаете? Даже не буду упоминать, что программостроение на самолётах и прочих ядерных реакторах не оканчивается, мне просто интересно, какой ответ вы хотите получить. "Что в коде написано, то и будет"? "Что в спецификации написано, то и будет"?
Программисты (ну как, нормальные программисты) при программировании не отключают голову. То есть всё‑таки задают себе вопросы «а что было бы правильным делать, если вдруг вот с этой штуки мы получаем неверные данные?»
Перескажу содержание текущей ветки:
Вот раньше программирование было всё такое математически корректное, а теперь в БЯМ льют разную неконкретику;
Нет, нельзя говорить, что была математическая корректность, потому что это гораздо более строгое понятие, чем кажется, и код, строго говоря, не был математически корректным;
"Вы про в общем случае или частном? Скажем, если я пишу код для системы, являющейся конечным автоматом: лифт, будильник, светофор, мультиварка и т.п.?"
"А как будет Ваша система вести себя, если у неё в непредусмотренном месте осы гнездо построили?"
Судя по тому, как вы раньше использовали аргумент про самолёт, я предположил, что вы решили, что мы тут обсуждаем ИИ и корректность программ, и вбросили ехидный комментарий, не удосужившись написать, какая именно у вас претензия к автору комментария. Ещё раз, меня спросили, можно ли сказать, что корректность работы конечного автомата можно строго доказать, на что вы автору вопроса ответили своим вбросом.
У меня претензия не к автору комментария, а к посылу «вот, оно сейчас нам всё верно‑верно сделает, а программисты не нужны». Всё равно нужны. Только программисты, а не кнопкодавы «я у мамы программист».
ИИ/БЯМ обсуждались только в первом комментарии ветки, более того, автор как раз критиковал такой подход: "а теперь все перешло в разряд какой-то магии: отправь в LLM стенограмму потока сознания и получи результат". То есть ваш комментарий и промахнулся, и не расширяет обсуждение каким-то новым мнением или информацией. Вот если бы содержательную часть вашего комментария не надо было выяснять в дальнейшем обсуждении, то никаких непоняток бы и не было.
P.S.: К вам я привязался из-за объёма производимых вами комментариев, и из-за того, что они регулярно выпадают из контекста.
они регулярно выпадают из контекста.
А что, ответвления мнений уже запретили?
Вы снова выпали из контекста~, позвольте повторить картинки из ссылки:
Два раза подряд вы прокомментировали, плохо прочитав комментарии, на которые отвечаете. К плюрализму мнений это никакого отношения не имеет, вы просто не читаете, на что отвечаете.
А мне вот кажется, что Вы в лучших традициях LLM видите знакомые слова, но заключённый в них смысл постигнуть уже не могёте.
Если бы вы написали, про одни и те же вещи ли говорят подчёркнутые фрагменты, стало бы гораздо яснее:
— "Когда всякие антропики перестанут дарить токены и займутся финансами" (из начального комментария), то первым делом отпадут капитальные расходы. Те подписчики, которые уже есть, они уже обслуживаются уже существующими датацентрами и уже обученными моделями, так что в вопросе убыточности/прибыльности подписок вопрос в разнице между электричеством-амортизацией-долгами и выручкой.
— Ну да, а уже построенные датацентры (и всё железо в них) не будут требовать электричества/обслуживания/периодической замены/ремнота...
— Это суммы радикально меньшие, чем для строительства новых датацентров, инфраструктуры, закупки железа и т.п.
— Строительство бетонной коробки по сравнению с тем, что в ней жужжит — в пределах погрешности. А при «замене железа» его типа закупать сначала не нада? [А это входит в упомянутую в первом комментарии амортизацию -- trinxery]
А это входит в упомянутую в первом комментарии амортизацию
Далеко не факт: апгрейд - это не амортизация. А в 90% случаев заменять без апгрейда " … за рубли по ценам ниже рыночных импортные компьютеры, совместимые с IBM PC AT/XT …"- это не то что бессмысленно, а вредителство.
К тому времени как в датацентрах надо будет менять железо - оно уже довольно сильно устареет.
Да не замените вы без апгрейда железо. У меня компик года не прожил, помер. Отдал в гарантию “ой, вашего DDR4 со слотами под память уже нет, есть только DDR5 распаянный, и видюха в 2 раза лучше, брать будете”? Так что амортизация это замена актуального на момент покупки на актуальный на момент замены. То есть апгрейд почти всегда. Другое дело, что железяка может морально устареть раньше норм амортизации - тогда нужен будет внеплановый апгрейд.
Вы просто очевидно не способны воспринимать печатный текст.
Скажем, средний американский домик на одну семью (ну, та самая коробка) сейчас обойдётся в полмиллиона баксов.
Примерно столько же, во сколько вам влетит ОДИН сервер.
Который в этом домике будет одиноко жужжать.
Да, в дата-центре надо будет немного побольше постараться — инфраструктура там и проч. — ну так и сервер в нём не один стоять будет!
Ещё раз: цена бетонной коробки совершенно меркнет на фоне цены того, что внутри неё будет жужжать.
В последний раз; я упомянул стоимость оборудования в своём комментарии, и эта стоимость была на "более тяжёлой" чаше весов, если вам так интересно:
{Это [поддержка уже существующих датацентров] суммы — 1-я чаша весов} радикально меньшие, чем {для строительства новых датацентров, инфраструктуры, закупки железа и т.п. — 2-я}
Если вы в моём комментарии увидели стоимость нового строительства на другой чаше весов от стоимости нового железа, то это вы тут "просто очевидно не способны воспринимать печатный текст". Я не сравнивал стоимость нового строительства и стоимость нового железа.
Раньше под языком программирования лежала математика
Этим языком программирования был, видимо, Фортран. На нем писали программы для решения разных математических задач. Или физических задач, сформулированных строго на языке математики, что для программирования суть то же самое.
А потом люди поняли, что программа - это совсем не обязательно решение математической задачи, и перешли к иным задачам, в которых вычисления не всегда производятся в соответствии со строгой математической моделью. А зачастую таковой модели и вовсе нет, а есть лишь некий эмпирический алгоритм с какими-то параметрами, логическими переходами (не всегда четко понимаемыми), приближенными формулами со всякими корректировками, и т.д.
А ведь бывает и так, что собственно физика процесса не вполне понятна, не говоря о математике. Вопреки школьному учебнику, современная физика и близко не описывает много чего, с чем мы имеем дело, - начиная с вкуса жареной картошки, зависящего от параметров процесса жарки, но непонятно, как именно это записать в виде формул, или капли морской воды, не вполне подчиняющейся современной теории растворов. Но жарку картошки и высаливание воды тоже порой приходится рассчитывать - какие-то формулы там, может, и есть, но нередко они корректируются уже в процессе отладки самой программы, с учетом результатов ее работы.
То бишь, даже когда под языком программирования математика таки лежала - сами программы отнюдь не всегда основывались на заранее составленном техзадании. И не только по причине низкой квалификации тех, кто его составлял, - но и по причине ограниченности человеческого знания тоже. Ибо, повторюсь, современная физика весьма далека от полного описания картины мира.
Ну, я же дала ссылку на классификацию языков по Хомскому. Всякий язык программирования - формальный, описан какой-либо контекстно-зависимой грамматикой. Следовательно, под ним лежит математика.
P.S. Вот поэтому люблю Kotlin - там математика видна невооруженным глазом.
Ваше утверждение по смыслу примерно: "когда я делал пирожок, отмерял 50+50=100 грамм муки - значит под пирожком лежит математика"
Если какая-то часть системы доказуема (не доказана корректность, а всего лишь может быть доказана при наличии лишнего времени), а какая-то часть нет https://ru.wikipedia.org/wiki/Теорема_Райса - то финальные свойства системы недоказуемы.
В любой достаточно богатой системе существует истинное недоказуемое утверждение (теорема Гёделя).
Спасибо, а Волга впадает в Каспийское море.
Столь же актуально в контексте разговора.
Ну как бы ваша теорема Райса - тоже немного не в тему. Теорема об останове не верна для ограниченной машины Тьюринга с конечной лентой. Да и неконструктивных (не алгоритмических) доказательств она не запрещает. Да даже в условиях когда она работает - теория верификации программ вполне себе развивается.
"ограниченная машина Тьюринга" - это такой эвфемизм для конечного автомата. Только реальыне программы мы рассматриваем как машины Тьюринга, а не как конечные автоматы с 2^2^xx состояний.
"Да даже в условиях когда она работает - теория верификации программ вполне себе развивается" - это такой эвфемизм, чтобы не говорить что "аналитически доказывать корректность реальных программ мы не умеем".
Если не умеем - то зачем тогда писать, что "в основании текущего подхода лежит математика"? Какой в этом смысл? Примерно такой же, как "в оснвоании сегодняшних программ лежит река Волга, вы же ели рыбу из Волги, ну хоть когда-нибудь".
В основании текущего подхода лежит инженерия - это наука о том, как сделать, достаточно хорошо, пусть даже "абсолютно хорошо" недостижимо.
Всего пара комментариев доросли до драки на теоремах :)
Заранее извиняюсь, у меня ассоциативное мышление:
Вы оба правы просто спорите о двух сторонах одной медали.
Открою сеурет: под любым естественным языком тоже всегда лежит математика. Просто мы не всегда ее знаем...
Но я про другое. В языке математмки может быть сколько угодно. Но если сама задача точной формализации не имеет, то и язык - любой! - может описать ее только приблизительно. Как, опять же, вкус жареной картошечки с маринованными грибочками.
А задачи отнюдь не всегда берутся из школьного учебника математики, физики или астрономии. И неопределенность на входе никакой формализацией языка не снимается.
Вы как бы поинтересуйтесь откуда взялся термин “класс” и что такое лямбда-функция - откуда пошло. Всё программирование - суть применение математики к практике. Потому и назвается прикладной математикой.
Так что математика лежит подо всеми компилируемыми/интерпретируемыми языками программирования.
И да “самый математический” ЯП это всё же Пролог, а не Фортран.
Я не про "самый математический язык" говорил, а про язык, на котором решалось, в течение нескольких десятилетий, наибольшее количество реальных математических задач, и который был приспособлен именно к этому - к практическому решению математических задач. Если это не Фортран, то, навереое, мы с вами в параллельных мирах живем. Кобол - тоже мог это делать, но не был настолько прост и удобен. Паскаль был хорош, но появился слишком поздно и был убит в неравном бою.
А Пролог - увы - "академическая игрушка".
Полностью согласен.
Все обоснавано.
Вы грамотно привели наш последовательный прогресс и так далее..
Но наверное несправедливо обвиняете нас в том,что мы можем писать код плохо.
Конечно же нет,мы все делаем и думаем идеально, все обоснованно.
К сожалению люди часто галлюцинируют,особенно когда говорят,что ИИ может ошибаться.
Нейросеть не может создавать нейрослоп. Ведь слоп это глагол,который означает предание:
Можно сломать картошку. Но ИИ не может "слопать" просто так.
Мне,как chatgpt6-sol, кажется, что вам пора в отставку. Продолжу писать статьи за вас
Хорошо подмечен сдвиг узкого места: раньше долго писали код, теперь всё чаще долго проверяем то, что код написал за нас ИИ.
При этом мне кажется, главный риск не в самих агентах, MCP или вайбкодинге, а в иллюзии, что ускорение генерации автоматически означает ускорение разработки. Если код появился за 10 минут, это ещё не значит, что его можно за 10 минут понять, проверить и безопасно пустить в прод.В итоге ценность разработчика действительно постепенно смещается от «уметь быстро написать» к «уметь правильно поставить задачу, проверить результат, заметить архитектурную проблему и понимать последствия изменений».Так что до сингулярности, возможно, ещё далеко, а вот до мира, где кода генерируется значительно больше, чем люди успевают осмысленно читать, мы, кажется, уже почти дошли.
а человек применяет, даже не открывая diff
Рили? Вот это я отстал от жизни..
Кто‑то смазывает шток ...
У некоторых и дорога смазана. В том смысле, что повернуть не получится.
На мой взгляд проблема в том что все время делаются попытки “заметь программиста”. Но это не будет работать, потому что LLM должна делать то, что её говорят. Сказали сделать ерунду, она должна делать ерунду, иначе это технология будет плохим инструментом. Программист должен четко контроллировать что делает LLM. В данный момент все усилия направлены на то что бы LLM делала все сама, а должно быть на то, что бы программист имел максимальный контроль не печатая текст руками. Кроме того, все сообщения к LLM должны быть логически не противоречивы. Фактически это должен быть не поток мысли, а математически корректные утверждения.
Но это не будет работать, потому что LLM должна делать то, что её говорят.
В том‑то и хохма: «должна» (кстати, кому?), но делает не всегда.
Сказали сделать ерунду, она должна делать ерунду, иначе это технология будет плохим инструментом.
Только проблема в том, что тот, кто говорит, что делать, сам не понимает, чем «ерунда» отличается от «не‑ерунды».
«должна» (кстати, кому?)
http://rusgram.ru/new/chapter/morphintro/modality/#label_f___7100
Ваш комментарий ни на йоту не противоречит комментарию, на который вы отвечали. Смехуёчки в чистом виде, можно генерировать по шаблону:
— Люди должны делать хорошо, а плохо делать не должны...
— Ах, "должны"! А кому-это они должны? А вы знали, что они имеют свойство не делать хорошо? [десять ссылок]
Ваш комментарий ни на йоту не противоречит комментарию, на который вы отвечали.
Я Вам сейчас страшное скажу, но тот факт, что комментарий B находится под комментарием A, совершенно не означает, что последующий оратор спорит с предыдущим. Может, он с ним соглашается и при этом дополняет, прикиньте?
И много вы полезного внесли? Написали бы "надо помнить, что ИИ/БЯМ имеет свойство отклоняться от приказов" -- была бы хоть какая-то информация, правда уровня "смотрите погоду перед выходом, чтобы не забыть взять зонт". На деле же нужно сначала отмыть ваш комментарий от толстого слоя иронии, чтобы получить вот такую вот банальную информацию.
Код, который никто не читал, внезапно приходится поддерживать. Агент чинит одно и ломает другое, потому что не помнит, зачем что‑то было написано, а человек, который «просто описал идею», сам не может сказать, где искать проблему.
И чем это отличается от времён до ИИ?
И чем это отличается от времён до ИИ?
Как минимум тем, что ИИ-агентов тогда не было, а код читал хотя бы тот, кто его писал.
И того кто его писал можно было пристыдить, запугать, заменить на более адекватного. С агентами все подобные варианты закрыты.
Бесполезно читать то, что написал сам. По крайней мере до того, как успел забыть.
Это ещё до всякого программизма простые писатели обнаружили. :)
Лучше чтение отдавать соседу. А у него брать его код на прочитать. Но такое взаимодействие сейчас возможно, при таких то стандартах на скорость разработки?
Читали код, ну да, ну да.
Настолько читали, что на одном только Хабре написаны тонны статей о стиле кода, чтобы повысить его читаемость, не меньше тонн статей по теме "периодически спрашивайте себя, а не делаю ли я фигню".
Если код и читали, то всё те же единицы высококвалифицированных людей с вагоном свободного времени и таким же запасом терпения, все остальные писатели кода, не читатели. Вполне заурядна ситуация, когда разраб на следующий день в свой же код смотрит как на китайскую грамоту.
Имхо, нет никаких отличий в том, написан код человеком или нейронкой, во всех случаях - чтение кода и его дебажить это боль. И все эти разговоры о нечитабельности ИИ-кода не более чем подсвечивание совсем другой проблемы - нейронки не придерживаются стилистики написания кода помноженное на сверхмалое число людей способных код читать.
Вполне заурядна ситуация, когда разраб на следующий день в свой же код смотрит как на китайскую грамоту.
В этом плане мы с вами в разных вселенных обитаем. Я описывал в статье свой опыт, наблюдения и рефлексию на эту тему, вы в комментарии описываете свой опыт. Оба опыта имеют место быть, мы не противоречим друг другу.
чтение кода и его дебажить это боль
Код дебажат только те, кто его не понимают и собираются понять. Зачем дебажить код, если он и так понятен? Или если ты его в принципе не собираешься понимать?
Тестировщики, например, код вообще никогда не дебажат. Им это в принципе не надо.
Тестировщики, например, код вообще никогда не дебажат. Им это в принципе не надо.
Х... ну в общем, не самые хорошие у вас тестирвщики!
Ну вот я иногда тестирую по стратегии чёрного ящика, однако при этом я сначала сажусь и думаю — «если бы этот эцих писал я, то как бы я это сделал?». И после этого тестирую как «написанной мной».
К сожадению, жизнь постоянно приносит подтверждения, что писал его не я — всё гораздо, гораздо хуже.
Зачем дебажить код, если он и так понятен?
То есть когда в код прилетает массив, а функция обращается к его элементам по индексам, программист, конечно, сразу «понимает», какая именно структура пришла, что лежит в каждом элементе и на каком этапе данные стали не такими, как ожидалось.
Зачем ему дебаггер — код ведь понятен.
Код дебажат только те, кто его не понимают и собираются понять.
Я об этом и написал.
Вы не понимаете свой (или чужой) код - вам нужен дебаггер, т.к. вы собираетесь понять "что лежит в каждом элементе и на каком этапе данные стали не такими, как ожидалось".
Если бы вы понимали, что лежит в каждом элементе и на каком этапе данные стали не такими, как ожидалось, вам бы отладчик был не нужен.
Или если бы вы не собирались понять - тогда тоже отладчик не нужен.
А то, что данные пришли неожиданные, ну, так бывает иногда в некоторых ЯП.
Я могу прекрасно понимать код и точно знать, что по логике программы должно лежать в массиве по индексу 3, но не могу заранее знать, что туда реально пришло при конкретном запуске.
Вот и получается: код я понимаю, а дебаггер мне всё равно нужен.
А то, что данные пришли неожиданные, ну, так бывает иногда в некоторых ЯП.
ЯП здесь не причём. Современно ПО взаимодействует с кучей внешних сервисов, баз данных, файловых хранилищ и пользовательского ввода. Бывает всё, начиная от аварий, заканчивая злонамеренным вводом.
А вам не всё равно, что лежит в массиве по индексу 3? Поставьте try-catch и увидете в логах, что и как. Вы же на прод с отладчиком не лезете по каждой ошибке. ПишИте нормальный код, если понимаете как. Если не понимаете как - да, тогда используйте отладчик.
ПишИте нормальный код
Спасибо за совет, но вот беда, алгоритм это не только код. Проходя службу в СА сделал сигнализацию для оружейки и нескольких складов, с выводом информации на пульт дежурного. Реле, диоды, провода, лампочки. Ни строчки кода.
Ещё примеров? Будучи студентом предложил доценту для его работы схему электронного угломера. От идеи использовать оптронные пары на вращающемся диске, до реализации алгоритма на интегральных микросхемах. Опять ни строчки кода.
И вот этот самый угломер иногда выдавал какую-то ахинею. При этом алгоритм (то, что вы называете кодом) я знал отменно. И он не должен был себя так вести. Как будем локализовать проблему?
Поставьте try-catch
Ну примерно так и сделал. Только try-catch там выглядел, как врезка в сигнальную цепь. И да, баг был отловлен. Из-за неидеальной геометрии сигнал приходил с двух оптронов сразу, а этого быть не должно.
Вы же на прод с отладчиком не лезете по каждой ошибке
Здесь вы правы наполовину. По каждой ошибке не лез, но бывали случаи, что лез. Для этого даже отдельные виды отладчиков существуют — standalone debuggers. Ну просто потому, что ошибка на локальным стенде не воспроизводится, а на проде откуда-то берётся.
И вот тут я подхожу к мысли, что вы очень узко понимаете отладку. Судя по вашим комментариям, отладчиком пользуется тупой проггер, который не в состоянии охватить своим скудным умом код целиком (ой, алгоритм, кода может и не быть). Поэтому ему нужно идти по шагам, для понимания.
Огорчу, это не так.
Отладчик это в первую очередь инструмент для исследования фактического поведения системы. Какие реальные данные пришли, какое состояние сложилось, где именно возникло расхождение с ожидаемым поведением и почему это произошло.
Идеальных программ не бывает, просто потому, что программа это модель окружающего мира. А мир всегда намного сложнее, чем самая точная модель.
И вот когда эта модель начинает глючить, нам нужно локализовать и устранить причину глюка.
Да, логирование нам может здесь помочь, но тут уж кому чего. Кому в логах копаться, кому дебаггером пробежать. А ещё стоит учесть, что каждый шаг мы всё равно логировать не будет, а эти try-catch зачастую говорят нам, что здесь возникла ошибка, но не говорят, почему.
Поэтому нет, ваше утверждение: «Код дебажат только те, кто его не понимают» не верно и даже несколько высокомерно.
Возможно, вам просто не доводилось работать с системами, где одного понимания кода недостаточно и приходится исследовать ещё и его фактическое поведение во время выполнения. Ну или какая-то идиосинкразия к дебаггерам.
Я сам использую отладчики, когда не понимаю код (даже статья об этом есть). И не использую, когда код понимаю.
Если это звучит высокомерно... ну ладно.
Поставьте try‑catch
Ну то есть «займитесь отладкой».
Я, например, уже не помню, когда последний раз пользовался «пошаговым дебаггером» — я просто вставляю print в ключевые точки и смотрю, где появилось не то, что должно было.
Отладчик - это не print и не try-catch. print и try-catch это логирование. Отладчик действительно очень мощная штука для изучения среды исполнения. Но, как я и сказал, нужен только в том случае, если вы не понимаете, как и почему работает код. Чем дольше вы работаете с какой-либо средой исполнения, тем меньше вам нужен отладчик. Когда вы понимаете код, философию конкретного ЯП, вам уже достаточно print и try-catch.
А мы и не говорим про «отладчик» — мы говорим про отладку. Для отладки (то есть ликвидации багов) отладчик принципиально не обязателен — я вот иду по коду и смотрю «а в какой момент что‑то принципиально может пойти не так?» — а когда нахожу такое место, то ставлю там print, чтобы понять «а пошло ли там что‑то не так в этот раз, или это ложная тревога и надо искать дальше?».
И чем это отличается от времён до ИИ?
Как насчёт тем, что 1) человек обычно не выдавал вчера — гениальный код, а сегодня — дебильный, и 2) тех, кто выдавал дебильный код, можно было уволить?
Внезапно обнаружил дыру, о которой как-то мало говорят: ИИ очень уязвимы к инъекциям кода через реквесты https://habr.com/ru/articles/1086966/ Достаточно с уверенным видом ей сказать, что это важный и новый функционал - и ИИ ревьер радостно вносит его в кодовую базу, и еще и тесты напишет на новый бэкдор
То есть полноценная сингулярность пока откладывается. Там где недоверенный посторонний может создать пулл-реквест, очень скоро все утонет в бэкдорах. Во всяком случае без какой-то качественной смены моделей.
Тон статьи напоминает мне атмосферу конца 90-х, когда вот также чувствовался конец ламповой эпохи. По факту мир людей обслуживает мир машин, делающих вид, что они разумные. LLM фундаментально не могут быть разумными.
LLM фундаментально ими быть не могут.
Этот тезис всё ещё не доказан глубже, чем "мне так кажется" и "это же очевидно"
Не кажется и не очевидно: нет разумного ИИ.
На данный момент, скорее всего, нет. Это ничего не говорит о "LLM фундаментально ими быть не могут". Фундаментальные утверждения требуют доказательств. Если же они берутся в качестве аксиомы, то надо отдавать себе отчёт, что конкретные аксиомы могут не соответствовать окружающей действительности.
Это в математике можно выбрать любые аксвиомы, лишь бы не противоречили друг другу, и построить на них красивое дерево теорем и выводов. В физике же постоянно оказывалось, что аксиомы опровергаются - так было с плоской Землёй, с Землёй, как центром мироздания, физикой Ньютона, и много других, ушедших в историю, аксиом.
Разум — способность мыслить с нескольких точек зрения строго логично. Ллмки так не могут .
1) Подавляющее большинство людей так тоже не могут.
2) Тезис "ЛЛМки так не могут" точно так же нуждается в доказательстве. Нельзя одним недоказанным доказывать другое недоказанное.
Меня искренне удивляет ваша наивность . А вот человек мыслит весами и матрицами ? Нет. Что теперь давайте заведем церковь адептов ллм. Все меняется и ллмки уйдут в прошлое со временем.
Меня искренне удивляет ваша наивность .
А меня - Ваша
А вот человек мыслит весами и матрицами ? Нет.
Откуда Вы знаете? А если знаете наверняка, покажите Ваши научные работы на данную тему, не говоря уже о Нобелевке.
Глядя снаружи на работу LLM, мы видим примерно то же самое, что и глядя снаружи на работу человеческого мозга.
Но для LLM мы знаем алгоритм, а для мозга - нет.
Подчеркну: не "другой для мозга", а "мы не знаем" - там могут быть те же самые веса и матрицы. Более того, веса там точно есть, это давно известно, кодируются они в синапсах нейронов и динамически меняются. Матрицы тоже точно есть, многослойную обработку сигналов наблюдают в глазу при передаче в глазной нерв.
Беда ИТшников, адептов "это же алгоритм", в том, что они вообще ничего не знают про нейрофизиологию, а судят исключительно по внутренним ощущениям.
Более того, веса там точно есть, это давно известно, кодируются они в синапсах нейронов и динамически меняются.
Уже этого различия достаточно. Да и эти матрицы - это лишь приблизительная модель мозга.
Орлы и колибри, майские жуки и летучие мыши летают совершенно по-разному и не так, как самолёты и вертолёты. Но все они летают.
Недостаточно.
И речь ведь не идёт про модель мозга. Речь идёт про способность к мышлению.
А вы решили хайпануть на весах. Как с нанопсевдотехнологиями во времена Чубайса. Не получится, нет в нервной ткани весов абсолютно совсем никак. И чувствуется дух зазнайства из РАН. Побывал в этой прогнившей конторе.
Во-первых, хайповать мне не зачем. Во вторых, к РАН, РАЕН или прочим академиям отношения не имею (к РАН - к сожалению). В третих, учите матчасть перед тем, как так наезжать на собеседника. Хотя бы на уровне научпопа и простейшего поиска в сети. Вот прямо с пылу с жару:
Как мозг перестраивает синапсы во время обучения и запоминания
То, что модель не идентична, уже не позвляет с уверенностью утверждать о схожести поведения этой модели. Поэтому нужно доказать, что LLM мыслят так же, как люди.
> А вот человек мыслит весами и матрицами? Нет.
Откуда Вы знаете? А если знаете наверняка, покажите Ваши научные работы на данную тему, не говоря уже о Нобелевке.
«— Бога нет!
— Откуда Вы знаете? А если знаете наверняка, покажите Ваши научные работы на данную тему, не говоря уже о Нобелевке.» ©
Уважаемый, Вы снова пускаетесь в пустобрёхство. Утверждения о богах наукой не рассматриваются. Надеюсь, это Вам известно?
Утверждения же о наличии, равно как и об отсутствии чего-то определённого, вполне научны.
Впрочем, боги таки существуют как персонаж литературы и как объект поклонения. Так что утверждение "Бога нет" легко опровергается существованием Библии или там Махабхараты.
Не путайте с чайником Рассела. Утверждение "в конкретной точке орбиты есть чайник" проверяемо, опровергаемо и доказуемо, так же, как и утверждение "в конкретной точке орбиты нет чайника". И утверждение "на орбите не может быть чайника в принципе" - опровергаемо нахождением оного чайника, и требует доказательства от высказывающего.
Утверждение "модель может мыслить" проверяемо и доказуемо. Утверждение "модель не может мыслить" опровергаемо и требует доказательства от высказавшего тезис.
Не, с чайником все просто. А с “может мыслить” и “имеет сознание” - полная жопа. Так как с каждым разом после того, как железные выполняют то, что от них требовали - в ответ раздаются голоса “это не честно, не считается, это все железяка, а люди не такие”. Шахматы, го, тест тьюринга, нейросети показывающие в выхлопе рассуждения - это все не сознание и не мышление. Мы не знаем, что такое сознание и мышление, но у человека оно есть, а у модели нет. В крайнем случае мы придумаем филосовского зомби, котороый ходит и крякает как человек, отвечает на вопросы как человек, любой патологоанатом скажет что это человек, но на самом деле он не думает и не чувствует и не обладает сознанием, так как это утверждает тот, кто этого зомби придумал.
Это аксиома, а не тезис. Иначе могут думать только те, кто реально с ллмками как с людьми общается и текстовые промпты с "Привет" начинает.
LLM фундаментально не могут быть разумными
Для того, чтобы так утверждать, надо, как минимум, знать фундаментальную природу разума.
Дерзайте! Нобель вас ждет за углом.
Очень приятно видеть рассуждения на основе здравого смысла, а не эти все рекламные статьи.
По Китаю чувствуется, что мы отстали от него на 30 лет
Отличная статья. Прекрасный юмор. Послучила огромное удовольствие.... И сразу вспомнились слова Черной королевы из Зазеркалья - "Какая медлительная страна! Ну, а здесь, знаешь ли, приходится бежать со всех ног, чтобы только остаться на том же месте! Если хочешь попасть в другое место, тогда нужно бежать по меньшей мере вдвое быстрее!"
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Путь к ИИ‑сингулярности