Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 42
мне кажется это самоуспокоение :( И вскором времени разработчикам придется стать менеджерами AI.
Кто сечёт фишку, уже стал.
Не самоуспокоение. Я разрабатываю среду разработки плк, графическую часть и прочее. Использую ИИ. Хорошо вижу, ии может подсказывать и советовать, еслии ее - ткнуть носом в упор задачи которую ты уже собрал. Иначе - ии только усредняет то чем ее учили. То есть - стандартные задачи/подходы - скажет как надо. И программисты делающие обычные вещи - имеют проблемы. Не стандартные задачи или решения- только если человек ПЕРВЫЙ это увидит, решит, и ткнет нейросеть туда носом. Но, ничего нового предсказательная модель не скажет. У человека асоциативное мыление гораздо шире чем у ИИ
Насчет того, может ли модель создать что-то принципиально новое это вопрос открытый. Но в том, что AI "в моменте" владеет большей базой информации, алгоритмов и подходов, чем среднестатистический разработчик, у меня сомнений нет.
За последний год активного применения я всё больше убеждаюсь в эффективности инструментов. Вероятно, такой полярный взгляд на пользу ИИ сильно зависит от специфики проекта, используемых моделей и, конечно, качества промптов.
База и алгоритмы могут совершенно ничего не решать. Я уже как то упоминал в комментах под ИИ - в своей среде разработки, LD диаграммы, я взял за основу - печатную машинку. ИИ предлагал - графы и прочее. У меня - быстрее, меньше памяти, нет рекурсий. Последовательный алгоритм который хорошо ложится на команды процессору. Можно бесконечно вставлять ветки друг в друга - ничего не ломается. Знает ли ИИ что такое печатная машинка? - знает. Знает что такое LD (язык программирования) лестницы? знает. Связал ли он одно из другим? - нет. А я - да. ИИ не хватит ни времени ни оперативной памяти проводить аналогии между всеми физическими процессами и приборами в мире. А человек - может, и за разумное время. Не знаю можно ли тут ссылки выкладывать, не вижу как в коммент вставлять фото. - вот проект: https://zoshytlogic.github.io/ Пока ИИ будет основан на "предсказании" он не обойдет человека, потому что такой ИИ может проигнорировать хороший но редкий метод, даже если ему такой попадался, в пользу - массовости. Все побежали - в графы, ну и он, ИИ туда побежал.
Тут принципиальное отличие человека от современных версий ИИ (прежде всего имеется ввиду нейросетевой подход его реализации) в том, что человек мыслит понятийно - оперирует объектами, сопоставляет имеющиеся факты и на основе своего опыта и знаний логически строит заключение. Термин "обучение" для современных LLM моделей, в корректном его понимании, НЕ подходит, так как при обучении присутствует когнитивная составляющая которая отсутствует, если говорить правильно, при специфической настройке модели ИИ на больших массивах известных данных.
Большинству придётся стать курьерами и грузчиками, а вот оставшаяся малая часть может и будет менеджерами ии
Дак тут прямо написано нужен "Генератор идеи". на самом деле, по моему опыту АИ с этим справляется так себе. Т.е. как исполнитель - идеально, оно будет развивать твою идею до последнего вздоха, будет тащить твои догмы из контекста в контекст.
Но она не скажет мол стой, тут у нас развилка.
Ну точнее возможно скажет, но опять-таки по опыту, у меня на 15 версии было 3 ключевых развилки, при чем все в разные стороны. :D
Все 3 раза это были мои ключевые решения. Ни разу нейронка не сказала: - "ей, стой, мы свернули не туда" . Для нее оператор царь и Бог! Сказал надо, значит надо!
Возможно как-то это промптами правится, но мне пока не удалось .
Т.е. по крайней мере по дефолту это не сработает, нужно ее заставить мыслить критически.
Ключевое слово здесь - «пока»… как долго это пока будет длиться никто не знает. Возможно еще год, может пару месяцев, а возможно и завтра выкатят GPT 7.0 который будет в тысячу раз продвинутее чем 5.2
Главная тенденция очевидна - незаменимых людей скоро не будет…
AI начнет генерировать идею и попутно галлюцинировать, а реализатор веря во все это воплотит в жизнь левитатор...
Текущий ИИ (и глядя на снижение скорости развития - и перспективный без радикальных инноваций) - тупо бесполезен при решении инженерных задач (там где вам нужен точный ответ "сколько вешать в граммах").
ИИ прекрасен на стадии поиска идеи решения - за счет большого количества переработанных источников и связей между ними.
ИИ неплох для воспроизведения типовых элементов решения, о которых вы его попросите (и которые много раз в одном и том же виде встречались в обучающих данных)
ИИ хорошо подходит для любой задачи, где нужно преобразовать один текст - в другой.
ИИ совершенно не может закрыть пропасть между абстрактным знанием "есть идея как это решить" и его воплощением в виде конкретной инженерной разработки с выбором элементов, проведением расчетов, и т.д.
Причина банальная - у ИИ нет картины мира. Он мыслит только вероятными продолжениями текстов. С точки зрения практики - он похож на ребенка-трехлетку с карандашом, который калякает на бумажке, и при этом говорит: "вот это - киса, вот у кисы носик, а вот у кисы ушки...". Он воспроизводит правильный текст (так говорил взрослый, когда рисовал картинку кошки), но только у взрослого - на картинке возникает кошка, а у неразумного дитяти - безумное нагромождение кривулек. Так же и ИИ: он вам с удовольствием расскажет как правильно проектировать и рассчитывать схему - и тут же воткнет фильтрующий конденсатор последовательтно нагрузке, или поставит диод не в ту сторону. Для него это - мелкая и несущественная неточность...
Суть в том, что КАК (та или иная) модель ИИ принимает (находит) решение (ответ). Когда человек (конечно если на голову здоровый) думает, то он не оперирует словами, а логически мыслит, сопоставляя факты, делает заключение и принимает решение используя свои знания для конкретной ситуации. Поэтому принципиально важно понимать механизм принятия (нахождения) решения и его логического обоснования моделью ИИ перед тем как её использовать при решении какой-то серьезной прикладной задачи.
То, что вы не умеете пользоваться статистическими инструментами(частным случаем которых является LLM) говорит не об их бессполености, а только об отсутствии нужных у вас навыков и знаний(и вероятно о не желании эти навыки приобретать). Как ваш пример с конденсатором - вместо того, чтобы сделать верифицирующий mcp, вы просто заявляете "ии не детерминирован, а значит не нужен".
Э-э, какой еще "верифицирующий mcp" ?! Установка конденсатора и последовательно, и параллельно другим компонентам - совершенно валидные кейсы (зависят от того, какой эффект вы хотите достигнуть!). Ваш MCP должен запускать симуляцию электрической цепи (что на самом деле отдельная задача - ибо нужно понять, хотите ли вы симуляцию в частотной области, или временной, интересует ли вас установившиеся значения или переходной процесс, и т.д.). Опять же в этом случае LLM должна решить, в каких узлах она хочет видеть значения токов/напряжений, и т.д.
И вообще - когда нам обещали искусственный интеллект, то вообще-то идея была в том, что он будет за человека думать! И мой пост ровно о том, что оно не думает достаточно - для того, чтобы его применять в инженерных науках. Ваша идея использовать недетерминированную систему для постепенного выращивания решения - заслуживает внимания, но объясните - зачем тут LLM ?! Генетические алгоритмы и отжиг известны десятки лет, они в принципе работают, и не требуют строительства новых дата-центров и ядерных электростанций поблизости. Использование же LLM в качестве мутатора решения - выглядит, э-э, несколько экстравагантно!
Ваш MCP должен запускать симуляцию электрической цепи
Не мой, а ваш. Вы не можете как инженер сделать такую программу? Ну так это не проблема нейросетей.
И вообще - когда нам обещали искусственный интеллект, то вообще-то идея была в том, что он будет за человека думать!
Кто вам это обещал? Илон Маск в твиттере или какой-то другой такого уже уровня авторитетный источник?
Ваша идея использовать недетерминированную систему для постепенного выращивания решения - заслуживает внимания, но объясните - зачем тут LLM
При том, что LLM это инструмент, который возволяет решать очень большой класс задач, связаных с генераций решения на основе входного контекста, при этом конечный результат с какой-то вероятностью может быть не верен. Область применения LLM на основе трансформеров на порядок больше и значительно точнее, чем у генетических алгоритмов, линейных регрессий и других вычислительных методов. Спрашивать зачем нужны LLM когда есть генетические алгоритмы это как спросить зачем нужен автомобиль, когда есть лошадь.
Инженерный подход здесь это найти этому новому инструменту в своей работе такое применение, при котором время на верификацию результа будет значительно меньше времени на генерацию и значительно меньше чем время создания результата вручную. Писать MCP(да да, самому), делать на их снове скиллы, на наборе скилов агенты, из агентов пайплайны, декомпозировать задачи в пайплане чтобы их можно было быстро верифицировать, подбирать оптимальные модели под разные виды задач, настраивать трейсинг, аудит, оптимизировать стоимость и т.д. Большая инженерная работа, направленая на увеличение производительности труда и требующая знаний, навыков, времени и сил.
Ваш подход это "я вбил в чат хотелку, он мне выдал фигню в ответ, это ерунда какая-то, разбираться я в этом не хочу, мне пообещали что это будет волшебная палочка, которая за меня работать станет, а я только зарплату получать, меня обманули!".
"Вы даете советы космического масштаба - и космической же глупости!" (С) Филипп Филиппович, "Собачье сердце". Разумеется, симуляторы схем существуют. Однако, и в них существует эквивалент проблемы остановки. Прежде чем запускать симуляцию - надо решить, ради чего мы ее запускаем - и до какого момента смотрим. Как это обычно бывает - чтобы задать правильный вопрос, надо знать больше половины ответа. А ЛЛМ - его не знает.
Собственно, я согласен с тем что ИИ - это инструмент, и его надо применять в пределах существующих технологических ограничений. Вы можете с успехом применить ИИ на этапе исследования проблемы и определения подходов к решению. Благо он заглотил тысячи учебников и статей - и может подсказать вариант, о котором вы просто не слышали. Вы можете спросить ИИ о типовых схемах включения чего-нибудь - и он вам их с достаточно высокой вероятностью воспроизведет. В этом смысле я не отрицаю, что ИИ является полезным (!) для инженера в его деятельности. Я говорю что сам ИИ инженерией заниматься не может. Тексты генерировать по промпту - это да, тут вопросов нет. Проблема в том, что инженерия не сводится к текстам - вам в конечном счете надо что-то собрать или спаять, чтобы оно потом заработало...
Ваша идея, что я должен (???) из принципиально ненадежного ядра собирать целую систему с подпорками, чтобы она может быть, когда-нибудь, за много итераций, сжигая токены и электроэнергию дала нужный ответ - мне непонятна. Пока мне не дадут ИИ, который будет долговременно сохранять и отражать опыт взаимодействия с окружающим миром (собственно это то, как люди переходят от абстрактного знания к практическим навыкам) - я не вижу большого смысла с ним возиться... Я-то уже имею нужные знания, и конденсатор включаю так, как нужно для решения задачи!
Опять же - я говорю только об инженерных задачах. Если вы открываете бизнес по посылке кирпичей вместо айфонов, то ИИ в качестве оператора поддержки с системным промптом: "Вежливо но твердо посылай пользователя нахрен, ни в коем случае не возвращай деньги." - отличное (хотя и не вполне законное) решение!
Он мыслит только вероятными продолжениями текстов.
Вероятность появления токена при генерации это же совсем не то же самое, что вероятность его появления в исходных текстах, иначе это были бы просто малополезные для генерации N-граммы. Где-то кто-то для упрощения назвал нейросети продвинутой т9 и все повторяют. При обучении из частот извлекается уже семантика, признаки и сохраняется в весах. Вероятность следующего токена при генерации строится на основании семантики и контекста, поэтому генерируются тексты, которых никогда не существовало и это не просто механическая склейка виденных фрагментов. Вероятность генерации токена это то, насколько модель считает данное продолжение подходящим, учитывая, в том числе, и извлеченную из текстов семантику.
Другой момент. Вот кодогенерация сильно улучшилась после появления агентских систем. Похожее встроено уже и в ChatGPT, когда основные факты тут же проверяются поиском, генерируется код для анализа изображений или подсчёта символов. Так что мешает применять те же подходы и в инженерных задачах?
Я не спорю с тем, что LLM прекрасны, когда нужно преобразовать один текст в другой (возможно, со сжатием или разжатием размера, замены эмоций или стиля, и т.д.). Проблема применения этого добра в инженерии емко сформулирована в народной пословице: "Языком п...ть - не мешки ворочать!". LLM пишет прекрасные тексты о том, как правильно делать блок питания. Она даже пишет прекрасный план, как она сейчас его сделает. И даже пишет что сделала. Но ничего общего с реальной схемой результат, к сожалению, не имеет. И даже когда оно пытается нарисовать схему/диаграмму того что оно спроектировало - оно не бъется с ее же собственным текстом. Это прямо один-в-один поведение студента который заглотил в себя учебник электротехники перед экзаменом: терминология усвоена, правильный порядок слов в основном - воспроизводится, но стоит только посадить решать реальную задачу - плывет... :-(
Все сложнее и неприятнее. На самом деле никто не знает где AI сильнее или слабее. Известно только одно - нас корпорации реально тормозят в комуникации с AI. Дают маленькое окно контекста, делают задержки, ограничивают трафик, задирают цены и иногда просто отказывают в обслуживании по причине типа большой нагрузки на AI.
А так AI и идеи оригинальные предложит, и самые специфичные проблемы в прошивке решит на самом низком уровне.
С электро-механическими системами мне AI запросто решает задачи по выбору и оптимизации электормеханики. Легко расчитывает соленоидные приводы, на шаговых движках, или на BLDC. Проверено практикой - силовой линейный привод на шаговом движке он мне расчитал прям идеально. Практически с фотографии с алика с таблицами режимов! А потом написал драйвер для блока управления с того же алика. Не скажу что сразу без ошибок, на за день легко.
И какой там еще PID? Мне Claude Opus сразу сказал - твоя проблема в шуме и недостаточной скорости обратной связи, и написал мне нелинейный фильтр Калмана на 4! канала, тот самый sensor fusion . Я всегда думал что такие фильтры микроконтроллер не потянет. Нет, Claude Opus написал мне фильтр сразу практически без ошибок! И он сразу заработал на страшенной механике с люфтами и неизвестной нагрузкой! Это ли не чудо?
Ошибка автора статьи в том что он решил что для его процесса нужно три человека. Но люди реально слабое звено при общении с AI, они тормозят в коммуникациях между собой. От этого падает на порядок эффективность AI. Это помимо того что нам дают пользоваться лиш тенью настоящего AI
Нелинейный фильтр Калмана (EKF, UKF), это примерно 100 строчек кода. Я, наверное, 20 реализаций на гитхабе видел. Вы пишите про люфты и неизвестную механику, что как бы сразу намекает на зашумленую систему. Если Клод помог, это замечательно, мне тоже помогает игогда. Но это пример задачи, давно решенной. Я не знаю деталей вашей системы, но у меня он с линейным фильтром не всегда справляется и часто отвергает использование EKF, когда очевидно, что шум не гауссов. А это, вроде передовая модель и большой контекст там не нужен
Прикол в том что фильтр Калмана это не КИХ какой-нибудь , у него нет формулы.
Это конструкция матриц, выливающаяся при раскрытии в совершенно разные наборы формул.
Поэтому говорить про 100 строк это так себе аргумент, подозрительный я бы сказал.
Обычные фильтры Claude Sonnet вообще как орехи щелкает, абсолютно безошибочно (ну несколько я проверял)
Там еще сплайны я генерил и S-кривые для механики. Тоже идеально. Еще и в моих страрых сорсах ошибки с кривыми находил и исправлял.
Так что там у вас с нерешенными задачами? Подкинете?
В смысле, нет формулы? Формула как раз есть, что у линейного, что у не линейного, просто имплементация может быть разная. Я с использованием eigen писал, там всесте с innovation gate примерно 100 строчек и вышло. В обвязке фильтра там чуть больше логики. Что касается нерешеных задач, то сложность в подборе ковариаций и адаптивном подборе их при работе фильтра. Модель каждый раз переписывала все, вносила регрессию, хотя я просил так не делать. А задача, трекинг объекта в 3Д, стейт - координаты и скорости, наблюдения - координаты
Нет формулы, посмотрите внимательнее. Есть матрицы.
Матрица - не формула. Или покажите мне эту формулу.
Sensor Fusion - вообще магия, и какие сенсоры в этот fusion включать агенты отлично понимают в отличие от людей.
Я решал руками ту же задачу с 3D и траекторией. И маджвика имплементировал тоже.
И несмотря что тут кто-то что-то выкладывал, Claude решает это лучше.
И идите мне скажите, что задача подбора сенсоров для fusion решена.
А на локальных моделях не пробовали щелкать фильтры?
Готовы без электроэнергии и воды посидеть в имя прогресса?
Когда "зависните" на AI, то без него не сможете обойтись и постепенно атрофируете свою способность мыслить и принимать решения. Вдобавок этот сервис может в любой момент быть запросто отключен (АУ АУ ... WatsApp, Youtube, где вы). О чем пишете, то сейчас подобных текстов от пропагандистов этого самого AI целое море. Конкретный пример детально со скринами по шагам "в студию", а потом и потолкуем.
2-3 года уже говорят об этом на Западе, в России что то начало до некоторых доходить, молодцы
Если долго кричать, что ИИ не справится, можно однажды заметить, что кричишь из окна пенсионного фонда.
Суть в том, что КАК (та или иная) модель ИИ принимает (находит) решение (ответ). Когда человек (конечно если на голову здоровый) думает, то он не оперирует словами, а логически мыслит, сопоставляя факты, делает заключение и принимает решение используя свои знания для конкретной ситуации. Поэтому принципиально важно понимать механизм принятия (нахождения) решения и его логического обоснования моделью ИИ перед тем как её использовать при решении какой-то серьезной прикладной задачи.
Вот еще интересно на чем gpt-oss:120b локально завелась и как она реально по качеству пишет код для ембед?
Ну как не заменят? Уже заменяют и есть кейсы больших корпораций. В Spotify в последнее время ни строчки кода программисты не написали. Они только проверяют. Cloud все пишет и правит за них.
Но проверяют же! А если человек ни строчки кода в своей жизни не написал, то как он может проверить чей бы то нибыло код? Так что получается что человек программист остается, исчезают только тупые кодеры. А современная реальльность позволяет используя LLM намного быстрее стать программистом, перепрыгнув этап кодера. Но это доступно только тому кто реально хочет быть программистом. Я кстати про это пишу сейчас стаейку.
В смысле ? По плану было фот сократить.
Контролер на машиностроительном производстве проверяет качество изготовленной детали, место и функции которой в конечном изделии спроектировал конструктор, написал технологию изготовления технолог, а изготовил на оборудовании рабочий. Абсолютно те же этапы и при разработке сложного ПО. Поэтому, если вы будете постоянно выполнять только функцию контролёра (т.е. зависните на ИИ), то постепенно атрофируете свою способность мыслить и принимать правильные решения и без этого самого ИИ не сможете ничего сделать. Одним словом - разучились.
Они верстальщиков заменить не могут, о чем речь вообще?
Контролер на машиностроительном производстве проверяет качество изготовленной детали, место и функции которой в конечном изделии спроектировал конструктор, написал технологию изготовления технолог, а изготовил на оборудовании рабочий. Абсолютно те же этапы и при разработке сложного ПО. Поэтому, если вы будете постоянно выполнять только функцию контролёра (т.е. зависните на ИИ), то постепенно атрофируете свою способность мыслить и принимать правильные решения и без этого самого ИИ не сможете ничего сделать сами. Одним словом - разучились.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Нейросети пока не заменят ни идею, ни программиста‑интегратора в сложных электромеханических проектах