Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 33
Пока вы проходите стадию отрицания, ИИ уже заменяет специалистов. В начале прошлого года был фальстарт, когда несколько крупных компаний попытались агрессивно заменить кожаных на кремниевых, в результате пожалели. Но вторая половина прошлого года прям очень не в пользу wetware.
Фундаментально человека можно точно так же втиснуть в диаграммы и схемы, которыми вы критиковали ИИ. Человек точно так же учится на той базе знаний, что дают в школе, в ВУЗе, что найдет в интернете. Точно так же невероятно что он научился на одной базе и раз - говорит что-то что противоречит базе, на которой обучился. "Если теория противоречит фактам, то тем хуже для фактов" это не для ИИ придумали.
Так у автора не стадия отрицания, а принятие факта, что нейросеть это инструмент, который надо использовать в комбинации.
Что в целом и происходит, ИИ не заменит всех разработчиков, но сократить потребность с 10 до 1 вполне может.
Давайте без новояза. Сократит потребность с 10 до 1 это "заменит 9 разработчиков из 10".
Хорошо, заменит 9 из 10, или 1 из 10. К сожалению, мы этого не знаем.
А вообще я тут изучил профиль автора и его ресурсы, там у него вообще идея больше похожая на лоукод, только в топорном исполнении.
Я совсем не против, чтобы кто-то сделал всё красиво :))
Действительно в каком-то смысле это лоукод, но не только. А насчёт топорного исполнения ... , так важна демонстрация идеи, а остальное, как говорится, поправимо :))
Ну дело в том, что с лоукодом я работаю давно и видел решения гораздо лучше сделанные, в общем-то всё на слуху, до бума ИИ 23-го года, про них часто писали.
Ваша технология предполагает построение экспертной системы, но в таких системах ведь чем дальше, тем сложнее. Я ЛИМС занимаюсь, знаю о чем говорю.
Сейчас гораздо актуальнее создать какую-то лоукод систему с прикрученной нейросетью. С одной стороны нейросеть позволит быстро добавлять новые блоки системы, работающие алгоритмически, с другой стороны, в системе будет пополняемая база знаний, которая будет использоваться нейросетью для генерации решений.
Это не создание экспертной системы (ЭС), а проектирование нейро-символьной системы, где когнитивно-символьные системы (КСС) являются ядром, а LLM выступают в роли "глаз" (интерпретаторов лидаров, текста и датчиков) и "мышц". Такое разделение труда сейчас становится мейнстримом в серьезных разработках. Важно понимать отличия:
КСС - это не ЭС. Классические экспертные системы 80-х на жёстких правилах "если-то" плохо масштабировались. Современные когнитивные архитектуры - это динамические системы управления знаниями и планирования. В нейро-символьном подходе именно КСС обеспечивает логическую целостность и соблюдение протоколов, чего нейросеть сделать не может в силу своей вероятностной природы;
LLM - это периферия. Использовать нейросеть как "базу знаний" (как вы предлагаете) - рискованно, так как она не владеет логическим выводом, а лишь предсказывает токены. В правильной архитектуре база знаний и логика лежат в КСС, а LLM лишь переводит неструктурированный ввод в символы для ядра и генерирует понятные ответы на выходе и под вниманием отдельного КСС прувера;
ЭС почти "ушли в прошлое". Если кто-то и делает сегодня классические ЭС, то разве что для игр, где не нужна мощь и точность КСС, а LLM просто сожрет все ресурсы, необходимые для рендеринга. Из "классических" систем, по сегодняшний день, активно используется DXplain в медицине и то благодаря колоссальной базе клинических данных, накопленной за десятилетия.
Спасибо за комментарий. Лучше не скажешь. :-)
LLM - это периферия. Использовать нейросеть как "базу знаний" (как вы предлагаете) - рискованно, так как она не владеет логическим выводом, а лишь предсказывает токены.
Я такого не предлагал.
я написал, что в системе должна быть база знаний, которая используется нейросетью.
Я планирую опубликовать серию статей. Возможно, тогда несколько прояснится идея. Место ИИ точно найдётся!
Полностью согласен. Именно это и хотел, в первую очередь, донести до аудитории.
Нисколько я не критикую ИИ. Сам успешно пользуюсь и весьма доволен. Хотел только провести грань между вероятностными моделями и моделями построенными на логическом выводе и точных формулировках.
Человек точно так же учится на той базе знаний, что дают в школе, в ВУЗе, что найдет в интернете. Точно так же невероятно что он научился на одной базе и раз - говорит что-то что противоречит базе, на которой обучился.
Если бы это было так, прогресс был бы невозможен. В старинные времена, кстати, прогресс специально и удерживали, сжигая несогласных с базой на костре.
Точнее говоря, тут смотря какой человек. Большинство людей действительно неспособны к продуктивному мышлению, но, с другой стороны, мы их любим не только за это.
А то, что вы говорите, верно до уровня студента-хорошиста. Уже чтобы защитить диплом на пятёрку в хорошем вузе, надо придумать что-то не вытекающее из обучающей выборки.
Я не прохожу стадию отрицания ИИ. Но всему есть своё применение. Проанализировать текст в силу своей эрудиции ИИ может бесподобно, а вот с расчетом даже простой инженерной конструкции не справится. Это не его стихия и строить дом топором, даже очень и очень дорогим и модным, думаю не стоит :))
Собственно, агенты этим и занимаются иногда — формализуют задачу, загоняют в детерминированный инструмент, получают выход и причёсывают его.
Агенты это ...?
Агенты это системы которые итеративно выполняют действия чтобы прийти к результату, сами выбирая какие инструменты вызвать и какие данные запросить. В отличие от простого запроса к LLM, агент может сделать несколько шагов: сформулировать подзадачу, вызвать API или базу данных, посмотреть на результат, решить что делать дальше, и так до достижения цели или лимита итераций.
По сути это LLM в цикле с доступом к инструментам и возможностью планировать.
Есть только один вопрос: откуда агент берёт информацию, чтобы решить что делать дальше? Если это информация, которую агент сам сгенерировал, исходя из своей же вероятностной модели, то это не вариант для инженерных решений. Для финансовых прогнозов - возможно, хотя ...
Агент берёт информацию не из своих "галлюцинаций", а из внешних источников: API, баз данных, файлов, результатов вычислений. Он не придумывает данные - он их запрашивает, получает детерминированный ответ от инструмента, и уже на основе этого решает следующий шаг.
Например: агент получает задачу "найди ошибку в коде". Он запускает тесты (реальный результат), видит где упало, читает этот файл (реальные данные), предлагает фикс, снова запускает тесты. LLM здесь - это "мозг", который интерпретирует и планирует, но факты приходят извне.
Для инженерных задач это работает именно потому, что агент не выдумывает - он оркестрирует вызовы к детерминированным системам.
Ваша модель не выдерживает даже простой логической проверки. Возьмите на рынке труда 10 человек, которые декларируют себя как те самые специалисты из вашего заголовка. Дайте каждому из них нетривиальную задачу. Сравните их ответы, а потом расскажите нам про вероятностную модель ИИ. Поиск специалиста - вероятностная модель, сам специалист - вероятностная модель, которая может выдавать разный результат даже в зависимости от времени суток.
Позволю не согласиться. И не о специалистах речь. Есть знания, и хранилища этих знаний учебники, инструкции, методики и т.д. Такие знания при правильной формализации будут обеспечивать однозначный и воспроизводимый результат. А те 10 человек, о которых Вы говорите, извините за грубое выражение просто "недоучки", 9 из 10 которых окажутся не у дел. :))
При "правильной формализации" у вас специалисты являются прямым объектом исследования, обозначенном непосредственно в заголовке статьи. И фраза "не о специалистах речь" говорит о попытке подмены исходной задачи. Какой логикой или инженерной практикой вы руководствовались в данном случае или сработал человеческий фактор?)
Хотите поговорить о знаниях и учебниках? Давайте. С точки зрения логики, знания и их скрижали не имеют никакого смысла, если не будут трансформированы в действия, вооруженные этими знаниями. А знаете как в быту называют исполнителей таких действий? Специалисты. И мы опять возвращаемся на круги своя))
И вы пытаетесь сказать, что любой человек, вне зависимости от бэкграунда, включая предыдущие знания, опыт и т.п., прочитав некий набор литературы (к нему есть отдельный вопрос), выполнит одну и ту же задачу совершенно одинаково? И на это не повлияет ни опыт участия в других проектах, ни время дня, ни настроение? Вы вообще понимаете, как формируется подобная литература? Темпоральность знаний, как они эволюционируют, творческая составляющая и т.п.?
Вы так частно говорите о "формальности", но формально "проблема разрешения неразрешима" и над доказательством этого трудились лучшие умы вроде Гёделя, Тарского, Тьюринга, Чёрча и других. И сильной стороной человека была именно вероятностная модель, которую называли творчеством. Хотя, в вашей системе все эти мужи просто читали неправильные книги, но подождите... они как раз пошатнули основы математики и других очень формальных и очень логичных дисциплин, заставив переосмыслить и переписать многие книги. И по сей день идёт битва между ZFC и HoTT как фундамента, казалось бы, самой точной науки.
Даже если вы формализуете львиную долю инженерного труда, значит она может быть изложена на формальных языках, включая языки программирования, что уничтожит человека-инженера как актора в целом. Как дальше вы будете действовать в вашей системе?
Парадокс в том, что стандартизация лучших инженерных стандартов нужна и важна. У нас катострофически не хватает хорошей литературы. Я сам работаю над таковой. Но то, как вы это преподносите вызывает много вопросов и мне кажется противоречащим инженерной логике в своей базе.
Все процессы и модели вероятностные. Но вероятность найти инженера для решения инженерной задачи практически единица, а ИИ - практически ноль.
Нейросети всего лишь эффективный инструмент ответов на вопросы
LLM (large language models) это всего лишь эффективный инструмент ответов на вопросы.
нейросети не заменят прикладных специалистов
Нейросети с реализацией LLM не заменят, нейросети с реализацией AGI заменят.
При разработке среды программировпния для ПЛК, языка LD. Нейросеть указывала, что логику веток и безконечных вложений, надо решать с рекурсиями и графами. Я провел аналогии, сделал , взяв за алгоритм - печатную машинку 200 летней давности.
Нейросеть так далеко заходить не может
Это классическая иллюстрация ситуации, когда ИИ оказывается умнее пользователя. Математика графов это идеальный инструмент для решения описанной задачи (неожиданно ветвление и есть граф). Но квалификации пользователя не хватило понять предложенное и был рожден очередной велосипед.
Вот. Просто тут надо быть изобретательным. Никаких графов и рекурсий. Размещение элементов за один проход. Не буду рекламировать ресурс где я об этом расказываю, наверное на хабре это удалят. Но нейросеть мне проиграла в этой задаче.
Я боюсь что с предоставленным контекстом не смогу понять ни проблему, ни корректность предложенного решения. Я даже не понимаю как читать петли на диаграмме. Это параллельное выполнение или goto back?
Рекурсии, и графы, трудозатратный процесс к тому же склонный к ошибкам при переводе в последовательные команды для MCU. Именно по этой причине я заморочился, придумал велосипед которого еще не было и сделал решение которое 100% корректно ложится в последовательную логику, что бы там пользователь не нарисовал в бесконечных вложениях. Я только о том, что ИИ не хватит ни памяти ни скорости перебирать все процессы и устройства в истории, чтоб провести аналогии, и решить задачу по новому. А человек, мозг которого потребляет 20 Ватт - может. Инженерная интуиция, творчество.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Почему нейросети не заменят прикладных специалистов: простая логика против вероятностных подходов