Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 19
Теорема Геделя вообще ставит крест на возможности полностью внутренне непротиворечивой системы
Не совсем. Противоречивость это следствие набора операций, который определен в формальной системе. Теоремы Гёделя касаются лишь достаточно продвинутых систем, в роде элементарной алгебры, где умножение коммутативно и может быть применено к двум неизвестным. Математика не может в полной мере описать сама себя и от того страдает. Но у простых и тупых все хорошо - им подобные трюки в принципе неведомы.
Причём, проблема эта сама по себе тоже чисто формальная, как и вся математика. То есть она не относится к вопросам субъективной интерпретации, качества, смысла жизни и всего такого - если вы вдруг почувствовали легкое непонимание почему "вода" это вода, то теорема Геделя здесь не при чем.
Логика огромного класса реально полезных и дорогущих в создании программ не настолько продвинута. Часто это всего лишь пресловутое перекладываение джейсонов из одного места в другое. Это код, который понимают даже макаки. В нем неоткуда браться проблемам уровня тех, о которых говорил Гедель. Фактически это лайфхак, которым индустрия пользуется чуть-ли не с самого рождения, чтобы не рухнуть под пластами сложности.
Вы совершенно правы. Теорема Геделя говорит о "одстаточно богатых" системах. Так же как и то, что она не относится к субъективной интерпретации и т.д. Все так. Я привел ее в пример для того что бы показать, что формализмов недостаточно для создания систем сильного ИИ. И что, возможно, решение еще вперди. Но сегодня его нет. А значит и говорить о том, что LLM может породить из себя сильный ИИ - не более чем рекламный трюк.
Наукоподобный бред
ммм, в чем же конкретно? Собствеено, прежде всего я хотел показать, что есть еще одна сторона дискурса - философская. И что сегодня в IT мире она сильно недооценена.
В LLM философия не может объяснить ничего, она плетётся далеко позади и пытается что-то объяснить задним числом.
Все достижения экспериментальные. База теоретическая очень мала
Достижения во многом экспериментальные. Это верно. Но объяснить она может. И как раз философия и дает понимание того, где границы эффективности llm. Т.е. тут все нормально с философией. Ровно для этого я и затеял этот цикл небольших статей. Показать, что философия имеет эту самую предсказательную силу.
Более того, сами же философы ушли со сцены. Добровольно, запершись в своих аудиториях. И Ваш комментарии как раз и подтверждает это. Моя цель вытащить философию из Башни из слоновой кости. Я за синергию наук. И философских и инженерных. Необходимо обогащать обе научные ветви достижениями друг друга.
Кроме того, я не собираюсь говорить, что llm ерунда. Нет конечно. Это отличный инструмент, но как и любой инструмент у него есть свой набор классов задач, где он прекрасен.
Более того, период экспериментов - это естественный процесс. О чем опять же говорит философия. Например, через идеи Куна. :)
Более того, я ожидал такие комментарии. Но все равно решил рискнуть :)
Если LLM не стохастический попугай, а нечто большее, тогда никакой специальный язык не нужен, а будет достаточно команды: "сделай нормально".
А если LLM - все же стохастический попугай и мешок со стек оверфловом, тогда спецификацию нужно писать сразу в машинных кодах, гексиками. Для экономии киловатт электроэнергии и ресурсов планеты.
Вот и весь позитивизм.
"Бесконечно большой перцептрон всё знает сразу и не нуждается в обучении. ... Отсюда следует вывод, что бесконечно большая программа способна действовать вообще без компьютера". С. Лем, "Профессор А. Донда" (*)
это сатирический рассказ
Чтобы доказать, что LLM нечто большее, чем стохастический попугай, нужно как-то удостоверится, что над кучей токенов возникают слои абстракций.
А если применить операцию предельного перехода, тогда и кучи токенов не нужно - достаточно просто ожидать появления слоев абстракций над cat /dev/urandom
А это уже чем-то трансцендентным отдает.
тат два вопроса: есть ли эта "достаточность"? И не равно ли "ожидание" вере? Философия сегодня как раз и пытается сначала сформулировать, а затем и ответить на эти вопросы. Не скажу, что сегодня есть всеобщий консенсус в этом. Но сам по себе факт правильно заданного вопроса - это уже начало пути к решению. Именно этим сегодня и занимается философия - формулированием "предельных" вопросов.
Проблема с человеческим языком не нова для разработчиков. Разработчик взаимодействует с заказчиком, в лучшем случае со спецификацией и ТЗ. И ему часто приходится сталкиваться со словами «должно реагировать сразу, быстро; не должно занимать много места; интуитивно понятный интерфейс». Тут ни русский, ни английский не поможет. Так или иначе приходиться уточнять, и иногда максимум что удается добиться от заказчика - «не хуже чем у конкурента». Всех деталей все равно не будет в ТЗ и макете, и их придется либо додумать, либо словами вытягивать у заказчика (тоже в виде слов). Поэтому в конечном итоге - хоть какой эсперанто ни выдумывай - снова всё будет упираться в живую человеческую речь, а раз так, то зачем стараться?
Но надо сказать, что старания есть. Тут как ни крутись, а в комментариях без упоминания LLM не обойтись. Мы люди приземленные, что нам до Гуссерля. LLM неплохо понимают человеческий (русский) язык. Если агенту очень подробно расписать, что нужно сделать, то он сделает весьма точно. Но ведь сам писать устанешь, да и лень, это ж еще думать надо. Хочется-то не уходить далеко от фразы «сделай в лучшем виде». Появились набор скилов spec-kit, open-spec, superpowers, которые помогают составлять спецификацию для агента в достаточно подробном виде, чтобы получить точную реализацию желания заказчика. Без них на состояние август 2026 года пока получается посредственный результат, но каждые полгода LLM и агенты умнеют, слой скилов становится тоньше, мысли заказчика читаются лучше.
Скилы - это генератор спецификаций, а сама спецификация это и есть тот самый язык, о котором Вы пишите в стате.
На счет фразы "Мы люди приземленные, что нам до Гуссерля". Свою задачу как раз и вижу в расширении пространства дискурса. В привлечении внимания к еще одному аспекту фокусу - философскому. Мне кажется это и полезно и сильно добавляет разнообразия. Ну и, конечно, преследую "корыстную" цель - вернуть философию в дискурс вокруг ИИ. :)
набор скилов spec-kit, open-spec, superpowers
Набор костылей, которые либо общеизвестны, но тупая модель не знает по глупости своей, либо это очень локальное знание, годное только для проекта или компании.
Я думаю проблема в том, что LLM слишком универсальны, им без разницы о чем с нами разговаривать - о мифах древней Греции, квантовой механике, тонкостях виноделия, багах в legacy C++ кода. Для нее это беседа, как для нас скучная беседа про погоду на прошлой неделе. Вот и приходится всевозможными методами привлекать ее внимание к нашей злободневной теме, чтобы выбить из колеи ответов среднего качества и дать по настоящему стоящий результат.
Настанет время когда LLM и агенты вокруг них будут гуру в той теме, для которой мы их действительно запускаем.
Я в детстве у бабули в деревне гусей пас. Надо было их гонять на выпас и обратно. Могу сказать, что, на мой взгляд, философия идеи Software 3.0 - это "философия пастуха".
Гуси в принципе не понимают команды "отсюда и до колхозного поля по правой дороге шагом марш!" (спецификация). С ним рядом нужно идти и направлять. Палкой, рукой, шапкой, на велосипеде, ногами, можно кричать, можно свистеть, а можно вообще слов не говорить.
Это я к тому, что не важно, на каком языке "загонять LLM к цели" - на английском или на русском. LLM в принципе не может залезть в голову человеку и собрать для него "электронный магазин со всеми свистелками и перделками" как он это себе представляет. LLM может лишь создать "среднестатистический электронный магазин", который будет таким же юзабельным, как "кресло для среднего пилота".
Философия идеи Software 3.0 - персональные программы. Пишутся конкретным человеком под самого себя и изменяются всю жизнь.
А вот возможно ли даже для себя? Вот такая постановка вопроса в Вашем случае может напрашиваться. И тут интересно понять: что тут возможно в таком "зауженном" виде, а что даже здесь -нет.... Можно ли вообще заузить этот контекст? Или бесконечное заживание приведет опять все к тому же коду?....
Я начинал общаться с агентами на английском, сейчас общаюсь на русском - мне так удобнее. Между собой они сейчас общаются на английском, чтобы мне понятно было, но, в теории, могут и на своём.
Мне агенты пишут код на JS - я его понимаю лучше остальных. Иногда shell-скрипты пишут. Но агенты для себя (подсобные утилиты) могут и на других языках писать, на том же python, например. Если дать им в доступ виртуальный сервер и все права на него, так они могут и другие runtime'ы понаставить.
Мне, как конечному пользователю, всё равно, на чём они пишут. Мне главное, чтобы мои персональные запросы закрывались.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Философский разбор идеи Software 3.0 Андрея Карпатого