Comments 12
Теорема Геделя вообще ставит крест на возможности полностью внутренне непротиворечивой системы
Не совсем. Противоречивость это следствие набора операций, который определен в формальной системе. Теоремы Гёделя касаются лишь достаточно продвинутых систем, в роде элементарной алгебры, где умножение коммутативно и может быть применено к двум неизвестным. Математика не может в полной мере описать сама себя и от того страдает. Но у простых и тупых все хорошо - им подобные трюки в принципе неведомы.
Причём, проблема эта сама по себе тоже чисто формальная, как и вся математика. То есть она не относится к вопросам субъективной интерпретации, качества, смысла жизни и всего такого - если вы вдруг почувствовали легкое непонимание почему "вода" это вода, то теорема Геделя здесь не при чем.
Логика огромного класса реально полезных и дорогущих в создании программ не настолько продвинута. Часто это всего лишь пресловутое перекладываение джейсонов из одного места в другое. Это код, который понимают даже макаки. В нем неоткуда браться проблемам уровня тех, о которых говорил Гедель. Фактически это лайфхак, которым индустрия пользуется чуть-ли не с самого рождения, чтобы не рухнуть под пластами сложности.
Вы совершенно правы. Теорема Геделя говорит о "одстаточно богатых" системах. Так же как и то, что она не относится к субъективной интерпретации и т.д. Все так. Я привел ее в пример для того что бы показать, что формализмов недостаточно для создания систем сильного ИИ. И что, возможно, решение еще вперди. Но сегодня его нет. А значит и говорить о том, что LLM может породить из себя сильный ИИ - не более чем рекламный трюк.
Наукоподобный бред
ммм, в чем же конкретно? Собствеено, прежде всего я хотел показать, что есть еще одна сторона дискурса - философская. И что сегодня в IT мире она сильно недооценена.
В LLM философия не может объяснить ничего, она плетётся далеко позади и пытается что-то объяснить задним числом.
Все достижения экспериментальные. База теоретическая очень мала
Достижения во многом экспериментальные. Это верно. Но объяснить она может. И как раз философия и дает понимание того, где границы эффективности llm. Т.е. тут все нормально с философией. Ровно для этого я и затеял этот цикл небольших статей. Показать, что философия имеет эту самую предсказательную силу.
Более того, сами же философы ушли со сцены. Добровольно, запершись в своих аудиториях. И Ваш комментарии как раз и подтверждает это. Моя цель вытащить философию из Башни из слоновой кости. Я за синергию наук. И философских и инженерных. Необходимо обогащать обе научные ветви достижениями друг друга.
Кроме того, я не собираюсь говорить, что llm ерунда. Нет конечно. Это отличный инструмент, но как и любой инструмент у него есть свой набор классов задач, где он прекрасен.
Более того, период экспериментов - это естественный процесс. О чем опять же говорит философия. Например, через идеи Куна. :)
Более того, я ожидал такие комментарии. Но все равно решил рискнуть :)
Если LLM не стохастический попугай, а нечто большее, тогда никакой специальный язык не нужен, а будет достаточно команды: "сделай нормально".
А если LLM - все же стохастический попугай и мешок со стек оверфловом, тогда спецификацию нужно писать сразу в машинных кодах, гексиками. Для экономии киловатт электроэнергии и ресурсов планеты.
Вот и весь позитивизм.
"Бесконечно большой перцептрон всё знает сразу и не нуждается в обучении. ... Отсюда следует вывод, что бесконечно большая программа способна действовать вообще без компьютера". С. Лем, "Профессор А. Донда" (*)
это сатирический рассказ
Чтобы доказать, что LLM нечто большее, чем стохастический попугай, нужно как-то удостоверится, что над кучей токенов возникают слои абстракций.
А если применить операцию предельного перехода, тогда и кучи токенов не нужно - достаточно просто ожидать появления слоев абстракций над cat /dev/urandom
А это уже чем-то трансцендентным отдает.
Проблема с человеческим языком не нова для разработчиков. Разработчик взаимодействует с заказчиком, в лучшем случае со спецификацией и ТЗ. И ему часто приходится сталкиваться со словами «должно реагировать сразу, быстро; не должно занимать много места; интуитивно понятный интерфейс». Тут ни русский, ни английский не поможет. Так или иначе приходиться уточнять, и иногда максимум что удается добиться от заказчика - «не хуже чем у конкурента». Всех деталей все равно не будет в ТЗ и макете, и их придется либо додумать, либо словами вытягивать у заказчика (тоже в виде слов). Поэтому в конечном итоге - хоть какой эсперанто ни выдумывай - снова всё будет упираться в живую человеческую речь, а раз так, то зачем стараться?
Но надо сказать, что старания есть. Тут как ни крутись, а в комментариях без упоминания LLM не обойтись. Мы люди приземленные, что нам до Гуссерля. LLM неплохо понимают человеческий (русский) язык. Если агенту очень подробно расписать, что нужно сделать, то он сделает весьма точно. Но ведь сам писать устанешь, да и лень, это ж еще думать надо. Хочется-то не уходить далеко от фразы «сделай в лучшем виде». Появились набор скилов spec-kit, open-spec, superpowers, которые помогают составлять спецификацию для агента в достаточно подробном виде, чтобы получить точную реализацию желания заказчика. Без них на состояние август 2026 года пока получается посредственный результат, но каждые полгода LLM и агенты умнеют, слой скилов становится тоньше, мысли заказчика читаются лучше.
Скилы - это генератор спецификаций, а сама спецификация это и есть тот самый язык, о котором Вы пишите в стате.
Философский разбор идеи Software 3.0 Андрея Карпатого