Обновить

Я давно пишу на Хабре о недооценённой важности философии в науке («Хокинг преждевременно похоронил философию», «Роль нарратива в научном процессе», «Эффект Даннинга-Крюгера не то, чем кажется»), и поэтому вижу тему ИИ под особым углом: я вижу в ней синтез существовавшего всю индустриальную эпоху разделения на физиков и лириков. Это изменит и Хабр (если, конечно, Хабр позволит себе измениться), потому что всё позиционирование Хабра держится на упорно поддерживаемой сегрегации технарей от гуманитариев, которая просто несовместима с ИИ-проблематикой.

Практически все главные вопросы ИИ — вопросы философского характера. Это не значит, что ИИ само по себе не является цифровой сущностью и продуктом IT в классическом понимании. Но считать, что проблематика ИИ — это задача для технарей, это как считать, что познание о человеке является предметом биологии. Биология человека, безусловно, является частью науки о человеке — но наука о человеке вовсе не является частью биологии.

В каком-то смысле, я ждал этого поворота до того, как он случился (т.е. до того, как ChatGPT де-факто обессмыслил тест Тьюринга), когда писал, например «Как этика стала самой дорогой проблемой Кремниевой долины, а философия — её самым практичным решением». И всё же я не ожидал, на самом деле, что время этого перехода настанет так быстро. И тем не менее — мы уже в нём.

(Надумалось в результате работы над статьями о диалектике ИИ и прогресса, методологии генеративной поисковой выдачи и дискуссии о сгенерированных текстах)

Теги:
+8
Комментарии0

Путь к ИИ‑сингулярности

У нас было два репозитория неоттестированного вайб‑кода, семьдесят пять тяжеловесных SDD‑спецификаций, пять обмазанных смазкой харнессов, солонка, наполовину полная кастомных скиллов и забитых капслоком правил, с десяток дырявых MCP‑серверов, RAG‑база со свежевекторизованным Confluence, самодельная дощечка имаго‑кодинга и целая россыпь автономных агентов всех мастей, от безобидных автодополнялок до галлюцинирующих субагентов, ставящих пакеты со slopsquatting и втихаря сносящих боевые базы.

Не то чтобы все это было действительно нужно для поездки к ИИ‑сингулярности, но если уж начали участвовать в спуске с горы на велосипеде без седла, остановиться уже невозможно.

Единственное, что вызывало у меня настоящий животный страх, это передача ответственности за ревью самой модели. Тот самый момент, когда седьмой агент подтверждает галлюцинации шестого, потому что все тесты зеленые, и я знал, что рано или поздно мы перейдем на эту дрянь.

Нет ничего более беспомощного, безответственного и испорченного, чем IT‑команда, запустившая мультиагентный оркестр в режиме allow all.

Это критический (и слегка ехидный) обзор того, что произошло с разработкой последние пару лет.

Путь к ИИ‑сингулярности

Публикации