Comments 9
Вчера было обсуждение статьи «Научный метод» (Б.К. Дженнингс, 2018)
https://habr.com/ru/articles/1065846/comments/#comment_30292454
Актуализация 2026: Искусственный интеллект как новый источник моделей
Новый инструмент познания
Традиционно наука опиралась на четыре инструмента: наблюдение, чистое мышление, врождённое знание и откровение. С развитием ИИ появляется пятый — машинная генерация моделей. ИИ не просто обрабатывает данные, а самостоятельно находит структуры и закономерности, часто превосходящие человеческие, но остающиеся «чёрными ящиками» (пример: компоновка микросхем Google, Nature 2021).
Генерация моделей искусственным интеллектом
Ключевое отличие: модели порождаются не человеком, а алгоритмом. Это создаёт:
· Разрыв между предсказательной силой и пониманием – модель работает, но мы не знаем почему. · Проблему верификации – число генерируемых гипотез растёт экспоненциально, ресурс экспертов ограничен (Теренс Тао, ICM 2026). · Размытие критерия простоты – сложность нейросети не равна числу явных допущений. · Смещение роли учёного – от «творца» к «фильтру» и «интерпретатору».
Новые вызовы для научного метода
Научный метод должен дополниться критериями:
· Интерпретируемость – насколько мы можем извлечь понятные правила из модели. · Воспроизводимость – стабильность результатов при разных запусках ИИ. · Приоритизация – механизмы отбора моделей, дающих не просто точные, но контрастные предсказания.
Возникает вопрос об ответственности за ошибки модели – её разработчика, пользователя или самой системы.
Два типа знания
В эпоху ИИ полезно различать:
· Операциональное знание – модель работает (инструментальная ценность). · Декларативное знание – мы понимаем, почему она работает (объяснительная ценность).
Наука не должна отказываться от второго, но вынуждена признать, что первое может долго существовать без второго.
Итог
ИИ не отменяет научный метод, но требует его эволюции. Ранжирование моделей по предсказательной способности остаётся базой, но к нему добавляются прозрачность и проверяемость.
Только сложные системы способны оперировать сложными функциями, закон кибернетики
Я на днях смотрел про предиктивизм Поппера. Там большая проблема в том, что считать новым предсказанием. Например, следует ли считать, что объяснение смещения перигелия Меркурия является подтверждением общей теории относительности. Оба ответа (да и нет) создают большие трудности для предиктивизма Поппера.
Это разбирается в книге
S. G. Brush, Making 20th Century Science, 2015.
В ней историк науки рассматривает примеры из физики, химии и биологии, чтобы проверить, почему ученые принимали новые теории - из-за новых предсказаний или из-за объяснений известных явлений. Вывод такой - наука не развивалось в духе предиктивизма Поппера. Там были такие примеры (таблица Менделеева и др.), но их было не очень много. В большей степени новые теории принимались, поскольку они давали объяснения известным феноменам.
В целом необходимость численных предсказаний делает появление оракула крайне маловероятным. По крайней мере таких технологий на горизонте не видно.
В большей степени новые теории принимались, поскольку они давали объяснения известным феноменам.
Эти феномены, точнее эмпирические данные по ним обычно составляют эмпирическую модель новой теории. Для КМ, например, это было открытие и исследование линейчатых спектров, фотоэффекта, и некоторые другие. А уже затем теории делают предсказания. Концептуальная модель теории качественные, формальные точные. В коменте ниже подробнее написал на эту тему.
В целом необходимость численных предсказаний делает появление оракула крайне маловероятным. По крайней мере таких технологий на горизонте не видно.
Почему? Специально натренированные ИНС могут предсказывать. Как пример эта работа посвященная оценке пространства состояний сложных динамических систем (на Хабре, рекомендую почитать коменты, хотя они в основном скептические). Осталось дождаться опытного подтверждения или опровержения это оракула)
У инженеров это называется метамоделью. Я в свое время немного сталкивался с этим (Ansys optiSLang). Это работает, но тут, во-первых, нужны данные для тренировки, а для сложных изделий это все достаточно трудоемко, а, во-вторых, как повезет, посколько удача сильно зависит от поведения поверхности отклика.
Затронули интересную тему в статье, спасибо, но на мой взгляд не раскрыли ее в полном объеме.
Мы привыкли считать, что порядок устроен так:
сначала понимание, затем предсказание.
Но, возможно, они шли вместе лишь потому, что иначе человек не умел хорошо предсказывать. Понять означало свернуть множество частных случаев в несколько правил, доступных сознанию. А уже из них вычислить новое.
Сжатие, понимание и предсказание почти не различались.
И вот появляется другой предсказатель.
Посмотрим как это выглядит в рамках современного теоретико-модельного подхода к структуре и функциям научных теорий. По нему теория может состоять из неограниченного числа связанных моделей разного типа. Для физических теорий это концептуальная модель теории, эмпирическая и несколько формальных моделей, которые эквивалентны между собой и удовлетворяют эмпирической и концептуальной (подробнее, см. также статьи этого автора). Понимание связано с концептуальной моделью теории, с ней же связаны качественные предсказания, точные с формальными моделями. Посмотрим на примере классической механики. Ее концептуальная модель приведена в этом разделе, эмпирическая в этом, формализмы перечислены во введении статьи - ньютонов, лагранжев, гамильтонов, гамильтона-якоби, есть также другие. Для ньютоновского формализма доказывается теорема представления - эмпирические данные теории представляются в виде законов. По этой причине этот формализм также относится к эмпирической модели теории, вместе с данными и описанием экспериментов и наблюдений в которых они получены. Такое разделение можно найти в любой физической теории.
Концептуальная модель содержит понятия теории и их взаимосвязи, это специфический язык теории. Она выполняет объясняющую функцию в области действия (приложения) теории, а также позволяет делать качественные предсказания поведения объектов теории. Например, если сила действует на тело в определенном направлении, то обычно оно будет двигаться в этом направлении, чем больше приложенная сила, тем больше ускорение тела, и т.п., это соответствует наблюдаемым на опыте взаимодействиям объектов концептуальной модели теории. Однако чтобы сделать точные предсказания необходимо формализовать задачу в терминах концептуальной модели и использовать для поиска решения наиболее подходящую формальную модель теории. Они так и появились, как эффективные решения классов практических задач не выходящих за рамки концептуальной модели и доказательства эквивалентности этих формализмов стандартному, полученному для эмпирической модели теории.
Назовём его оракулом. Им может стать потомок LLM, нейросеть другого типа или система из множества моделей, инструментов и автоматических экспериментов.
Оракул тоже обобщает опыт. Огромное количество наблюдений превращается внутри него в вычислительную структуру, способную работать с новыми случаями. Но для человека это обобщение уже не распаковывается в несколько сущностей, законов и формул.
Мы задаём условия — и получаем прогноз.
Какой материал выдержит нагрузку? Какую пространственную структуру примет белок? Как изменится экосистема? Какой эксперимент даст больше информации? Какое устройство выполнит заданную функцию?
Что может представлять такой оракул в теории в контексте указанного подхода? Еще одну формальную модель, но полученную не традиционным путем вывода аналитической модели теории, а путем обучения ИНС специального вида, например, таких или таких, или с трансформерной архитектурой. Поскольку эта модель не аналитическая по форме, а вычислительная, то невозможно будет доказать ее эквивалентность стандартной только аналитическими методами. Вероятно, только проверкой множества частных случаев, которых не было в обучающей выборке. Имеются уже такие формальные модели, оракулы? Имеются, как пример для ОТО. Авторы проверили ее для различных задач из этой области, и утверждают, что ее можно применить для поиска решений проблем, которые не удается решить, ни аналитическими, ни вычислительными методами. Есть другие подобные примеры. Мне больше импонирует подход использованный в этой работе (на Хабре) по оценке размерности пространства сложных динамических систем. Обучение не на базах данных решенных задач из выбранной области, а непосредственно на эмпирических данных. Возможно такой подход потребуется для новых областей исследования, для которых теория еще не разработана, и таких баз данных нет.
Первые примеры уже есть. AlphaFold предсказывает структуру белков, GraphCast — погоду, а GNoME ищет кандидатов на устойчивые кристаллические материалы. Это не «наука из ничего»: системы опираются на собранные людьми данные и ограничения, а GraphCast обучается на реанализе. Но конкретный ответ выдаёт высокоразмерная модель, а не человек, самостоятельно выводящий его из компактной теории.
Это только специализированные модели из области прикладных исследований для узкого класса задач, а не всей области, классической или квантовой. Что важно? Они созданы для областей с известной концептуальной моделью, и в этом смысле теоретически полностью прозрачны, запросы и ответы интерпретируемы. Проблема была только в больших затратах ресурсов на вычисления в таких задачах при массовом спросе.
Теория человеческого масштаба может возникнуть позже — в том числе благодаря модели. Но сначала иногда появляется лишь более точный или полезный ответ.
Поначалу учёный использует оракула как помощника. Затем тот начинает выбирать гипотезы и эксперименты. Наконец, сам интерпретирует результаты и перестраивает собственную модель.
Нет, эти теории уже известны. КТП для фолдинга и кристаллических материалов, известны также прикладные приближенные модели для их вычислений. Однако, повторяю, они очень затратные по вычислениям на суперкомпах для массового применения. Но базы данных по ним уже наработаны, и это и позволило произвести обучение. Погода описывается как очень сложная динамическая система, опять же очень затратна по вычислительным ресурсам, но также имеется база данных решений на которых было произведено обучение.
Оракул может выдавать объяснения. Только мы не знаем, описывают ли они механизм, породивший прогноз, или переводят готовый ответ на человеческий язык — в правдоподобную историю для существа, которому нужны причины, аналогии и несколько знакомых объектов.
Компактная теория перестаёт быть обязательным промежуточным слоем. Между наблюдением и работающим прогнозом больше не обязано находиться что-то, что можно записать на доске.
Выглядит это мрачно. Наука продолжает производить лекарства, материалы и устройства, но больше не создаёт понятных человеку картин мира.
Тут вы не правы. Никто не будет давать разрешение на производство таких лекарств и материалов. В этих областях очень строгий контроль, и требуется куча разрешений даже для проведения тестов, не говоря о производстве. Если не считать незаконное, подпольное производство в странах без такого контроля. До тех пор пока такие подсказки ИИ не будут досконально поняты и изучены во всех аспектах они законными путями не попадут к потребителю. Конечно законодательство со временем примет во внимание такое развитие способов исследований, но риски все равно будут минимизироваться.
О чем собственно речь в более общем плане? О том, что и ИИ будет развиваться своим путем независимо от человека? Это мнение некоторых айтишников возникшее больше из-за неосведомленности. Если посмотреть в более общем контексте, то все будет оставаться под контролем человека, т.к. это очень чувствительная для человека, как вида тема. Проблемы могут быть только с незаконным обходом такого контроля или из-за случайных обстоятельств.
Для каждого нового шага снова нужен оракул. Сам расчёт может быть технически воспроизводим — при тех же коде, весах и условиях запуска. Но теряется интеллектуальная реконструируемость процесса: мы можем проверить ответ, но не восстановить в человеческих понятиях, почему был выбран именно этот вопрос. Подтвердить, что материал работает, но не понять, какие различия оракул считает существенными. Заметить ошибку, но не определить, какая часть его картины мира сломалась вместе с ней.
Почему не понять и не восстановить в человеческих понятиях? Методы интерпретации внутренних состояний моделей быстро развиваются, все заинтересованы в этом, как пример достижений. Могут появится надстройки, которые транслируют такие состояния в символическое представление, которое человек будет в состоянии понять и проверить независимо. По аналогии с мозгом самого человека, мы не знаем точно, что творится в его нейронных сетях, их состоянии, но транслятор в высших отделах мозга выдает концептуальное представление этих процессов, которое является нашим пониманием, и которое можно использовать и передать другим.
Объяснение превращается в необязательный продукт. А наука — из производства общедоступных моделей в обслуживание доступа к предиктору.
Тут противоречие, если не работает объяснение, смысловая нагрузка для специалистов в этой области, то они не смогут понять результаты работы этих моделей и использовать их. Если только не доводить ситуацию до абсурда, когда все делают такие модели, принимают решение, исследуют, проектируют, производят, и предоставляют людям, как для какого-то скота, но это скорее сюжеты для фантастики.
Теперь ясность может так и не появиться, а прогноз — появиться.
Не исключено, что за этой границей лежит большая часть биологии, поведения, сложных материалов, климата, общества или ещё не выделенных областей. Не потому, что там нет законов, а потому, что их нельзя собрать в форму, которую человеческое сознание распознаёт как закон.
В таком случае оракул не закроет науку. Он расширит множество явлений, вообще доступных исследованию.
Правда, мы можем не суметь описать, что именно открылось.
Тут два варианта. Первый о котором шла речь, сами приводили примеры, это обучение на известных данных, и по приведенным возражениям, такая ситуация науке и обществу не должна грозить. Это просто еще один метод исследования, который позволяет расширять модельные представления в теориях. И это не единственный вариант такого расширения. Возможно человек будет наращивать не только интеллектуальные способности за счет ИИ, но и расширять восприятие не только с помощью различных приборов, но и в перспективе с помощью нейроинтерфейсов в обход традиционных органов чувств. Такие технологии быстро развиваются в медицинских целях, но ничто не запрещает использовать их в целях познания путем расширения восприятия. Одно дело, например, наблюдать квантовые явления в классическом мире, другое непосредственно с помощью квантовых сенсоров с использованием нейроинтерфейсов минуя обычные пути обработки сенсорной информации в мозге. Мозг, как известно, очень пластичен и может адаптироваться для новых форм восприятия и их концептуализации, это давно известный факт. Возможно наши теории микромира после таких исследований претерпят сильное упрощение, исчезнет неопределенность связанная с интерпретациями, и появятся новые модельные представления.
Второй вариант, который упоминал выше, обучение непосредственно на эмпирических данных. В физике имеется множество неизвестных феноменов типа ТМ и ТЭ, см. полный список. С другой стороны мегаинструменты науки типа БАКа и других ускорителей, телескопов разного типа и базирования генерируют гигантские объемы данных, который просеивается на суперкомпах с целью поиска отдельных предсказанных теориями событий с целью их проверки, а остальное идет в отвал. Но в этих отсеянных данных могут содержаться редкие события, которые уже указывают на решение некоторых проблем физики, просто мы их не ожидаем. Как показывает история физики фундаментальные открытия часто происходят именно в шуме экспериментов и наблюдений, помехах, причем во многом случайно. Вот поле исследований для ИИ путем их обучения на этих данных, не на готовых решениях полученных человеком, а фактически сырых данных. Самый простой критерий обучения предсказание этих же данных, как в приведенной выше работе, либо другим критериям, как уже делают на БАКе. Только в этом варианте возможно обнаружение паттернов объяснение которых может оказаться затруднительным, и может потребовать введения новых концепций. И в принципе, может останется частично не объясненным на какое-то время, до анализ новых, дополнительных данных.
Я знаком с работами Архиреева. Это так называемый семантический подход в философии науки - Суппес и К. У них идея в отыскании изоморфизма / гомоморфизма между математической моделью и миром. Не думаю, что так пройдет, поскольку понятия изоморфизм / гомоморфизма математические, а мир вряд ли можно назвать математической структурой.
Спасибо за такой подробный комментарий. С модельным описанием теории я в целом не спорю. Более того, в статье прямо сказано: оракул тоже можно назвать теорией. Вопрос не в наличии модели, а в различии между компактной теорией человеческого масштаба и высокоразмерным предиктором.
Вы правы, что AlphaFold и другие работают внутри областей, где уже существуют концептуальные модели, данные и ограничения. Это не примеры “науки из ничего”, а первые приближения к описанному сценарию. Но из этого, на мой взгляд, ещё не следует, что такие системы “теоретически полностью прозрачны”. Понятные вход и выход - не то же самое, что понятное отображение между ними. Мы знаем, что подали последовательность белка и получили координаты атомов, но не располагаем компактной моделью, по которой человек самостоятельно получил бы тот же результат.
Называя оракула ещё одной формальной моделью, мы классифицируем его, но не делаем интеллектуально реконструируемым. Тем более что проверка на множестве новых случаев подтверждает работоспособность, но не доказывает эквивалентность аналитической модели.
Согласен, что могут появиться надстройки, переводящие внутренние состояния модели в проверяемое символическое представление. Если такой перевод окажется точным и компактным, он фактически и станет новой теорией человеческого масштаба. Но возможность такого исхода ещё не означает, что всякая устойчивая закономерность обязательно допускает подобный перевод.
Интересно, что ваш второй вариант - обучение на сырых данных, поиск неожиданных событий в “шуме” и обнаружение паттернов, для которых пока нет концепций, - очень близок к тому, что я называю второй половиной мира. Расхождение, кажется, остаётся только в одном: вы предполагаете, что подходящие понятия со временем возникнут, а я оставляю открытой возможность, что для части закономерностей компактного человеческого описания может не существовать вообще.
Поэтому для меня центральный вопрос такой: есть ли принципиальная причина считать, что всякая предсказательная структура обязательно может быть свёрнута в концептуальную модель, которой способен овладеть человек?
Вторая половина мира