Комментарии 35
Интересно из каких соображений выбраны именно эти гипотезы, ведь если какую-то верхнюю оценку (напр. о плотности упаковки многомерных сфер) не могли улучшить более 40 лет, это может говорить как о высокой сложности, так и о низкой значимости задачи для научного сообщества.
P.S. В оригинале речь идет не о прорывах (breakthrough), а достижениях (advances).
из каких соображений выбраны именно эти гипотезы
Возможно, что из соображений успешности. Модели дали условный “список всех открытых проблем Эрдёша” (или что-нибудь такое) целиком - она из них решила 10, их и выложили.
Ноам Браун пишет:
И да, мы действительно пытались решить другие крупные проблемы, но безуспешно. К сожалению, ни одной из Millennium Prize Problems (пока что).
Но также мы не тратили много на каждую проблему. Возможно, стоит значительно увеличить вычисления во время тестирования.
То есть, они массово прошлись по некоторому списку, и получилось для десяти проблем
Ещё возможно выбирали области, где доказательство представляет из себя подбор примеров. Я не могу утверждать на 100%, но судя по тем новостям, что я читал, ИИ достиг прогресса в задачах поиска примеров/контрпримеров (задача Эрдеша о расстояниях, гипотеза Якобиана). Так как в таких задачах можно выделить условия, что можно "заифать", и далее вести осмысленный полубрутфорс. Ещё из интересного, про туже гипотезу Якобиана. В новостях пишут, что она доказана была Fable, но умалчивается, что аккаунт принадлежал ученому, который давно её исследовал. То есть человек мог задавать вопросы, которые направляли ии к верному решению, и вопросы далеко не те, что может задать даже просто математик. Я не говорю, что все новости про доквы фейк и ллм не способна сама посчитать 2+2, но стоит всегда держать в голове, что мы не знаем сколько попыток ушло, насколько вмешивался человек в работу (я не думаю, что в open Ai за отдел математики отвечает вайб кодер, который в паузах от переписывания всего на rust, левым мизинцем ноги нажимал на голосовой ввод кодекса и говорил "бро реши гипотезу якобиана". Для подсказки достаточно дать нужные статьи, чтобы указать ии в какую сторону копать).
Почему-то кажется, что участие человека было минимальным. У них на выходе доказательство на машиночитаемом языке, можно запихнуть в коробочку и проверить, а значит запустить RL. Модель сгенирила доказательство -> получила ok/не ok -> обновили веса и погнали дальше
Даже sonet обычный матан младших курсов, который в вузах проходят щелкает как орешки. После налаживания процедуры формальной проверки и запуска RL прогреc может пойти так же быстро, как в кодинге
Ну и наверняка у них есть датасет с формализованными задачами на этом самом lean с кучей задач из разных областей. Когда модель натренировалась, прогнали ее по всему датасету несколько раз и опубликовали то, что намайнилось
Если бы все было так просто, они бы уже доказали гипотезу Римана. На деле там скорее всего сидел взвод PhD-математиков и ручками правил промпты, когда модель начинала бредить
К сожалению именно так просто. Можно шахматы вспомнить. Там сначала были эвристики, потом обучение на партиях, потом обучение с нуля без подсказок от человека. Вот теперь ИИшка и к математике начинает подкрадываться. Понятно, что математиков не заменят, понимать что делает ИИшка кому-то все-таки надо, но труд математиков точно изменится
В шахматы вообще интересно получилось. Люди развивали шахматную теорию сотни лет, потом десятки лет играли с шахматными движками. А потом появился ИИ, который играл как инопланетянин, показав немного другой взгляд на шахматы. Хотя казалось бы после стольких лет, что там можно нового привнести.
Я бы не превозносил так шахматную теорию, как что-то оттачиваемое на протяжении всего существонания шахмат. Зачатки позиционной игры предложил как системную вещь Филидор в XVIII веке. Современную шахматную теорию заложил Нимцович в первой трети 20 века. Его книга "Моя система" остается до сих пор культовой. Что касается шахматных движков и ИИ, то каких-то новых открытий, которые как-то перевернули с ног на голову шахматы, тоже не особо. Да, есть альфа зиро с его известным h4, но все это в итоге свелось к тому, что ML позволило гораздо эффективней считать варианты и теперь профессиональные гроссмейстер уровня 2600 из топ 100, может сводить в ничью партии с топовыми гроссами из топ 10 за белых, банально заучив основные актуаньлые ничейные варианты в дебютах. И это действительно проблема современных классических шамхат с их играми по 5 часов. Тезис, что возможных партий больше, чем атомов во вселенной, не валиден, так как надежных дебютов, которые не дают противнику преимущества ценой более активной игры ГОРАЗДО меньше. Я не преувеличивал, когда говорил что их можно заучить. Нынешние индийские юниоры так и делают, занимаясь шахматами по 8 часов в день, оттачивая дебюты и тактику, чтобы после выхода из дебюта в ничельный миттеншпиль не ошибиться, когда кончится подготовка. В итоге, чтобы топ гроссмейстеру играть на победу надо уходить в менее надежные варианты, ухудшая свою позицию стратегически, с надеждой сбить оппонента с подготовки и переиграть по ходу, либо же заманить уже в свою деббютную ловушку, где окажется что да у тебя выигранно по компьютеру, но чтобы реализовать перевес надо делать 10 строго единственных ходов, а любая ошибка делает позицию проигранной. ИИ просто дал возможность получать ответы уровня Господа бога, что раньше требовало огроменейшего опыта и таланта. Алгоритмы машинного обучения сделали ровно то, что и должны были, оптимизировали вычислительно сложный движок
Выбрали те где модель случайно сошлась к правильному ответу, остальные тысячу провальных попыток тихо замели под ковер
Судя по по списку это не аналитические доказательства, а контрпримеры, симуляции и численные проверки на питоне, которые ИИ писать любит и сразу предлагает, если испытывает затруднения. Без "ведущего математика" в виде очень знающего тему человека конечно ИИ бы ничего не сделал.
не-софической группы - контрпример;
теорема о параллельном повторении для общих двухигровых систем - брутфорс-симуляция;
гипотеза Эрхарта и упаковка сфер - то же самое;
Так что все это маркетинговый вброс/фейк, для финансирования, рассчитанный на то, что проверять придется долго.
И тем не менее, раньше для этих задач ни одна модель не сделала даже такого.
Потому что это проблемы Неуловимого Джо. Брутфорснуть их так же могли и человеки — но они просто предпочитали заниматься чем-то более интересным.
Всё как всегда. Я сделаль. Я проверять это должны люди месяцами. И пока будет понятно действительно ли это доказано выйдет уже новая модель, которая докажет это по новому (как она считает). Зато громкий заголовок существует уже сейчас.
Как будто с доказательствами людьми не так.
Точно также ученый математик делает доказательство на сотни страниц, а потом по всему миру хорошо если пару десятков ученых имеют достаточную квалификацию именно в этой области чтобы месяцами проверять доказательство.
И точно также может быть найдена ошибка и доказательство не примут.
Про доказательство Мотидзуки вот и на Habr писали
Начальство навострило ушки. Значит математиков тоже можно всех уволить и заменить на ИИ, не только же программистов оптимизировать. А затем и физиков, химиков. От перспектив дух захватывает.
Когда физики и химики начнут планы своих экспериментов вайбкодить, то все может довольно быстро закончиться. Совсем все.
"Вы правы, смешивать эти два вещества не стоило, полученная смесь взрывоопасна. Хотите, чтобы я спланировал новую серию экспериментов?"
Когда физики и химики начнут планы своих экспериментов вайбкодить, то все может довольно быстро закончиться. Совсем все.
Фантасты что-то такое предсказывали
... — Мы надеемся, что наша работа принесет Вселенной неслыханные, ни с чем не сравнимые блага, и очень грустно, что проводить эту работу нам пришлось в обстановке полной секретности. Безграничные энергетические возможности — понятие настолько обширное, что даже я затрудняюсь определить будущее наших миров. Через несколько минут мы станем героями, известными во всех уголках Вселенной. Сейчас, когда работа еще не окончена, я хочу сказать вам - для меня вы уже герои... [...] До сегодняшнего дня математика и другие точные науки были лишь подспорьем для человеческих деяний. Об этом говорил Фицджон на своей первой лекции, и сейчас мы докажем, что в основе всего — человек. Энергомеханика развивается не по пути расширения и усложнения энергокомплексов, она упрощается, вся энергия сосредоточивается внутри самого человека... [...] Мужайтесь, друзья мои. Сейчас наступит момент, ради которого мы работали все десять лет. В обстановке полной секретности. Как преступники. Что ж, такой всегда была участь людей, приносивших человечеству самые ценные дары.
— Десять секунд.
— Полная готовность.
— Есть полная готовность.
Последние секунды превратились в мучительную пытку. При счете "ноль" все на корабле пришло в бурное движение. Уследить за действиями людей или понять их я не мог, но по четкости и взаимодействию было ясно, что работает слаженный коллектив.
Внезапно все остановились и устремили взгляды вверх, сквозь кристально прозрачный купол. Далеко-далеко, на фоне густой черноты, сияла одинокая звезда. Вот она мигнула в последний раз и погасла.
Раздались крики, все показывали наверх. Седобородый воскликнул:
— Это невозможно!
— Что, сэр?
— Я...
В эту секунду изображение потонуло в черноте.
— Хватит, — сказал я. [...] Кое-какие исходные данные у нас есть. Во-первых, Вселенная погибла при попытке наполнить ее энергией из гиперпространства.
Ну так и флаг им в руки)) Кто физиков не повыгоняет - скорее всего в выигрыше останется)) Ибо наука (экономика с математикой особенно) - это деятельность людей для людей) Чтобы развивать уже в системах ИИ математические науки - нужны люди, которые все понимают, способны правильно задать вопросы, способны понять что им выдал ИИ, перепроверить, и дальше два параллельных пути: отправка результатов ниже, практикам, для применения в технологиях и промышленности, и движение дальше по науке: новые вопросы для ИИ, новые результаты, осознание, и так до бесконечности))) Кто это не поймет - рискует получить резкий скачок в моменте, но.... когда спустя несколько поколений развития ситуация потребует разобраться (когда что-то пошло не так и результаты ошибочные) - разбираться, чтобы найти ошибку и начать снова с того места, будет некому))
Грубо говоря, в выигрыше останется лишь тот, кто будет и дальше четко и трезво осознавать что ИИ - это просто еще один инструмент в руках людей, а не замена людям))
“посвященных математическому reasoning”
Смотря какой fabric, смотря сколько details…
Кто является лидером области, тот и терминологию устанавливает.
Главное чтобы модель могла сделать правильный элайнмент с нашими кор-вальюс, иначе какой смысл в этих бриллиантовых майлстоунах))
Нашли десяток маргинальных задач, которые можно было решить перебором, натравили на них кластер на пару месяцев и выдали за торжество ИИ))
Эх, вот математики тупые - не догадались что эти задачи можно просто решить перебором. А ведь могли сразу вам написать, вы бы им подсказали.
Вариант, что эти задачи были математикам тупо не особо интересны, Вы в рассмотрение не включаете?
Это вопросы существования счетных групп то математикам не интересны? Веша, читай лучше дальше анекдоты - математика, ии, программирование, это все не твое, не мучай себя.
На самом деле, многие задачи и человеческими математиками решаются нахождением каких-то совершенно невообразимых примеров или контрпримеров. Что не удивительно, это в основном молодые математики, которые могут потратить огромное количество времени на задачи, которые непонятно как решать. Потом все остальные офигевают, как вообще до такого можно было додуматься.
Начиная с Рамануджана, который (пока что) на несколько порядков уделывает LLM-ы по нахождению безумных тождеств (и решению проблем, похожих на эту), и кончая классикой жанра - нахождением безумной вспомогательной функции для решения задачи о упаковке восьмимерных сфер (https://arxiv.org/abs/1603.04246). По таким прорывам можно писать отдельный обзор (я, навскидку, могу без гугла около десятка вспомнить).
Так что я скорее сошлашусь с комментаторами, утверждающими, что LLM тут решает задачи, которые и человекам под силу, просто до них пока никто не добрался. Тут интересный вопрос, можно ли будет такое поставить на поток в стиле Рамануждана.
OpenAI заявила о 10 математических прорывах: достижения новой модели Astra