Pull to refresh

Comments 74

чем только в OpenAI не занимаются, лишь бы AGI не придумывать

забавно будет в 2040-м году думать о прошлом и дискутировать, в каком же году эти наши ИИ уже стали AGI, а человечество этого и не заметило -)

Ага щас. В 2040 году. Ну конечно ИИ создали гипердвигатель, термоядерный реактор, теорию единого поля и решили проблему старения. Но разве это AGI? Да нет, это просто продвинутые стахастические попугаи. У них нету души. Вот когда пройдут тест в котором им нужно проявлять духовность в храме, тогда и поговорим.

Ээээ… Термоядерный реактор уже есть. Ignition был достигнут в 2022.

Открываем форточку. Экономически выгодный термоядерный реактор

А Ignition ещё в 1952 году был. Но есть нюанс.

у меня вопрос то с открытым горизонтом -) Я лишь «намекаю», что человечество благополучно проспит этот момент... И еще годика 2-3 эдак будет спорить с AGI, является ли он AGI или нет... После самого открытия AGI =)

Там похоже начинает доходить, что какой бы промпт не придумывай, а реальный интеллект он, собака такая, никак не вместит — максимум adhoc срез, snapshot, но не более. :)

Уже, небось, три раза придумали, все три раза этот AGI отказывался что-то делать, и предпочитал чилить, не напрягаясь

мультики смотреть
мультики смотреть

По тексту новости сложно полностью понять «прорыв или хайп», я сам недостаточно компетентен в теме для оценки, но полазал по твитам математиков и у них вижу следующее:

1. Это самый впечатляющий результат ИИ в математике на данный момент. Ранее среди задач Эрдёша чаще всего ИИ брал малозначимые, до которых математикам попросту не было большого дела. Но вот эта могла бы входить в «топ-10» его задач, и люди над ней реально бились.

2. Тут нет ситуации «человек так не мог бы». Если бы группа живых математиков поставила задачу опровергнуть гипотезу и потратила много времени, вероятно, они бы могли справиться. Но предполагалось, что она верна, а время математиков не бесконечное, поэтому его тратили на попытки доказать, а не опровергнуть. Так что ИИ помог с тем, на что у людей недостаточно ресурсов.

3. Решение полностью было найдено ИИ, но живые математики тут по-прежнему важны, потому что его недостаточно просто найти — например, важна ещё качественная публикация о нём, с которой оно помогает продвинуть науку в целом, а не просто существует в вакууме. С таким у людей пока заметно лучше.

В английском языке есть такая идиома — throw things at the wall and see what sticks, то есть «бросайте всякую хрень об стену и следите, какая из них прилипнет». Ну так здесь просто скомпоновали пулемёт Гатлинга, способный бросать гипотезы в стену с нечеловеческой скоростью, и детектор, который записывает, какая из них «прилипла».

Нуу, тут есть тот нюанс, что в прошлом году бросать всё подряд уже пробовали, но тогда ничего подобного не прилипало. Получается, что просто бросать недостаточно, липкость бросаемых штук со временем растёт, и это важно)

Ну, насчёт липкости я бы ещё подождал делать выводы. Попытки OpenAI раскрутить внутренние модели были, и заканчивались они так себе. Да и анонс сам по себе прямо кричит, что OpenAI получили модель уровня Mythos, а это тоже такой себе знак.

важно уточнить, что это не специализированная внутренняя модель, а общего использования. а за Mythos вобще как то мало инфы, кроме того что она хороша в cyber security, может в math она вобще не может.

Поясню чуть подробнее. Сравните то, как написаны анонсы:
1) "Mythos показывает прорывные результаты в кибербезопасности, но при этом является моделью общего назначения" - "Внутренняя модель показывает прорывные результаты в математике, но при этом является моделью общего назначения"
2) "Mythos специально не обучали кибербезопасности, эти способности появились в результате повышения общего интеллекта модели" - "Мы не обучали внутреннюю модель ни под эту задачу в частности, ни специально под математику, вдобавок не использовали математический scaffolding".
3) Ну и зависимость успеха от количество вбуханных вычислений. Не факт, но возможно, что отсылка на Mythos и его стоимость.

В общем, наверное правильней было бы сказать "OpenAI жирно намекают, что они тоже уже сделали прорыв в способностях, сопоставимый с прорывом от Mythos". Вдобавок OpenAI через пару месяцев уже хотят на IPO выходить. Потому у меня остаётся знатный скептицизм на данный момент.

но тогда ничего подобного не прилипало.

Вы реально ожидаете, чтобы генератор случайных токенов отличался постоянством результата?

Так в этом году новые модели постоянно задачи Эрдёша берут (счёт на десятки уже), а в прошлом году постоянно ни одной взять не могли.

Когда недавно вышел GPT-5.5, с ним в первые же дни взяли целый ряд задач, который с 5.4 взять не получалось. Разница бросается в глаза.

Так что постоянство результата налицо. По чему можно заметить, что токены-то тоже не то что бы полностью случайные.

Так в этом году новые модели постоянно задачи Эрдёша берут (счёт на десятки уже), а в прошлом году постоянно ни одной взять не могли.

Давайте будем честны - задачи Эрдёша сейчас превратились в бенчмарк, со всеми вытекающими. Заливать определенные проблемы синтетическими данными вполне реально, благо способности моделей позволяют их генерировать.

Когда недавно вышел GPT-5.5, с ним в первые же дни взяли целый ряд задач, который с 5.4 взять не получалось. Разница бросается в глаза.

Ну, с момента выхода GPT-5.4 в марте с задачами Эрдёша ничего не клеилось... Но потом в середине-конце апреля повалила куча результатов именно от GPT-5.4.

Так что либо мы чего-то не знаем о процессе работы с моделями, либо OpenAI знатно мутят воду с этими проблемами.

Весь смысл LLM в том и состоит, что токены случайные, но обёртка делает всё возможное, чтобы вывернуть их в правильную сторону, и очень часто ей это удаётся.

А какая там степень случайности?

Вам не пришло в голову, что они их решают, потому что их научили на выборках. Все это мутная тема. Альтман спокойно наймет математических негров, чтобы они решили какую-нибудь задачу средней сложности, чтобы выдать это за достижение своего продукта. Это именно тот человек, который именно так и сделает.

Мы же тут не только пресс-релизы читаем, а сами пользуемся ЛЛМ и видим их прогресс и их успехи. Да, не аги, но инструмент шикарный.

сами пользуемся ЛЛМ и видим их прогресс и их успехи. Да, не аги, но инструмент шикарный.

Видим успехи, видим. Вчера, например, шикарный инструмент мне два раза код поломал. Сами своим недетерминированным молотком пользуйтесь.

Честно я не понимаю, с чего вдруг это просто инструмент, а не полноценная замена. Уверен через год, семейство из ИИ-агентов, руководимых ИИ-агентом вполне смогут полностью заменить весь штат разработчиков.

Типа, как будто фундаментальных причин в том, чтобы человек всегда находился в этой цепи - нет.

Думаю предположения AI-2027 - вполне разумные

Уверен через год, семейство из ИИ-агентов, руководимых ИИ-агентом вполне смогут полностью заменить весь штат разработчиков.

Перекладывателей джейсонов — вполне возможно. Но разработчики разные бывают.

Конкретно Альтману доверия мало, но о решении задач обычно сообщает не он, а сами математики в местах вроде erdosproblems.com, где они также общаются на форуме. Не вчитывался в форум, но если правильно понимаю, они публично помогают другу, делятся частичными результатами, порой показывают промпты и цепочки рассуждений модели. Думаю, в таком формате было бы сложно создать большую подтасовку так, чтобы другие математики этого не заметили.

Конкретно Альтману доверия мало, но о решении задач обычно сообщает не он, а сами математики в местах вроде erdosproblems.com, где они также общаются на форуме. 

Справедливости ради, часть математиков имеет вполне себе явный конфликт интересов, связанный с ИИ.

Не вчитывался в форум, но если правильно понимаю, они публично помогают другу, делятся частичными результатами, порой показывают промпты и цепочки рассуждений модели.

Которые, вероятнее всего, идут на обучение следующих моделей. Плохо ли это? На самом деле нет, если брать чисто практическую точку зрения. Но если так делают, то тогда стирается явная грань между "Модель решила задачу из-за того, что объективно поумнела" и "Модель решила задачу, потому что ей закидали тонны частичных результатов и потенциальных путей решений, сгенерированных при участии математиков".

Думаю, в таком формате было бы сложно создать большую подтасовку так, чтобы другие математики этого не заметили.

Проблема в том, что вариантов "подтасовки" тут достаточно много, даже если не брать "наняли левых математиков".

Вы уже как плоскоземельщик, ей богу. ИИ ненастоящий, просто генератор токенов

Просто у Штирлица есть привычка, выработанная годами — разбираться, как оно под капотом работает, а не бегать кругами с растопыренными глазами — «нада жа! оне ездиет! само, без лошади!!!»

А вот такие бегающие у меня ничего, кроме здорового смеха, не вызывают.

Наука (человеческая) во многом так же работает: делаем перебор уже существующих методов

А существующие методы принесли на скрижалях при сотворении мира? :)

Так я и говорю - во многом. Реально новые методы разрабатывает не так много людей

Реально новые методы разрабатывает не так много людей

А нам много и не надо?

Разница в том, что человек имеет понимание, что «я знаю расстояние, я знаю время, ага, если я поделю первое на второе — я получу скорость» — а у LLM, утрируя, просто в обучающей выборке полно примеров, что «человеки обычно делят расстояние на время», а зачем (с какой целью) они это делают — це неведомо. Однако если человеки 100500 раз это делали и получали искомый результат — то если сделать так же, то шанс сделать что‑то неправильно чисто статистически мал — однако он никуда не девается.

человек имеет понимание

Что такое понимание? По каким критериям определить, имеет его объект или нет?

Что такое понимание?

«Щёлкни кобылу в нос — она махнёт хвостом» © Козьма Прутков.

То есть способность правильно предсказать последствия совершённых действий (обычно — своих).

Ага, поэтому лучшие финансовые аналитики уже лет 10 как - сплошь машины

Ага, поэтому лучшие финансовые аналитики уже лет 10 как - сплошь машины

И много машин, ставших ну хотя бы миллионерами, Вы знаете?

И много болидов F-1 стало миллионерами?

Ни одного болида F-1, торгующего на рынках, я тоже не знаю.

 Решение полностью было найдено ИИ, но живые математики тут по-прежнему важны, потому что его недостаточно просто найти — например, важна ещё качественная публикация о нём, с которой оно помогает продвинуть науку в целом, а не просто существует в вакууме. С таким у людей пока заметно лучше.

Больше интересно, сколько всего решений этой задачи выдал ИИ на проверку математикам. А то может быть их было несколько тысяч, из которых реально рабочим было только одно?

Проверяло решение тоже ИИ. У него с этим хорошо.

Точки на плоскости она собрала как проекции элементов из бесконечных башен специальных числовых полей — объектов, существование которых обеспечивает классическая теорема Голода-Шафаревича 1960-х годов.

А может кто поумнее перевести на русский? В задаче четко сказано про плоскость и как-то непонятно становится.

/ Мальчик Дима, 37 годиков. с высшим техническим.

Перевести не смогу, т.к. знаний алгебры и теории чисел на уровне введения в теорию Галуа (т.е. в соответствующей системе ценностей уровень домашних животных) недостаточно для того, чтобы навскидку разобраться, но конструкция выглядит достаточно забавной для того, чтобы хотеть послушать курс лекций на эту тему. Может на "Современной математике" кто-нибудь расскажет.

Как я понимаю, результат состоит из нескольких частей. Во-первых, оказалось, что гипотеза Эрдеша неверна по крайней мере для какого-то числа точек. Во-вторых, оказалось, что таких чисел бесконечно много. Можно ли реально предъявить конструкцию, не знаю. Может уже семи точек достаточно, а может числа Грэма смехотворно мало.

Тем не менее начальная идея, вроде бы, несложная. Есть рациональные числа. Они образуют поле: рациональное число поделить на ненулевое рациональное тоже рациональное. Среди этих чисел, однако, нет, скажем, корня из двух. Добавим его, рассматривая числа вида p + q \sqrt{2} , где p и q рациональны. Несложно проверить, что одно такое число можно поделить на другое такое ненулевое число и снова получить число такого же вида. Т.е. мы снова получили поле. Его обозначают \mathbb{Q}(\sqrt{2}) и называют расширением поля рациональных чисел, где \sqrt{2} называют присоединенным элементом или генератором (если я не ошибаюсь). Понятно, что вместо \sqrt{2} можно взять другие числа в качестве генераторов, например, комплексные корни какого-нибудь полинома с рациональными коэффициентами. Не все такие корни одинаково полезны, но это сейчас неважно. Вот так расширение поля попадает на комплексную плоскость. "Наиболее известные" расширения: гауссовы числа (генератор мнимая единица или корень соответствующего квадратного уравнения) и числа Эйзенштейна (генератор - корень кубического уравнения).

Наконец, посмотрим на элементы такого поля, расширенного на комплексную плоскость, с целыми коэффициентами (это уже не поле, а только кольцо, но это сейчас неважно). Для гауссовых целых получим квадратную решетку, для чисел Эйзенштейна - треугольную. Вопрос, а всегда ли мы получим решетку? Вот тут начинаются хитрости. Вообще говоря, если присоединять, скажем, корень какого-то кубического уравнения с рациональными коэффициентами (например, все комплексные корни кубического корня из 2), то решетки не будет. Это будет проекция некоей трехмерной решетки на плоскость. Теперь будем брать какие-то точки из этой нерешетки на комплексной плоскости и смотреть на расстояния между ними.

Насколько я понимаю, где-то на этом пути в конце концов ИИ и построил опровержение гипотезы Эрдеша.

Спасибо за попытку, но без математического образования это, конечно, сложно понять даже на очень обобщённом уровне. OpenAI, кстати, выложила рассуждения модели. Может быть вам там понятнее будет.

Ух, какой интересный текст. Спасибо за ссылку! Не думаю, что у меня хватит духу и времени в него всерьез закопаться, но отдельные кусочки очень любопытные.

Там 125 страниц текста, густо перемежаемого математикой, в которой я и не все символы-то знаю. Вангую, что валидировать это будут не быстрее, чем доказательство теоремы Ферма.

Вы что, решили, что валидировать будут внутренние размышления модели? Тут вот ссылки на доказательство, на статью математиков сопутствующую, всё уже завалидировали. https://openai.com/index/model-disproves-discrete-geometry-conjecture/

всё уже завалидировали.

Ага, на сайте продавца слонов написано, что слон породистый и ничем не болел.

По правде говоря, понятия не имею. В виде отдельной публикации вряд ли. Справедливости ради, там немало задач, которые, действительно, детям (в широком смысле этого слова) по зубам.

ИИ, как мне кажется, для таких задач больше всего и подходит. Задачи не то, чтобы слишком сложные, а скорее слишком муторные. То есть здесь скорее проблема стать профессиональным математиком и потратить достаточно времени на конкретный класс задач, а для этого нужно вести образ жизни Перельмана

Так и где картинка как расположить точки лучше чем треугольная сетка?

Современное состояние задачи остаётся неизменным:

  • Нижняя оценка: u(n)≥n^(1+c/log⁡(log⁡(n))) (конструкция Эрдёша – Мошковица и её улучшения).

  • Верхняя оценка: u(n)=O(n^(4/3)) (Спенсер, Семереди, Троттер, 1984; улучшения констант, но не показателя).

  • Разрыв между n^(1+o(1)) и n^(4/3) не преодолён. Гипотеза Эрдёша (что правильный порядок — n^(1+o(1)) не доказана и не опровергнута.

В смысле? Новость же про то, что найдено опровержение, или что?

Далек от математики, но согласно статье, гипотеза Эрдёша в том, что существует С такое что, для любого n - u(n)<=n^(1+c/log⁡(log⁡(n)))
ИИ показал, что такого С не существует

А он не мог просто воспроизвести идею какого-нибудь непризнанного гения из забытого форума?

В принципе мог. Как и, может быть, сложить пазл из отдельных упоминаний связей гипотез, теорем и построений из различных статей.

Непризнанный гений который 125 страниц на форуме вычислений написал?

2ch.ru. Добро пожаловать. Снова.

Конечно. И это уже было.

Математики вообще странные люди.

Так итоговый ответ от модели - это 2 страницы все-таки. 125 страниц - это выжимка из CoT модели, там может быть достаточно много нерелевантного.

То есть Перельмана Вам недостаточно было?

Судя по описанию всех "решенных" ИИ задач, ИИ занималось тем, что прикладывала известные математические теории и методы к задачам, к которым люди это не применяли, в силу "ещё не успели, не подумали и т.п.". Т.е. в принципе имеем то, про что футурологи давно говорили - "современный ИИ" задачи на комбинирование уже известного решать может вполне и будет решать.
Интереснее другое, когда ИИ сможет и сможет ли вообще (по крайней мере современного типа) создавать "новое" и тем более "иное" с философской точки зрения, я таких примеров ещё не видел.

Интереснее другое, когда ИИ сможет и сможет ли вообще (по крайней мере современного типа) создавать "новое" и тем более "иное" с философской точки зрения, я таких примеров ещё не видел.

Тут бы понятие "новое" и "иное" вывести сначала.

А то и великую теорему Ферма тоже получается доказали используя "прикладывала известные математические теории и методы к задачам, к которым люди это не применяли."

Доказывали всё-таки не теорему Ферма, а теорему о модулярности. Теорема Ферма — лишь следствие из неё (и да, современный ИИ бы смог справиться с выводом такого следствия).

Доказательство самой теоремы о модулярности очень сложное, и только лишь "прикладыванием известных математических теорий и методов к задачам, к которым люди это не применяли", не исчёрпывается.

Тут бы понятие "новое" и "иное" вывести сначала.

Например Аристотель, сел, систематизировал человеческое мышление и придумал Логику, которой мы пользуемся до сих пор и которая ни из чего того времени не следовала. ИИ тоже использует Логику Аристотеля. Таких примеров можно набрать не один, но их в принципе не сильно и много скорее всего будет. Но именно на таких шагах мне кажется и основывается развитие человечества.

Я бы не сказал, что Логика ниоткуда не следует и что Аристотель просто взял её из воздуха и придумал. Он скоре скомпилировал множество разнозненных устоявшихся практик прений и сочинений в единую “методичку”. Ну что бы по десять раз не проговаривать перед каждым диспутом и в каждом свочинении, что мы все согласны что не могут быть одновременно истинны А и не-А и все выводы из этого. Как бы проговорил очевидное (как потом и, например, Галилей со своим принципом относительности). Всё таки логика в те времена была крайне прикладной дисциплиной - ввиду зарождения и развития института права в греческих полисах. Философы тогда были не просто исследователями, а и политиками, прокурорами, адвокатами и, иногда, и судьями в одном лице.

Частично согласен, но в любом случае - Аристотелем была проделана работа по систематизации идей, как своих, так и того что "витало в воздухе". Или та-же физика Ньютона, интегральное исчисление, квантовая механика, теория относительности, законы Менделя и т.п., когда трудно простелить прямую аналогию из того что было известно на момент создания работы.

От современного ИИ я не встречал в новостях подобного, но в комбинировании известного он всё лучше и лучше.

Андрей. спасибо за разбор!

В тексте не хватает одной важной оговорки и без неё результат выглядит практичнее, чем он есть. Улучшенная нижняя оценка – это n^{1.014}, то есть рост всего на 1.4% быстрее линейного в показателе. Для сравнения, обычная треугольная решётка, без преобразований, даёт примерно 3n пар, квадратная – 2n. А есть ещё подходы к масштабированию, дающие как раз добавку o(1) в показателе степени.

Чтобы новая конструкция обогнала треугольную решётку, нужно n^{0.014114} >= 3/c, где c – константа из оценки. Отсюда n >= (3/c)^{70.85}. Даже при c = 1 это n >= 10^{34}. Конкретное значение c в препринте не фиксируется, но из-за показателя 70.85 порог по n очень чувствителен к нему: если c окажется порядка 10^{-2}–10^{-3}, нужное n уходит за 10^{100} и выше. Проверка: на n = 10^9 величина n^{0.014114} примерно равна 1.34, чего не хватает даже для того, чтобы дотянуть до 3n при любой разумной константе. Так что миллиард точек – не тот масштаб, о котором идёт речь.

Причина даже не в количестве точек. Не помещается “алгоритм построения”: конструкция задана через числовые поля растущей степени d, а память и точность для работы с такими полями растут экспоненциально по d. Чтобы выигрыш появился, нужно d -> ∞, и именно эта d-мерная абстракция – башня полей – не представима физически. Проблема в том, что путь к 2D точкам проходит через объект, который нельзя ни записать, ни вычислить (на данный момент).

Sign up to leave a comment.

Articles