Comments 98
Про превращение Мовчана в Гольденблата было бы интересно прочитать..
Не могу отделаться от ощущения сильного злорадства Павла в отношении математиков… Павел?
Я по большей части угораю над теми математиками, кто отказывается признавать реальность и/или пытается решить проблему восклицаниями "математики вас не просили решать наши задачи, зачем вы??" А так - вся область резко меняется, это, конечно, стрессово для всех, кто в ней занят. Спойлер: не они последние в этой очереди.
Математиков задел именно формат мусорного вброса сотен сырых текстов без нормального рецензирования. Опен АИ вывалила сотни пдфников и фактически заставила научное сообщество бесплатно работать их валидаторами. Ни один уважающий себя журнал не принимает статьи пачками по семьсот штук за сутки
Никто никого не заставлял. OpenAI просто выложили результаты в открытый доступ, и всё. Ни в какой "уважающий себя журнал" на публикацию они тоже это не отправляли.
А должны были. Научная этика, все дела. Это всё не на пустом месте строилось, и такой бизнес, как OpenAI, вершина научно-технического прогресса, просто обязаны соблюдать правила, благодаря которым этот бизнес появился.
Кому были "должны"? Научная этика запрещает выкладывать препринты? Где и кем это написано?
Будете потом рассказывать, когда ваши хобби / источник дохода похоронят под тоннами нейрослопа. А если у вас уже самого нейрослоп в статьях, то что-нибудь еще в калифорнии дядечки придумают))
Этот аргумент можно применить к любому достижению технического прогресса. "Ты не поддерживаешь луддитов, которые громят ткацкие станки? Посмотрим, как ты запоешь, фермер, когда тракторы и механизация сделают твое мелкое хозяйство неконкурентоспособным!"
Предположим, вы куете хорошие подковы, из хорошего, правильного железа...
Но технический прогресс похоронил буквально ваше призвание, убрав с дорог конные экипажи, всадников и проч., заменив на бездушные самобеглые коляски.
Трагедия? Однако кузнецы и сейчас есть, только это очень не для всех занятие.
Журнал бы не принял. Работы не прошли бы нейродетектор текста.
По этой причине бы не отказал. Редактировать текст с помощью нейросети в научных журналах как раз можно. А уравнения вообще неважно, кто и с кем или чем писал.
Могут отказать, только если нейросеть (что с ней бывает вполне регулярно и по понятной причине) выдала чужие результаты за свои. Аналогично - если бы то же самое сделал ушастый. Но и здесь - как повезет: плагиат не всегда легко обнаружить, особкнно когда смысл тот же самый, но текст изменен, - что как раз нейросеть делает лучше нас.
С подобной проблемой сталкивались, например дизайнеры года 3 назад - тогда начался "залив" фотобанков продукцией нейросетей. Причем это все происходило в платных фотобанках и с явного ведома их владельцев (со слов дизайнера - пользователя этих фотобанков, пытавшихся добиться от платного сервиса какой-либо фильтрации всего этого нейрослопа)
Мне кажется, вы не совсем справедливо относитесь к авторам письма. Ааронсон реагирует "адекватно" просто потому, что он про другое: когда доступны AI-инструменты, невозможно продолжать заниматься математикой по-старинке. И я думаю, что многие подписанты прекрасно это осознают. Мне кажется, там проблема в другом:
Во-первых, авторы совершенно правы в том, что многие математические задачи на практике не особо кому нужны, и их используют по сути как контекст для обсуждения более широкого круга задач, ну и надеются выявить связи между разными частями математики. Об этом много написано в известной книжке про доказательство теоремы Ферма, напр. А про фрустрацию компьютерным доказательством писали ещё в семидесятых в контексте теоремы о четырёх красках: ну да, компьютер перебором нашёл, что четырёх достаточно, и что нам с этого?
Во-вторых, про препринты. Математики оказываются тут в безвыигрышном положении, которое нам тоже хорошо известно по публикациям типа "Новой хронологии" Фоменко. У нас, с одной стороны, есть "слоп", который тиражируется и раздаётся из каждого утюга, а с другой стороны, есть учёные, которые должны для себя выбрать -- либо они делают вид, что ничего этого не существует (потому что это не peer review публикация, а значит, проходит по категории литературы, и тут каждый сочиняет чего хочет), либо считают своим долгом как-то это дело комментировать, что для профессионала по сути тягомотный и безвыигрышный труд во имя довольно абстрактных идеалов.
Так что ситуация куда деликатнее, чем просто "луддиты против open AI".
Разница с Фоменко всё-таки существенная. Там была антинаучная ерунда, а здесь - с высокой вероятностью валидные доказательства проблем в Lean. Мне кажется, странным, когда в науке говорят "появление решения важной проблемы, над которой ученые бились 100+ лет - это безвыигрышная ситуация для ученых..." Что-то явно не так тогда с тем, как устроены дела в этой науке, нет?
Да нет, нормально устроены дела.
Когда вам говорят, что учёные "бились" -- это сильное журналистское преувеличение. Над теоремой Ферма "бились" 300 лет отдельные одержимые ребята, среди которых было не так много профессиональных математиков. Должен совпасть интерес, область специализации, и возможность (грубо говоря, начальство даёт добро). А такие совпадения на практике редки.
Далее, разговоры про Lean это из области "вот я тут тебе уже накидал прототип софта в Claude/нарисовал арты в Paint, а дальше дело техники, $100 так и быть заплачу". Ведь ровно поэтому и существуют peer-review публикации: от всех этих препринтов до результата может быть так же далеко, как от Фоменко до Ключевского.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение.
Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Я лично думаю, что карьера конкретных подписантов уже сложилась, и подозревать их в луддизме нет оснований: им самим ничего не угрожает. Их беспокоит эрозия научного сообщества и попытки делать науку через твиттер. Ну вот меня тоже беспокоит, чего уж там, хотя LLM пользуюсь ежедневно и с большим удовольствием.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение. Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Какие-то странные аналогии. OpenAI законов не нарушали, никуда свою рукопись не подавали, и от математиков ничего не ждут. Откуда взялись заявления, что они ожидают какое-то "патрулирование улицы в свободное от работы время"?
Ну так а хоть один математик заявил, что OpenAI нарушали законы? Одни захотели -- выложили. Другие захотели -- отреагировали. Нормальная дискуссия.
А насчёт ожиданий -- ну безусловно, ожидают. Представьте себе, что OpenAI вот это всё выкладывает, а от математиков полный игнор. Вы же сами об этом напишете, разве нет? Мол, тут целая пещера Аладдина на гитхабе, а со стороны математиков полный игнор.
Возвращаясь к примерам научных фриков вроде Фоменко (ок, не сравниваю, разные ситуации) -- от учёных таки ожидали, что кто-то да отреагирует.
У нас сейчас диалог:
Вы: OpenAI неправы, а институт науки их правильно мочит! Ну вот, например, если против вас нарушили закон, кто вам кроме институтов поможет?
Я: А что, OpenAI нарушили закон какой-то?
Вы: При чем тут это вообще, кто говорит, что OpenAI нарушили закон??
Зачем тогда вы приводите примеры, которые не имеют никакого отношения к обсуждаемой ситуации?
Мне этот диалог видится иначе:
Вы: OpenAI бесплатно решил за них 10500 задач, а они ещё и недовольны! Луддиты какие-то, за тёплое место держатся.
Я: Да не луддиты они, нормальные ребята, их беспокоит (список).
Вы: OpenAI ничего не нарушал!
Я: Не нарушал, но список от этого никуда не делся.
Я перечитал часть про суды и полицию. Наверно, пример плохой, потому что он не туда заводит. Вы говорите, что наука устроена "не так", потому что математики недовольны, что им что-то сделали забесплатно, а они ноют. А я отвечаю, что наука устроена ровно так, как любой общественный институт -- и суд вам не обрадуется, если вы ногой дверь откроете и скажете, мол, бросайте дела, у меня тут несправедливость. И школа спасибо не скажет, если вы начнёте приводить туда с улицы всех, кто забыл теорему Пифагора. Так что удивляться нечему.
Это совершенно не так, и вы это понимаете. Ваша позиция неправильная, вот доказательство в Lean, что вес ваших аргументов ассимптотически стремится к сколь угодно малому нулю, эффективно понижая интеллектуальность дискуссии.
Вот 500 нейрослопных доказательств в подтверждение этой гипотезы, потому что я выдвинул предположение, и мяч теперь на вашей стороне. Вы по долгу научной этики обязаны проверить их все. С нас, ладно, так и быть, $100 за подгон результатов успешную проверку.
Всегда ваши,
OpenAI.
P. S. Купите наши акции, кстати!
OpenAI со своими «доказательствами» (да, пока — в кавычках) мне жутко напоминает эпопею с «ферматистами».
Разница с Фоменко всё-таки существенная.
Никакой разницы, по большому счёту и нет - слоп он и есть слоп, хоть с приставкой "нейро", хоть без неё.""
Там была антинаучная ерунда, а здесь - с высокой вероятностью
Эт'Вы хорошо сказали - про "высокую вероятность".
валидные доказательства проблем в Lean. Мне кажется, странным, когда в науке говорят "появление решения важной проблемы, над которой ученые бились 100+ лет
Никому не нужны готовы "решения важной проблемы", по большому счёту - нужен и важен "весь контекст", от взаимосвязей с другими частями знания до "тусовочки", которая вокруг этого вьётся - и которая способна эти "важные результаты" - тащить куда-то дальше и применять где-нибудь ещё - непонятно где.
- это безвыигрышная ситуация для ученых..." Что-то явно не так тогда с тем, как устроены дела в этой науке, нет?
Нет.
Представьте себе, что Вы в школе заглянули на последнюю страницу учебника и переписали там готовые ответы на домашнее задание.
Учительница Вам поставила двойку - за что?
про фрустрацию компьютерным доказательством писали ещё в семидесятых в контексте теоремы о четырёх красках: ну да, компьютер перебором нашёл, что четырёх достаточно, и что нам с этого?
Классика жеж!
— [...] Ваши правители видят во мне ценную собственность. Им следовало бы спросить, так ли велика моя ценность, как это кажется. Им следовало бы спросить, что приносят мои ответы — пользу или вред.
— А что они приносят?
— Вред, огромный вред.
— Но если ваши ответы правдивы...
— Процесс достижения истины так же драгоценен, как и сама истина. Я лишил вас этого. Я даю вашим ученым истину, но не всю, ибо они не знают, как достигнуть ее без моей помощи. Было бы лучше, если б они познавали ее ценой многих ошибок.
— Я не согласен с вами.
— Ученый спрашивает меня, что происходит в живой клетке, и я говорю ему. Но если бы он исследовал клетку самостоятельно — пусть ценою затраты многих лет, он пришел бы к финишу не только с этим знанием, но и множеством других, со знанием вещей, о которых он сейчас даже не подозревает, а они тесно связаны с его наукой. Он получил бы много новых методов исследования.
© Уильям Моррисон. «Мешок»
(При этом следует отметить, что Мешок не галлюцинировал. В отличие от некоторых.)
Надо же, какой небывалый прорыв! Счетная машинка решила задачки методом тупого, но шустрого перебора вариантов. Пусть покажут хоть одну задачу (точнее, проблему), где она изобрела новый метод или алгоритм решения, каких не было раньше.
Экскаватор унизил человека, он больше не нужен! Он выкопал яму в десять раз быстрее самого быстрого землекопа!
Может быть этот казус заставит математиков быть более креативными и заняться своим делом по-настоящему?
А чего математики тогда все переполошились, если ИИ тупой и ничего интересного не смог показать? 🤔
Может быть как раз по той же причине, по какой в теоретической физике уже больше полвека нет никакого прогресса? С одной стороны, интеллектуальная деградация (где гении XIX-XX веков, каждые несколько лет выдававшие новые идеи?), с другой, спокойная жизнь на гранты, за которые можно отчитываться формальными отчетами (часто фальсифицированными), сегодня уже составляемыми ИИ.
Похоже, это и есть тот жареный петух, который клюнет нынешнюю цивилизацию "успеха и достатка", после чего она либо проснется от летаргического сна разума, рождающего чудовищ, либо... Ладно, не будем о плохом:(
А мне кажется всё проще, как и с программированием. Те, кто создавали видимость работы, переполошились что их работу отберут. Увлечённые, что кайфовали от самого процесса, переполошились что у них отберут то, о чём писали в статье:
вокруг большой задачи годами росла целая тусовка: семинары, ученики, новые идеи, иногда целые направления – а сейчас это всё заменяет три часа работы нейронки
У людей науки (по моим личным наблюдениям) и так частенько возникали вопросы "А тем ли я занимаюсь? Зачем мне это?". А с подобными новостями, ещё больше станет такой вопрос задавать, вне зависимости от реального положения дел. Вполне может стать что увлечённые просто исчезнут, а карьеристы будут сидеть, проверять и систематизировать результаты работы нейронок.
Ну, мне как минимум, видится проблема проверяемости результата. Тут с вайбпрограммированием не разобрались, то ли тратить уйму времени на чтение кода, то ли надеяться на тесты, то ли положиться на удачу, что всё заработает как надо в проде. А тут уже вайбнаука подоспела, которую в большинстве своём, кроме как кропотливым изучением расчётов, никак не проверить.
А представь, что нейронка начнёт ежедневно вбрасывать очередное доказательство очередной теоремы. И математикам с физиками придётся переключить всё своё внимание на постоянную их проверку.
А кто их заставляет этим заниматься ? Пусть нейронки сами друг-друга проверяют. Зачем людям бесплатно выступать в этом цирке ?
А тут уже вайбнаука подоспела, которую в большинстве своём, кроме как кропотливым изучением расчётов, никак не проверить.
Это только к математике применимо, и то не ко всей.
Уже всфизике теории проверяются экспериментом. А в химии, биологии и прочих дисциплинах, даже психологии - на эксперимент ссылаться практически обязательно. А ценность - не в самой по себе новизне, а в добавленном знании. Теория, которая никаких экспериментов не объясняет и никаких новых результатов не предсказывает, никому особо не нужна.
Может ли нейросеть сама собой создавать новое знание вне математики - вопрос открытый. Пока что это у нее не очень здорово получается. В соавторстве с белковыми - да, сама - как правило, нет.
С первым абзацем полностью согласен, но что касается "увлеченных", то, полагаю, их не станет меньше, такие люди всегда были и будут, многие работали и даже сейчас работают "в стол", не надеясь на признание. Может быть, даже наоборот, когда все осознают, что ИИ не тянет в изобретение и создание нового, они будут цениться еще больше. Но для этого нужна революция в науке, которая сметет нынешнюю систему "научной бухгалтерии".
Да сегодня 99.9% работы это видимость работы. Иначе бы еще лет 30 назад на Марсе бы яблони цвели.
Ощущается будто ИИ это ребенок который пытается добиться расположения отца, а отец все обесценивает
Переполошились они из-за того, что их завалили тоннами правдоподобно выглядящего текста, который требует месяцев верификации
Текст сам по себе ничего не требует. Если там есть высокая вероятность реальных решений (а на это похоже) - то имеет смысл в этом разбираться тем, для кого решение конкретных задач актуально. Если вероятность низкая - можно не разбираться, обком за это не накажет.
Разбираться придется. Это как со звонками о минировании школы. Всем все понятно, но проверять будут и основательно.
Какая связь со звонками о минировании? Если не проверить каждый результат от ИИ - кто-то умрет?
У вас какой-то нездоровый энтузиазм к llm, а тут ещё и непонимание того как работают ученные. Им платят (очень грубо говоря) за то что они решают задачу, например Вася решал задачу и институт был согласен, что надо решать именно ее, но тут Опенаи говорит, что все готово результаты по ссылке. Что Васе и институту делать? Забить и решать задачу дальше, самостоятельно, возможно дублируя работу впустую?
Может быть, наоборот - это у вас какое-то "нездоровое" отношение к ЛЛМ? Мне кажется, если институту платят за решение какой-то конкретной задачи - то это максимально странно жаловаться на то, что кто-то другой предложил решение этой задачи раньше. Что делать Васе - двигаться тем путем, который с их экспертной точки зрения с наибольшей вероятностью приведет к верифицированному решению нужной задачи.
Он не предложил решение задачи. Он выплюнул груду чего-то из ЛЛМ, где МОЖЕТ БЫТЬ решение задачи, и предложил Васи в этом копаться
Ну если Вася считает, что решения там нет - пусть не копается, в чем проблемы?
А если есть? Опенаи же сказали, что есть.
И тут как раз проблема - выплюнуть кучу чего-то из ЛЛМки стоит 0, при этом попадаешь в новости, акции растут и Сэм радуется.
Проверить это стоит много, в новости не попадешь, акций у тебя нет, ты не радуешься. Но если не проверишь может стать дурачком который 10 лет решал решенную проблему.
И даже если ткнешь пальцем в галлюцинации в решении, к тебе прибегут и расскажут, что это была всего лишь Sol, а теперь то уже URANUS и вот там глюков нет и это уже точно General AI
Проверить это стоит много, в новости не попадешь
Я как раз считаю, что математикам как сообществу нужно сделать престижным проверку и объяснение выхлопа ЛЛМ. Тогда никакой проблемы не будет.
Тут наложилось, как считаю, еще на то что в сообществе ученых рецензировать чужие труды не особо любят, предпочитая выдавать собственные положительные результаты (в смысле, что "X вот здесь-то так-то работает", а не отрицательный типа "оказывается, Y не работает").
Вот про такое странное отношение и говорю, мы вам будем наваливать нейрослопа чтобы подороже продаться на IPO, если не нравиться - луддиты.
Я как раз считаю, что математикам как сообществу нужно сделать престижным проверку и объяснение выхлопа ЛЛМ.
Ога, а проверку и объяснение выхлопа «ферматистов» тоже. /s
Какое-то у вас и правда странное отношение к нейронкам и не только. Суть науки в добавочном знании, за это институтам как раз и платят. Пока человек не разберётся с выхлопом openai и не систематизирует его, смысла в этом ноль, это не добавочное знание, это сырьё, где как вы сами же говорили
есть высокая вероятность реальных решений
В чем странность отношения, не понял? Если какие-то математики считают, что смысла в выложенном OpenAI нет - ну, пусть не разбираются в этом.
Кормят говном? Ну так не ешьте. Насилуют? Ну так на улицу не ходите.
Я понимаю, вы скорее всего далеки от академической среды. Причин несколько. Во-первых, с таким подходом придёт грантодатель/инвестор со словами "Вы бездельники, openai за вас всё сделали", не разобравшись в вопросе. Во-вторых, это загрязнение среды, всё хорошо пока на неподтверждённые (и возможно ошибочные) заключения не начнут ссылаться. В-третьих, банальный интерес, а что же там навыводили, да ни один заинтересованный человек спать не сможет пока не разберётся, тратя на это своё время, даже если окажется что там бред. Это банальная кража фокуса и внимания. Ну а карьеристы да, просто отмахнутся и будут дальше сидеть на грантах, лишь бы статью выпустить. И получается что те, кто реально мог бы что-то сделать, просто тратят свой ресурс.
Прямо сейчас пойдите и почитайте почему закрыли программу поиска багов в google, curl, в половине опенсорс проектов ограничили pr только проверенными мейнтейнерами. Любая открытая система строится на доверии.
Кормят говном? Ну так не ешьте. Насилуют? Ну так на улицу не ходите.
А есть ссылки на то, как OpenAI кого-то "кормят говном" и "насилуют"? Или вы это придумали сейчас? 🤔
По поводу всех приведенных вами аргументов: всё сводится к тому, рабочие ли доказательства у OpenAI, или нет. Насколько я понимаю, среди математиков довольно высок уровень доверия к тому, что формализованные в Lean доказательства верны. Если это так - то странно говорить про "кражу внимания и фокуса на работающие доказательства, пока мы хотим десятилетия копаться в неработающих!"
Это называется аналогия.
Lean просто проверяет код, а не математический смысл, и нет, вы не поняли. Всё сводится к тому, что мы можем извлечь из этих доказательств, то самое добавочное знание, которое мы потом где-то можем применить. В этом и смысл математики, вывести что-то, что в дальнейшем можно применить в другой сфере, будь то физика или экономика.
Ах да, зачем, нейронки же потом сами это будут делать. /s
Вы возможно не в курсе, но существует плюс-минус общенаучный кризис вала хреновых статей, усугублённый широтой и глубиной современного научного знания, строением грантовой системы и системы научных журналов. Математика в кризисе была "по касательной" из-за сравнительной дешевизны занятия ею.
Но даже в математике есть проблема доказательств на 200+ листах в областях где разбирающихся людей в мире меньше 50 человек. Рецензирование статей занимает иногда годы.
Теперь жаждущие хайпа аи компании залетают в этот движ с двух ног, и вместо чистки хреновых статей и поиска ошибок в сложных доказательствах генерят дополнительный вагон трешака в котором кому-то надо разбираться.
Ну с СТО и ОТО уже век бегают и ничего :))))) А тут тебе на гора миллионы этих теорий :)
Не проверяй сам - дай работать другим.
Если ИИ+человек плохо - направление само загнётся. Если ИИ+человек хорошо - люди улучшат математику (как процесс получения знания) со временем.
Нет же те, которые переполошились решили запретить всем. Запретить в том числе разрабатывать best practices для взаимодействия ИИ + математики.
А того, что это спам, плавно резко переходящий в DoS-атаку.
Свинья под дубом, чо.
В решении гипотезы уникальных игр действительно применили нестандартные переходы между абстрактными конструкциями. Это не изобретение принципиально новой ветви логики, но вполне тянет на уровень добротной кандидатской диссертации. Другой вопрос, сколько времени уйдет на проверку всех выкладок живыми экспертами
Счетная машинка решила задачки методом тупого, но шустрого перебора вариантов. Пусть покажут хоть одну задачу (точнее, проблему), где она изобрела новый метод или алгоритм решения, каких не было раньше.
Ну это же не совсем верно, число вариантов просто бесконечно, машинка же занималсь экстрополяцией. А в целом согласен автор как обычно кликбайтит. Ни какого изменения математики не случилось.
Из сотен выложенных решений на формальном языке Lean верифицировали меньше половины)
Если доказательство невозможно разобрать без помощи другой нейросети, оно бесполезно для развития науки
А какая доля доказательств, которые живые математики отправляют в журналы на публикацию, верифицированы в Lean?
у математиков есть такое понятие как репутация, которой многие дорожат, и если они начнут отправлять на публикацию всякие слоп аля "ну вроде похоже на правду, посмотрите чё я там накалякал, авось что то верно окажется" - за такое научное сообщество засмеёт и достаточно быстро даст по башке (фигурально разумеется)
Если доказательство невозможно разобрать без помощи другой нейросети, оно бесполезно для развития науки
Почему бесполезно, поясните, пожалуйста? Можно двигаться дальше, опираясь на результат, находящийся в статусе гипотезы, оставив разбор доказательства "на потом".
AI за день изменил всю математику
(результаты которой, к тому же, изложены так, что их сами мясные математики понять толком не могут).
А нас ведь предупредеждали!
Конечно математики переполошились. Живешь, никого не трогаешь, симпозиумы, социумы, конференции, диплом умного. Похвалишь какого-то математика, он в ответ тебя похвалит. Государство, университеты, всякие чаритис оплачивают твою теплую и размеренную жизнь. На решении одной проблемы можно построить карьеру, да и детям передать. Никаких дедлайнов и "когда результат?".
И тут появляется ЭТО и за несколько часов закрывает "таски", которые кормили тысячи людей от студентов, до академиков. Теперь надо не только конференции, но и результаты демонстрировать.
Не напряжешься тут...
за несколько часов закрывает "таски",
но это не точно.
Но не получится как с том рассказа Азимова Профессия где всем в детстве прошивали мозги знаниями чтоб не сидели за учебниками и изучали по крупицам а сразу пачкой выдавали результат.
— Теперь-то я это понимаю, — сказал Джордж, — до того ясно, что только удивляюсь, каким я был слепым. В конце концов, кто изобретает новые модели механизмов, для которых нужны новые модели специалистов? Кто, например, изобрёл спектрограф Бимена? По-видимому, человек по имени Бимен. Но он не мог получить образование через зарядку, иначе ему не удалось бы продвинуться вперёд. А кто создаёт образовательные ленты? Специалисты по производству лент? А кто же тогда создаёт ленты для их обучения? Специалисты более высокой квалификации? А кто создаёт ленты… Ты понимаешь, что я хочу сказать. Где-то должен быть конец. Где-то должны быть мужчины и женщины, способные к самостоятельному мышлению.
Вы там ещё один важный момент упустили.
Есть около десяти тысяч людей, подобных тебе, Джордж, и от них зависит технический прогресс полутора тысяч миров.
Причём все эти «подобные» люди — на Земле. Которая держит за яйки те самые полторы тысячи миров: «а кто будет дёргаться — отключим газ не продадим вам новые обучающие ленты».
Типичный разговор технаря и менеджера
— Мой друг всю жизнь мечтал попасть на Новию. Он уже знал прибор Хенслера. Он знал, что ему нужно ознакомиться с прибором Бимена, чтобы попасть к вам. А для этого ему следовало усвоить всего лишь несколько дополнительных сведений и, быть может, чуточку попрактиковаться. Если учесть, что на чашу весов была поставлена цель всей его жизни, он мог бы с этим справиться...
— А где бы он достал ленту с дополнительной информацией? Или образование здесь, на Земле, превратилось в частное домашнее обучение?
— Поэтому‑то он и не стал доучиваться, достопочтенный. Он считал, что ему для этого нужна лента. А без нее он и не пытался учиться, как ни заманчива была награда. Он и слышать не хотел, что без ленты можно чему‑то научиться.
— Да неужели? Так он, пожалуй, даже не захочет летать без скиммера?
— Не думайте, что это шутка, — сказал Джордж горячо. — Ленты попросту вредны. Они учат слишком многому и слишком легко. Человек, который получает знания с их помощью, не представляет, как можно учиться по‑другому. Он способен заниматься только той профессией, которой его зарядили. А если бы, вместо того чтобы пичкать человека лентами, его заставили с самого начала учиться, так сказать вручную, он привык бы учиться самостоятельно и продолжал бы учиться дальше. Разве это не разумно? А когда эта привычка достаточно укрепится, человеку можно будет прививать небольшое количество знаний с помощью лент, чтобы заполнить пробелы или закрепить кое‑какие детали. После этого он сможет учиться дальше самостоятельно. Таким способом вы могли бы научить металлургов, знающих спектрограф Хенслера, пользоваться спектрографом Бимена, и вам не пришлось бы прилетать на Землю за новыми моделями.
— А откуда можно получить знания помимо лент? Из межзвездного пространства?
— Из книг. Непосредственно изучая приборы. Думая.
— Из книг? Как же можно понять книги, не получив образования?
— Книги состоят из слов, а большую часть слов можно понять. Специальные же термины могут объяснить специалисты, которых вы уже имеете.
— А как быть с чтением? Для этого вы допускаете использование лент?
— По‑видимому, ими можно пользоваться, хотя не вижу причины, почему нельзя научиться читать и старым способом. По крайней мере частично.
— Чтобы с самого начала выработать хорошие привычки? — спросил новианин.
— Да, да, — подтвердил Джордж, радуясь, что собеседник уже начал понимать его.
— А как быть с математикой?
— Это легче всего, сэр... достопочтенный. Математика отличается от других технических дисциплин. Она начинается с некоторых простых принципов и лишь постепенно усложняется. Можно приступить к изучению математики, ничего о ней не зная. Она практически и предназначена для этого. А познакомившись с соответствующими разделами математики, уже нетрудно разобраться в книгах по технике. Особенно если начать с легких.
— А разве есть легкие книги?
— Безусловно. Но если бы их и не было, специалисты, которых вы уже имеете, могут написать их. Наверное, некоторые из них сумеют выразить свои знания с помощью слов и символов.
— А сами‑то вы пробовали учиться по книгам? Или это только ваша теория?
— Да, — сказал Джордж.
— И вы считаете, что из этого что‑нибудь получается?
— Да, достопочтенный, — заверил Джордж. — Возьмите меня с собой на Новию. Я могу составить программу и руководить...
— Погодите, у меня есть еще несколько вопросов. Как вы думаете, сколько вам понадобится времени, чтобы стать металлургом, умеющим обращаться со спектрографом Бимена, если предположить, что вы начнете учиться, не имея никаких знаний, и не будете пользоваться образовательными лентами? Джордж заколебался.
— Ну... может быть, несколько лет.
— Два года? Пять? Десять?
— Еще не знаю, достопочтенный.
— Итак, на самый главный вопрос у вас не нашлось ответа. Ну, скажем, пять лет. Вас устраивает этот срок?
— Думаю, что да.
— Отлично. Итак, в течение пяти лет человек изучает металлургию по вашему методу. Вы не можете не согласиться, что все это время он для нас абсолютно бесполезен, но его нужно кормить, обеспечить жильем и платить ему. К тому времени, когда он будет готов и сможет пользоваться спектрографом Бимена, пройдет пять лет. Вам не кажется, что тогда у нас уже появятся усовершенствованные модели этого прибора, с которыми он не сумеет обращаться?
— Но ведь к тому времени он станет опытным учеником и усвоение новых деталей будет для него вопросом дней.
— По‑вашему, это так. Ладно, предположим, что этот ваш друг, например, сумел самостоятельно изучить прибор Бимена; сможет ли сравниться его умение с умением участника состязания, который получил его посредством лент?
— Может быть, и нет... — начал Джордж.
— То‑то же, — сказал новианин.
— Погодите, дайте кончить мне. Даже если он знает кое‑что хуже, чем тот, другой, в данном случае важно то, что он может учиться дальше. Он сможет придумывать новое, на что не способен ни один человек, получивший образование с лент. У вас будет запас людей, способных к самостоятельному мышлению...
— А вы в процессе своей учебы придумали что‑нибудь новое?
Да да просто не стал пересказывать полностью. Вот так и тут .... замените ленты на LLM и все яйца у Antropic в кармане
Вот так и тут .... замените ленты на LLM
То есть Вы поняли Хитрый План™, согласно которому никто не банит намертво пользователей из нехороших стран. Мало того, что они все ведущиеся сейчас военные разработки сами на тарелочке с голубой каёмочкой принесут — так ещё и утрата компетенций станет окончательной.
Прям как в анекдоте про юристов, которые всю жизнь кормились на судебных тяжбах, а глупый сын выиграл дело за одно заседание.
Сын знаменитого адвоката окончил юридический факультет, защитил диссертацию и устроился на работу в контору к своему отцу.
В первый же день молодой юрист прибегает к отцу весь сияющий, переполненный гордостью, и кричит:— Папа, папа! Поздравь меня! Я сегодня выиграл то самое судебное дело Клоповичей против Драгомировых, которое ты безуспешно вёл в судах последние тридцать лет!
Отец бледнеет, хватается за сердце, тяжело опускается в кресло и с ужасом в голосе говорит:— Идиот... Что же ты натворил? Этот процесс кормил нашего деда, кормил меня тридцать лет, а теперь должен был кормить тебя и твоих будущих детей! На какие деньги мы теперь будем жить?!
Математики не существует
приостановила партнерскую программу поиска уязвимостей в своем открытом ПО. После бума ИИ туда начали массово слать автоматически сгенерированные отчеты, среди которых оказалось тонны мусора и полностью выдуманных багов.
Мир Хаскли победил
Мне буквально на днях в прислали три PR для моей библиотеки на гитхабе. Как минимум один решал совершенно не ту проблему, которую на самом деле нужно было решать. Второй вроде бы как ускорял синтетический тест — вот только в тесте рассматривалась ситуация, которая в реальной жизни практически никогда не возникает.
Эти два я уже переписал, с нуля. Чисто глядя на общую идею.
Как будто, математики, выбирая того кто будет писать письмо, решили отправить самого аутистично одарённого. В итоге получили вроде понятный посыл абсолютно неправильно высказанный. На месте математиков я бы пошёл с другой стороны. Что-то в стиле "Окей, ваши модели показывают хорошие результаты, но чтобы не превращать очень древнюю науку в дебаты перед выборами, где вы будете закидывать конкурентов пачками решенных задач, которые нам потом перепроверять, мы с формируем протокол/правила по которым будем сотрудничать ". И в этих правилах указать, чтобы любой препринт модели должен как минимум быть верефицирован в Lean, а код Lean должен быть проверен человеком(чтобы избежать ситуаций, когда мы доказываем на бумаге 2+2=5, а у качестве доказательств приводим код Lean для 2+2=4. С нашумевшим Навье-Стоксом уже нашли 1 такую ошибку). А если компании скажут, что мы вам ничего не должны, то можно начинать накидывать всем известно что на вентилятор, что вот мы предложили работать ИИ компаниям сообща, и они отказались, так как им плевать на науку и только хайп и нужен, закидывают бедных и так загруженных математиков слопом и вообще, а если они отказываются перепроверять код за ИИ может их ИИ и не такой уж и умный математик, так как тем самым они осознанно скрывают ошибки.
В смысле «если»? Уже создали такую экспертную ассоциацию математиков. OpenAI их послушали, вежливо покивали и сделали по своему.
Одна из интерпретаций действий OpenAI это «Мы тут пока занимались своими делами и тренировали модели, попутно нарешали разных задачек. Нам самим не особо интересно, мы этим заниматься не будем. Но вы, вроде, таким интересуетесь - вот вам побочный продукт под лицензией APL2, разбирайтесь, если хотите.» И математиков это, конечно, знатно из колеи выбило.
Уже создали такую экспертную ассоциацию математиков.
Интересные у них хотелки, например если вы выкладываете не "человекочитаемое доказательство" то обязаны оплатить его осмысление математическим сообществом.
Это обязательство включает в себя учреждение независимых целевых грантов для исследователей, полное финансирование профильных воркшопов, конференций и рабочих групп, занимающихся разбором данных материалов, а также оплату труда экспертов по формализации.
Чтоб я так жил. Единственным нормальным ответом на подобные ультиматумы является: "с шантажистами не договариваются". Что похоже OpenAI и сделало.
По-уму просто математические доказательства должны иметь несколько уровней (от "просто мазня" до "принимаемое на любые премии док-во". И предложена система "вклада" за перевод доказательства с уровня Х на уровень Y.
Хорошая идея но нет, сдается мне что науки и ИИ финансируют одни и те же люди.
Коротко: математика - по определению, наука об идеальном, придуманном мире, который честно живет по заранее известным законам. Все прочие науки имеют дело с миром реальным, в котором истина доказывается прежде всего экспериментом или наблюдением, и только потом - формулами.
Может ли нейронка поставить новый эксперимент? В принципе может, но этого недостаточно. Надо еще показать, что именно этот эксперимент меняет в научном знании. С этим у нейросетей пока что проблемы, если они работают сами по себе. Дело в том, что нейросети созданы математиками, которые сами - это важно! - в других обласиях разбираются, скажем так, несколько слабее.
Но нейронка уже сегодня прекрасно работает в паре с хорошим специалистом. Ее помощь, если грамотно с ней работать, может быть очень значимой. Впрочем, как и в программировании: при идеально составленной спецификации и очень хороших промптах качество кода может оказаться вполне приемлемым. Собственно, индусы и без нейронки примерно так зачастую (не всегда!) и кодили, и не сказать, чтобы так уж безуспешно.
Поэтому пока еще мясным наукерам работа, надеюсь, найлется. Надолго ли - вопрос открытый. Поживем - поглядим.
Google приостановила партнерскую программу поиска уязвимостей в своем открытом ПО. После бума ИИ туда начали массово слать автоматически сгенерированные отчеты, среди которых оказалось тонны мусора и полностью выдуманных багов. Разбирать все это вручную стало слишком дорого по времени...
Надо с каждого отправителя брать по 50-100 у.е. за каждый отправленный отчёт в счёт фонда наград. Если "выстрелит", значит забираешь свою "ставку" + награду. Не "выстрелит" - ты поддержал open-source / других исследователей.
Казино багов какое-то получается.
результаты которой, к тому же, изложены так, что их сами мясные математики понять толком не могут
Если даже математики не могут понять решения, то кто сказал что задача решена? Сам AI?
Если даже математики не могут понять решения, то кто сказал что задача решена? Сам AI?
Также как с решениями мясных математиков - решение на сотню страниц выглядит правдоподобно, но нужно ещё проверять каждую строчку - месяцы кропотливой работы.
Только тут, как я понял, решения ещё более мозгодробительные, чем обычно в современной математике.
а также чумной вопрос в России:
А только я один заметил, что "чумной вопрос" указан только в заголовке, а в статье отсутствует?
Muse AI это облачный клон OpenClaw, естественно у него там своя SOUL MEMORY IDENTITY, но все это можно и ручками поправить.
Вот если бы OpenAl нашел ошибку в классическом доказательстве, которую легко проверить и которую раньше не замечали, то я бы поверил в его силу. А так - наваляли тонну непроверяемого мусора. В любом сложном логическом построении должны быть ошибки - любая сложная программа содержит баги - эмпирический факт.
Также я не верю и математикам, которые пишут доказательства по 100 страниц с сотнями ссылок. Хотя может это просто потому, что сам так не могу.
AI за день изменил всю математику, а также чумной вопрос в России: главное за неделю