Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Системный и бизнес-анализ доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 82
Про превращение Мовчана в Гольденблата было бы интересно прочитать..
Не могу отделаться от ощущения сильного злорадства Павла в отношении математиков… Павел?
Я по большей части угораю над теми математиками, кто отказывается признавать реальность и/или пытается решить проблему восклицаниями "математики вас не просили решать наши задачи, зачем вы??" А так - вся область резко меняется, это, конечно, стрессово для всех, кто в ней занят. Спойлер: не они последние в этой очереди.
Математиков задел именно формат мусорного вброса сотен сырых текстов без нормального рецензирования. Опен АИ вывалила сотни пдфников и фактически заставила научное сообщество бесплатно работать их валидаторами. Ни один уважающий себя журнал не принимает статьи пачками по семьсот штук за сутки
Никто никого не заставлял. OpenAI просто выложили результаты в открытый доступ, и всё. Ни в какой "уважающий себя журнал" на публикацию они тоже это не отправляли.
А должны были. Научная этика, все дела. Это всё не на пустом месте строилось, и такой бизнес, как OpenAI, вершина научно-технического прогресса, просто обязаны соблюдать правила, благодаря которым этот бизнес появился.
Кому были "должны"? Научная этика запрещает выкладывать препринты? Где и кем это написано?
Будете потом рассказывать, когда ваши хобби / источник дохода похоронят под тоннами нейрослопа. А если у вас уже самого нейрослоп в статьях, то что-нибудь еще в калифорнии дядечки придумают))
Этот аргумент можно применить к любому достижению технического прогресса. "Ты не поддерживаешь луддитов, которые громят ткацкие станки? Посмотрим, как ты запоешь, фермер, когда тракторы и механизация сделают твое мелкое хозяйство неконкурентоспособным!"
Предположим, вы куете хорошие подковы, из хорошего, правильного железа...
Но технический прогресс похоронил буквально ваше призвание, убрав с дорог конные экипажи, всадников и проч., заменив на бездушные самобеглые коляски.
Трагедия? Однако кузнецы и сейчас есть, только это очень не для всех занятие.
Журнал бы не принял. Работы не прошли бы нейродетектор текста.
По этой причине бы не отказал. Редактировать текст с помощью нейросети в научных журналах как раз можно. А уравнения вообще неважно, кто и с кем или чем писал.
Могут отказать, только если нейросеть (что с ней бывает вполне регулярно и по понятной причине) выдала чужие результаты за свои. Аналогично - если бы то же самое сделал ушастый. Но и здесь - как повезет: плагиат не всегда легко обнаружить, особкнно когда смысл тот же самый, но текст изменен, - что как раз нейросеть делает лучше нас.
С подобной проблемой сталкивались, например дизайнеры года 3 назад - тогда начался "залив" фотобанков продукцией нейросетей. Причем это все происходило в платных фотобанках и с явного ведома их владельцев (со слов дизайнера - пользователя этих фотобанков, пытавшихся добиться от платного сервиса какой-либо фильтрации всего этого нейрослопа)
Мне кажется, вы не совсем справедливо относитесь к авторам письма. Ааронсон реагирует "адекватно" просто потому, что он про другое: когда доступны AI-инструменты, невозможно продолжать заниматься математикой по-старинке. И я думаю, что многие подписанты прекрасно это осознают. Мне кажется, там проблема в другом:
Во-первых, авторы совершенно правы в том, что многие математические задачи на практике не особо кому нужны, и их используют по сути как контекст для обсуждения более широкого круга задач, ну и надеются выявить связи между разными частями математики. Об этом много написано в известной книжке про доказательство теоремы Ферма, напр. А про фрустрацию компьютерным доказательством писали ещё в семидесятых в контексте теоремы о четырёх красках: ну да, компьютер перебором нашёл, что четырёх достаточно, и что нам с этого?
Во-вторых, про препринты. Математики оказываются тут в безвыигрышном положении, которое нам тоже хорошо известно по публикациям типа "Новой хронологии" Фоменко. У нас, с одной стороны, есть "слоп", который тиражируется и раздаётся из каждого утюга, а с другой стороны, есть учёные, которые должны для себя выбрать -- либо они делают вид, что ничего этого не существует (потому что это не peer review публикация, а значит, проходит по категории литературы, и тут каждый сочиняет чего хочет), либо считают своим долгом как-то это дело комментировать, что для профессионала по сути тягомотный и безвыигрышный труд во имя довольно абстрактных идеалов.
Так что ситуация куда деликатнее, чем просто "луддиты против open AI".
Разница с Фоменко всё-таки существенная. Там была антинаучная ерунда, а здесь - с высокой вероятностью валидные доказательства проблем в Lean. Мне кажется, странным, когда в науке говорят "появление решения важной проблемы, над которой ученые бились 100+ лет - это безвыигрышная ситуация для ученых..." Что-то явно не так тогда с тем, как устроены дела в этой науке, нет?
Да нет, нормально устроены дела.
Когда вам говорят, что учёные "бились" -- это сильное журналистское преувеличение. Над теоремой Ферма "бились" 300 лет отдельные одержимые ребята, среди которых было не так много профессиональных математиков. Должен совпасть интерес, область специализации, и возможность (грубо говоря, начальство даёт добро). А такие совпадения на практике редки.
Далее, разговоры про Lean это из области "вот я тут тебе уже накидал прототип софта в Claude/нарисовал арты в Paint, а дальше дело техники, $100 так и быть заплачу". Ведь ровно поэтому и существуют peer-review публикации: от всех этих препринтов до результата может быть так же далеко, как от Фоменко до Ключевского.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение.
Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Я лично думаю, что карьера конкретных подписантов уже сложилась, и подозревать их в луддизме нет оснований: им самим ничего не угрожает. Их беспокоит эрозия научного сообщества и попытки делать науку через твиттер. Ну вот меня тоже беспокоит, чего уж там, хотя LLM пользуюсь ежедневно и с большим удовольствием.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение. Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Какие-то странные аналогии. OpenAI законов не нарушали, никуда свою рукопись не подавали, и от математиков ничего не ждут. Откуда взялись заявления, что они ожидают какое-то "патрулирование улицы в свободное от работы время"?
Ну так а хоть один математик заявил, что OpenAI нарушали законы? Одни захотели -- выложили. Другие захотели -- отреагировали. Нормальная дискуссия.
А насчёт ожиданий -- ну безусловно, ожидают. Представьте себе, что OpenAI вот это всё выкладывает, а от математиков полный игнор. Вы же сами об этом напишете, разве нет? Мол, тут целая пещера Аладдина на гитхабе, а со стороны математиков полный игнор.
Возвращаясь к примерам научных фриков вроде Фоменко (ок, не сравниваю, разные ситуации) -- от учёных таки ожидали, что кто-то да отреагирует.
У нас сейчас диалог:
Вы: OpenAI неправы, а институт науки их правильно мочит! Ну вот, например, если против вас нарушили закон, кто вам кроме институтов поможет?
Я: А что, OpenAI нарушили закон какой-то?
Вы: При чем тут это вообще, кто говорит, что OpenAI нарушили закон??
Зачем тогда вы приводите примеры, которые не имеют никакого отношения к обсуждаемой ситуации?
Надо же, какой небывалый прорыв! Счетная машинка решила задачки методом тупого, но шустрого перебора вариантов. Пусть покажут хоть одну задачу (точнее, проблему), где она изобрела новый метод или алгоритм решения, каких не было раньше.
Экскаватор унизил человека, он больше не нужен! Он выкопал яму в десять раз быстрее самого быстрого землекопа!
Может быть этот казус заставит математиков быть более креативными и заняться своим делом по-настоящему?
А чего математики тогда все переполошились, если ИИ тупой и ничего интересного не смог показать? 🤔
Может быть как раз по той же причине, по какой в теоретической физике уже больше полвека нет никакого прогресса? С одной стороны, интеллектуальная деградация (где гении XIX-XX веков, каждые несколько лет выдававшие новые идеи?), с другой, спокойная жизнь на гранты, за которые можно отчитываться формальными отчетами (часто фальсифицированными), сегодня уже составляемыми ИИ.
Похоже, это и есть тот жареный петух, который клюнет нынешнюю цивилизацию "успеха и достатка", после чего она либо проснется от летаргического сна разума, рождающего чудовищ, либо... Ладно, не будем о плохом:(
А мне кажется всё проще, как и с программированием. Те, кто создавали видимость работы, переполошились что их работу отберут. Увлечённые, что кайфовали от самого процесса, переполошились что у них отберут то, о чём писали в статье:
вокруг большой задачи годами росла целая тусовка: семинары, ученики, новые идеи, иногда целые направления – а сейчас это всё заменяет три часа работы нейронки
У людей науки (по моим личным наблюдениям) и так частенько возникали вопросы "А тем ли я занимаюсь? Зачем мне это?". А с подобными новостями, ещё больше станет такой вопрос задавать, вне зависимости от реального положения дел. Вполне может стать что увлечённые просто исчезнут, а карьеристы будут сидеть, проверять и систематизировать результаты работы нейронок.
Ну, мне как минимум, видится проблема проверяемости результата. Тут с вайбпрограммированием не разобрались, то ли тратить уйму времени на чтение кода, то ли надеяться на тесты, то ли положиться на удачу, что всё заработает как надо в проде. А тут уже вайбнаука подоспела, которую в большинстве своём, кроме как кропотливым изучением расчётов, никак не проверить.
А представь, что нейронка начнёт ежедневно вбрасывать очередное доказательство очередной теоремы. И математикам с физиками придётся переключить всё своё внимание на постоянную их проверку.
А кто их заставляет этим заниматься ? Пусть нейронки сами друг-друга проверяют. Зачем людям бесплатно выступать в этом цирке ?
А тут уже вайбнаука подоспела, которую в большинстве своём, кроме как кропотливым изучением расчётов, никак не проверить.
Это только к математике применимо, и то не ко всей.
Уже всфизике теории проверяются экспериментом. А в химии, биологии и прочих дисциплинах, даже психологии - на эксперимент ссылаться практически обязательно. А ценность - не в самой по себе новизне, а в добавленном знании. Теория, которая никаких экспериментов не объясняет и никаких новых результатов не предсказывает, никому особо не нужна.
Может ли нейросеть сама собой создавать новое знание вне математики - вопрос открытый. Пока что это у нее не очень здорово получается. В соавторстве с белковыми - да, сама - как правило, нет.
С первым абзацем полностью согласен, но что касается "увлеченных", то, полагаю, их не станет меньше, такие люди всегда были и будут, многие работали и даже сейчас работают "в стол", не надеясь на признание. Может быть, даже наоборот, когда все осознают, что ИИ не тянет в изобретение и создание нового, они будут цениться еще больше. Но для этого нужна революция в науке, которая сметет нынешнюю систему "научной бухгалтерии".
Ощущается будто ИИ это ребенок который пытается добиться расположения отца, а отец все обесценивает
Переполошились они из-за того, что их завалили тоннами правдоподобно выглядящего текста, который требует месяцев верификации
Текст сам по себе ничего не требует. Если там есть высокая вероятность реальных решений (а на это похоже) - то имеет смысл в этом разбираться тем, для кого решение конкретных задач актуально. Если вероятность низкая - можно не разбираться, обком за это не накажет.
Разбираться придется. Это как со звонками о минировании школы. Всем все понятно, но проверять будут и основательно.
Какая связь со звонками о минировании? Если не проверить каждый результат от ИИ - кто-то умрет?
У вас какой-то нездоровый энтузиазм к llm, а тут ещё и непонимание того как работают ученные. Им платят (очень грубо говоря) за то что они решают задачу, например Вася решал задачу и институт был согласен, что надо решать именно ее, но тут Опенаи говорит, что все готово результаты по ссылке. Что Васе и институту делать? Забить и решать задачу дальше, самостоятельно, возможно дублируя работу впустую?
Может быть, наоборот - это у вас какое-то "нездоровое" отношение к ЛЛМ? Мне кажется, если институту платят за решение какой-то конкретной задачи - то это максимально странно жаловаться на то, что кто-то другой предложил решение этой задачи раньше. Что делать Васе - двигаться тем путем, который с их экспертной точки зрения с наибольшей вероятностью приведет к верифицированному решению нужной задачи.
Он не предложил решение задачи. Он выплюнул груду чего-то из ЛЛМ, где МОЖЕТ БЫТЬ решение задачи, и предложил Васи в этом копаться
Ну если Вася считает, что решения там нет - пусть не копается, в чем проблемы?
А если есть? Опенаи же сказали, что есть.
И тут как раз проблема - выплюнуть кучу чего-то из ЛЛМки стоит 0, при этом попадаешь в новости, акции растут и Сэм радуется.
Проверить это стоит много, в новости не попадешь, акций у тебя нет, ты не радуешься. Но если не проверишь может стать дурачком который 10 лет решал решенную проблему.
И даже если ткнешь пальцем в галлюцинации в решении, к тебе прибегут и расскажут, что это была всего лишь Sol, а теперь то уже URANUS и вот там глюков нет и это уже точно General AI
Проверить это стоит много, в новости не попадешь
Я как раз считаю, что математикам как сообществу нужно сделать престижным проверку и объяснение выхлопа ЛЛМ. Тогда никакой проблемы не будет.
Тут наложилось, как считаю, еще на то что в сообществе ученых рецензировать чужие труды не особо любят, предпочитая выдавать собственные положительные результаты (в смысле, что "X вот здесь-то так-то работает", а не отрицательный типа "оказывается, Y не работает").
Вот про такое странное отношение и говорю, мы вам будем наваливать нейрослопа чтобы подороже продаться на IPO, если не нравиться - луддиты.
Какое-то у вас и правда странное отношение к нейронкам и не только. Суть науки в добавочном знании, за это институтам как раз и платят. Пока человек не разберётся с выхлопом openai и не систематизирует его, смысла в этом ноль, это не добавочное знание, это сырьё, где как вы сами же говорили
есть высокая вероятность реальных решений
В чем странность отношения, не понял? Если какие-то математики считают, что смысла в выложенном OpenAI нет - ну, пусть не разбираются в этом.
Кормят говном? Ну так не ешьте. Насилуют? Ну так на улицу не ходите.
Я понимаю, вы скорее всего далеки от академической среды. Причин несколько. Во-первых, с таким подходом придёт грантодатель/инвестор со словами "Вы бездельники, openai за вас всё сделали", не разобравшись в вопросе. Во-вторых, это загрязнение среды, всё хорошо пока на неподтверждённые (и возможно ошибочные) заключения не начнут ссылаться. В-третьих, банальный интерес, а что же там навыводили, да ни один заинтересованный человек спать не сможет пока не разберётся, тратя на это своё время, даже если окажется что там бред. Это банальная кража фокуса и внимания. Ну а карьеристы да, просто отмахнутся и будут дальше сидеть на грантах, лишь бы статью выпустить. И получается что те, кто реально мог бы что-то сделать, просто тратят свой ресурс.
Прямо сейчас пойдите и почитайте почему закрыли программу поиска багов в google, curl, в половине опенсорс проектов ограничили pr только проверенными мейнтейнерами. Любая открытая система строится на доверии.
Кормят говном? Ну так не ешьте. Насилуют? Ну так на улицу не ходите.
А есть ссылки на то, как OpenAI кого-то "кормят говном" и "насилуют"? Или вы это придумали сейчас? 🤔
По поводу всех приведенных вами аргументов: всё сводится к тому, рабочие ли доказательства у OpenAI, или нет. Насколько я понимаю, среди математиков довольно высок уровень доверия к тому, что формализованные в Lean доказательства верны. Если это так - то странно говорить про "кражу внимания и фокуса на работающие доказательства, пока мы хотим десятилетия копаться в неработающих!"
Не проверяй сам - дай работать другим.
Если ИИ+человек плохо - направление само загнётся. Если ИИ+человек хорошо - люди улучшат математику (как процесс получения знания) со временем.
Нет же те, которые переполошились решили запретить всем. Запретить в том числе разрабатывать best practices для взаимодействия ИИ + математики.
А того, что это спам, плавно резко переходящий в DoS-атаку.
Свинья под дубом, чо.
В решении гипотезы уникальных игр действительно применили нестандартные переходы между абстрактными конструкциями. Это не изобретение принципиально новой ветви логики, но вполне тянет на уровень добротной кандидатской диссертации. Другой вопрос, сколько времени уйдет на проверку всех выкладок живыми экспертами
Счетная машинка решила задачки методом тупого, но шустрого перебора вариантов. Пусть покажут хоть одну задачу (точнее, проблему), где она изобрела новый метод или алгоритм решения, каких не было раньше.
Ну это же не совсем верно, число вариантов просто бесконечно, машинка же занималсь экстрополяцией. А в целом согласен автор как обычно кликбайтит. Ни какого изменения математики не случилось.
Из сотен выложенных решений на формальном языке Lean верифицировали меньше половины)
Если доказательство невозможно разобрать без помощи другой нейросети, оно бесполезно для развития науки
А какая доля доказательств, которые живые математики отправляют в журналы на публикацию, верифицированы в Lean?
у математиков есть такое понятие как репутация, которой многие дорожат, и если они начнут отправлять на публикацию всякие слоп аля "ну вроде похоже на правду, посмотрите чё я там накалякал, авось что то верно окажется" - за такое научное сообщество засмеёт и достаточно быстро даст по башке (фигурально разумеется)
Если доказательство невозможно разобрать без помощи другой нейросети, оно бесполезно для развития науки
Почему бесполезно, поясните, пожалуйста? Можно двигаться дальше, опираясь на результат, находящийся в статусе гипотезы, оставив разбор доказательства "на потом".
AI за день изменил всю математику
(результаты которой, к тому же, изложены так, что их сами мясные математики понять толком не могут).
А нас ведь предупредеждали!
Конечно математики переполошились. Живешь, никого не трогаешь, симпозиумы, социумы, конференции, диплом умного. Похвалишь какого-то математика, он в ответ тебя похвалит. Государство, университеты, всякие чаритис оплачивают твою теплую и размеренную жизнь. На решении одной проблемы можно построить карьеру, да и детям передать. Никаких дедлайнов и "когда результат?".
И тут появляется ЭТО и за несколько часов закрывает "таски", которые кормили тысячи людей от студентов, до академиков. Теперь надо не только конференции, но и результаты демонстрировать.
Не напряжешься тут...
за несколько часов закрывает "таски",
но это не точно.
Но не получится как с том рассказа Азимова Профессия где всем в детстве прошивали мозги знаниями чтоб не сидели за учебниками и изучали по крупицам а сразу пачкой выдавали результат.
— Теперь-то я это понимаю, — сказал Джордж, — до того ясно, что только удивляюсь, каким я был слепым. В конце концов, кто изобретает новые модели механизмов, для которых нужны новые модели специалистов? Кто, например, изобрёл спектрограф Бимена? По-видимому, человек по имени Бимен. Но он не мог получить образование через зарядку, иначе ему не удалось бы продвинуться вперёд. А кто создаёт образовательные ленты? Специалисты по производству лент? А кто же тогда создаёт ленты для их обучения? Специалисты более высокой квалификации? А кто создаёт ленты… Ты понимаешь, что я хочу сказать. Где-то должен быть конец. Где-то должны быть мужчины и женщины, способные к самостоятельному мышлению.
Прям как в анекдоте про юристов, которые всю жизнь кормились на судебных тяжбах, а глупый сын выиграл дело за одно заседание.
Сын знаменитого адвоката окончил юридический факультет, защитил диссертацию и устроился на работу в контору к своему отцу.
В первый же день молодой юрист прибегает к отцу весь сияющий, переполненный гордостью, и кричит:— Папа, папа! Поздравь меня! Я сегодня выиграл то самое судебное дело Клоповичей против Драгомировых, которое ты безуспешно вёл в судах последние тридцать лет!
Отец бледнеет, хватается за сердце, тяжело опускается в кресло и с ужасом в голосе говорит:— Идиот... Что же ты натворил? Этот процесс кормил нашего деда, кормил меня тридцать лет, а теперь должен был кормить тебя и твоих будущих детей! На какие деньги мы теперь будем жить?!
Математики не существует
приостановила партнерскую программу поиска уязвимостей в своем открытом ПО. После бума ИИ туда начали массово слать автоматически сгенерированные отчеты, среди которых оказалось тонны мусора и полностью выдуманных багов.
Мир Хаскли победил
Как будто, математики, выбирая того кто будет писать письмо, решили отправить самого аутистично одарённого. В итоге получили вроде понятный посыл абсолютно неправильно высказанный. На месте математиков я бы пошёл с другой стороны. Что-то в стиле "Окей, ваши модели показывают хорошие результаты, но чтобы не превращать очень древнюю науку в дебаты перед выборами, где вы будете закидывать конкурентов пачками решенных задач, которые нам потом перепроверять, мы с формируем протокол/правила по которым будем сотрудничать ". И в этих правилах указать, чтобы любой препринт модели должен как минимум быть верефицирован в Lean, а код Lean должен быть проверен человеком(чтобы избежать ситуаций, когда мы доказываем на бумаге 2+2=5, а у качестве доказательств приводим код Lean для 2+2=4. С нашумевшим Навье-Стоксом уже нашли 1 такую ошибку). А если компании скажут, что мы вам ничего не должны, то можно начинать накидывать всем известно что на вентилятор, что вот мы предложили работать ИИ компаниям сообща, и они отказались, так как им плевать на науку и только хайп и нужен, закидывают бедных и так загруженных математиков слопом и вообще, а если они отказываются перепроверять код за ИИ может их ИИ и не такой уж и умный математик, так как тем самым они осознанно скрывают ошибки.
В смысле «если»? Уже создали такую экспертную ассоциацию математиков. OpenAI их послушали, вежливо покивали и сделали по своему.
Одна из интерпретаций действий OpenAI это «Мы тут пока занимались своими делами и тренировали модели, попутно нарешали разных задачек. Нам самим не особо интересно, мы этим заниматься не будем. Но вы, вроде, таким интересуетесь - вот вам побочный продукт под лицензией APL2, разбирайтесь, если хотите.» И математиков это, конечно, знатно из колеи выбило.
Уже создали такую экспертную ассоциацию математиков.
Интересные у них хотелки, например если вы выкладываете не "человекочитаемое доказательство" то обязаны оплатить его осмысление математическим сообществом.
Это обязательство включает в себя учреждение независимых целевых грантов для исследователей, полное финансирование профильных воркшопов, конференций и рабочих групп, занимающихся разбором данных материалов, а также оплату труда экспертов по формализации.
Чтоб я так жил. Единственным нормальным ответом на подобные ультиматумы является: "с шантажистами не договариваются". Что похоже OpenAI и сделало.
По-уму просто математические доказательства должны иметь несколько уровней (от "просто мазня" до "принимаемое на любые премии док-во". И предложена система "вклада" за перевод доказательства с уровня Х на уровень Y.
Коротко: математика - по определению, наука об идеальном, придуманном мире, который честно живет по заранее известным законам. Все прочие науки имеют дело с миром реальным, в котором истина доказывается прежде всего экспериментом или наблюдением, и только потом - формулами.
Может ли нейронка поставить новый эксперимент? В принципе может, но этого недостаточно. Надо еще показать, что именно этот эксперимент меняет в научном знании. С этим у нейросетей пока что проблемы, если они работают сами по себе. Дело в том, что нейросети созданы математиками, которые сами - это важно! - в других обласиях разбираются, скажем так, несколько слабее.
Но нейронка уже сегодня прекрасно работает в паре с хорошим специалистом. Ее помощь, если грамотно с ней работать, может быть очень значимой. Впрочем, как и в программировании: при идеально составленной спецификации и очень хороших промптах качество кода может оказаться вполне приемлемым. Собственно, индусы и без нейронки примерно так зачастую (не всегда!) и кодили, и не сказать, чтобы так уж безуспешно.
Поэтому пока еще мясным наукерам работа, надеюсь, найлется. Надолго ли - вопрос открытый. Поживем - поглядим.
Google приостановила партнерскую программу поиска уязвимостей в своем открытом ПО. После бума ИИ туда начали массово слать автоматически сгенерированные отчеты, среди которых оказалось тонны мусора и полностью выдуманных багов. Разбирать все это вручную стало слишком дорого по времени...
Надо с каждого отправителя брать по 50-100 у.е. за каждый отправленный отчёт в счёт фонда наград. Если "выстрелит", значит забираешь свою "ставку" + награду. Не "выстрелит" - ты поддержал open-source / других исследователей.
Казино багов какое-то получается.
результаты которой, к тому же, изложены так, что их сами мясные математики понять толком не могут
Если даже математики не могут понять решения, то кто сказал что задача решена? Сам AI?
Если даже математики не могут понять решения, то кто сказал что задача решена? Сам AI?
Также как с решениями мясных математиков - решение на сотню страниц выглядит правдоподобно, но нужно ещё проверять каждую строчку - месяцы кропотливой работы.
Только тут, как я понял, решения ещё более мозгодробительные, чем обычно в современной математике.
а также чумной вопрос в России:
А только я один заметил, что "чумной вопрос" указан только в заголовке, а в статье отсутствует?
Muse AI это облачный клон OpenClaw, естественно у него там своя SOUL MEMORY IDENTITY, но все это можно и ручками поправить.
Вот если бы OpenAl нашел ошибку в классическом доказательстве, которую легко проверить и которую раньше не замечали, то я бы поверил в его силу. А так - наваляли тонну непроверяемого мусора. В любом сложном логическом построении должны быть ошибки - любая сложная программа содержит баги - эмпирический факт.
Также я не верю и математикам, которые пишут доказательства по 100 страниц с сотнями ссылок. Хотя может это просто потому, что сам так не могу.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
AI за день изменил всю математику, а также чумной вопрос в России: главное за неделю