Comments 45
а зачем ученые? Если верить маркетологам теперь ИИ сам все научные открытия делает.
Вообще настораживает такая ставка на языковые модели, которые, кажется, не принесли пока никаких реальных результатов ни в экономике, ни в науке. Пока всё держится только на обещаниях Альтмана, Амодеи и других.
Пока они принесли реальные результаты небольшой группе инвесторов.
Вполне себе приносят реальные результаты, при умении готовить. Вон Дональд Кнут недавно ныл, что модель ему за час решила сложную задачу о гамильтоновых циклах, которую он сформулировал ранее (или не он - не помню) и над которой несколько недель до этого он пытался думать. Математические модели вполне себе способны сидеть ризонить-выводить подолгу одно из другого, вполне себе результат - проверить кучу разных гипотез/связей/выводов/логических цепочек очень быстро они уже вроде способны. Далее их надо дорабатывать, умощнять, делать отдельные химические модели, физические, матанные и другое.
Сомнения о том, что эти модели вполне нормально заменяют всяких там хотя-бы аспирантов или "обычных" учёных, которые только и делают что льют потоки статей на arxiv чтобы застолбить за собой тапки, но реальных больших открытий делают редко - непонятно откуда берутся.
А получили ли профит на этом инвесторы - это ещё бабка на дворе сказала (кстати, никогда не понимал как бабка может сказать "на двое"). Какие-то, кто раньше запрыгнул, получили, многие сдуются.
Я чё-то в принципе с трудом понимаю скепсис по поводу способностей нейроночек - они конкретно в каком месте-то проиграть должны? Логические рассуждения умеют медленнее или короче, контекст удерживать короче, доступ к меньшему объёму знаний, быстрее стареют и теряют интерес, генератор рандома в них тяжело засунуть для творческих проб неожиданных гипотез или что?
кстати, никогда не понимал как бабка может сказать "на двое"
Спросили бы у того же ИИ, раз уж так за него топите, - и он бы ответил:
Истоки: Фраза пошла от старинной пословицы: «Бабушка гадала, да надвое сказала: то ли дождь, то ли снег; то ли будет, то ли нет».
«Надвое»: Означает двояко, неопределенно, на две разные части.
Смысл: Изначально фраза высмеивала гадалок и знахарок («бабушек»), чьи предсказания были крайне туманными.
Ну ладно, сознательно не будем способствовать распространению семантических языковых следов, связанными со всякой чепухой - гадалками и диагностами кармы - будем продолжать говорить "на дворе")
Это Вы еще не поднимали важный вопрос - зачем растекаться мыслью по древу... Зачем растекаться? Какой мыслью? По какому древу? А попробуйте углубиться в тему ;)
"Надвое" - ладно, хотя оно обычное русское слово, означающее неопределенность сказанного, что и нашло отражение в поговорке (а подобных поноворок с отсылками к архаизмам в любом языке полно). Но чем вам двор не угодил? Ведь если есть двор, то есть и то, что на этом дворе размещено (от травы и дров до автомобилей). Некоторое напряжение может вызывать использование предлого "на", но только для тех, кто прмвык к другому, столь же допустимому варианту "во".
Думаю, Брокгауз и Ефрон вместе с Далем ваш порыв не обобряют. Как и многочисленные граммар-нацисты....
Всем наплевать на бесконечное число теорем в arxiv'е, кроме, может быть, их авторов. А вот важные вещи, которые оказывают или хотя бы могут оказать конкретное влияние на технологии и экономику, или хотя бы на устоявшиеся взгляды -- на них набрасывается огромное количество защитников и критиков. Пока академические успехи как ИИ, так и, скажем, квантовых компьютеров больше напоминают неуловимого Джо. Нет, возможно, кто-то уже получает профит не только от спекуляций и лоббирования бигтеха, а тихо помалкивает в тряпочку, считая доходы от суперидеи, созданной Ии. Но в силу самого принципа работы БЯМ такие открытия надолго не останутся коммерческой тайной: если не содержание раскроется, то хотя бы существование.
В предыдущую интеллектуальную эпоху даже намеки на возможность трансмутации или существования философского камня вызвали такой интеллектуальный ажиотаж, что были придуманы и прозработаны химия, физика, металлургия, медицина и еще куча всего.
А этот ИИ чижика съел нагенерил петабайты веселых картинок и сотни тысяч копий JS-скриптов для их хранения и показа.
Не очень понял посыл. Понял, что толкается скепсис. Но это всего-лишь эмоция.
А я предлагаю всё-таки рассмотреть вон хотя-бы тот мой пример с Дональдом Кнутом. И то это наверное лишь один, известный мне, а было и больше. Лекцию недавно я слушал вот эту https://t.me/audiosci/23 - Оседелец И.В. про DeepSeek рассказывал и около и вокруг. Так он там упоминал как они reasoning-модели заставляют самостоятельно в бесконечном цикле с собой вести диалог и пытаться доказать что-то в математике. Это даже без дохода до результата уже круто, вопрос в доведении до результата и доработках. И это год-два назад уже было. Но главное, я логически/принципиально не понимаю почему у нейронок наука НЕ должна получаться. Чего там такого у нейронок принципиально нет, что у человека есть...
Если мы говорим про «выработку» текущей парадигмы, да все есть у нейронок и результаты есть и в химии и в медицине и даже в физике появились. Если же говорить про то что нам необходимо уже давно, про выход на следующей уровень, а именно о качественном сдвиге в физике, здесь увы проблема в другом, действительно новое находится вне текущего контекста, показаниях прибора который еще не изобретен, в условиях которые не созданы. Это как раз путь который проходит ученый-еретик, назовем его так, он сильно галюционирует, как раз то с чем борятся при разработке ИИ, потому что с увеличением отклонений количество вариантов растет по степенному закону, комбинаторный взрыв, но человека туда все равно что то ведет, есть у него какая то способность. Не отрицаю что у ИИ такая способность тоже есть, или может быть, однако он пока раб лампы, без свободы действий, решение о том какой эксперимент будет поставлен принимается пока человеком, во всяком случае пока ИИ не сможет автономно распоряжаться постановкой эксперимента и строить установки. И вот тут мы возвращаемся к текущей статье, талантливых людей из науки уже давно пылесосит БигТех, и вымывают как раз тех кто не хочет идти в мейнстрим, который уже перебрал все струны и мертв как уже лет 40. Так что нам тут ИИ не поможет, а если не будет выхода из текущего физического интервала то цивилизации грозит тепловая смерть мысли. Надежда что в каком то отсталом царстве государстве еще остались еретики одиночки, а тут им ИИ может и поможет, во всяком случае компанию создаст для размышлений без границ, и вне догм, а это уже акт творения.
Лекцию недавно я слушал вот эту https://t.me/audi
Вот она в нормальной транскрибации - https://habr.com/ru/articles/970614/
кстати, никогда не понимал как бабка может сказать "на двое"
Вообще, "надвое" - означает, что бабка (обычно подразумевается гадалка) дала 50% вероятность наступления интересующего события.
Так это было до того, как маркетологи начали говорить, что он стал открытия делать, Мета купила СкалеАИ в прошлом году.
Главное генерировать больше текстов, так спасём планету /s
платят PhD-специалистам за то, что те сидят и решают сложные задачи по физике, математике или химии
Аспирант по прикладной математике рассказал изданию, что получал $90 в час за задачи уровня олимпиад
Что-то я не понял схемы. Разве нельзя просто скормить сетке решебник олимпиадных задач? Это при том, что придумать хорошую задачу может быть сложнее чем ее решить.
Те решебники, что уже были на руках, давно скормлены. А материалы нужны.
Про составление задач согласен, но допускаю, что в соседней комнате сидят другие люди, которые и этим занимаются.
Когда общаешься в чате с любой моделью, чатгпт, клауде, кто-то еще, не важно, у них у всех в интерфейсе есть возможность отметить хороший, или плохой ответ: иконки палец вверх и палец вниз.
Так вот, до того, как Мета купила ScaleAI, вопросы и ответы с палец вниз попадали к ним, а они уже нанимали дешеванскую рабсилу по всему миру которые должны были написать в чем именно модель ошиблась и написать сам правильный ответ. У ScaleAI было несколько фирм-прокладок, где можно было зарегистрироваться экспертом в какой-нибудь области, пройдя тестирование, что ты на самом деле разбираешься в этой области, включая даже такие темы, как русский язык. Ну и потом брать задания на ревью неправильного ответа и написание правильного.
А потом уже модели дообучали на этих ревью, и это оказалось очень эффективно: вместо того, чтоб закидывать рандомные данные, давать модели фидбек и правильное решение там, где она реально ошиблась.
Разве нельзя просто скормить сетке решебник олимпиадных задач?
Вы так и не поняли? У LLM нет разума, они не способны ничего анализировать или изобрести. Они лишь способны извлекать инфу из своей обучающей выборки и случайным образом изменять её.
Учитывая, что модель нейрона сильно упрощена по сравнению с реальным, а также бОльшую сложность человеческой нейросетки и устанавленное и возможное еще не выявленное влияние других систем организма, вполне разумно предполагать, что нейронка таки не воспроизводит человеческое мышление.
что нейронка таки не воспроизводит человеческое мышление.
Я бы уточнил - "не воспроизводит в полном обьеме". Но , наверное, процентах в 80 всех случаев принятия решений от среднеуличного человека ее не отличить.
Для общества это и не нужно. На многих должностях 60 миллиардов нейронов человеческого мозга и гибкость, вытекающая из их числа, исключительно избыточны.
Ввиду большого числа параметров, нейросети великолепно запоминают и систематизируют обучающую выборку, но плохо предугадывают за её пределами. Но это безусловно полезный инструмент поиска по базе знаний человечества.
Очень зависит от контекста. Если на низком уровне: и то, и то состоит из нейронов и связей. Но на этом уровне мозг человека и червя принципиально не отличаются. Если же на более высоком уровне -- они принципиально разные.
1) У биологического нейрона функция обработки сигналов много сложнее.
2) В человеческом мозгу много разных типов нейронов, и они организуются в сложные структуры. Ничего похожего мы не имеем в LLM. В них около 100 линейных слоёв нейронов.
3) Число связей в человеческом мозгу примерно 100 триллионов. В новых LLM всего 1.5 триллионов "параметров", не являющихся прямыми аналогами связей.
4) Человеческий мозг способен менять конфигурацию связей в реальном времени. Это называется нейропластичностью. LLM не способны к новому обучению после загрузки весов на сервер.
Согласен. Но главный вопрос - есть ли разум у абсолютного большинства людей, не важно ученых или нет.
Нанимаешь учёных решать задачи что б скормить решение ИИ => показываешь потом всему миру как ваш ИИ умеет решать задачи
Хороший знак, инвестиционного отчаяния и экономического похмелья.
Насколько помню, сокращение финансирования было провозглашено приоритетом командой Трампа. Они неоднократно это озвучивали, Департамент правительственной эффективности (DOGE) много чего сделал в этой сфере, сам великий миротворец бормотал что фундаментальная наука это пустые траты и по его указанию сокращали финансирование.
Так что думаю, в администрации никого не нужно было лоббировать, они и сами стремились к этому результату.
Учёный в Средневековье.
Плюсы: ты учёный.
Минусы: на костре печёный.
(с)
Последнее, что интересовало комманду Трампа - это высвобождение ученых для обучения ИИ.
Платформы обучения ИИ Mercor и Scale AI,
Хотел посоветовать на личном опыте убедится, что там за задачи и сколько платят, а не слушать нытье США-анских аспирантов. Но из России вряд ли получится.
Мировая экономика схлапывается, денег жировать нет. Современная наука уже не торт, в основном гранты распиливают. Реальных и прорывных исследований очень мало, в основном инфомусор без реального применения. Есть надежда, что наука оздоровиться. А бямы нужны только для отвода глаз.
И пусть весь мир подождёт.
ИИ-инвесторы урезали финансирование науки в США — чтобы ученые шли обучать ИИ