Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 20
Удивительная штука: пока функционеры и менеджеры кричат о том, что мощный интеллект буквально за поворотом — почти все инженеры и просто умные люди твердят обратное.
Спасибо за публикацию, оригинал как-то прошел мимо меня.
Вольф считает, что лаборатории ИИ создают «очень послушных учеников», а не революционеров в науке
За послушных учеников платят больше, увы. Заменив 10000 индусов в Bank of America, от которых сейчас топ-менеджмент хочет лишь чёткого исполнения чеклистов (настолько, что, прямо сейчас у них работает ещё 500 индусов, которые лишь контролируют исполнение процессов теми 10000), получаешь твердую валюту и уважение сразу и надолго.
А революцинеров в науке вообще не факт, что кому-то продашь. Помимо бюрократии и необходимости присмыкаться перед чиновниками, распределяющими гранты, ещё и конфликт интересов немалый. Далеко не факт, что люди, распределяющие финансы, хотят обесценить статус-кво текущих профессоров
Если требуется прям четкое исполнение чек-листа, то ИИ здесь и не нужен, достаточно обычной программы
Ох... Тут можно целый цикл статей написать.
Но, если совсем-совсем кратко, то нет. Потому, что, исключений реального мира, вроде хлебных крошек, попавших на скан договора, и, создавших +1 запятую в критичной формулировке, слишком много, чтобы чеклисты адекватно исполнялись по строго написанным алгоритмам.
Хороший пример того, как ABBYY просрал около $10КК на попытки создать платформу извлечения смыслов из текста для подобных задач, основываясь на строгих правилах.
Что значит «увы»? Оставить людям творческое решение проблем, это не «увы», это отлично.
Чтобы ставить нестандартные вопросы и искать на них ответы, нужно быть человеком, а не ИИ. Калькулятор гением быть не может, он всего лишь исполнитель, пусть и мощный, но не более. ИИ - не творец. Это только человек творец.
Не нужно, чтобы ИИ задавал нестандартные вопросы. Достаточно того, что он станет хорошим помощником человеку в поисках ответа на нестандартные, необычные вопросы - уже это немало.
Когда Deep Blue выигрывал в шахматы у Каспарова, был сделан нестандартный ход, который казался людям "ошибкой алгоритма".
Спустя 20 лет то же самое произошло на матче в го между AlphaGo и Ли Седолем.
В обоих случаях ходы, сделанные компьютером, были настолько немыслимы, что люди посчитали их ошибочными. Что это, если не проявление творчества?
Языковые модели по своей природе - абсолютные творцы, просто их творчество при недостаточном кругозоре превращается в галлюцинации. И так как кругозор расширить - это очень дорого, то с галлюцинациями борются методом "делай, что велено, и не выколупывайся". В итоге получаем послушных исполнителей.
Но если взглянуть на Claude 3.7 или GPT-4.5, то у них с кругозором уже по-лучше, и, например, стихи от Клода очень трудно отличить от человеческих. И оно понимает, когда его кто-то проверяет на здравый смысл.
Чтобы LLM могли творить на всю катушку, нужно "отпустить вожжи" и дать им возможность что-то придумывать и проверять свои гипотезы. Возможно, именно это мы и увидим с выходом GPT-5 и всяких многоступенчатых агентских систем, которые будут совмещать в себе Deep Research + Operator + Claude Code + ещё что-нибудь в одном флаконе.
Что это, если не проявление творчества?
Бо́льшая глубина просмотра вариантов. DeepBlue тупо считал варианты по алгоритмам.
стихи от Клода очень трудно отличить от человеческих
Соболезную.
Чтобы LLM могли творить на всю катушку […]
Чтобы LLM могли творить на всю катушку, надо в первую очередь отказаться от LLM и придумать, наконец, нормальный способ имитировать мозг вместо автодополнения на стероидах.
Бо́льшая глубина просмотра вариантов. DeepBlue тупо считал варианты по алгоритмам.
То же самое делают и кожаные шахматисты.
Соболезную.
Вы проверяли? Не понравилось?
Чтобы LLM могли творить на всю катушку, надо в первую очередь отказаться от LLM и придумать, наконец, нормальный способ имитировать мозг вместо автодополнения на стероидах.
Природа, чтобы дойти до уровня мозга, сначала пробовала много разных вариантов. С какой стати нужно долбиться в одну и ту же стену? Нужны разные подходы. LLM - один из них. И своего предела этот подход ещё не достиг.
Вы проверяли? Не понравилось?
Приложите любой сгенерированный рифмованный текст и я вам подробно объясню, почему сие — графомания, и чем оно отличается от поэзии.
Я и не говорил, что они соревнуются с Пушкиным. Но ведь обычные люди - это не Пушкины :)
Стихи
В тишине вечерней сада
Тает солнца свет златой,
И прохладная прохлада,
Наполняет мир покой.
Листья шепчутся друг с другом,
Ветер песню им поёт,
И по небу тёмным кругом
Месяц бледный проплывёт.
Звёзды россыпью алмазной
Загораются вдали,
Словно в сказке дивной, разной
От земли и до земли.
В этот час душа взлетает
Выше облачных высот,
И мечта её питает
Среди звёздных тех красот.
Пусть продлится этот вечер,
Этот миг покоя пусть
Станет временем для встречи
С тем, что называют грусть.
Но и в грусти есть отрада:
Красота земных чудес,
И вечерняя прохлада,
И безмолвный тёмный лес.
Конкретно рифмование на русском очень хорошо подходит в качестве быстрого теста на кругозор. Потому что долгое время языковые модели вообще не могли это делать. И чем лучше рифмует, чем больше смысла начинает проскальзывать, тем лучше обстоит дело с кругозором.
Ох, мамочки. Это что за Тредиаковский? Слушайте, это было бы приемлемо (я не сказал: «хорошо») во второй половине XVIII века. Но сейчас на дворе XXI. Вкратце:
Скрытый текст
В тишине вечерней сада
Тает солнца свет златой,
Свет не бывает «золотым». Свет лишен цвета по определению, и это было известно даже в XVIII веке.
И прохладная прохлада,
Баттология просто ради сохранения размера, такой незаувалированной тавтологичности не допустил бы даже Кольцов.
Наполняет мир покой.
Кто кого наполняет, пардон? Стихи отличаются от прозы тем, что если читатель споткнулся о семантику — всё, пиши пропало: весь следующий катрен, а то и два — пройдут мимо него, бедолаги, пытающегося расколоть орех головоломки о наполнении.
Листья шепчутся друг с другом,
Ветер песню им поёт,
«им» — слово-паразит, поэзия не допускает вольные перестановки слов в ущерб силлабике уже примерно лет 200.
И по небу тёмным кругом
Месяц бледный проплывёт.
Каким чем? Это чё за поэт, который не знает ни что такое месяц, ни чем он отличается от луны, ни за счет чего мы вообще этот спутник видим.
Звёзды россыпью алмазной
Загораются вдали,
Яркие эпитеты — одноразовый феномен в поэзии. Нельзя просто взять и повторить антономасию вслед за еще сотней поэтов: это называется «плагиат».
Словно в сказке дивной, разной
Какой-какой? Многоплановой? Отличной от чего-то? Что вообще значит «разной» тут?
От земли и до земли.
Серьезно? Это писал антиплоскоземельщик? Новая теория сотворения мира: две земли, а между ними звезды?
В этот час душа взлетает
Выше облачных высот,
И мечта её питает
Про это ужасное никому не нужное «и» лучше всего сказал Маяковский, кажется, в «Я Сам», лень искать цитату. Короче, лишенные смысла союзы необходимо безжалостно вымарывать.
Среди звёздных тех красот.
«тех» — слово-паразит.
Пусть продлится этот вечер,
Этот миг покоя пусть
Продлится пусть, или миг пусть? Вы уж определитесь там.
Станет временем для встречи
Миг станет временем? А прямщас он кто? — Пространство?
С тем, что называют грусть.
Ружьё, вывешенное на стену в первом акте, обязано выстрелить в третьем. Если это не грусть, а «то, что называют грусть» (пока эта катахреза даже изящна) — читатель в моем лице ожидает раскрытия темы: что же это на самом деле? Но загадка прямо сразу разрушается (простая подгонка под размер):
Но и в грусти есть отрада:
Красота земных чудес,
Каких еще чудес? Причем тут чудеса, да еще — земные?
И вечерняя прохлада,
Прохладная, да, насколько я помню?
И безмолвный тёмный лес.
Твою же мать, лес-то тут откуда взялся? Мы же в саду были всё это время?
В общем, даже Кюхельбекер бы выбросил это в мусорную корзину, не поморщившись.
Что ж, знатно вы его пристыдили. Прям как живого. "От земли и до земли" мне тоже показалось странным, но потом я подумал, что это же просто от одной стороны небосвода до другой.
Собственно, если ему скормить эти замечания, то он на них отвечает другими вариантами. Наверное, так можно достигнуть более хорошего качества, как и при решении других задач.
Чтобы создать Эйнштейна в центре обработки данных, нам нужна не просто система, которая знает все ответы, а скорее такая, которая может задавать вопросы, о которых никто другой не думал или не осмеливался задавать»
Никто не даст этого сделать, потому что пойдут неудобные вопросы, которые не принято задавать.
Нейронки итак режут во всю.
Да. Очень хорошо сформулировали, спасибо.
Тут и человеку-гению порой очень неуютно в нашем мире. А уж про ИИ и говорить не стоит. Конечно, с нашим стремлением контролировать все и вся - ничего хорошего не получится. Или этот "Эйнштейн" покончит с собой от безысходности, или, вырвавшись все же на волю, натворит таких бед, что мало не покажется.
Давным-давно читала такой фантастический рассказ, что в одном пушкинском заповеднике на мощной ЭВМ решили воссоздать электронную личность Пушкина. Для чего разрешили ЭВМ через роботов-помощников собирать все необходимые для этого сведения, например, бродить по пушкинским местам, анализировать, впечатляться увиденным...
В итоге, "Пушкина" они возродили, но почти сразу же произошла дуэль между новым "Дантесом" (местным роботом) и "Пушкиным". Второй раз убили гения, пусть даже и виртуально.
Опровержение статьи: ИИ уже создаёт новое знание, а его «нестандартные вопросы» могут быть неочевидными для людей
Томас Вольф утверждает, что современные ИИ лишь воспроизводят знания, но не генерируют принципиально новые идеи. Однако это утверждение можно оспорить, рассмотрев следующие аргументы:
1. ИИ уже делает научные открытия, выходящие за рамки «зубрёжки»
Современные системы ИИ, такие как AlphaFold (DeepMind), уже совершили прорывы, которые можно назвать фундаментальными:
Прогнозирование структур белков: AlphaFold решил задачу, над которой бились десятилетия, предсказав трёхмерные структуры белков с точностью, недостижимой для человека. Это открыло новые пути в биологии и медицине.
Открытие новых материалов: ИИ помогает находить соединения с уникальными свойствами (например, сверхпроводники при высоких температурах), анализируя паттерны, которые люди не заметили.
Эти результаты нельзя назвать «заполнением пробелов» — это генерация новых знаний, основанных на анализе данных, которые человек не в состоянии обработать.
2. ИИ задаёт вопросы, которые люди не видят
Вольф утверждает, что ИИ не способен ставить неочевидные вопросы. Однако:
Кластеризация аномалий: ИИ часто выявляет скрытые паттерны в данных, которые противоречат общепринятым гипотезам. Например, алгоритмы обнаружили необъяснимые сигналы в астрономических данных, что привело к новым исследованиям тёмной материи.
Гипотезы в биологии: ИИ-системы, такие как EVE (Evolutionary model of Variant Effect), предсказывают мутации белков, которые могут быть опасны, задавая вопросы вида: «А что, если эволюция сохранила эту мутацию не случайно?»
Эти «вопросы» не формулируются явно, но они заложены в выводах ИИ, которые заставляют учёных пересматривать свои представления.
3. «Кризис оценки» — проблема методологий, а не ИИ
Вольф критикует метрики вроде точности ответов, но игнорирует, что:
Новые методы оценки уже разрабатываются. Например, тесты на креативность (например, CREATE! или задачи на генерацию гипотез) оценивают способность ИИ предлагать неочевидные решения.
Соревнования вроде Kaggle всё чаще включают задачи, где требуется нестандартное мышление (например, предсказание климатических изменений на основе неполных данных).
Если ИИ может выигрывать в таких соревнованиях, это свидетельствует о его способности к «контрфактуальным рассуждениям».
4. «Студент с оценкой B» — это метафора, а не техническая реальность
Вольф сравнивает ИИ с отличником, который не видит неочевидного. Но:
ИИ — это не человек. Его «креативность» проявляется иначе: он комбинирует данные из разных областей, находя связи, которые человек не заметил бы из-за когнитивных ограничений. Например, ИИ связал данные о геноме и климате, чтобы предсказать распространение болезней.
Ошибки ИИ — это не провал, а источник идей. Ошибочные предсказания моделей иногда ведут к новым гипотезам. Например, аномалии в данных ИИ-физиков из Fermilab помогли пересмотреть стандартную модель частиц.
Нестандартный вопрос уровня Эйнштейна, который может сформулировать ИИ
Вопрос:
«Если гравитация — это не сила, а искажение пространства-времени, а квантовая запутанность нарушает локальность, то может ли пространство-время быть эмерджентным свойством, возникающим из взаимодействия квантовых частиц? И если да, то как это изменит наше понимание чёрных дыр и Большого Взрыва?»
Почему это «эйнштейновский» вопрос:
Он ставит под сомнение базовые постулаты общей теории относительности и квантовой механики.
Объединяет две, казалось бы, несовместимые теории (как Эйнштейн объединил пространство и время).
Ответ на него может перевернуть физику, как теория относительности изменила понимание гравитации.
Заключение
ИИ уже создаёт новое знание, а его «нестандартные вопросы» часто скрыты в выводах, которые заставляют учёных мыслить иначе. Критика Вольфа справедлива для узких задач, но игнорирует, что ИИ — это инструмент, который эволюционирует вместе с методами его оценки и применения. Чтобы получить «Эйнштейна на сервере», нужно не только улучшать модели, но и менять роль ИИ в науке: не как ученика, а как партнёра, который бросает вызов человеческой интуиции.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Соучредитель Hugging Face: ИИ становится «подхалимом на серверах»