Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 20
Кошка, прошедшая по клавиатуре и набравшая «ылдкогкокцеа» создала что-то новое? Есть инструментально измеримые критерии настоящего творчества?
Мне кажется, что у всех этих философствований есть фундаментальный недостаток — ущербность самих определений и языка как инструмента описания реальности и манипуляции информацией. Язык несовершеннен и часто переплетается в человеческой голове с мутными ощущениями, которые он сам не в состоянии сформулировать.
Я почти уверен, что если взять двухсотлетнюю картину малоизвестного живописца, и показать её двум группам испытуемых, сказав одной что это творчество реального человека, а второй — что это генерация нейронки. А потом спросить группы о впечатлении от увиденного из второй группы большинство скажет что-то типа "Ну это сразу было видно, что нейронка. Детали плохо прорисованы, нереалистичная анатомия, вторичный результат". И т.п.
Большинство из нас не туда смотрят, как мне кажется. Тысячи умов жуют эту жвачку, в тысячах споров и не видят бревнища в глазу. Человеческое восприятие обманывается на раз два, просто пощелчку пальцев и состоит в из огромной кучи эволюционных костылей в виде эвристик и прочих автоматизмов. Если на него взглянуть непредвзято и со стороны из глаз какого-нибудь инопланетянина то он за голову схватится.
UPD: Человек часто точно так же себя ведёт, повторяя паттерны того, на чем был воспитан в детстве или чем впечатлился познав это в другой культуре. Особенно наглядно видно в волнах моды в разные исторические периоды, например египтомания в Европе или всплеск популярности европейской культуры в Японии.
Но самое наглядное и очевидное — язык и религия, которая передаётся через культуру в которой человек вырастает.
Было бы здорово, если бы вы изложили свой тезис попроще. К сожалению, я не понял, на что надо ответить.
Upd: ага согласен. Человек результат работы паттернов. Но главное его отличие, что он доказано придумывает новое. Именно смысл, а не форму. LLM работает с известными смыслами и меняет только форму.
Да, люди очень похожи в своём мышлении на LLM. Но там где они не похожи, там и находится принципиальное их отличие.
Ок, попробую переформулировать. Люди строят систему размышлений на шатком фундаменте, потому что принципиально невозможно точно определить термины.
Например, какие измеримые критерии можно внести для того, чтобы отличить "настоящее творчество" от "ненастоящего". И вообще само творчество от непреднамеренного результата деятельности организмов. И это может показаться простым, если не попробовать это сделать самостоятельно и обязательно найдётся пример, опровергающий определение или не вписывающийся в него...
Для меня пока основным критерием является новизна. Самолёт, ракета, электрогенератор, теория относительности или механика Ньютона. То есть то, что отсутствовало ранее принципиально.
Гуманитарные определения в части живописи, музыки и т.д, я к творчеству LLM не привязываю. Потому что если исключить прорывы - большая часть это комбинация паттернов и стилей.
Но когда LLM предложит новую концепцию в любой научной теории, принципиально новый механизм или устройство, тогда я соглашусь, что LLM может творить.
Тогда самым творческим стоит признать генератор случайных чисел ;)
)) на базовом уровне так и есть.
О чем и речь, стоит разносторонне начать испытывать определения и философские концепции на прочность, как они тут же начинают скрипеть и разваливаться.
Но в то же время у нас как у вида нет другого способа мыслить.
Пока критерий работает, я буду его использовать. ) Новизна и случайность совпадают только на базовом уровне, чуть выше, когда уже рассматривается смысл, шум отбрасывается.
Велосипеды - трехколесные, тандемы, с эллипсоидными колесами, без руля или с карданной передачей, это всё уже шум вокруг велосипеда как концепции...
Для меня привлекательнее другой подход, велосипед это мехенический трансформатор мускульного усилия в принцип качения. Во-первых, исчезает какая-то там "новизна", потому что это фундаментальный принцип природы используемый другими живыми существами, например скарабеями или растением перекати-поле.
Если задуматься, то человек вообще ничего принципиально нового не создал из материальных предметов, он переиспользует материю и законы по которым трансформируется энергия. То же самое умеет делат и слепой эволюционный процесс.
Этектроника? Так это нервная система животных и растений. Электродвигатель на подшипниках? Уже придумали простейшие (см. устройство жгутикового мотора). Заводы и конвеерная сборка? Пчёлы с осами давно уже сделали. И т.п.
Да, действительно LLM не хватает творческих начал, хотя генерировать галлюцинации они большие мастера. Поправить это не сложно. Достаточно самостоятельно генерировать необычные комбинации разных сущностей и действий, запрашивая ИИ проверить их реализуемость и потенциальную пользу. Сущности и взаимодействия можно брать например из лексической базы данных WordNet случайным образом в интересующих исследователя областях. Например запрашивать использование искусственных нейросетей в собаководстве. :-) Я как физик хорошо знаю, что почти все открытия были получены чисто эмпирическим путем при помощи случайных комбинаций предметов, материалов и событий.
Забавно, это всё та же идея с миллионом обезьян и печатной машинкой. Но что характерно может сработать как брутфорс, пусть и с огромными затратами.
Люди и есть большие обезьяны, но вместо печатных машинок у них теперь в руках мощные компьютеры, способные заменить миллионы других обезьян с машинками. Почему бы это и не сделать ? Научная, изобретательская интуиция, помогающая сузить поиск вариантов, приходит только с опытом. LLM и людям с начала придется набраться этого опыта. Я спокойно отношусь к брутфорс. Еще в студенчестве предпочитал использовать метод моделирования Монте Карло вместо сложных теоретических расчетов и это часто помогало. Хотя бы в начальных приближения точности. Сам метод обучения с подкреплением и есть обезьяны с машинками. Главное централизованно накапливать, а не терять положительный опыт. Мне кажется в этом есть смысл. Удачи !
Философы тысячелетиями переливают пустое в порожнее, но у них есть оправдание что они в платоновской пещере, а объект - чёрный ящик. У философов llm такого оправдания нет, казалось бы - возьми pytorch, построй учебную нейронку, пойми как работают в основе, прочитай трансформеры, устройство больших моделей, получи полное знание об объекте. Но нет, это же сложно, лучше буду бросать камушки в огонь и путать тени на стене с реальностью.
Э… так ты слона AGI не продашь…
Самое печальное, что катание микросетей ничего в этом смысле не даёт. Да, видишь лосс, видишь влияние архитектуры на скорость обучения.. Но самое забавное, интеллект нейросети похоже прямо зависит от её размера, то есть вся суета с нейросетью на домашнем компьютере неизбежно упирается в эффект масштаба. Добавляешь слой, модель умнеет, видеокарта дохнет, процесс исследования заканчивается. А все вот эти интересные вещи - CoT, длинный контекст, экстраполяция - они появляются там, где нужны промышленные размеры. И получается, что все ваши "полные знания об объекте" полученные на "учебной нейронке" ни черта не стоят.
То есть, для того чтобы на практике тестировать свои гипотезы, надо работать в Антропик.
Я на днях, вернее ночью ... с Нуралиевым, который создал 1с и 1с:Напарник - БЯМ, его слова, дословно: "Я лично занимался этим вопросом, мое мнение она не думает(с) Отсюда следует.Творчества там нет тем более. Потому что нет нужды ни думать, ни творить. Хотя работа психологов, маркетологов видна, та же Gemma-4 ненавязчиво навязчива.
Сама по себе LLM не генерирует нового.
Она раскачивает ваши вводные.
Если вы дали ей задачу написать стих, она напишет какой то шаблонный, если вы скажете написать стих используя синтаксис python и ничего больше, по факту это будет что то новое, но ведь творческая часть была с вас.
Но ведь мы тоже ИИ, почему мы можем, а она нет? У неё плохо с абстракцией.
Тем более при обучении ей эту абстракцию жестче убивают(по мимо проблемы классического, кого механизма обучения, есть еще и доп современные плюшки которые делают сигнал стабильнее)
И есть, модели в которых она не сильно приглушена, это опен аи модели, клауд, а вот гемини и дипсик наоборот.
Удалено. Случай опубликовал не дописанный комментарий.
Мой опыт "творчества" с нейросетями показал, что если поручить ей сгенерировать сюжет, то она выдаст самые банальные, самые избитые идеи и сюжетные ходы, какие только существуют. Что, собственно, полностью обусловлено их архитектурой.
И нет, просьба "выдать что-то нестандартное, необычное", не помогает.
Безусловно, он хороший помощник (помощник, а не творец) в этом деле. Благодаря ИИ можно понять, как будет мыслить персонаж с тем или иным характером или с теми или иными ментальными проблемами, как он будет реагировать на те или иные события, как он будет вести в тех или иных ситуациях.
Поможет расширить свои знания матчасти в той или иной сфере, проверить текст на наличие противоречий, логических и фактических ошибок. Разумеется, здесь нужно держать в уме, что нейросеть может галлюцинировать, так что самые важные моменты нужно за ней перепроверять.
Короче, играть роль "бета-ридера" и "гамма-ридера", но уж точно не альфы (автора), который и занимается основным творческим процессом. ИИ неспособен быть полноценным автором, способным создавать что-то по-настоящему уникальное, необычное и цепляющее... Пока что.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Способна ли LLM к творческому мышлению