Comments 26
А какой практический смысл в "оригинальности идеи"? Какая разница кто и как что-то придумал, главное чтобы это что-то работало и приносило пользу.
Речь идет не о практическом смысле. Просто рассужеление на тему.
Мы всегда думали о каких-либо занятиях связанных с творчеством, как о присущих только человеку и выполнимых только им. А тут бам! Нейросеть сочиняет стихи на раз-два. Мне и стало интересно об этом порассуждать и я написал эту статью.
ИИ выявляет закономерности и следствия в данных, запоминает информацию [если так можно выражаться об алгоритме], чтобы потом выдать наиболее естественный и правильный ответ (относительно данных обучения).
Никаких там следствий и закономерностей нет. Кроме того нет запоминания информации. И тем более нет наиболее естественного и правильного ответа.
Есть алгоритмы, которые читают информацию, находят закономерности не просто так а именно согласно этим алгоритмам и заносят эти данные в том виде, в котором задумано этими же алгоритмами. Затем пользуясь этими данными и другими алгоритмами, выдает анализ.
Нет никакого осознания знаний, нет никакого понимания, творчества или попыток найти закономерности, не предусмотренные алгоритмами.
Поэтому под творчеством можно подразумевать развитие этих алгоритмов, а не их производное.
Затем пользуясь этими данными и другими алгоритмами, выдает анализ.
Ну то есть как человек, да? Подсознательные алгоритмы, которые для сознания выглядят как "озарение". Или вы намекаете, что есть разница? Можете сформулировать, в чем она заключается?
Нет никакого осознания знаний, нет никакого понимания, творчества или попыток найти закономерности, не предусмотренные алгоритмами.
А чем тебе не нравится алгоритмы нейронных сетей, которые как раз таки создавались наиболее схожими из всех с мозгом?
Никаких там следствий и закономерностей нет. Кроме того нет запоминания информации.
но
... находят закономерности не просто так а именно согласно этим алгоритмам и заносят эти данные в том виде, в котором задумано этими же алгоритмами.
Ну хранятся репрезентации этих закономерностей и данных в весах нейронной сети. И что тут не так?
Затем пользуясь этими данными и другими алгоритмами, выдает анализ.
Отлично... Теперь ИИ выдает не ответ (т. е. выходные данные), а некий анализ...
К чему вся эта игра слов и понятий, смысл то тот же.
Поэтому под творчеством можно подразумевать развитие этих алгоритмов, а не их производное.
Под творчеством вообще сложно что-то подразумевать, как о любом абстрактном понятии (но не суть). В утверждении есть доля истины, но у нас уже есть алгоритм, который "впитывает опыт". Так что сейчас стоит вопрос наверное о его исследовании и совершенствовании, представлении данных и т. д..
А чем тебе не нравится алгоритмы нейронных сетей, которые как раз таки создавались наиболее схожими из всех с мозгом?
Обучение идет на совершенно несопоставимых вещах. Человек обучается не на текстах, а на данных поступающих от тела. Когда человек начинает понимать слова и уж тем более буквы, это уже немного личность. Нейронные сети же просто пытаются ранжировать данные согласно запрограммированным алгоритмам, следовательно ни о каком "понимании" или осознании смысла данных речь не идет. Также отсутствуют алгоритмы самоконтроля.
алгоритмы "наиболее схожие" и "действительно схожие с работой мозга" - очень разные понятия и пока что находятся крайне далеко друг от друга.
Мы всегда думали
Вы - это кто? Что за группа/общность? Если речь обо всех людях, то это не верно. С момента зарождения фантастики есть немало людей, которые не считают творчество безоговорочно принадлежащим человеку. А уж 20 последних лет эта тема вообще достаточно спорная.
для авторского и патентного права (проще говоря - про деньги).
Для научных работ.
(пока что ближайший аналог юридического положения ИИ - это "подмастерье в цеховой мастерской средних веков: живет и работает на готовом, все что он сделает - принадлежит мастеру")
Нейросеть сочиняет стихи на раз-два
Между рифмованными строчками, сочинёнными нейросетью, и стихами такая же разница, как между движущимися картинками в аппарате Люмьера и шедеврами киноискусства.
Творчество, в отличие от имитации, генерирует новую информацию. Обобщение опыта (то есть имитация), в широком смысле, новой информации не создает - но для мыслящих существ (может и для ИИ тоже) может служить триггером или фундаментом для создания новой информации - так происходит у человека.
Происходит ли так у машины, или она все ещё неспособна вытянуть сама себя за волосы из болота, как Мюнхгаузен - до тех пор, пока у ИИ не появится душа - пока непонятно.
Если это так - то возникает удивительный парадокс - душа является катализатором даже естественнонаучного творчества, а не только (как может показаться) гуманитарного.
до тех пор, пока у ИИ не появится душа
Однако у ChatGPT есть душа. А у вас нет. Вы можете попробовать доказать обратное, но вряд ли у вас получится.
между движущимися картинками в аппарате Люмьера и шедеврами киноискусства.
В документальных фильмах нет творчества? Крайне смелое заявление. Вы уверены, что авторы документальных фильмов с вами согласятся?
Зачем передёргивать? Движущиеся картинки - это не документальное кино, которое общепризнанно является киноискусством. Речь о том, что повторение результатов творческого акта творческим актом не является.
Строго говоря, изобретение движущихся картинок и далее самого киноаппарата - это результат творчества, но мое сравнение было сознательно упрощено, чтобы разница была более наглядна.
У братьев Люмьер (не у Люмьера) именно документальное кино. Я так полагаю, вы называете "прибытие поезда" движущимися картинками просто ради усиления своего довода. Мол, если это просто поезд на вокзале, значит не творчество.
сознательно упрощено
Сравнение стало ошибочным после такого упрощения. У вас получился довод в стиле "я считаю это творчеством, а это не творчеством, значит душа является катализатором". Это ошибка и своим первым абзацем я постарался это продемонстрировать. Если вы не можете гарантировать наличие души у какого-то писателя (например), вы не можете утверждать, что она является катализатором.
Более того, можно предложить даже простой эксперимент. Вам нужно будет проверить нарисованную человеком или сгенерированную картинку на предмет наличия творчества (а так же новой информации) в ней. Получится? Отличить брак не сложно, а если брака в рисунке нет? Уверены, что надёжно справитесь, с малым количеством ошибок?
В плоскости творческого процесса ничего не изменится. На оригинальные идеи ИИ никак не влияет и повлиять не может.
Вообще эта шумиха вокруг ИИ уже несколько надоела. Нет там ничего особенного. Алгоритмы ИИ основываются либо на детерминированных правилах, либо на банальной статистике (большинство алгоритмов, включая нейронные сети). Просто огромное количество данных и возможность их обработки дали качественный эффект. Но... нейронная сеть может лишь повторять, она не может сгенерить ничего принципиально нового и осмысленного. Да, иногда при анализе результатов работы нейронной сети кажется - вот оно новое и оригинальное, однако... это "новое" не более чем скрытая статистическая связь между какими-то данными, заметьте - не выдуманная, а уже имеющаяся в исходных данных.
Если рассматривать другие алгоритмы, например, генетические, то в их основе лежит целевая функция, которая определяет, что хорошо, а что плохо. А откуда берется эта целевая функция? Очевидно, она создается программистом, по ТЗ...
Остановимся пока-что на нейронных сетях.
это "новое" не более чем скрытая статистическая связь между какими-то данными, заметьте - не выдуманная, а уже имеющаяся в исходных данных
Соглашусь, но эту статистическую связь она может проецировать и на новые данные. К тому же, пусть просто есть скрытая связь, уже имеющаяся в данных — но если ИИ ее открыл, то чем это не открытие?
она не может сгенерить ничего принципиально нового и осмысленного
Ну чтобы сгенерировать что-то навое и осмысленное, нужно знать от чего отталкиваться, люди знают, ИИ сможет "узнать", но люди ведь наверняка оттолкнулись "не во все направления", не реализовали всех скрытых статистических связей, тут и выходит на сцену ИИ.
но эту статистическую связь она может проецировать и на новые данные
Ну, это и есть основная фишка нейронных сетей, что выявленные связи применимы не только к данным обучающего набора, а и к другим схожим данным, которые нейронная сеть в первые видит. Но это всё не выходит за рамки механического подражания.
Человеческое мышление делится на дискурсивное (логическое) и интуитивное. Причем, интуитивное мышление занимает по важности примерно 80% (числа условны). Логика всегда должна направляться интуицией, без этого нельзя прийти к цели и, главное, к осмыслению результата. В пределе основные открытия вообще, как правило, происходят путем озарения, что является темным лесом для понимания процесса человеческого мышления.
А вот певый тип мышления ИИ освоить может. Но это всё сводится к работе по шаблонам (а триллионы связей между нейронами - это по сути тоже шаблон). Причем шаблон может быть либо жестко запрограммирован (на основе правил), либо создан на основе наблюдений: на основе частот повторений разных событий вычисляются их вероятности. Т.е. нейронные сети лучше сравнивать с вегетативной нервной системой и с рефлексами, но не с сознательной деятельностью человека.
Также не надо забывать, кто ставит цели для ИИ, кто оценивает и осмысливает результат и многое другое. Это человек. Т.е. ИИ это не более чем шаблон. Хотя не спорю, что такими "шаблонами" можно успешно заменить многие виды человеческой деятельности. Но и в этом случае сами по себе шаблоны работать не будут.
PS
Даже если рассмотреть последние нашумевшие фотки, сгенерированные нейросетями, и занявшими первые места в конкурсах, то следует обратить внимание, что там автор (человек) несколько дней/недель составлял задание для сети, вручную перебирал и уточнял тысячи вариантов... а это и есть творческий интуитивный процесс (о котором я говорил выше), который направлял нейросеть и в итоге привел к идеальному результату. В этих примерах нейросеть лишь мощный инструмент, но не более.
Из сказанного, очевидно, что моя аргументация
А какой тезис вы подкрепляете аргументацией?
Но навык ли творческий процесс?
А вы изучали этот вопрос? Я частенько натыкался во всяких книжках на мысль, сводящуюся к тому, что творчество - навык и на 99% - рутинный труд. Чтобы сделать произведение искусства вам нужны годы на оттачивание навыка, изучение идей и трудов других авторов в той же области, время на понимание их трудов. И только после вы сможете творить на постоянной основе, а не случайно выстреливать чем-то удачным.
Вообще, вы не учитываете тот факт, что человечество генерирует огромные объемы информации. Пишется невообразимое количество книг, картин, творчество присуще каждому, однако в подавляющем числе случаев оно дает посредственность в виде результата. Так ли оригинален человек? Или получение оригинальных идей - случайный процесс? Может быть и современный "ИИ" может генерировать оригинальные идеи, только от него их не ждут и мизерная доля оригинальных идей "ИИ" растворяется в терабайтах обычной информации, которую он вынужден отдавать в неисчислимом количестве запросов. Неточность в ваших рассуждениях, как мне кажется заключается в том, что под результатом работы "ИИ" понимается весь спектр отдаваемой им информации, а под результатом деятельности человека понимаются труды лучших умов. Не совсем корректно. Нужен качественный анализ результатов творчества "ИИ" и человека, а уже потом рассуждения на эту тему. С таким можно даже в журналы постучаться.
неотъемлемого факта без которого не может появиться идея. Воля
Воля на что? На генерацию идей? По вашему человек при необходимости появления идеи садится и силой воли выдавливает из себя что-то новое, оригинальное? Или силой воли он может заставить себя вспомнить что-то? Так в чем тогда необходимость воли, если что-то вспомнить мы можем и по просьбе другого человека, как в случае с "ИИ"?
А какой тезис вы подкрепляете аргументацией?
Эм... Он как бы в начале:
Могут ли люди в будущем надеяться на оригинальность и значимость своих мыслей и идей, когда искусственный интеллект и нейросети уже так хорошо их имитируют?
Может ли ИИ имитировать творческий процесс, а точнее результат этого процесса?
Неточность в ваших рассуждениях, как мне кажется заключается в том, что под результатом работы "ИИ" понимается весь спектр отдаваемой им информации, а под результатом деятельности человека понимаются труды лучших умов.
С этим пожалуй соглашусь, но все равно ненужную информацию ИИ можно и игнорировать, смотря что исследуем.
Под волей я не имею в виду силу воли. Тут больше про желание, рвение, человек волен создать что-то оригинальное, а ИИ — нет. Он, собственно, волей не обладает; то, что ИИ ответил — результат запроса человека и работы алгоритма, а не проявления воли. Первоначально он будет работать по воле человека.
Эм... Он как бы в начале:
В начале вопросы, а не тезисы. Вы либо считаете что ответ да, и подтверждаете его, либо считаете что нет, и приводите аргументы в пользу этой точки зрения. Ответа я не нашел, а аргументы нашел. Что вы хотите подтвердить?
Тут больше про желание, рвение, человек волен создать что-то оригинальное, а ИИ — нет
Я понимаю о чем вы, но не могу не заметить два момента:
Если смотреть на процесс создания чего-то нового, как процесс во многом случайный, то воля если и играет роль, то второстепенную. Все-таки, навык важнее желания. Если вы не согласны с тем, что процесс создания нового во многом случайный, то этот аргумент мимо.
Понятие воли, относящееся к человеческой личности, к современным ИИ не применимо, потому что ИИ отличаются от человека: у ИИ нет личности, он устроен по другому, он по другому "обучается" и т.д. Соответственно воля ему либо не нужна для функционирования, либо просто не может быть ему присуща. А если воля и ИИ - понятия не пересекающиеся, то говорить о том, что отсутствие воли - недостаток, не позволяющий ИИ что-то делать, не совсем корректно (ИМХО). Если сделать ИИ, который по своей структуре предназначен для бесконечного синтезирования стихотворений, то он и будет бесконечно их синтезировать без какой-либо воли, и с определенной вероятностью будет выдавать новые, оригинальные и безумно прекрасные стихотворения.
когда мы рождаемся мы не имеем понятия о них, ...
А кто знает, с чем именно мы рождаемся? Может, наша жизнь — это развитие (раскручивание) того, что у нас уже есть?
99% людей не могут придумать что то новое и просто повторяют за другими. гениальность в какой то сфере совсем не значит что в другой области этот человек может хоть что то.
из комментов очевидно что самый сильный аргумент тех кто выступает за эксклюзивность человека это его чувства собственного превосходства.И это единственный аргумент.
человеческое новое появляется перетряхиванием уже полученной информации либо ошибками в уже работающих человеческих алгоритмах мышления или поведения.
а теперь давайте ПРЕДСТАВИМ что находить взаимосвязи и делать специальные ошибки с целью получить новые комбинации старых данным может и компьютер!
ФАНТАСТИКА?НЕТ.РЕАЛЬНОСТЬ.
Нет никакой оригинальности человеческой идеи. Человеческое мышление так же построено на алгоритмах обработки информации. Есть мутации, которые лежат в основе процесса эволюции. Все, что нужно - что бы ИИ выдвигал рандомные гипотезы, и проверял их на реализуемость и полезность. Все. 99,99% этих гипотез будет отвергнуто, наилучшая принята для дальнейшего развития. То же делает человек в процессе творческого процесса, на одно стихотворение Пушкина приходиться миллионы бездарных строк иных авторов.
Просто для аналогии. Человек хотел летать и сначала думал это делать по аналогии "как птица". В итоге был придуман самолет - и быстрее и дальше, и комфортнее и эффективнее. И - по другому. Хотя по прежнему может летать как птица. Так же будет и с ии. Сначала - "по аналогии", а потом " как пойдет". Сейчас ии для того чтобы быть " как папа" не хватает только одного (?) - Цели. А дальше - как пойдет.
Оригинальность человеческой идеи после ИИ