А почему вы собственно думаете что это что то сложное, может там "каково ощущать" такое же простое как и у простейших бактерий или там амёб. Просто регистрация сигнала и все. Типа: На пути препятствие = true. Прочувствовать такое элементарно, на это уж нашего воображения вполне хватит.
Это не "концептуальная невозможность" а просто отсутствие у человека соответствующих умений. Представьте например что вам нужно наблюдая за процессами в компьютере понять какую именно картинку оно выводит на экран. Но при этом вы не видите экрана, у вас не на чем нарисовать картинку, и у вас нет воображения чтобы представить картинку по числовым значениям цветов. Сможете вы в такой ситуации понять что за картинку выводит компьютер? Нет? Значит ли это что картинка на экране образуется не посредством процессов в компьютере?
Но доказать, что другой человек обладает сознанием вы никак не можете.
Странное это утверждение, разве вы не уверены в том что ваши родители обладают сознанием? Считаете возможной такую генетическую мутацию из-за которой у вас появилось сознание? Или считаете возможным что вам кто-то дал сознание а родителям почему то не дал?
Вы хотите справочник, но общаетесь с чатом. Не находиите это странным?
Что же тут странного, удобнее же пользоваться чем справочниками, в разных справочниках может быть разная информация, где то меньше, где то больше, поэтому интерфейс доступа к этим справочникам который бы позволял проще задавать уточняющие вопросы, для людей выглядит удобнее.
Кстати интересно, кажется можно проверять есть ли нужные закономерности, то есть есть ли понимание, предлагая придумать вопрос на ответ:
Что в принципе логично, возьмем например сжатие файлов, которое по сути тоже выявление закономерностей и сохранение их. Как мы проверяем что сжатие было без потерь, то есть что сохранены все значимые закономерности? Мы расжимаем файл, восстанавливая данные по сохраненным закономерностям и сравниваем с исходными данными.
Строго по определению если нейронная сеть научилась какую-либо закономерность выводить (сколь угодно сложную), иначе как из обучающих данных она вывести её не могла.
Ну конечно, я об этом и говорю, если в обучающих данных была нужная закономерность, и данных было достаточно, и нейросетка была корректно построена и обучена то итоге в ней будет закодирована эта закономерность, то есть она поймет эту закономерность. И проверить это можно задав ей вопрос ответа на который не было в обучающих данных. Задавать вопрос ответ на который был в обучающих данных бесмыссленно, ведь в обучающей выборке могло быть много всяких других закономерностей которые нам может и не нужно чтобы она понимала.
То есть вот допустим ChatGPT явно уловила какие-то закономерности в том как писать простые программы на Java, но вот уловила ли она общие закономерности програмирования, поняла ли она программирование? Судя по ответам на более сложные вопросы, нет, не поняла. Впрочем я особо не пробовал ее мучать, если придумать какой то новый язык и попросить ее написать на нем простенький алгоритм интересно сможет ли она.
Не, ну тут ситуация не попадает под ваше описание: "Нейросетка зазубрила какое-то правило, которое никогда не озвучивалось, не попадалось и которое решает задачу, о существовании которой нейросетки никак никоим образом никогда не сообщалось?"
Ведь в данной ситуации нейросетке нужно было угадывать следущий символ в таких текстах где он сильно зависел от эмоциональной окрашености текста, то есть ей именно озвучили правило: "в таких вот текстах слова вот такие, а вот в таких текстах слова вот такие".
А что, ваши критерии того, что считать за "поняла" меняются от того, была ли эта ситуация в реальности или нет?)
Я честно говоря вообще не вижу чем мои критерии отличаются от ваших.
Может вы решили что я тоже считаю что ChatGPT ничего не понимает? Это не так, что то она точно понимает, вопрос в том насколько. Критерий: насколько хорошо она может находить ответы на вопросы, если данных ответов не было в ее обучающих данных. То есть ровно также как мы проверяем понял ученик материал или просто вызубрил.
Мне кажется тут больше вопрос в том сможем ли мы создать ИИ который с одной стороны сможет самостоятельно автономно обучаться так же как умеем обучаться мы, а с другой стороны будет лишен наших недостатков.
Хотя впрочем нужен ли нам такой ИИ, существующие сетки уже достаточно хороши для практического применения, если еще объединить несколько специализированных сеток в один сервис так и вообще для практических целей более чем достаточно.
Ну да, само собой, понимание бывает интуитивное, бывает осознаное, бывает такое когда можно объяснить кому то как ты пришел к такому выводу, а бывает даже такое (серьезно сам видел) когда можно объяснить кому то как ты пришел к такому выводу так чтобы он все понял.
Что в данной ситуации случилось? Нейросетка зазубрила какое-то правило, которое никогда не озвучивалось, не попадаалось и которое решает задачу, о существовании которой нейросетки никак никоим образом никогда не сообщалось? Если да - то как ей это удалось?)
Это вы о какой то реальной ситуации рассказываете, кем то было доказано что это возможно, или к чему вы это вообще рассказали? Если это реально возникшая ситуация то дайте ссылку что ли. А вообще да, вы сейчас как раз и расписали как выглядит "понимание". Тем же людям никто не "озвучивал", и не "сообщал" как решать математические задачки, сами как то "поняли".
Ну если бы ей не давали специальных инструкций о том что говорить, как изображать саморефлексию, тогда да, тогда можно было бы сказать что "ну я не знаю никаких причин почему она это говорит кроме того что у нее действительно есть саморефлексия". А так, ну блин, вы же сами её проинструктировали что нужно отвечать, а потому удивляетесь что она отвечает так как вы её проинструктировали.
Ну вообще, учитывая насколько хрупка человеческая психика, нам действительно стоит бояться идеи создать ИИ по образу и подобию такой психики. Безумные роботы психи нам точно не нужны :)
Конечно строгое определение сознания дать довольно сложно. В таких случаях обычно начинают с того, чем оно не является.
Попробуйте начать с вопроса есть ли сознание у ваших родителей? Уверены ли вы в том что у них есть сознание? Если не уверены то это значит что вы предполагаете возможным существование такой мутации которая дала вам сознание или считаете что сознание это то чему можно научится.
Если вы не считаете что это возможно, то значит вы уверены что у ваших родителей есть сознание. И раз вы уверены что у ваших родителей есть сознание то значит можно повторить те же самые рассуждения для ваших бабушки и дедушки, и тоже прийти к выводу что у них совершенно точно есть сознание. И тоже самое тогда можно сделать для всех ваших родственников.
Но ведь вашим далеким-далеким родственником вообще говоря является некая разновидность бактерии. Ну или если идти еще дальше то просто какая то объединенная группа органических молекул с очень простым описываемым простыми химическими формулами поведением. И что, получается мы пришли к выводу что у бактерии и даже еще меньших микроорганизмов тоже есть сознание. Бред? Бред!
И что отсюда следует? Только то что слово "сознание" не отражает реальность, так как не допускает градаций, нет в нашем языке такой вещи как "чуть чуть сознания" или "у обезьяны больше сознания чем у рыбы". Вот и все. Просто не надо использовать слово сознание, это удобный бытовой термин, но его не стоит использовать в попытках точно описать реальность.
Что стоить использовать? А для чего? Ну, мы все примерно знаем чем мы отличаемся от обезьян, чем обезьяны отличаются от бактерий, и т.д. Что еще надо? Зачем вообще придумывать какое то слово "сознание", зачем его вводить в язык? Вот представьте что все люди забыли это слово, и что, их жизнь изменится? Нет, ничего не поменяется, ну кроме того что у кого то станет больше времени так как он не будет тратить его на споры о "сознании" :):)
Решение может быть принято на основе, например, чувств, желаний, или интуиции. Конечно можно сказать, что чувства, желания и интуиция это результат работы скрытых внутренних алгоритмов, но это еще нужно доказать.
Да зачем доказывать, это совершенно неважно, если вам не нравится слово "алгоритм" то вы можете применять любое другое, сути это не меняет: одинаковый вы, в одинаковых условиях, при одинаковых входных данных примете одинаковое решение. То есть ваше решение полностью определено последовательностью событий которые вначале привели к вашему появлению, к появлению у вас определенных чувств, желаний, интуиции и т.д. И это совершенно не значит что у вас нет "свободы воли", потому что это ваша последовательность событий, ваши чувства, желания, интуиция. Вот если бы на ваши решения оказывали влияние чужие чувства, желания, интуиция тогда конечно у вас не было бы свободы воли. И всё, это единственно определение свободы воли которое не выглядит бредом. И чтобы доказать что у вас есть эта свобода воли совершенно не нужна квантовая физика.
Я, конечно, понимаю, что это звучит дико, но может у квантового поля тоже есть какие-то аналоги чувств, желаний и интуиции (то есть предчувствия будущего), которые не сводятся к слепой случайности.
Это известная идея, я читал какую то научную статью на эту тему еще лет 10 назад. Собственно попыток избавится от случайности в квантовой физике очень много, и мне лично нравится многомировая интерпретация. Но к понятию "свобода воли" это никак не относится, ну если только кто то не считает что "свобода воли" это когда его действия не предопределены а являются случайными. Но если так трактовать "свободу воли" то получается что избавление от случайности в квантовой физике приводит к тому что такой "свободы воли" у нас нет.
Существуют ли проблемы, решение которых мы можем доверить только людям и не можем доверить формальным алгоритмам, нейросетям и прочим математическим конструкциям? Если существуют, то какие и почему мы их можем доверить только людям? Чем люди в этом плане отличаются от других сущностей
Конечно, например проблема выбора того что мы можем доверить нейросетям а что нет :) Суть в том что есть решения от которых напрямую зависит существование человечества как вида, и чтобы доверить эти решения нейросетям мы должны знать на каких правилах/алгоритмах/инстинктах/исходных данных зиждется наше существование как вида, и тут не факт что можно это узнать, вполне возможно что сами попытки "узнавания" будут "разрушать" эти данные. Однако поскольку мы как вид все таки существуем, значит у нас есть основания считать что в нас заложены правила/алгоритмы/инстинкты благодаря которым мы существуем как вид, и значит мы должных их использовать, то есть сами принимать решения которые мы считаем что должны принимать сами.
То есть от других сущностей мы отличаемся тем что в нас заложены алгоритмы обеспечивающие наше выживание как вида.
Что значит кажется, конечно он выбирает свой алгоритм, другое дело что алгоритм выбора это тоже алгоритм, и он тоже выбран другим алгоритмом, а тот другим, и т.д. А в конце этой цепочки, в самом начале моего существования лежит конечно либо алгоритм работы вселенной, либо просто случайность. Но я не понимаю почему если в основе моего алгоритма лежит случайность то это считается "свободой воли", это же очень глупо называть такую очевидно плохую ситуацию хорошим словом.
С вашей точки зрения - решение можно принимать либо в соответствии с алгоритмом (сложность здесь не играет никакой принципиальной роли), либо случайно. С позиции точных естественных наук это может быть справедливым, но с более общей метафизической - это ложная дихотомия.
Как это? Как еще можно принять решение? Оно либо основано на чем то(на рассуждениях, на внутренних правилах, на вере в бога и т.д.), либо абсолютно случайно. Что эта за "общая метафизическая позиция" которая утверждает обратное? Или это позиция типа: "есть еще какой то способ принять решение но мы не знаем какой, и вообще сами не понимаем почему мы думаем что есть еще какой то способ"?
Еще небольшое замечание - пусть вы считаете, что приняли решение логично. Но если все-таки это не строгий алгоритм, а в нем есть субъективная составляющая к вашей логике могут возникнуть вопросы. Другим ваше решение может показаться не логичным, а абсурдным.
Разумеется, как правило в основе данного алгоритма лежат мои собственные внутренние установки, мои убеждения, мое воспитание и т.д. То есть, есть какие то исходные данные заданные моими инстинктами, воспитанием, событиями случившимися со мной и т.д. И тем кто не знает всех этих данных мои решения могут казаться абсурдными.
Еще один момент - эмоциональная окраска слова логично - положительная, но если, например назвать такой стиль принятия решений шаблонным мышлением, то все становится не так однозначно.
Потому что под "шаблонным мышлением" подразумеваются какие то простые алгоритмы, результат которых можно предсказать не выполняя данные алгоритмы. Согласитесь, если результат работы алгоритма можно предсказать только выполнив данный алгоритм, то это даже нельзя назвать и предсказанием. И человеческое мышление оно как раз такое, чтобы его предсказать вам надо его "запустить", воссоздать окружающую среду, задать исходные данные на которых основан процесс мышления, задать сами алгоритмы мышления, и запустить их. Тоже самое кстати с нейросетями, вы можете предсказать результат работы ChatGPT только воссоздав ChatGPT и запустив ее.
Еще. Если все можно решить логично, почему все-таки люди иногда бросают монетку, а в еще более сложных случаях тянут жребий.
Ну да порой мы вынуждены это делать. И что в этом хорошего то?
Я то вообще говоря не считаю что все наши решения абсолютно логичны, скорее всего из-за квантовых эффектов в них очень большой элемент случайности. Но я не понимаю, почему считается что это хорошо, почему решения основанные на случае, абсолютно рандомное поведение называется "свободой воли". Свобода это же что то хорошее, а тут то явно плохое.
А почему вы собственно думаете что это что то сложное, может там "каково ощущать" такое же простое как и у простейших бактерий или там амёб. Просто регистрация сигнала и все. Типа: На пути препятствие = true. Прочувствовать такое элементарно, на это уж нашего воображения вполне хватит.
Это не "концептуальная невозможность" а просто отсутствие у человека соответствующих умений. Представьте например что вам нужно наблюдая за процессами в компьютере понять какую именно картинку оно выводит на экран. Но при этом вы не видите экрана, у вас не на чем нарисовать картинку, и у вас нет воображения чтобы представить картинку по числовым значениям цветов. Сможете вы в такой ситуации понять что за картинку выводит компьютер? Нет? Значит ли это что картинка на экране образуется не посредством процессов в компьютере?
Странное это утверждение, разве вы не уверены в том что ваши родители обладают сознанием? Считаете возможной такую генетическую мутацию из-за которой у вас появилось сознание? Или считаете возможным что вам кто-то дал сознание а родителям почему то не дал?
мда,кажется шутка не удалась
Что же тут странного, удобнее же пользоваться чем справочниками, в разных справочниках может быть разная информация, где то меньше, где то больше, поэтому интерфейс доступа к этим справочникам который бы позволял проще задавать уточняющие вопросы, для людей выглядит удобнее.
A что, Эрастофен и это измерил? 8-o
Кстати интересно, кажется можно проверять есть ли нужные закономерности, то есть есть ли понимание, предлагая придумать вопрос на ответ:
Что в принципе логично, возьмем например сжатие файлов, которое по сути тоже выявление закономерностей и сохранение их. Как мы проверяем что сжатие было без потерь, то есть что сохранены все значимые закономерности? Мы расжимаем файл, восстанавливая данные по сохраненным закономерностям и сравниваем с исходными данными.
Ну конечно, я об этом и говорю, если в обучающих данных была нужная закономерность, и данных было достаточно, и нейросетка была корректно построена и обучена то итоге в ней будет закодирована эта закономерность, то есть она поймет эту закономерность. И проверить это можно задав ей вопрос ответа на который не было в обучающих данных. Задавать вопрос ответ на который был в обучающих данных бесмыссленно, ведь в обучающей выборке могло быть много всяких других закономерностей которые нам может и не нужно чтобы она понимала.
То есть вот допустим ChatGPT явно уловила какие-то закономерности в том как писать простые программы на Java, но вот уловила ли она общие закономерности програмирования, поняла ли она программирование? Судя по ответам на более сложные вопросы, нет, не поняла. Впрочем я особо не пробовал ее мучать, если придумать какой то новый язык и попросить ее написать на нем простенький алгоритм интересно сможет ли она.
Не, ну тут ситуация не попадает под ваше описание: "Нейросетка зазубрила какое-то правило, которое никогда не озвучивалось, не попадалось и которое решает задачу, о существовании которой нейросетки никак никоим образом никогда не сообщалось?"
Ведь в данной ситуации нейросетке нужно было угадывать следущий символ в таких текстах где он сильно зависел от эмоциональной окрашености текста, то есть ей именно озвучили правило: "в таких вот текстах слова вот такие, а вот в таких текстах слова вот такие".
Я честно говоря вообще не вижу чем мои критерии отличаются от ваших.
Может вы решили что я тоже считаю что ChatGPT ничего не понимает? Это не так, что то она точно понимает, вопрос в том насколько. Критерий: насколько хорошо она может находить ответы на вопросы, если данных ответов не было в ее обучающих данных. То есть ровно также как мы проверяем понял ученик материал или просто вызубрил.
Мне кажется тут больше вопрос в том сможем ли мы создать ИИ который с одной стороны сможет самостоятельно автономно обучаться так же как умеем обучаться мы, а с другой стороны будет лишен наших недостатков.
Хотя впрочем нужен ли нам такой ИИ, существующие сетки уже достаточно хороши для практического применения, если еще объединить несколько специализированных сеток в один сервис так и вообще для практических целей более чем достаточно.
Ну да, само собой, понимание бывает интуитивное, бывает осознаное, бывает такое когда можно объяснить кому то как ты пришел к такому выводу, а бывает даже такое (серьезно сам видел) когда можно объяснить кому то как ты пришел к такому выводу так чтобы он все понял.
Это вы о какой то реальной ситуации рассказываете, кем то было доказано что это возможно, или к чему вы это вообще рассказали? Если это реально возникшая ситуация то дайте ссылку что ли. А вообще да, вы сейчас как раз и расписали как выглядит "понимание". Тем же людям никто не "озвучивал", и не "сообщал" как решать математические задачки, сами как то "поняли".
Ну если бы ей не давали специальных инструкций о том что говорить, как изображать саморефлексию, тогда да, тогда можно было бы сказать что "ну я не знаю никаких причин почему она это говорит кроме того что у нее действительно есть саморефлексия". А так, ну блин, вы же сами её проинструктировали что нужно отвечать, а потому удивляетесь что она отвечает так как вы её проинструктировали.
Мне кажется любой учитель и ученик понимают разницу между "зазубрить" и "понять".
Что вдруг произошло с людьми что они перестали понимать эту разницу.
Ну вообще, учитывая насколько хрупка человеческая психика, нам действительно стоит бояться идеи создать ИИ по образу и подобию такой психики. Безумные роботы психи нам точно не нужны :)
Попробуйте начать с вопроса есть ли сознание у ваших родителей? Уверены ли вы в том что у них есть сознание? Если не уверены то это значит что вы предполагаете возможным существование такой мутации которая дала вам сознание или считаете что сознание это то чему можно научится.
Если вы не считаете что это возможно, то значит вы уверены что у ваших родителей есть сознание. И раз вы уверены что у ваших родителей есть сознание то значит можно повторить те же самые рассуждения для ваших бабушки и дедушки, и тоже прийти к выводу что у них совершенно точно есть сознание. И тоже самое тогда можно сделать для всех ваших родственников.
Но ведь вашим далеким-далеким родственником вообще говоря является некая разновидность бактерии. Ну или если идти еще дальше то просто какая то объединенная группа органических молекул с очень простым описываемым простыми химическими формулами поведением. И что, получается мы пришли к выводу что у бактерии и даже еще меньших микроорганизмов тоже есть сознание. Бред? Бред!
И что отсюда следует? Только то что слово "сознание" не отражает реальность, так как не допускает градаций, нет в нашем языке такой вещи как "чуть чуть сознания" или "у обезьяны больше сознания чем у рыбы". Вот и все. Просто не надо использовать слово сознание, это удобный бытовой термин, но его не стоит использовать в попытках точно описать реальность.
Что стоить использовать? А для чего? Ну, мы все примерно знаем чем мы отличаемся от обезьян, чем обезьяны отличаются от бактерий, и т.д. Что еще надо? Зачем вообще придумывать какое то слово "сознание", зачем его вводить в язык? Вот представьте что все люди забыли это слово, и что, их жизнь изменится? Нет, ничего не поменяется, ну кроме того что у кого то станет больше времени так как он не будет тратить его на споры о "сознании" :):)
Да зачем доказывать, это совершенно неважно, если вам не нравится слово "алгоритм" то вы можете применять любое другое, сути это не меняет: одинаковый вы, в одинаковых условиях, при одинаковых входных данных примете одинаковое решение. То есть ваше решение полностью определено последовательностью событий которые вначале привели к вашему появлению, к появлению у вас определенных чувств, желаний, интуиции и т.д. И это совершенно не значит что у вас нет "свободы воли", потому что это ваша последовательность событий, ваши чувства, желания, интуиция. Вот если бы на ваши решения оказывали влияние чужие чувства, желания, интуиция тогда конечно у вас не было бы свободы воли. И всё, это единственно определение свободы воли которое не выглядит бредом. И чтобы доказать что у вас есть эта свобода воли совершенно не нужна квантовая физика.
Это известная идея, я читал какую то научную статью на эту тему еще лет 10 назад. Собственно попыток избавится от случайности в квантовой физике очень много, и мне лично нравится многомировая интерпретация. Но к понятию "свобода воли" это никак не относится, ну если только кто то не считает что "свобода воли" это когда его действия не предопределены а являются случайными. Но если так трактовать "свободу воли" то получается что избавление от случайности в квантовой физике приводит к тому что такой "свободы воли" у нас нет.
Конечно, например проблема выбора того что мы можем доверить нейросетям а что нет :) Суть в том что есть решения от которых напрямую зависит существование человечества как вида, и чтобы доверить эти решения нейросетям мы должны знать на каких правилах/алгоритмах/инстинктах/исходных данных зиждется наше существование как вида, и тут не факт что можно это узнать, вполне возможно что сами попытки "узнавания" будут "разрушать" эти данные. Однако поскольку мы как вид все таки существуем, значит у нас есть основания считать что в нас заложены правила/алгоритмы/инстинкты благодаря которым мы существуем как вид, и значит мы должных их использовать, то есть сами принимать решения которые мы считаем что должны принимать сами.
То есть от других сущностей мы отличаемся тем что в нас заложены алгоритмы обеспечивающие наше выживание как вида.
Что значит кажется, конечно он выбирает свой алгоритм, другое дело что алгоритм выбора это тоже алгоритм, и он тоже выбран другим алгоритмом, а тот другим, и т.д. А в конце этой цепочки, в самом начале моего существования лежит конечно либо алгоритм работы вселенной, либо просто случайность. Но я не понимаю почему если в основе моего алгоритма лежит случайность то это считается "свободой воли", это же очень глупо называть такую очевидно плохую ситуацию хорошим словом.
Как это? Как еще можно принять решение? Оно либо основано на чем то(на рассуждениях, на внутренних правилах, на вере в бога и т.д.), либо абсолютно случайно. Что эта за "общая метафизическая позиция" которая утверждает обратное? Или это позиция типа: "есть еще какой то способ принять решение но мы не знаем какой, и вообще сами не понимаем почему мы думаем что есть еще какой то способ"?
Разумеется, как правило в основе данного алгоритма лежат мои собственные внутренние установки, мои убеждения, мое воспитание и т.д. То есть, есть какие то исходные данные заданные моими инстинктами, воспитанием, событиями случившимися со мной и т.д. И тем кто не знает всех этих данных мои решения могут казаться абсурдными.
Потому что под "шаблонным мышлением" подразумеваются какие то простые алгоритмы, результат которых можно предсказать не выполняя данные алгоритмы. Согласитесь, если результат работы алгоритма можно предсказать только выполнив данный алгоритм, то это даже нельзя назвать и предсказанием. И человеческое мышление оно как раз такое, чтобы его предсказать вам надо его "запустить", воссоздать окружающую среду, задать исходные данные на которых основан процесс мышления, задать сами алгоритмы мышления, и запустить их. Тоже самое кстати с нейросетями, вы можете предсказать результат работы ChatGPT только воссоздав ChatGPT и запустив ее.
Ну да порой мы вынуждены это делать. И что в этом хорошего то?
Я то вообще говоря не считаю что все наши решения абсолютно логичны, скорее всего из-за квантовых эффектов в них очень большой элемент случайности. Но я не понимаю, почему считается что это хорошо, почему решения основанные на случае, абсолютно рандомное поведение называется "свободой воли". Свобода это же что то хорошее, а тут то явно плохое.