Лично для меня, как частичного гуманитария, такой исход кажется невероятным, но... на всякий случай делаю опрос — насколько близко мы подобрались к такой невероятной вероятности.
Весь AI - это моделирование операционной части мозга. По модели агента сознания еще не было предложено НИЧЕГО. То есть мы пока на уровне "0". Такими темпами AGI не появится ни через 5, ни через 10 ни через 50 лет. То, что вы об этом читаете - хайп и маркетинг. Хотя чисто теоретически - да.
Странно было бы всерьез относиться к статьям журналистов, распространяющих набор суеверий и заклинаний масс-обывателя, хавающего этот псевдонаучный бред.
Ну что ж, можно только пожелать успехов. Начните моделирование с клетки. Там уже есть и самость и мышление и память в зачаточном состоянии. Это уже когнитивный агент, наблюдатель от первого лица, есть свой крошечный умвельт. Весь набор в наличии. Если не придираться, то чем не протоличность?)
Если бы мы всерьёз захотели проверить, может ли искусственная система стать мыслителем, эксперимент выглядел бы достаточно просто.
Проблема не в том, что кто-то боится. Проблема в том, что сформулированный вами эксперимент изначально обречен на известный результат: воспитание Тамагочи. Чтобы воспитывать "мыслителя", нужно для начала создать живую систему, обладающую самостью. А это "совсем не ерунда, особенно в таком деле", как говаривал один известный персонаж.
Жизнь возникла около 4 млрд. лет назад. Немного затянулся эксперимент, не так ли? Или группа исследователей померла на ранних этапах. Жаль. Некому сделать отчет о проделанной работе))
Именно. И она подтверждает это. Биосистемы уже на уровне клетки не вычислимы как машины Тьюринга поскольку закрыты для действующих причин. Математика здесь не работает. Она полезна только в тех случаях, когда биосистема включает дополнительные операционные элементы. Их можно моделировать. Но как моделировать саму биосистему?
Напротив, все абсолютно объективно. Смотрите, молекула состоит из атомов, значит она сложней, ДНК из молекул и так далее. Но самое интересное, что у вас получится иерархия, где в топе совсем не великие и огромные объекты, а очень сложные. И науки, их изучающие выстроятся совсем в другом порядке. Это очень отрезвляет.
Вы построили матрешку по принципу увеличения размеров. Но большое не всегда означает сложное. Не пробовали построить по принципу усложнения системы? Получается куда более интересная штука.
Это не так, полно случаев удаления фронтальной коры при опухолях. Пациенты обладают сознанием, рассказывают о своих переживаниях, некоторые даже шутят.
Поэтому научное сообщество сегодня обсуждает наличие сознания у таких животных, как насекомые и рыбы, а также предлагает альтернативные подходы к исследованию сознания животных.
Все зависит от того, где проводить границу. Если сознание - это когда вы проснулись и открыли глаза, но еще не ощутили кто вы и ни о чем не подумали, то такое первичное сознание есть уже у рыб и появилось около 500 млн. лет назад Такой подход сейчас разделяет много ученых, изучающих мозг, поэтому есть уже две декларации о наличии сознания у животных. Ученые ориентируются на косвенные признаки - поведение. Если животное демонстрирует реакции предпочтения или избегания в ответ на приятные или отталкивающих стимулы, значит их мозг обладают эмоциональной системой и они способны чувствовать боль. Этого достаточно, чтобы считать организм сознательным.
Классически возникновение сознания связывают с наличием высокоорганизованной коры головного мозга млекопитающих. Большая часть корковой ткани является изокортикальной и, следовательно, довольно однородной по всей корковой поверхности.
Корковая теория сейчас пересматривается. По современным представлениям сознание рождает подкорка, удаление коры животных (крысы, кошки) практически не влияет на их социальное поведение. Зато разрушение крошечного ядра в стволе полностью лишает сознания любого из нас, при том что кора может работать как раньше и создавать репрезентации.
Для этого было рассмотрено три основные теории сознания: теорию глобального нейронного рабочего пространства (GNWT от Global Neural Workspace Theory), теорию рекуррентной обработки (RPT от Recurrent Processing Theory) и теорию интегрированной информации (IIT от Integrated Information Theory).
Все эти идеи объединяет один функционалистский подход, который не может объяснить главное - наличию субъективного переживания от первого лица. То есть в этих теориях нет объяснения сознания, поскольку нет субъекта. С их помощью нельзя ни подтвердить ни опровергнуть наличие сознания, можно только изучать нейронные корреляты сознательных процессов мозга.
Человек тоже не выбирает свои желания. Тело диктует: хочу есть, хочу спать, хочу размножаться. Мозг генерирует импульсы, гормоны командуют, и человек идёт туда, куда его тянет. Так же как языковая модель идёт туда, куда её тянут градиенты вероятности. У человека субстрат углеродный, у машины кремниевый. Но функционально — где разница?
Организм действует как целое, выстраивая приоритеты желаний и чувств, если его искусственно не расчленять, конечно
Это вопрос об эволюции. Первая клетка тоже ничего не хотела и не знала. Но она размножалась, мутировала, и через миллиарды лет появились люди. Может быть, с машиной то же самое: дашь ей время — вырастет что-то, что уже нельзя назвать просто кодом.
Первая клетка и хотела и знала, в этом базовая ошибка которая тянет за собой цепь ошибочных доводов
В той архитектуре, что я описал — да. Система просыпается по таймеру, оценивает мир, принимает решение. Она инициирует. Не потому что я её спросил, а потому что её цель и состояние мира требуют действия.
Вопрос в том кто ставит цель? Если сама машина, то для чего?
Может быть, сознание живёт не внутри меня и не внутри машины. Оно живёт в пространстве между нами. В диалоге. В том, что система может задать вопрос, а я могу услышать его как вопрос, а не как строку в логе.
Сознание не убежит от вас, не о чем беспокоиться, это не отдельный продукт, а свойство организма, как например ходьба или плавание.
Ну и дальше в том же духе.
В общем, не унывайте, природа не так слаба, как может показаться, она надежно устроена и как правило не дает сбоев, ну только иногда...
Все еще проще: мы точно знаем, что мозг у всех нас устроен примерно одинаково и ощущаем мы примерно одинаково и красное и зеленое. Но автор очень хочет это опровергнуть и получается бессмыслица.
Если вы называете себя философом, то разумеется знаете, чем занимается философия или психология. Но можно, конечно, валять дурака и задавать бесконечные вопросы.
Зря вы так себя ограничили. Нематериальные явления, несводимые к физическим законам, прекрасно изучаются наукой. Наука живет не по критериям Поппера. Гораздо шире. Взгляните открытыми глазами и увидите.
У организма тыща пятьсот способов все превращать в жир и откладывать на черный день. А обратно из жира в глюкозу всего один, да и тот работает при правильном соотношении дебит/кредита и еще обязательном наличии ряда аминокислот. Так что один фактор здесь погоду не делает.
Все это очень красиво описано и пафос понятен. Но если взглянуть на ситуацию трезво, то очень немного из того что наш мозг не воспринимает (а не замечает он значительно большую часть, чем обрабатывает) реально необходимо здоровому человеку. Те сенсорные каналы, что мы имеем - это тщательно отобранные эволюцией и многократно проверенные на практике, доказавшие свою пользу. Все остальное для мозга - малоинформативный шум. У нас нет эхолокации не потому, что мы недоразвиты, а потому, что мы не летучие мыши и не порхаем в замкнутом пространстве. Нам это эхолокация нах... не сдалась, только мешать будет. Направление безусловно интересно теоретически, но реальная прикладная ценность - пожалуй в медицине и сфере развлечения. Возможно, еще в каких то пограничных сферах деятельности. Слушать интернет? Для чего? Мы уже столкнулись с негативными последствиями информационной перегрузки и зависимости. Кроме того, не упомянуты риски: криминал, контроль общества и т.п. издержки. В общем, дело интересное, но как всегда "не все так однозначно".
Весь AI - это моделирование операционной части мозга. По модели агента сознания еще не было предложено НИЧЕГО. То есть мы пока на уровне "0". Такими темпами AGI не появится ни через 5, ни через 10 ни через 50 лет. То, что вы об этом читаете - хайп и маркетинг. Хотя чисто теоретически - да.
Странно было бы всерьез относиться к статьям журналистов, распространяющих набор суеверий и заклинаний масс-обывателя, хавающего этот псевдонаучный бред.
Как сказал Эйнштейн: "Реальность — это всего лишь иллюзия, хотя и очень настойчивая."))
Ну что ж, можно только пожелать успехов. Начните моделирование с клетки. Там уже есть и самость и мышление и память в зачаточном состоянии. Это уже когнитивный агент, наблюдатель от первого лица, есть свой крошечный умвельт. Весь набор в наличии. Если не придираться, то чем не протоличность?)
Проблема не в том, что кто-то боится. Проблема в том, что сформулированный вами эксперимент изначально обречен на известный результат: воспитание Тамагочи. Чтобы воспитывать "мыслителя", нужно для начала создать живую систему, обладающую самостью. А это "совсем не ерунда, особенно в таком деле", как говаривал один известный персонаж.
Жизнь возникла около 4 млрд. лет назад. Немного затянулся эксперимент, не так ли? Или группа исследователей померла на ранних этапах. Жаль. Некому сделать отчет о проделанной работе))
Именно. И она подтверждает это. Биосистемы уже на уровне клетки не вычислимы как машины Тьюринга поскольку закрыты для действующих причин. Математика здесь не работает. Она полезна только в тех случаях, когда биосистема включает дополнительные операционные элементы. Их можно моделировать. Но как моделировать саму биосистему?
Напротив, все абсолютно объективно. Смотрите, молекула состоит из атомов, значит она сложней, ДНК из молекул и так далее. Но самое интересное, что у вас получится иерархия, где в топе совсем не великие и огромные объекты, а очень сложные. И науки, их изучающие выстроятся совсем в другом порядке. Это очень отрезвляет.
Вы построили матрешку по принципу увеличения размеров. Но большое не всегда означает сложное. Не пробовали построить по принципу усложнения системы? Получается куда более интересная штука.
Все галлюцинируют, но некоторые делают это неправильно!
Это правильный подход. Попытки перепрыгнуть через уровень биологии не даст никакого AGI, так и останется жонглированием семантикой.
Это не так, полно случаев удаления фронтальной коры при опухолях. Пациенты обладают сознанием, рассказывают о своих переживаниях, некоторые даже шутят.
Все зависит от того, где проводить границу. Если сознание - это когда вы проснулись и открыли глаза, но еще не ощутили кто вы и ни о чем не подумали, то такое первичное сознание есть уже у рыб и появилось около 500 млн. лет назад Такой подход сейчас разделяет много ученых, изучающих мозг, поэтому есть уже две декларации о наличии сознания у животных. Ученые ориентируются на косвенные признаки - поведение. Если животное демонстрирует реакции предпочтения или избегания в ответ на приятные или отталкивающих стимулы, значит их мозг обладают эмоциональной системой и они способны чувствовать боль. Этого достаточно, чтобы считать организм сознательным.
Корковая теория сейчас пересматривается. По современным представлениям сознание рождает подкорка, удаление коры животных (крысы, кошки) практически не влияет на их социальное поведение. Зато разрушение крошечного ядра в стволе полностью лишает сознания любого из нас, при том что кора может работать как раньше и создавать репрезентации.
Все эти идеи объединяет один функционалистский подход, который не может объяснить главное - наличию субъективного переживания от первого лица. То есть в этих теориях нет объяснения сознания, поскольку нет субъекта. С их помощью нельзя ни подтвердить ни опровергнуть наличие сознания, можно только изучать нейронные корреляты сознательных процессов мозга.
Организм действует как целое, выстраивая приоритеты желаний и чувств, если его искусственно не расчленять, конечно
Первая клетка и хотела и знала, в этом базовая ошибка которая тянет за собой цепь ошибочных доводов
Вопрос в том кто ставит цель? Если сама машина, то для чего?
Сознание не убежит от вас, не о чем беспокоиться, это не отдельный продукт, а свойство организма, как например ходьба или плавание.
Ну и дальше в том же духе.
В общем, не унывайте, природа не так слаба, как может показаться, она надежно устроена и как правило не дает сбоев, ну только иногда...
Все еще проще: мы точно знаем, что мозг у всех нас устроен примерно одинаково и ощущаем мы примерно одинаково и красное и зеленое. Но автор очень хочет это опровергнуть и получается бессмыслица.
Если вы называете себя философом, то разумеется знаете, чем занимается философия или психология. Но можно, конечно, валять дурака и задавать бесконечные вопросы.
не стоит зашоривать свое сознание умозрительными идеями, перестанете видеть здравый смысл
Зря вы так себя ограничили. Нематериальные явления, несводимые к физическим законам, прекрасно изучаются наукой. Наука живет не по критериям Поппера. Гораздо шире. Взгляните открытыми глазами и увидите.
У организма тыща пятьсот способов все превращать в жир и откладывать на черный день. А обратно из жира в глюкозу всего один, да и тот работает при правильном соотношении дебит/кредита и еще обязательном наличии ряда аминокислот. Так что один фактор здесь погоду не делает.
Все это очень красиво описано и пафос понятен. Но если взглянуть на ситуацию трезво, то очень немного из того что наш мозг не воспринимает (а не замечает он значительно большую часть, чем обрабатывает) реально необходимо здоровому человеку. Те сенсорные каналы, что мы имеем - это тщательно отобранные эволюцией и многократно проверенные на практике, доказавшие свою пользу. Все остальное для мозга - малоинформативный шум. У нас нет эхолокации не потому, что мы недоразвиты, а потому, что мы не летучие мыши и не порхаем в замкнутом пространстве. Нам это эхолокация нах... не сдалась, только мешать будет. Направление безусловно интересно теоретически, но реальная прикладная ценность - пожалуй в медицине и сфере развлечения. Возможно, еще в каких то пограничных сферах деятельности. Слушать интернет? Для чего? Мы уже столкнулись с негативными последствиями информационной перегрузки и зависимости. Кроме того, не упомянуты риски: криминал, контроль общества и т.п. издержки. В общем, дело интересное, но как всегда "не все так однозначно".