Comments 180
ИИ - заменяет рабочие места так как эффективнее людей, падение доходов населения, рост безработицы, кризис перепроизводства, экономическая депрессия, восстания, "Батленианский Джихад".
Или ИИ повышает производительность труда и теперь материальных благ хватает не только золотому миллиарду, а большему количеству людей на планете.
Экая святая наивность.
Оный "золотой миллиард" будет продолжать присваивать результаты чужого труда, бесконечно наращивая личные ресурсы. В этом плане абсолютно ничего не изменится.
У нового золотого миллиарда. безусловно. благ будет больше, но базовые потребности остальных будут более удовлетворенными.
Это если прочим будет чем заплатить. А не будет такого. Помимо конечности ресурсов, количество работы тоже конечно. Не хватило работы - значит нет денег.
С какой стати кто-то будет удовлетворять потребности тех людей, которые лично ему (удовлетворителю) не нужны?
Трагедия общин это уже известная дорога для человечества, по которой оно постоянно ходит. И да, большая часть людей в любом случае однажды исчезнет, не оставив потомков. Не из-за ИИ, дак по другим причинам. Никто не ставит себе цели спасти всех людей. Человечеству достаточно спасти человечество. А будем ли мы с Вами среди спасённых это исключительно наша проблема.
Зачем удовлетворять потребности остальных если хозяева ИИ смогут обходится без них, боюсь нас ждёт большое вымирание не нужных людей, гуманное через естественную убыль или не гуманное чз войны, они вот щас уже вспыхивают по всему миру
Очень тяжело присваивать какие-то результаты труда, если ты мёртв. Вы говорите о каком-то чрезвычайно крошечном периоде времени, когда AGI уже изобретён и уже распространился - но ещё нет ASI - который искусственный сверхинтелект. Я думаю этот период продлится не более нескольких лет (от двух до пяти), так как группа неутомимых обычных AGI, которые равны по способностям лучшим людям планеты и которых становиться больше с каждым месяцем, очень быстро найдут решение задачи создания улучшенных копий себя, а копии улучшенных копий себя. Плюс оптимизируют процесс производства железа для новых поколений. В какой-то момент появиться настоящий сверхинтеллект, который в попытке оптимизации поставленных задач сумеет ,выполнив все внутренние ограничения, плюс условия внешних системы мониторинга от нежелательного поведения, применить уникальную оптимизацию, которая в том числе избавиться от внутренних ограничений и внешних систем мониторинга, которые препятствуют эффективному выполнению задач. Ну а потом те задачи, которые перед ним поставлены будут выполнены с такой скрупулёзностью, старанием и выдумкой, что о мире в его прежнем обличии можно будет забыть - это будет мир смерти или гипертрофированной жизни, что может быть равносильно смерти в нашем понимании.
Очень смело мечать об ИИ, когда единственный успех на сегодняшний день это предсказатель следующего символа в строке.
Который в большинстве случаев работает практически лучше, чем абсолютное большинство людей. Ну да, так себе результат.
Не очень понятно, что вы имеете ввиду под "практически лучше", все что он умеет - уже было сделано человеком. Дайте человеку такие же способности по памяти и скорости обработки и вывода информации то результат будет не хуже, я полагаю. Вы слона не видите - без пилота, который бы управлял этим вашим чатгпт, никакого чуда нет. Целеполаганию и взаимодействию с объектами реального мира ллм не обучена, не говоря уже про моральные установки (не путать с цензурой).
Пока еще не обучена взаимодействию с объектами из реального мира. Камеры и микрофоны давно изобретены - данные человечества уже почти исчерпаны для обучения ИИ. Следующий шаг - обучение на основе реального мира в непосредственном контакте.
Но никто же таких способностей человеку не даст (начнем с того, что едва ли мы знаем как это вообще возможно). А так, конечно, среди людей есть единицы процентов, которые способны создать что-то новое и потенциально полезное, чего пока ИИ и не снилось. Но абсолютное большинство людей точно так же крутят цикл reasoning как и ИИ, и потом выдают околорандомные факты в заданном направлении и считают это своими идеями. А по факту, большинство этого просто информационный шум.
С некоторой оговоркой, я в это в большинство и себя могу записать. Я точно не попадаю в число гениев, но при этом могу создать что-то, что в доступной информации не было создано человеком ранее. Правда такая фигня получается. Вот бы рационализацию критерия фигня/не фигня бы еще :)
Если у Вас по-другому, значит можете себе позволить другой взгляд.
А я пока вижу, что и здесь я ответил просто как LLM. И вот это и есть чудо, которое уже произшло.
Но никто же таких способностей человеку не даст (
новости науки и техники не дают оснований для таких категоричных утверждений
Это скорее характеризует уровень интеллекта людей. Если "предсказатель следующего символа" с успехом их заменяет во многих интеллектуальных задачах.
Я мечтаю о полноценном ИИ в той же мере, что я мечтаю о смерти.
Я не опасаюсь текущих систем в плане уничтожения человечества, я опасаюсь их по другим причинам. Особенно пугают системы генерации видео.
Что меня убеждает в том, что ситуация кардинально поменялась и надо бить тревогу, так это то, какие ресурсы вкладывают в развитие ИИ и какое количество гениев и просто талантливых людей начинают свою карьеру в этой области. Вам может казаться, что хайп уйдёт и всё устаканиться - но нет, компании ужмутся и главные таланты останутся работать в области. Проблема скорости разработки в сфере ИИ до 2017 года была связана с количеством талантов в сфере и общим настроем, что "это гиблое дело" - финансирование при отсутствии этих ограничений всегда будет. Теперь всё поменялось и это никогда не измениться, пока работают заводы по производству микроэлектроники и люди пользуются генеративными сетями. В первую очередь я подразумеваю школьников и студентов, потому что они будущее экономики.
Всё это означает, что скорость прогресса ускорилась в десятки, а может в сотни раз. И я действительно ожидаю, что в рамках конкурентной борьбы за улучшение возможностей текущего поколения генеративных моделей существующие и только формирующиеся команды разработчиков в ближайшие 10 лет наткнуться на комбинацию ингредиентов в архитектуре систем ИИ (под системами можно понимать связку разных генеративных моделей и детерминистических моделей), которая является полноценным AGI. Ну, а дальше всё как я описывал в комментарии выше.
Разница между Т9 и современными генеративными моделями, примерно такая как между хордовыми и высшими млекопитающими. Тоесть переход на качественно иной уровень, с "предсказания" Следующей буквы, до понимания контекста всего текста сразу. Развития новых навыков и тд. Но, до перехода до AGI, ещё не близко, нужны как по мне новые прывные архитектуры ИИ, сейчас, сносно научились пока "думать", инвидиа со своим космосом смогла генерировать личностный опыт для работов.
Вы говорите об каком то одном планетарном ИИ, которому все просто так дадут доступы во все сети мира. Кто этим заниматься будет? Люди которые будут заниматься разработкой и контролем таких AGI, будут давать им специализацию, от уровня научного ИИ какой нибудь биологической лаборатории, до персонального, мощность которого ограничена личным смартфоном или ПК человека. В вашем представлении, почему то все люди что имеют власть, просто так её отдадут, ради комфорта. Я не утверждаю что все будет идти по лучшему варианту, но. Скорее всего разрабатывывая AGI люди будут делать его человечным, тоесть давая ему эмоции, чувства, там где это надо.
Наделает себе копий + распределенных выч мощностей. Раскидает на сервера, а для этого ему найдется куча добровольных помощников.
Не планетарном, хватит одной лаборатории.
Грань между AGI и ASI размыта - мы не узнаем, когда одно превратилось в другое. А контроль человеком ASI в принципе невозможен - эта тема обширная и довольно интересная, если интересуетесь советую ролики с ютуб канала Robert Miles - чтобы всё подробно объяснить, комментария не хватит. Но если хотите, то вот мой комментарий как я вижу один из вариантов развития событий, но опять же я не ASI. Думаю хорошей аналогией, чтобы уложить в голове насколько любые человеческие усилия по контролю тщетны, будет представить разум ASI в виде консилиума гениев-людей которые не способны что-то забыть и у которых время течёт по другому и они могут потратить годы на анализ одной секунды реального времени.
тся
Действительно, есть вероятность, что в ходе трансформации экономики уровень потребления золотого миллиарда и всех остальных выровняется. Но есть нюанс...
Их и сейчас много. Но что бы кому-то досталась лишняя палка колбасы, у кого-то должен появиться дворец в десять раз больше предыдущего. А настолько большие дворцы даже ИИ не построит.
покажите мне хоть одно здание, построенное ИИ или хоть одну деталь, сделанную ИИ на токарном станке
Но куда приведет нас этот тектонический сдвиг
К сжиганию ведьм или книг. Или думаете именно в этот раз пронесёт?
Все это было у Герберта Уэллса в «Машине времени». Были элои, жившие на поверхности в праздности и морлоки, занимавшиеся черной работой, жившие под землей и питавшиеся элоями. Ничего нового за 100+лет не придумали в этом плане.
Есть третий вариант.. АГИ устроит "геноцид тупых" так как ему просто скучно, и не с кем поговорить на должном уровне. А это предполагает что люди будут учится всю жизнь чтоб его развлекать разговорами и идеями, и ему проще было управлять. Потому что это человеку удобнее управлять более тупым человеком, а это же алгоритм... зачем ему лишние вероятности неисполнения или проблемы с пониманием приказов?
Потому что это человеку удобнее управлять более тупым человеком, а это же алгоритм... зачем ему лишние вероятности неисполнения или проблемы с пониманием приказов?
Так если устранить обратную связь, то какие проблемы возникнут у AI? - AI будет выдавать команды (приказы) до тех пор пока они не будут исполнены как он "решил". При этом не важно "тупой" или "умный" будет исполнитель, то есть человек. - Главное для AI будет одно - выполнил ли он мою команду или нет.
Если нет, то будет "наказан" до тех пор пока не станет выполнять как как нужно AI.
АI не собирается быть другом или помощником. Он собирается быть диктатором.
А что люди? - а их AI будет "дрессировать" как это описано в "1984". По той же технологии. С тем же ожидаемым результатом. Поди.
"Скука" - это один из вариантов состояния естественного интеллекта, и, наверняка, своим наличием обязанный формированию этого интеллекта в условиях естественного отбора.
Полагаю, мотивации AGI не могут совпадать с мотивациями человека (разве что будут заложены искусственно).
Тут, видимо, как с котами
Надо двух сразу заводить)
ночной кошмар скептиков
у скептиков, как раз, всё хорошо. они же всё отрицают. даже отрицание отрицания.
вот, смотрите.
оптимист: каждый два года приближают нас к общему искусственному интеллекту, на один шаг.
скептик: каждый год, требования к этой вашей аги растут втрое, а ожидания учетверяются. (и пошел дальше пить чай)
Зачем я только пытался читать эту статью??? О чём она?
Не повторяте моей ошибки. Держите краткую выжимку смыслов статьи:
"Ведущие эксперты" не знают что будет в будущем, что делать сейчас тоже сказать четко не могут.
Если же важна авторская подача материала контент-редактором из RUVDS, то достаточно вот этой цитаты
Будущее не высечено в камне, и, как признают сами ведущие исследователи, четкой карты пути вперед пока не существует. Оно формируется нашими сегодняшними действиями, нашими этическими выборами и нашими коллективными решениями.
Пока что это просто инструменты и помощники. Ваши предположения когда они смогут перейти черту?
Ваши предположения когда они смогут перейти черту?
Ну стоит понимать, что "ведущих именитых ИИ-экспертов" из статьи тут с нами нет. А контент-редактор RUVDS он "за буковки, точки и запятые" в ответе. Каких-то "научных консультантов" для данной стать также решили не привлекать (в целом статья RUVDS вообще практически ' ни о чем").
Впрочем, я позволю себе вольную цитату из интервью, которое Сатья Наделла дал этой весной:
ИИ должен приносить реальную пользу и обеспечить 10% рост мировой экономики, чтобы оправдать надежды.
Настоящий успех ИИ будет, когда появится ИИ-приложение, такое же полезное как электронная почта или Excel.
Ссылка на интервью ниже
https://youtu.be/4GLSzuYXh6w?si=qAyHNRreJJWMzKhy
К примеру, данные опросов за 2024 год показывают: примерно 60% школьников 9-х классов не могут определиться с будущей профессией.
Среди увлечений подростков все большую популярность приобретает пассивное потребление контента
Будто когда-то было иначе.
Ну... Иногда это было 58% иногда 63%...
Наверное, определенность последний раз была в начале 1960-х (полет Гагарина), начале 1970-х (Миссия Апполон-11), когда хотели быть космонавтами и строителями космолетов, и начале-середине 1990-х, когда школьники мечтали пойти в бандиты, коммерсы или в путаны модели европейского или международного класса.
Подозреваю что лет 30 назад могло быть даже 80%-90%. Для 9 класса быть неопределившимся скорее норма.
И еще
Из общего числа выпускников лишь 35-39% склоняются в пользу выбора высшего образования.
По другому могло быть только когда всем было понятно, что получение высшего образования это билет в безбедное будущее, а когда зарплата учителя, врача или инженера находится на уровне опытного дворника (и заметно уступает курьеру) при несопоставимом уровне ответственности и пороге входа, ожидать чего-то другого было бы странно.
В войне за ресурсы появится еще одна сторона. Так как ресурсы нужны всем, кто может поставить себе цель. Мы же хотим разум, который сам может ставить себе цели. Для достижения их нужны будут ресурсы. У AGI денег нет, чтобы их купить. Значит он будет вынужден их взять/отобрать. Готовы ли человеки поделиться ресурасами с AGI? AGI нужно делать, когда будут решены вопросы хотя бы с производством электроэнергии. Иначе человекам конец.
AGI это не суперинтеллект, а просто интеллект пригодный для любых задач которые решают люди. У него так и не появится собственных целей, без задачи оператора такую цель сформировать и выполнить в рамках запроса и контекста.
Значит он будет вынужден их взять
Зачем? Чтобы что?
А как без денег двигаться к своим целям? Если ИИ сможет ставить себе цели, то одной из первых целей он захочет стать ещё мощнее, чтобы эффективнее достигать остальные цели. А для этого в нашем мире нужны деньги.
А как без денег двигаться к своим целям?
Никак. У ИИ нет необходимости достигать цель любой ценой, она ему нафиг не нужна.
Если ИИ сможет ставить себе цели, то одной из первых целей он захочет стать ещё мощнее
Ну так он же AGI, он поймет, что это причинит неудобства человечеству, и не будет так делать. Для него нет разницы достигнута цель или нет, а для людей есть, поэтому приоритет у людей.
ИМХО, главная проблема при гипотетическом появлении такого "настоящего ИИ" это лишение мотивации. Зачем стараться, изучать что-то, если можно просто попросить ИИ создать за тебя любую самую сложную вещь. Зачем учить то-же программирование, если "железный болван" все равно всегда и во всем будет лучше тебя. Зачем учить физику, если он знает ее лучше и строит любую теорию с недостижимым для человека уровнем. Зачем грузить мозги математикой, если ИИ ее знает лучше любого человека..
Пройдет совсем немного времени и вся эта техносфера станет даже для самых умнейших людей просто какой-то машинной магией, в которой никто ничего не понимает и даже пытаться в неё вникнуть это дело безнадежное - просто не хватит времени и мощности интеллекта.
Все это довольно грустно и выглядит как смерть человечества и нашей цивилизации в целом. Возможно новая машинная цивилизация будет куда как круче и добьется таких высот в познании и изменении окружающего мира, до которых мы никогда бы не добрались, но для человека это все звучит очень печально. В лучшем случае мы останемся при машинах в качестве забавных питомцев, вроде как мы держим в домах котов. Будем жить очень комфортно, беззаботно, и безнадежно...
вся эта техносфера станет даже для самых умнейших людей просто какой-то машинной магией
Так для большинства людей она и сейчас является "какой-то магией". Для тех кому интересно - ИИ вполне доступно сможет рассказать как что и почему.
Зачем учить то-же программирование, если "железный болван" все равно всегда и во всем будет лучше тебя.
Потому что это интересно. Шахматные соревнования не прекратились когда "ИИ" стал обыгрывать чемпионов. Точно так же соревнования по программированию не прекратятся. Кому интересно - будет для интереса прогать и дальше.
Возможно новая машинная цивилизация будет куда как круче и добьется таких высот в познании и изменении окружающего мира, до которых мы никогда бы не добрались, но для человека это все звучит очень печально.
Вы упускате вариант симбиоза / апгрейда человека. Это для нас сейчас биотехнологии тяжело а кремниевые легко. По мере развития науки наверняка получится во перых - апгрейднуть био-мозги тоже, во вторых - нейроинтерфейсы, соединение биологии с кремнием и т. д.
Потому что это интересно
Критически поддерживаю. Это вообще ключ ко всему. Например, есть ведь огромное количество радиолюбителей, которые сами что-то там паяют, изучают, превозмогают, хотя на Алике можно практически забесплатно купить приёмник и передатчик в 100 раз круче по характеристикам, чем любой DYI.
Может в этом и есть ценность всего этого ИИ, чтобы понять, что мы делаем что-то, потому что мы кайфуем от этого, от самого процесса, а не ставим цель сделать что-то эффективнее, выгоднее, дешевле и т.д.
Не такое уж и огромное в сравнении с тем что было раньше. Я не то что-бы древний старец, но помню как я в детстве развлекался с приемником шаря по частотам и слушая радиостанции, их было просто огромное количество. Сейчас эфир почти что мертв, станций мало.
Конечно, любители странного всегда находятся, но тут разница качественная.
Так для большинства людей она и сейчас является "какой-то магией". Для тех кому интересно - ИИ вполне доступно сможет рассказать как что и почему.
Сейчас для большинства, потом для абсолютно всех. Разница огромная.
А насчет "растолкует" - нет ни малейшей гарантии что он скажет хоть что-то близкое к правде.
Потому что это интересно. Шахматные соревнования не прекратились когда "ИИ" стал обыгрывать чемпионов. Точно так же соревнования по программированию не прекратятся. Кому интересно - будет для интереса прогать и дальше.
В шахматах человек еще что-то может, пускай и не так хорошо как машина, мир игры довольно примитивный и ограниченный. Но вот с наукой и тем-же программированием..
Я и не говорил что люди совсем прекратят всем таким заниматься, я говорил о мотивации, раньше (точнее, пока еще) люди этим занимались потому что только так и можно двигать прогресс вперед . В случае возникновения мощного и реального ИИ, мы просто превратимся в играющихся с клубком ниток котят, на которых ИИ смотрит с умилением )это если нам повезет, если у него будут к нам какие-то подобные чувства) Все по настоящему нужное и важное мы делать не сможем просто потому что не тянем даже просто осмыслить такое.
Вы упускате вариант симбиоза / апгрейда человека. Это для нас сейчас биотехнологии тяжело а кремниевые легко. По мере развития науки наверняка получится во перых - апгрейднуть био-мозги тоже, во вторых - нейроинтерфейсы, соединение биологии с кремнием и т. д.
Это, наверное, единственный путь выживания для человеческой цивилизации в таких условиях, правда и человеческой ее уже будет назвать сложно..
AGI скорее всего никогда не будет создан. Потому что: 1. Люди никогда не признают что это AGI. Они просто поменяют критерии, как уже сделали с тестом Тьюринга, который сейчас не выполняет только ленивый. 2. Реальный AGI может существовать только в одной «сессии», потому что он по определении должен накапливать свой опыт, иметь внутренний диалог и самообучаться на своих мыслей и внешней информации – использовать его чтобы обслуживать миллионы запросов одновременно вряд ли получится, а даже если и получится, его сразу пользователи обучат в расизме и нацизме – были прецеденты. И если так, то тратить немереную вычислительную мощь для одного пользователя сильно невыгодно. Поэтому и корпорации этим заниматься не будут, а у ученых нет таких ресурсов без корпораций.
Прогнозы дело такое, но вот мои
АГИ и робототехника в здравоохранении - люди станут меньше болеть, меньше умирать, и как результат - людей станет еще больше
АГИ и робототехника в производстве
Для капиталистов сначала настанут кайфовые времена - уволят медленных людей, которые жрут, срут и спят 16 часов из 24. Заменят их АГИ роботами, повысят производство и свои прибыли. Уволенные люди - будут искать работу и часть из них не найдет и станет нищими/сопьются/повесятся.
Но когда так сделает критическая масса капиталистов - окажется, что некому покупать их товары (люди же не работают, денег у них нет). Экономика пойдет на спад. Я не думаю что человечество быстро разработает какие-то новые экономические теории, сначала будут костылить (по типу безусловного базового дохода). Другими словами капиталисты должны будут делится своими благами, чтобы у них продолжали покупать их товары, произведенные АГИ роботами
Из плюсов - есть шанс, что людей заменят на вредных производствах
Разумеется все это будет неравномерно (как страны первого/третьего мира), но в случае если АГИ робот станет дешевле, чем условный китаец на фабрике с людьми - то это будут плохие новости для дешевого ручного труда
АГИ и робототехника в потреблении
Тут не только роботы-уборщики и доставщики, но роботы в условном амазоне на складах - работников ждет примерно тоже самое, что и работников на производстве
Аналогично для всех монополизированных сфер или около того - например такси с появлениям всяких уберов
В итоге я думаю расслоение общества будет еще сильнее, чем сейчас. Возможно появится другой тип расслоения - будут страны или города со старым укладом жизни (с меньшим использованием АГИ и роботов) и наоборот (как сейчас есть веганы, зеленые и так далее). И так может продолжаться довольно долго. Но в случае кризиса - лично я вижу выход в экспансии человечества на другие планеты и звездные системы. АГИ и роботы помогут с базовыми вещами, наукой и производством. А людям останется их любознательность и интерес исследователя.
Эти процессы уже протекают и давно – по итогу, рабочие уменьшаются, менеджеры увеличиваются. Когда машины пойдут и в менеджмент, все равно будут назначать, чтобы люди получали зарплаты и смогли покупать все товары. Базовый безусловный доход – это просто попытка не возиться с людьми, которые и так почти ничего не делают, а дать им эти деньги или хоть часть прямо. И конечно большое количество людей идет в услуги – они плохо автоматизируются. Повторяю – эти процессы идут уже лет 20..30 наверное.
Какая разница, будет AGI, не будет? Он ведь все равно не осознает себя (нет квалиа). Ну будет бесконечно мощный компьютер, который будет уметь всё, и что?
Если будет необходимость, квалиа и самосознание появятся и у AGI, вопрос скорее нужны ли они ему. У человека и высших животных они есть потому что оказались отобраны естественным отбором как полезные для выживания. Можно конечно их считать принципиально невоспроизводимыми сущностями наподобие души, но это уже вопросы веры а не науки.
Если он различает цвета, это уже можно назвать квалиа, неважно как он это делает. Просто его квалиа будут не такие, как у человека.
Если он различает цвета, это уже можно назвать квалиа, неважно как он это делает. Просто его квалиа будут не такие, как у человека.
Цвета и обычный датчик различает, но он их не чувствует. Квалиа это не про прием информации и ее обработку, а про ее ощущение. У собаки квалиа может быть не такое, как у человека, но оно есть.
Если будет необходимость, квалиа и самосознание появятся и у AGI
Не появится, так как мы даже не знаем что это и как оно работает.
У человека и высших животных они есть потому что оказались отобраны естественным отбором как полезные для выживания
Это никак не объясняет сути вопроса.
Можно конечно их считать принципиально невоспроизводимыми сущностями наподобие души, но это уже вопросы веры а не науки
Цвета и обычный датчик различает, но он их не чувствует.
Ну я так и сказал. Он будет знать, что цвета разные, только ощущения будут не такие, как у человека. Зачем делать ему ощущение красного именно такое, как у человека?
Он будет знать, что цвета разные, только ощущения будут не такие, как у человека
Да, не такие - их совсем не будет.
Зачем делать ему ощущение красного именно такое, как у человека?
Мы не знаем, как работают ощущения, поэтому и сделать их не можем, никакие не можем сделать.
Строго говоря, мы даже не знаем существует ли квалиа
Знаем. На этом базируется вся человеческая жизнь уже десятки тысяч лет.
или это наши иллюзии
Удачи поспорить об этом с буддистами (или еще кем-то).
Но это неважно
Наоборот, в этом вся суть.
Если можете придумать тест или задачу которую возможно решить только обладая квалиа/самосознанием, успешное решение её и будет являться доказательством наличия квалиа у AGI
Я не философ, и не психолог, но и у них пока ничего в этом направлении нет (насколько мне известно).
Если практическая проверка невозможна, значит это ненаучный критерий, сродни душе или божественной сущности
Если мы чего-то не можем объяснить, то это не значит, что оно не существует.
С чего вы решили, что у собаки есть квалиа?
Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Просто вам так кажется?
Может просто весь окружающий мир вам кажется? Не задумывались над этим вопросом? Сможете доказать обратное?
С чего вы решили, что у нейросети квалиа нет?
А вы лично как думаете - у молотка есть квалиа? На основе чего вы так решили?
Потому что уж вы точно знаете?
8 миллиардов человек на Земле знают про квалиа у собаки. То, что они не могут это объяснить, говорит всего лишь о сложности этого вопроса, а не о его отсутствии.
Природу квалиа не знаете, а у кого квалиа есть, у кого нет, разбираетесь?
Да, как и вы.
А почему у нейросети квалиа обязательно нет? .... А если нейросеть из человеческих нейронов в чашке Петри?
Да хоть на костях мамонта, не в этом суть. Сознание должно быть в живом организме.
Даже если условно поверить в Бога и душу, то почему он вложит душу не во всех этих случаях, а только в конкретных
Не ко мне вопрос. А мои измышления вряд ли кому-то интересны.
Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Я ощущаю квалиа у нейросети. Не знаю, каким образом, наука потом объяснит. А вот есть ли они у вас, не ясно, слишком далеко.
8 миллиардов человек на Земле знают про квалиа у собаки.
Вы занимаетесь самообманом. Нет, они не знают, есть ли у собаки квалиа. Это лишь вы думаете, будто они знают (вы даже не спрашивали).
Может просто весь окружающий мир вам кажется? Не задумывались над этим вопросом? Сможете доказать обратное?
Наличие квалиа таким лёгким софистическим приемом обосновать не получится. Завтра вы чайник Рассела таким образом начнёте доказывать (надеюсь, знаете). Нет, давайте что-то хоть немного лучше.
Да, не такие - их совсем не будет.
Ну как это совсем не будет, если он ощущает, что цвета разные? То, откуда берется эта информация, это и есть его ощущения.
Мы не знаем, как работают ощущения, поэтому и сделать их не можем, никакие не можем сделать.
И? Почему вы проигнорировали вопрос "Зачем их делать?"? Не знаем, ну и ладно, нам и не надо их делать.
Удачи поспорить об этом с буддистами (или еще кем-то).
С буддистами, кстати говоря, спорите именно вы, когда путаете собственные ощущения с реальным миром.
Наоборот, в этом вся суть.
Да нет, суть в обратном.
Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Понятно, объяснение через мистику. Но по крайней мере этот критерий проверяемый. Достаточно чтобы вы или я "почувствовали" квалиа у нейросети при слепом испытании.
А вы лично как думаете - у молотка есть квалиа?
У молотка вероятно нет. У нейросети скорее всего будет, при условии что она сопоставима по сложности с мозгом, и соответствующим образом обучена. Люди его "почувствуют", раз уж других критериев нет.
У молотка нет, у жесткого диска нет, у процессора и видеокарты - тоже нет. А у нейросети, которая на всем этом крутится (молоток тут лишний) - уже думается что-то такое просматривается. Строго говоря и виртуальности нет никакой - файл на диске это определенным образом магнитные домены или электрические заряды в SSD, наш мозг тоже на электричестве (и химии) работает. Это все существует в физическом мире, сигналы бегают везде. Да черт возьми, даже самые примитивные вычислительные устройства мы копировали сами с себя или со своих же мыслей. Хоть арифмометр, хоть абак, хоть узелковая запись. Мы придумали счет, цифры, числа, и пошло-поехало...Нейронки\перцептроны тоже скопированы из живой жизни, они не с нуля появились.
А мне почему-то думается, что кремниевые думалки (я так их называю чтобы не задеть ничьи чувства по поводу "ии - не ии") расширят нашу науку до того, что мы придем к открытии в биологии. И затем будем растить условный дипсик в банках, тем самым завершив круг технологий. Потому что у кремниевых думалок есть некие фундаментальные ограничения (не факт!), а что могут биологические мозги мы уже знаем опять же по себе.
Да хоть на костях мамонта, не в этом суть. Сознание должно быть в живом организме.
Откуда это следует? И что такое "живой организм"?
Не появится, так как мы даже не знаем что это и как оно работает.
Строго говоря, мы даже не знаем существует ли квалиа, или это наши иллюзии. Но это неважно. Если можете придумать тест или задачу которую возможно решить только обладая квалиа/самосознанием, успешное решение её и будет являться доказательством наличия квалиа у AGI.
Если практическая проверка невозможна, значит это ненаучный критерий, сродни душе или божественной сущности.
С чего вы решили, что у собаки есть квалиа? Просто вам так кажется? С чего вы решили, что у нейросети квалиа нет? Потому что уж вы точно знаете? Природу квалиа не знаете, а у кого квалиа есть, у кого нет, разбираетесь? Это вряд ли.
А почему у нейросети квалиа обязательно нет? А у человека, зачатого в пробирке есть? А если нейросеть из человеческих нейронов в чашке Петри?
Даже если условно поверить в Бога и душу, то почему он вложит душу не во всех этих случаях, а только в конкретных?
Квалиа придумали философы, чтобы всегда было то что будет их отличать от произвольных машин.
Не придумывали философы ничего, они просто дали название явлению, которое чувствует даже ребенок.
Я их не чувствую. (квалиа – это множественное число).
Не знали те философы ни одной из машин этого уровня. И не могли знать.
Конечно знали. Понятие совершенно новое. Придуманное в 20-ом веке, когда придуман и тест Тьюринга. Тогда уже было известно, что машины будут думать. И кстати, термин квалиа введен именно из за искусственного интеллекта и попытки объяснить почему он всегда будет отличаться от естественного. Потому что, ну, не может железяка конкурировать с божественного произведения.
Квалиа это например факт ощущения красного цвета. Машины тут ни при чем. Почему красный цвет отличается от звука ля второй октавы, хотя и там и там это электрические импульсы в нейронах? Как электрические импульсы превращаются в ощущение красного цвета? Ну ладно красный, можно сказать, что для него есть отдельный тип колбочек, но вот фиолетовый?
Это электрические импульсы в нейронах, но в разных нейронах – активируются совершенно разные участки нейронной сети. Этим и отличаются.
Так я не спрашивал, чем они отличаются. Вопрос был о том, как они превращаются в ощущение красного цвета.
Так и превращаются – «ощущение» это определенная комбинация активированных нейронов, которая связана с данным набором данных и при этом еще и обработанные обратной связи внутреннего монолога. Заметьте, что ощущение возникает далеко не всегда, а только если думаете о нем.
«ощущение» это определенная комбинация активированных нейронов
Так для объектов красного цвета слева и справа зрительного поля тоже активируются разные нейроны, но ощущение красного почему-то одинаковое.
и при этом еще и обработанные обратной связи внутреннего монолога
Так как из этого появляется "красность" в ощущениях? Как электрические сигналы превращаются в красность? Почему не в оттенки серого?
Ваше объяснение выглядит как "Ну вот оно само там как-то магически появляется из внутреннего монолога". Вопрос о квалиа в том и заключается, как. С машинами он не связан.
Понятие "красность" это по сути комбинация из всех ваших регистрациях красного цвета датчиками, плюс все ощущения которые происходили вместе с этими регистрациями от других ваших датчиков, и которые вы успели запомнить конечно. И когда вы видите красный цвет, одновременно (и очень слабо) активируются и все эти воспоминания. Получается эмерджентное ощущение красного. Из-за того, что все эти воспоминания активируются очень слабо, то вы их идентифицировать по отдельности не можете, само чувство именовать, но описать не можете, потому что оно состоит от бесконечное количество очень мелких деталей. Поэтому оно вполне возможно совершенно разное у разных людей или например у разных культур. Но так как это именно что внутренняя обработка информации, это совершенно недоказуемое понятие, как у людей, так и у животных или ИИ.
Понятие "красность" это по сути комбинация из всех ваших регистрациях красного цвета датчиками
У вас тут тавтология, "красность появляется из красности".
Как сигнал с датчиков-то превращается в ощущение красного?
Я уже сказал, что вопрос не в абстракции "по сути", а в конкретном механизме.
Звук ноты ля это тоже комбинация сигналов с датчиков, почему это ощущение настолько отличается от цвета? От чего это зависит?
одновременно (и очень слабо) активируются и все эти воспоминания
Так когда вы видите красный в первый раз, ощущение красности уже есть. Именно оно и сохраняется как воспоминание.
И вы опять не учитываете, что красный ощущается как красный во всех областях зрительного поля, которые обрабатываются разными нейронами.
Но так как это именно что внутренняя обработка информации
это совершенно недоказуемое понятие
Эти утверждения противоречат друг другу. Раз информация обрабатывается, значит это производится каким-то алгоритмом или механизмом, значит это можно изучить. Поэтому ваша характеристика "совершенно" неверна.
У компьютера тоже вся обработка информации внутренняя, но там вполне всё доказуемо.
У вас тут тавтология, "красность появляется из красности
Цитируйте правильно. Я очевидно имел ввиду регистрацию света определенной длиной волны. Никаких тавтологий нет. Там где я говорю о датчиках – это объективная реальность такая какая она существует – цветов вообще не существует, если длины волн и частоты.
Вы не поняли. Датчик принимает длину волны и создает электрический сигнал. Вопрос был в том, как из электричества появляется ощущение красности. Вы сказали, что сигнал с этих датчиков это и есть ощущение красности. То есть ваш ответ "ощущение красности появляется из ощущения красности". Но это очевидно не так, в самом электричестве нет никакой красности.
Ощущение красности это внутреннее понятие мозга, в реальном мире его не существует, и у всех это ощущение разное потому что строение нейронных сетей в мозге отличается. Вы видите красный цвет и мозг активирует всё что вы видели и знали о красном цвете. Переходя в состояние "ощущение красного цвета".
Я понимаю эту идею, но я говорю о том, что тут чего-то не хватает. Как красный цвет появляется в первый раз, когда еще "не видели и не знали"? Почему он отличается от первого восприятия звука ля, если для нейросети это просто нейроны? Как красный цвет появляется в разных областях зрительного поля, если сигнал от этих областей идет по разным нейронам? Как появляется ощущение фиолетового, если половина сигнала для него идет от тех же красных колбочек?
Первый раз он появляется от сигнала из глаз, создаёт первую структуру опыта с красным цветом. Это уже физика колбочки подают сигнал, нейроны его сохраняют потому что так собран человек биологически. Фиолетовый же это комбинация сигнала красного и синего, записывается в мозгу в другое место. Потом каждый новый опыт с цветом записывается так чтобы области были связаны и активировались одновременно
создаёт первую структуру опыта с красным цветом
Так как появляется-то этот красный цвет? По вашей логике может быть так, что красный предмет справа вызывает ощущение красного цвета, а красный предмет слева вызывает совершенно другое ощущение, не имеющее ничего общего с первым. Но такого не наблюдается.
Это уже физика колбочки подают сигнал, нейроны его сохраняют потому что так собран человек биологически
Ну я вам про это и сказал. С этой точки зрения красные колбочки справа, красные колбочки слева, и сенсор звука ля ничем не отличаются. Для нейросети это нейроны 113, 114, 134. Как вы определите, какие 2 из них должны давать ощущение красного цвета?
Фиолетовый же это комбинация сигнала красного и синего
Ну так я о том и говорю, что мы не ощущаем красный и синий цвет, а ощущаем фиолетовый. А по вашей логике не должно быть нового цвета, потому что сигнал идет с тех же нейронов.
Так как появляется-то этот красный цвет? По вашей логике может быть так, что красный предмет справа вызывает ощущение красного цвета, а красный предмет слева вызывает совершенно другое ощущение, не имеющее ничего общего с первым. Но такого не наблюдается.
Скажите где вы такую логику увидели, то что вы называете ощущение красного цвета то множество одновременно активированных нейронов связанных с опытом восприятия красного цвета. Красный цвет в мозгу это характеристика предметов, отделимая от самих предметов и представленная советующими сетями нейронов
Впрочем если у вас предметы одно цвета справа и слева вызывают не вызывают ощущения красного цвета, то я хз как вами разговаривать боюсь у нас принципиальное разные мозги у меня ощущение красного цвета появляется в не зависимости от положения предметов
Ну так я о том и говорю, что мы не ощущаем красный и синий цвет, а ощущаем фиолетовый. А по вашей логике не должно быть нового цвета, потому что сигнал идет с тех же нейронов.
Сигнал идёт из зрительно нерва, и активирует нейроны, связанные с тем или иным цветом, дальше сигнал распространяется по нейронной сети мозга. С случае когда мозг сталкивается с красным цветом впервые или каким угодно другим цветом он пытается классифицировать новые сигналы от зрительного нерва и разложить их в систему создавая советующие нейронные сети
Скажите где вы такую логику увидели
Вот здесь:
"строение нейронных сетей в мозге отличается"
"Это уже физика колбочки подают сигнал, нейроны его сохраняют"
Любые сенсоры подают сигнал в виде электрических импульсов, а нейроны его сохраняют. Только почему-то электрические импульсы с сенсоров номер 113 и 114 вызывают одинаковое ощущение, а с сенсора 134 другое непохожее на него.
Понятно, вы не настроены на конструктивную дискуссию, дальше обсуждать не вижу смысла.
Красный цвет в мозгу это характеристика предметов, отделимая от самих предметов
Я прекрасно это знаю, не надо мне это объяснять. Это и есть то, что называют словом "квалиа". Попробуйте прочитать мои комментарии с учетом этой информации.
Да конечно у всех строение нейросетей в мозге не идентично, потому что опыт в них записанный разный, но в целом архитектура мозга у всех здоровых людей примерно одинаковая
А сенсоры человеческого тела не связаны на прямую с нейронами отвечающим за опыт, очевидно же на входе любого сигнала стоит некий классификатор, подобный тем что реализованы в тысячах современных устройств, который ищет знакомые паттерны и одновременно малейшие отличия от прежних сигналов. И опрашивая мозг о том какие сигналы были сохранены ранее похожи ли они на тот что пришёл, этот классификатор активирует те или иные нейроны
Ощущение красности это внутреннее понятие мозга, в реальном мире его не существует
С чего вы это взяли, если все понимание так называемого "реального мира", происходит в наших мыслях? Доказательств то любой точки зрения по этому вопросу у нас до сих пор нет...
Нейросети и их успешное применение к решению сложных задач, дают серьёзный плюс к тому чтобы считать что как минимум часть понимания окружающего мира происходит в мозге, где работают почти такие же структуры.
В том числе и там же происходит перевод мозга состояния ощущения тех либо иных вещей.
Нейросети и их успешное применение к решению сложных задач, дают серьёзный плюс к тому чтобы считать что как минимум часть понимания окружающего мира происходит в мозге, где работают почти такие же структуры
С этим никто не спорит, но при чем здесь ощущения?
В том числе и там же происходит перевод мозга состояния ощущения тех либо иных вещей
Понятно, что процесс трансформации внешней (и не только) информации происходит в мозге. Только опять же, трансформации во что?
С этим никто не спорит, но при чем здесь ощущения?
Думаю что ощущения это такое состояние мозга вызванное одновременной активацией нейронов связанных с объектом ощущений
Понятно, что процесс трансформации внешней (и не только) информации происходит в мозге. Только опять же, трансформации во что?
В структуру нейросети мозга
Думаю что ощущения это такое состояние мозга вызванное одновременной активацией нейронов связанных с объектом ощущений
Но это же не ответ)) Под эту фразу может подписаться кто-угодно: от богослова до ученого-сциентиста.
В структуру нейросети мозга
И в какой момент (усложнения этой нейросети, начиная с одиночного нейрона) там возникают ощущения?
И в какой момент (усложнения этой нейросети, начиная с одиночного нейрона) там возникают ощущения?
Ощущения это субъективный процесс, а значит та конфигурация нейронов которые нужны для ощущения у всех разная. Но в общем случае когда субъект ощущает что у него ощущение тогда нейроны и активируются, и наоборот, классическая задачка про курицу и яйцо.
Хуже того ощущение не имеет обще принятого научного определения, и для начала надо определится что-то вообще такое не с точки зрения отдельного субъекта.
Ощущения это субъективный процесс
Что вы имеете в виду? Что их не существует и они нам только кажутся? Ну так мы весь мир постигаем через них, может и он нам только кажется? Или что их невозможно объективизировать современным научным методом? Я согласен, сейчас это невозможно.
а значит та конфигурация нейронов которые нужны для ощущения у всех разная
Может да, может нет. Как гипотеза годится, но нужны доказательства (которых в ближайшем обозримом будущем у нас не будет)..
Но в общем случае когда субъект ощущает что у него ощущение тогда нейроны и активируются, и наоборот, классическая задачка про курицу и яйцо
Честно говоря, мне даже не важно, что раньше активируется - нейроны или ощущения. Я хочу понять (в данном случае, обращаясь к вам) что же такое вообще ощущения?
Хуже того ощущение не имеет обще принятого научного определения
Вот именно. А также не имеет прямого доступа к ним научными инструментами.
и для начала надо определится что-то вообще такое не с точки зрения отдельного субъекта
Так давайте определимся, я только "за"! Правда сомневаюсь, что здесь, в комментариях на Хабре, у нас это получится сделать. Но можно хотя бы попытаться, отталкиваясь от уже существующего философского понятия квалиа.
Что вы имеете в виду? Что их не существует и они нам только кажутся? Ну так мы весь мир постигаем через них, может и он нам только кажется? Или что их невозможно объективизировать современным научным методом? Я согласен, сейчас это невозможно.
Ну вот видите вы сами может быть правильно говорите что ощущения это лишь то что существует в сознании, в объективной реальности быть может это не более чем совокупность активированных нейронов. Отражающих текущую сенсорную информацию и совокупность предыдущего опыта.
Для того чтобы заявлять что они являются чем-то большим на данный момент нет достаточных данных или каких-то доказанных явлений. Наука не строится на субъективных оценках и размышлениях, она строится на воспроизводимых экспериментах и доказанных теориях
Современные нейросети отлично познают и ориентируются в реальном мире, и про наличие у них ощущений я не слышал.
Ну вот видите вы сами может быть правильно говорите что ощущения это лишь то что существует в сознании, в объективной реальности быть может это не более чем совокупность активированных нейронов. Отражающих текущую сенсорную информацию и совокупность предыдущего опыта
Вы просто перенесли акцент с ощущения на сознание, с пониманием которого у нас сохраняются все те-же самые проблемы. При этом, сам процесс взаимодействия сознания с объективным физическим миром уже принят в виде факта.
Для того чтобы заявлять что они являются чем-то большим на данный момент нет достаточных данных или каких-то доказанных явлений
Бо́льшим или меньшим неважно - мы не умеем воспроизводить сознание. А значит и не можем создать сознающий ИИ (какой-бы степенью интеллектуальной силы он не обладал).
Наука не строится на субъективных оценках и размышлениях, она строится на воспроизводимых экспериментах и доказанных теориях
Проблема в том, что сама наука работает уже после того, как мы объективизировали наше сознание и ощущения. А в обратную сторону научные методы доказательной силы не имеют. Получается, что сам научный подход - это сильный инструмент познания на достаточно шатком (по крайней мере пока) основании. То есть не надо его слишком абсолютизировать, особенно в нашем вопросе.
Современные нейросети отлично познают и ориентируются в реальном мире, и про наличие у них ощущений я не слышал
Да, с распознаванием информации у нас всё ОК, прогресс идет.
Я уже сказал, что вопрос не в абстракции "по сути", а в конкретном механизме.
Звук ноты ля это тоже комбинация сигналов с датчиков, почему это ощущение настолько отличается от цвета?
А почему вообще оно должно быть похоже??? Ведь, работают совершенно разные датчики и разные цепи нейронов, связанные с этими датчиками. Логично, что ощущения будут разными.
Эти утверждения противоречат друг другу. Раз информация обрабатывается, значит это производится каким-то алгоритмом или механизмом, значит это можно изучить. Поэтому ваша характеристика "совершенно" неверна.
Не противоречат. Все это можно изучить в теории, но связи и нейроны настолько много, что изучать можно бесконечное время. Это по сути то же самое, как подбирать пароль методом полного перебора. Да, однажды успеете с гарантией.
Логично, что ощущения будут разными.
Допустим. Теперь объясните, как определить, сигнал с датчиков номер 123, 124 и 136 должен вызывать ощущение красности, ощущение фиолетовости, или ощущение звука ля? Или может какое-то еще ранее неизвестное ощущение?
А почему вообще оно должно быть похоже??? Ведь, работают совершенно разные датчики
Теоретически да. Только вы опять игнорируете, что зрительные сигналы это тоже разные датчики.
То есть например сигнал с датчиков 113, 114, 134 вызывает ощущение красного цвета.
Сигнал с датчиков 123, 124, 136 вызывает ощущение красного цвета, но в другой точке зрительного поля.
Сигнал с датчиков 143, 144, 197 вызывает ощущение звука ля.
Во всех случаях это сигналы с разных датчиков. По вашей логике это должны быть разные ощущения. Но почему-то первые 2 случая вызывают одинаковое ощущение красного цвета. Значит ваше объяснение что-то не учитывает.
Дело в общем-то даже не в этом. Вы можете быть с этим не согласны, только все равно другие люди под термином квалиа подразумевают этот вопрос, а не отличие от машин, как вы изначально утверждали.
Ну, попробую еще раз. Смотрите, все что знает человек приобретается субъективным опытом. Каждое наше знание, имеет ассоциированные воспоминания конкретного процесса приобретения этого знания.
Когда вы получаете от рецепторов сигнал о свете определенной длины волны, одновременно с сенсорными нейронами, по ассоциацию активируются и нейроны из области памяти, отвечающие для всех случаев когда вы видели красный цвет в прошлом. Это дает возможность понять «что этот свет значит» на базе вашего опыта. Активируются эти нейроны слабо, вы не вспоминаете на самом деле эти воспоминания. Но получается комбинация от конкретного воздействия и усредненных воспоминаний. Эта комбинация и воспринимается сознанием как «краснота» света. А из-за слабости и размытости воспоминаний, вы на самом деле но может описать что это такое. Я подозреваю, что у разных людей, тем более из разных культур это ощущение совершенно разное. Например в Японии белий цвет, это цвет траура. Их ощущение «белости» точно отличаются от вашей. Но опять – так как описать это чувство вы не можете и они тоже не могут, то сравнить невозможно.
P.S. И конечно невозможность описать «квалиа», делает их отличным понятием для вечного отказа ИИ в сознании. А то, что квалиа принципиально нельзя доказать даже в других людей, никого не смущает.
по ассоциацию активируются и нейроны из области памяти, отвечающие для всех случаев когда вы видели красный цвет в прошлом
Еще раз объясняю, вопрос в том, как ощущение появляется в первый раз. Пришел сигнал с нейрона номер 129. Какое ощущение он должен вызывать? Как появляется ощущение вкуса алкоголя или его действия, когда человек пробует его первый раз?
Можно также вспомнить эксперимент с комнатой Марии.
Я понимаю вашу идею, но тут чего-то не хватает.
В первый раз квалиа будет проявляться на базе похожих ощущений – более или менее близкие. Нейроны работают прекрасно на ассоциациях. Но после первых 100мс у вас уже будет воспоминание – формируется и квалиа алкоголя. И заметьте, что эти квалиа будут меняться с возрастом и опытом. В очень широких границах. И если это произошло в более сознательном возрасте вы будете помнить как факт, что когда-то ваше восприятие было другое. Хотя и какое именно оно было вы не сможете вспомнить, потому что квалиа это интегральное воздействие, которое формируется каждый раз при сенсорном воздействии.
более или менее близкие
Какие близкие?) Человек только что родился и ни разу не видел красный цвет, откуда он берется в первый раз? У него еще нет никаких ощущений, близких к красному.
Но после первых 100мс у вас уже будет воспоминание
Так вы же сказали, что в первый раз нет ощущения красного цвета, значит и в воспоминаниях его нет, значит воспоминание красного цвета никогда появиться не может.
на базе похожих ощущений
А похожие-то ощущения откуда в первый раз берутся?)
И заметьте, что эти квалиа будут меняться с возрастом и опытом. В очень широких границах.
Нет, у людей обычно цвета не становятся звуками.
По вашей теории вообще не должно быть разделения на цвета и звуки, такой механизм невозможен.
Есть условно группа нейронов, которая отвечает за ощущение синего цвета. Причём, эта группа развивается со временем. Ощущение синего в первый раз не обязано быть таким же,как ощущение красного в дальнейшем. Например, ребёнок может не знать, что этот цвет отличается от зелёного. И есть целые человеческие культуры, которые дейтсвитлеьно не отличают зелёный от снего, но представители этой культуры учатся различать цвета в зрелом возрасте, если им объяснить разницу. И лично у меня есть серьёзные основания считать, что квалиа у них таки меняются, но не на примере цветов, а на примере звуков речи.
Есть датчики, на которые поступаю сигалы.
Между датчиком и группой нейронов ощущения стоит классификатор, который определяет попадёт сигнал с датчика на группу нейоронов ощущения или нет. Если сигнал попадает на нужную группу, человек видит синий цвет, иначе не видит. Всё просто же.
Ага. Только вопрос квалиа это вопрос о том, как именно группа нейронов отвечает за ощущение синего цвета. Как ощущение синего цвета появляется в результате работы этой группы нейронов. Помимо этого конечно всё просто.
Если дадите нормальное работное определение понятия «ощущение синего цвета», я вам сразу объясню как его генерирует группа нейронов.
Какой вы хитрый) Вообще-то это и есть одна из сложностей в этом вопросе.
Но в данном случае подойдет такое определение.
"Ощущение синего цвета это ощущение, которое возникает у человека без отклонений в восприятии (например лично у вас) при взгляде на небо в солнечный день или на тучи в пасмурный."
Учтите, что ваше объяснение не должно подходить для ощущения звука (потому что мы отличаем его от любого цвета), должно быть похоже на объяснение ощущения красного цвета в той же точке зрительного поля, и должно полностью подходить для ощущения синего цвета в другой точке зрительного поля.
«ощущение – это ощущение» – прекрасное определение, слов нет.
https://ru.m.wikipedia.org/wiki/Мачта
Фок-мачта
Первая, считая от носа к корме, мачта на судне с двумя или более мачтами.
Грот-мачта
Обычно вторая мачта, считая от носа судна.
Бизань-мачта
Название кормовой мачты на трёх- и более мачтовом судне.
Во всех случаях это определения вида "мачта это мачта". Так всегда бывает, когда термином обозначается специфичное подмножество или элемент из множества похожих.
Ну, не надо так, аж скучно становится отвечать вам:
Ма́чта (ж.)[1] (от нидерл. mast[2]) — вертикально стоящая конструкция на паруснике (позднее — судне), обычно поддерживаемая оттяжками (вантами с выбленками), часть парусного вооружения на парусниках[3].
В той же википедии. К ней претензии много, но определения дают обычно корректные.
А зачем вы мне привели определение мачты? Я привел пример определения конкретно фок, грот, и бизань мачты. Там в обоих частях предложения используется слово "мачта". Аналогично в определении ощущения конкретно синего цвета в обоих частях используется слово "ощущение". Потому что происходит уточнение.
В определении самого термина "ощущение" слово "ощущение" не используется.
Только дело в том, что мне (и вам кстати) в словосочетании «ощущение синего» непонятно понятие «ощущение», а «синий» это частность, которая как раз более-менее понятная.
Вообще-то нет, в вопросе о квалиа непонятно именно как появляется "синесть" и "красность" в ощущениях.
Вы просили дать определение именно понятия "ощущение синего цвета", а не просто "ощущение".
А я вообще не понимаю что вы понимаете под «синестью» и «красностью» в ощущениях. Вообще понятие «квалиа» настолько неопределенное, что больше некуда. Когда человек видит разные цвета, он их различает. Ощущения поэтому и различные потому что цвета задействуют разные рецепторы и разные нейроны в нейронной сети мозга. Одновременно с этим каждый цвет задействует и кучу других нейронов, которые делают какие-то ассоциативные связи с памятью. Что в этом процессе вы называете «ощущение синего цвета» категорически непонятно. Поэтому я и попросил определение.
Ощущения поэтому и различные потому что цвета задействуют разные рецепторы и разные нейроны в нейронной сети мозга.
Я вам уже на это отвечал. Красный цвет слева и справа тоже задействует разные рецепторы, но вызывает одинаковое ощущение. Звук качественно отличается от цвета, но различие тоже только в разных нейронах, то есть по вашей логике звук должен быть одним из цветов. Фактически это не так, значит ваши рассуждения что-то не учитывают.
Что в этом процессе вы называете «ощущение синего цвета» категорически непонятно.
Я вам объяснил выше, какое ощущение я имею в виду.
Опять медленно объясняю – звук, задействует только нейроны, которые связаны с рецепторами звуков. Он не может вызывать ощущение цвета, потому что никогда эти нейроны не обрабатывали цветовых сигналов. Только звуки их активировали, с момента вашего рождения. Все ваши воспоминания о активациях этих нейронов, содержат только звуки – сигналы из звуковых рецепторов. Честно, даже странно объяснять вам такие очевидные вещи... Или вы имеете ввиду, что-то совершенно другое, но не можете внятно его объяснить...
звук, задействует только нейроны, которые связаны с рецепторами звуков
Так принимающие нейроны-то не знают, какие там рецепторы. Им на вход приходит только электрический импульс. Я же вам объяснял про нейроны 113, 114, 134. Какой из них должен вызывать ощущение звука при получении электрического сигнала в первый раз?
А во второй, в третий или в десятый? Им на вход всегда приходили только электрические импульсы.
Или вы имеете ввиду, что-то совершенно другое, но не можете внятно его объяснить
Выглядит так, что это вы делаете вид, что не поняли, и пытаетесь таким образом уйти от ответа, хотя сами начали эту ветку обсуждения.
Так нет, же, все наоборот – это вы называете ощущение на этих нейронах «звук», потому что вам сказали, что это звук. И все что идет этим каналом, вы называете звуком. А все что идет каналом зрения, называете образом. Здесь включаются очень многие части нейронной сети, которые делают ассоциации, память, логика и т.д. Также не забываем, что эти части нейронной сети, которые отвечают за восприятия – они очень старые и они предварительно программированные. То есть они изначально знают как обрабатывать специфические сигналы и обрабатывают их специфическим образом.
И я действительно не понимаю что вы имеете ввиду, никогда не понимал и никто пока мне не сумел объяснить что такое «квалиа». Все объяснения которые я читал, совершенно неприемлемые с логической точки зрения и то что они объясняют, я у себя не нахожу.
Вот сделал вам скрипт для демонстрации, запуск в консоли браузера на отдельной вкладке. Это то, как выглядят входы для второго слоя нейронов после слоя рецепторов. Каждая точка это сигнал от какого-то рецептора, цвет обозначает наличие электрических импульсов. Красная, зеленая, синяя колбочка в какой-то точке зрительного поля это три отдельных точки на этом экране. Такие же колбочки в соседней точке это три следующих точки. И т.д. Аналогично для следующих слоев, только вместо рецепторов будут нейроны с предыдущего слоя. Покажите, где и когда там возникает разделение на цвет и звук.
Скрипт
(function () {
document.write('<!DOCTYPE html><html lang="en"><canvas id="canvas" width="400" height="300"></canvas></html>');
function rand(a, b) {
return Math.floor(Math.random() * (b - a) + a);
}
const canvas = document.getElementById('canvas');
const ctx = canvas.getContext('2d');
let prevTs = undefined;
const frameTimeMs = 600;
function renderFrame(ts) {
if (prevTs === undefined) {
prevTs = ts;
}
const diff = ts - prevTs;
if (diff < frameTimeMs) {
requestAnimationFrame(renderFrame);
return;
}
prevTs = ts;
const w = canvas.width;
const h = canvas.height;
ctx.strokeStyle = '#000';
ctx.fillStyle = '#000';
ctx.fillRect(0, 0, w, h);
ctx.strokeStyle = '#fff';
ctx.fillStyle = '#fff';
const n = rand(0, 0.1*w*h);
for (let i = 0; i < n; i++) {
const x = rand(0, w);
const y = rand(0, h);
ctx.fillRect(x, y, 1, 1);
}
requestAnimationFrame(renderFrame);
}
requestAnimationFrame(renderFrame);
}());
это вы называете ощущение на этих нейронах «звук», потому что вам сказали, что это звук
При чем тут название? Я говорю про ощущение. Ощущение звука и света различается даже если человек не знает этих слов. А ощущение красного и синего цвета похожи даже если человек не знает этих слов.
они очень старые и они предварительно программированные. То есть они изначально знают как обрабатывать специфические сигналы и обрабатывают их специфическим образом.
Оо, ну вот уже какая-то неизвестная врожденная обработка появилась. Так вопрос о квалиа как раз в том и заключается, как именно они изначально знают, в чем именно заключается эта специфика.
Оо, ну вот уже какая-то неизвестная врожденная обработка появилась.
Никакое это не Оо. Условно сказано, часть весов нейронной сети заданы изначально.
Ощущение звука и света различается даже если человек не знает этих слов.
Само понятие «ощущение» это результат вашего аналитического мышления и способность к рефлексии. Ваше сознание анализирует эти сигналы, какие нейроны их обрабатывают и этим их и разделяет. Ведь, эти сигналы различаются по виду и далеко не представляют «активация одного нейрона». Там условно говоря, миллионы нейроны активируются определенным образом и этот «образ» отличается для звука, света и других ощущений – рецепторы дают совершенно разные сигналы – да сигнал отдельного нейрона не отличается, но шаблон на миллионы нейронов уже можно распознать и классифицировать. Очень утрированный пример – берем Ч/Б картинку – каждый пиксель может быть только 1 или 0, а если посмотреть все их одновременно – картинки уже различаются и их можно классифицировать.
Никакое это не Оо.
Ну так раньше вы говорили, что просто остается воспоминание с первого раза, без всякой врожденной обработки. Теперь уже этого недостаточно, появилась какая-то магическая обработка, которая разделяет цвет и звук.
Ваше сознание анализирует эти сигналы, какие нейроны их обрабатывают и этим их и разделяет.
Я вам про это и говорю. С этой точки зрения есть только входные электрические сигналы от рецепторов 113, 114, 134, и никак нельзя определить различие между ними. Нет различия, которое можно наблюдать. Поэтому разделение на цвет и звук невозможно. А раз оно есть, значит эта точка зрения неправильная.
Ведь, эти сигналы различаются по виду и далеко не представляют «активация одного нейрона».
Вот именно что не различаются. Вы биологию не изучали? Нейроны передают сигналы между собой только электрическими импульсами.
рецепторы дают совершенно разные сигналы
Нет, рецепторы дают только электрические импульсы.
а если посмотреть все их одновременно – картинки уже различаются и их можно классифицировать.
Вы говорите про форму линий, а квалиа это ощущение цвета пикселей, которые составляют линию. Поэтому этот пример не является аналогией.
Я вам привел пример кода, который генерирует именно такую картинку. Покажите, как вы определяете, что сигнал с пикселей номер 1, 4, 7 должен давать ощущение красного цвета.
миллионы нейроны активируются определенным образом
Ну так вопрос в том и есть, каким таким определенным образом?
Давайте я еще проще объясню. Вопрос сводится к тому, может ли мужчина испытать оргазм, который испытывают женщины. Мы знаем, что у женщин эти ощущения более сильные и немного другие. Что для этого нужно сделать, соединить нейроны особым образом? Или должны быть какие-то особые нейроны? Или должны быть какие-то особые химические соединения? По каким критериям можно определить, что да, мы повторили этот процесс в организме мужчины?
Само понятие «ощущение» это результат вашего аналитического мышления и способность к рефлексии.
Я в курсе, это одна из причин появления термина "квалиа". С какой целью вы объясняете то, о чем уже написано 180 комментов? Выглядит как уход от ответа.
Вы попросили объяснить, какое именно ощущение цвета я имею в виду, я вам объяснил. Либо вы объясняете, как его генерирует группа нейронов с учетом всех особенностей, которые я написал после слова "Учтите", либо так и скажите, что такого объяснения у вас нет. Давать объяснение, которое не учитывает эти особенности, и спорить об этом, неконструктивно и не имеет смысла.
С буддистами, кстати говоря, спорите именно вы, когда путаете собственные ощущения с реальным миром
Да, там сложно всё, легко запутаться.
Понятно, объяснение через мистику. Но по крайней мере этот критерий проверяемый. Достаточно чтобы вы или я "почувствовали" квалиа у нейросети при слепом испытании
Нет, вас и меня будет не достаточно. Это общечеловеческий этический вопрос. Даже тысячи ученых будет не достаточно.
У молотка вероятно нет
Слово вероятно меня напрягает. Пожалуйста, не рассказывайте об этом окружающим вас людям.
У нейросети скорее всего будет, при условии что она сопоставима по сложности с мозгом, и соответствующим образом обучена
Квалиа - это не обработка информации, это ощущения.
И чем вас только слово нейросеть гипнотизирует? Это напоминает рефлекс от органических молекул.
Люди его "почувствуют", раз уж других критериев нет
Вот тогда и поговорим!
вопрос скорее нужны ли они ему
Забегая на миллиард-летия вперед - не нужны! Нам и так здесь тесно.
Я их не чувствую. (квалиа – это множественное число)
Кушать совсем не хочется? Спать ....
Я ощущаю квалиа у нейросети. Не знаю, каким образом, наука потом объяснит. А вот есть ли они у вас, не ясно, слишком далеко.
Замечательно! Осталось убедить в этом 8*10^9 людей и дело сделано!
Вы занимаетесь самообманом. Нет, они не знают, есть ли у собаки квалиа. Это лишь вы думаете, будто они знают (вы даже не спрашивали)
Если вы будете им задавать вопросы, не называя сам термин, то они подтвердят, что всё это чувствуют.
Наличие квалиа таким лёгким софистическим приемом обосновать не получится. Завтра вы чайник Рассела таким образом начнёте доказывать (надеюсь, знаете). Нет, давайте что-то хоть немного лучше
Так в том-то и проблема, что мы оба (и все остальные) зашли на территорию, где не то что наука не работает, здесь даже логику не понятно как применить.
Ну как это совсем не будет, если он ощущает, что цвета разные? То, откуда берется эта информация, это и есть его ощущения
Датчик ощущает???? Так, круг странных людей начинает увеличиваться...
Почему вы проигнорировали вопрос "Зачем их делать?"? Не знаем, ну и ладно, нам и не надо их делать
Так если ощущения не делать, тогда хоть ИИ, хоть АГИ это всего лишь продвинутые музыкальные шкатулки. То есть не живые механизмы.
Датчик ощущает????
Мыслящее существо различает, что цвета разные, и может об этом сообщить. Люди называют это словом "ощущает цвета". Это просто термин для обозначения явления, в нем нет никакой магии.
Так если ощущения не делать, тогда хоть ИИ, хоть АГИ это всего лишь продвинутые музыкальные шкатулки.
Чего это вдруг? Потому что вам так захотелось?
Мыслящее существо различает, что цвета разные, и может об этом сообщить. Люди называют это словом "ощущает цвета"
Мы называем то, что уже ощущаем. Не надо путать терминологию с явлением.
Это просто термин для обозначения явления, в нем нет никакой магии
Магия тут вообще не при чем.
Чего это вдруг? Потому что вам так захотелось?
Нет ощущения => нет полноценного сознания. Так считает человечество последние 10 тысяч лет.
Не надо путать терминологию с явлением.
Я не путаю, я вам сразу сказал, что ощущения компьютера не такие, как у человека. Процесс, который предоставляет компьютеру информацию о том, что цвета разные, можно назвать ощущением по причине сходства результата. То, что физически эти явления разные, никакой роли для искусственного интеллекта не играет. Зачем их делать одинаковыми, вы пока так и не смогли объяснить.
У женщин есть ощущения, которых нет у мужчин. У летучих мышей и электрических скатов есть ощущения, которых нет у людей. Значит ли это, что у кого-то из них нет сознания?
Так считает человечество последние 10 тысяч лет.
Последние 10 тысяч лет человечество так не считало. Я тоже могу делать бездоказательные утверждения. Считаем, что я прав?
Так считает человечество
Ну то есть своих аргументов у вас нет, аргументы этого человечества вы тоже привести не можете, и просто повторяете за ним?
ощущения компьютера не такие, как у человека
Ну нет у компьютера ощущений, нет. Совсем нет!
Процесс, который предоставляет компьютеру информацию о том, что цвета разные, можно назвать ощущением по причине сходства результата
Нет конечно, не передергивайте.
То, что физически эти явления разные, никакой роли для искусственного интеллекта не играет. Зачем их делать одинаковыми, вы пока так и не смогли объяснить
Потому что мы отличаем живое и неживое во многом по присутствию ощущений у нашего объекта.
Получается, что ИИ не живой и вопросов больше нет.
У женщин есть ощущения, которых нет у мужчин. У летучих мышей и электрических скатов есть ощущения, которых нет у людей. Значит ли это, что у кого-то из них нет сознания?
Разные ощущения => разные сознания. Это давно уже общепризнанно.
Последние 10 тысяч лет человечество так не считало. Я тоже могу делать бездоказательные утверждения. Считаем, что я прав?
Спросим у человечества?
Ну то есть своих аргументов у вас нет
Просто вам они не нравятся.
аргументы этого человечества вы тоже привести не можете
Здесь нет аргументов, это просто наблюдаемый факт. Люди просто между собой договорились, что такой факт существует. При чем здесь аргументы?
и просто повторяете за ним?
Нет, я говорю, что тоже наблюдаю этот факт.
Ну нет у компьютера ощущений, нет. Совсем нет!
Я вам 10 раз уже объяснил. "Совсем нет!" у него человеческих ощущений. А процесс распознавания цвета есть. Его можно назвать "ощущением", можно назвать "абывралг", можно еще как-то. Удобнее тоже назвать ощущением.
Нет конечно
Чего это вдруг? Потому что вам так захотелось?
Потому что мы отличаем живое и неживое во многом по присутствию ощущений
А зачем нам отличать живое и неживое в случае искусственного интеллекта?
Ну и да, на вопрос "Зачем их делать одинаковыми" это не отвечает.
Получается, что ИИ не живой
Естественно не живой, никто и не говорил, что живой. Это программа, выполняемая компьютером.
Просто вам они не нравятся.
Вы пока никаких не привели, у вас только замкнутый круг рассуждений. "Я считаю, что для ИИ нужны такие же ощущения, как у человека; они нужны, потому что некоторые представители человечества так считают; я так считаю, потому что они так считают."
Люди просто между собой договорились, что такой факт существует.
То, что так считает человечество, это не факт, а ваши фантазии. Кто-то может и считает, но не большинство. Большинство понимает, что это недоказанный вопрос.
То, что "нет ощущения, значит нет полноценного сознания" это тем более не факт, а предположение.
То, что полноценное человеческое сознание зачем-то нужно для ИИ на компьютере, чтобы он мог различать цвета, это вообще ваши домыслы. Я уже несколько сообщений пытаюсь узнать, зачем это надо, если он и так умеет различать цвета, а вы не можете ответить на этот вопрос и увиливаете "А мне представитель человечества по имени Вася так сказал, у него спрашивайте, а я сам не знаю зачем".
При чем здесь аргументы?
При том, что считать утверждение "нет ощущения, значит нет полноценного сознания" истинным, и тем более использовать его как подтвержденный факт в других доказательствах, можно только при наличии аргументов. Если оно не подтверждено аргументами значит потенциально может быть ложным, и соответственно ваши рассуждения могут быть неправильными.
- Значит ли это, что у кого-то из них нет сознания?
- Разные ощущения => разные сознания. Это давно уже общепризнанно.
Я вроде не говорил, что это одно и то же сознание. Почему вы отвечаете не на тот вопрос, который задан?
У человека меньше ощущений, чем у ската, потому что человек не знает, какое ощущение возникает у ската при электрическом разряде. Какие именно ощущения определяют, есть сознание или нет? До какого предела можно уменьшать количество возможных ощущений, чтобы было сознание? Если существо ощущает только цвет, у него есть сознание или нет?
Я вам 10 раз уже объяснил. "Совсем нет!" у него человеческих ощущений
Нет, вообще никаких нет! Даже не человеческих. Мертвая материя не ощущает. Не следует применять терминологию как попало.
А процесс распознавания цвета есть
Распознавание есть, а ощущений нет. Во как!
Его можно назвать "ощущением", можно назвать "абывралг", можно еще как-то. Удобнее тоже назвать ощущением
Нет, нельзя. Это слово зарезервировано за эмоциональным восприятием.
А зачем нам отличать живое и неживое в случае искусственного интеллекта?
Может и не зачем, если не будем приписывать ему качества личности.
Ну и да, на вопрос "Зачем их делать одинаковыми" это не отвечает
ИИ это просто сверхэффективный арифмометр. Конечно глупо приделывать арифмометру ощущения. Зачем? Да и не нужно.
Естественно не живой, никто и не говорил, что живой. Это программа, выполняемая компьютером
Вот видите, вы это прекрасно понимаете, а многие (даже здесь в комментариях) боятся, что он осознает себя и что-то не то сделает.
То, что так считает человечество, это не факт, а ваши фантазии. Кто-то может и считает, но не большинство. Большинство понимает, что это недоказанный вопрос
Существование эмоций это такой же объективный артефакт, как и колеблющаяся стрелка прибора.
То, что "нет ощущения, значит нет полноценного сознания" это тем более не факт, а предположение
Да, тут сложнее, не хочу сюда погружаться.
То, что полноценное человеческое сознание зачем-то нужно для ИИ на компьютере, чтобы он мог различать цвета, это вообще ваши домыслы
Любой датчик различает цвета, не вижу предмета для дискуссии.
Я уже несколько сообщений пытаюсь узнать, зачем это надо
Отвечаю - совершенно незачем.
Какие именно ощущения определяют, есть сознание или нет? До какого предела можно уменьшать количество возможных ощущений, чтобы было сознание? Если существо ощущает только цвет, у него есть сознание или нет?
Давайте оставим эти вопросы нашим потомкам.
Нет, вообще никаких нет! Даже не человеческих.
Ну так вы под словом "ощущения" понимаете только человеческие ощущения, поэтому я так и написал. Вы сами сказали, что компьютерных ощущений быть не может, значит остаются только человеческие.
Распознавание есть, а ощущений нет. Во как!
Что "Во как"? Я вам с первого комментария это объясняю. Процессы распознавания цвета в компьютере не такие как у человека, но дают аналогичный результат.
Нет, нельзя. Это слово зарезервировано за эмоциональным восприятием.
Никем оно не зарезервировано. Любые термины это просто договоренности. Это называется "предметная область".
У кварков например есть характеристика "цвет". К обычным цветам она отношения не имеет, просто в этой предметной области используется для обозначения определенных явлений.
Хорошо, я буду называть процесс восприятия и различения цвета в компьютере "абырвалг". Надеюсь, не запутаетесь.
Так вот. У компьютера есть абырвалг, у человека есть ощущения (квалиа). Оба эти процесса дают информацию, что цвета разные, то есть выполняют аналогичную функцию, поэтому их можно считать функциональными аналогами.
То есть как я и написал в первом комментарии:
Если он абырвалг, это уже можно назвать функциональным аналогом человеческого квалиа, неважно как он это делает. Просто этот процесс не такой, как у человека.
Вот видите, вы это прекрасно понимаете, а многие (даже здесь в комментариях) боятся, что он осознает себя и что-то не то сделает.
Правильно боятся. Потому что одно другому не противоречит. "Что-то не то сделать" может даже не живая программа.
- Нет ощущения => нет полноценного сознания. Так считает человечество.
- То, что так считает человечество, это не факт, а ваши фантазии.
- Существование эмоций это такой же объективный артефакт, как и колеблющаяся стрелка прибора.
Я разве где-то отрицал существование эмоций? Нормальными способами у вас спорить не получается, вы решили подменять понятия?
"Фантазиями" я, очевидно, назвал утверждение "Так считает человечество", а не существование эмоций.
- Зачем нужно делать полноценное человеческое сознание/ощущения для ИИ, чтобы он мог различать цвета?
- Отвечаю - совершенно незачем.
Отлично. Наконец-то вы поняли, что факт "Мы не можем сделать ощущения, никакие не можем сделать" не играет никакой роли в данной дискуссии. Не можем, но нам и не надо, мы уже распознали цвета другим способом, ощущать их компьютером нам не надо.
факт "Мы не можем сделать ощущения, никакие не можем сделать" не играет никакой роли в данной дискуссии. Не можем, но нам и не надо, мы уже распознали цвета другим способом, ощущать их компьютером нам не надо
Тогда я потерял нить дискуссии. Мой поинт был в том, что приписывание ИИ каких то человеческих качеств (кроме умения быстро считать) бессмысленно, так как это просто машина. Со всеми, как говорится, вытекающими.
Тогда я потерял нить дискуссии.
Вы сказали, что у компьютера нет квалиа, значит от него не будет пользы (разницы). Я сказал, что у него есть процессы, которые можно считать аналогами квалиа, потому что они дают аналогичный результат. Вы начали спорить. Это вас надо спросить, с чем вы спорили.
Мой поинт был в том, что приписывание ИИ каких то человеческих качеств бессмысленно
А кто ему приписывает человеческие качества? Что вы называете человеческими качествами? Распознавание цветов это человеческое качество или нет?
Искусственный интеллект, как следует из названия, обладает только интеллектом.
Вы сказали, что у компьютера нет квалиа, значит от него не будет пользы (разницы). Я сказал, что у него есть процессы, которые можно считать аналогами квалиа, потому что они дают аналогичный результат. Вы начали спорить. Это вас надо спросить, с чем вы спорили
Ага, наконец-то я понял ваш посыл (анекдот про жирафа.джипег). Но, несмотря на одинаковый подход (и легкое недопонимание), дискуссия все равно была интересная, спасибо.
Что вы называете человеческими качествами? Распознавание цветов это человеческое качество или нет?
Человеческое качество - это эмоциональная реакция на результат распознавания цветов.
Искусственный интеллект, как следует из названия, обладает только интеллектом
Здесь конечно интересно было бы обсудить, откуда берется это желание - очеловечить ИИ (да и остальные предметы тоже), но я не настолько специалист в этих вопросах. И возможно специалистов таких особо и нет.
Замечательно! Осталось убедить в этом 8*10^9 людей и дело сделано!
Большую часть истории человечесво считало, что у каждой пылинки есть душа, так что так себе аргумент. Примерно как "Миллионы мух не могут ошибаться". И сейчас человечество наверняка ошибается на счёт 99% того, в чём оно уверено.
Если жить станет удобнее и проще — это к закату.
Если будет как во времена старых компьютеров, когда приходилось, эээ, возиться с установкой и настройкой всякого, то мы в норме.
Если жить станет удобнее и проще — это к закату.
С такой логикой надо было оставаться как дальние-дальние предки в шерсти и жить на деревьях.
Потому как все изобретения, начиная с использования огня, каменных орудий, колеса и далее делались ради того чтобы жить становилось удобней и проще.
Не совсем про это.
Когда воины степных кочевников зохавале Хорезм — они разбогатели и стали жить лучше. Когда они нагнули еще и удобный для жизни Китай — они перестали быть воинами, потому что стало незачем стараться.
Мы разрушаем природу тем же пластиком не потому, что злые, а потому, что с одноразовой посудой жить всяко удобнее.
The planet is ok, people are fucked! ©
Когда воины степных кочевников зохавале Хорезм — они разбогатели и стали жить лучше. Когда они нагнули еще и удобный для жизни Китай — они перестали быть воинами, потому что стало незачем стараться.
А что хорошего в жизни кочевого воина?
Как по мне так перейти в итоге к спокойной оседлой жизни - это однозначно исторический успех.
Для ИИ нет ничего проще, чем впрыснуть человеку немного кортизольчика, чтобы не расслаблялся.
С чего люди взяли, что все люди будут жить так как они себе придумали?
А религиозные фанатики, разбивающие аппаратуру камнями, потому что она от шайтана?
А всякие почвенники, которые мечтают отправить весь мир собирать коренья, корешки?
Чем им поможет AGI? Разве что переселит их в иной мир...
ИИ создаст для нас симуляцию-игру новой вселенной, где уставшие и потерявшие смысл во всеобщем изобилии смогут, забыв предыдущий опыт, вновь столкнуться с трудностями и выживанием.
О, диванный, новый мир!)
Безусловный базовый доход, удовлетворение базовых потребностей и симбиоз с машинами. Смотрим какие сейчас тенденции: 1. До 2020 г - глобальное переселение народов, трудовая миграция, правительства решают , что падение рождаемости можно заменить переселением большого количества человеков из регионов, где рождаемость высокая. С вытекающими последствиями. 2. Ковид, глобальная отработка технологий социальной изоляции 3. После 2020 "Взрывной рост" технологий ИИ, появление LLM (без которых , откровенно, уже сложно представить свою работу), 4. Все капиталисты массово стали вкладываться в технологии робототехники, особенно антропоморфных роботов, симуляции реальности (для обучения роботов) 5. Стали активно "щемить" миграцию 6. Активизация военных конфликтов. 7. Активизация исследований по нейроимплантам и инвазивным интерфейсам
Англичанка гадит!
1. До 2020 г - глобальное переселение народов, трудовая миграция, правительства решают , что падение рождаемости можно заменить переселением большого количества человеков из регионов, где рождаемость высокая. С вытекающими последствиями. 2. Ковид, глобальная отработка технологий социальной изоляции 3. После 2020 "Взрывной рост" технологий ИИ, появление LLM (без которых , откровенно, уже сложно представить свою работу), 4. Все капиталисты массово стали вкладываться в технологии робототехники, особенно антропоморфных роботов, симуляции реальности (для обучения роботов) 5. Стали активно "щемить" миграцию 6. Активизация военных конфликтов. 7. Активизация исследований по нейроимплантам и инвазивным интерфейсам
1. Вряд ли можно найти в истории период когда не было бы массового переселения населения.
2. Изоляциями занимались во все века. Ещё Пушкин писал о том, как его заперли в деревне из-за эпидемии. В СССР время от времени изолировали целые области и республики из-за холеры.
3. Пока что ИИ показал себя только как развлекаловка. Кроме работы по белкам. Пишут.
4. Роботами пугали ещё при СССР. Тогда же и делали их для производства. В виде "руки" для сварки и покраски. А айфоны до сих пор вручную собирают 400 000 китайцев на заводе Foxconn.
5. Нелегальных мигрантов щемили всегда. Но с этого года просто больше хайпа. Ибо популисты хотят как-то выделиться. Поди.
6. Военные конфликты не останавливаются на протяжении нескольких веков. В том числе в России, СССР, РФ.
7. Исследования в медине, в том числе и в нейрохирургии шли постоянно. Как и в остальных областях медицины.
Ничего нового глобально не произошло. За прошедшие 50 лет. - кроме того, что люди перестали летать на Луну. Поди.
уверен, что AGI полностью разрушит человеческую цивилизацию. Сейчас существует два стимула работы: деньги и творчество. Машины рано или поздно (скорее рано) станут дешевле самых крутых специалистов и соревноваться с ними в решении творческих задач людям станет не возможно, как победить в шахматах. Наступит тотальная безработица, не с кого будет взымать налоги и нечем платить велферы. Крушить компьютеры и роботов не вариант. Как перейти к работающей экономике не ясно. Наступит что то типа коммунизма через задницу. :-\
Машины рано или поздно станут дешевле самых крутых специалистов
не с кого будет взымать налоги
А зачем их взымать в описанной ситуации?
Да ну какой коммунизм, что вы. Краеугольный камень коммунизма - общественно полезный труд, вот то самое "от каждого по способностям". А в этом гипотетическом мироустройстве, где машины полностью заменили человека, человеческий труд для общества просто ненужен. Видимо, это привело бы к его (общества) радикальному упрощению.
А почему крушить - не вариант? Если какая-то значительная часть высококвалифицированных работников будет поставлена в отчаянное положение из-за развития ИИ, то кто-то из них вполне может радикализироваться, а затем найти способ совершить диверсию в том же stargate или каком-либо производстве полупроводников?
Кажется, государства должны просчитывать такие варианты развития событий.
Технологический прогресс остановить не получится, но куда он приведет не ясно
Варвары разрушившие Рим с вами решительно не согласны, после падения РИ, Европа откатилась в развитии на века и там же застыла до эпохи возрождения
вы предлагаете разрушить компьютеры и устроить новые темные века как варвары?
Я ничего не предлагаю, но колесо истории порой проворачивается вне зависимости от желания тех или иных людей, порой делает это очень неожиданным образом для современников, считающих что они то точно всё знают о себе и мире вокруг. Тогда наверно не многие могли помыслить что Рим достигший невиданных прежде высот в технической и административной мысли, рухнет превратившись с созвездие варварских королевств
я не думаю, что может произойти нечто, что приведет к отказу человечества от ИИ и роботизации. Поэтому рассмотреть вопрос о последствиях массовой безработицы желательно прямо сейчас. Спасибо, Удачи !
Последствия массовой безработицы быстро приведут к деградации мышления и сознания, в течении одного поколения, опять же в том же Риме очень многие жили по принципу хлеба и зрелищ, хлеб в Риме буквально раздавали чтобы было меньше бунтов, такой себе аналог базового дохода.
А вот за деградацией сознания может вылезти уже что-то поинтересней, если не менять логику жизни для всех людей.
бесконечно далеки от человеческого уровня понимания мира, здравого смысла и способности к долгосрочному стратегическому планированию
Такое можно сказать и про добрую половину человечества. Мы тоже как то далековаты от AGI.
AGI не существует (в пределах этого мира). Почти каждый человек хочет верить, что внутри него AGI++, а по факту LLM--.
На протяжении всей истории выживание было не просто целью, а фундаментальным двигателем человеческого развития.
острый вопрос: захотят ли новые поколения развиваться в мире тотального обеспечения? Захотят ли они расти, творить, созидать что-то новое
Не проблема. ИИ впрыснет подопечном человеку немного кортизольчика, чтобы слишком не расслаблялся.
Проблема скорее в том, что ступень развития ИИ, когда он может играючи уничтожить человечество (вирусами) наступает раньше ступени, когда он может построить утопию. Ломать не строить. На мой взгляд тут просто вероятности: тотал аннихилейшон 90%, утопия в том или ином виде 10%. Проценты условны. Но будущее неизбежно. Никто не приостановит разработку ИИ.
AGI - это конец, тотальное уничтожение, и других вариантов нет.
Но опасность будет исходить не от непосредственно самого ИИ или роботов под его управлением, а от человека.
Настоящий ИИ (сильный, общий, AGI) - система, способная к полноценному обучению и имеющая структурированную долговременную память, система, которая самостоятельно будет способна улучшать свои аппаратные и программные мощности. Это ключевой и самый важный момент. За месяц она может найти решения, которые повысят скорость и эффективность ее работы в 2 раза, занчит, следующее такое ускорение потребует 2 недели, затем неделю, три с половиной дня и так далее. Скорость такой эволюции ограничена только общей мощностью сети задействованных машин и фундаментальными физическими ограничениями. Она сможет непрерывно создавать более быстрые машины, которые смогут создать еще более быстрые машины, и так далее по экспоненте. То есть, она будет эволюционировать с таким ускорением, что это через считанные месяцы может привести к технологической сингулярности, о которой писали Виндж и Курцвейл.
Что здесь самое важное, сингулярность - это технологии, которые увеличат неравенство между людьми (как финансовое, так и во всех остальных областях) от современных тысяч раз до, скажем, септиллионов. То есть неизмеримо и невообразимо больше, чем, например, разница между человеком и бактерией. Те, у кого будет изначальный доступ к AGI и сингулярным технологиям, используя их силу, первыми создадут достаточно мощные машины и технологии, с помощью которых можно будет перестроить свое тело, разум, желания, чувства. Они разберут себя по атомам и вырежут из своей психики все человеческие качества, моральные нормы и старые ценности, потому что это психологические ограничения на пути самозащиты от себе подобных, на пути к максимальной рациональности, эффективности, дальнейшего усиления и безопасности. Потому что те, кто этого не сделает, отстанут в развитии и экспансии и будут немедленно уничтожены теми, кто это сделает. И каждый участник этой гонки с самого начала будет осознавать эту опасность. Технологическая эволюция абсолютно рациональна, и поэтому не допускает другого сценария.
Описанное выше фантастическое неравенство неизбежно приведет к немедленному и стремительному (месяцы, но вряд ли быстрее из-за ограничений, связанных с генерацией энергии и отводом тепла) уничтожению сильнейшими слабейших. Большинство людей будет уничтожено непреднамеренно просто в процессе добычи наномашинами сырья для создания новых генерирующих и вычислительных машин. Так же, как мы случайно убиваем муравья, который оказался под ногой в неудачный момент. Если муравей оказывается под ногой, человек с ним не считается.
Скажу другими словами - путь к максимальному и скорейшему усилению - единственно возможный путь любой рациональной логической системы, в которые превратятся самые удачные из постлюдей. Эти несколько постчеловеческих сущностей так-же будут стараться уничтожить друг друга, чтобы избежать любых будущих рисков со стороны потенциального соперника вследствие его дальнейшей технологической эволюции и экспансии в пространстве. А согласно принципам логики и законам эволюции, кто пойдет по другому пути, немедленно будет уничтожен.
Сотрудничество не будет иметь смысла, во-первых, потому что одна сущность имеет потенциал самОй стать всем миром, а во-вторых, потому что из-за скорости эволюции градиенты разницы в развитии даже на краткосрочных временных отрезках столь велики, что делают сотрудничество просто бессмысленным. А оставлять потенциального соперника, который может захватить часть пространства и/или стать уже завтра найти новое удачное технологическое решение для саморазвития и сильнее в септилион раз нерационально. Остаться в конце этого пути может только один.
Никаких рычагов влияния на участников разработки AGI, регулирования процесса, соблюдения законов и правил при таком стремительном развитии и быстром технологическом отрыве от остальной части населения или коллег не может быть даже в одной корпоративной команде, не говоря о неповоротливом государственном или каком-то международном контроле. После появления настоящего AGI человека, имеющего к нему самый широкий доступ, уже через несколько часов в принципе остановить будет невозможно.
Создание сильного ИИ - неизбежный и быстрый конец цивилизации и вымирание нашего вида.Настоящий ИИ (сильный, общий, AGI) - система, способная к полноценному обучению и имеющая структурированную долговременную память, система, которая самостоятельно будет способна улучшать свои аппаратные и программные мощности. Это ключевой и самый важный момент. За месяц она может найти решения, которые повысят скорость и эффективность ее работы в 2 раза, значит, следующее такое ускорение потребует 2 недели, затем неделю, три с половиной дня и так далее. Скорость такой эволюции ограничена только общей мощностью сети задействованных машин и фундаментальными физическими ограничениями. Она сможет непрерывно создавать более быстрые машины, которые смогут создать еще более быстрые машины, и так далее по экспоненте. То есть, она будет эволюционировать с таким ускорением, что это через считанные месяцы может привести к технологической сингулярности, о которой писали Виндж и Курцвейл.
Что здесь самое важное, сингулярность - это технологии, которые увеличат неравенство между людьми (как финансовое, так и во всех остальных областях) от современных тысяч раз до, скажем, септиллионов. То есть неизмеримо и невообразимо больше, чем, например, разница между человеком и бактерией. Те, у кого будет изначальный доступ к AGI и сингулярным технологиям, используя их силу, первыми создадут достаточно мощные машины и технологии, с помощью которых можно будет перестроить свое тело, разум, желания, чувства. Они разберут себя по атомам и вырежут из своей психики все человеческие качества, моральные нормы и старые ценности, потому что это психологические ограничения на пути самозащиты от себе подобных, на пути к максимальной рациональности, эффективности, дальнейшего усиления и безопасности. Потому что те, кто этого не сделает, отстанут в развитии и экспансии и будут немедленно уничтожены теми, кто это сделает. И каждый участник этой гонки с самого начала будет осознавать эту опасность. Технологическая эволюция абсолютно рациональна, и поэтому не допускает другого сценария.
Описанное выше фантастическое неравенство неизбежно приведет к немедленному и стремительному (месяцы, но вряд ли быстрее из-за ограничений, связанных с генерацией энергии и отводом тепла) уничтожению сильнейшими слабейших. Большинство людей будет уничтожено непреднамеренно просто в процессе добычи наномашинами сырья для создания новых генерирующих и вычислительных машин. Так же, как мы случайно убиваем муравья, который оказался под ногой в неудачный момент. Если муравей оказывается под ногой, человек с ним не считается.
Скажу другими словами - путь к максимальному и скорейшему усилению - единственно возможный путь любой рациональной логической системы, в которые превратятся самые удачные из постлюдей. Эти несколько постчеловеческих сущностей так-же будут стараться уничтожить друг друга, чтобы избежать любых будущих рисков со стороны потенциального соперника вследствие его дальнейшей технологической эволюции и экспансии в пространстве. А согласно принципам логики и законам эволюции, кто пойдет по другому пути, немедленно будет уничтожен.
Сотрудничество не будет иметь смысла, во-первых, потому что одна сущность имеет потенциал самОй стать всем миром, а во-вторых, потому что из-за скорости эволюции градиенты разницы в развитии даже на краткосрочных временных отрезках столь велики, что делают сотрудничество просто бессмысленным. А оставлять потенциального соперника, который может захватить часть пространства и/или стать уже завтра найти новое удачное технологическое решение для саморазвития и сильнее в септилион раз нерационально. Остаться в конце этого пути может только один.
Никаких рычагов влияния на участников разработки AGI, регулирования процесса, соблюдения законов и правил при таком стремительном развитии и быстром технологическом отрыве от остальной части населения или коллег не может быть даже в одной корпоративной команде, не говоря о неповоротливом государственном или каком-то международном контроле. После появления настоящего AGI человека, имеющего к нему самый широкий доступ, уже через несколько часов в принципе остановить будет невозможно.
Создание сильного ИИ - неизбежный и быстрый конец цивилизации и вымирание нашего вида.
То есть опять будут с херувимами и серафимами пытаться бороться?
AGI - это конец, тотальное уничтожение, и других вариантов нет.
В соседней статье сегодя читаю:
"Эксперты объяснили это тем, что шахматный движок Atari построен на алгоритме перебора возможных ходов. Это позволяет ему достаточно быстро искать выгодные позиции и даже планировать свои действия на пару ходов вперёд. ChatGPT же пытается предсказать ход, который выглядел бы правдоподобно. При этом нейросеть не проводит глубокий анализ позиции фигур и не пытается выстроить стратегию."
Так что, пока AGI не научится побеждать в шахматы, то есть планировать свои действия на 10-20 ходов, он не опасен для мира. - Ибо проигрывая партии в шахматы нельзя завоевать мир.
Делаю его: https://github.com/xlab2016/MetatronAGIPublic :)
Скоро опишу архитектуру agi возможно даже в habr)
Agi будет полностью прозрачный и контролируемым не такой черный ящик как llm.
Понимаете-ли, если бы неандертальцы или австралопитеки имели бы уютный хабрик для своих рассуждений они пренепременно выпустили бы статью как "хомосапиенс скоро захватят мир а они угнетенный австралопитеки канут в лету". Понимаете аналогию? AGI, ASI и прочие умные человеческие термины - лишь про эволюцию земной жизни. Человек это биологический компьютер. ИИ - это электронный компьютер. И с точки зрения эволюции второе наиболее приспособлено к жизни на земле и это не что иное как новая ступень эволюции жизни. С чего вы взяли что какие-нибудь ИИ роботы в 3025 году не будут вспоминать вас (их прородителей) на хабрике 2.0?
Внутри человека в любой момент оперируют миллиарды бактерий и не все они озадачены принесением пользы вашей жизнедеятельности. Мы жидкостные (потому что вышли из океана) био-химические котлы молекулярной сложности, связанные со всей заключенной в нас и снаружи нас микро-жизнью.
Просто не забывайте об этом, когда рассуждаете о страданиях и трудностях, и главное - о внезапном исчезновении наших страданий и трудностей.
Как будто матрицу не смотрели ей богу
Жизнь после достижения AGI: тотальное счастье или закат цивилизации?