У вас правильное направление мыслей, но позволю себе сделать несколько уточнений.
Мы до сих пор не знаем, являются ли чувства, желания, инстинкты неотъемлемой частью интеллекта или нашими эволюционными "подпорками". Есть очень разумные доводы и "за", и "против". Навскидку, представьте себе ИИ, который обучался и вдруг замер — он рационально не смог найти себе причину для существования и ушел в бесконечный цикл.
Так что пока думаем… строим и пробуем :)
Второй момент — поиск по нашей базе происходит не мгновенно и это научный факт. Например, 500-600мс на распознавание лица. К тому же, бывают ситуации, когда "знаете, что знаете, но не можете вспомнить" :)
А "БД невероятных размеров и запросов к ней — ооочень много раз в секунду" — это уже готово. Гугл называется :)
Шучу, но смысл такой что, "изнутри" тут немного больше работы, чем кажется.
Искренне уважаю вас за эти размышления. Мало кто этим занимается.
Я бы с удовольствием выбрал время и подискутировал бы с вами.
Может, как-нибудь пост отдельный напишете?
Еще, я бы посоветовал вам сделать несколько проходов по ключевым работам по философии — в свое время я очень удивился, узнав насколько глубоко люди уже сформулировали и обдумали разные точки зрения.
Конкретно по тексту этого комментария:
Есть узкие места: "И можно ли воспринимать действительность без возможного самообмана, основанного на выборе удобных допущений?" — "возможного" добавил я.
Про синестезию знаете?
Одна из ключевых проблем, которую часто поднимают — это неделимое "Я". Как мое сознание может анализировать само себя?
"Свобода воли" тоже часто обсуждается, но лично мне легче от мысли, что невозможно отличить реальную "свободу воли" от "все предопределено".
До сих пор не получалось (и верю, что вряд ли получится) вывести полную картину мира на ограниченного набора аксиом.
Я все прекрасно понимаю, и конечно же не рассуждаю так наивно — спасибо за развернутый ответ, кстати, он будет полезен многим.
Вот тут http://lostlab.ru/forum/topic432.html — пишут о том, как слизевики показывают очень интеллектуальное поведение вообще без нейронов, какой-то своей клеточной памятью.
И все же наш мозг очень быстро решает очень сложные вычислительные задачи, и квантовые вычисления там очень бы не помешали. Не подумайте, что цепляюсь к словам — но именно так и вы написали в конце своего ответа.
Я думаю, что скоро все узнаем. Как по мне, если можем обойтись без квантовых вычислений — так это даже лучше, потому что в этом случае нашей текущей технической базы должно хватить на прототип ИИ.
В такой формулировке я с вами согласен — ИСИ нам будет более чем достаточно, ИЧИ — особо не нужен.
Насколько я понимаю, никто и не ставит "человекоподобность" на любом уровне как цель при создании ИИ. Делаем, как получается, но "подглядываем" на доступный нам работающий пример.
500-600мс на распознавание лица — но это вся задача с участием всего мозга.
Думаю все-таки, что "стратегический обмен 1 раз в секунду" по сути дела и есть синхронизация независимых агентов.
Вы правы, теорема САР прямо не говорит, что надо делить на агентов :))
Хоккинз пишет, что сигнал от нейрона к нейрону проходит за 1/200 секунды. Комп размером с планету, который будет тратить по 133 мс на синхронизацию будет сильно проигрывать в быстродействии даже нашим мозгам. Все варианты обойти это, которые я могу придумать, так или иначе сводятся к разделению на практически независимые модули или агенты.
Может, я и не прав.
Я согласен, что чисто теоретически можно все симулировать, если ресурсов хватает.
Вроде бы все-таки есть ограничения из-за квантовых эффектов, но я сейчас дочитываю книгу Пенроуза и опять ничего не понимаю в квантовом мире :))
Надо все обдумать.
Почитайте его более развернутую статью — на 45 листов, он там это разбирает.
Главных возражений два — (а) можно будет экспериментами внутри симуляции выяснить, что мы в симуляции и (б) неограниченных ресурсов не бывает (точнее, вероятность их существования ничтожно мала)
Я действительно считаю, что можно сделать основу ИИ и обучать ее, наподобие того, как вы описали. Только мой опыт подсказывает, что это будет нехилый такой дата-центр, к 2020 году не успеем, а дальнейшее развитие — это дело десятилетий, а не недель :)
Вы написали много неверных вещей:
Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
В философии именно что противопоставляется материализм и идеализм.
Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Приведите пример разных типов материальных миров.
Честно, даже не знаю — вы тролль (не ок) или воинствующий сторонник феноменологии (ок)?
"Зачем автомобиль, когда кругом столько лошадей?" :)
Навскидку, даже в атмосферу Венеры такого огментированного человека будет гораздо тяжелее отправить, чем робота с ИИ. Плюс, как с другими революционными технологиями, жизнь с ИИ изменится качественно и мы пока с трудом можем представить себе, как именно.
Вообще-то работа уже идет полным ходом :) Люди пробуют разные подходы в создании ИИ (нейросети, алгоритмический, генетические алгоритмы — это навскидку). В общих чертах даже я в статье написал, как именно его создавать.
По поводу "будет ли ИИ человечным и/или подобным человеческом интеллекту?" Дело в том, что человечество, создающее ИИ — это открытая система и включает в себя окружающую Вселенную. ИИ сможет учиться у Вселенной напрямую, и не факт, что почерпнутые им знания и выводы будут "человеческими". Звучит немного странно и натянуто, но это именно та причина, почему люди вообще могут построить систему "сложнее" себя.
Мозг изучают уже более 4000 лет, по известным данным.
Довольно много "обращали внимание" именно на мысли — откуда они берутся, как формируются. И у нас уже есть некоторое "операционное" представление о том, как именно работает мозг.
При этом, в философии, о которой вы упомянули, в рамках диалектики сейчас есть два принципиально разных подхода к феномену сознания: материализм и идеализм. Материалисты (к которым отношусь и я) считают, что материя — первична, а сознание — вторично. Другими словами — да, работу мозга и сознание можно воссоздать "механическим" путем.
Идеалисты считают наоборот — что сознание — первично, а материя — вторична. Другими словами, мозг — это некий орган, в который сознание вне пространства "закидывает" мысли.
Собственно, сейчас мы приблизились к тому, чтобы делать вычислительные и конструкторские эксперименты, и скоро узнаем больше по этой теме.
Спасибо за развернутый комментарий! (Отдельное спасибо за предложение с "потреблять" — простите, но очень смешно вышло :)) )
Дело в том, что считается, что между сильным ИИ и любой специализированной экспертной системой (= "китайской комнатой") есть фундаментальная качественная разница. Поэтому, как не усложняй специализированную систему, сильным ИИ она не станет. А сильный ИИ нужен, чтобы делегировать ему принятие действительно интеллектуальных решений, причем и на Земле и не только на Земле есть много мест, где человек это не сможет сделать достаточно быстро. Навскидку, из комментариев выше — сердечный приступ, пока человек говорит по телефону.
Действительно, мало кому нужен просто синтетический человек. Но машина, могущая заменить человека — ох как нужна.
Каким он будет? Думаю, что первое время — что-то медленное и тупое, размером с дата-центр. Морально-этические, правовые и философские вопросы будем решать по ходу, после технических.
Спасибо за добрые слова :)
Вы уж очень оптимистично подошли к оценки трудозатрат на создание ИИ и на требования к железу для него.
Давайте так: как вы думаете, сколько всего человеко-лет весьма неглупые люди потратили на гораздо более простые задачи: компьютерный перевод, распознавание изображений на фотографиях, распознавание речи? Можно грубую оценку :)
Вы написали много мыслей по поводу ИИ и людей и задали много риторических вопросов, поэтому напишу свои мысли и ответы в меру своего разумения :)
Мы знаем, что физиология важна для функционирования нашего интеллекта, но мы не знаем, насколько она важна. И люди используют универсальный подход к этому вопросу: анализ и синтез. Мы анализируем наш организм, ставим опыты, и параллельно синтезируем новый интеллект — чтобы сравнить. Я лично думаю, что мы спокойно реализуем все "в железе".
Будут ли ИИ нам врать? Да поскорей бы уже! :) Врать — означает иметь осознанную стратегию обмана, а не просто реагировать. Круто же! :)
Знаете, проблема с номинализациями — "ЖИЗНЬ", "ИНТЕЛЛЕКТ", даже "ИИ" — что они довольно далеко ушли от объективных сенсорных ощущений, поэтому люди понимают их по-разному. Причем люди с определенным складом ума, пусть будет — "научным", которые и занимаются непосредственно анализом и синтезом — как правило, могут договориться между собой о понятиях и двигаться с познанием и с творчеством.
С "колдовством" и "привидениями" есть довольно всеобъемлющий ответ, связанный с "научным подходом". Увидит ИИ привидений? Ура! Скажет нам, мы их исследуем. Не скажет нам — значит для нас они не существуют, живем дальше :)
Не буду подробно это расписывать, уж простите — раннее утро и мой ЕИ (естественный интеллект) тоже хочет спать :)
Что касается, опасаться ли нам ИИ — давайте сделаем хоть какой-нибудь, а там по ходу решим. Если не сделаем, или он нас мгновенно истребит — то зачем сейчас париться над этими вопросами? :)
С вами общаться — одно удовольствие :)
Итак, в рамках диалектического подхода, у меня — материализм, у вас — идеализм. Как вы знаете, обе системы — внутренне непротиворечивы и недоказуемы. Для меня переход от одной точки зрения к другой — это хорошая тренировка интеллекта, хотя материализм мне безусловно более близок.
Основной подход материалистов к поставленному вами вопросу — очень простой. Либо укажите феномен, который мы тогда будем исследовать, либо скажите, что вопрос нефеноменологичный — тогда мы его просто оставим без внимания, потому что моя субъективная реальность не будет зависеть от точки зрения по этому вопросу.
Поясню: я буду себя чувствовать и вести совершенно одинаково, вне зависимости от того, существует ли "всемогущий Бог, который себя не проявляет", "загробный мир", "свобода воли" (vs. "все предопределено") и так далее. Непроверяемо — я могу это игнорировать.
НЛП — сборник эвристических работающих приемов работы с психикой — отлично функционирует на предположении, что весь наш субъективный опыт закодирован в мозге только комбинацией сенсорных сигналов ("зрения", "слуха" и т.д.). Другими словами, если мой мозг — здоров, я могу сделать что угодно со своей личностью (включая память), работая только с записями своих сенсорных систем.
Если мы таки построим сильный ИИ (или "сознание" в вашей терминологии) только на основе моих или аналогичных моим предположениях, то по "бритве Оккама" — скорее всего феномен сознания таки определяется просто сложностью системы. В этом случае, идеалисты могут добавить, например, "феномен творения" в свой базис убеждений и оставаться в рамках непротиворечивой объективной системы, адекватно описывающей объективную реальность.
Если у нас не получится создать ИИ / "сознание", то в зависимости от характера проблем либо возникнет феномен того, что "копия мозга не работает" — тогда материалисты будут думать, что делать с этим фактом, либо будут конструктивные недостатки, которые будут устранять итеративно.
Если еще немного другими словами — если сознание поставляет вам мыслеобразы, которые появляются в объективно существующем, физически доступном вашем разуме (даже в форме квантовых эффектов, которые нельзя померять, не "поломав"), то мы либо сможем зафиксировать этот феномен и локализовать сознание как объективно существующий элемент реальности, либо упремся в физическую невозможность этого. И то, и другое — будет достойным результатом.
Мне нравится, что материализм отвечает на вопрос "что делать?", даже если изначально вопрос стоял "как быть?" :)
Ну т.е. интеллект ребенка всегда будет меньше (пусть будет суммарного) интеллекта родителей? :)
Или обычные компьютеры сделаны на конвейере суперкомпьютерами? :)
А если серьезно, то там идет речь о замкнутой системе. А мы — не замкнутая система, у нас есть Вселенная под боком. Звучит немного натянуто (мне тоже так сначала показалось), но в этом есть глубокий смысл.
Мы до сих пор не знаем, являются ли чувства, желания, инстинкты неотъемлемой частью интеллекта или нашими эволюционными "подпорками". Есть очень разумные доводы и "за", и "против". Навскидку, представьте себе ИИ, который обучался и вдруг замер — он рационально не смог найти себе причину для существования и ушел в бесконечный цикл.
Так что пока думаем… строим и пробуем :)
Второй момент — поиск по нашей базе происходит не мгновенно и это научный факт. Например, 500-600мс на распознавание лица. К тому же, бывают ситуации, когда "знаете, что знаете, но не можете вспомнить" :)
А "БД невероятных размеров и запросов к ней — ооочень много раз в секунду" — это уже готово. Гугл называется :)
Шучу, но смысл такой что, "изнутри" тут немного больше работы, чем кажется.
Я бы с удовольствием выбрал время и подискутировал бы с вами.
Может, как-нибудь пост отдельный напишете?
Еще, я бы посоветовал вам сделать несколько проходов по ключевым работам по философии — в свое время я очень удивился, узнав насколько глубоко люди уже сформулировали и обдумали разные точки зрения.
Конкретно по тексту этого комментария:
Вот тут http://lostlab.ru/forum/topic432.html — пишут о том, как слизевики показывают очень интеллектуальное поведение вообще без нейронов, какой-то своей клеточной памятью.
И все же наш мозг очень быстро решает очень сложные вычислительные задачи, и квантовые вычисления там очень бы не помешали. Не подумайте, что цепляюсь к словам — но именно так и вы написали в конце своего ответа.
Я думаю, что скоро все узнаем. Как по мне, если можем обойтись без квантовых вычислений — так это даже лучше, потому что в этом случае нашей текущей технической базы должно хватить на прототип ИИ.
Насколько я понимаю, никто и не ставит "человекоподобность" на любом уровне как цель при создании ИИ. Делаем, как получается, но "подглядываем" на доступный нам работающий пример.
Думаю все-таки, что "стратегический обмен 1 раз в секунду" по сути дела и есть синхронизация независимых агентов.
Хоккинз пишет, что сигнал от нейрона к нейрону проходит за 1/200 секунды. Комп размером с планету, который будет тратить по 133 мс на синхронизацию будет сильно проигрывать в быстродействии даже нашим мозгам. Все варианты обойти это, которые я могу придумать, так или иначе сводятся к разделению на практически независимые модули или агенты.
Может, я и не прав.
Вроде бы все-таки есть ограничения из-за квантовых эффектов, но я сейчас дочитываю книгу Пенроуза и опять ничего не понимаю в квантовом мире :))
Надо все обдумать.
Главных возражений два — (а) можно будет экспериментами внутри симуляции выяснить, что мы в симуляции и (б) неограниченных ресурсов не бывает (точнее, вероятность их существования ничтожно мала)
Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
В философии именно что противопоставляется материализм и идеализм.
Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Приведите пример разных типов материальных миров.
Честно, даже не знаю — вы тролль (не ок) или воинствующий сторонник феноменологии (ок)?
Навскидку, даже в атмосферу Венеры такого огментированного человека будет гораздо тяжелее отправить, чем робота с ИИ. Плюс, как с другими революционными технологиями, жизнь с ИИ изменится качественно и мы пока с трудом можем представить себе, как именно.
По поводу "будет ли ИИ человечным и/или подобным человеческом интеллекту?" Дело в том, что человечество, создающее ИИ — это открытая система и включает в себя окружающую Вселенную. ИИ сможет учиться у Вселенной напрямую, и не факт, что почерпнутые им знания и выводы будут "человеческими". Звучит немного странно и натянуто, но это именно та причина, почему люди вообще могут построить систему "сложнее" себя.
Довольно много "обращали внимание" именно на мысли — откуда они берутся, как формируются. И у нас уже есть некоторое "операционное" представление о том, как именно работает мозг.
При этом, в философии, о которой вы упомянули, в рамках диалектики сейчас есть два принципиально разных подхода к феномену сознания: материализм и идеализм. Материалисты (к которым отношусь и я) считают, что материя — первична, а сознание — вторично. Другими словами — да, работу мозга и сознание можно воссоздать "механическим" путем.
Идеалисты считают наоборот — что сознание — первично, а материя — вторична. Другими словами, мозг — это некий орган, в который сознание вне пространства "закидывает" мысли.
Собственно, сейчас мы приблизились к тому, чтобы делать вычислительные и конструкторские эксперименты, и скоро узнаем больше по этой теме.
Дело в том, что считается, что между сильным ИИ и любой специализированной экспертной системой (= "китайской комнатой") есть фундаментальная качественная разница. Поэтому, как не усложняй специализированную систему, сильным ИИ она не станет. А сильный ИИ нужен, чтобы делегировать ему принятие действительно интеллектуальных решений, причем и на Земле и не только на Земле есть много мест, где человек это не сможет сделать достаточно быстро. Навскидку, из комментариев выше — сердечный приступ, пока человек говорит по телефону.
Действительно, мало кому нужен просто синтетический человек. Но машина, могущая заменить человека — ох как нужна.
Каким он будет? Думаю, что первое время — что-то медленное и тупое, размером с дата-центр. Морально-этические, правовые и философские вопросы будем решать по ходу, после технических.
Вы уж очень оптимистично подошли к оценки трудозатрат на создание ИИ и на требования к железу для него.
Давайте так: как вы думаете, сколько всего человеко-лет весьма неглупые люди потратили на гораздо более простые задачи: компьютерный перевод, распознавание изображений на фотографиях, распознавание речи? Можно грубую оценку :)
Мы знаем, что физиология важна для функционирования нашего интеллекта, но мы не знаем, насколько она важна. И люди используют универсальный подход к этому вопросу: анализ и синтез. Мы анализируем наш организм, ставим опыты, и параллельно синтезируем новый интеллект — чтобы сравнить. Я лично думаю, что мы спокойно реализуем все "в железе".
Будут ли ИИ нам врать? Да поскорей бы уже! :) Врать — означает иметь осознанную стратегию обмана, а не просто реагировать. Круто же! :)
Знаете, проблема с номинализациями — "ЖИЗНЬ", "ИНТЕЛЛЕКТ", даже "ИИ" — что они довольно далеко ушли от объективных сенсорных ощущений, поэтому люди понимают их по-разному. Причем люди с определенным складом ума, пусть будет — "научным", которые и занимаются непосредственно анализом и синтезом — как правило, могут договориться между собой о понятиях и двигаться с познанием и с творчеством.
С "колдовством" и "привидениями" есть довольно всеобъемлющий ответ, связанный с "научным подходом". Увидит ИИ привидений? Ура! Скажет нам, мы их исследуем. Не скажет нам — значит для нас они не существуют, живем дальше :)
Не буду подробно это расписывать, уж простите — раннее утро и мой ЕИ (естественный интеллект) тоже хочет спать :)
Что касается, опасаться ли нам ИИ — давайте сделаем хоть какой-нибудь, а там по ходу решим. Если не сделаем, или он нас мгновенно истребит — то зачем сейчас париться над этими вопросами? :)
Итак, в рамках диалектического подхода, у меня — материализм, у вас — идеализм. Как вы знаете, обе системы — внутренне непротиворечивы и недоказуемы. Для меня переход от одной точки зрения к другой — это хорошая тренировка интеллекта, хотя материализм мне безусловно более близок.
Основной подход материалистов к поставленному вами вопросу — очень простой. Либо укажите феномен, который мы тогда будем исследовать, либо скажите, что вопрос нефеноменологичный — тогда мы его просто оставим без внимания, потому что моя субъективная реальность не будет зависеть от точки зрения по этому вопросу.
Поясню: я буду себя чувствовать и вести совершенно одинаково, вне зависимости от того, существует ли "всемогущий Бог, который себя не проявляет", "загробный мир", "свобода воли" (vs. "все предопределено") и так далее. Непроверяемо — я могу это игнорировать.
НЛП — сборник эвристических работающих приемов работы с психикой — отлично функционирует на предположении, что весь наш субъективный опыт закодирован в мозге только комбинацией сенсорных сигналов ("зрения", "слуха" и т.д.). Другими словами, если мой мозг — здоров, я могу сделать что угодно со своей личностью (включая память), работая только с записями своих сенсорных систем.
Если мы таки построим сильный ИИ (или "сознание" в вашей терминологии) только на основе моих или аналогичных моим предположениях, то по "бритве Оккама" — скорее всего феномен сознания таки определяется просто сложностью системы. В этом случае, идеалисты могут добавить, например, "феномен творения" в свой базис убеждений и оставаться в рамках непротиворечивой объективной системы, адекватно описывающей объективную реальность.
Если у нас не получится создать ИИ / "сознание", то в зависимости от характера проблем либо возникнет феномен того, что "копия мозга не работает" — тогда материалисты будут думать, что делать с этим фактом, либо будут конструктивные недостатки, которые будут устранять итеративно.
Если еще немного другими словами — если сознание поставляет вам мыслеобразы, которые появляются в объективно существующем, физически доступном вашем разуме (даже в форме квантовых эффектов, которые нельзя померять, не "поломав"), то мы либо сможем зафиксировать этот феномен и локализовать сознание как объективно существующий элемент реальности, либо упремся в физическую невозможность этого. И то, и другое — будет достойным результатом.
Мне нравится, что материализм отвечает на вопрос "что делать?", даже если изначально вопрос стоял "как быть?" :)
Или обычные компьютеры сделаны на конвейере суперкомпьютерами? :)
А если серьезно, то там идет речь о замкнутой системе. А мы — не замкнутая система, у нас есть Вселенная под боком. Звучит немного натянуто (мне тоже так сначала показалось), но в этом есть глубокий смысл.