Pull to refresh

Comments 45

Вы начитались Дена Симмонса?)
А вообще советую почитать Сумму Технологий, ещё там всё это было)
Ух, может я не правильно понял, но размножающийся младенец это что-то.
Мне кажется, проблема есть не столько в эмоциях, сколько в более примитивном — в умении решать, что хорошо, а что плохо. Если изначально наделить ИИ знанием того, что одна еда вкусная, а другая не очень, или что одни слова хорошие, а другие плохие, то всё описанное в посте моделирование становится излишним. Если же формирование таких предпочтений будет происходить по мере «воспитания», то результат, скорее всего, будет близок к случайному.

Это я к тому, что сложно представить уровень детализации, который позволит составить представление о мире хотя бы близкое к человеческому.
Как раз наоборот, воспитание помогает сформировать необходимую систему ценностей.
Насчет детализации мира тоже не согласен, много современных игровых движков предлагают более чем достаточный уровень. Если вы про детализацию организма — она варьируема, но я даже приблизительно не могу прикинуть необходимые вычислительные мощности, так как мало сведущ в нейросетях. Вполне возможно, что потребуются кластеры.
Позволю себе не согласиться. Детализация в играх сегодня это просто набор полигонов и скриптов. Когда вы идете по стеклу звук стекла издается не из-за того, что вы там идете, а потому, что скрипт так сказал. Чтобы передать все то, что ощущает человек надо намного больше деталей и сенсоров. Начинать надо с чтения книжки (глазами, а не готовый набор единиц и нулей) и требовать отвечать на вопросы по книжки. Ну это мое мнение.
Не надо передавать все, но важно передать некий минимум — что шаги по стеклу вообще издают звук, и что этот звук отличается от шагов по другим материалам. Этого будет достаточно.
А читать книжку… Компьютер не сможет «представлять» то, что он читает, поскольку никогда не видел/слышал/ощущал ничего подобного. Добиться этим путем правильных ответов на несложные вопросы думаю можно будет, но добиться того, чтобы компьютер понимал человека — навряд ли.
Думаю если обучить компьютер языку (лексика, грамматика, синтаксис, etc) то вполно сможет ответить на простые вопросы. По-сути надо построить граф. Да, тогда ИИ будет отвечать на вопросы иначе, быстрее, точнее, но мы и не создаем ИИ который будет тупить так же как человек, а если хотим то пусть процесс в фоне убивает какие-то ячейки памяти наугад не трогая некоторые сектора.
Можно. Будет. Но это будет аналогично «зубрежке» материала, что не принесет желаемого результата. Я же показываю способ, как донести саму «суть».
Идея прекрасна, но неужели вы думаете, что вы здесь пионер, так щедро одаривая ей сообщество?
Для того чтобы провести такой экперимент, начинать надо с одной клетки (а может вообще с хрен знает с чего), создавая среду для изменения адаптации как стимул к эволюции, потому как вроде бы существуют филогенез, врожденные рефлексы и прочая сформированная и передающаяся по наследству хрень.
Сорри за оффтоп, но только у меня на главной какая-то муть про ять с классом «i-am-your-father-luke», и что это вообще означает?
Спасибо, сэр. Ох уж этот Мицгол…
Можно начать моделирование и с одноклеточных — результат будет лучше

www.spore.com/ftl Смотрите, а то создадите чудовище, которое станет доминировать над человеком и захватит мир:)

А вообще идея интересная, правда я думаю она будет очень дорогостоящей и в добавок контролировать развитие компьютерной модели будет крайне тяжело. Человек же тоже со временем развивался. Даже воссоздав полностью аналогичную среду развития мы скорее всего не получим аналогичный результат. Хотя, с другой стороны, таким образом можно будет получить много нового и интересного для развития науки…
Кстати только сейчас задумался. Воссоздать полную модель человека практически невозможно (за счёт крайне сложной структуры организма и тд.). С одноклеточным организмом работать гораздо проще, но при этом развить этот организм во что-то хотя бы отдалённо напоминающее человека будет так же крайне тяжело из-за миллионов факторов, влияющих на его развитие. Вот дилемма то получается:)
Вряд ли полня модель необходима, ее можно очень сильно упростить. Главное — не прозевать минимум.
Эх, никак не могу в одном комментарии всё скомпоновать… Ещё бы хотелось бы отметить техническую сторону вопроса. Представьте себе сколько информации обрабатывает мозг каждую секунду и сколько смогут обработать современные супер компьютеры. А ведь для нормального развития нашего организма нужно создать окружающую среду, состоящую из множества других организмов.

Фактически, для полного осуществления Вашей идеи нам необходимо будет с нуля создавать нашу планету.
Мысли конечно интересные, но ведь не все так просто. Сейчас толком даже глаз как таковой не могут смоделировать, а ведь некоторая часть эмоций возникает именно из-за минимальных различий у каждого человека. Именно неточности в построении тела привели к человеку.

Возможны огромное количество вариаций за многие миллионы лет, кажется сейчас компьютеры не могут это повторить… повторить поиск идеальных комбинаций.
Опять таки, берем упрощенную модель. Глаз = 320х240 нейронов.
Подобная теория на данном этапе развития технологий и понимания человеческого разума, на мой взгляд, может столкнуться с большим количеством пробелов в необходимой информации. Вот, например, одним из камнев преткновения является «здравый смысл». У человека он определенно присутствует, а как наделить его в полной мере ИИ — вопрос не тривиальный. Просто сделать большую базу данных? На это может потребоваться неприлично огромное количество времени и ресурсов. Попробовать как-то «научить» ИИ самому генерировать этот самый смысл на основе обучения в вашей модели? Для такой задачи, на мой взгляд, нужны какие-то метаправила, чтоб ИИ знал как формировать подобные данные. А как подобные данные формируются у человека? Вопрос остается открытым.
Потом, в конце концов, полное функционирование мозга человека не ограничивается одним лишь разумом. Кроме сознания присутствует еще и подсознание. А уж такая структура четкому описанию, да чего уж там, четкому понимаю на данный момент не поддается. А без него какие эмоции у ИИ?
Да и, в конечном итоге, опять же на мой взгляд, для обучения ИИ не требуется имитация реальности. По такому поводу хотелось бы упомянуть широкоизвестный мысленный эксперимент «мозг в колбе».

В общем, подводя итог моему комментарию к вашему посту: «Если бы всё было так просто».
В общем-то формировать эту самую базу данных изначально через учителей. Неприлично огромное количество времени и ресурсов? К сожалению, да. Впрочем, вбить бы хотя бы минимум, чтобы дальше ИИ мог получать и осмысливать информацию из книг-фильмов-интернетов.
Подсознание же считаю результатом эволюции сознания.
«Если бы всё было так просто» — я и не говорил что все легко — просто показываю путь, который, как мне кажется, «трушный».
>В общем-то формировать эту самую базу данных изначально через учителей.
Я думаю, вы не совсем прониклись проблемой. Вы когда-нибудь хотя бы пробовали минимально осознать этот самый «здравый смысл»? По меньшей мере, нужно сформулировать эти самые правила.
>Неприлично огромное количество времени и ресурсов? К сожалению, да.
Под «неприлично огромным количеством времени и ресурсов» я подразумеваю такое число, которое стремиться к бесконечности.
>Впрочем, вбить бы хотя бы минимум, чтобы дальше ИИ мог получать и осмысливать информацию из книг-фильмов-интернетов.
Опять же, про минимум я отписала выше. А вот чтоб ИИ сам осмысливал информацию, повторюсь, требуется сформировать метаправила, а каким образом это сделать, вообще говоря, если не очень ясно что вообще такое «здравый смысл», в какой форме он «поставляется» и где «хранится». Иными словами, это область еще не решенной психологической проблемы. А вы предлагаете практически с «шашкой наголо» кидаться в построение ИИ.

По хорошему говоря, мы не сможем подобным образом с недостатком знаний построить полноценный ИИ, пока не будем знать, так сказать, алгоритмы работы обычного мозга. Ну а если это все-таки удастся выяснить, то смысла строить имитацию реальности уже не будет. Почему? Опять же упоминаю мысленный эксперимент «мозг в колбе».
Эх… Это примерно как мысли древних людей про то, что земля плоская.

Ну нету в области ИИ места для философии и гуманитария!
Если Siri называть ИИ, то да, если мы хотим чего-то большего, то просто it-мир пока с этим не справляется
А не научный мир хотя бы чем-то помог в развитии алгоритмов ИИ? Нет, и не поможет. Максимум что он может — сделать побольше качественного контента, пригодного для машинного обучения.
Да, собственно, алгоритмов хватает. Этот пост как раз про контент и его качество.
Ну в том то проблема, что язык не поворачиваться назвать то что есть сейчас искусственным интеллектом.
Думаю к созданию человеко-подобного ИИ нужно отнестись с максимумом щепетильности — ибо с этической(да и не только) стороны может вылезти очень много проблем. Возможно этот ИИ даже не разовьется до уровня осознания самого себя — но процесс обучения и воспитания с большой вероятностью будет большим страданием, значительно большим чем у обычного ребенка. Хотя бы потому что процесс еще не обкатан.

Нужно ли создавать ИИ, если он будет болеть проблемами того кого ему надо будет в итоге заменить? Ведь как я понимаю создавать его если кто и соберется то с практической целью — например чтобы все люди лентяйничали занимались чем то более творческим, чем обычная работа. Но не исключено что на это кинут массу денег и энергии хотябы для изучения других областей с которыми ИИ связан.

Затем реализация нейронной сети сопоставимой по мощностям будет еще не скоро. Последний раз я слышал что добились чуть более 4% мозга человека хотя это было давно. После этого не слышал громких новостей про нейросети, но думаю если бы кто-то и добился результатов по количеству нейронов сопоставимых с мозгом человека это было бы шумно. По закону Мура уже должны были добраться процентов до 16.

Лично для меня это одна из самых интересных тем — создание чувствующего существа. Не эмулирующего чувства а именно чувствующего. Хотябы самые элементарные: позитивная реакция(хорошие чувства) и негативная реакция(плохие). Ведь именно за счет чувств можно будет это существо развивать дальше. Проблема встает именно с осознанием себя — относительно кого будут происходить чувства. Но тут меня всегда останавливает именно этическая сторона этого момента — существо будет страдать и страдания будут походу настоящими. Уже лет семь эту тему развиваю в голове — сомневаюсь что у меня что-то выйдет. Но если выйдет — не знаю что с этим делать.
UFO just landed and posted this here
«Осознаёт себя», или же правильно отвечает на поставленный вопрос?
Осознание себя происходит раньше ответов на вопросы, и вообще понимания слов — это в моем понимании первичная реакция вроде: «я тут», ну или просто «Я». Не оформившееся в словах и местоимениях, а в осознании того что — чем этот организм управляет и есть он сам. Эту самость сложно объяснить потому она и является столь тяжело реализуемым элементом.

критерий для определения, чувствует «существо» или нет?
Сдается мне что тут должно быть все очень естественно. Первичные реакции должны появиться как результат самоосознания — хотя есть некий элемент как привязанность к себе. И уже при внешних раздражителях — проявление реакции. Если от раздражителя телу лучше(проще начинать с тела), то и реакция плюс, в обратном случае реакция соответственно негативная.

Ну и момент осознания — тоже довольно большой вопрос.

Суммарно выходит всего очень много и сложно, но мне кажется что просто надо учиться мыслить проще — в чем и разгадка.
UFO just landed and posted this here
Ну, страдание будет повышенным из-за повышенных темпа эволюционирования. А проблемы того, кого ему надо будет в итоге заменить — можно будет легко устранить, «убрав» тело, и оставив кнопку «сделать хорошо».
Про мощности — 4% от «полного тела», насколько я понимаю, т.е. включая over 9000 сенсоров по всему телу. Опять таки — просто взять упрощенную модель.
Мда, туговато у народа с пониманием ИИ… Вот только пара проколов в вашей идее:

1. Нейронная сеть — это не более, чем нелинейный классификатор. Математическая модель, уравнение, если хотите. Вы же из неё лепите что-то такое нереально крутое, способное изучать что угодно и мыслить наравне с живыми существами. Нейронные сети (за исключением некоторых типов, используемых для кластеризации, но это совсем другая тема) нуждаются в целенаправленном обучении. Им нужно сказать: вот это — красный, вот это — зелёный, вот это — жёлтый. Тогда она запишут это в своих весовых коэффициентах и смогут различать цвета. Но не более. От того, что вы дадите ему «глаза», что-то осмысленное ими он делать не начнёт. И не поймёт, что есть что.
У человека есть инстинкты, базовые элементы психики, коллективное бессознательное и т.д. Человек суёт руку в огонь и чувствует боль — врождённое чувство, отточенное миллионами лет эволюции. Человек долго не ел, инстинкты подсказывают ему искать определённый предметы, которые можно съесть — инстинкт. Человек испытывает влечение к существу противоположного пола, причём уже знает, что с этим существом делать — потребность, присущая виду. Вы сможете всё это повторить? Вы вообще знаете все особенности человека, чтобы эмулировать их для ИНС?
Обычные ИНС могут решать только один тип задач, а значит на кажду задачу нужно иметь свою сеть. Причём не независимую, а каким-то образом связанную с остальными. Каков характер этой связи? Как заставить много классификаторов решать отдельные задачи, но при этом быть связанными друг с другом? Вариантов решения этой задачи я пока не видел.

2. Эволюция от бактерии — к ИНС вообще не имеют никакого отношения. Вы говорите про генетические алгоритмы. Ок, кто-то выжил, кто-то умер при данных условиях, выбираем выживших и продо… так, а какие условия то? Давление 3 атмосферы, температуру 58 градусов по цельсию, наличие скоплений жидкости? Вы хотите, чтобы бактерия выросла в человека под воздействием эволюции и окружающей среды? А вы можете повторить эту среду, такой, какая она была миллиарды лет до нашей эры? А потом ещё в деталях повторить всю историю — растения, рептилий, животных и 100 миллионов лет эволюции человека? Вряд ли.

Так что как-то нет, даже не рядом.
От того, что вы дадите ему «глаза», что-то осмысленное ими он делать не начнёт.
Я ничего такого и не говорил. Учитель нужен, само собой. Врожденные инстинкты придется развить, другого пути нет.
А вот насчет структуры ИНС, к сожалению, ничего сказать не могу.
Со вторым пунктом полностью согласен, с эволюцией от бактерии я пожалуй перегнул, хотя ничто (кроме ограниченности ресурсов, конечно) не мешает грубо влиять на естественный отбор.
Не только инстинкты, но и воспитание, социальную среду и всё прочее. И учитель понадобится для каждой отдельной области. Но если бы учёные настолько хорошо знали человеческую природу, то искусственный интеллект был бы уже давно создан. Но, увы.
Я мало чего понимаю в ИНС (чуть более чем ничего), но вот такой вопрос:
Человеческий мозг имеет разные участки которые отвечают за разные вещи. Почему бы не сделать много наборов ИНС и на вхоже поставить еще одну ИНС которая определяет какая ИНС отвечает за текущую задачу? Я конечно понимаю, что вот так взять и написать человека-болванку нельзя, надо заранее вложить множество алгоритмов и «знаний».

Допустим наш ИИ читает книжу (опустим детали), ему встречается незнакомое слово (ИИ в идеале должен сделать предположение о значении слова — прилагательное, негативное, относится к вкусу еды), делает запрос к словарю, получает кучу определений ИНС выделяет правильное по его мнению значение и составляет граф. В следующий раз анализатор текста уже должен понять это слово в этом значении.

P.S.
Я сейчас о английском языке говорю.
>Человеческий мозг имеет разные участки которые отвечают за разные вещи.
А кто вам такое сказал? Имели место эксперименты, когда в область мозга, отвечающую за слух, подавались зрительные сигналы (или наоборот, я, честно говоря, уже плохо помню). Со временем вся система работала правильно.

>Допустим наш ИИ читает книжку…
Сдается мне, что вы говорите про ATN (augmented transition network) сеть, которая проводит анализ текста по контексту. С нейронной сетью тут мало общего, ибо это всё дело строится на основе семантических сетей с помощью вами же упомянутых графов.
> А кто вам такое сказал? Имели место эксперименты, когда в область мозга, отвечающую за слух, подавались зрительные сигналы (или наоборот, я, честно говоря, уже плохо помню). Со временем вся система работала правильно.

Однако приборы все же фиксируют активность в разных частях мозга при той или иной активности. Сегментирование мозга вроде как доказано…

> Сдается мне, что вы говорите про ATN (augmented transition network) сеть, которая проводит анализ текста по контексту. С нейронной сетью тут мало общего, ибо это всё дело строится на основе семантических сетей с помощью вами же упомянутых графов.

Вероятно. Тогда моя идея еще больше становится правдивой — ясно дело на одной ИНС ничего не сделать, но алгоритм который все составляющие свяжет в одно целое.
>Тогда моя идея еще больше становится правдивой.
Видите ли, подобная структура может лишь, как бы это сказать, структурировать текст, но не понимать его. Получается что-то вроде мысленного эксперимента «Китайская комната». Ну а без понимания, какой же это ИИ? :)
А что вы имеете ввиду под пониманием?
Ну как вам сказать… Думаю, описание самого мысленного эксперимента «Китайская комната» скажет это за меня гораздо красноречивее.
ИНС — это классификатор. Представьте прочто чёрный ящик с m вхожами (признаками распознаваемого объекта) и n выходами (результатами классификации). При этом этот ящик может обучаться разделять между собой до n объектов по m признакам. Это чтобы у вас было некоторое представление о нейронных сетях.

Теперь посмотрим на задачу распознования лиц по фотографиям. Как сказать ИНС (или любому другому классификатору), что в качестве признака нужно брать вот этот набор пикселей, изображающих нос, а не вот тот, изображающий крутую тачку на фоне понтового чувака? Необходим отбор фич, то есть, грубо говоря, дополнительные ручные действия при обучении классификатора.

Ок, мы распознали лицо, теперь хотим распознать положение тела. Делаем то же самое — отбираем фичи, показываем классификатору, что брать за основу классификации, обучаем, применяем. Круто, теперь мы можем распознавать лицо и тело. Но не человека в целом. Для того, чтобы из распознанных частей получилось распознанное целое нужна дополнительная процедура — либо жёстко прошитая в программе, либо ещё один классификатор. В первом случае сложность растёт комбинаторно: нужно знать как комбинировать голову и тело, затем получившегося человека и другого человека, группу людей, каким-то образом добавить распознование одежды, обуви, выражения лица, обстановки и т.д. — вариантов миллионы. Во-втором случае вроде как можно сильно автоматизировать работу. Но признаки для классификации всё равно придётся отбирать вручную. В итоге получаем ту же комбинаторную сложность.

Обучение с учителем наподобии ИНС по определнию не может быть использовано для классификации на заранее неизвестное количество классов, а значит никакая дополнительная фронтальная ИНС не сможет самостоятельно определять необходимую внутреннюю структуру обучаемого элемента.
Я понимаю, что ИНС классификатор.

> Обучение с учителем наподобии ИНС по определнию не может быть использовано для классификации на заранее неизвестное количество классов, а значит никакая дополнительная фронтальная ИНС не сможет самостоятельно определять необходимую внутреннюю структуру обучаемого элемента.

Так я предлагал заранее задать кол-во классов.
Так, если я правильно понял, речь шла о том, чтобы создать фронтальную сеть, которая бы распределяла сигналы и управляла внутренней структурой всей системы. Если вы знаете, как выстроить внутреннюю структуру вручную — ну крото, можете рассчитывать на премию Тьюринга, а заодно, возможно, и на нобелевскую. По физиологии. А если не знаете, то нужна фронтальная сеть (или что угодно), но вот только самообучаться классификаторы пока не научились, так что подобрать оптимальную структуру всё равно не смогут. И в том, и в другом случае непонятно, как, собственно, комбинировать отдельные ИНС.
Ни в коей мере не защищая автора, все же замечу что его идеи вполне можно реализовать на базе мультиагентной системы. И если каждого агента назвать «нейроном», то получится «нейронная сеть». Правда действительно не имеющая никакого отношения к тому что принято называть ИНС.

Про одну из реализаций можно почитать по ссылкам в моем комментарии
Эдакий классический взгляд гуманитария на проблемы ИИ.
Sign up to leave a comment.

Articles