Комментарии 49
Если интересно, посмотрите мои размышления на digitid.livejournal.com
Я сейчас использую абхидхармическую модель, в которой побуждение является не следствием, а причиной различения, а в основе всего есть неведение (т.е. суперпозиция всех возможных желаемых исходов удовлетворенности, которая редуцируется конкретными побуждениями-беспокойствиями-действиями до определенных различимых сюжетов развития ситуации, достигающих удовлетворения). В вашей модели тоже есть такое беспокойство в основе сознательной деятельности, и это хочется отметить как очень глубокий философский принцип, часто недооцениваемый философами, психологами, физиологами, исследователями и инженерами.
побуждение является не следствием, а причиной различения
Совершенно согласен. Если вдумчиво поразмышлять над всем этим, то неизбежно приходишь к мыслям очень близким к тем что высказал в своё время дядя Фрейд (но он, на беду, не был инженером). А именно, реальная сложность и многообразие окружающего мира столь велики, что совершенно контрпродуктивной является идея о выделении/различении зависимостей/объектов этого мира просто потому что они есть. Ибо есть громадное кол-во совершенно бесполезных для конкретного типа организма зависимостей/объектов (хотя и явно выраженных в природе). Скажем, человеку глубоко пофигу на то как частоты и статистики дрожания листьев деревьев на ветру, зависят, скажем, от температуры воздуха. Хотя такую зависимость конечно можно построить и сформулировать. А значит, раз бесполезных зависимостей в окружении заведомо на очень много порядков больше чем полезных, то необходим какой-то фильтр, который позволит вычленять зависимости только такие, которые полезны для конкретного организма/мозга. И наши базовые потребности (поесть, избежать боли, почувствовать приятное ощущение на коже, и т.п.) как раз и есть тот исходный фильтр который позволяет вытягивать именно те зависимости которые имеют какое-либо практическое значение конкретно для нас, человеков. Так что сознание начинается с фрейдовского «пописал-покакал-поел», и развертывание сознания совершенно невозможно без такой изначальной (прошитой в организме на уровне железа) системы координат (по сути информационных фильтров). А вот далее уже на это базовое и примитивное формируются и наслаиваются более сложные «хочу-нехочу» (уже не являющиеся изначально прошитыми), формируемые через принудительное воздействие носителей языка и взаимодействие ребёнка с этими носителями языка (обычно родителями), но если глубоко покопаться то действительно даже самое «тонкое и высокое» душевное переживание в своей основе базируется на этих примитивных «хочу-нехочу», обернутых в жизненный опыт и интеллект (который в свою очередь есть штука никак не могущая возникнуть самопроизвольно, для формирования не просто сознания но интеллекта самообучения принципиально недостаточно, требуется внешне обучение — языку, который является по сути сильно более сложной системой фильтров/фокусов восприятия, задаваемой социумом т.е. родителями). Так что в совсем простом приближении — Фрейд, на мой взгляд, определенно прав. Но он конечно упростил это всё до полнейшего примитива, явно переборщив с упрощениями.
У буддистов всего что-то две если не ошибаюсь характеристики наитончайшего сознания на котором всё построено, т.е. все более грубые «оболочки» сознания как я понимаю работают на основе вот этого наитончайшего у которого две характиристики — ясность и всеохватываемость. Т.е. этот тончайший ум может беспрепятственно познать любой феномен. Т.е. нужна какая то базовая функция на на основу которой уже и будет накладываться органы чувств и всё и остальные 4 составляющих на основе которых формируется самоосознающая личность. (буддисты правда наоборот стараются увидеть иллюзорность, пустотность этих составляющих. Но нам же надо надо «скрипт» запустить, а значит понять как это функционирует.)
И традиционно уже (несколько раз уже видел на этом ресурсе) на счёт наитончайшего сознания: «Праджняпарамита ни речью ни мыслью не выразимая....»
Сумбурно получилось, но я своих теорий не выдвигаю, а лишь высказываю этим комментом заинтересованность услышать интересные мысли по в этом направлении…
Человек помнит всю свою жизнь в очень компактном виде (что-то при компактификации конечно утратилось, несущественное для дальнейшего существования личности) вот и ИИ должен либо полнстью всё запоминать, либо в сжатом виде. И перед каждым действием надо учитывать (пересматривать) весь накопленный опыт, который постоянно растёт. Плюс человек имеет мысленную 3д модель своей квартиры, многих зданий и даже городов.
Ещё ИИ как и человек должен каждую секунду прогнозировать будущее (если в вашу сторону бежит человек с топором — вы же спрогнозируете развитие ситуации и попытаетесь что-то сделать ?). Для прогнозирования мозг человека применяет и интуитивное знание физики — если вы роняете мяч, то знаете что он просто упадёт и подпрыгнет и вы его поймаете после отскока, а если айфон выскользнул из рук над унитазом или над плиткой на кухне — адреналин скакнёт раньше чем оформится мысль со словом "капец!". Учёт опыта всей жизни и умение прогнозировать отличают нас, людей, от конечных автоматов.
О том, когда и как будет написан ИИ я написал статейку — https://geektimes.ru/sandbox/3536/#habracut
А вот с прогнозированием я полностью согласен. ИИ обязан уметь прогнозировать. Но нужна ли для этого физика? Знание «почему гремит гром после молнии» изменит ли знание, что «гром гремит после молнии»? Нет. Мы можем знать, что будет, но почему — необязательно.
И я прочитал вашу статейку. Вы не представляете насколько мы близко мыслим. В приват)
Любая случайность есть результат закономерности. Какие именно факторы влияют на факт и параметры перемещения сущности?
- ИИ можно создать сначала в упрощенном симулируемом мире
- ИИ можно создать последовательно усложняя модель поведения, выигрывающую в некую игру, оптимально оперирующую с неким известным набором правил
- А дальше неожиданная, как схлопывание волновой функции, не описанная магическая трансформация:
С большим количеством итераций сущность поймет
О переходе от «модель найдет оптимальное поведение» к «сущность поймет» написаны сотни страниц текста, философского, математического, биологического. И увы, безуспешно. Успех — это получить нечто, что непротиворечиво можно назвать «понимающей сущностью».
Давайте представим, что в предложенном вами мире находится сущность (программа), научившаяся находить еду, заранее лечиться, избегать экстремальных ситуаций. Вы всерьез посчитаете это успехом?!
Так много таких было создано, с разной степенью привитой инстинктивности. Очевидно, что это очень просто сделать на заранее прописанных программистом рефлексах. Очевидно, что можно подобрать такую генетическим отсевом и всяким обучением с подкреплением перебирая все пространство возможных моделей (тот же alpha go). Очевидно, что это будет не ИИ. Даже не чуть чуть ИИ.
То, что вы делаете, сродни поиску вечного двигателя (любого рода). Там где ищете вы, уже искали очень давно. Там искать уже нечего. Очень рекомендую Rationality:From AI to zombies, сэкономит вам много времени. И не подумайте, что предлагаю забить на это занятие. Наоборот, предлагаю скорее воспользоваться наработанным опытом и искать на фронтире.
ИИ никогда не поймет ничего. Нужна программа, которая будет вести себя как будто она понимает. Мне бы этого хватило
Все эти боты — слишком слабые. Вот умеющие ходить человекоподобные роботы от бостон динамикс, если им добавить память о происходящем, умение анализировать слова и действия окружающих людей, умение прогнозировать ситуацию на дни и годы вперёд, добавить им цели и мотивации и знание человеков — вот это уже будет интересный бот с довольно сильным ИИ
Это схоже с задачей про межзвездные путешествия: каждая запущенная через 10 лет ракета долетает до целевой звезды на 100 лет раньше предыдущей (утрировано).
Будучи инженером-программистом по профессии, я не решился лезть в дебри нейробиологии!
В принципе, наверное тут уже можно было и закончить.
Строить интеллект из середины…
Не знаю даже, не хотите лезть в дебри нейробиологии, почитай тогда о психологии хотя бы. Там примерно поймете, что сознание/интеллект это по сути обобщение известного и переход на более высокий уровень абстракции, как матрешки наоборот, раскрываете маленькую, а внутри целое стадо матрешек побольше. Чем то напоминает ООП.
Вопрос просто в том, что обобщение множеств это очень тяжелая задача даже для текущих компьютеров. Потому и используют свертки, обрезание диапазонов и прочие ухищрения для сокращения набора данных.
Но можете еще мои статьи почитать. В ближайшее время будет продолжение и можно будет попробовать онлайн систему классификации построенную на базе моей модели.
Ну или что-то в этом роде.
Никогда не задумывались что люди которые наблюдают за щенками знают что-то о щенках. А геологи они смотрят на землю и знают что-то о земле. Так же как и ветеринары знают что-то о животных.
Осознание ИИ путём созерцания ИИ — катит, нормально.
Для того чтобы осознать человеческую сущность вам надо посмотреть на человека. Хинт — компьютерная симуляция здесь не нужна.
Принципиальным же отличием Человека от его симбионтов является его способность к самостоятельному целеполаганию при решении задач, не связанных с обеспечением сохранения равновесия внутри Человека и в его окружающем мире. Например, задача покорения дальнего космоса, которая никак не связана даже с задачей сохранения Человека как вида, не говоря уже о сохранении и развитии отдельных представителей Человеческой цивилизации.
Поэтому осознание человеческой сущности (или как минимум его частичное воспроизводство в виде компьютерных программ) через искусственный интеллект невозможно даже чисто теоретически, как невозможно осознать целое через изучение его отдельной части.
С другой стороны, Человек потенциально способен создать новый вид Жизни с таким же как у него самого стремлением к экспансии, а затем направить все свои усилия на борьбу за выживание и доступ к ограниченным ресурсам на Земле в конкуренции с этой новой Жизнью. Но даже в этом случае никуда не денется принцип, которому следуют самые сильные представители человечества – «все что нас не убивает, делает только сильнее» — который в конечном итоге превратит новую Жизнь из конкурента в очередного симбионта Человека.
Ещё одно наблюдение для размышления — первые игры были в 2д, но геймерам подавай 3д, с максимальной фотореалистичностью, с просчётом физики и света, с туманом, дождём и
снегом. Но так же мозгу должно быть труднее распознавать происходящее? Оказывается нет. Всё, с чем интеллект мозга оперирует, мозг сначала трансформирует в объёмные предметы в мысленной виртуальной 3д симуляции. Поэтому мозгу проще с глаз получать стереоизображения реальности и, используя их, с минимальными усилиями создавать в мысленной 3д-симуляции себе копию реальности "для работы". Для этого наверняка имеется набор нейросетей. Закрываем один глаз — объёмность пропадает, но жить можно — при движениях головой мозгу удаётся частично восстановить объёмность видя насколько смещаются видимые объекты. Или вот шахматы — я всю жизнь играл в деревянные настоящие и, когда увидел на компе плоские, которые теоретически понятней и удобней, особенно для ИИ, ощутил неудобство при игре. Потом скачал объёмные шахматы, где можно крутить доску, и приятственные ощущения вернулись. Для себя сделал вывод — мозг предпочитает оперировать с объёмными вещами, а не с плоскими, но, при настойчивости хозяина, может привыкнуть и к плоским картинкам, графикам, таблицам, играм и т.п.
http://www.math.nsc.ru/AP/ScientificDiscovery/PDF/principals_anokhin_simonov.pdf
По результатам, тут есть парочка моих статей, если не зайдет на русском, то там есть ссылки на версии на английском.
Практическое применение тоже на подходе. Для запуска и обучения полноценной модели в реальном времени, пока не хватает железа. Но пробуем применить общую теорию в решении практических аналитических задач.
Хотите присоединяйтесь, например вот тут можете вашу супер модель опробовать
habrahabr.ru/company/abbyy/blog/346550
Доказывать субъективное мнение даже не собираюсь…
Жду с нетерпением статей, а главное результатов…
Цитирую: «Но пробуем применить общую теорию в решении практических аналитических задач.» Так где результаты?
За оценку модели конечно спасибо, но даже я не считаю, что она супер… Есть вторая версия — она лучше и интереснее, но давать ссылку сознательно не буду (уж извините) — она коммерческая… И успешно играет на бирже, попутно обучаясь…
раз
два
А про сказки, по типу "… коммерческая версия, играет на бирже и учится...". Ну вы уж придумайте что нибудь новое. Заездили уже эту отговорку до дыр, но так пока не встретил, ни одного подобного игрока на личной яхте как у Абрамовича.
Навалом конкурсов и задач для проверки алгоритмов, хоты бы тот по моей ссылке, еще куча на kaggle. Но почему то, «на бирже играют», конкурсы видимо выигрывать алгоритмы не могут. :)
Намного интереснее было бы создать ИИ, действующий при отсутствии каких-либо очевидных «неприятных сигналов», угрожающих его «жизни» и вопреки инстинкту самосохранения.
На мой взгляд это намного более сложная задача, но намного более интересная.
Зачем делать ещё одного человека, только искусственного?
Инстинкт самосохранения это не антропоморфизм, а как раз наоборот. Он присущ не только людям.
Больше похоже на проф. деформацию
Осознание человеческой сущности через понимание ИИ. Введение. Часть 1