Как есть.
Просто сделать нечто работающее — могу. Но вот как сохранить состояние этого работающего на диск — для меня проблема, да и вникать особо нет желания (я не профессиональный программист). В том же эксперименте с тетрисом — всё сети были в памяти и никуда не сохранялись.
Инстинкты формировались ведь эволюцией с целью выживания не кого-то конкретного, а вида в целом. Поэтому кому-то лично, в какой-то конкретной ситуации, какие-то инстинкты могут и вредить.
Например — инстинкт помощи, из-за которого люди губят себя, дабы спасти других людей.
Лично для меня было удивительно, что у человека действительно есть неосознанный инстинкт помощи. Особенно эффектно проверяется на детях 3-4 лет — если «невзначай» уронить что-нибудь — ребёнок инстинктивно поднимет и подаст (у взрослых этот инстинкт часто перебит всяческими эго и т.п.)
Если я правильно понял, то реализация по вашим рассуждением получится нечто вроде обыкновенного персептрона, но оперирующего не действительными числами, а комплексными.
И вообще — рассказать «как эта сеть будет работать в такой-то ситуации» сказать наверное в принципе невозможно, поскольку в одной и той же ситуации она может выдавать разные сигналы (мало ли, настроение у неё плохое).
Ну так эта задача ведь не имеет отношения к формированию новых связей, тем более что наверное только что сформированным связям надо устанавливать нулевой вес (или какой-то минимальный), фактически — сразу они в работу не вступают.
Да, самые активные нейроны (но только самые активные) будут стараться создавать новые тормозящие входные связи, дабы не сдохнуть от работы.
А самые пассивные (но только самые пассивные) будут стараться создавать новые возбуждающие входные связи, т.е. вовлекаться в работу, дабы не бездельничать.
Ответить могу только на 3 — где-то в комментариях писал по этому поводу.
У нейрона есть 3 доп параметра «хочу поделиться информацией», «нужна информация-» (нужна тормозящая связь), «нужна информация+» (нужна возбуждающая связь).
«Хочу поделиться информацией» — по аналогии с человеком — если давно не было импульсов на выходе, и тут вдруг появился — сразу хочется поделиться информацией, затем желание плавно снижается.
«Нужна информация-» — пропорционально частоте импульсов на выходе нейрона.
«Нужна информация+» — обратно пропорционально частоте импульсов на выходе нейрона.
Связи растут от тех кто больше хочет поделиться информацией, к тем кому информация сильнее нужна.
Согласен, притянуто за уши, но по крайней мере «хоть что-то»
1. Не суть важно как они называются. Наверняка есть ещё десяток названий.
2. В данном виде действительно такая формула ничего не даст, я лишь попытался показать что должно влиять на ход обучения.
3. Вот раз неизвестно как учить импульсные сети — заодно и поэкспериментируем.
Надеюсь дня за четыре чего-нибудь напишу экспериментальное.
Одна беда — знаю PHP, MySQL, С++.
Делать на С++ — сложности с сохранением/восстановлением (для меня сложно сохранять/читать объекты), и с контролем работы.
Вариант хранить и обрабатывать экземпляры сети в MySQL — насколько это эффективно?
Т.е. это вариант использования сети в качестве одной из составляющих алгоритма. Насколько я понял, в данном случае — нейронная сеть используется для прогноза «какой вариант действий лучше»?
Если точки-экземпляры будут бегать по виртуальному полю и находить себе еду — я уже буду доволен.
Про «разум» пока никто и не заикается.
Просто, надеюсь, такая сеть будет более… оптимальна что-ли. А то читаешь про эксперименты с сетями из миллионов нейронов, а у комара вон всего несколько десятков (или сотен?) нейронов, и как он, сволочь, надоедливо себя ведёт.
«Любая нейронная сеть это набор функций и коэффициентов» — в данном случае это ещё и набор бегающих по сети импульсов. Т.е. просто создав абсолютно точную копию мозга — мы не получим копию личности (но получим копию привычек, характера, воспоминаний и т.п.). Вообще это часто обсуждаемая проблема — «будет ли мозг думать, если его отключить от всех внешних сигналов». Вроде бы склоняются, к тому, что мозг в пустоте — неработоспособен.
«Цель в жизни» — формируется с помощью блока «энергия»+эволюция. Т.е. если человек получает энергию из еды, то и один из базовых инстинктов у него «пожрать». В блок «энергия» закладываем, например — «сеть получает энергию, если управляемый ею робот обходит препятствие», это и будет «инстинкт и цель в жизни».
А вообще, для простейших экспериментов это слишком сложные вопросы.
1. Как мне видится — механизм сна тесно связан с механизмом эмоций. Для простых сетей сон может быть и не нужен, а для сложных сетей — прямо-таки необходим. Вот описанном простейшем случае воздействия эмоций на сеть — если постоянно подавать сигнал «хорошо», то через какое-то время начнутся сбои в функционировании сети, просто потому что дальше усиливать связи с помощью воздействия эмоций уже некуда. В этом случае, во время сна, видимо должно происходить перераспределение полученной эмоциональной нагрузки на менее загруженные связи (или на создание новых связей).
2. Для экспериментов достаточно будет эмоций «хорошо/плохо». В реальном организме за различные эмоции отвечают различные нейромедиаторы (т.е. сильно упрощая — синапсы бывают разных видов, «смеющийся», «боящийся» и т.п.). На принципе блокировки выработки тех или иных видов нейромедиаторов основаны некоторые психотропные лекарства (антидепрессанты например). Ну и всем известно вещество — никотин, блокирует разрушение одного из видов нейромедиаторов — дофамина (дофамин — нейромедиатор «удовольствия»), т.е. улучшает проводимость тех синапсов по которым бегут сигналы «удовольствия», организм видит несоответствие — уменьшает самостоятельную выработку дофамина, и если «бросать курить», то бывает хреново, т.к. организм «разучился» вырабатывать дофамин в нужных дозах самостоятельно.
Кстати, соотношение тормозящих и возбуждающих синапсов (или их силы?) будет определять «темперамент» сети.
Холерик — много возбуждающих, мало тормозящих связей.
Сангвиник — много возбуждающих и много тормозящих связей.
Флегматик — мало возбуждающих и много тормозящих связей.
Меланхолик — мало возбуждающих и мало тормозящих связей.
«Куда расти в зависимости от предыдущих сигналов» — можно сделать так.
У нейрона есть 3 доп параметра «хочу поделиться информацией», «нужна информация-» (нужна тормозящая связь), «нужна информация+» (нужна возбуждающая связь).
«Хочу поделиться информацией» — по аналогии с человеком — если давно не было импульсов на выходе, и тут вдруг появился — сразу хочется поделиться информацией, затем желание плавно снижается.
«Нужна информация-» — пропорционально частоте импульсов на выходе нейрона.
«Нужна информация+» — обратно пропорционально частоте импульсов на выходе нейрона.
Связи растут от тех кто больше хочет поделиться информацией, к тем кому информация сильнее нужна.
Т.е. при первом запуске связи в общем-то и не нужны, сами вырастут откуда надо и куда надо.
Нашёл только анекдот — «Сделай дельфина гомо сапиенс, и у него исчезнет инстинкт помощи утопающим.»
Просто сделать нечто работающее — могу. Но вот как сохранить состояние этого работающего на диск — для меня проблема, да и вникать особо нет желания (я не профессиональный программист). В том же эксперименте с тетрисом — всё сети были в памяти и никуда не сохранялись.
Например — инстинкт помощи, из-за которого люди губят себя, дабы спасти других людей.
Лично для меня было удивительно, что у человека действительно есть неосознанный инстинкт помощи. Особенно эффектно проверяется на детях 3-4 лет — если «невзначай» уронить что-нибудь — ребёнок инстинктивно поднимет и подаст (у взрослых этот инстинкт часто перебит всяческими эго и т.п.)
С нечёткими алгоритмами не знаком, знаю лишь что они очень ресурсопрожорливы.
Да, самые активные нейроны (но только самые активные) будут стараться создавать новые тормозящие входные связи, дабы не сдохнуть от работы.
А самые пассивные (но только самые пассивные) будут стараться создавать новые возбуждающие входные связи, т.е. вовлекаться в работу, дабы не бездельничать.
Вроде как самобалансировка получается.
Он, кажется, любил в художественной форме пытаться отвечать на подобные «что будет, если...».
За один такт через нейрон должен проходить (или не проходить, а «накопиться внутри») один импульс.
У нейрона есть 3 доп параметра «хочу поделиться информацией», «нужна информация-» (нужна тормозящая связь), «нужна информация+» (нужна возбуждающая связь).
«Хочу поделиться информацией» — по аналогии с человеком — если давно не было импульсов на выходе, и тут вдруг появился — сразу хочется поделиться информацией, затем желание плавно снижается.
«Нужна информация-» — пропорционально частоте импульсов на выходе нейрона.
«Нужна информация+» — обратно пропорционально частоте импульсов на выходе нейрона.
Связи растут от тех кто больше хочет поделиться информацией, к тем кому информация сильнее нужна.
Согласен, притянуто за уши, но по крайней мере «хоть что-то»
2. В данном виде действительно такая формула ничего не даст, я лишь попытался показать что должно влиять на ход обучения.
3. Вот раз неизвестно как учить импульсные сети — заодно и поэкспериментируем.
Надеюсь дня за четыре чего-нибудь напишу экспериментальное.
Одна беда — знаю PHP, MySQL, С++.
Делать на С++ — сложности с сохранением/восстановлением (для меня сложно сохранять/читать объекты), и с контролем работы.
Вариант хранить и обрабатывать экземпляры сети в MySQL — насколько это эффективно?
Про «разум» пока никто и не заикается.
Просто, надеюсь, такая сеть будет более… оптимальна что-ли. А то читаешь про эксперименты с сетями из миллионов нейронов, а у комара вон всего несколько десятков (или сотен?) нейронов, и как он, сволочь, надоедливо себя ведёт.
«Цель в жизни» — формируется с помощью блока «энергия»+эволюция. Т.е. если человек получает энергию из еды, то и один из базовых инстинктов у него «пожрать». В блок «энергия» закладываем, например — «сеть получает энергию, если управляемый ею робот обходит препятствие», это и будет «инстинкт и цель в жизни».
А вообще, для простейших экспериментов это слишком сложные вопросы.
2. Для экспериментов достаточно будет эмоций «хорошо/плохо». В реальном организме за различные эмоции отвечают различные нейромедиаторы (т.е. сильно упрощая — синапсы бывают разных видов, «смеющийся», «боящийся» и т.п.). На принципе блокировки выработки тех или иных видов нейромедиаторов основаны некоторые психотропные лекарства (антидепрессанты например). Ну и всем известно вещество — никотин, блокирует разрушение одного из видов нейромедиаторов — дофамина (дофамин — нейромедиатор «удовольствия»), т.е. улучшает проводимость тех синапсов по которым бегут сигналы «удовольствия», организм видит несоответствие — уменьшает самостоятельную выработку дофамина, и если «бросать курить», то бывает хреново, т.к. организм «разучился» вырабатывать дофамин в нужных дозах самостоятельно.
Холерик — много возбуждающих, мало тормозящих связей.
Сангвиник — много возбуждающих и много тормозящих связей.
Флегматик — мало возбуждающих и много тормозящих связей.
Меланхолик — мало возбуждающих и мало тормозящих связей.
У нейрона есть 3 доп параметра «хочу поделиться информацией», «нужна информация-» (нужна тормозящая связь), «нужна информация+» (нужна возбуждающая связь).
«Хочу поделиться информацией» — по аналогии с человеком — если давно не было импульсов на выходе, и тут вдруг появился — сразу хочется поделиться информацией, затем желание плавно снижается.
«Нужна информация-» — пропорционально частоте импульсов на выходе нейрона.
«Нужна информация+» — обратно пропорционально частоте импульсов на выходе нейрона.
Связи растут от тех кто больше хочет поделиться информацией, к тем кому информация сильнее нужна.
Т.е. при первом запуске связи в общем-то и не нужны, сами вырастут откуда надо и куда надо.