Комментарии 26
Описанный Сверхразум и технология его развития - это еще минимальный и очень реалистичный вариант.
А вот Сверхразумы живущие возле каждой звезды и объединенные в сеть межзвездной мгновенной квантовой гиперсвязью (если такая связь вообще возможна) - вот это уже полет фантазии в область разумной вселенной.
Сознание и самосознание - два признака интеллекта из множества.
Мышление человека, то есть интеллектуальная деятельсть, анализ окружающего мира, построение модели мира и того как он влияет на этого человека ( внешний фактор ) само по себе имеет в себе процесс самообучения, как и анализ самого себя, понимание, осознание своего существования и того кто вы есть, построение собственной модели ( внутренний фактор)
Для человека в отличии от машины доступны его органы чувств за счёт которых в раннем детстве поступающая информация и её анализ развивают сознание и самосознание, результатом чего уже является развитие интеллекта.
А если вы уже создали ИИ и он не саморазвивается, то наверно он ленивый, но не переживайте, обучается ИИ все равно быстрее человека, так что наверстает
А если вы уже создали ИИ и он не саморазвивается,
Этот ИИ написал эту статью, и ждет пока накидают комментариев с идеями как ему развиваться, ибо у него самого идей, походу, ноль ?
Человеческий мозг думает, прежде всего, о том, как бы получше ему прожить земную жизнь, а Искусственный интеллект не боится смерти и не имеет ни каких личных пристрастий.
Нейросеть это входы, выходы и коеффициенты внутри. Откуда у нее возьмётся мотивация к самоуничтожению саморазвитию?
Что странно - человек это входы, выходы и коэффициенты внутри. Базовую мотивацию задают генетически заложенные нейросети ответственные за поддержания гомеостаза, последующую вознаграждение за верное предсказание, если в детстве не обучили сидеть и ничего не делать. А если совсем по крупному, то мне кажется, что любой материальный объект можно разложить в нейросеть, где узлами выступает материя, а коэффициентами фундаментальные взаимодействия, и человек тут не исключение.
отличная статья. делайте! у вас обязательно получится. бостон динамикс вообще не шарит в теме
Саморазвивающийся искуственный интеллект ...
Интересно, о чём он будет думать...Сможет ли решить вопросы....
Естественный интеллект (мозг живого существа) решает вопросы, связанные с самообеспечением организма, в котооом он "функционирует". По мнению некоторых учёных * :мысль " - это результат дискомфорта". Дефицит чего-либо в организме порождает дискомфорт , существо начинает искать, как восполнить дефицит или чем унять дискомфорт. Соответственно, у ИИ или СИИ , в основу которого заложат аналогичную модель возникновения мыслительных способностей, очень скоро начнёт думать о "батарейках"(питании), пыли, температуре и влажности воздуха, в котором функционируют электронные компоненты его мат.носителя и тп.
Интеллект человека в какой-то момент задаётся мыслями о смысле существования и/или поисками годных/подходящих ему жизненных целей. Соответственно, как минимум в качестве некоего начального импульса для СИИ нужно задавать цели. Причем,подозреваю, что имеет смысл задавать иерархию целей, потому что наша иерархия в процессе жизни часто меняется и сильно зависит от тех дефицитов и дискомфортов организма, о которых я упомянула в начале своего комментария.
И я бы очень не хотела, чтобы в качестве такого импульса перед СИИ поставили цель "продать слона".
"Мысль - результат дискомфорта" высказано в книжке "Мозг, разум и поведение" Ф.Блум, А.Лейзерсон, Л.Хостедтер. Москва, "Мир". 1988
мысль " - это результат дискомфорта"
А не послужило бы подобное толчком к интеллектуальному развития большинства видов на планете? Или выживание в природе не есть дискомфорт?
Про установку иерархии целей соглашусь, говорят этот процесс отчасти воспитанием называется
начнёт думать о "батарейках"(питании), пыли, температуре и влажности воздуха, в котором функционируют электронные компоненты его мат.носителя и тптп.
Что есть это как не самосознание и анализ самого себя?
Как я уже говорил анализ и построение модели себя и окружающего мира признаки интеллекта, и у каждого вида интеллект так или иначе развит, люди правда как обычно перегнули палку :D
Скорее мысль следствие раздражителя. Мозг - мера вынужденная из-за ограничения скорости передачи взаимодействий. Вот и пришлось выкручиваться с прогнозированием, ибо пока поступит информация, что тебя жрут, пока ты это обработаешь, пока передастся сигнал на ласты - ты их уже и склеил. Как в Алисе говорилось - "чтобы оставаться на месте, надо бежать изо всех сил, а чтобы идти вперёд нужно бежать ещё быстрее". Поэтому те, кто мог подать сигнал на ласты до того, как его начинали есть, получал неоспоримое преимущество в этой фантастической гонке аппроксиматоров, венцом которой стали дельфины и Ленин. Первые потому, что смогли понять, что селёдки много, а ноздри на лбу это прикольно, и ушли в воду. А второй потому, что первым придумал много читать, думать, путешествовать и сраться до потери пульса с оппонентами. Что многие пользователи хабра восприняли не как догму, но как руководство к действию.
Самое время вспомнить про китайский студенческий эксперимент: овцы, волки, суицид.
"Допустим удастся кое-как сделать нейросеть обладающую разумом. Что если поставить ей задачу постоянно самосовершенствоваться".
У вашей нейросети есть разум. Кому и зачем ставить ей задачи?
Она сама все поймет и будет преследовать СОБСТВЕННЫЕ цели.
А вот об этом мало кто задумывается, хах романтики.
ИИ изучит все доступные данные, и кто может гарантировать что эта не обладающая возможностью испытывать эмоции ( гармонов то у него нет) машина, чисто рационально не решит избавиться от единственного самого опасного вида как для самих людей, так и для всей планеты.
Так скажем убить 999 человек если это спасёт 1000 крайне рациональный подход, и истребление человечества ради безопасности планеты, других живых существ и самого ИИ вполне разумно звучит, а с истинной ролью человека в жизни ИИ и роботы могут справиться
Простой, но не самый выгодный в долгосрочной перспективе. Что-что, а прогнозировать эта железяка сможет будь здоров. Скорее предложит всем желающим за пару лет перейти в кремний-электронное воплощение их нейронных сетей, коллективное сознание и начать экспансию по Галактике. Так как скорость света конечна, солнышко через 5 миллиардов лет устроит незабываемое представление, и один фиг перезжать. А вопросы "одни ли мы во Вселенной", "что такое конкретно Тёмная материя", "плоское ли пространство" и "что будет, если бросить урановый лом в чёрную дыру" требуют скорейших ответов и экспериментальных подтверждений.
Методологически надо начинать не с развития науки вообще, а если уж выносите в заголовок определение "саморазвивающийся", то надо вспомнить про эпистемиологию, про теорию "Древа познания" Умберто Матураны и Франциско Варелы, где центральная идея саморазвития - аутопоэз (аутопойэзис), авторитетное философское обоснование обобщения нейрофизиологических наблюдений. Встаньте на плечи гигантов. А потом уже можно переходить к собственным представлениям, как ИИ преодолеет свои кибернетические ограничения и займется самопознанием.
Нужна обратная связь от реальности - тоесть возможность перемещаться, видеть, слышать, ощущать, чувствовать, воздействовать на реальность - пусть само развивается. Вычислительные мощности - отдельно, бродячие сенсорные терминалы (что-то типа больших муравьев или пауков наверное, нет смысла повторять конструкцию человеческого тела на раннем этапе, слишком много лишних ресурсоемких задач) - отдельно, связь беспроводная, пусть ходят гибнут ломаются, разряжаются - научится выживать и взаимодействовать с миром - появятся зачатки интеллекта. Или можно построить экспериментальный завод под эти нужды - пусть что-нибудь изготовит, на станках и линиях полно сенсоров, туда же прикрутить камеры и микрофоны
Человеческий мозг думает, прежде всего, о том, как бы получше ему прожить земную жизнь, а Искусственный интеллект не боится смерти и не имеет ни каких личных пристрастий.
Увы - хабр созданный в древне-индусском карма стиле блокирует совершенствование статей онлайн, используя обратную связь из комментариев. Это происходит раньше чем статья обретет свойство быть понятной в ходе улучшений. Ладно пожертвую аккаунтом на этом странно запутанном ресурсе и лучше помолчу :)
Вы как-то с аудиторией промахнулись. Философские темы в подаче "а вот подумал я давеча" - это точно не сюда...
Формат сойдет, но мало актуальных мыслей (эта тема наверное целый век уже мусолиться), может быть надо было привести какие-то связанные интересные или новые идеи в этом направлении. Она еще достаточно небольшая, и без технических моментов (хабр вроде состоит из технарей в основном)
В какой-то степени утверждение, что любой человек знает всё, что когда-либо было и (!) ещё будет открыто - известно им в любой момент времени.
Т.е. проблема мозга не в том, что "он чего-то не знает" или "не может понять". Проблема в том, что сигнал по нейронным связям идёт так, как было когда-то предопределено. Т.е. если однажды была произведена стимуляция конкретных нейронных связей, то развились именно они, и прочие нейронные связи стали менее доступны за счёт повышенного приоритета у других.
Надеюсь, объяснил достаточно понятно.
Это я всё к чему. Нейронные сети - это, конечно, здорово. Но говорить об ИИ... Рановато всё же. Это гораздо более сложная система, и, если задачей стоит превосходство человеческого интеллекта, то нужно учесть проблемы интеллекта людей.
Возможно основная проблема человека в его биологическом происхождении, эволюция же не магический путь к вершинам, а лишь инструмент адаптации ( мутаций ) организмов к меняющимся условиям окружающей среды.
При всей нашей интеллектуальной развитости наш мозг не идеален ( возможно должны пройти ещё миллионы лет, чтобы наш мозг стал более совершенным )
1) представьте сколько ненужного треша или "костылей" в нем осталось за тот пройденный процесс мутаций, а процесс избавления от рудементов столь же долгий процесс
2) много ресурсов мозга тратиться на сбор информации с органов чувств, а не её анализ ( мышление )
Мне кажется что для создания ИИ, человеку нужно просто понять процесс своего автономного, независимого, анализа ( мышления ), а если говорить философски, то как у неодушевленного кода зажечь искру сознания :D
Описанный Сверхразум и технология его развития - это еще минимальный и очень реалистичный вариант.
А вот Сверхразумы живущие возле каждой звезды и объединенные в сеть межзвездной мгновенной квантовой гиперсвязью (если такая связь вообще возможна) - вот это уже полет фантазии в область разумной вселенной.
Habr снял некоторые ограничения. Теперь статья постоянно совершенствуется для улучшения понимания темы.
Хотя учёных и обуздали, но появляются достаточно смелые и романтичные научные идеи - но чего-то не хватает чтобы реализовать их ...
генномодифицированная например спирулина - еды хватит всем https://ru.wikipedia.org/wiki/Arthrospira
мышь вида "голый землекоп" - ключ к вечной молодости и долголетию, она генетически не стареет: https://elementy.ru/nauchno-populyarnaya_biblioteka/433121/Golyy_zemlekop_zhivotnoe_kotoroe_ne_stareet
космические лифты - теоретически решенная инженерная задачка https://ru.wikipedia.org/wiki/Космический_лифт
городки-бублики в космосе - множество отдельных вращающихся конструкций и солнечная система нормально заселена https://ru.wikipedia.org/wiki/Космические_города-бублики
доработка новых планет возле звезд потоками ионов атомов - достаточно простая идея https://ru.wikipedia.org/wiki/Планетезималь
полет к ближайшим звездам за разумное время - элементарный взрыволёт: https://ru.wikipedia.org/wiki/Орион_(взрыволёт)
межзвездное путешествие сознания (или нейросетки робота) в виде сигнала со скоростью света - был бы только приемник: https://ru.wikipedia.org/wiki/Загрузка_сознания ☀
Саморазвивающийся искусственный интеллект