Комментарии 10
Сатори, которым вы поделились, имеет малую практическую ценность, это не какая-то твёрдая модель, а всего лишь эмоция понимания того информационного шума (в том числе новостей об ИИ), который вас окружает, эмоция, мотивирующая вас донести до окружающих сигнал «я понял». Сказать предметно вам нечего, только поделиться метафорой о неполноте проекций трёхмерного тела на двумерные плоскости. Ну, ещё метафорой конкурирующих процессов с приоритетами - даже и не знаю, откуда могла вам прийти настолько оригинальная мысль в голову :).
Спасибо за ваш комментарий !
Мне пришла мысль выложить серию статей и без сатори тут не обошлось :) Хотелось бы выстроить цепочку процессов, а не кусками это представлять. Надеюсь следующая статья будет более полезной, но я не претендую на мировое открытие :) Мне интересно вместе с единомышленниками также найти ответы на многие вопросы учитывая управляемость и безопасность работы СИИ.
Если судить по человеку, то всё намного проще: большая часть организма интеллектом вообще никак не контролируется. Те же автоматические реакции и рефлексы - сигналы замыкаются по короткому пути через отдельную простейшую нейронную сеть. Сам мозг по большей части гибридная машина, состоящая из множества отдельных специализированных нейронных сетей, решающих свои конкретные задачи. А интеллект в этой структуре занимает относительно небольшие мощности, сидит где-то глубоко, снимает высокоуровневые сигналы, работает с памятью, и вырабатывает высокоуровневые решения. Т.е. по большей части наш организм работает автоматически, гоняя по сетям огромные потоки данных, из которых до сознания доходит лишь капля информации.
Так что думаю для ИИ требуются не такие большие ресурсы, как для всего мозга. Основная задача: работа с памятью и обработка простейших высокоуровневых сигналов, заранее расжеванных и распознанных толстыми низкоуровневыми слоями (конкретно наш мозг ещё заранее из памяти вытаскивает нужные образы, предоставляя сознанию уже одни абстракции). На программном уровне все низкоуровневые слои можно даже не проектировать, заменив их заглушками. Остаётся только спроектировать ядро и интерфейсы к памяти, сигнальным и управляющим контурам.
Задача ещё сильнее упрощается, если не ориентироваться на человека, а просто пытаться создать специализированный ИИ, решающий узкий круг задач. В таком случае ядро схлопывается в чуть более сложный аналог правил из цепочек условий, но сдобренный нейросетями и работающий с памятью.
Но сам по себе ИИ без контроля малоэффективен, поэтому сверху нужен какой-нибудь ещё более простой контрольный контур, задача которого сводится к выработке обратной связи на решения основного ИИ, чтобы ИИ развивался в требуемую сторону. Традиционные нейросетки принято обучать заранее, с ИИ так не получится, он должен быть гибким, и уметь подстраиваться под ситуацию, меняться.
И в конце концов мы приходим к тому, что основные компоненты ИИ - это выработанные на основе опыта правила и состояние памяти. Эти абстракции работают даже на нашем уровне: вся личность человека определяется его опытом и памятью, лиши человека памяти - лишишь его личности, внуши ложную память - получишь ложную личность, опыт отнять нельзя, а память можно. Думаю в случае развития программного ИИ или появления каких-либо ИИ-компаньонов, дампы памяти будут массово тиражироваться, и скорее всего появится возможность их сколь-либо осмысленно препарировать и изменять, обеспечивая обмен тематическими пакетами знаний.
Спасибо, за ваш развёрнутый комментарий!
Низкоуровневые слои действительно можно не проектировать и заменить заглушками, поскольку цели разработки высокоуровневое взаимодействие. Но всё же на низкоуровневых есть свой плюс принципа экономии энергии. Один и тот же сигнал, повторяющийся многократно и имеющий точно определённый постоянный ответ, подавляется, да бы не отвлекать и не нагружать высокоуровневые слои лишней повторяющейся однотипной обработкой информации. Это сильно экономит затраты энергии, когда реакция происходит только на изменения характера воздействия.
При всем уважении. Подобные статьи писали 25 лет назад. И до этого 25 лет назад такое тоже писали. Такой подход не работает.
Проблема вот в чем. Есть Философия сознания. Довольно много исследователей (дуализм) этого направления склонятся к мнению, что личность(душа), сознание, и, как следствие, СИИ - нематериальны. И есть объективные проблемы указывающие на это.
Перечислю некоторые: 1) Квалиа самого себя. Если предположить, что возможна передача как информации, скажем, на другую планету, и там воссоздание копии человека, то самоощущение не будет передано в то тело, так как останется здесь. Квалиа не сводима к материальному. 2) Задокументированный парадокс, иногда при трансплантации сердца, передается память донора. 3) При очевидности и недостижимости для ИИ феномена сознания, в мозгу отсутствуют выделенные области ответственные за сознание. Более того, сознание остается при инсульте одного из полушарий и т.д.
Спасибо за ваш комментарий !
Философия предполагает и объединяет знания. Описанное вами направление очень интересно, мне знакомо, и в последующих частях статей мне бы хотелось более подробно расписать и эти моменты, и похоже на то, что сознание, как наиболее энергопотребляемый и централизованный процесс выносится на некий внешний сервер, что тоже можно смоделировать. Т.е. для персонализации и уменьшения размеров и габаритов локальной установки достаточно собрать небольшие нейронные сети, в большей части, для управления конкретным телом и быстрой реакцией на месте. А уже более глубокие процессы мышления, сознания обрабатывать на серверах. Грубо говоря, дрону не нужен весь арсенал "мозгов" для принятия решений на его носителе. Он исполняет уже принятые решения на серверах, но может адекватно реагировать на ситуацию на месте ожидая решения и это решает две задачи:
компактность
энергосбережение
Не согласен с мнением автора (а может и не только его) о том, что СИИ - это просто "множество, собранное воедино". Напоминает попытку взять несколько человек, объединить их в коллектив, дать им начальника и... назвать это Сильным естественным (?) интеллектом (по сравнению с 1 человеком). При том, что как отдельные личности, так и начальник, могут быть ещё теми "дуб дубом" и только понижать эффективность всей системы, а не понижать её. Очень спорное утверждение. И метрики совсем разные. Качественно решить вопрос за счёт количества, тут, я считаю, не работает.
Хорошая мысль про восприятие поведения ребёнком. Много текста можно заменить термином апперцепции — зависимости восприятия от воспринимающего. Прослеживаются параллели с взглядами Александра Бэна в ассоциативной психологии (Шорохов, "Основные направления исследований психологии мышления в капиталистических странах", с. 22). Я сам думаю, что сознание — некое закулисье из ассоциаций, наблюдающих рефлекторные ассоциации на основной сцене. А самосознание — это понимание, что этим закулисьем является собственный дух, субстанция мозга. — Дух просто не может не заметить зависимость мыслей от порывов собственной воли, и тем самым, не прийти к самому себе, обнаружив себя дирижёром мышления. Роль сознания можно отождествить с натяжением поверхности жидкости — в одних случаях требуется сжать, в других — растянуть чувственные образы в ассоциативном пространстве. Это зависит от воли духа. А вот показателем успешности или нет, я думаю, является частотный принцип, о чём есть похожее упоминание в конце вашей статьи. Разумеется, частота без воли суть случай и спонтанность. В общем, рекомендую глянуть на мысли А. Бэна.
Сильный искусственный интеллект. Как это работает. Часть 1