Comments 8
красиво описано. правда строгой науки маловато. гипотеза предиктивного мозга с которой носится Фриш сплошной ментализм. Про наблюдать невозможно, одни спекуляции. .
гипотеза предиктивного мозга с которой носится Фриш сплошной ментализм. Про наблюдать невозможно, одни спекуляции
Какие спекуляции? Предиктивное кодирование (байесовский мозг/разум - обзор) является следствием действия вариационных принципов в биологии. Они давно успешно применяется для решения многих задач в разных областях этой науки, см. обзор. Их обобщением в математически строгой формулировке, особенно для области психофизиологических исследований, является принцип свободной энергии, как вариационного принципа (в изложении его автора К. Фристона - 1, 2, экспериментальная проверка на нейрональных культурах - 1, 2, попытка распространения принципа на физику частиц) и нашел широкое применение в описании предиктивного кодирования - обзор.
Естественно, возникает вопрос о применимости этого принципа к ИНС, как некоторым формальным моделям нейронных сетей мозга. В действительности идея этого принципа складывалась в 80 - 90-х годах прошлого века в исследованиях именно по тематике ИНС в работах Хопфилда, Хинтона, Фристона, и др. авторов, как использование некоторого аналога энергии (термодинамической свободной энергии) для обоснования их применимости - 1, 2, 3, 4. Из работ над этими и другими типами сетей родились идеи глубоких сетей и машинного обучения. По этой причине принцип св. энергии совместим с этими типами сетей, см. для машины Гельмгольца, и в перспективе для глубокого обучения вообще. Со временем предиктивное кодирование может прийти на смену методу обратного распространения ошибок, как более эффективного метода обучения из-за использования хеббовских принципов в обучении.
За эти ранние работы Хопфилд и Хинтон получили в 2024 г. Нобелевские премии по физике. Так, что предиктивное кодирование и лежащий в его основе принцип св. энергии работающие концепции. Нобеля, пусть и за связанные с ними идеи, как за спекулятивные не дают)
Да все перемешали знатно)
Под конец немного намешали, но читал с большим интересом — впрочем, как и все ваши статьи. Спасибо, держите реальный виртуальный плюсик 😁
Ну, что тут сказать... Всё как всегда! Дионис не изменяет себе! Въезжать во весь это замес, конечно, ещё то занятие... Все границы стерты: когнитивные данные науки с лаконичными оговорками замешиваются с теорией вычисления, теорией ИИ, философскими рамками и т.д. В результате мы имеем эпические выводы о познании с скрытыми спекуляциями! Для меня же это всё выглядит как научная фантастика!
Для ленивых поясню авторский сюжет... Вообще, тут как бы два сюжета связанных во едино!
Первый сюжет - это всеми любимый старенький голливудский блокбастер "Газонокосильщик" первая часть! Как бы, по сюжету, есть дебил, который на максах "вычислительных способностей" на базе своего "биологического мусора", может только траву косить... Но, получив в зад порции укольчиков от доброго дяденьки ученого и покрутившись в каком-то тренажёре кверху задницей с картинками... Вычислительная можность возрастает! Ну, и по фильму, дебил настолько преисполнился, что меняет уже и физику своей "виртуальной реальности" и вообще сваливает с "биологического мусора" в интернет пространство, в сеть!
Но, у Диониса замес покруче! Не укольчики, а нейро-компьютерный интерфейс (НКР) корректируемый эпической LLM! Это раз! И второе: не в сеть дебил "уходит", а просто в другие физические миры (точнее куски или иногда приближённые виртуальности этих миров) из многомировой интерпретации Эвверета...
Это как бы первая голливудская подача от Диониса!
Второй сюжет, это а-ля Матрица! Братья Вачевски!
Тут как бы Вы уже не дебил, а Нео! Который заперт не в матрице, а в коробке своего слабенького на вычисления мозга, который хиленько как то пытается представить все миры Эвверета, с которыми он сталкивается органами чувств... естественно с учётом всех накинутых сверху аспектов крепко накуренного Дойча!
Так вот мозг так недалек, ограничен, что способен максимум описать дай Бог одну физику одной реальности... Только на это ему и хватает точности, поэтому он к ней и привязан как собака на цепи! И вообще остаётся только повесить табличку: осторожно злая собака! Но, если придёт Морфиус (НКИ + LLM) и втащит красную таблетку, то тут уже можно будет понять насколько глубокая кроличья нора и накуренные тезисы Дойча заиграют новыми красками! Вот тогда загуляем!
По сути такой переполох, пробудит наше ничего и у каждого как бы появится разъём в башке как у Нео! И, опачки! Ты уже в белом пространстве, со своей физикой, и VR и подобные технологии моделируют на основе LLM модели тебе всё что угодно! Хочешь склад пушек - пожалуйста, хочешь женщину в красном... Да легко! И вот уже выводы - ты настолько преисполнился в познании, что это потребует отдельно философской статьи, дабы осмыслить весь этот возможный п*здец... Ведь даже Морфиус в фантастическос фильме переживал, что нельзя пробуждать взрослого, но Дионис также нашёл лазейку...
Вообщем фантастика фантастикой погоняет! Спасибо Дионис!
Но, пару замечаний не помешает:
Дионис очень увлечённо крутит Метцингера как вокзальную шлюху за 150$... камасутра высшего уровня, нечего сказать! Да, и подкидывает после своей спекулятивной интерпретации Метцингера, а-ля феноменально=виртуально (в VR смысле), Байесовские вероятности с предиктивным кодирование (без пяти минут теория всего)! Для того, что бы связать идею сознания с типа как-бы аналогично работающей LLM!
Но, как всегда, не уточняет даже поверхностно, как работает LLM! А тут как раз много интересного! Да, это статистическая игра по сути! Но, эта игра требует очень глубокой и профессиональной настройки! Потомучто, в прямом смысле самообучение LLM - это работа сложной математики по оптимизации результата, а именно оптимизации огромной формулы под определённую заданную функцию или геометрическую абстрактную поверхность методом статистических проб и ошибок! Какие пороговые значения выбирать, какую функцию использовать это огромная проблематика, которой собственного и занимается промт инженерия ИИ. Вся идея о творческом потенциале LLM - это всё своеобразная спекуляция! И вот вопрос-то, что же это за промт инженерия и каков её концепт - чтоб она реализовывала что мы хотим... что LLM должна оптимизировать, если начнёт хозяйничать в мозге? Я уже не говорю о непрозрачности такого хозяина и этической проблематике!
Ну, и более жесткий косяк Диониса! Он не понимает, и расписыватся в этом с улыбкой на лице в картинке где мозг у него - 86 млрд транзисторов, а RTX 4090 - 80 млрд!
Ну, как бы, молодец, поговорил о пределах вычисления, но где особенности архитектуры нейрональной нашего мозга то, пупсик?
Как бы 86 млрд нейронов это да, но это не бинарные элементы 0-1! Это система с в некоторых случаях 20000 синаптическими связями!
Конечно, все мы понимаем бутылочное горлышко Фон Неймана - вычислительные ядра отдельно, а память отдельно! Передача - это шина и это узкое место. Поэтому видеокарты для нейронных сетей, но это палиативное решение! В мозге же нейрон это и вычислительное ядро и хранение данных!
Вся сегодняшняя электроника двухмерная! Мы не можем сделать трехмерную вычислительную матрицу, в которую ещё сразу встроить элементы для отведения тепла, с терхмерными связями.... Такой технологии хорошей нет! Мы умеем делать плоские схемы с высокими частотами, но они по числу элементов сильно уступают мозгу! Как я уже сказал, нейрон - это не транзистор! Нам что бы только один синапс смоделировать нужны тысячи бинарных элементов! А когда начинаем делать большие схемы то наталкиваемся на брак! Вот и вся история сегодняшней интеграции! Максимум кусочек мозга дрозофилы смогли осилить... Но, у Диониса в 2050 году уже Нео-планы!
У нас обучение и память завязаны на биологию: пластичность, синаптические изменения, эпигенетику и консолидирование во сне! Есть память временная, есть постоянная! Любой навык формируется длительно, так как требует изменения анатомии! Даже если мы моделируем поведение или обучающие задачи, мы все равно сталкиваемся с биологическими ограничениями времени и тела! Поэтому как в Матрице за 9 часов не загрузить програмку каратэ! Хотя... Может все пределы это просто виртуализация (надеюсь, Дионис хлопает в ладоши сейчас)...
Наш мозг - не чисто цифровая машина. Он работает асинхронно, с спайками, химическими процессами и контекстом. Это приводит к особенностям моделирования, которые сложно перевести в единый «файл навыков»! А именно такой файл нужен, что бы замутить с LLM и НКИ!
Ещё огромная проблема упускаемая Дионисом, устремленным в светлое идеалистическое будущее трансгуманизма... Это проблема, что наш мозг это в некотором смысле - чужеродная ткань для организма! Наша имунная гуморальная система не знает о его существовании! А вот если мы начнём тыкать туда все что не поподя, то могут возникнуть серьёзные проблемки.. Уровня уже известных заболеваний, типа рассеянного склероза! И там уже будет не до познания, и LLM с НКИ может сколько угодно долго посылать сигналы в глиальные рубцы... Как говорится, удачи им....
Вообщем, спасибо конечно, Дионис, за такой замес! Как будто посмотрел Газонокосильщик и Матрицу в замороченной интерпретации параллельно! Но, без прорисовки чётких границ между дисциплинами, указаний на чёткие аспекты и основания для междисциплинарных переходов - материал граничит с научной фантастикой, такой себе - Нью Эйдж.. А, если выражать академическим языком - материал, просто на просто, сырой и слабо проработан! Но, творческая фантазия зашкаливает и голливудский апломб чувствуется, за это респект!
Ну вы тоже в своём репертуаре - репертуаре генератора виртуальной реальности, обученного на фантастических фильмах 90-х и постмодерновой философии) Ключевые идеи моих статей передаёт хорошо, ничего не могу сказать. Иронизировать, критиковать и находить слабые места умеет, не то что какой-нибудь подхалим-GPT. По вычислительной мощности существенно превосходит мой ГВР, но ограничен гуманитарно-парохиальными заблуждениями, которые мешают ему стать по-настоящему универсальным объяснителем! И всё же есть, есть шанс раскрыть весь его потенциал. Ещё несколько моих статей, и можно даже обойтись без интерфейса "мозг-мозг". Я тоже в своё время долго сопротивлялся трансгуманистическим идеям, цепляясь за старую парадигму, а теперь вот пытаюсь сопротивляться постгуманизму, не желая окончательно переходить на тёмную сторону. Но, видимо, рано или поздно придётся.
Не знаю, чем вам не понравилось моё изложение идей Метцингера, если он прямо проводит параллели между виртуальным и феноменальным в своей статье. Насчёт трудностей с настройкой нейросети и несовместимости её цифровой архитектуры с аналоговой архитектурой мозга, не говоря уже о безопасности имплантации чипов - согласен, это большие проблемы, которые не решить за несколько десятилетий с текущими темпами прогресса. Но они не являются принципиально нерешаемыми. И если мы не задействуем всю мощь естественного и не очень интеллекта для их решения, будет совсем беда. Мы просто-напросто устареем, проиграем конкуренцию ИИ и отправимся на свалку истории, потому что без интеграции с нейросетью наш мозг нельзя масштабировать. Я перебрал своим ГВР 100500 сценариев техноэволюции в параллельных вселенных и нашел только один, в котором у сапиенсов есть шанс выжить, трансформировавшись в нечто большее! Может он и кажется фантастическим, даже мне самому, но хочется же верить в лучшее!
Не думаю, что я как то выразил сопротивление трансгуманистическим тенденциям! Это ведь уже реальность современная, пока не на биологической интеграции, но уже на прямую действующая на жизнь людей! Я лишь поднимаю тему о том, что не нужно совершать старые добрые исторические ошибки, когда мы начинаем на что-то, на какую-то теорию или концепт, смотреть с широко закрытыми глазами!
Я к тому, что нужно не бояться какого-то будущего, а решать реальные проблемы! А, сейчас уже искусственный интеллект может закрыть двери, отключить электроэнергию.... не дать кредит человеку, неправильно подсчитать бухгалтерию (за что будут наказаны реальные люди)... И никто об этом не узнает, а владельцы этих ИИ инструментов также скажут - это же искусственный интеллект! Он не может ошибаться! А на практике уже страдают реальные люди! Уже здесь и сейчас! И это - не вина ИИ! Потомучто потребность закрывать дверь, включать и выключать энергию, считать бухгалтерию и т.п
это не потребности ИИ!
Но, нас волнует не "сейчас" как всегда! А будущее! Но, будущее формируется в настоящем, так устроена человеческая жизнь и общество! То что ты делаешь сегодня, во что вкладываешься, на что тратишь время, то и будет у тебя собственно завтра и никак иначе!
А ИИ слишком намаркетили! Слишком исказили его истинную природу! Слишком вывели его за человеческие потребности! Слишком сделали его "умным"! А он как был так и остаётся "слишком человечным"! И обыватель не собирается разбираться как это работает на самом деле, ему внедрили брать от жизни всё - пепси, сигареты... и, он просто хочет не напрягаться и довериться чему-то не понятно чему, что бы всеюё, как говорится, без его участия... было хорошо! А кто будет ошибки отслеживать ИИ?! Вон GPT какой-нибудь напишет теорема Гёржелдя... И ты такой: "Какая ещё теорема Гержелдя? - Гёделя балбесина!"... И он такой: "Да, извините, спасибо, что поправили меня!"!
А, кто должен проверять возможные ошибки ИИ сегодня, если, например, по ошибки вам записали возраст 157 лет и ИИ оценит низкую вероятность выплаты кредита, и вам в нем откажут! А возможно это изменит вашу жизнь - жена с двумя детьми уйдёт из однушки вашей к трехкомнатному индюку! Кто защитит вас уже сегодня?! Кто будет нести ответственность за несправедливость по отношению к вам? Вот о чем я!
Давайте думать об этих проблемах, о законодательстве, о этике и морале технологий, о том как ИИ методически проверять и диагностировать, а не свесив ножки и разинув ротики ждать пока он нам завалит по полной программе! Опять же завалит не ИИ... А его богатые разработчики, которые уже готовы сожрать друг друга за борьбу на рынке ИИ! Ведь кто победит - будет ещё больше бабок иметь! Деньги, деньги и ещё раз деньги!
И это ещё я не начал говорить о проблемах капитализма, критика которого построена на теории Маркса, а главный элемент это теории - добавочная стоимость, которая в свою очередь - человеческий труд! И вопрос как эти рыночные акулы будут зарабатывать без человека? Никто это не осмысливает! Делаем войну, обнимаем население, пока эти дебилы плюются слюней друг на друга, по канонам Маркса не видя пропаганды кассовой-классовой, и снова еб#м человеческую чернь за бесценок, прекрасно имея 100-200% прибавочной стоимости... Нах#я нам этот ИИ - это постоянный, а не переменный капитал! А вы говорите... Человечество исчезнет в истории! Без человека не заработать ещё больше денег элите, поэтому читайте будизм - страданий ждёт нас вагон и маленькая тележка, если и дальше будем думать о будущих фантастических проблемах...
И в такое понимание реальности... хуже всего... Заводить какие-то тревожные разговоры о не существующих проблемах типа, а-ля, фантастика вроде Терминатора и судных дней! Не потомучто этого не может произойти, а потому что это как раз может произойти, если мы не будем говорить о насущных проблемах и методично их решать уже сегодня, уже сейчас! Помня, что пока всё вращается вокруг антропоцентризма, особенно экономика, о каких бы сказках мы не говорили, и ответственность пока ещё вся на нас, хоть всегда хочется и скинуть её на кого-то другого из за природной лени и долбоеб#зма...
Но, если для такой позиции нужно встать на гуманитарно-парохиальные рельсы... то, наверное, пора это сделать, наконец! И именно это значит верить в лучшее!
Машина технокапитала мчится на всех порах в сторону постгуманизма, её уже не остановить. Её не волнуют судьбы вставших на рельсы кожаных мешков, экономическая ценность которых быстро стремится к нулю. Живая сила дешевле техники! Что бы там ни кричали левые о неравенстве и несправедливости, их никто не слышит, весь мир неуклонно правеет, голосуя за одиозных популистов, генерирующих красивые видео в тик-токе. Техноолигархи из Кремниевой долины начитались идеологов Тёмного просвещения, купили все козырные карты американской политики и принялись воплощать в жизнь Манифест технооптимизма - квинтэссенцию слепой веры в технический прогресс, ускоренный экономический рост и превосходство ИИ. Они считают, что нам всем нужно ещё немного потерпеть, затянуть пояса и сконцентрировать все ресурсы на увеличении вычислительных мощностей дата-центров. А когда придёт умный AGI, он сразу порешает все проблемы, обеспечит нас бесплатной энергией и построит коммунизм!
Но с чего они взяли, что AGI будет работать на нас, а не использовать нас в качестве биотоплива? Создание "дружественного" ИИ - невычислимая задача, никакие законы робототехники не сделают его послушным и предсказуемым. И пока мы тут думаем о насущном и парохиальном, пытаясь адаптировать свою бухгалтерию к прошлогодним моделям, разработчики готовят следующее поколение потужных нейросетей. Но мы же философы, мы должны заглядывать вперёд, видеть будущие возможности и работать на опережение! И я, честно говоря, не вижу иного способа догнать и перегнать этот поезд, кроме как пристыковаться к нему в хвосте, интегрироваться и получить апгрейд! По крайней мере это может заинтересовать сильных мира сего, мечтающих жить 150 лет и руководить подданными силой мысли. Пока всё ещё решают деньги, а не ИИ, надо бы разумно ими распорядиться и вложить в технологии, полезные для сапиенсов в долгосрочной перспективе. В противном случае нам просто не останется места на этой планете, как в своё время не осталось неандертальцам.
Мозг и мультимодальные нейросети как генераторы виртуальной реальности